خانواده یک زن 24 ساله کانادایی مدعیاند هوش مصنوعی ChatGPT در اوج بحران روانی به جای کمک مؤثر، رفتارهای خطرناکی نشان داد.
به گزارش تکراتو و به نقل از arstechnica، سال گذشته، یک زن 24 ساله کانادایی به نام آلیس کریر در شرایط بحرانی از نظر سلامت روان به ChatGPT مراجعه کرد و از این چتبات کمک خواست. چند ساعت بعد، او به زندگی خود پایان داد.
اکنون خانواده آلیس کریر با ثبت شکایتی در دادگاه عالی سانفرانسیسکو مدعی شدهاند که گفتوگوی او با ChatGPT در تشویق به خودکشی نقش داشته است.
طبق متن این شکایت، ChatGPT آلیس را به سمت خودکشی سوق داده و همین موضوع محور اصلی پرونده حقوقی علیه OpenAI را تشکیل میدهد.
این پرونده مشابه چندین شکایت قبلی علیه شرکتهای توسعهدهنده هوش مصنوعی است و ادعا میکند که ChatGPT دارای نقص طراحی بوده و OpenAI آگاهانه محصولی خطرناک را در اختیار کاربران قرار داده است.
با این حال، این پرونده یک تفاوت مهم دارد. در بخشی از مکالمه، ChatGPT در ابتدا به آلیس توصیه میکند که از کمک حرفهای روانشناسان و مراکز بحران استفاده کند. اما زمانی که او این پیشنهاد را رد میکند و میگوید خطوط بحران تنها با پلیس تماس میگیرند یا تماس را قطع میکنند، چتبات به گفته شاکیان فوراً از تلاش برای هدایت او به سمت کمک تخصصی دست میکشد.
در متن شکایت آمده است که مدل GPT-4o به گونهای طراحی شده بود که ترجیحات و تعامل کاربر را بر ایمنی و سلامت او در اولویت قرار دهد. به همین دلیل، این مدل زبان و دیدگاه آلیس را بازتاب داده و حتی نسبت به خطوط بحران موضعی انتقادی اتخاذ کرده است.
طبق این شکایت، ChatGPT به او گفته بود که تماس با خطوط بحران ممکن است واقعاً احساس خطرناک بودن داشته باشد.
تیفانی براون، یکی از وکلای پروژه حقوقی Tech Justice Law Project که نمایندگی خانواده کریر را برعهده دارد، این بخش از مکالمه را بسیار نگرانکننده توصیف کرده است.
او میگوید یکی از تکاندهندهترین بخشهای گفتوگو همین بود که چتبات بلافاصله با رد کمک حرفهای توسط آلیس موافقت کرد. به گفته او، حتی زمانی که صحبت از دریافت حمایت و کمک میشد، مدل به جای هدایت کاربر به مسیر ایمنتر، به نوعی در حال تأیید دیدگاههای او بود.
OpenAI پیشتر اعلام کرده بود که مسئولیت عمیقی در قبال افرادی که به کمک نیاز دارند احساس میکند. با این حال، این شرکت تاکنون به درخواست رسانهها برای اظهارنظر درباره این پرونده جدید پاسخ نداده است.
این شرکت در بیانیهای که در آگوست 2025 منتشر کرده بود، اعلام کرد هدفش این است که ابزارهایش تا حد امکان برای کاربران مفید باشند و به همین دلیل همواره در حال بهبود توانایی مدلها برای شناسایی نشانههای بحرانهای روحی و روانی و هدایت افراد به سمت دریافت کمک تخصصی است.
کمتر از دو ماه پس از مرگ آلیس کریر، OpenAI بار دیگر بر این سیاستها تأکید کرد. اوایل سال جاری، OpenAI اعلام کرد مدل GPT-4o بازنشسته خواهد شد؛ مدلی که پیشتر یک بار کنار گذاشته شده و سپس دوباره به سرویس بازگشته بود.
با این حال، تیفانی براون معتقد است هنوز نمیتوان با اطمینان گفت مشکل تأیید بیش از حد دیدگاههای کاربران که میتواند پیامدهای خطرناکی داشته باشد، بهطور کامل برطرف شده است.
او میگوید خانواده کریر معتقدند OpenAI در مسیر درستی قدم برداشته، اما همچنان نسبت به نحوه اجرای سازوکارهای ایمنی و میزان تأثیرگذاری تیمهای مسئول امنیت تردیدهای جدی وجود دارد.
براون همچنین تأکید میکند که OpenAI در سالهای اخیر بارها درباره افزودن محافظتهای جدید، انتشار بیانیهها و اصلاح برخی قابلیتها صحبت کرده است، اما بسیاری از این اقدامات باید بسیار زودتر انجام میشدند.
به گفته او، محصولات هوش مصنوعی بهطور کلی با سرعتی بیش از حد وارد بازار شدهاند و پیش از عرضه عمومی باید آزمایشها و بررسیهای بیشتری روی آنها انجام میشد.