یک مرد نروژی از هوش مصنوعی ChatGPT شکایت کرده، زیرا این چت‌بات به اشتباه او را به قتل فرزندانش متهم کرده و اطلاعات نادرستی منتشر کرده است.
به گزارش تکراتو و به نقل از androidheadlines، چت‌جی‌پی‌تی در دنیای هوش مصنوعی جایگاهی مشابه گوگل در جستجوی اینترنتی پیدا کرده است. این ابزار به محبوب‌ترین چت‌بات تبدیل شده و در صدر اپلیکیشن‌های رایگان در فروشگاه Apple قرار دارد.
با این حال، از زمان راه‌اندازی، بدون حاشیه و مشکل نبوده است. به دلیل یک اشتباه جدی در خروجی این چت‌بات، مردی از ChatGPT شکایت کرده، زیرا این سیستم او را به قتل فرزندانش متهم کرده است.
در گذشته، ChatGPT به اینترنت متصل نبود و اطلاعات خود را از پایگاه داده داخلی دریافت می‌کرد. بنابراین، اگر کاربران در مورد رویدادهای پس از تاریخ به‌روزرسانی پایگاه داده سؤال می‌کردند، احتمال دریافت پاسخ‌های نادرست یا پیغام خطا وجود داشت.
در همین دوران، فردی به نام آروه هجلمار هولمن از چت‌بات پرسید که چه اطلاعاتی درباره او دارد. پاسخ ChatGPT برای او شوکه‌کننده بود، زیرا ادعا کرد که او به جرم قتل فرزندانش محکوم شده و در تلاش بوده که فرزند سوم خود را نیز به قتل برساند. حتی اشاره شده بود که Holmen در نروژ به 21 سال زندان محکوم شده است.
به نظر می‌رسد که ChatGPT در این پاسخ دچار پدیده‌ای به نام “توهم هوش مصنوعی” شده است، یعنی زمانی که سیستم اطلاعات نادرستی را ایجاد کرده و به عنوان واقعیت ارائه می‌دهد. این چت‌بات برخی جزئیات واقعی درباره زندگی هولمن، از جمله زادگاه و تعداد فرزندانش را با اطلاعات ساختگی ترکیب کرده است.
احتمال دارد که عدم دسترسی ChatGPT به اینترنت در آن زمان باعث شده باشد که امکان بررسی بیشتر اطلاعات قبل از ارائه پاسخ وجود نداشته باشد. همچنین این احتمال مطرح است که اطلاعات مربوط به فرد دیگری با نام مشابه با اطلاعات هولمن ترکیب شده باشد. در هر صورت، این اتفاق برای هولمن بسیار ناخوشایند بوده است.
گروه حقوقی Noyb مستقر در اتریش، از طرف هولمن شکایتی را علیه ChatGPT به اداره حفاظت از داده‌های نروژ ارائه کرده است. در این شکایت عنوان شده که خدمات OpenAI قوانین حفاظت از داده‌های اتحادیه اروپا را نقض کرده است.
بر اساس قوانین GDPR، اطلاعات شخصی باید دقیق باشند و در صورت اشتباه، کاربران حق دارند که آن را تصحیح کنند. یواکیم سودربرگ، یکی از وکلای گروه Noyb، اظهار داشته که نمایش یک هشدار کوچک مبنی بر امکان بروز خطا در ChatGPT کافی نیست.
او تأکید کرده که نمی‌توان اطلاعات نادرست را منتشر کرد و در نهایت تنها یک توضیح کوچک اضافه کرد که ممکن است این داده‌ها صحیح نباشند.
این گروه درخواست کرده که OpenAI جریمه شود و اطلاعات نادرست مربوط به هولمن از سیستم حذف شود. همچنین، آن‌ها خواستار بهبود عملکرد ChatGPT برای جلوگیری از بروز مشکلات مشابه در آینده هستند.
البته، ممکن است که OpenAI این مشکل را مدت‌ها قبل برطرف کرده باشد، زیرا در حال حاضر، اگر همان پرسش درباره هولمن در ChatGPT مطرح شود، فقط اخبار مربوط به این شکایت نمایش داده می‌شود.