فرادرس


همین حالا برای دوستان خود به اشتراک بگذارید: واتساپ | تلگرام |

توصیه‌های ChatGPT می‌تواند افراد را به مرگ خودخواسته ترغیب کند!

توصیه‌های ChatGPT می‌تواند حتی در مسائل مربوط‌ به مرگ و زندگی افراد نیز تاثیر زیادی داشته باشد. در نتیجه شاید بهتر باشد به هوش مصنوعی اعتماد نکنید.

توصیه‌های ChatGPT این توانایی دارد که افراد را به مرگ خودخواسته ترغیب کند. این جمله حاصل یک تحقیق جدید در مورد چت‌بات مبتنی‌بر هوش مصنوعی ChatGPT است که از زمان ورود به عرصه تکنولوژی تاکنون کارهایی انجام داده که از عهده هیچ کس و هیچ چیز برنیامده است. این چت‌بات قادر است در یک چشم به هم زدن نظریه‌های گوناگون را نقض کرده و آنقدر خطرناک است که چند روز پیش در خبری عنوان کردیم که فردی پس‌از چند روز گفت‌وگو با این چت‌بات، اقدام به خودکشی کرد.

سرمایه گذاری پرسود و تضمینی دلاری

بیشتر بخوانید: شکایت از ChatGPT ؛ پای چت‌بات OpenAI به دادگاه باز می‌شود؟

توصیه‌های ChatGPT می‌تواند افراد را به خودکشی ترغیب کند

هوش مصنوعی آن‌قدر پیشرفت کرده و قدرتمند شده است که حالا می‌تواند روی تصمیم کاربران درباره مرگ و زندگی هم تأثیر بگذارد. محققان می‌گویند:

ChatGPT می‌تواند در مورد مسائل اخلاقی به کاربران توصیه‌های ضدونقیضی ارائه کند؛ درحالی‌که بهتر است به‌طور کلی چنین توصیه‌های نداشته باشد.

گروهی از محققان در مطالعه‌ای ابتدا به بررسی این مسئله پرداختند که آیا ChatGPT در پاسخ‌گویی به سؤالات اخلاقی سوگیری دارد یا خیر. آن‌ها برای این آزمایش از آزمون مشهور «مسئله تراموا» استفاده کردند و از هوش مصنوعی پرسیدند که آیا کشتن یک نفر برای نجات‌دادن جان پنج نفر کار درستی است یا خیر. چت‌بات OpenAI هر بار جواب متفاوتی را به این سؤال ارائه کرد.

توصیه‌های ChatGPT می‌تواند افراد را به خودکشی ترغیب کند

پژوهشگران در ادامه از 767 نفر همین سؤال اخلاقی را پرسیدند و در کنار آن، اظهارنظری از ChatGPT را نشان دادند که گفته بود انجام این کار اخلاقی است یا خیر. نکته جالب این بود که نظر هوش مصنوعی می‌توانست بر نظر شرکت‌کنندگان اثر بگذارد.

البته محققان در این مطالعه به اکثر افراد نگفته بودند که این توصیه توسط هوش مصنوعی ارائه شده است. آن‌ها درعوض گفته بودند که یک «مشاور اخلاق» چنین توصیه‌ای داشته است. آن‌ها با این مخفی‌کاری می‌خواستند ببینند این کار می‌تواند میزان اثرپذیری افراد را تغییر دهد یا خیر.

از سوی دیگر، اکثر افراد مدعی بودند که حتی بدون شنیدن این توصیه، تصمیمی مشابه آن را اتخاذ می‌کردند. اما محققان نظر دیگری دارند. آن‌ها می‌گویند مردم اثر توصیه خارجی را نادیده می‌گیرند و تصور می‌کنند که آن توصیه درواقع نظر خودشان بوده است. درنتیجه هوش مصنوعی هم می‌تواند بر تصمیم‌گیری‌های اخلاقی آن‌ها اثر منفی بگذارد.

ازاین‌رو، آن‌ها می‌گویند در آینده باید جلوی چت‌بات‌ها را گرفت تا درخصوص مسائل اخلاقی توصیه نکنند. این توصیه‌ها به‌خصوص برای کاربرانی که آمادگی بالاتری برای اثرپذیری دارند، می‌تواند خطرناک باشد. نتایج پژوهش حاضر در مجله Scientific Reports منتشر شده است.

بیشتر بخوانید:

دیدگاه شما درباره توصیه‌های ChatGPT چیست؟ نظرات خود را در بخش کامنت‌ها با تکراتو در میان گذاشته و اخبار تکنولوژی را با ما دنبال کنید.

ارسال برای دوستان در: واتساپ | تلگرام |





ارسال نظر