پژوهشگران هشدار می‌دهند که تصاویر، ویدیوها و حتی مکالمات تولیدشده با هوش مصنوعی می‌توانند حافظه انسان را تحت‌تأثیر قرار دهند و باعث شکل‌گیری خاطراتی شوند که هرگز اتفاق نیفتاده‌اند. نتایج تحقیقات مؤسسه فناوری ماساچوست (MIT) نشان می‌دهد محتوای دستکاری‌شده با هوش مصنوعی نه‌تنها احتمال ایجاد خاطرات نادرست را افزایش می‌دهد، بلکه ممکن است اعتماد افراد به این خاطرات را نیز بیشتر کند.
به گزارش تکراتو، پژوهشگران آزمایشگاه رسانه MIT در گزارشی که ۱۵ اکتبر ۲۰۲۶ منتشر شد، به مجموعه‌ای از تحقیقات درباره تأثیر هوش مصنوعی بر حافظه انسان پرداختند. یافته‌های این تحقیقات نشان می‌دهد که خطر محتوای مصنوعی صرفاً به انتشار اطلاعات نادرست محدود نیست و می‌تواند بر نحوه یادآوری رویدادهای گذشته نیز تأثیر بگذارد.
هوش مصنوعی چگونه خاطرات جعلی ایجاد می‌کند؟
حافظه انسان برخلاف تصور عمومی، مانند یک دوربین فیلم‌برداری عمل نمی‌کند که تمام اتفاقات را بدون تغییر ثبت کند. هر بار که رویدادی را به یاد می‌آوریم، مغز اطلاعات ذخیره‌شده را بازسازی می‌کند.
این فرایند باعث می‌شود خاطرات تحت‌تأثیر اطلاعات جدید، پرسش‌های جهت‌دار یا تصاویر گمراه‌کننده قرار بگیرند.
هوش مصنوعی مولد می‌تواند این مسئله را پیچیده‌تر کند؛ زیرا امکان ساخت تصاویر و ویدیوهایی بسیار باورپذیر از اتفاقاتی را فراهم کرده است که در واقعیت رخ نداده‌اند.
برای مثال، مشاهده تصویری دستکاری‌شده از یک رویداد ممکن است باعث شود فرد بعدها جزئیاتی را به خاطر بیاورد که تنها در نسخه ساختگی تصویر وجود داشته‌اند.
آزمایش MIT روی ۲۰۰ نفر چه نتایجی داشت؟
در پژوهشی که نتایج آن در کنفرانس CHI سال ۲۰۲۵ منتشر شد، دانشمندان MIT تأثیر تصاویر و ویدیوهای دستکاری‌شده با هوش مصنوعی را بر حافظه ۲۰۰ شرکت‌کننده بررسی کردند.
شرکت‌کنندگان به چهار گروه ۵۰ نفره تقسیم شدند. هر گروه پس از مشاهده تصاویر اولیه، با یکی از چهار نوع محتوای متفاوت مواجه شد: تصاویر بدون تغییر، تصاویر ویرایش‌شده با هوش مصنوعی، ویدیوهای تولیدشده با هوش مصنوعی و ویدیوهای ساخته‌شده از تصاویر دستکاری‌شده.
نتایج نشان داد افرادی که ویدیوهای تولیدشده از تصاویر دستکاری‌شده را مشاهده کرده بودند، در مقایسه با گروه کنترل حدود ۲٫۰۵ برابر بیشتر خاطرات نادرست گزارش کردند.
همچنین میزان اطمینان آن‌ها به این خاطرات نادرست حدود ۱٫۱۹ برابر گروه کنترل بود.
این یافته‌ها نشان می‌دهد محتوای تصویری مصنوعی می‌تواند علاوه بر تغییر یادآوری افراد، احساس اطمینان آن‌ها به اطلاعات نادرست را نیز افزایش دهد.
چت‌بات‌های هوش مصنوعی نیز می‌توانند حافظه را تحت‌تأثیر قرار دهند
خطر شکل‌گیری خاطرات جعلی تنها به تصاویر و ویدیوها محدود نیست.
در پژوهش دیگری، محققان MIT تأثیر استفاده از چت‌بات‌های مبتنی بر مدل‌های زبانی بزرگ را در مصاحبه‌های شبیه‌سازی‌شده با شاهدان جرم بررسی کردند.
نتایج نشان داد شرکت‌کنندگانی که با چت‌بات هوش مصنوعی مصاحبه شده بودند، بیش از سه برابر گروه کنترل خاطرات نادرست گزارش کردند.
همچنین در این شرایط، ۳۶٫۴ درصد پاسخ‌های کاربران تحت‌تأثیر اطلاعات گمراه‌کننده قرار گرفت.
نکته مهم این بود که برخی خاطرات نادرست حتی پس از گذشت یک هفته نیز باقی ماندند و افراد همچنان نسبت به آن‌ها اطمینان زیادی داشتند.
چرا خاطرات جعلی هوش مصنوعی خطرناک هستند؟
پیامدهای احتمالی این پدیده می‌تواند فراتر از اشتباهات روزمره باشد.
در پرونده‌های قضایی، شهادت شاهدان اهمیت زیادی دارد. اگر یک تصویر ساختگی یا پرسش جهت‌دار باعث تغییر حافظه شاهد شود، احتمال ارائه اطلاعات نادرست افزایش پیدا می‌کند.
در حوزه سلامت نیز اطلاعات تولیدشده با هوش مصنوعی ممکن است بر نحوه یادآوری علائم، تجربه‌های گذشته یا گفت‌وگوهای پزشکی تأثیر بگذارد.
پژوهشگران همچنین نسبت به استفاده بدون نظارت از ابزارهای هوش مصنوعی در محیط‌های حساس، از جمله مصاحبه‌های قضایی و برخی کاربردهای درمانی، هشدار داده‌اند.
البته این نتایج به معنای آن نیست که هر تصویر هوش مصنوعی الزاماً خاطره جعلی ایجاد می‌کند. میزان تأثیر به شرایط آزمایش، نوع محتوا و ویژگی‌های فرد بستگی دارد.
آیا هوش مصنوعی می‌تواند کاربرد مثبتی برای حافظه داشته باشد؟
با وجود نگرانی‌های مطرح‌شده، پژوهشگران MIT در حال بررسی کاربردهای مفید هوش مصنوعی برای کمک به حافظه نیز هستند.
از جمله این کاربردها می‌توان به ابزارهایی اشاره کرد که برای کمک به افراد سالمند در یادآوری اطلاعات و مدیریت فعالیت‌های روزمره طراحی می‌شوند.
بااین‌حال، استفاده از چنین فناوری‌هایی نیازمند دقت بالایی است؛ زیرا سیستمی که قرار است به یادآوری اطلاعات کمک کند، نباید ناخواسته اطلاعات نادرست را به حافظه فرد اضافه کند.
چگونه می‌توان خطر خاطرات جعلی را کاهش داد؟
یکی از مهم‌ترین راهکارها، بررسی اعتبار تصاویر و ویدیوها پیش از پذیرش آن‌ها به‌عنوان شواهد واقعی است.
همچنین هنگام استفاده از چت‌بات‌ها برای مرور رویدادهای گذشته، باید میان اطلاعات مستند و توضیحات تولیدشده توسط هوش مصنوعی تفاوت قائل شد.
پژوهشگران معتقدند شفافیت درباره محتوای تولیدشده با هوش مصنوعی، طراحی مسئولانه ابزارها و انجام تحقیقات بیشتر می‌تواند به کاهش این خطر کمک کند.
در مجموع، تحقیقات MIT نشان می‌دهد هوش مصنوعی تنها بر اطلاعاتی که دریافت می‌کنیم تأثیر نمی‌گذارد؛ بلکه در برخی شرایط ممکن است نحوه یادآوری گذشته را نیز تغییر دهد.
دیدگاه‌ها