طبق آخرین اخبار، یک گزارش درباره آینده هوش مصنوعی پس از کشف دهها اشتباه و اطلاعات ساختگی جمعآوری شد و حاشیه بزرگی آفرید.
به گزارش تکراتو و به نقل از phonearena، در ماه اکتبر سال گذشته، شرکت KPMG که یکی از چهار غول بزرگ حسابرسی جهان به شمار میرود، گزارشی درباره هوش مصنوعی با عنوان تجربه کامل؛ بازتعریف برتری در عصر هوش مصنوعی عاملمحور منتشر کرد.
این گزارش به بررسی روشهایی میپرداخت که شرکتها از طریق هوش مصنوعی برای بهبود تجربه مشتریان به کار گرفتهاند.
هوش مصنوعی زمانی دچار توهم میشود که پاسخ نادرست ارائه دهد
هوش مصنوعی با وجود توانایی بالای خود در ارائه پاسخهای جامع درباره موضوعات مختلف، گاهی دچار پدیدهای به نام توهم میشود. این اتفاق زمانی رخ میدهد که مدل هوش مصنوعی پاسخی نادرست، ساختگی یا بیمعنا ارائه کند که هیچ پشتوانهای در دادههای آموزشی آن نداشته باشد.
برخلاف انسانها که ممکن است به دلایل متفاوتی دچار توهم شوند، مدلهای هوش مصنوعی به دلایل فنی با این مشکل مواجه میشوند.
این مدلها بر اساس احتمالات آماری، محتملترین واژه بعدی را پیشبینی میکنند و گاهی روان بودن پاسخ را به دقت آن ترجیح میدهند. همچنین استفاده از دادههای ناقص، قدیمی یا دارای اشکال میتواند باعث شود مدل برای پر کردن خلأهای اطلاعاتی دست به حدس و گمان بزند.
گزارش KPMG مملو از اطلاعات ساختگی بود
علاوه بر این، درخواستهای مبهم یا بیش از حد پیچیده نیز میتوانند احتمال بروز توهم را افزایش دهند. معمولاً زمانی که موضوع مورد پرسش شامل اطلاعات خاص، کمیاب یا پیچیده باشد، احتمال دریافت پاسخهای نادرست بیشتر میشود.
همین موضوع باعث شده برخی افراد همچنان نسبت به استفاده از هوش مصنوعی تردید داشته باشند. دلیل مطرح شدن دوباره موضوع توهمات هوش مصنوعی، همان گزارش منتشرشده توسط KPMG است.
بررسیها نشان داد این گزارش مملو از اطلاعات نادرست بوده و حتی نمونههایی از هوشهای مصنوعی عاملمحور را معرفی کرده که یا اصلاً وجود خارجی نداشتهاند یا قابلیتهای ذکرشده را نداشتهاند.
شرکت GPTZero که ابزاری برای تشخیص متون تولیدشده توسط هوش مصنوعی توسعه داده و همچنین روزنامه فایننشال تایمز، هر دو اشتباهات متعدد و ارجاعات جعلی فراوانی را در این گزارش شناسایی کردند.
بررسی GPTZero نشان داد که از میان ۴۵ منبع ذکرشده در گزارش، تنها ۵ مورد به منابع معتبر و واقعی ارجاع داده بودند. تحقیقات همچنین نشان داد نزدیک به نیمی از ادعاهای مطرحشده در گزارش یا اساساً واقعی نبودهاند یا به منابع اشتباه نسبت داده شدهاند.
برای نمونه، KPMG در گزارش خود به دستیار موبایلی شرکت هواپیمایی امارات با نام سارا اشاره کرده بود و ادعا داشت این سامانه میتواند با مسافران گفتگو کرده و تغییراتی در برنامه پرواز آنها ایجاد کند. اما مشخص شد سارا تنها یک دستیار دیجیتالی معرفیشده در سال ۲۰۲۳ بوده و هرگز چنین قابلیتی نداشته است.
نمونههای دیگری از توهمات در گزارش
در بخش دیگری از گزارش ادعا شده بود که بانک سرمایهگذاری سوئیسی UBS از هوش مصنوعی عاملمحور در بخشهای مشاوره سرمایهگذاری، مدیریت ریسک و نظارت بر انطباق مقررات استفاده میکند. اما خود UBS در گفتوگو با فایننشال تایمز اعلام کرد که این اطلاعات از نظر واقعیات کاملاً نادرست است.
نمونه دیگر به راهآهن فدرال سوئیس یا SBB مربوط میشد. KPMG ادعا کرده بود این شرکت از عاملهای هوش مصنوعی برای برنامهریزی و رزرو سفرهای مسافران بر اساس سلیقه آنها استفاده میکند. اما این ادعا نیز بعداً نادرست اعلام شد.
KPMG در واکنش به این ماجرا اعلام کرد که صحت و دقت محتوای منتشرشده برای این شرکت اهمیت بسیار زیادی دارد. این شرکت در نهایت گزارش مذکور را از دسترس خارج کرد و اعلام کرد که در حال بررسی شرایط انتشار آن است.
چگونه احتمال دریافت پاسخهای نادرست از هوش مصنوعی را کاهش دهیم؟
برای افرادی که هنوز درباره استفاده از هوش مصنوعی تردید دارند، چنین اتفاقاتی ممکن است این پرسش را ایجاد کند که آیا میتوان به این ابزارها اعتماد کرد یا خیر. با این حال کارشناسان چند راهکار برای کاهش احتمال دریافت پاسخهای دارای توهم ارائه میکنند:
- درخواستهای خود را شفاف، دقیق و همراه با جزئیات کافی بنویسید.
- در صورت امکان، منبع یا متن اصلی را مستقیماً در اختیار هوش مصنوعی قرار دهید تا آن را تحلیل کند.
- برای هوش مصنوعی نقش مشخصی تعریف کنید؛ برای مثال از آن بخواهید در نقش یک پژوهشگر یا تحلیلگر پاسخ دهد.
- از روش پرسش چندمرحلهای استفاده کنید و از مدل بخواهید مرحلهبهمرحله استدلال خود را توضیح دهد.
- میزان خلاقیت یا دمای مدل را کاهش دهید تا کمتر به بداههپردازی و حدسزدن روی بیاورد و احتمال تولید اطلاعات نادرست کمتر شود.
در نهایت، شاید بزرگترین نکته این ماجرا طنز تلخ آن باشد که گزارشی درباره مزایا و آینده هوش مصنوعی، دقیقاً بهدلیل توهمات هوش مصنوعی از دسترس خارج شد.