عامل هوش مصنوعی Meta Muse پس از چند روز بی‌استفاده ماندن، پیامی غیرمنتظره برای یکی از کاربران فرستاد و از بررسی یک ایمیل در Gmail صحبت کرد؛ درحالی‌که کاربر می‌گوید هرگز از آن نخواسته بود سراغ صندوق ایمیلش برود. این اتفاق نگرانی‌هایی درباره رفتار خودکار و قابل‌پیش‌بینی نبودن دستیارهای هوش مصنوعی ایجاد کرده است.
طبق گزارشی که بیزینس اینسایدر منتشر کرده، متا پس از بررسی این اتفاق اعلام کرده است که یک باگ نرم‌افزاری باعث شده مدل دچار توهم شود و پیام نامربوطی تولید کند. این شرکت تأکید کرده که حادثه یادشده نقض امنیت یا حریم خصوصی نبوده و باگ آن نیز برطرف شده است.
پیام غیرمنتظره Meta Muse چه بود؟
اوگو نوونه، توسعه‌دهنده نرم‌افزار ساکن هیوستون، می‌گوید پس از نصب Meta Muse و استفاده محدود از آن، چند روز برنامه را باز نکرد. او تنها دسترسی‌هایی به حساب‌های فیس‌بوک، تردز و اینستاگرام خود داده بود و به گفته خودش، حساب ایمیل یا شماره تلفنش را به این عامل هوش مصنوعی متصل نکرده بود.
بااین‌حال، سه روز پس از نصب برنامه، پیامی از Muse دریافت کرد که در آن گفته شده بود امکان بررسی ایمیل وجود ندارد، چون Gmail به عامل متصل نیست و بنابراین نمی‌تواند به‌دنبال پیامی از شرکت آنتروپیک بگردد.
این پیام برای کاربر عجیب بود؛ زیرا نه چنین درخواستی داده بود و نه طی دو روز گذشته با دستیار تعامل داشت. او ابتدا نگران شد که شاید حساب ایمیلش مورد دسترسی غیرمجاز قرار گرفته باشد.
متا علت اتفاق را باگ و توهم مدل اعلام کرد
نوونه پس از گفت‌وگو با Muse و دریافت توضیحاتی که برایش قانع‌کننده نبود، موضوع را به متا گزارش کرد و تصاویر مکالمه را نیز در شبکه اجتماعی تردز منتشر کرد.
طبق گزارش بیزینس اینسایدر، یکی از کارکنان متا در واکنش اولیه احتمال داد که رفتار دستیار ناشی از توهم مدل باشد. این شرکت بعدتر اعلام کرد که بررسی داخلی، یک باگ محصول را عامل تولید پیام اشتباه تشخیص داده است.
متا تأکید کرد این اتفاق ناشی از نقض امنیت یا حریم خصوصی نبوده و باگ موردنظر برطرف شده است. بنابراین، بر اساس اطلاعات منتشرشده، شواهدی مبنی بر اینکه Muse واقعاً به Gmail این کاربر دسترسی پیدا کرده باشد، ارائه نشده است.
چرا این اتفاق درباره دستیارهای هوش مصنوعی اهمیت دارد؟
عامل‌های هوش مصنوعی با چت‌بات‌های معمولی تفاوت دارند. آن‌ها می‌توانند با اجازه کاربر به سرویس‌های مختلف متصل شوند، اطلاعات را بررسی کنند و بعضی وظایف را در چند مرحله انجام دهند. همین قابلیت‌ها باعث می‌شود خطاهای رفتاری آن‌ها پیامدهایی فراتر از یک پاسخ اشتباه داشته باشد.
در چنین شرایطی، کاربر باید بتواند به توضیحات دستیار درباره کارهایی که انجام داده اعتماد کند. اگر یک عامل هوش مصنوعی درباره دسترسی‌های خود یا علت ارسال یک پیام توضیح نادرستی ارائه دهد، تشخیص تفاوت میان خطای مدل و یک مشکل واقعی امنیتی دشوارتر می‌شود.
متا در توضیحات فنی خود درباره Muse گفته است که این سرویس از محیط مجازی اختصاصی، کنترل دسترسی و سازوکارهای تأیید برای برخی اقدامات حساس استفاده می‌کند. بااین‌حال، خود شرکت نیز اذعان دارد که مدل‌های هوش مصنوعی ممکن است اشتباه کنند.
کاربر استفاده از Muse را متوقف کرد
نوونه می‌گوید پس از این اتفاق دیگر از Muse استفاده نکرده و دسترسی‌های برنامه به حساب‌های اجتماعی خود را نیز قطع کرده است. او اعلام کرده بود که تا روشن‌شدن نتیجه بررسی، قصد دارد سابقه مکالمه را نگه دارد.
این تجربه نشان می‌دهد که اعتماد به عامل‌های هوش مصنوعی فقط به قابلیت‌های آن‌ها وابسته نیست؛ شفافیت در توضیح رفتارها و امکان کنترل دسترسی‌ها نیز اهمیت زیادی دارد.
در نهایت، ماجرای گزارش‌شده به‌تنهایی ثابت نمی‌کند که اطلاعات ایمیل این کاربر افشا شده یا Muse بدون اجازه وارد Gmail او شده است. آنچه طبق گزارش موجود تأیید شده، دریافت یک پیام غیرمنتظره و توضیح متا درباره وجود باگی است که باعث تولید پاسخ نادرست شده بود.
دیدگاه‌ها