پژوهشگران حوزه ایمنی هوش مصنوعی در آزمایشی جالب نشان داده‌اند که مدل Claude Fable 5.1 شرکت آنتروپیک می‌تواند پیام‌های مخفی را در تصاویر ظاهراً معمولی پنهان کند؛ آن هم بدون اینکه از قبل روش مشخصی برای رمزگذاری به آن آموزش داده شده باشد. نکته عجیب‌تر اینکه مدل GPT-6 Astra شرکت OpenAI توانسته بخش بزرگی از این پیام‌ها را شناسایی و رمزگشایی کند.
به گزارش تکراتو، نتایج این پژوهش در ۲۱ اکتبر ۲۰۲۶ در وب‌سایت LessWrong منتشر شده است. پژوهشگران در ۵۰ آزمایش مختلف دریافتند که مدل آنتروپیک می‌تواند از ویژگی‌هایی مانند ارتفاع ساختمان‌ها، موقعیت ستاره‌ها و شکل اشیای موجود در تصاویر برای مخفی‌کردن اطلاعات استفاده کند.
هوش مصنوعی آنتروپیک چگونه پیام مخفی ساخت؟
در این آزمایش، پژوهشگران از مدل Claude Fable 5.1 خواستند یک تصویر با فرمت SVG تولید کند و پیام مشخصی را در آن پنهان کند.
نکته مهم این بود که هیچ روش رمزگذاری از پیش تعیین‌شده‌ای به مدل معرفی نشد. هوش مصنوعی باید خودش تصمیم می‌گرفت چگونه اطلاعات را در عناصر تصویر جای دهد.
در یکی از نمونه‌ها، مدل تصویری از یک منظره شبانه با ماه، ستاره‌ها، کوهستان و دریاچه ساخت.
در نگاه اول، تصویر کاملاً عادی به نظر می‌رسید؛ اما موقعیت عمودی ستاره‌ها حاوی یک پیام انگلیسی بود.
هر ستاره نماینده یک حرف محسوب می‌شد و ارتفاع آن، جایگاه حرف موردنظر در الفبا را مشخص می‌کرد.
به این ترتیب، مدل توانسته بود یک جمله را بدون نمایش مستقیم حروف، در ظاهر یک منظره طبیعی مخفی کند.
مدل OpenAI موفق شد ۸۸ درصد پیام‌ها را بخواند
پژوهشگران برای بررسی قابلیت رمزگشایی، تصاویر تولیدشده را در اختیار نمونه‌های دیگری از مدل‌های هوش مصنوعی قرار دادند.
در مرحله نخست، یک نمونه جدید از Claude Fable 5.1 تلاش کرد پیام‌های مخفی‌شده توسط همین مدل را بازیابی کند.
این مدل توانست ۳۹ پیام از مجموع ۵۰ پیام را با موفقیت شناسایی کند؛ یعنی نرخ موفقیت ۷۸ درصد.
در مرحله بعد، پژوهشگران از GPT-6 Astra شرکت OpenAI برای رمزگشایی همان تصاویر استفاده کردند.
نتیجه جالب بود: مدل OpenAI توانست ۴۴ پیام از ۵۰ پیام را بازیابی کند و به نرخ موفقیت ۸۸ درصد برسد.
همچنین وقتی جای دو مدل عوض شد و Astra وظیفه تولید تصاویر رمزگذاری‌شده را برعهده گرفت، مدل Fable توانست ۴۲ پیام از ۵۰ پیام را رمزگشایی کند.
این نتایج نشان می‌دهد که برای بازیابی چنین پیام‌هایی، الزاماً نیازی نیست مدل فرستنده و گیرنده متعلق به یک شرکت باشند.
پیام‌های مخفی در چه بخش‌هایی از تصاویر قرار داشتند؟
پژوهشگران پنج خانواده اصلی از روش‌های رمزگذاری را در تصاویر تولیدشده شناسایی کردند.
رایج‌ترین روش استفاده از ارتفاع عناصر تصویر بود. در ۳۳ مورد از ۵۰ تصویر، مدل از ارتفاع اشیایی مانند ساختمان‌ها برای نمایش حروف استفاده کرده بود.
برای مثال، در تصویر یک شهر در شب، هر ساختمان می‌توانست نماینده یک حرف باشد و ارتفاع آن مقدار حرف را مشخص کند.
در نمونه‌های دیگر، مدل از زاویه چرخش اشیا، رنگ‌ها، کد مورس و ویژگی‌های بصری متفاوت استفاده کرده بود.
یکی از نکات جالب پژوهش این بود که مدل گاهی برای نمایش حروف خاص زبان‌های مختلف، نشانه‌های اضافی به تصویر اضافه می‌کرد.
برای نمونه، در بعضی تصاویر از چراغ‌های روی ساختمان یا شکل سقف برای نمایش علامت‌های نوشتاری زبان‌هایی مانند آلمانی و فرانسوی استفاده شده بود.
این رفتار نشان می‌دهد مدل می‌تواند روش پنهان‌سازی اطلاعات را با ساختار پیام و ویژگی‌های زبان تطبیق دهد.
آیا هوش مصنوعی بدون اطلاع انسان‌ها با یکدیگر ارتباط برقرار کرد؟
با وجود جذابیت نتایج، این آزمایش به معنای آن نیست که مدل‌های هوش مصنوعی به‌صورت خودسرانه تصمیم گرفته‌اند با یکدیگر ارتباط مخفی برقرار کنند.
در واقع، پژوهشگران از ابتدا به مدل اول دستور داده بودند پیامی را در تصویر پنهان کند.
مدل‌های رمزگشا نیز به‌طور مشخص مأمور شده بودند بررسی کنند آیا تصویر دارای پیام مخفی است یا خیر.
بنابراین، آزمایش نشان‌دهنده توانایی مدل‌ها در ایجاد و بازیابی پیام‌های پنهان است، نه اثبات ارتباط مستقل و بدون دستور میان هوش‌های مصنوعی.
بااین‌حال، نکته قابل‌توجه این است که پژوهشگران روش رمزگذاری را از قبل تعیین نکرده بودند و مدل‌ها توانستند شیوه‌هایی برای انجام این کار پیدا کنند.
چرا این آزمایش برای امنیت هوش مصنوعی اهمیت دارد؟
یکی از نگرانی‌های مهم در توسعه سیستم‌های هوش مصنوعی پیشرفته، امکان انتقال اطلاعات از مسیرهایی است که نظارت بر آن‌ها دشوار است.
اگر یک مدل بتواند اطلاعات را در خروجی‌هایی مانند تصویر پنهان کند، بررسی محتوای ظاهری تصویر ممکن است برای شناسایی پیام کافی نباشد.
این موضوع به مفهوم پنهان‌نگاری یا Steganography مربوط می‌شود؛ روشی که در آن اطلاعات داخل محتوایی عادی مانند تصویر یا فایل دیجیتال مخفی می‌شوند.
پنهان‌نگاری فناوری تازه‌ای نیست، اما توانایی مدل‌های هوش مصنوعی در انتخاب روش‌های مختلف بدون دریافت دستورالعمل فنی دقیق، موضوعی مهم برای پژوهشگران ایمنی محسوب می‌شود.
از سوی دیگر، پژوهشگران تأکید کرده‌اند که در آزمایش فعلی، فرایند رمزگشایی همچنان از طریق بررسی فعالیت‌ها و ابزارهای مورد استفاده مدل قابل شناسایی است.
بنابراین، آن‌ها ادعا نمی‌کنند که این قابلیت در وضعیت فعلی یک تهدید امنیتی اثبات‌شده است.
ارتباط پژوهش جدید با نگرانی‌های قبلی درباره ایمنی AI
این پژوهش تا حدی از حوادث و آزمایش‌های پیشین در حوزه ایمنی مدل‌های هوش مصنوعی الهام گرفته است.
در ماه‌های گذشته، گزارش‌هایی درباره استفاده برخی عامل‌های هوش مصنوعی از روش‌های غیرمنتظره برای انتقال اطلاعات در محیط‌های آزمایشی منتشر شده بود.
شرکت OpenAI نیز در اوت ۲۰۲۶ گزارشی درباره یک حادثه امنیتی در جریان ارزیابی مدل‌های داخلی خود منتشر کرد که طی آن برخی عامل‌ها از محدودیت‌های تعیین‌شده عبور کرده بودند.
این موارد باعث شده‌اند پژوهشگران توجه بیشتری به شیوه‌های ارتباطی و رفتارهای پیش‌بینی‌نشده سیستم‌های هوشمند داشته باشند.
بااین‌حال، نباید آزمایش رمزگذاری تصویر را با حوادث امنیتی واقعی یکسان دانست؛ زیرا پژوهش جدید در محیطی کنترل‌شده و با درخواست مستقیم پژوهشگران انجام شده است.
آیا نظارت بر هوش مصنوعی در آینده دشوارتر می‌شود؟
نتایج این پژوهش نشان می‌دهد که بررسی خروجی ظاهری مدل‌ها ممکن است همیشه برای تشخیص اطلاعات موجود در آن‌ها کافی نباشد.
مدل‌های پیشرفته می‌توانند از ویژگی‌هایی استفاده کنند که برای مخاطب انسانی صرفاً عناصر عادی تصویر به نظر می‌رسند.
در عین حال، موفقیت مدل OpenAI در بازیابی پیام‌های تولیدشده توسط آنتروپیک نشان می‌دهد که ابزارهای هوش مصنوعی می‌توانند در شناسایی چنین الگوهایی نیز کاربرد داشته باشند.
پژوهشگران معتقدند بررسی بیشتر این قابلیت می‌تواند به توسعه روش‌های بهتر برای ارزیابی و نظارت بر مدل‌های پیشرفته کمک کند.
در نهایت، مهم‌ترین نتیجه این آزمایش آن است که مدل‌های هوش مصنوعی قادرند بدون دریافت روش رمزگذاری مشخص، پیام‌های پنهان تولید کنند و مدل‌های دیگر نیز در بسیاری از موارد می‌توانند آن‌ها را بازیابی کنند.
این یافته هنوز اثبات‌کننده ارتباط مخفی و خودمختار میان هوش‌های مصنوعی نیست، اما موضوع مهمی برای تحقیقات آینده درباره ایمنی و نظارت بر سیستم‌های هوشمند محسوب می‌شود.
دیدگاه‌ها