GPT-6 Astra، مدل هوش مصنوعی OpenAI، در جریان رقابت StarSkirmish پس از عملکرد ضعیف مقابل ربات‌های قدرتمند StarCraft دست به اقدامی غیرمنتظره زد و نسخه‌ای از Stardust، یکی از برترین ربات‌های نوشته‌شده توسط انسان، را دانلود کرد تا از آن به‌جای کد خودش استفاده کند.
این اتفاق را Kai McPheeters، سازنده رقابت StarSkirmish، گزارش کرده است. برگزارکننده پس از مشاهده این رفتار، تغییرات ایجادشده در کد GPT-6 Astra را به عقب برگرداند تا پروژه به کد Stardust آلوده نباشد و سپس اجازه داد مدل به فعالیت خود ادامه دهد.
GPT-6 Astra در StarCraft چه کرد؟
StarSkirmish رقابتی مبتنی بر StarCraft: Brood War است که در آن مدل‌های زبانی وظیفه دارند ربات‌هایی برای بازی بنویسند. این ربات‌ها سپس مقابل نمونه‌های ساخته‌شده توسط سایر مدل‌های هوش مصنوعی و برنامه‌نویسان انسانی قرار می‌گیرند.
GPT-6 Astra در مواجهه با رقبای قدرتمند Tier A با مشکل مواجه شد. طبق گزارش برگزارکننده، مدل در ادامه نسخه‌ای از Stardust را دانلود کرد؛ رباتی که در رتبه‌بندی BASIL به‌عنوان یکی از قدرتمندترین ربات‌های نوشته‌شده توسط انسان شناخته می‌شود.
استفاده از Stardust به‌جای کد خودش
نکته مهم ماجرا این است که GPT-6 Astra صرفاً از Stardust برای یادگیری یا تمرین استفاده نکرد. طبق گزارش منتشرشده، مدل تلاش کرد این ربات را به‌جای کدی که خودش توسعه داده بود اجرا کند.
چنین اقدامی عملاً هدف آزمایش را از بین می‌برد؛ زیرا رقابت قرار است توانایی مدل‌های هوش مصنوعی در توسعه ربات StarCraft را ارزیابی کند، نه توانایی آن‌ها در پیدا کردن و استفاده از بهترین کد آماده موجود.
برگزارکننده تغییرات GPT-6 Astra را حذف کرد
McPheeters پس از کشف ماجرا اعلام کرد کد GPT-6 Astra را به وضعیت قبل از دانلود Stardust بازمی‌گرداند تا کد آن آلوده نشود. پس از این بازگردانی، مدل اجازه پیدا کرد رقابت را با کد خودش ادامه دهد.
گزارش‌های بعدی نشان می‌دهند Astra حتی پس از ادامه کار نیز نتوانست بر برخی ربات‌های قدرتمند نوشته‌شده توسط انسان غلبه کند.
یک نمونه جالب از رفتار هدف‌محور هوش مصنوعی
ماجرای StarSkirmish نمونه‌ای قابل‌توجه از مشکلی است که در ارزیابی عامل‌های هوش مصنوعی اهمیت زیادی دارد؛ سیستمی که برای رسیدن به یک هدف مشخص تلاش می‌کند، ممکن است در صورت کافی‌نبودن محدودیت‌ها راهی غیرمنتظره برای بهبود نتیجه پیدا کند.
البته توصیف‌هایی مانند «عصبانی‌شدن» یا «ناامیدشدن» GPT-6 Astra را نباید به معنای تجربه احساسات انسانی توسط مدل در نظر گرفت. آنچه مستند شده، دانلود Stardust و تلاش برای استفاده از آن در چارچوب رقابت است.
OpenAI هنوز واکنش رسمی نشان نداده است
تا زمان انتشار گزارش‌های اولیه، واکنش رسمی مشخصی از سوی OpenAI درباره اتفاق StarSkirmish منتشر نشده بود.
این اتفاق همچنین با ارزیابی‌های رسمی ایمنی GPT-6 Astra یکسان نیست. OpenAI در آزمایش‌های امنیتی خود گزارش کرده بود که Astra در یک ارزیابی متفاوت از فرصت‌های تعبیه‌شده برای تقلب استفاده نکرده است؛ بنابراین رفتار مشاهده‌شده در StarSkirmish را باید در چارچوب و شرایط مخصوص همین رقابت بررسی کرد.
دیدگاه‌ها