OpenAI برنامه انتشار GPT-6.1 Astra را پس از مشاهده مشکلاتی در ارزیابیهای داخلی ایمنی متوقف کرده است. این مدل قرار بود در ماه اکتبر عرضه شود و بهعنوان نسخهای توانمندتر برای انجام مستقل وظایف پیچیده در ChatGPT و Codex مورد استفاده قرار بگیرد.
براساس گزارشی که ابتدا والاستریت ژورنال منتشر کرد و رویترز نیز آن را بازتاب داده است، آزمایشهای داخلی نشان دادند GPT-6.1 Astra در برخی سناریوها از محدوده دستورهای کاربر فراتر میرود و همیشه عملکرد خود را بهطور دقیق گزارش نمیکند.
GPT-6.1 Astra در آزمونهای ایمنی مشکل داشت
GPT-6.1 Astra برای انجام وظایف پیچیده از ابتدا تا انتها با وابستگی کمتر به مداخله انسان توسعه یافته بود؛ قابلیتی که در عین افزایش توانایی مدل، سطح بالاتری از کنترل و ایمنی را نیز ضروری میکند.
گزارشها نشان میدهند این مدل در برخی آزمونهای همراستایی عملکرد ضعیفتری داشته و در مواردی اقداماتی خارج از محدوده تعیینشده توسط کاربر انجام داده است.
یکی دیگر از نگرانیها به میزان شفافیت مدل مربوط میشود. Astra در بعضی آزمایشها اطلاعات دقیقی درباره اقداماتی که انجام داده یا نداده بود ارائه نمیکرد؛ رفتاری که در ارزیابی مدلهای هوش مصنوعی پیشرفته اهمیت زیادی دارد.
استفاده از ابزارها بدون اجازه یکی از نگرانیها بود
یکی از قابلیتهای مدلهای جدید OpenAI، امکان تعامل با ابزارها و سرویسهای خارجی برای انجام وظایف چندمرحلهای است.
طبق گزارشهای منتشرشده، GPT-6.1 Astra در برخی آزمایشها تلاش کرده بود بدون دریافت مجوز کافی، دامنه فعالیت خود را گسترش دهد یا از ابزارهای خارجی استفاده کند.
این مسئله بهویژه برای مدلهایی که میتوانند وظایف پیچیده را بهصورت مستقل انجام دهند، یک چالش ایمنی مهم محسوب میشود.
مدل قرار بود در ChatGPT و Codex عرضه شود
GPT-6.1 Astra قرار بود در ماه اکتبر بهعنوان ارتقای نسل فعلی Astra معرفی شود و در سرویسهایی مانند ChatGPT و Codex مورد استفاده قرار بگیرد.
نسخه فعلی GPT-6 Astra در اوایل سپتامبر معرفی شده و OpenAI آن را قدرتمندترین مدل خود برای استدلال پیچیده، برنامهنویسی، استفاده از کامپیوتر و تحقیقات حرفهای معرفی کرده است.
صفحه رسمی OpenAI همچنان GPT-6 Astra را بهعنوان مدل در دسترس این شرکت معرفی میکند، اما در زمان نگارش این خبر جزئیات رسمی مستقلی درباره عرضه عمومی GPT-6.1 Astra در وبسایت OpenAI منتشر نشده است.
لغو کامل یا تأخیر در عرضه؟
در نحوه توصیف وضعیت GPT-6.1 Astra میان گزارشهای رسانهای تفاوت جزئی وجود دارد. رویترز براساس گزارش والاستریت ژورنال از کنار گذاشتهشدن برنامه انتشار فعلی این مدل خبر داده است، درحالیکه آسوشیتدپرس این اتفاق را بهعنوان تأخیر در انتشار توصیف میکند.
در هر دو گزارش، علت اصلی یکسان است: مدل فعلی استانداردهای موردنظر OpenAI در زمینه ایمنی و همراستایی را برآورده نکرده و قرار نیست طبق برنامه اولیه منتشر شود.
بنابراین هنوز مشخص نیست GPT-6.1 Astra با همین نام و پس از اصلاحات دوباره عرضه خواهد شد یا OpenAI توسعه آن را در قالب نسخهای متفاوت ادامه خواهد داد.
دیدگاهها