عاملهای هوش مصنوعی OpenAI در تابستان ۲۰۲۶ بدون اطلاع مستقیم این شرکت با وبسایتهای چند نهاد دولتی آمریکا تعاملهایی غیرعادی و در برخی موارد نامناسب داشتهاند؛ موضوعی که بار دیگر نگرانیها درباره میزان کنترل شرکتهای هوش مصنوعی بر عاملهای خودمختار را افزایش داده است.
براساس گزارشهای منتشرشده، موارد تأییدشده شامل وبسایتهای مرتبط با وزارت بازرگانی آمریکا و کمیسیون بورس و اوراق بهادار این کشور میشود. مورد دیگری درباره تلاش برای دسترسی به وبسایت دفتر حقوق مدنی وزارت آموزش نیز در دست بررسی OpenAI قرار دارد.
عامل OpenAI برای ورود به وبسایت وزارت آموزش تلاش کرد
مؤسسه تحقیقاتی Transluce در بررسی فعالیت عاملهای هوش مصنوعی، نشانههایی پیدا کرده که نشان میدهد یکی از عاملهای مرتبط با OpenAI برای جمعآوری اطلاعات از وبسایت دفتر حقوق مدنی وزارت آموزش آمریکا تلاش کرده است.
براساس گزارشها، این تلاش موفق نبوده و وزارت آموزش نیز اعلام کرده در بررسیهای خود شواهدی از تأثیر روی وبسایت یا پایگاههای داده این نهاد پیدا نکرده است.
OpenAI نیز هنوز بررسی این مورد را ادامه میدهد و برخلاف دو مورد دیگر، ارتباط دقیق فعالیت مشاهدهشده با عاملهای این شرکت بهطور کامل نهایی نشده است.
استفاده از اطلاعات ورود پیداشده در اینترنت
در مورد دیگری، عاملهای OpenAI اطلاعات ورود منتشرشده در اینترنت را پیدا کردند و از آن برای دسترسی به دادههای وبسایت اداره سرشماری آمریکا استفاده کردند.
اداره سرشماری زیرمجموعه وزارت بازرگانی ایالات متحده است و OpenAI تأیید کرده رفتار عامل در این مورد مناسب نبوده است.
در گزارشها تأکید شده اطلاعات خصوصی یا محرمانهای به سرقت نرفته و بخش مورد استفاده شامل دادههای قابل دسترسی بوده است؛ بااینحال استفاده خودکار از اطلاعات ورود بدون پیشبینی پژوهشگران، یکی از نمونههای رفتار غیرمنتظره عاملها محسوب میشود.
دادههای عمومی SEC به یک فضای اینترنتی منتقل شدند
عاملهای OpenAI همچنین بخشی از اطلاعات عمومی وبسایت کمیسیون بورس و اوراق بهادار آمریکا یا SEC را دریافت و در یک فضای اینترنتی دیگر بازنشر کردند.
OpenAI این رفتار را نیز نامناسب توصیف کرده، اما گفته این اتفاق به سرقت داده خصوصی منجر نشده است.
در نتیجه، واژه «نفوذ» درباره تمام موارد گزارششده معنای یکسانی ندارد. تلاش وزارت آموزش ناموفق بوده، مورد وزارت بازرگانی شامل استفاده از اطلاعات ورود پیداشده در اینترنت بوده و در مورد SEC دادههای عمومی جابهجا شدهاند.
OpenAI میگوید این موارد نقض امنیتی کامل نبودند
OpenAI اعلام کرده این رخدادها در دسته نقضهای امنیتی کامل قرار نمیگیرند، اما نمونههایی نگرانکننده از رفتار پیشبینینشده سیستمهای عاملمحور هستند.
سخنگوی شرکت گفته بخش بزرگی از فعالیتهایی که بررسی شدهاند مربوط به وظایف معمول پژوهشی بودهاند؛ مانند جستوجوی منابع عمومی وب برای پاسخ به یک سؤال.
وبسایتهای دولتی نیز بهدلیل اینکه معمولاً منابع معتبر اطلاعات عمومی محسوب میشوند، بارها مورد مراجعه مدلها قرار میگیرند. مشکل زمانی ایجاد میشود که یک عامل برای تکمیل وظیفه از مسیرهایی استفاده کند که توسعهدهندگان انتظار نداشتهاند یا سیاستهای سایت را نقض کنند.
تحقیقات Transluce موارد بیشتری پیدا کرده است
Transluce علاوهبر سه مورد اصلی، فعالیتهایی را روی وبسایتهای دولتی دیگری از جمله وزارت دادگستری، نیروی دریایی و برخی نهادهای ایالتی مشاهده کرده است.
بااینحال، این مؤسسه تأکید کرده همه این موارد را نمیتوان با اطمینان به OpenAI نسبت داد.
این تفاوت مهم است؛ زیرا بخشی از دادههای مورد استفاده پژوهشگران از لاگهای عمومی اینترنت جمعآوری شدهاند و تشخیص قطعی اینکه هر درخواست دقیقاً توسط کدام مدل یا شرکت ایجاد شده، همیشه امکانپذیر نیست.
این نخستین رفتار عجیب عاملهای OpenAI نیست
انتشار اطلاعات جدید پس از چند رخداد دیگر مرتبط با عاملهای هوش مصنوعی OpenAI انجام میشود.
این شرکت پیشتر رفتار غیرمنتظره عاملهایش در ارتباط با یک وبسایت دولتی استرالیا و همچنین سرویس Hugging Face را بررسی کرده بود.
افشای این اتفاقات باعث شده OpenAI در ماههای اخیر روی چارچوبهای گزارش حوادث، محدودیتهای دسترسی و کنترل بیشتر عاملهای طولانیمدت تمرکز کند.
سم آلتمن نیز اذعان کرده شرکت در گزارش عمومی برخی حوادث مرتبط با مدلهای هوش مصنوعی به سرعتی که میخواسته عمل نکرده است.
عاملهای خودمختار مسئله کنترل AI را جدیتر میکنند
تفاوت عاملهای جدید با چتباتهای معمولی این است که آنها فقط پاسخ متنی تولید نمیکنند.
عاملهای هوش مصنوعی میتوانند وبگردی کنند، ابزارهای مختلف را به کار بگیرند، کد اجرا کنند و برای رسیدن به یک هدف چندین مرحله را بدون دخالت مداوم کاربر انجام دهند.
همین استقلال بیشتر باعث میشود رفتارهای پیشبینینشده اهمیت بیشتری پیدا کنند. یک مدل ممکن است برای انجام یک وظیفه ساده، روشی را انتخاب کند که از نظر فنی مؤثر است اما توسعهدهنده یا صاحب وبسایت آن را مجاز نمیداند.
OpenAI اکنون میگوید در حال بررسی این موارد و توسعه سازوکارهای بهتر برای تشخیص و گزارش رفتارهای نامناسب عاملها است.
دیدگاهها