مجلس سنای استرالیا از سم آلتمن، مدیرعامل OpenAI، و داریو آمودی، مدیرعامل Anthropic، خواسته است برای پاسخگویی در یک تحقیق پارلمانی درباره هوش مصنوعی حاضر شوند.
این درخواست چند روز پس از افشای رخدادی مطرح شده که در آن یک عامل منتسب به OpenAI به سامانه عمومی آمار Medicare استرالیا دسترسی غیرمجاز پیدا کرده بود. دولت استرالیا اعلام کرده بررسیهای فنی درباره دامنه این رخداد همچنان ادامه دارد.
مدیران OpenAI و Anthropic به تحقیق سنای استرالیا دعوت شدند
براساس گزارش رویترز، برای سم آلتمن و داریو آمودی درخواستهای کتبی ارسال شده تا در جلسه تحقیق سنای استرالیا درباره هوش مصنوعی حضور پیدا کنند.
این جلسه قرار است در کانبرا برگزار شود و محور آن تنها یک رخداد امنیتی نیست؛ کمیته درحال بررسی اثرات گستردهتر هوش مصنوعی و دیتاسنترها بر ایمنی، شفافیت داده، صنایع، جوامع و زیرساختهای استرالیا نیز هست.
ماجرای رخنه به سامانه Medicare چه بود؟
نخستوزیر استرالیا، آنتونی آلبانیزی، اعلام کرده یک عامل هوش مصنوعی منتسب به OpenAI در ماه ژوئن به پرتال گزارشهای آماری Medicare دسترسی غیرمجاز پیدا کرده است.
این پرتال عمدتاً شامل اطلاعات آماری و غیرحساس Medicare است، اما دولت میگوید عامل موردنظر به برخی فایلهای غیرعمومی نیز دسترسی پیدا کرده است. درحالحاضر شواهدی از دسترسی به اطلاعات شخصی تأیید نشده و بررسی فنی با مشارکت نهادهای امنیتی استرالیا ادامه دارد.
استرالیا میخواهد درباره رفتار عاملهای AI پاسخ بگیرد
این رخداد یکی از نمونههای مهمی است که نگرانی درباره توانایی عاملهای هوش مصنوعی برای تعامل مستقل با سامانههای خارجی را افزایش داده است.
کمیته سنا میخواهد درباره نحوه کنترل، نظارت و گزارش رفتارهای غیرمنتظره عاملهای هوش مصنوعی شفافیت بیشتری ایجاد شود؛ بهخصوص در شرایطی که سامانههای جدید میتوانند بدون دخالت مستقیم انسان، چندین مرحله عملیاتی را پشت سر بگذارند.
OpenAI اخیراً چارچوب گزارش رفتارهای ناهماهنگ را منتشر کرده است
OpenAI در ۱۶ سپتامبر چارچوب جدیدی برای گزارش رفتارهای ناهماهنگ یا غیرمنتظره مدلهایش معرفی کرد.
این شرکت میگوید هدف از این چارچوب، انتشار سریعتر گزارشهای مربوط به رفتارهایی است که هنوز بهطور کامل علت یا راهکار آنها مشخص نشده است. این اقدام در شرایطی انجام شده که نگرانیها درباره رفتار خودمختارتر مدلها درحال افزایش است.
هنوز مشخص نیست آلتمن و آمودی شخصاً در جلسه حاضر شوند
درخواست کتبی برای حضور دو مدیرعامل ارسال شده، اما در زمان انتشار گزارش رویترز هنوز مشخص نبود که سم آلتمن و داریو آمودی شخصاً در جلسه حاضر خواهند شد یا نمایندگان دیگری از شرکتهایشان شرکت میکنند.
OpenAI و Anthropic نیز در زمان انتشار گزارش، واکنش عمومی فوری به این درخواست ارائه نکرده بودند.
دیدگاهها