OpenAI، Anthropic و Google DeepMind که از مهمترین رقبای بازار هوش مصنوعی محسوب میشوند، طی هفتههای اخیر درباره ایجاد یک نهاد مشترک برای تدوین استانداردهای ایمنی، آزمایش و ارزیابی مدلهای پیشرفته هوش مصنوعی مذاکره کردهاند.
این مذاکرات هنوز به تشکیل رسمی چنین نهادی منجر نشده، اما نشان میدهد بزرگترین آزمایشگاههای هوش مصنوعی جهان بهدنبال ایجاد چارچوبهای مشترکی برای مدیریت ریسک مدلهای بسیار قدرتمند هستند.
کریس لِهان، مدیر ارشد امور جهانی OpenAI، تأیید کرده که این شرکت طی چند هفته گذشته با Anthropic و Google DeepMind درباره مسائل مربوط به ایمنی هوش مصنوعی در تماس بوده است.
براساس گزارشها، یکی از موضوعات موردبحث ایجاد نهادی صنعتی برای تعیین استانداردهای مشترک در زمینه آزمایش، ممیزی و ارزیابی مدلهای مرزی یا Frontier AI بوده است.
نهاد مشترک AI دقیقاً چه کاری انجام میدهد؟
ایده اصلی این است که شرکتهای سازنده پیشرفتهترین مدلهای هوش مصنوعی روی مجموعهای از استانداردهای فنی و ایمنی مشترک توافق کنند.
چنین نهادی میتواند روشهایی استاندارد برای آزمایش مدلها پیش از انتشار تعیین کند، معیارهای مشخصی برای ارزیابی ریسکهای امنیتی بسازد و شرکتها را ملزم یا ترغیب کند تا تواناییهای خطرناک مدلهای خود را با روشهای مشابه بررسی کنند.
یکی از موضوعات مهم، استفاده از ارزیابهای مستقل برای بررسی مدلهای هوش مصنوعی است.
سم آلتمن، مدیرعامل OpenAI، اخیراً از ایده حضور ارزیابهای شخص ثالث در آزمایشگاههای هوش مصنوعی حمایت کرده است؛ اقدامی که میتواند امکان بررسی مستقلتر مدلها را پیش از عرضه گسترده فراهم کند.
درخواست برای کاهش سرعت توسعه AI
گفتوگوهای سه شرکت در شرایطی انجام میشود که نگرانی درباره سرعت پیشرفت مدلهای هوش مصنوعی دوباره افزایش یافته است.
داریو آمودی، مدیرعامل Anthropic، اخیراً خواستار کاهش کنترلشده سرعت توسعه مدلهای مرزی شده و تأکید کرده است که شرکتهای هوش مصنوعی باید قبل از افزایش بیشتر توانایی مدلها، سازوکارهای ایمنی قویتری ایجاد کنند.
سم آلتمن و دمیس هاسابیس، مدیرعامل Google DeepMind، نیز از بخشهایی از این رویکرد حمایت کردهاند.
هدف مطرحشده توقف کامل توسعه AI نیست؛ بلکه ایجاد شرایطی است که افزایش توانایی مدلها از توسعه سیستمهای نظارتی و ایمنی جلو نزند.
نگرانی از مدلهایی که خطرناکتر میشوند
شرکتهای فعال در حوزه هوش مصنوعی طی سالهای اخیر چارچوبهای اختصاصی خود را برای ارزیابی مدلهای قدرتمند توسعه دادهاند.
Anthropic از Responsible Scaling Policy استفاده میکند، OpenAI دارای Preparedness Framework است و Google DeepMind نیز Frontier Safety Framework را توسعه داده است.
هر سه چارچوب با هدف شناسایی تواناییهایی طراحی شدهاند که میتوانند ریسکهای جدی ایجاد کنند؛ از جمله قابلیتهای مرتبط با حملات سایبری، سوءاستفادههای زیستی یا افزایش توانایی سیستمهای AI برای انجام وظایف پیچیده با دخالت کمتر انسان.
اما معیارها، ساختارها و تعهدات این چارچوبها کاملاً یکسان نیستند.
تشکیل یک نهاد استانداردگذاری مشترک میتواند بخشی از این تفاوتها را کاهش دهد و روشهای آزمایش مدلهای پیشرفته را به یکدیگر نزدیکتر کند.
مسئله قوانین ضدانحصار
همکاری رقبای بزرگ صنعت AI موضوع سادهای نیست.
اگر شرکتهای بزرگ برای هماهنگکردن سرعت توسعه محصولات یا زمان عرضه مدلهای جدید با یکدیگر همکاری کنند، ممکن است نگرانیهایی درباره قوانین ضدانحصار ایجاد شود.
داریو آمودی پیشنهاد کرده بود دولت آمریکا یک معافیت محدود در قوانین ضدانحصار ایجاد کند تا شرکتها بتوانند صرفاً در حوزه ایمنی هوش مصنوعی با یکدیگر همکاری کنند.
کریس لِهان از OpenAI اما گفته است شرکتها برای ادامه مذاکرات فعلی الزاماً به چنین معافیتی نیاز ندارند.
نهاد مشابهی از قبل وجود دارد
OpenAI، Google، Anthropic و Microsoft در سال ۲۰۲۳ نیز سازمانی با نام Frontier Model Forum ایجاد کردند.
هدف این انجمن توسعه پژوهشهای ایمنی، تدوین بهترین روشها و کمک به ایجاد استانداردهای مشترک برای مدلهای پیشرفته بود.
بااینحال، گزارشهای جدید نشان میدهند مذاکرات فعلی میتواند به ساختاری متفاوت با تمرکز بیشتر بر آزمایش، ممیزی و استانداردگذاری عملی مدلهای بسیار پیشرفته منجر شود.
هنوز ساختار، اعضا، اختیارات و شیوه تصمیمگیری نهاد پیشنهادی مشخص نشده است.
دولت آمریکا چه نقشی دارد؟
طبق گزارشها، شرکتها درحال بررسی این موضوع هستند که حتی در صورت نبود حمایت مستقیم دولت آمریکا، همکاری خود برای ایجاد استانداردهای مشترک را ادامه دهند.
دمیس هاسابیس پیشتر پیشنهاد کرده بود نهادی مشابه سازمانهای نظارتی صنایع دیگر ایجاد شود که بتواند مدلهای بسیار پیشرفته را پیش از عرضه آزمایش کند و در صورت مشاهده ریسکهای جدی، هماهنگی بیشتری میان شرکتها ایجاد شود.
OpenAI نیز اخیراً حمایت خود را از مقررات ملی مبتنی بر سطح توانایی مدلها و سازوکارهای ارزیابی مستقل اعلام کرده است.
بااینحال، هنوز هیچ تصمیم رسمی درباره تشکیل نهاد جدید گرفته نشده و مذاکرات میان OpenAI، Anthropic و Google DeepMind در مرحله بررسی و هماهنگی قرار دارد.
اگر چنین نهادی تشکیل شود، میتواند یکی از مهمترین تلاشهای مشترک رقبای بزرگ صنعت هوش مصنوعی برای ایجاد قواعد فنی مشترک پیش از ورود دولتها با قوانین سختگیرانهتر باشد.
دیدگاهها