جزئیات توافق داوطلبانه رهبران فناوری برای خودتنظیمی ایمنی هوش مصنوعی در دولت ترامپ منتشر شد؛ پیمانی با چهار دستورالعمل کلی و غیرالزامآور برای مدیریت مسئولانه فناوریهای پیشرفته.
جزئیات توافق ایمنی هوش مصنوعی در دولت ترامپ اکنون منتشر شده است؛ توافقی که رئیس جمهور آمریکا آن را «الزام آور از نظر اخلاقی» توصیف کرده و طی آن، مدیران ارشد شرکت های فناوری پذیرفته اند بر روند توسعه و عملکرد سامانه های هوش مصنوعی خود نظارت کنند. این سند با عنوان رسمی «تعهد مشترک درباره مسئولیت های هوش مصنوعی پیشرفته» از سوی دیوید ساکس، بنیان گذار فناوری و مشاور رئیس جمهور، در فضای آنلاین منتشر شد.
این توافق به امضای ساندار پیچای از گوگل، داریو آمودی از آنتروپیک، مارک زاکربرگ از متا، گرگ براکمن از اوپن ای آی، ایلان ماسک از xAI و جنسن هوانگ از انویدیا رسیده است.
در آغاز این سند آمده است: «برای ساختن آینده ای مثبت برای مردم آمریکا و جهان، باور داریم هر شرکت مسئول توسعه ایمن فناوری خود و ایجاد اعتماد در میان مشتریان و افکار عمومی است. شرکت های مشارکت کننده به طور منظم گرد هم خواهند آمد تا استانداردها و بهترین رویه ها را برای ارتقای ایمنی سامانه های خود تدوین کنند.»
چهار تعهد اصلی شرکت های فناوری
این توافق برای اطمینان از عملکرد مطابق انتظار مدل های پیشرفته هوش مصنوعی و شناسایی و رفع سریع مشکلات، چهار الزام را برای هر شرکت تعیین می کند:
۱) شرکت ها باید کنترل های داخلی قدرتمندی برای نظارت بر توانایی ها و میزان هم راستایی مدل های خود در دوره آموزش و زمان بهره برداری ایجاد کنند. این نظارت حوزه هایی مانند امنیت سایبری، امنیت زیستی و تهدیدهای شیمیایی را دربرمی گیرد و باید مانع از آن شود که مدل ها به صورت ناخواسته سامانه های فنی را هک کنند یا به آن ها دسترسی پیدا کنند.
۲) هر شرکت باید یک تیم داخلی را مسئول کند تا اطمینان یابد کنترل ها، فرایندهای نظارتی و سازوکارهای شناسایی، مطابق هدف تعیین شده فعالیت می کنند و هر مشکل احتمالی نیز برطرف می شود.
۳) شرکت ها موظف اند با یک حسابرس یا ارزیاب مستقل بیرونی همکاری کنند تا عملکرد کنترل ها، نظارت ها و سازوکارهای شناسایی به صورت مستقل بررسی شود.
۴) یک کمیته مستقل از هیئت مدیره باید بر این فرایند نظارت داشته باشد و گزارش های تیم های مسئول کنترل ها و همچنین حسابرسان و ارزیابان داخلی و خارجی را دریافت کند. این کمیته همچنین باید پیگیر رفع مشکلات شناسایی شده باشد.
توافقی بدون ضمانت اجرایی مشخص
در متن توافق آمده است که اجرای این اقدامات می تواند برای شرکت ها، کاربران و عموم مردم، که نگرانی هایشان درباره ایمنی هوش مصنوعی رو به افزایش است، «اطمینان ایجاد کند که فناوری مطابق هدف تعیین شده عمل می کند». بخش دیگری از سند نیز احتمال تبدیل این تعهدات به قانون یا مقررات در آینده را مطرح می کند.
با این حال، مقررات فعلی عمدتاً مجموعه ای کلی و بدیهی از رویه های ایمنی برای شرکت های فناوری به شمار می روند و در آن ها هیچ مجازاتی برای نقض توافق تعیین نشده است. به همین دلیل، این سند در عمل بیشتر به تعهدی نمادین از سوی مدیران شرکت های هوش مصنوعی برای رعایت حداقل استانداردها شباهت دارد.
این مسئله در شرایطی مطرح می شود که گوگل، اوپن ای آی و آنتروپیک طی ماه های گذشته، با خروج سامانه هایشان از کنترل و نفوذ آن ها به شرکت های دیگر و حتی وب سایت های دولتی، عملاً یکی از همین تعهدات اولیه را نقض کرده اند.
اصطلاح جدید ترامپ برای هوش مصنوعی
ترامپ روز گذشته، هم زمان با معرفی این توافق، دستور داد دولت آمریکا از این پس برای اشاره به هوش مصنوعی از عبارت «ابرهوش» استفاده کند. او دلیل این تصمیم را نامطلوب بودن واژه «مصنوعی» اعلام کرد و گفت «ابر» بهترین واژه ممکن است.
ترامپ نیز در کنار مدیران شرکت های بزرگ فناوری، توافق ایمنی هوش مصنوعی را امضا کرده است. عنوان او در سند، «رئیس جمهور ایالات متحده» درج شده است.
دیدگاهها