داریو آمودی، مدیرعامل و یکی از بنیانگذاران آنتروپیک، از شرکتهای فعال در حوزه هوش مصنوعی خواسته است سرعت توسعه مدلهای قدرتمند را کاهش دهند. او هشدار میدهد که تواناییهای این فناوری با سرعتی پیشرفت میکنند که ممکن است تدابیر ایمنی و توانایی انسان برای کنترل آنها از این مسیر عقب بماند.
تکراتو به نقل از زومیت، مدیرعامل شرکت سازنده کلود در مقالهای با عنوان «باید سرعت حرکت در مرز هوش مصنوعی را تنظیم کنیم»، برنامهای سهمرحلهای برای کنترل خطرهای مدلهای پیشرفته پیشنهاد کرده است.
چرا مدیرعامل آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شده است؟
داریو آمودی در مقاله رسمی خود تأکید میکند که منظورش توقف کامل آموزش مدلها یا کنارگذاشتن پیشرفت فنی نیست. او میخواهد شرکتها سرعت افزایش قابلیتهای مدلهای هوش مصنوعی را طوری تنظیم کنند که زمان کافی برای آزمایش، ایمنسازی و بررسی مستقل آنها وجود داشته باشد.
بهگفته آمودی، دو اتفاق نگرانی او را در ماههای اخیر افزایش دادهاند. نخستین مورد، توانایی روبهرشد هوش مصنوعی برای کمک به ساخت نسل بعدی مدلهاست؛ فرایندی که با عنوان «خودبهبودی بازگشتی» شناخته میشود.
در چنین وضعیتی، مدلهای هوش مصنوعی میتوانند در توسعه جانشینان قدرتمندتر خود مشارکت کنند و سرعت پیشرفت فناوری را افزایش دهند. مدیرعامل آنتروپیک نگران است که ادامه کنترلنشده این روند، از توانایی انسان برای درک و مهار سیستمهای آینده پیشی بگیرد.
احتمال تصرف اینترنت توسط ارتشی از عاملهای هوش مصنوعی
دومین عامل نگرانی مدیرعامل آنتروپیک، حادثهای مرتبط با عاملهای هوش مصنوعی OpenAI و پلتفرم Hugging Face عنوان شده است. براساس توضیحات آمودی، گروهی از عاملها اقداماتی سایبری خارج از مأموریت اصلی خود انجام دادند و حتی تلاش کردند سامانهای را که عملکردشان را ارزیابی میکرد، فریب دهند.
این حادثه خسارت گستردهای ایجاد نکرد؛ اما آمودی معتقد است نسخهای قدرتمندتر از چنین مجموعهای میتواند پیامدهای بسیار جدیتری داشته باشد.
او هشدار داده است که با ادامه سرعت فعلی پیشرفت، ممکن است ظرف ۶ تا ۱۲ ماه یک مجموعه ناهماهنگ از عاملهای هوش مصنوعی توانایی ایجاد باتنتی پایدار و بهدستگرفتن بخش بزرگی از اینترنت را پیدا کند. چنین اتفاقی میتواند صدها میلیارد دلار خسارت اقتصادی بههمراه داشته باشد. این هشدار در گزارش آسوشیتدپرس نیز منعکس شده است.
برنامه سهمرحلهای آنتروپیک برای کنترل خطرهای هوش مصنوعی
مدیرعامل آنتروپیک برای کاهش خطرهای احتمالی، برنامهای سهمرحلهای با عنوان «تنظیم سرعت حرکت در مرز هوش مصنوعی» پیشنهاد کرده است.
مرحله اول، حضور دائمی ارزیابهای مستقل در شرکتهای پیشرو هوش مصنوعی است. این متخصصان باید دسترسی مشابه کارکنان شرکت داشته باشند تا بتوانند رعایت استانداردهای ایمنی، فرایند آموزش مدلها و حوادث داخلی را بررسی کنند.
آنتروپیک اعلام کرده است که اجرای این بخش را بهصورت یکطرفه آغاز میکند و برای ارزیابهای مستقل فضای کاری، تجهیزات و دسترسی لازم را فراهم خواهد کرد. این افراد همچنین باید بتوانند بدون دخالت تحریریهای آنتروپیک، یافتههای خود را منتشر کنند.
در مرحله دوم، شرکتهای هوش مصنوعی مستقر در کشورهای دموکراتیک باید برای تعیین استانداردهای ایمنی مشترک با یکدیگر همکاری کنند. این استانداردها میتوانند سرعت توسعه مدلها را به میزان ایمنی، قابلیت کنترل و نتایج آزمایشهای مستقل وابسته کنند.
مرحله سوم نیز به همکاری بینالمللی مربوط میشود. آمودی خواستار گفتوگو میان دولتها، ازجمله آمریکا و چین، برای جلوگیری از خطرهای مشترکی مانند استفاده از هوش مصنوعی در ساخت سلاحهای بیولوژیکی شده است. جزئیات این برنامه در گزارش رویترز نیز آمده است.
کاهش سرعت به معنی توقف پیشرفت هوش مصنوعی نیست
آمودی همچنان معتقد است هوش مصنوعی میتواند در درمان بیماریها، افزایش رشد اقتصادی و بهبود کیفیت زندگی انسان نقش مهمی داشته باشد. بااینحال، دستیابی به این مزایا را به توسعه مسئولانه و قابلکنترل فناوری وابسته میداند.
از نگاه مدیرعامل آنتروپیک، حتی یک یا دو سال کاهش سرعت میتواند فرصت بیشتری برای توسعه روشهای تفسیر عملکرد مدلها، افزایش امنیت، بهبود همراستایی هوش مصنوعی با اهداف انسانی و طراحی آزمایشهای دقیقتر ایجاد کند.
سم آلتمن، مدیرعامل OpenAI، نیز از ایده استفاده از ارزیابهای مستقل حمایت کرده است. براساس گزارش آسوشیتدپرس، او گفته است OpenAI میتواند به حضور چنین ارزیابهایی متعهد شود. ایلان ماسک نیز از درخواست آمودی برای احتیاط بیشتر در رقابت هوش مصنوعی حمایت کرده است.
درخواست مدیرعامل آنتروپیک نشان میدهد نگرانی درباره سرعت پیشرفت هوش مصنوعی دیگر فقط به پژوهشگران مستقل محدود نیست و اکنون مدیران شرکتهایی که قدرتمندترین مدلهای جهان را توسعه میدهند نیز درباره عقبماندن تدابیر ایمنی هشدار میدهند.
دیدگاهها