دیوید رابینسون، نویسنده سابق گزارش‌های ایمنی مدل‌های اوپن‌ای‌آی، پس از استعفا این شرکت را به داشتن فرهنگی «شکسته» متهم کرد و درباره خطرات هوش مصنوعی هشدار داد.
کارمند بخش ایمنی OpenAI استعفا کرد و درباره خطرهای هوش مصنوعی هشدار داد
دیوید رابینسون پیش تر مسئول نگارش گزارش های ایمنی بود که همراه با هر مدل مهم جدید در OpenAI منتشر می شد. او این هفته از سمت خود کناره گیری کرد و در یادداشتی در نشریه «آتلانتیک» درباره نگرانی هایش سخن گفت.
ممکن است برخی افراد نسبت به موج تازه هشدارها درباره خطرهای هوش مصنوعی بدبین باشند؛ زیرا کسانی که اکنون درباره پیامدهای احتمالی این فناوری هشدار می دهند، خودشان در ساخت آن نقش داشته اند. بااین حال، این موضوع نباید باعث شود هشدارهای آنان نادیده گرفته شود.
فرهنگ حاکم بر صنعت هوش مصنوعی زیر سؤال است
رابینسون معتقد است فرهنگ موجود در صنعت فناوری، به ویژه در حوزه هوش مصنوعی، از پایه دچار مشکل شده است. از نگاه او، مسئله فقط با افزودن چند قانون یا مقررات تازه برای شیوه آموزش مدل ها حل نمی شود و ریشه های عمیق تری دارد.
او می گوید سیلیکون ولی با اعتمادبه نفس افراطی<!– و اجرای پروژه ها در قالب رقابت های بی وقفه، همواره به دنبال ساخت مدل هایی بزرگ تر و قدرتمندتر بوده است؛ رویکردی که با خوش بینی مهارنشده</، مشکلات احتمالی را نادیده می گیرد یا کوچک تر از واقعیت نشان می دهد.
به باور این کارشناس، شرکت های فعال در حوزه هوش مصنوعی باید فروتنی بیشتری در پیش بگیرند و از فضای بسته صنعت فناوری، که بر سرعت بالا و پذیرش شکست تأکید دارد، فاصله بگیرند. او همچنین خواستار ایجاد سازوکارهایی برای ایمنی هوش مصنوعی در سطح استانداردهای صنایع هسته ای است.
با توجه به خطرهای امروز، آزمایشگاه های پیشرو باید مانند نیروگاه های هسته ای یا فرودگاه های پرتردد اداره شوند؛ یعنی چندین لایه پشتیبان و کنترل داشته باشند و برای برنامه ریزی دقیق و زمان بر اهمیت قائل شوند تا خطای انسانی، که گاهی رخ دادن آن اجتناب ناپذیر است، به فاجعه منجر نشود.
افزایش خروج نیروهای ایمنی از شرکت های بزرگ
رابینسون تازه ترین فرد از میان پژوهشگران و متخصصان ایمنی است که در ماه های اخیر شرکت های سرشناس هوش مصنوعی را ترک کرده و درباره خطرهای این فناوری هشدار داده اند.
به نظر می رسد جیکوب کاکسون با استعفا از Anthropic و بیان این ادعا که هوش مصنوعی «ممکن است تا پایان این دهه همه ما را نابود کند»، آغازگر این موج بوده است. پس از او نیز رابرت اوکالاهان، بلال چغتای و جاش انگلس از Google DeepMind و جو بنتون از Anthropic از سمت های خود کناره گیری کردند.
دیدگاه‌ها