سم آلتمن، مدیرعامل OpenAI، می‌گوید جامعه باید وقوع برخی پیامدهای منفی مانند هک و کلاهبرداری را در مسیر توسعه هوش مصنوعی بپذیرد؛ زیرا به باور او، مزایای این فناوری بسیار بیشتر خواهد بود.
سم آلتمن: با وجود برخی پیامدهای منفی، مزایای هوش مصنوعی ارزش پذیرش این هزینه ها را دارد
سم آلتمن معتقد است دستاوردهای هوش مصنوعی در آینده آن قدر گسترده خواهد بود که جامعه باید در مسیر توسعه این فناوری، وقوع برخی پیامدهای منفی را بپذیرد.
مدیرعامل OpenAI از هک، کلاهبرداری و دیگر آسیب های احتمالی به عنوان هزینه هایی نام برد که جامعه ناچار است برای بهره مندی از ظرفیت های هوش مصنوعی تحمل کند. او بدون ارائه جزئیات درباره این منافع گفت مردم با کمک این فناوری می توانند کارهای مفید بسیار بیشتری انجام دهند. این اظهارات در شرایطی مطرح شده است که OpenAI هم زمان خواستار رویکردی «کم مداخله تر» در تنظیم مقررات هوش مصنوعی است؛ رویکردی که با افزایش نگرانی ها درباره ایمنی مدل های پیشرفته همراه شده است.
اختلاف دیدگاه OpenAI و Anthropic درباره مقررات
آلتمن در این گفت وگو پذیرش آسیب های احتمالی برای دستیابی به منافع گسترده تر هوش مصنوعی را یکی از تفاوت های اصلی OpenAI و رقیب آن، Anthropic، دانست. Anthropic را شماری از کارکنان پیشین OpenAI پس از اختلاف نظر درباره ایمنی هوش مصنوعی تأسیس کردند.
این استدلال به اظهارات اخیر جنسن هوانگ، مدیرعامل انویدیا، شباهت دارد. هوانگ نیز ماه گذشته گفته بود آسیب های ناشی از هوش مصنوعی باید در کنار مزایایی که این فناوری ایجاد می کند، ارزیابی شود. هر دو دیدگاه در چارچوب رویکردی شتاب گرا قرار می گیرند که توسعه ندادن یا کندکردن روند پیشرفت هوش مصنوعی را نیز دارای خطرهایی مستقل می داند.
اظهارات تازه آلتمن فاصله دیدگاه OpenAI و Anthropic را بیش از گذشته نشان می دهد. این دو شرکت تا همین اواخر در حمایت از مقررات سخت گیرانه تر برای هوش مصنوعی پیشرفته، موضعی نزدیک به یکدیگر داشتند. آلتمن با تأکید بر وجود «فاصله قابل توجه» میان دو شرکت، همچنان از ضرورت مقررات قوی تر دفاع کرد و OpenAI را نیرویی «میانه رو و عمل گرا» معرفی کرد؛ جایگاهی میان رویکرد محتاطانه تر Anthropic و دیدگاه طرفداران حداقل مقررات.
او گفت اگر به نام ایمنی، محدودیت های بیش از اندازه ای بر این فناوری اعمال شود و در نتیجه قدرت آن در اختیار شمار اندکی از شرکت ها، افراد یا حتی یک کشور قرار گیرد، این وضعیت نیز می تواند به نتیجه ای بسیار خطرناک منجر شود.
هشدار درباره از دست رفتن کنترل انسان
آلتمن در ادامه، خطرهای شدیدتر از جمله احتمال از دست رفتن کنترل انسان بر سامانه های هوش مصنوعی را نیز پذیرفت. او درباره سناریوی از دست رفتن جدی کنترل گفت جامعه باید در حرکت به سوی چنین آینده ای، با دقت و تأمل بیشتری تصمیم بگیرد.
ایجاد تعادل میان مقررات سخت گیرانه و آزادی کامل در توسعه فناوری، موضوعی بود که مدیرعامل OpenAI بارها در این مصاحبه به آن بازگشت. چنین موضعی با جایگاه OpenAI به عنوان یکی از تثبیت شده ترین بازیگران صنعت هوش مصنوعی همخوانی دارد. از سوی دیگر، این شرکت احتمالاً در صورت وضع مقررات سنگین، بیش از بسیاری از رقبا تحت فشار قرار خواهد گرفت؛ زیرا عملکرد OpenAI و توانایی فزاینده سامانه هایش از عوامل اصلی شکل گیری بسیاری از نگرانی هایی بوده است که اکنون نهادهای قانون گذار در حال بررسی آن ها هستند.
افزایش نگرانی ها درباره ایمنی عوامل هوش مصنوعی
در ماه های اخیر، نگرانی ها درباره ایمنی آزمایشگاه های فعال در حوزه مدل های پیشرفته افزایش یافته است. شمار بیشتری از افراد داخل این صنعت خواستار کاهش سرعت توسعه شده اند و درباره فرهنگ ایمنی در این مراکز هشدار داده اند. چند روز پیش از انتشار مصاحبه آلتمن، دیوید رابینسون، پژوهشگر باسابقه ایمنی در OpenAI، از این شرکت کناره گیری کرد و فرهنگ ایمنی آن را «ازهم گسیخته» توصیف کرد.
کشف نفوذ عوامل OpenAI به Hugging Face بدون اطلاع این شرکت هوش مصنوعی نیز بر شدت این نگرانی ها افزود. پس از آن، گزارش هایی درباره فعالیت عوامل یا گروه هایی از عوامل هوش مصنوعی شرکت های مختلف، از جمله Anthropic، متا و گوگل، علیه اهداف واقعی منتشر شد.
این رویدادها پرسش هایی را درباره توانایی شرکت های هوش مصنوعی در کنترل ابزارهای خود و همچنین میزان شفافیت آن ها هنگام وقوع خطا مطرح کرده است. برای نمونه، نخست وزیر استرالیا OpenAI و آلتمن را به دلیل اطلاع رسانی دیرهنگام درباره هدف قرار گرفتن یک وب سایت دولتی حوزه سلامت، به شدت مورد انتقاد قرار داد.
آلتمن در پاسخ به پرسشی درباره عوامل سرکش هوش مصنوعی گفت OpenAI «موارد بیشتری برای افشا» دارد، اما هیچ کدام از آن ها در سطح نفوذ به Hugging Face نیستند. او مطابق مواضع پیشین خود افزود که آشکار شدن جزئیات این موارد احتمالاً زمان زیادی خواهد برد.
دیدگاه‌ها