هشدار پژوهشگران هوش مصنوعی: ابرهوش مصنوعی «دقیقاً به همان اندازه‌ای که به نظر می‌رسد خطرناک است»

پژوهشگران هوش مصنوعی در پروژه‌ای از مؤسسه غیرانتفاعی Palisade Research هشدار دادند که ابرهوش مصنوعی می‌تواند به‌اندازه تصور عمومی خطرناک باشد و حتی احتمال انقراض انسان را به همراه داشته باشد.

پژوهشگران هوش مصنوعی: ابرهوش دقیقاً به همان اندازه ای که به نظر می رسد خطرناک است

جفری ایروینگ، از کارکنان پیشین OpenAI و Google DeepMind، در مصاحبه ای تازه گفت: «از نگاه من، احتمال انقراض بشر تقریباً مانند شیر یا خط است.» این گفت وگو یکی از حدود ۱۲ مصاحبه ای است که با پژوهشگران هوش مصنوعی، از جمله کارکنان فعلی و سابق شرکت های OpenAI، گوگل و Anthropic، انجام شده است. سازمان غیرانتفاعی Palisade Research که روی توانایی ها و انگیزه های سامانه های هوش مصنوعی مطالعه می کند، این مصاحبه ها را گردآوری کرده و در وب سایت frominside.ai منتشر کرده است.

هشدار درباره خطر انقراض بشر

چندین پژوهشگر حاضر در این مجموعه، هم سو با ایروینگ، درباره احتمال نابودی انسان ها به دست هوش مصنوعی هشدار داده اند. نیل ناندا، دانشمند پژوهشی در Google DeepMind، گفت: «دست کم ۱۰ درصد احتمال دارد که این فناوری به انقراض بشر منجر شود؛ چنین احتمالی به طرز غیرقابل قبولی بالاست.»

اظهارات ناندا و ایروینگ پیش تر در گزارشی درباره جامعه «ایمنی هوش مصنوعی» نیز بررسی شده بود؛ حوزه ای که تعریف دقیق آن، همچنین راهکارهای عملی مورد توافق فعالانش، همچنان روشن نیست. این ویدیوها نیز راه حل واحد و منسجمی برای مقابله با خطرهای احتمالی ارائه نمی کنند.

دانیل کوکوتایلو، پژوهشگر پیشین OpenAI، حتی پا را فراتر گذاشت و درباره هوش مصنوعی ابرهوشمند گفت: «چنین سامانه ای عملاً قدرتی شبیه خدا خواهد داشت.» او افزود: «متأسفانه ما اصلاً نمی دانیم چگونه باید آن ها را کنترل کنیم و احتمالاً هیچ کس قادر به کنترلشان نخواهد بود. این فناوری دقیقاً به همان اندازه ای که به نظر می رسد خطرناک است و نباید اجازه داد چنین چیزی رخ دهد.»

تردید درباره انگیزه های شرکت ها

هر یک از این ویدیوها به صورت کامل در دسترس است؛ با این حال، وب سایت مذکور بخش هایی از سخنان افراد مختلف را نیز بر اساس موضوع کنار هم قرار داده است. از جمله موضوعات مطرح شده می توان به این پرسش اشاره کرد که آیا هشدارهای مربوط به هوش مصنوعی صرفاً بزرگ نمایی یا بخشی از فعالیت های تبلیغاتی هستند و چرا برخی افراد روی فناوری ای کار می کنند که خود آن را تا این اندازه خطرناک می دانند.

در بخشی از این مجموعه، مری فونگ از گوگل می گوید: «فکر می کنم باید نسبت به حرف هایم کاملاً تردید داشته باشید، چون آزمایشگاه به من حقوق می دهد.» ناندا نیز درباره دلیل ادامه فعالیتش توضیح می دهد: «اگر باور نداشتم کارم مستقیماً به کاهش این خطرهای بنیادین کمک می کند، استعفا می دادم… این شرکت ها فقط به دلیل استعفای من، تولید چنین سامانه هایی را متوقف نخواهند کرد.»