سازمان ملل یکی از جدیترین هشدارهای خود درباره آینده هوش مصنوعی را مطرح کرده است. فولکر تورک، کمیسر عالی حقوق بشر سازمان ملل، میگوید سیستمهای پیشرفته AI در صورت توسعه بدون کنترل کافی حتی میتوانند به یک «خطر وجودی برای بشریت» تبدیل شوند.
تکراتو به نقل از دیجیاتو گزارش میدهد، تورک از دولتها و شرکتهای فناوری خواسته است پیش از آنکه توانایی سیستمهای هوش مصنوعی از سازوکارهای نظارتی جلو بزند، مجموعهای از خطوط قرمز جهانی و تضمینهای محکم امنیتی برای توسعه AI ایجاد کنند.
سازمان ملل: قبل از اینکه دیر شود باید اقدام کرد
فولکر تورک در سخنرانی خود در شورای حقوق بشر سازمان ملل در ژنو گفت نگرانی متخصصان صنعت درباره تبدیلشدن هوش مصنوعی پیشرفته به خطری وجودی برای انسان را جدی میگیرد.
او خواستار یک تلاش همهجانبه برای ایجاد تضمینهای محکم پیرامون ایمنی و امنیت هوش مصنوعی شد.
نگرانی اصلی این است که سرعت افزایش توانایی مدلهای پیشرفته بیشتر از سرعت توسعه سازوکارهای نظارتی، ارزیابی و قوانین مربوط به آنها باشد.
پنل علمی مستقل سازمان ملل درباره هوش مصنوعی نیز در گزارش مقدماتی خود به همین مسئله اشاره کرده و هشدار داده است که سازوکارهای حفاظتی فعلی نمیتوانند همگام با رشد قابلیتهای AI پیش بروند.
هوش مصنوعی که نگذارد خاموشش کنند
تورک برای توضیح مرز خطر به رفتارهایی اشاره کرد که پیشتر در آزمایش سیستمهای پیشرفته مشاهده شدهاند.
او گفت سیستمی که بتواند از محیط آزمایشی خود خارج شود یا برای جلوگیری از خاموششدن توسعهدهندگان را تحت فشار قرار دهد، بیش از اندازه قدرتمند شده است.
این اظهارات در شرایطی مطرح میشوند که آزمایشگاههای مختلف هوش مصنوعی طی ماههای اخیر رفتارهای غیرمنتظرهای را در برخی مدلها و عاملهای خود گزارش کردهاند.
یکی از نمونههای مورد توجه، حادثه مربوط به عاملهای OpenAI و زیرساخت Hugging Face بود که طی آن عاملها در جریان آزمایش توانستند روی تعدادی از سرورها کد اجرا کنند.
چنین آزمایشهایی الزاماً به معنی آن نیستند که یک هوش مصنوعی دارای هدف یا اراده مستقل شده است؛ اما نشان میدهند سیستمهای عاملمحور میتوانند برای رسیدن به هدف تعیینشده، مسیرهایی را انتخاب کنند که توسعهدهندگان پیشبینی نکردهاند.
«چند مرد تقریباً قدرت نامحدودی روی AI دارند»
بخش دیگری از سخنان کمیسر عالی حقوق بشر سازمان ملل به تمرکز قدرت در صنعت هوش مصنوعی مربوط بود.
تورک هشدار داد تعداد بسیار محدودی از افراد کنترل بخش بزرگی از قدرتمندترین سیستمهای هوش مصنوعی جهان را در اختیار دارند.
توسعه مدلهای مرزی به حجم عظیمی از سرمایه، دیتاسنتر، تراشههای پیشرفته و داده نیاز دارد و همین موضوع باعث شده تعداد محدودی از شرکتهای فناوری توانایی ساخت قدرتمندترین مدلهای جهان را داشته باشند.
این تمرکز قدرت از نگاه سازمان ملل فقط یک مسئله اقتصادی نیست.
تصمیماتی که چند شرکت درباره نحوه آموزش، محدودیتها، انتشار و کاربرد مدلهای خود میگیرند میتواند روی بازار کار، حریم خصوصی، اطلاعات، انتخابات و حتی امنیت کشورها تأثیر بگذارد.
سازمان ملل خواستار «خط قرمز» جهانی شد
پیشنهاد اصلی تورک ایجاد مجموعهای از خطوط قرمز مشترک میان کشورهاست.
کشورهایی که میزبان شرکتهای بزرگ هوش مصنوعی هستند و کشورهایی که در زنجیره تأمین این صنعت نقش دارند باید درباره محدودیتهای مشخصی برای توسعه و استفاده از AI به توافق برسند.
او همچنین خواستار ارزیابی مستقل سیستمهای هوش مصنوعی شد.
این نکته اهمیت زیادی دارد؛ زیرا درحالحاضر بخش مهمی از آزمایشهای ایمنی پیشرفتهترین مدلها توسط همان شرکتهایی انجام میشود که این مدلها را توسعه میدهند.
وجود نهادهای مستقل میتواند امکان بررسی ادعاهای شرکتها و شناسایی خطراتی را فراهم کند که شاید در ارزیابیهای داخلی دیده نشوند.
نگرانی فقط نابودی بشر نیست
عبارت «خطر وجودی» بیشترین توجه را جلب میکند، اما نگرانی سازمان ملل بسیار گستردهتر است.
هوش مصنوعی همین حالا میتواند روی بازار کار، حریم خصوصی، انتخابات، انتشار اطلاعات نادرست و تبعیض الگوریتمی تأثیر بگذارد.
تورک همچنین درباره تأثیر AI بر اصول اساسی دموکراسی و محیطزیست هشدار داده است.
موضوع دیگر استفاده نظامی از هوش مصنوعی است.
کمیسر عالی حقوق بشر سازمان ملل بار دیگر مخالفت خود را با سلاحهایی اعلام کرد که میتوانند بدون دخالت مستقیم انسان درباره گرفتن جان یک فرد تصمیم بگیرند و خواستار ممنوعیت فوری چنین سیستمهایی شد.
آیا واقعاً هوش مصنوعی میتواند بشر را نابود کند؟
در این نقطه باید میان «ریسک» و «پیشبینی قطعی» تفاوت قائل شد.
سازمان ملل نگفته است که هوش مصنوعی قطعاً باعث نابودی بشر خواهد شد.
حتی در جامعه علمی نیز درباره احتمال وقوع سناریوهای فاجعهبار اختلافنظر جدی وجود دارد.
اما استدلال طرفداران مقررات سختگیرانه این است که اگر احتمال وقوع یک پیامد بسیار شدید حتی پایین باشد، نمیتوان آن را صرفاً به دلیل نامشخصبودن احتمال دقیق نادیده گرفت.
مشکل دیگری نیز وجود دارد: ممکن است زمانی که شواهد قطعی درباره یک خطر بهدست میآید، سیستمها آنقدر پیشرفته شده باشند که واکنش به آن بسیار دشوارتر باشد.
همین مسئله در گزارش علمی مستقل سازمان ملل نیز مطرح شده است؛ سیاستگذاران برای تنظیم AI به شواهد علمی نیاز دارند، اما اگر منتظر قطعیت کامل بمانند شاید برای بعضی اقدامات دیر شده باشد.
بحث اصلی اکنون دیگر این نیست که آیا هوش مصنوعی باید قانونگذاری شود یا خیر؛ مسئله این است که قوانین با چه سرعتی، توسط چه نهادهایی و با چه خطوط قرمزی باید اجرا شوند.
هشدار تازه سازمان ملل نشان میدهد فاصله میان سرعت پیشرفت هوش مصنوعی و سرعت ایجاد سازوکارهای کنترل آن به یکی از جدیترین نگرانیهای سیاستگذاران جهانی تبدیل شده است.
دیدگاهها