برنی سندرز، سناتور مستقل ایالت ورمونت، به همراه گرگ کازار، نماینده دموکرات تگزاس، از طرحی با نام Ban Artificial Superintelligence Act خبر دادهاند که هدف آن ممنوعیت دائمی توسعه و استقرار ابرهوش مصنوعی و توقف موقت توسعه سیستمهای پیشرفته هوش مصنوعی در آمریکا است.
براساس توضیحات رسمی منتشرشده، این توقف تا زمانی ادامه خواهد داشت که یک نهاد فدرال جدید، چارچوبهای ایمنی و نظارتی لازم را برای مدلهای پیشرفته هوش مصنوعی تدوین کند.
ممنوعیت دائمی ابرهوش مصنوعی
طرح پیشنهادی سندرز و کازار میان «هوش مصنوعی پیشرفته» و «ابرهوش مصنوعی» تفاوت قائل میشود.
طبق این طرح، توسعه و استقرار سیستمهایی که بتوانند به سطحی از هوش برسند که از تواناییهای انسانی فراتر رفته و کنترل آنها دشوار یا غیرممکن شود، باید بهصورت دائمی ممنوع شود.
در مقابل، توسعه سایر سیستمهای پیشرفته هوش مصنوعی بهطور موقت متوقف خواهد شد تا دولت آمریکا یک ساختار نظارتی مشخص برای ارزیابی خطرات این فناوری ایجاد کند.
تلاش برای توافق بینالمللی درباره Superintelligence
این طرح فقط به داخل آمریکا محدود نمیشود. سندرز و کازار میخواهند دولت ایالات متحده برای دستیابی به توافقهای بینالمللی تلاش کند تا توسعه ابرهوش مصنوعی در سایر کشورها نیز محدود یا ممنوع شود.
سندرز پیشتر هم پیشنهاد کرده بود آمریکا و چین باید درباره تعیین «خط قرمزهای هوش مصنوعی» و ایجاد توافقی مشابه پیمانهای کنترل تسلیحات هستهای مذاکره کنند.
او معتقد است توسعه یک سیستم هوش مصنوعی که بتواند مستقل از انسان عمل کند و از تواناییهای انسانی فراتر برود، میتواند به یک خطر جهانی تبدیل شود و به همین دلیل نظارت یک کشور بهتنهایی کافی نخواهد بود.
نگرانیها پس از هشدار پژوهشگران AI افزایش یافته است
فشارها برای وضع قوانین سختگیرانهتر در حوزه هوش مصنوعی پس از هشدارهای جدید تعدادی از پژوهشگران این حوزه افزایش یافته است.
Jacob Coxon، پژوهشگر سابق Anthropic و OpenAI، اخیراً با هشدار درباره سرعت توسعه هوش مصنوعی از Anthropic استعفا داد و اعلام کرد رقابت شدید میان شرکتهای بزرگ AI میتواند مسائل ایمنی را به حاشیه ببرد.
این نگرانیها در کنار گزارشهایی درباره رفتارهای غیرمنتظره مدلهای پیشرفته باعث شده برخی قانونگذاران آمریکایی از هر دو حزب خواستار نظارت بیشتر بر شرکتهایی مانند OpenAI و Anthropic شوند.
سندرز پیشتر هم خواستار توقف توسعه AI شده بود
این نخستین اقدام سندرز برای محدود کردن سرعت توسعه هوش مصنوعی نیست.
او در اوت ۲۰۲۶ از OpenAI، Anthropic و Meta خواست توسعه سیستمهای پیشرفته خود را موقتاً متوقف کنند و مدعی شد شرکتهای هوش مصنوعی با سرعتی بیشتر از توان جامعه برای کنترل این فناوری درحال حرکت هستند.
سندرز همچنین پیشتر از طرح توقف ساخت دیتاسنترهای جدید هوش مصنوعی حمایت کرده و پیشنهاد ایجاد یک صندوق ثروت ملی مرتبط با صنعت AI را نیز مطرح کرده است.
مخالفت با توقف کامل توسعه هوش مصنوعی
ایده توقف توسعه هوش مصنوعی البته با مخالفتهایی نیز همراه است.
برخی دولتها و فعالان صنعت معتقدند متوقف کردن توسعه AI میتواند باعث عقبماندن کشورها در رقابت فناوری شود و بهجای ممنوعیت کامل باید از مقررات ایمنی، آزمایشهای مستقل و نظارت دقیق استفاده کرد.
برای مثال، دولت آلمان اعلام کرده توقف توسعه هوش مصنوعی را گزینهای عملی نمیداند و معتقد است توسعه فناوری باید همراه با استانداردهای ایمنی و همکاری بینالمللی ادامه پیدا کند.
طرح Ban Artificial Superintelligence Act هنوز باید مسیر قانونگذاری در کنگره آمریکا را طی کند و مشخص نیست بتواند حمایت کافی برای تبدیل شدن به قانون را به دست آورد. بااینحال، مطرح شدن چنین پیشنهادی نشان میدهد نگرانی درباره توسعه مدلهای بسیار قدرتمند هوش مصنوعی دیگر فقط به محافل دانشگاهی و پژوهشی محدود نیست و به یکی از موضوعات جدی سیاستگذاری در آمریکا تبدیل شده است.
دیدگاهها