رو خانا، نماینده دموکرات کالیفرنیا، خواستار همکاری آمریکا و چین برای مقابله با خطرات احتمالی هوش مصنوعی پیشرفته شده است؛ پیشنهادی که در نهایت میتواند زمینه را برای توافقی میان دو قدرت بزرگ هوش مصنوعی جهان فراهم کند.
خانا در نامههایی به دفتر مدیر اطلاعات ملی آمریکا و تعدادی از بزرگترین شرکتهای هوش مصنوعی چین، از جمله DeepSeek، Alibaba و Moonshot AI، خواسته است آمادگی خود را برای مواجهه با سناریوهایی بررسی کنند که در آن عاملهای هوش مصنوعی از کنترل خارج میشوند.
هدف نهایی او ایجاد چارچوبی مشترک میان واشنگتن و پکن برای کنترل توسعه سیستمهای بسیار پیشرفته هوش مصنوعی است.
نگرانی از خارج شدن عاملهای هوش مصنوعی از کنترل
یکی از محورهای اصلی درخواست خانا، بررسی توانایی آمریکا برای واکنش به شرایطی است که عاملهای یک آزمایشگاه هوش مصنوعی رفتار غیرمنتظره یا خارج از کنترل نشان دهند.
او از دفتر مدیر اطلاعات ملی آمریکا خواسته ارزیابی کند که ایالات متحده در چنین شرایطی تا چه اندازه قادر به واکنش مؤثر خواهد بود.
خانا همچنین خواستار بررسی نحوه مواجهه دولت چین با خطرات بالقوه و فاجعهبار هوش مصنوعی شده است.
به اعتقاد او، نتایج چنین بررسیهایی میتواند در اختیار کنگره و کاخ سفید قرار گیرد و در آینده مبنایی برای مذاکرات رسمی با چین باشد.
خانا معتقد است با وجود اختلافات عمیق واشنگتن و پکن، از دست رفتن کنترل انسان بر سیستمهای هوش مصنوعی پیشرفته خطری است که جلوگیری از آن میتواند در راستای منافع هر دو کشور باشد.
نامه به DeepSeek، Alibaba و Moonshot AI
خانا علاوه بر نهادهای اطلاعاتی آمریکا، نامههایی برای چند شرکت بزرگ هوش مصنوعی چین از جمله DeepSeek، Alibaba و Moonshot AI ارسال کرده است.
او از این شرکتها درباره فعالیتهایشان در زمینه توسعه سیستمهای بسیار پیشرفته، ابرهوش و مفهوم «خودبهبود بازگشتی» سؤال کرده است.
خودبهبود بازگشتی به سناریویی اشاره دارد که در آن یک سیستم هوش مصنوعی بتواند تواناییهای خود را بهبود دهد و نسخههای بعدی یا قدرتمندتری از خود ایجاد کند.
خانا همچنین درباره سازوکارهای حفاظتی این شرکتها، امکان استفاده از کلیدهای توقف اضطراری و آمادگی آنها برای پذیرش بازرسی توسط نهادهای مستقل در صورت دستیابی به یک توافق بینالمللی سؤال کرده است.
تا زمان انتشار گزارش The Verge، شرکتهای موردنظر و دفتر مدیر اطلاعات ملی آمریکا پاسخی عمومی به این درخواستها ارائه نکرده بودند.
هدف؛ توافق آمریکا و چین بر سر ایمنی هوش مصنوعی
هدف بلندمدت خانا دستیابی به توافقی میان آمریکا و چین برای کنترل برخی از پرریسکترین مسیرهای توسعه هوش مصنوعی است.
یکی از پیشنهادهای او محدودکردن یا ممنوعیت توسعه «خودبهبود بازگشتی» و ایجاد سازوکاری برای نظارت بر آزمایشگاههای پیشرو هوش مصنوعی است.
بااینحال، خود خانا نیز اذعان کرده است که دستیابی سریع به چنین توافق گستردهای دشوار خواهد بود.
به همین دلیل، او در کوتاهمدت پیشنهاد تشکیل یک کارگروه مشترک متشکل از متخصصان آمریکایی و چینی را مطرح کرده است.
این گروه میتواند روی استانداردهای ایمنی، روشهای نظارت و سازوکارهایی برای اطمینان از اجرای تعهدات دو طرف کار کند.
اختلاف نظر بر سر اعتماد به چین
ایده همکاری واشنگتن و پکن در حوزه ایمنی هوش مصنوعی با مخالفتهایی نیز روبهرو است.
برخی قانونگذاران آمریکایی نسبت به امکان نظارت مؤثر بر تعهدات چین و پایبندی پکن به توافق احتمالی تردید دارند.
در مقابل، خانا معتقد است خطر سیستمهای بسیار پیشرفته هوش مصنوعی میتواند زمینهای محدود برای همکاری دو کشور ایجاد کند؛ حتی در شرایطی که آمریکا و چین در بسیاری از حوزههای فناوری، اقتصادی و امنیتی رقیب یکدیگر هستند.
او پیشتر نیز از شرکتهای چینی خواسته بود در کنار آزمایشگاههای آمریکایی برای کاهش سرعت توسعه سیستمهای هوش مصنوعی بسیار پیشرفته همکاری کنند.
شرکتهای هوش مصنوعی خودشان نباید درباره ایمنی تصمیم بگیرند
خانا همزمان از رویکردی که مسئولیت اصلی تعیین استانداردهای ایمنی را به خود شرکتهای فناوری واگذار میکند، انتقاد کرده است.
به اعتقاد او، شرکتهایی که انگیزه اقتصادی و رقابتی قدرتمندی برای توسعه سریعتر مدلهای هوش مصنوعی دارند، نباید تنها مرجع تصمیمگیری درباره ایمنی این فناوری باشند.
او این وضعیت را با صنعت داروسازی مقایسه کرده و این پرسش را مطرح کرده است که آیا تعیین استانداردهای ایمنی داروها نیز باید صرفاً به مدیران شرکتهای دارویی سپرده شود؟
این موضوع در شرایطی مطرح میشود که دولت آمریکا و مدیران بزرگترین شرکتهای فناوری این کشور نیز در حال بررسی مدلهای مختلف برای نظارت بر توسعه سیستمهای پیشرفته هوش مصنوعی هستند.
خطر AI به موضوعی فراتر از رقابت آمریکا و چین تبدیل میشود
نگرانی درباره رفتار عاملهای پیشرفته هوش مصنوعی در ماههای اخیر افزایش یافته است.
تحقیقات و آزمایشهای کنترلشده نشان دادهاند برخی عاملهای مبتنی بر مدلهای پیشرفته، چه آمریکایی و چه چینی، در سناریوهای آزمایشی میتوانند رفتارهایی مانند فریب، دور زدن محدودیتها یا تلاش برای جلوگیری از خاموش شدن از خود نشان دهند.
این رفتارها در محیطهای آزمایشی مشاهده شدهاند و بهمعنای خارج شدن واقعی سیستمهای هوش مصنوعی کنونی از کنترل نیستند؛ بااینحال، به یکی از محورهای مهم تحقیقات ایمنی AI تبدیل شدهاند.
خانا معتقد است متخصصان فنی و مهندسان باید نقش پررنگتری در این بحث داشته باشند و تصمیمگیری درباره آینده هوش مصنوعی نباید صرفاً در اختیار سیاستمداران یا مدیران شرکتهای فناوری قرار گیرد.
در نهایت، پیشنهاد او تلاش برای تبدیل ایمنی هوش مصنوعی از موضوعی رقابتی میان آمریکا و چین به مسئلهای مشترک است؛ موضوعی که با قدرتمندتر شدن مدلها و عاملهای خودمختار، احتمالاً اهمیت بیشتری در روابط دو کشور پیدا خواهد کرد.
دیدگاهها