بحث درباره کاهش سرعت توسعه هوش مصنوعی وارد مرحله تازهای شده است. شماری از مهمترین چهرههای صنعت AI، از جمله سم آلتمن، داریو آمودی، دمیس هسابیس و ایلان ماسک، در روزهای اخیر از ایدهای با عنوان «Pace the Frontier» حمایت کردهاند؛ رویکردی که هدف آن ایجاد فاصله بیشتر میان پیشرفت قابلیتهای مدلهای پیشرفته و توسعه ابزارهای ایمنی برای کنترل آنها است.
بااینحال، این پیشنهاد با انتقاد جدی برخی فعالان و کارشناسان روبهرو شده است. مخالفان میگویند هماهنگی میان بزرگترین شرکتهای AI ممکن است در نهایت به نفع همان شرکتها تمام شود، ورود رقبا را دشوارتر کند و بهجای مقررات واقعی، نوعی خودتنظیمی تحت کنترل صنعت ایجاد کند.
طرح داریو آمودی برای کندکردن «مرز هوش مصنوعی»
داریو آمودی، مدیرعامل Anthropic، اخیراً در یادداشتی با عنوان We Must Pace the Frontier خواستار کاهش سرعت رشد قابلیتهای مدلهای پیشرفته شد.
او تأکید میکند منظور از این پیشنهاد توقف کامل آموزش مدلها یا متوقفکردن پیشرفت فنی نیست. ایده اصلی این است که شرکتها به اندازه کافی زمان در اختیار تیمهای ایمنی و ارزیابی قرار دهند تا پیش از جهش بعدی مدلها، خطرهای احتمالی بررسی شوند.
طرح آمودی سه بخش اصلی دارد.
بخش نخست، حضور ارزیابان مستقل در داخل شرکتهای توسعهدهنده مدلهای مرزی است. این گروهها باید دسترسیای مشابه کارکنان داشته باشند تا بتوانند فرایند آموزش مدل، اقدامات ایمنی و رخدادهای احتمالی را بررسی کنند.
بخش دوم به هماهنگی میان شرکتهای پیشرو در کشورهای دموکراتیک مربوط میشود تا استانداردهای مشترک ایمنی و محدودیتهایی برای سرعت توسعه بدون کنترل ایجاد شود.
مرحله سوم نیز به هماهنگی جهانی مربوط است؛ موضوعی که بدون مشارکت قدرتهایی مانند چین بسیار دشوار خواهد بود.
Anthropic خودش قدم اول را اجرا میکند
Anthropic اعلام کرده برای نخستین بخش این طرح منتظر سایر شرکتها نمیماند و قصد دارد دسترسی دائمیتری به ارزیابان مستقل ارائه کند.
این ارزیابان میتوانند به ابزارها، فرایندها و اطلاعاتی دسترسی داشته باشند که امکان بررسی دقیقتر ادعاهای ایمنی شرکت را فراهم میکند.
آمودی معتقد است تعهدهای داوطلبانه بدون امکان راستیآزمایی ارزش محدودی دارند و شرکتها باید اجازه دهند طرفهای مستقل بررسی کنند که آیا واقعاً به وعدههای ایمنی خود پایبند هستند یا خیر.
سم آلتمن نیز از ایده ارزیابان مستقل حمایت کرده و گفته OpenAI قصد دارد اقدام مشابهی انجام دهد.
دمیس هسابیس، مدیر Google DeepMind، نیز پیشنهاد آمودی را مسیری درست توصیف کرده و ایلان ماسک هم بهصورت علنی از موضع او حمایت کرده است.
چرا حالا شرکتهای AI نگران شدهاند؟
یکی از اصلیترین دلایل این تغییر موضع، پیشرفت سریع هوش مصنوعی در زمینه توسعه نسل بعدی مدلهای AI است.
این مفهوم با عنوان Recursive Self-Improvement یا «خودبهبودی بازگشتی» شناخته میشود؛ نقطهای که در آن سیستمهای هوش مصنوعی نقش فزایندهای در توسعه، آموزش و بهبود نسل بعدی خود پیدا میکنند.
آمودی میگوید سرعت پیشرفت در این زمینه طی ماههای اخیر بهطور قابلتوجهی افزایش یافته است و اگر این روند بدون کنترل ادامه پیدا کند، ممکن است توانایی انسان برای درک و کنترل سیستمها از سرعت پیشرفت آنها عقب بماند.
او همچنین به رخدادهای اخیر مربوط به عاملهای هوش مصنوعی اشاره میکند که در برخی آزمایشها رفتارهای پیشبینینشده یا خارج از هدف تعیینشده نشان دادهاند.
بیش از ۱۳۰۰ کارمند شرکتهای AI قبلاً خواستار کاهش سرعت شده بودند
فشار برای کنترل سرعت توسعه فقط از مدیران شرکتها آغاز نشده است.
در ژوئیه ۲۰۲۶ بیانیهای با عنوان Pacing the Frontier منتشر شد که ۱۳۸۶ نفر از کارکنان شرکتهای فعال در مرز هوش مصنوعی آن را امضا کردند.
در میان امضاکنندگان نام پژوهشگران و مدیرانی از OpenAI، Anthropic، Google DeepMind و Meta دیده میشود.
این بیانیه از دولت آمریکا میخواهد برای ایجاد ابزارهای فنی و مدیریتی لازم جهت کنترل سرعت توسعه AI، یک تلاش بینالمللی را حمایت کند.
استدلال اصلی امضاکنندگان این است که هیچ شرکت یا کشوری نمیتواند بهتنهایی سرعت خود را کاهش دهد؛ زیرا در چنین شرایطی خطر عقبماندن از رقبا وجود دارد.
اما منتقدان از «کارتل AI» میگویند
همزمان با حمایت گسترده از ایده کاهش سرعت، نگرانیهایی درباره انگیزه شرکتهای بزرگ نیز مطرح شده است.
برخی منتقدان میگویند اگر شرکتهایی که هماکنون پیشرفتهترین مدلها، بیشترین سرمایه و بزرگترین زیرساختهای محاسباتی را در اختیار دارند، قوانین ورود به حوزه مدلهای مرزی را تعیین کنند، شرکتهای کوچکتر با هزینه بسیار بیشتری روبهرو خواهند شد.
از این زاویه، مقررات سنگین میتواند موقعیت OpenAI، Anthropic، Google و دیگر بازیگران بزرگ را تثبیت کند و توسعهدهندگان کوچک یا پروژههای متنباز را تحت فشار قرار دهد.
همین موضوع باعث شده برخی منتقدان این هماهنگی احتمالی را حتی به تشکیل نوعی «کارتل AI» تشبیه کنند.
خطر Safety-Washing
نگرانی دیگری که کارشناسان مطرح کردهاند، پدیدهای است که میتوان آن را Safety-Washing نامید.
در این سناریو، شرکتها مجموعهای از ارزیابیها، گزارشها و تعهدات ایمنی ارائه میکنند که در ظاهر سختگیرانه به نظر میرسند، اما در عمل سرعت توسعه قابلیتهای اصلی آنها کاهش چندانی پیدا نمیکند.
به همین دلیل برخی پژوهشگران معتقدند هر توافقی برای کاهش سرعت AI باید قابلاندازهگیری، قابلراستیآزمایی و قابلاجرا باشد.
برای نمونه، پیشنهادهایی مطرح شده که ارزیابان مستقل باید بتوانند به اطلاعات مربوط به بودجه محاسباتی شرکتها نیز دسترسی داشته باشند تا مشخص شود آیا سرعت تحقیق و توسعه واقعاً کاهش یافته است یا خیر.
چین همچنان بزرگترین مانع است
حتی در صورت توافق شرکتهای آمریکایی، یک مشکل بزرگ باقی میماند: رقابت بینالمللی.
مدیران و سیاستگذاران آمریکایی سالها است استدلال میکنند که کاهش سرعت توسعه AI در آمریکا میتواند فرصت پیشیگرفتن را در اختیار چین قرار دهد.
در مقابل، حامیان هماهنگی بینالمللی میگویند ریسک سیستمهای بسیار قدرتمند AI محدود به یک کشور نیست و رقابت بدون کنترل میتواند برای همه طرفها خطرناک باشد.
آمودی نیز در پیشنهاد خود تأکید کرده هرگونه توافق جهانی باید امکان راستیآزمایی بسیار قدرتمندی داشته باشد؛ زیرا نقض مخفیانه چنین توافقی میتواند تعادل قدرت میان کشورها را تغییر دهد.
ایمنی واقعی یا حفظ جایگاه غولهای فناوری؟
درحالحاضر هیچ توافق الزامآور و رسمی برای توقف یا کاهش سرعت توسعه هوش مصنوعی وجود ندارد. آنچه شکل گرفته مجموعهای از حمایتهای عمومی، تعهدهای داوطلبانه و پیشنهادهایی برای نظارت مستقل است.
همین موضوع باعث شده قضاوت درباره انگیزه واقعی شرکتها دشوار باشد.
از یک طرف، نگرانی درباره سرعت توسعه مدلهای پیشرفته و قابلیتهایی مانند خودبهبودی بازگشتی در میان بسیاری از پژوهشگران جدی است. از طرف دیگر، نمیتوان نادیده گرفت که وضع استانداردهای پرهزینه میتواند به بزرگترین شرکتهای صنعت مزیت رقابتی بیشتری بدهد.
در نهایت، تفاوت میان یک «پیمان ایمنی» واقعی و یک سازوکار برای تثبیت قدرت شرکتهای بزرگ، احتمالاً به یک عامل بستگی خواهد داشت: اینکه تعهدهای مطرحشده تا چه اندازه مستقل، شفاف، قابلاندازهگیری و الزامآور شوند.
دیدگاهها