زاکربرگ با کاهش سرعت توسعه هوش مصنوعی مخالفت کرد؛ شرکت‌ها خودشان انگیزه کافی برای ایمنی دارند

مارک زاکربرگ با پیشنهاد کاهش هماهنگ سرعت توسعه هوش مصنوعی مخالفت کرده و می‌گوید شرکت‌های فعال در این حوزه همین حالا هم انگیزه کافی برای ساخت سیستم‌های ایمن دارند.

مدیرعامل Meta معتقد است خطرات AI باید جدی گرفته شوند، اما راه‌حل آن توقف یا کاهش هماهنگ سرعت پیشرفت مدل‌ها نیست. به گفته او، فشار رقابتی، مسئولیت حقوقی و خطر آسیب به اعتبار شرکت‌ها باعث می‌شود آزمایشگاه‌های بزرگ هوش مصنوعی به‌صورت مستقل روی ایمنی سرمایه‌گذاری کنند.

زاکربرگ با طرح «کاهش سرعت» موافق نیست

این موضع در تضاد مستقیم با پیشنهادهایی است که طی روزهای اخیر از سوی چهره‌هایی مانند داریو آمودی، سم آلتمن و ایلان ماسک مطرح شده‌اند.

آمودی، مدیرعامل Anthropic، خواستار ایجاد فاصله بیشتر میان پیشرفت قابلیت‌های مدل‌های مرزی و توسعه سازوکارهای ایمنی شده است. بخشی از این پیشنهاد شامل هماهنگی میان شرکت‌ها و استفاده از ارزیابان مستقل برای بررسی مدل‌های پیشرفته می‌شود.

زاکربرگ با اصل استفاده از ارزیابی مستقل مخالفتی ندارد، اما معتقد است برای رسیدن به این هدف نیازی به توافق هماهنگ میان شرکت‌ها برای کاهش سرعت توسعه وجود ندارد.

متا می‌گوید در صورت نیاز محصول را عقب می‌اندازد

زاکربرگ برای اثبات اینکه شرکت‌ها می‌توانند بدون فشار هماهنگ بیرونی تصمیم‌های ایمنی بگیرند، به تجربه Meta اشاره کرده است.

این شرکت عرضه برخی قابلیت‌های عامل هوش مصنوعی Muse را به‌دلیل نگرانی‌های امنیتی به تعویق انداخت تا پیش از عرضه عمومی، مشکلات بیشتری را برطرف کند.

Meta در تابستان امسال نسخه Muse Spark 1.1 را معرفی کرد؛ مدلی که می‌تواند برای کاربر برنامه‌ریزی کند، به ایمیل و تقویم متصل شود و برخی کارها را به‌صورت عامل‌محور انجام دهد.

اختلاف بر سر هماهنگی شرکت‌های بزرگ بیشتر شده است

بحث فقط درباره ایمنی نیست و جنبه رقابتی هم پیدا کرده است.

برخی مقام‌های آمریکایی نسبت به درخواست شرکت‌های AI برای هماهنگی بیشتر یا دریافت معافیت‌های ضدانحصار ابراز تردید کرده‌اند.

نگرانی اصلی این است که اگر شرکت‌های بزرگ هم‌زمان خواستار مقررات جدید و معافیت از قوانین رقابت باشند، ممکن است چنین اقداماتی در نهایت ورود شرکت‌های کوچک‌تر را دشوارتر کند.

OpenAI، Anthropic و Google درحال همکاری روی ایمنی هستند

در سوی دیگر، گزارش‌ها نشان می‌دهند OpenAI، Anthropic و Google DeepMind طی هفته‌های اخیر درباره همکاری در زمینه ایمنی AI گفت‌وگو کرده‌اند.

این شرکت‌ها معتقدند بخشی از هماهنگی‌های ایمنی را می‌توان بدون نیاز به معافیت ضدانحصار انجام داد.

اختلاف اصلی میان شرکت‌ها لزوماً بر سر اهمیت ایمنی نیست، بلکه بیشتر درباره نحوه اجرای آن و این سؤال است که آیا کاهش سرعت توسعه باید بخشی از راه‌حل باشد یا نه.

رقابت AI همچنان ادامه دارد

زاکربرگ در حالی با کاهش هماهنگ سرعت توسعه مخالفت می‌کند که Meta سرمایه‌گذاری گسترده‌ای روی زیرساخت، تراشه و مدل‌های هوش مصنوعی انجام داده است.

این شرکت برنامه دارد چند نسل جدید از تراشه‌های اختصاصی خود را برای پردازش بارهای کاری AI توسعه دهد و استراتژی‌اش همچنان بر توسعه سریع سخت‌افزار و نرم‌افزار متمرکز است.

در نتیجه، اختلاف جدید میان مدیران صنعت AI را می‌توان به دو دیدگاه اصلی تقسیم کرد: گروهی که معتقدند سرعت مدل‌های مرزی باید کاهش یابد تا سیستم‌های ایمنی فرصت جبران داشته باشند و گروهی مانند زاکربرگ که می‌گویند رقابت، مسئولیت حقوقی و ارزیابی مستقل برای مدیریت خطرها کافی هستند.