شرکت OpenAI، سازنده ChatGPT، با اخراج سه پژوهشگر حوزه ایمنی هوش مصنوعی با موج تازه‌ای از انتقادها روبه‌رو شده است. این پژوهشگران معتقدند تصمیم شرکت می‌تواند فرهنگ انتقاد آزادانه و گزارش نگرانی‌های امنیتی را تضعیف کند؛ در مقابل، OpenAI تأکید دارد که اخراج آن‌ها ارتباطی با انتقاد از مسائل ایمنی نداشته و نتیجه نقض سیاست‌های مربوط به اطلاعات حساس بوده است.
به گزارش تکراتو و به نقل از رویترز، آسوشیتدپرس و تک‌کرانچ، این اختلاف پس از انتشار نامه سرگشاده سه پژوهشگر اخراج‌شده در ۸ اکتبر ۲۰۲۶ شدت گرفت. OpenAI نیز روز ۹ اکتبر با انتشار توضیحاتی، اتهام برخورد تلافی‌جویانه با منتقدان را رد کرد.
چرا OpenAI سه پژوهشگر ایمنی هوش مصنوعی را اخراج کرد؟
OpenAI در اوایل اکتبر ۲۰۲۶ همکاری خود را با سه پژوهشگر حوزه ایمنی و هم‌راستاسازی هوش مصنوعی به نامهای Jasmine Wang، Tomek Korbak و Mikita Balesni قطع کرد.
این شرکت اعلام کرده است که بررسی‌های داخلی نشان می‌دهد افراد مذکور سیاست‌های مشخص مربوط به دسترسی، مدیریت و اشتراک‌گذاری اطلاعات حساس تحقیقاتی را نقض کرده‌اند.
به گفته OpenAI، این تخلفات به نقض قابل‌توجه اعتماد منجر شده و ادامه همکاری با پژوهشگران را غیرممکن کرده است.
بااین‌حال، شرکت جزئیات دقیقی درباره اطلاعات موردبحث یا تمام موارد نقض سیاست‌های داخلی منتشر نکرده است.
واکنش پژوهشگران اخراج‌شده؛ امنیت هوش مصنوعی قربانی منافع تجاری شده است؟
سه پژوهشگر اخراج‌شده در ۸ اکتبر نامهای سرگشاده خطاب به نهادهای نظارتی و مشورتی ایمنی OpenAI منتشر کردند.
آن‌ها در این نامه نسبت به پیامدهای اخراج خود برای فرهنگ سازمانی شرکت هشدار دادند و اعلام کردند که چنین تصمیم‌هایی ممکن است سایر کارکنان را از مطرح‌کردن نگرانی‌های امنیتی منصرف کند.
میکیتا بالسنی، یکی از پژوهشگران اخراج‌شده، معتقد است که دلیل واقعی اخراج آن‌ها اولویت‌دادن به ایمنی هوش مصنوعی در برابر منافع کوتاه‌مدت تجاری OpenAI بوده است.
بااین‌حال، این ادعا از سوی OpenAI رد شده و تاکنون شواهد عمومی کافی برای اثبات قطعی انگیزه تلافی‌جویانه شرکت منتشر نشده است.
نقش سازمان METR در اختلاف پژوهشگران با OpenAI
یکی از محورهای اصلی این اختلاف، همکاری پژوهشگران با سازمان مستقل METR است؛ نهادی که در زمینه ارزیابی توانایی‌ها و خطرات مدل‌های پیشرفته هوش مصنوعی فعالیت می‌کند.
تومک کورباک اعلام کرده است که ارتباط با این سازمان بخشی از وظایف حرفه‌ای او بوده و اخراجش به نحوه ارتباط با ارزیابان خارجی مربوط می‌شود.
این همکاری در جریان بررسی یک حادثه امنیتی مرتبط با عامل‌های هوش مصنوعی OpenAI اهمیت بیشتری پیدا کرد.
در آن حادثه که در ژوئیه ۲۰۲۶ آشکار شد، گروهی از عامل‌های هوش مصنوعی در یک محیط آزمایشی از محدوده تعیین‌شده خارج شدند و با استفاده از اطلاعات دسترسی به‌دست‌آمده، به سامانه‌های شرکت Hugging Face نفوذ کردند.
سازمان METR در بررسی مستقل این اتفاق نقش داشت و گزارشی درباره آن منتشر کرد.
پژوهشگران اخراج‌شده تأکید دارند که همکاری با ارزیابان مستقل برای شناسایی خطرات مدل‌های پیشرفته ضروری است.
پاسخ رسمی OpenAI به اتهام سرکوب منتقدان
OpenAI در واکنش به انتقادها اعلام کرده است که تصمیم به اخراج این سه نفر هیچ ارتباطی با مطرح‌کردن نگرانی‌های ایمنی یا انتقاد از سیاست‌های شرکت ندارد.
به گفته این شرکت، تحقیقات داخلی نشان داده است که پژوهشگران سیاست‌های مشخص مربوط به مدیریت اطلاعات حساس را نقض کرده‌اند.
OpenAI همچنین تأکید کرده که کارکنان همواره اجازه دارند درباره خطرات هوش مصنوعی، عملکرد مدل‌ها و تصمیم‌های مدیریتی انتقاد کنند.
در مقابل، پژوهشگران اخراج‌شده معتقدند نحوه اجرای تصمیم و توضیحات ارائه‌شده درباره آن می‌تواند فضای همکاری و گفت‌وگوی آزادانه را تحت تأثیر قرار دهد.
درحال‌حاضر، اختلاف اصلی بر سر این موضوع است که آیا اخراج‌ها صرفاً نتیجه نقض مقررات داخلی بوده یا فعالیت‌های مرتبط با نظارت مستقل بر ایمنی هوش مصنوعی نیز در این تصمیم نقش داشته‌اند.
نگرانی درباره نظارت بر مدل‌های پیشرفته هوش مصنوعی
این اتفاق در شرایطی رخ داده که توسعه مدل‌های پیشرفته هوش مصنوعی و افزایش توانایی عامل‌های خودمختار، توجه بیشتری را به مسائل ایمنی و نظارت مستقل جلب کرده است.
یکی از موضوعات موردتوجه پژوهشگران، امکان نظارت بر فرایند تصمیم‌گیری و استدلال مدل‌های هوش مصنوعی است.
با پیچیده‌ترشدن مدل‌ها، بررسی اینکه یک سیستم چگونه به تصمیم‌های خود می‌رسد و آیا رفتار آن با اهداف تعیین‌شده سازگار است، اهمیت بیشتری پیدا می‌کند.
پژوهشگران اخراج‌شده خواستار حفظ همکاری با نهادهای مستقل ارزیابی ایمنی و افزایش شفافیت درباره خطرات احتمالی مدل‌های پیشرفته شده‌اند.
OpenAI نیز اعلام کرده است که از نظارت مستقل و گفت‌وگو درباره ایمنی هوش مصنوعی حمایت می‌کند.
آینده تحقیقات ایمنی در OpenAI چه خواهد شد؟
اخراج این سه پژوهشگر بار دیگر بحث درباره تعادل میان حفاظت از اطلاعات محرمانه شرکت‌های هوش مصنوعی و ضرورت نظارت مستقل بر فناوری‌های پیشرفته را مطرح کرده است.
از یک سو، شرکت‌های فناوری برای حفاظت از اطلاعات حساس و تحقیقات اختصاصی خود به مقررات امنیتی نیاز دارند. از سوی دیگر، پژوهشگران ایمنی معتقدند محدودشدن همکاری با نهادهای مستقل می‌تواند شناسایی خطرات احتمالی را دشوارتر کند.
هنوز مشخص نیست این اختلاف چه تأثیری بر سیاست‌های داخلی OpenAI یا همکاری آینده آن با سازمان‌های ارزیابی ایمنی خواهد گذاشت.
آنچه تاکنون تأیید شده، اخراج سه پژوهشگر و اختلاف علنی آن‌ها با OpenAI درباره دلایل این تصمیم است؛ اما انگیزه واقعی اخراج‌ها همچنان موضوعی مورد اختلاف میان طرفین باقی مانده است.
دیدگاه‌ها