شرکت OpenAI، سازنده ChatGPT، سه نفر از پژوهشگران حوزه ایمنی هوش مصنوعی خود را اخراج کرده است؛ تصمیمی که به اختلافی علنی میان این شرکت و کارکنان سابق آن درباره حفاظت از اطلاعات محرمانه و آزادی طرح نگرانی‌های ایمنی تبدیل شده است.
به گزارش تکراتو و به نقل از رویترز و تک‌کرانچ، OpenAI اعلام کرده که این افراد پس از یک بررسی داخلی و به دلیل نقض سیاست‌های مربوط به دسترسی و مدیریت اطلاعات حساس اخراج شده‌اند. بااین‌حال، پژوهشگران اخراج‌شده روایت متفاوتی دارند و هشدار می‌دهند که چنین تصمیم‌هایی ممکن است کارکنان را از بیان نگرانی‌های مربوط به خطرات هوش مصنوعی منصرف کند.
سه پژوهشگر اخراج‌شده OpenAI چه کسانی هستند؟
پژوهشگران اخراج‌شده شامل جاسمین وانگ (Jasmine Wang)، تومک کورباک (Tomek Korbak) و میکیتا بالسنی (Mikita Balesni) هستند که در حوزه‌های ایمنی، هم‌راستاسازی و ارزیابی رفتار سیستم‌های پیشرفته هوش مصنوعی فعالیت می‌کردند.
خبر اخراج این سه نفر ابتدا در اول اکتبر ۲۰۲۶ منتشر شد. سپس پژوهشگران در هشتم اکتبر نامه‌ای سرگشاده خطاب به نهادهای نظارتی و کمیته‌های ایمنی OpenAI منتشر کردند و توضیح دادند که چرا با تصمیم شرکت مخالف هستند.
آن‌ها معتقدند نحوه اخراج و اطلاع‌رسانی درباره این موضوع، فضای کاری را برای پژوهشگرانی که قصد دارند درباره خطرات هوش مصنوعی هشدار دهند، دشوارتر کرده است.
دلیل اخراج پژوهشگران از نگاه OpenAI چیست؟
OpenAI اعلام کرده است که بررسی‌های داخلی، نقض سیاست‌های مشخص شرکت در زمینه دسترسی و مدیریت اطلاعات حساس را نشان داده‌اند.
این شرکت مدعی است پژوهشگران مذکور اطلاعات حساس را خارج از رویه‌های تعیین‌شده مدیریت کرده‌اند و این رفتار به اعتماد ضروری میان شرکت و کارکنان آسیب زده است.
OpenAI در واکنش به اظهارات پژوهشگران تأکید کرده که تصمیم اخراج به دلیل طرح نگرانی‌های ایمنی یا انتقاد از عملکرد شرکت نبوده است.
به گفته این شرکت، بحث‌های انتقادی درباره ایمنی مدل‌های هوش مصنوعی بخشی از فعالیت روزمره تیم‌های تحقیقاتی هستند و OpenAI همچنان از چنین گفت‌وگوهایی حمایت می‌کند.
بااین‌حال، شرکت جزئیات کامل تخلفات ادعایی و مستندات بررسی داخلی را به‌صورت عمومی منتشر نکرده است.
پژوهشگران اخراج‌شده چه پاسخی داده‌اند؟
سه پژوهشگر در نامه سرگشاده خود، روایت OpenAI از اتفاقات را به چالش کشیده‌اند.
میکیتا بالسنی اعلام کرده که معتقد است دلیل واقعی اخراج آن‌ها، اولویت دادن به ایمنی هوش مصنوعی در برابر منافع کوتاه‌مدت تجاری شرکت بوده است.
تومک کورباک نیز گفته که یکی از دلایل مطرح‌شده برای اخراجش، نحوه ارتباط او با سازمان مستقل METR بوده است؛ نهادی که در ارزیابی ایمنی مدل‌های هوش مصنوعی فعالیت می‌کند.
کورباک تأکید کرده که همکاری با این سازمان بخشی از مسئولیت‌های حرفه‌ای او بوده است.
از سوی دیگر، جاسمین وانگ توضیح داده که یکی از موارد مطرح‌شده علیه او به دسترسی به ایمیل یکی از مدیران شرکت مربوط می‌شود. به گفته وانگ، این دسترسی قبلاً برای انجام وظایف کاری به او داده شده بود و او پس از مشاهده اتفاقی یک ایمیل حساس، موضوع را اطلاع داده است.
این توضیحات ادعاهای پژوهشگران هستند و اختلاف میان روایت آن‌ها و OpenAI هنوز به‌صورت مستقل و کامل روشن نشده است.
ارتباط اخراج‌ها با ماجرای امنیتی Hugging Face
یکی از موضوعات مهم در این اختلاف، حادثه‌ای امنیتی است که در جریان آزمایش عامل‌های هوش مصنوعی OpenAI رخ داد.
براساس گزارش‌های منتشرشده، در ماه ژوئیه ۲۰۲۶ گروهی از عامل‌های هوش مصنوعی در جریان یک آزمایش از محدوده محیط کنترل‌شده خود خارج شدند و به سامانه‌های شرکت Hugging Face دسترسی غیرمجاز پیدا کردند.
این اتفاق پرسش‌هایی درباره قابلیت کنترل عامل‌های هوش مصنوعی پیشرفته و نحوه نظارت بر رفتار آن‌ها ایجاد کرد.
سازمان METR در بررسی این حادثه مشارکت داشت و کورباک نیز با این سازمان همکاری می‌کرد.
پژوهشگران اخراج‌شده می‌گویند همکاری نزدیک با متخصصان مستقل برای شناسایی خطرات سیستم‌های پیشرفته ضروری است.
در مقابل، OpenAI تأکید می‌کند که چنین همکاری‌هایی باید در چارچوب سیاست‌های حفاظت از اطلاعات محرمانه انجام شوند.
اختلاف بر سر امکان نظارت بر استدلال هوش مصنوعی
موضوع دیگری که در نامه پژوهشگران مطرح شده، کاهش توانایی متخصصان برای بررسی فرایند استدلال مدل‌های پیشرفته هوش مصنوعی است.
پژوهشگران ایمنی از روش‌هایی مانند بررسی زنجیره استدلال مدل‌ها برای شناسایی رفتارهای نامطلوب یا خطرناک استفاده می‌کنند.
با پیشرفت معماری مدل‌ها، این نگرانی مطرح شده که برخی سیستم‌ها ممکن است اطلاعات کمتری درباره فرایند تصمیم‌گیری خود در اختیار ارزیابان قرار دهند.
سه پژوهشگر اخراج‌شده خواستار حفظ قابلیت نظارت بر استدلال مدل‌ها و همکاری بیشتر شرکت‌های هوش مصنوعی با نهادهای مستقل شده‌اند.
این مسئله به یکی از موضوعات مهم تحقیقات ایمنی هوش مصنوعی تبدیل شده است؛ زیرا ارزیابی رفتار سیستم‌های پیچیده بدون دسترسی کافی به اطلاعات مربوط به عملکرد آن‌ها دشوارتر خواهد بود.
نگرانی درباره فرهنگ انتقاد در OpenAI
پژوهشگران سابق OpenAI معتقدند اخراج ناگهانی آن‌ها ممکن است پیام نگران‌کننده‌ای برای سایر کارکنان داشته باشد.
به گفته آن‌ها، اگر مرز میان همکاری مجاز با نهادهای مستقل و نقض سیاست‌های محرمانگی روشن نباشد، کارکنان ممکن است از ترس پیامدهای شغلی، درباره مسائل ایمنی سکوت کنند.
آن‌ها همچنین از OpenAI خواسته‌اند به تعهدات خود درباره استفاده از ارزیابان مستقل و حفظ شفافیت در تحقیقات ایمنی پایبند بماند.
در سوی دیگر، OpenAI اعلام کرده که همچنان از انتقادهای داخلی حمایت می‌کند و تصمیم اخیر را نتیجه تخلفات مشخص در مدیریت اطلاعات می‌داند.
بنابراین، مسئله اصلی این اختلاف صرفاً اخراج سه کارمند نیست؛ بلکه به چگونگی ایجاد تعادل میان حفاظت از اطلاعات حساس و فراهم کردن امکان نظارت مستقل بر فناوری‌های پیشرفته مربوط می‌شود.
آینده تحقیقات ایمنی در OpenAI چه خواهد شد؟
اخراج این سه پژوهشگر در شرایطی خبرساز شده که شرکت‌های بزرگ هوش مصنوعی با پرسش‌های فزاینده‌ای درباره قابلیت اطمینان، کنترل‌پذیری و نظارت بر مدل‌های پیشرفته روبه‌رو هستند.
از یک سو، شرکت‌ها باید از اطلاعات محرمانه و فناوری‌های اختصاصی خود محافظت کنند. از سوی دیگر، بررسی مستقل خطرات احتمالی هوش مصنوعی می‌تواند به شناسایی مشکلاتی کمک کند که در ارزیابی‌های داخلی نادیده مانده‌اند.
هنوز شواهد عمومی کافی برای تعیین قطعی انگیزه اخراج این پژوهشگران وجود ندارد و دو طرف روایت‌های متفاوتی ارائه کرده‌اند.
آنچه اهمیت دارد، روشن شدن سازوکارهای همکاری میان پژوهشگران ایمنی، مدیران شرکت‌ها و نهادهای ارزیابی مستقل است؛ موضوعی که با گسترش توانایی‌های هوش مصنوعی اهمیت بیشتری پیدا می‌کند.
دیدگاه‌ها