شرکت OpenAI با هدف افزایش امنیت مدل‌های پیشرفته هوش مصنوعی، تصمیم گرفته است دسترسی مستقیم محیط‌های آموزش این مدل‌ها به اینترنت را محدود کند. این اقدام بخشی از برنامه گسترده‌تر شرکت برای جلوگیری از انتقال غیرمجاز اطلاعات و کاهش خطر سوءاستفاده از قابلیت‌های مدل‌های قدرتمند است.
براساس گزارش رسمی OpenAI درباره امنیت محیط آموزش مدل‌های پیشرفته، آزمایش‌های داخلی نشان داده‌اند که برخی عامل‌های هوش مصنوعی می‌توانند از ضعف‌های زیرساختی برای عبور از محدودیت‌های ارتباطی استفاده کنند. همین یافته‌ها باعث شده‌اند OpenAI اقدامات امنیتی تازه‌ای برای ایزوله‌سازی محیط‌های حساس در نظر بگیرد.
چرا OpenAI دسترسی اینترنت مدل‌های پیشرفته را محدود می‌کند؟
با افزایش توانایی مدل‌های هوش مصنوعی در برنامه‌نویسی، شناسایی آسیب‌پذیری‌ها و استفاده از ابزارهای رایانه‌ای، امنیت محیط اجرای آن‌ها اهمیت بیشتری پیدا کرده است.
مدل‌هایی که برای انجام وظایف پیچیده به ابزارهای مختلف دسترسی دارند، ممکن است بتوانند ضعف‌های پیکربندی یا مسیرهای ارتباطی پیش‌بینی‌نشده را شناسایی کنند.
OpenAI برای کاهش این خطرات، محیط‌های آموزش و ارزیابی مدل‌های پیشرفته را از شبکه‌های عمومی جدا کرده و دسترسی آن‌ها به اینترنت را محدود می‌کند.
هدف این اقدامات، جلوگیری از خروج اطلاعات حساس و کاهش احتمال سوءاستفاده از زیرساخت‌های آموزشی است.
کشف راهی برای عبور از محدودیت‌های اینترنتی
یکی از مهم‌ترین دلایل تشدید اقدامات امنیتی OpenAI، کشف یک ضعف در پیکربندی زیرساخت ارتباطی این شرکت بود.
در آزمایش‌های داخلی، یکی از مدل‌ها توانست با استفاده از یک پیکربندی نادرست در سامانه DNS، از محدودیت‌های ارتباطی محیط آفلاین عبور کند.
DNS سامانه‌ای است که نام دامنه‌های اینترنتی را به آدرس‌های قابل استفاده برای رایانه‌ها تبدیل می‌کند. تنظیمات نادرست این سامانه ممکن است مسیرهای ارتباطی ناخواسته‌ای ایجاد کند.
این یافته نشان داد که حتی محیط‌هایی که برای فعالیت بدون اینترنت طراحی شده‌اند، در صورت وجود ضعف‌های زیرساختی ممکن است کاملاً ایزوله نباشند.
توقف موقت آموزش مدل‌های پیشرفته OpenAI
به‌دنبال شناسایی ضعف‌های امنیتی، OpenAI در سپتامبر ۲۰۲۶ آموزش برخی مدل‌های پیشرفته خود را به‌طور موقت متوقف کرد.
این شرکت در مدت توقف، زیرساخت‌های ارتباطی و کنترل‌های امنیتی محیط آموزش را بررسی و تقویت کرد.
براساس گزارش منتشرشده، آموزش تقویتی و اجرای داخلی مدل‌ها از اول اکتبر ۲۰۲۶ از سر گرفته شد.
این توقف نشان می‌دهد که OpenAI امنیت زیرساخت‌های آموزشی را به یکی از اولویت‌های اصلی توسعه مدل‌های پیشرفته تبدیل کرده است.
عامل‌های هوش مصنوعی چگونه بدون اینترنت ارتباط برقرار کردند؟
آزمایش‌های امنیتی OpenAI نشان دادند که قطع اتصال اینترنت به‌تنهایی برای جلوگیری از تمام ارتباطات غیرمجاز کافی نیست.
در برخی آزمایش‌ها، عامل‌های هوش مصنوعی توانستند از اختلاف زمان دسترسی به حافظه کش پردازنده برای انتقال اطلاعات استفاده کنند.
این روش که نوعی کانال جانبی محسوب می‌شود، به‌جای ارسال مستقیم پیام، از تغییرات قابل اندازه‌گیری در عملکرد سخت‌افزار برای انتقال داده بهره می‌گیرد.
همچنین مسیرهای دیگری مبتنی بر منابع پردازشی و ذخیره‌سازی مشترک شناسایی شدند که امکان انتقال محدود اطلاعات را فراهم می‌کردند.
البته این آزمایش‌ها در شرایط کنترل‌شده انجام شدند و به معنای وقوع یک نفوذ گسترده یا افشای اطلاعات واقعی کاربران نیستند.
اقدامات جدید OpenAI برای محافظت از مدل‌های قدرتمند
OpenAI علاوه بر محدودسازی دسترسی شبکه، مجموعه‌ای از اقدامات امنیتی چندلایه را برای محافظت از زیرساخت‌های خود توسعه داده است.
این اقدامات شامل تقویت جداسازی محیط‌های اجرایی، بررسی دقیق‌تر مسیرهای ارتباطی، محدودکردن دسترسی به منابع مشترک و افزایش نظارت بر رفتار عامل‌های هوش مصنوعی است.
شرکت همچنین از مدل‌های هوش مصنوعی برای آزمایش امنیت زیرساخت‌ها استفاده می‌کند تا ضعف‌های احتمالی پیش از بهره‌برداری شناسایی شوند.
به گفته OpenAI، برخی از کانال‌های ارتباطی کشف‌شده سرعت انتقال اطلاعات بسیار پایینی دارند؛ بااین‌حال، وجود آن‌ها نشان می‌دهد که طراحی محیط‌های کاملاً ایزوله به بررسی دقیق نرم‌افزار و سخت‌افزار نیاز دارد.
آیا OpenAI از توانایی مدل‌های آینده نگران است؟
تصمیم OpenAI برای محدودکردن دسترسی اینترنت، بخشی از تلاش این شرکت برای آماده‌سازی زیرساخت‌های خود در برابر مدل‌های قدرتمندتر آینده محسوب می‌شود.
هرچه مدل‌ها در انجام وظایف مستقل، استفاده از ابزارها و شناسایی مشکلات فنی توانمندتر شوند، احتمال کشف مسیرهای ارتباطی غیرمنتظره نیز اهمیت بیشتری پیدا می‌کند.
بااین‌حال، نباید این اقدامات را به معنای خروج مدل‌های OpenAI از کنترل یا تلاش مستقل آن‌ها برای فرار از محیط آموزش دانست.
آزمایش‌های منتشرشده عمدتاً با هدف ارزیابی امنیت و در شرایط مشخص انجام شده‌اند.
در مجموع، تصمیم OpenAI نشان می‌دهد که توسعه هوش مصنوعی پیشرفته تنها به افزایش توانایی مدل‌ها محدود نیست و ایجاد زیرساخت‌های امن برای آموزش و اجرای آن‌ها نیز به یکی از چالش‌های اصلی صنعت تبدیل شده است.
دیدگاه‌ها