گزارش‌های منتشر شده نشان می‌دهد که سم آلتمن از کمیته ایمنی OpenAI کنار گذاشته شده است. کمیته مستقل تازه تاسیس اکنون می‌تواند از انتشار مدل‌های خطرناک هوش مصنوعی جلوگیری کند.
به گزارش openai، شرکت اوپن ای آی تغییرات جدیدی در کمیته امنیتی خود ایجاد کرده است. آنطور که مشخص است سم آلتمن هیئت مدیره‌ی این شرکت اکنون جایگاه خود در کمینه ایمنی OpenAI را به «زیکو کولتر»، مدیر بخش یادگیری ماشین در دانشگاه کارنگی ملون واگذار کرده است.
«آدام دآنجلو»، مدیر اجرایی Quora، «پل ناکاسون» ژنرال بازنشسته ارتش ایالات متحده و «نیکول سلیگمن»، مشاور عمومی شرکت سونی، دیگر شخصیت‌های شناخته شده کمیته تازه تاسیس هستند.
سم آلتمن از کمیته ایمنی OpenAI کنار گذاشته شد
اگر خاطرتان باشد سم آلتمن در ابتدای ظهور فناوری هوش مصنوعی، از مدیریت این مجموعه کنار گذشته شده بود. ژوئن 2024 کمیته ایمنی قبلی با هدف ارائه توصیه‌هایی در مورد موضوعات و تصمیمات حیاتی پروژه‌های اوپن ای آی تشکیل شد. سم آلتمن هم یکی از اعضای کمیته ایمنی OpenAI بود.
اکنون کمیته ایمنی و امنیت جدید (SSC) جدید شرکت OpenAI آمده تا کاملا جلوی انتشار مدل‌های خطرساز هوش مصنوعی را بگیرد. کمینه ایمنی OpenAI از این پس می‌تواند در صورت شناسایی مدل‌های ناایمن عرضه آنها را به تعویق بیندازد.
به نظر می‌رسد این شرکت قصد دارد تا با اعمال تغییرات جدید تعهد خود را نسبت به امنیت کاربران و ایمنی مدل‌های جدید هوش مصنوعی، اثبات کند. چندی پیش این شرکت به دلیل انحلال تیم Superalignment و کنارگذاشتن اعضای کلیدی بخش امنیت با انتقاد کاربران مواجه شده بود. حذف آلتمن نیز در راستای همین تصمیم و از بین بردن نگرانی‌های موجود در خصوص توسعه هوش مصنوعی انجام شده است.
کمیته ایمنی OpenAI از این پس علاوه بر انجام تدابیر امنیتی وظیفه شفاف سازی مراحل کار و همکاری با سازمان‌های خارجی را هم بر عهده دارد. شایان ذکر است اوپن ای آی پیش‌از این با موسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا برای شناسایی خطرات فناوری نوظهور هوش مصنوعی به توافقاتی رسیده بود.
بیشتر بخوانید:
