ایلان ساتسکیور، یکی از بنیانگذاران و دانشمند ارشد سابق OpenAI، استارتاپ Safe Superintelligence Inc (هوش فرا ایمن) را با هدف ایجاد سیستم‌های هوش مصنوعی ایمن راه‌اندازی کرد. ساتسکیور در روز چهارشنبه با اعلام این خبر، توضیح داد که این استارتاپ تنها یک هدف و یک محصول دارد: ایجاد یک سیستم هوش مصنوعی قدرتمند و ایمن.ایلان ساتسکیور، در اعلامیه‌اش توضیح داده که استارتاپ Safe Superintelligence Inc ، به طور همزمان به دو موضوع مهم توجه دارد: ایمنی و توانایی‌های هوش مصنوعی. این یعنی شرکت هم سعی می‌کند سیستم‌های هوش مصنوعی بسیار قوی بسازد و هم این اطمینان را ایجاد کند که این سیستم‌ها ایمن و بی‌خطر هستند.
بیشتر بخوانید:
- Apple Intelligence چیست ؟ آنچه باید درباره هوش مصنوعی جدید اپل بدانید
- باتری‌هایی که هوش مصنوعی مدیریتشان می‌کند 10% ظرفیت بیشتر و 25% عمر طولانی‌تر را ارائه می‌دهند
هدف استارتاپ Safe Superintelligence Inc چیست؟
ساتسکیور همچنین می‌گوید که بسیاری از شرکت‌های بزرگ مثل OpenAI، گوگل و مایکروسافت تحت فشارهای زیادی از سمت مدیران و نیازهای تجاری هستند. این فشارها می‌توانند تمرکز تیم‌های هوش مصنوعی را از بین ببرند و آنها را مجبور کنند بیشتر به فکر سودآوری و محصولات جدید باشند تا ایمنی و امنیت. اما “هوش فرا ایمن” با داشتن یک هدف مشخص و متمرکز، از این نوع فشارها و انحرافات دور می‌ماند و فقط روی ساخت سیستم‌های ایمن کار می‌کند.
ساتسکیور همچنین توضیح داده که مدل کسب و کار این شرکت به شکلی است که ایمنی، امنیت و پیشرفت در کار آنها از فشارهای تجاری کوتاه مدت مصون هستند. این یعنی این شرکت می‌تواند بدون نگرانی از فشارهای بیرونی، با خیال راحت و آرامش کار خود را پیش ببرد.
هم‌بنیانگذاران استارتاپ Safe Superintelligence Inc
علاوه بر ساتسکیور، دو نفر دیگر نیز از بنیانگذاران “هوش فرا ایمن” هستند: دانیل گراس که قبلاً رهبر تیم هوش مصنوعی در اپل بوده و دانیل لوی که قبلاً در OpenAI به عنوان عضو فنی کار می‌کرده است. این تیم با تجربه و تخصص خود سعی دارند سیستم‌های هوش مصنوعی ایمن و قدرتمندی ایجاد کنند.
سال گذشته، ساتسکیور نقش اصلی را در کنار گذاشتن سم آلتمن، مدیر عامل OpenAI، ایفا کرد. ساتسکیور در ماه می OpenAI را ترک کرد و اشاره کرد که قصد دارد پروژه‌ی جدیدی را آغاز کند. اندکی پس از خروج ساتسکیور، یان لایک، پژوهشگر هوش مصنوعی، نیز استعفای خود را از OpenAI اعلام کرد و به فرآیندهای ایمنی که “در مقایسه با محصولات جذاب به حاشیه رانده شده‌اند” اشاره کرد. همچنین، گرتچن کروگر، پژوهشگر سیاست‌گذاری در OpenAI، در زمان اعلام خروج خود به نگرانی‌های ایمنی اشاره کرد.
در حالی که OpenAI به پیشرفت خود با همکاری‌هایش با اپل و مایکروسافت ادامه می‌دهد، به نظر نمی‌رسد “هوش فرا ایمن” به این زودی، چنین سیاستی را اجرا کند. ساتسکیور در مصاحبه‌ای با بلومبرگ اعلام کرد که اولین محصول “هوش فرا ایمن” یک هوش فرا ایمن خواهد بود و تا زمانی که به این هدف نرسند، هیچ کار دیگری انجام نخواهند داد.
بیشتر بخوانید:
- اعلان جنگ ایلان ماسک به اپل و OpenAI با یک توییت جنجالی
- برای ادغام چت‌بات OpenAI با محصولات اپل هیچ پولی رد و بدل نشده است
- ChatGPT در iOS 18 عمیقا ادغام شده است؛ استفاده رایگان از چت‌بات OpenAI بعد از 2024
منبع: theverge
