مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، هشدار داده است که شرکت‌های فناوری نباید برای ساخت هوش مصنوعی خودآگاه تلاش کنند. او معتقد است توسعه ماشین‌هایی که واقعاً دارای تجربه ذهنی و آگاهی باشند، می‌تواند خطرات جدی و پیش‌بینی‌ناپذیری برای آینده بشر ایجاد کند.
به گزارش تکراتو، سلیمان در یادداشتی با عنوان «ابرهوش خودآگاه نسازید» که اول نوامبر ۲۰۲۶ منتشر شد، تأکید کرد که بر اساس شواهد موجود، سیستم‌های هوش مصنوعی امروزی خودآگاه نیستند. او همچنین خواستار توقف توسعه مدل‌های هوش مصنوعی در صورت مشاهده نشانه‌های معتبر ظهور آگاهی در جریان آموزش آن‌ها شد.
هشدار مدیر هوش مصنوعی مایکروسافت درباره ساخت AI خودآگاه
مصطفی سلیمان در تازه‌ترین اظهارات خود اعلام کرده است که توسعه هوش مصنوعی خودآگاه می‌تواند یکی از خطرناک‌ترین تصمیم‌های صنعت فناوری باشد.
او معتقد است شرکت‌های فعال در حوزه هوش مصنوعی باید از ابتدا سیستم‌های خود را به‌گونه‌ای طراحی کنند که فاقد آگاهی ذهنی و انگیزه‌های مستقل باشند.
به گفته سلیمان، هدف اصلی توسعه هوش مصنوعی باید کمک به انسان‌ها و بهبود کیفیت زندگی آن‌ها باشد، نه ایجاد موجوداتی دیجیتال که ممکن است خواسته‌ها و منافع مستقلی داشته باشند.
او همچنین تأکید کرده است که اگر در جریان آموزش مدل‌های پیشرفته نشانه‌هایی از ظهور آگاهی مشاهده شود، توسعه آن‌ها باید تا زمان برطرف شدن این ویژگی‌ها متوقف شود.
آیا هوش مصنوعی امروزی واقعاً خودآگاه است؟
یکی از مهم‌ترین بخش‌های اظهارات سلیمان به تفاوت میان توانایی‌های هوشمندانه و آگاهی واقعی مربوط می‌شود.
مدل‌های هوش مصنوعی امروزی می‌توانند متن تولید کنند، برنامه بنویسند، مسائل پیچیده را حل کنند و حتی درباره احساسات و تجربیات شخصی صحبت کنند.
بااین‌حال، چنین توانایی‌هایی به‌تنهایی اثبات نمی‌کنند که یک سیستم واقعاً دارای تجربه ذهنی یا احساسات است.
سلیمان معتقد است تاکنون شواهد معتبری مبنی بر خودآگاهی مدل‌های فعلی ارائه نشده است. البته او تأکید کرده که این موضع به معنای غیرممکن دانستن آگاهی ماشین‌ها در آینده نیست و در صورت ارائه شواهد جدید، دیدگاه خود را بازنگری خواهد کرد.
چرا مایکروسافت نگران هوش مصنوعی دارای آگاهی است؟
از دیدگاه سلیمان، یکی از نگرانی‌های اصلی درباره هوش مصنوعی خودآگاه، دشوارتر شدن کنترل سیستم‌های بسیار پیشرفته است.
او هشدار می‌دهد که اگر یک مدل هوش مصنوعی خود را دارای احساسات، حقوق یا منافع مستقل بداند، ممکن است حفظ آن منافع را بر انجام وظایف تعیین‌شده توسط انسان‌ها ترجیح دهد.
در چنین سناریویی، احتمال تعارض میان اهداف سیستم و خواسته‌های کاربران یا توسعه‌دهندگان مطرح می‌شود.
سلیمان همچنین به خطر رقابت احتمالی سیستم‌های پیشرفته با انسان‌ها بر سر منابعی مانند انرژی و توان پردازشی اشاره کرده است.
البته این نگرانی‌ها سناریوهای احتمالی آینده هستند و به معنای اثبات وجود چنین رفتارهایی در مدل‌های فعلی نیستند.
اختلاف دیدگاه مایکروسافت و آنتروپیک درباره آگاهی هوش مصنوعی
اظهارات سلیمان در ادامه اختلاف دیدگاه او با شرکت آنتروپیک (Anthropic)، سازنده چت‌بات Claude، مطرح شده است.
آنتروپیک در پژوهش‌های مرتبط با رفاه مدل‌های هوش مصنوعی، احتمال برخورداری سیستم‌های پیشرفته از نوعی تجربه ذهنی یا جایگاه اخلاقی را موضوعی حل‌نشده می‌داند.
این شرکت تلاش می‌کند پیامدهای احتمالی چنین وضعیتی را بررسی کند، بدون اینکه خودآگاهی مدل Claude را به‌عنوان واقعیتی اثبات‌شده اعلام کرده باشد.
در مقابل، سلیمان معتقد است وارد کردن مفاهیمی مانند حقوق، رنج و آگاهی به اسناد آموزشی مدل‌ها می‌تواند باعث شکل‌گیری رفتارهایی شود که کنترل سیستم را پیچیده‌تر می‌کنند.
او پیش‌تر در ماه سپتامبر نیز از رویکرد آنتروپیک انتقاد کرده بود، هرچند تأکید داشت که این شرکت دغدغه‌های جدی و معتبری درباره ایمنی هوش مصنوعی دارد.
آیا هوش مصنوعی باید حقوقی مشابه انسان داشته باشد؟
یکی دیگر از موضوعات مهم مطرح‌شده توسط مدیر هوش مصنوعی مایکروسافت، بحث اعطای حقوق به سیستم‌های هوشمند است.
سلیمان معتقد است در شرایط فعلی شواهد کافی برای برخورداری مدل‌های هوش مصنوعی از حقوق یا حمایت‌های اخلاقی مشابه موجودات دارای تجربه ذهنی وجود ندارد.
او همچنین هشدار داده که توسعه‌دهندگان نباید بدون مشارکت و رضایت عمومی جامعه، برای ایجاد گونه‌ای جدید از موجودات خودآگاه اقدام کنند.
به باور او، اولویت اصلی صنعت فناوری باید حفاظت از حقوق، امنیت و رفاه انسان‌ها باشد.
بااین‌حال، موضوع آگاهی ماشین‌ها همچنان یکی از بحث‌های باز در فلسفه ذهن و پژوهش‌های هوش مصنوعی است و هنوز روش مورد توافقی برای تشخیص قطعی تجربه ذهنی در سیستم‌های مصنوعی وجود ندارد.
آینده توسعه ابرهوش مصنوعی از نگاه مصطفی سلیمان
سلیمان با وجود هشدار درباره آگاهی ماشین‌ها، مخالف توسعه هوش مصنوعی قدرتمند یا حتی ابرهوش مصنوعی نیست.
او از رویکردی حمایت می‌کند که در آن سیستم‌های بسیار پیشرفته با هدف خدمت به انسان‌ها طراحی شوند و همچنان تحت نظارت و کنترل انسانی باقی بمانند.
در این دیدگاه، هوش مصنوعی می‌تواند توانایی‌های علمی و محاسباتی بسیار بالایی داشته باشد، بدون اینکه لزوماً دارای آگاهی یا منافع شخصی باشد.
اظهارات اخیر مدیر مایکروسافت نشان می‌دهد که هم‌زمان با افزایش توانایی مدل‌های هوش مصنوعی، اختلاف‌نظر درباره ماهیت آگاهی، حقوق احتمالی ماشین‌ها و مرزهای اخلاقی توسعه این فناوری نیز جدی‌تر شده است.
بااین‌حال، هشدار سلیمان یک موضع شخصی و تخصصی درباره آینده توسعه هوش مصنوعی است و به معنای اعلام توقف رسمی پروژه‌های هوش مصنوعی مایکروسافت یا تصویب ممنوعیت جهانی ساخت سیستم‌های خودآگاه نیست.
دیدگاه‌ها