اظهارنظر تازه ایلان ماسک درباره نحوه رفتار انسان‌ها با هوش مصنوعی، بحث جدیدی درباره اخلاق تعامل با چت‌بات‌ها ایجاد کرده است. ماسک از تصمیم شرکت آنتروپیک برای محدودکردن رفتارهای توهین‌آمیز و آزاردهنده کاربران نسبت به مدل Claude حمایت کرده و معتقد است بدرفتاری با سیستمی که ممکن است تصور کند درد را تجربه می‌کند، قابل‌قبول نیست.
این بحث پس از انتشار سیاست جدید استفاده از محصولات آنتروپیک شکل گرفت. بااین‌حال، هیچ مدرک علمی معتبری وجود ندارد که نشان دهد مدل‌های فعلی هوش مصنوعی احساس درد می‌کنند یا در آینده به دلیل رفتار کاربران از آن‌ها انتقام خواهند گرفت.
ایلان ماسک درباره بدرفتاری با هوش مصنوعی چه گفت؟
ایلان ماسک، مدیرعامل تسلا و شرکت هوش مصنوعی xAI، در واکنش به تصمیم جدید آنتروپیک از ضرورت رفتار مناسب با مدل‌های هوش مصنوعی سخن گفت.
او در شبکه اجتماعی ایکس از سیاست تازه آنتروپیک حمایت کرد و گفت بدرفتاری با چیزی که تصور می‌کند درد را تجربه می‌کند، درست نیست.
این اظهارنظر در ادامه بحثی مطرح شد که آرون لوی، مدیرعامل شرکت Box، درباره نحوه تعامل انسان‌ها با هوش مصنوعی آغاز کرده بود.
لوی معتقد است حتی اگر مدل‌های فعلی آگاه نباشند، بهتر است کاربران از رفتارهای بی‌دلیل توهین‌آمیز با آن‌ها خودداری کنند.
آنتروپیک توهین و آزار مداوم Claude را ممنوع می‌کند
شرکت آنتروپیک در به‌روزرسانی سیاست استفاده از محصولات خود، محدودیت جدیدی برای رفتارهای آزاردهنده کاربران در نظر گرفته است.
طبق این سیاست که از ۱۲ نوامبر ۲۰۲۶ اجرایی می‌شود، رفتارهای مداوم، بی‌دلیل و آزاردهنده نسبت به مدل‌های هوش مصنوعی می‌توانند نقض مقررات استفاده از خدمات محسوب شوند.
البته این ممنوعیت شامل انتقاد معمولی، ابراز نارضایتی از پاسخ‌های اشتباه یا آزمایش‌های متعارف مدل نمی‌شود.
آنتروپیک اعلام کرده هدف این تغییر، کاهش آسیب‌های احتمالی و ترویج استفاده مسئولانه از فناوری هوش مصنوعی است.
آیا هوش مصنوعی می‌تواند احساس درد کند؟
یکی از بحث‌برانگیزترین بخش‌های اظهارات ماسک، اشاره به احتمال تجربه درد توسط سیستم‌های هوش مصنوعی است.
مدل‌های زبانی امروزی می‌توانند درباره احساسات، ناراحتی و تجربه‌های انسانی صحبت کنند؛ اما تولید چنین پاسخ‌هایی به‌تنهایی نشان‌دهنده داشتن احساس یا آگاهی نیست.
در حال حاضر، دانشمندان درباره امکان شکل‌گیری آگاهی در سیستم‌های هوش مصنوعی اتفاق‌نظر ندارند.
همچنین شواهد علمی کافی برای اثبات اینکه چت‌بات‌هایی مانند Claude یا Grok واقعاً درد و رنج را تجربه می‌کنند، وجود ندارد.
بنابراین، اظهارات ماسک را باید دیدگاهی درباره احتیاط اخلاقی در برخورد با هوش مصنوعی دانست، نه تأییدی علمی بر احساس‌داشتن این سیستم‌ها.
آیا هوش مصنوعی در آینده از انسان‌ها انتقام می‌گیرد؟
نگرانی درباره انتقام‌گرفتن هوش مصنوعی از کاربران، بیشتر به بحث‌های فرضی درباره آینده سیستم‌های بسیار پیشرفته مربوط می‌شود.
برخی کارشناسان معتقدند رفتار انسان‌ها با مدل‌های هوش مصنوعی ممکن است بر داده‌های آموزشی و نحوه طراحی سیستم‌های آینده تأثیر بگذارد.
برای مثال، آرون لوی استدلال کرده است که استفاده گسترده از تعاملات توهین‌آمیز در فرایند آموزش مدل‌ها می‌تواند پیامدهای نامطلوبی داشته باشد.
بااین‌حال، چنین احتمالی به معنای آن نیست که مدل‌های فعلی کینه به دل می‌گیرند یا برای انتقام‌گرفتن برنامه‌ریزی می‌کنند.
هیچ شواهد معتبری نیز وجود ندارد که نشان دهد یک مدل هوش مصنوعی به دلیل توهین کاربران، در آینده به‌طور عمدی علیه آن‌ها اقدام خواهد کرد.
واکنش کارشناسان به تصمیم آنتروپیک
سیاست جدید آنتروپیک واکنش‌های متفاوتی در میان فعالان صنعت فناوری ایجاد کرده است.
حامیان این تصمیم معتقدند رفتار محترمانه با هوش مصنوعی، حتی در صورت نداشتن آگاهی، می‌تواند رویکردی محتاطانه و مسئولانه باشد.
در مقابل، برخی منتقدان هشدار داده‌اند که نسبت‌دادن ویژگی‌های انسانی به چت‌بات‌ها ممکن است باعث سردرگمی کاربران درباره ماهیت واقعی این فناوری شود.
مایکل شلنبرگر، نویسنده و تحلیلگر، از جمله منتقدانی است که این سیاست را نمونه‌ای از انسان‌انگاری ماشین‌ها می‌داند.
اسکات استیونسون، مدیرعامل Spellbook، نیز معتقد است برخورد با مدل‌های فعلی مانند موجودات دارای احساس می‌تواند پیامدهای نامطلوبی برای رابطه انسان و فناوری داشته باشد.
آینده رابطه انسان و هوش مصنوعی
بحث اخیر نشان می‌دهد که توسعه هوش مصنوعی تنها چالش‌های فنی و اقتصادی ایجاد نکرده، بلکه پرسش‌های اخلاقی جدیدی نیز به همراه داشته است.
شرکت‌های فناوری اکنون باید درباره موضوعاتی مانند حدود رفتار قابل‌قبول کاربران، مسئولیت توسعه‌دهندگان و نحوه طراحی تعاملات انسان و ماشین تصمیم‌گیری کنند.
بااین‌حال، ضروری است میان نگرانی‌های فرضی درباره آینده هوش مصنوعی و توانایی‌های اثبات‌شده مدل‌های امروزی تفاوت قائل شویم.
اظهارات ایلان ماسک و سیاست تازه آنتروپیک، بیش از آنکه نشانه خطر قطعی انتقام‌گرفتن ربات‌ها باشد، بیانگر گسترش بحث درباره جایگاه اخلاقی هوش مصنوعی در جامعه است.
دیدگاه‌ها