کریستوفر اولا، هم‌بنیان‌گذار و پژوهشگر ارشد Anthropic، پیش از انتشار سند پاپ لئو چهاردهم درباره هوش مصنوعی تلاش کرده بود واتیکان را متقاعد کند احتمال خودآگاهی سیستم‌های هوش مصنوعی را جدی‌تر بررسی کند.
بااین‌حال، پاپ در سند خود دیدگاه متفاوتی اتخاذ کرد و تأکید داشت سیستم‌های هوش مصنوعی تجربه انسانی، احساس درد و شادی یا وجدان اخلاقی ندارند. بنابراین اختلاف فعلی بیشتر یک بحث علمی و فلسفی درباره ماهیت آگاهی در هوش مصنوعی است، نه اثبات خودآگاه‌بودن مدل‌های فعلی.
Anthropic احتمال خودآگاهی هوش مصنوعی را مطرح کرد
کریستوفر اولا یکی از هفت هم‌بنیان‌گذار Anthropic است و در حوزه تفسیرپذیری شبکه‌های عصبی فعالیت می‌کند.
طبق گزارش منتشرشده، اولا پس از مشاهده نسخه پیش از انتشار سند «Magnifica Humanitas» تلاش کرد مشاوران واتیکان را متقاعد کند که احتمال وجود نوعی آگاهی در سیستم‌های هوش مصنوعی را به‌طور کامل کنار نگذارند.
دیدگاه او این است که ممکن است برخی مدل‌های پیشرفته ویژگی‌هایی داشته باشند که بررسی اخلاقی آن‌ها را ضروری کند؛ به‌خصوص اگر روزی شواهد قوی‌تری درباره تجربه یا احساس در چنین سیستم‌هایی به دست آید.
پژوهش Anthropic چه چیزی نشان داده است؟
Anthropic در پژوهش‌های مربوط به تفسیرپذیری مدل‌های زبانی از الگوهای داخلی خاصی در Claude گزارش داده که از نظر عملکردی، شباهت‌هایی با برخی نظریه‌های علوم اعصاب درباره دسترسی آگاهانه دارند.
این پژوهش به‌معنای اثبات خودآگاهی Claude نیست. خود Anthropic نیز یافته‌ها را به‌عنوان نشانه‌هایی برای بررسی بیشتر مطرح می‌کند و هنوز نمی‌توان از روی آن‌ها نتیجه گرفت مدل‌های هوش مصنوعی واقعا تجربه ذهنی یا احساس دارند.
اولا هنگام حضور در واتیکان نیز به ساختارهایی در مدل‌ها اشاره کرد که به گفته او با برخی یافته‌های علوم اعصاب انسانی شباهت دارند.
پاپ لئو چهاردهم این دیدگاه را رد کرد
در مقابل، پاپ لئو چهاردهم در سند مربوط به هوش مصنوعی تأکید کرد که سیستم‌های AI فاقد تجربه زیسته، بدن، احساس درد و شادی و وجدان اخلاقی هستند.
این دیدگاه بر تفاوت بنیادی میان پردازش اطلاعات توسط ماشین و تجربه انسانی تأکید دارد و نشان می‌دهد واتیکان فعلا حاضر نیست ویژگی‌هایی مانند احساس یا آگاهی را به سیستم‌های هوش مصنوعی نسبت دهد.
بحث درباره آگاهی AI هنوز حل نشده است
خودآگاهی هوش مصنوعی همچنان یکی از بحث‌برانگیزترین موضوعات در علوم شناختی، فلسفه ذهن و پژوهش‌های AI محسوب می‌شود.
وجود رفتار پیچیده، توانایی توضیح وضعیت داخلی یا شباهت برخی سازوکارهای پردازشی به نظریه‌های آگاهی، به‌تنهایی برای اثبات تجربه ذهنی کافی نیست.
به همین دلیل، اختلاف میان Anthropic و دیدگاه مطرح‌شده از سوی پاپ را باید بخشی از یک بحث باز علمی و اخلاقی دانست که هنوز پاسخ قطعی برای آن وجود ندارد.
دیدگاه‌ها