پاپ لئو چهاردهم، رهبر کلیسای کاتولیک، با هشدار درباره پیامدهای گسترش هوش مصنوعی در تصمیم‌گیری‌های حساس، از دولت‌های جهان خواسته است اقدامات عملی برای ممنوعیت سلاح‌های خودمختار مرگبار انجام دهند. او معتقد است تصمیم‌هایی که با جان و آزادی انسان‌ها ارتباط دارند، نباید به سیستم‌های هوش مصنوعی واگذار شوند.
براساس متن رسمی سخنرانی منتشرشده در وب‌سایت واتیکان، پاپ روز جمعه ۳۰ اکتبر ۲۰۲۶ در دیدار با شرکت‌کنندگان نشست «آینده هوش مصنوعی» تأکید کرد که توسعه فناوری باید با حفظ کرامت انسانی، نظارت مؤثر و سازوکارهای روشن پاسخ‌گویی همراه باشد. او همچنین از کشورهای حاضر در مذاکرات ماه نوامبر ژنو خواست برای ممنوعیت تسلیحات خودمختار مرگبار گام‌های مشخصی بردارند.
درخواست پاپ برای ممنوعیت سلاح‌های خودمختار مبتنی بر هوش مصنوعی
یکی از مهم‌ترین بخش‌های سخنرانی پاپ لئو چهاردهم به استفاده از هوش مصنوعی در سامانه‌های تسلیحاتی اختصاص داشت.
او هشدار داد که برخی تصمیم‌ها، به‌ویژه تصمیم‌های مرتبط با جان انسان‌ها، آزادی افراد و استفاده از نیروی نظامی، هرگز نباید به‌طور کامل به ماشین‌ها واگذار شوند.
پاپ در سخنان خود تأکید کرد که این تصمیم‌ها باید همواره تحت نظارت انسانی مؤثر، آگاهانه و مسئولانه باقی بمانند.
او همچنین با استفاده از تعبیر «خلع سلاح هوش مصنوعی»، از دولت‌هایی که قرار است در ماه نوامبر در ژنو گرد هم بیایند، خواست اقدامات مشخصی برای ممنوعیت سلاح‌های خودمختار مرگبار انجام دهند.
این درخواست در شرایطی مطرح شده که توسعه سیستم‌های نظامی مجهز به هوش مصنوعی، پرسش‌های حقوقی و اخلاقی مهمی درباره میزان کنترل انسان بر تصمیم‌های حساس ایجاد کرده است.
سلاح خودمختار مرگبار چیست و چرا بحث‌برانگیز شده است؟
سلاح‌های خودمختار مرگبار یا Lethal Autonomous Weapons Systems که به‌اختصار LAWS نامیده می‌شوند، به سامانه‌هایی گفته می‌شود که می‌توانند پس از فعال‌سازی، برخی عملکردهای مرتبط با انتخاب و درگیری با اهداف را بدون مداخله مستقیم انسان انجام دهند.
در بحث‌های بین‌المللی، یکی از مهم‌ترین نگرانی‌ها این است که مسئولیت تصمیم‌های این سامانه‌ها چگونه تعیین می‌شود و آیا نظارت انسانی موجود برای جلوگیری از پیامدهای نامطلوب کافی است یا خیر.
منتقدان این فناوری هشدار می‌دهند که واگذاری تصمیم‌های حساس به الگوریتم‌ها می‌تواند تشخیص مسئولیت، بررسی خطاها و حفاظت از غیرنظامیان را دشوارتر کند.
از سوی دیگر، بحث‌های حقوقی درباره تعریف دقیق خودمختاری، سطح قابل‌قبول کنترل انسانی و محدوده ممنوعیت احتمالی این سامانه‌ها همچنان ادامه دارد.
پاپ لئو چهاردهم در سخنرانی خود بر ضرورت حفظ مسئولیت انسانی تأکید کرد و خواستار ممنوعیت سامانه‌های تسلیحاتی خودمختار مرگبار شد.
پاپ لئو چهاردهم: ماشین‌ها ابزار هستند، نه انسان
رهبر کلیسای کاتولیک در بخش دیگری از سخنرانی خود به موضوع جایگاه هوش مصنوعی در جامعه پرداخت.
او با تأکید بر تفاوت میان انسان و ماشین، استدلال کرد که سیستم‌های هوش مصنوعی نباید معادل اشخاص انسانی در نظر گرفته شوند.
از دیدگاه پاپ، این سیستم‌ها هرچند ممکن است توانایی‌های محاسباتی پیشرفته‌ای داشته باشند، اما تجربه زیسته انسانی، روابط اجتماعی و مسئولیت اخلاقی را به معنایی که درباره انسان‌ها به کار می‌رود، ندارند.
او همچنین درباره پیشنهادهایی برای اعطای حقوق یا شخصیت حقوقی مستقل به سیستم‌های هوش مصنوعی ابراز نگرانی کرد.
به اعتقاد پاپ، چنین رویکردی ممکن است مسئولیت انسان‌ها و سازمان‌هایی را که این فناوری‌ها را طراحی، توسعه و استفاده می‌کنند، مبهم سازد.
این سخنان موضع اخلاقی و فلسفی واتیکان درباره جایگاه هوش مصنوعی را بازتاب می‌دهد و نباید با یک نتیجه قطعی علمی درباره همه پرسش‌های مرتبط با آگاهی ماشین‌ها یکسان دانسته شود.
خطر تبدیل انسان‌ها به داده‌های قابل پردازش
پاپ لئو چهاردهم هشدار خود را تنها به کاربردهای نظامی هوش مصنوعی محدود نکرد.
او به استفاده از الگوریتم‌ها در تصمیم‌گیری‌های اداری و امنیتی نیز اشاره کرد و نسبت به پیامدهای کاهش انسان‌ها به مجموعه‌ای از داده‌ها ابراز نگرانی کرد.
به گفته او، زمانی که نام یک فرد در فهرست افراد مشکوک یا پایگاه داده کنترل مرزی قرار می‌گیرد، این خطر وجود دارد که شرایط و حقوق انسانی او در فرایند تصمیم‌گیری نادیده گرفته شود.
این نگرانی به موضوع گسترده‌تری در حکمرانی هوش مصنوعی مربوط است: اینکه تصمیم‌های الگوریتمی چگونه بررسی می‌شوند و افراد تحت تأثیر آن‌ها چه راه‌هایی برای اعتراض یا درخواست اصلاح دارند.
پاپ تأکید کرد تصمیم‌هایی که بر آزادی و حقوق اساسی انسان‌ها تأثیر می‌گذارند، باید با نظارت و پاسخ‌گویی انسانی همراه باشند.
چرا پاپ خواستار خلع سلاح هوش مصنوعی شده است؟
تعبیر «خلع سلاح هوش مصنوعی» پیش‌تر نیز در اسناد رسمی واتیکان مطرح شده بود.
پاپ لئو چهاردهم در نامه عمومی خود با عنوان Magnifica Humanitas که در ماه مه ۲۰۲۶ منتشر شد، توضیح داده بود که این مفهوم صرفاً به حذف هوش مصنوعی از کاربردهای نظامی محدود نمی‌شود.
از دیدگاه او، خلع سلاح هوش مصنوعی به معنای جلوگیری از تبدیل قدرت فناوری به ابزاری برای سلطه و کاهش کنترل انسان بر تصمیم‌های مهم است.
او در این سند همچنین نسبت به رقابت بی‌ضابطه برای ساخت الگوریتم‌های قدرتمندتر و تمرکز فناوری در اختیار تعداد محدودی از بازیگران هشدار داده بود.
بنابراین درخواست جدید پاپ برای ممنوعیت سلاح‌های خودمختار، بخشی از موضع گسترده‌تر او درباره ضرورت کنترل انسانی بر فناوری‌های پیشرفته محسوب می‌شود.
درخواست واتیکان برای نظارت مستقل و قوانین بین‌المللی
پاپ در سخنرانی ۳۰ اکتبر تأکید کرد که شناسایی اصول اخلاقی هوش مصنوعی به‌تنهایی کافی نیست.
او گفت جامعه جهانی به نهادهایی نیاز دارد که بتوانند این اصول را در عمل اجرا کنند و بر توسعه و استفاده از سیستم‌های هوش مصنوعی نظارت داشته باشند.
به اعتقاد او، چنین ساختاری باید شامل استانداردهای مشترک، نظارت مستقل و سازوکارهای مشخص پاسخ‌گویی باشد.
این سازوکارها باید امکان بررسی تصمیم‌های مبتنی بر هوش مصنوعی، اعتراض به آن‌ها و رسیدگی به خسارت‌های احتمالی را فراهم کنند.
پاپ همچنین تأکید کرد که منافع نوآوری نباید صرفاً در اختیار گروهی محدود قرار بگیرد و فناوری‌های هوشمند باید به بهبود دسترسی انسان‌ها به خدمات، دانش و فرصت‌ها کمک کنند.
ادامه هشدارهای واتیکان درباره هوش مصنوعی نظامی
موضع‌گیری اخیر پاپ لئو چهاردهم ادامه نگرانی‌هایی است که پیش‌تر از سوی واتیکان مطرح شده بود.
پاپ فرانسیس، رهبر پیشین کلیسای کاتولیک، در نشست گروه هفت در سال ۲۰۲۴ نیز درباره واگذاری تصمیم‌های مرتبط با جان انسان‌ها به ماشین‌ها هشدار داده بود.
پاپ لئو چهاردهم در سخنرانی جدید خود به این موضع اشاره کرد و بر ضرورت حفظ کنترل انسانی تأکید داشت.
او همچنین در سند Magnifica Humanitas خواستار مشخص بودن زنجیره مسئولیت در استفاده از هوش مصنوعی شده بود؛ به‌گونه‌ای که مسئولیت تصمیم‌های حساس به یک سامانه خودکار نسبت داده نشود و افراد و نهادهای مرتبط پاسخ‌گو باقی بمانند.
این رویکرد نشان می‌دهد واتیکان تلاش دارد در مباحث بین‌المللی مربوط به حکمرانی و اخلاق هوش مصنوعی نقش فعال‌تری ایفا کند.
آیا درخواست پاپ به ممنوعیت جهانی این سلاح‌ها منجر می‌شود؟
پاپ لئو چهاردهم از دولت‌ها خواسته است در نشست ماه نوامبر ژنو برای ممنوعیت سلاح‌های خودمختار مرگبار اقدام کنند، اما این درخواست به معنای تصویب یک ممنوعیت بین‌المللی نیست.
تبدیل چنین پیشنهادی به توافق الزام‌آور، به مذاکرات دولت‌ها، تعیین تعاریف حقوقی و دستیابی به سازوکارهای اجرایی نیاز دارد.
درحال‌حاضر، آنچه تأیید شده موضع رسمی پاپ و درخواست او برای اقدام دولت‌هاست؛ نه توافق کشورها بر سر ممنوعیت جهانی این فناوری.
بااین‌حال، سخنرانی اخیر رهبر کلیسای کاتولیک بار دیگر توجه‌ها را به یکی از مهم‌ترین پرسش‌های عصر هوش مصنوعی جلب کرده است: در تصمیم‌هایی که پیامدهای جدی برای زندگی انسان‌ها دارند، چه میزان اختیار باید در دست ماشین‌ها قرار بگیرد و چه کسی باید مسئول نتایج باشد؟
دیدگاه‌ها