سازمان ملل به‌دنبال مهار ربات‌های قاتل؛ تصمیم مرگ و زندگی نباید به هوش مصنوعی سپرده شود

سازمان ملل در تلاش است قوانین الزام‌آوری برای کنترل ربات‌های قاتل و سلاح‌های خودمختار مبتنی بر هوش مصنوعی تدوین کند. نگرانی‌ها درباره تصمیم‌گیری مستقل ماشین‌ها، امنیت غیرنظامیان و مسئولیت حقوقی استفاده از این فناوری‌ها افزایش یافته است؛ اما کشورها هنوز بر سر مقررات نهایی توافق نکرده‌اند.

سازمان ملل متحد در تلاش است چارچوبی قانونی برای کنترل سلاح‌های خودمختار مرگبار ایجاد کند؛ سامانه‌هایی که می‌توانند بدون دخالت مستقیم انسان، اهداف را شناسایی و درباره استفاده از نیروی نظامی تصمیم‌گیری کنند. گسترش هوش مصنوعی در تجهیزات نظامی، نگرانی‌ها درباره امنیت غیرنظامیان و مسئولیت‌پذیری در میدان جنگ را افزایش داده است.

بر اساس اسناد رسمی دفتر امور خلع سلاح سازمان ملل و گزارش‌های کمیته بین‌المللی صلیب سرخ، کشورهای جهان پس از بیش از یک دهه مذاکره همچنان درباره چگونگی ممنوعیت یا محدودسازی این فناوری‌ها اختلاف‌نظر دارند. اکنون تلاش‌ها بر تدوین مقررات الزام‌آوری متمرکز شده که نظارت انسانی بر تصمیم‌های حیاتی را تضمین کند.

ربات‌های قاتل چیستند و چرا سازمان ملل نگران است؟

سلاح‌های خودمختار مرگبار که با عنوان Lethal Autonomous Weapons Systems یا به‌اختصار LAWS شناخته می‌شوند، سامانه‌هایی هستند که پس از فعال‌سازی می‌توانند با استفاده از حسگرها و الگوریتم‌های پردازشی، اهداف را شناسایی و بدون فرمان مستقیم انسان به آن‌ها واکنش نشان دهند.

این فناوری لزوماً به شکل ربات‌های انسان‌نما نیست و می‌تواند در سامانه‌های دفاعی، تجهیزات نظامی خودکار و دیگر پلتفرم‌های تسلیحاتی به کار گرفته شود.

نگرانی اصلی زمانی شکل می‌گیرد که تصمیم‌های حساس درباره استفاده از نیروی مرگبار، بدون نظارت و قضاوت معنادار انسانی انجام شوند. به اعتقاد نهادهای حقوق بشری، چنین وضعیتی می‌تواند پیامدهای جدی برای غیرنظامیان و اصول حقوق بین‌الملل بشردوستانه داشته باشد.

تلاش سازمان ملل برای تدوین قوانین الزام‌آور

موضوع سلاح‌های خودمختار سال‌هاست در چارچوب کنوانسیون برخی سلاح‌های متعارف (CCW) بررسی می‌شود. گروه کارشناسان دولتی این کنوانسیون نیز در سال ۲۰۲۶ مذاکرات خود را برای تدوین چارچوب‌های حقوقی ادامه داده است.

در اسناد ارائه‌شده برای هفتمین کنفرانس بازنگری این کنوانسیون، پیشنهاد شده است مذاکرات رسمی برای تهیه یک پروتکل جدید و الزام‌آور آغاز شود.

این پیشنهاد بر دو محور اصلی تمرکز دارد: ممنوعیت برخی سامانه‌های خودمختار مرگبار و تعیین محدودیت‌های مشخص برای توسعه و استفاده از سایر سامانه‌ها.

با این حال، ارائه چنین پیشنهادی به معنای تصویب نهایی یک معاهده جهانی نیست و اجرای مقررات الزام‌آور به توافق کشورها نیاز دارد.

چرا تصمیم‌گیری هوش مصنوعی در جنگ خطرناک است؟

یکی از مهم‌ترین چالش‌های استفاده از هوش مصنوعی در سامانه‌های تسلیحاتی، پیش‌بینی‌پذیری و قابلیت کنترل عملکرد آن‌هاست.

الگوریتم‌ها ممکن است در محیط‌های پیچیده و متغیر، خروجی‌هایی تولید کنند که با شرایط واقعی یا هدف موردنظر کاربران انسانی مطابقت نداشته باشد. این مسئله به‌ویژه در موقعیت‌هایی که تشخیص اهداف نظامی از غیرنظامیان ضروری است، اهمیت پیدا می‌کند.

کمیته بین‌المللی صلیب سرخ هشدار داده است که گسترش سلاح‌های خودمختار می‌تواند خطر آسیب به غیرنظامیان را افزایش دهد و رعایت الزامات حقوق بین‌الملل بشردوستانه را دشوارتر کند.

موضوع دیگر، مسئولیت حقوقی تصمیم‌هاست. اگر یک سامانه خودمختار برخلاف قوانین بین‌المللی عمل کند، تعیین مسئولیت انسان‌ها و نهادهای دخیل در توسعه، استقرار و استفاده از آن اهمیت اساسی خواهد داشت.

اختلاف کشورها بر سر ممنوعیت ربات‌های قاتل

با وجود نگرانی‌های مشترک درباره خطرات سلاح‌های خودمختار، کشورها هنوز بر سر شکل نهایی مقررات اتفاق‌نظر ندارند.

برخی دولت‌ها و سازمان‌های حقوق بشری خواستار ممنوعیت سامانه‌هایی هستند که امکان کنترل انسانی معنادار بر استفاده از نیروی مرگبار را فراهم نمی‌کنند. در مقابل، رویکردهای دیگری بر تنظیم نحوه استفاده از فناوری و اجرای قوانین موجود تأکید دارند.

این اختلاف‌ها باعث شده مذاکرات بین‌المللی با وجود پیشرفت در تعریف اصول و چارچوب‌های مشترک، هنوز به یک توافق جامع و الزام‌آور جهانی منتهی نشود.

آینده ربات‌های قاتل؛ کنترل انسانی به یک اصل کلیدی تبدیل می‌شود؟

در پیشنهادهای جدید مطرح‌شده در سازمان ملل، حفظ قضاوت انسانی، کنترل بر استفاده از نیرو و پاسخ‌گویی حقوقی جایگاه ویژه‌ای دارد.

همچنین بر ضرورت ارزیابی قانونی سامانه‌ها، آزمایش عملکرد آن‌ها و کاهش خطرات ناشی از سوگیری الگوریتمی تأکید شده است.

در شرایطی که فناوری هوش مصنوعی با سرعت زیادی پیشرفت می‌کند، مذاکرات سال ۲۰۲۶ می‌تواند بر شکل‌گیری مقررات آینده جنگ‌افزارهای خودمختار تأثیرگذار باشد.

با این حال، هنوز نمی‌توان از ممنوعیت قطعی ربات‌های قاتل سخن گفت. مسئله اصلی این است که آیا دولت‌ها می‌توانند درباره محدودیت‌های مشترک و قابل اجرا به توافق برسند یا خیر.

امیررضا هادی تهرانی
امیررضا هادی تهرانی

متولد ۱۳۸۵ دانشجوی مدیریت بازرگانی فعال حوزه رسانه و تکنولوژی با تمرکز بر تولید محتوا و علاقمند به ورزش مخصوصا‌ً تنیس

مشاهده کلیه مقالات منتشر شده
ADs
ADsADs
گفت‌وگوی کاربران

دیدگاه‌ها

۰ دیدگاه

دیدگاه شما

نشانی ایمیل شما منتشر نخواهد شد.

اپلیکیشن و نرم‌افزار

معرفی نرم افزار و اپلیکیشن

مشاهده بیشتر