چرا استفاده پلیس از هوش مصنوعی می‌تواند به تصمیم‌های ناعادلانه منجر شود؟

پژوهشگران هشدار داده‌اند استفاده از هوش مصنوعی در پیش‌بینی جرم و فعالیت‌های پلیسی می‌تواند تبعیض‌های موجود را تشدید کند. بر اساس گزارش BBC، آموزش الگوریتم‌ها با داده‌های تاریخی سوگیرانه ممکن است به نظارت نامتناسب بر برخی مناطق و ایجاد چرخه‌ای از تصمیم‌های ناعادلانه منجر شود. کارشناسان بر ضرورت شفافیت و نظارت انسانی تأکید دارند.

استفاده از هوش مصنوعی در فعالیت‌های پلیسی با نگرانی‌های تازه‌ای درباره تبعیض و تصمیم‌گیری ناعادلانه همراه شده است. پژوهشگران هشدار می‌دهند سامانه‌هایی که برای پیش‌بینی مناطق پرخطر و شناسایی احتمال وقوع جرم طراحی شده‌اند، ممکن است به‌جای کاهش سوگیری انسانی، الگوهای تبعیض‌آمیز موجود در داده‌های گذشته را تقویت کنند.

طبق گزارش BBC، نتایج پژوهش‌ها نشان می‌دهند اتکای بیش‌ازحد به داده‌های تاریخی پلیس می‌تواند چرخه‌ای ایجاد کند که در آن برخی مناطق یا گروه‌های اجتماعی به‌طور مداوم تحت نظارت بیشتری قرار بگیرند.

چرا استفاده پلیس از هوش مصنوعی نگرانی ایجاد کرده است؟

هوش مصنوعی در حوزه امنیت عمومی کاربردهای مختلفی دارد. یکی از این کاربردها، تحلیل اطلاعات مربوط به جرایم گذشته برای پیش‌بینی زمان یا مکان احتمالی وقوع جرایم جدید است.

این فناوری با بررسی الگوهای ثبت‌شده در داده‌ها تلاش می‌کند اطلاعاتی در اختیار نیروهای پلیس قرار دهد که به برنامه‌ریزی مأموریت‌ها و تخصیص منابع کمک کند.

اما مسئله مهم این است که داده‌های مورد استفاده برای آموزش چنین سامانه‌هایی همیشه تصویر کاملی از واقعیت ارائه نمی‌دهند.

برای مثال، تعداد بیشتر جرایم ثبت‌شده در یک منطقه لزوماً به معنای بالاتربودن میزان واقعی جرم در آن منطقه نیست. ممکن است بخشی از این اختلاف ناشی از حضور بیشتر نیروهای پلیس، تفاوت در شیوه گزارش‌دهی یا اولویت‌های نظارتی گذشته باشد.

در نتیجه، هوش مصنوعی می‌تواند الگوهایی را یاد بگیرد که به‌جای بازتاب دقیق جرایم، تحت تأثیر شیوه عملکرد قبلی نهادهای انتظامی قرار گرفته‌اند.

چگونه الگوریتم‌های پلیس می‌توانند تبعیض را افزایش دهند؟

یکی از نگرانی‌های اصلی پژوهشگران، پدیده‌ای است که با عنوان «حلقه بازخورد» یا Feedback Loop شناخته می‌شود.

فرض کنید پلیس در گذشته فعالیت بیشتری در یک محله داشته و در نتیجه جرایم بیشتری را در آن ثبت کرده است.

اگر سامانه هوش مصنوعی صرفاً بر اساس این اطلاعات آموزش ببیند، ممکن است همان محله را به‌عنوان منطقه‌ای پرخطر شناسایی کند.

این پیش‌بینی می‌تواند به افزایش مجدد حضور نیروهای پلیس در منطقه منجر شود. با افزایش نظارت نیز احتمال ثبت تخلفات بیشتری وجود دارد.

در مرحله بعد، داده‌های تازه دوباره وارد سامانه می‌شوند و ممکن است پیش‌بینی اولیه را تقویت کنند.

چنین فرایندی می‌تواند باعث شود برخی مناطق بدون ارزیابی کافی از شرایط واقعی، به‌صورت مستمر هدف نظارت شدیدتر قرار بگیرند.

آیا هوش مصنوعی می‌تواند بی‌طرف‌تر از انسان تصمیم بگیرد؟

یکی از تصورات رایج این است که تصمیم‌های الگوریتمی به دلیل استفاده از محاسبات ریاضی، ذاتاً بی‌طرف هستند.

اما عملکرد هر مدل هوش مصنوعی به داده‌های آموزشی، طراحی الگوریتم و معیارهایی بستگی دارد که برای ارزیابی نتایج آن تعیین می‌شوند.

اگر داده‌های اولیه شامل سوگیری‌های تاریخی باشند، مدل ممکن است همان الگوها را بازتولید کند.

حتی حذف اطلاعات مستقیمی مانند ویژگی‌های جمعیت‌شناختی نیز همیشه برای برطرف‌کردن این مشکل کافی نیست؛ زیرا برخی متغیرهای دیگر، از جمله محل سکونت، ممکن است با آن ویژگی‌ها ارتباط داشته باشند.

از سوی دیگر، همه کاربردهای هوش مصنوعی در پلیس یکسان نیستند. ابزار تحلیل اسناد یا مدیریت تماس‌های اضطراری با سامانه‌ای که درباره مناطق پرخطر یا افراد تصمیم‌سازی می‌کند، ریسک‌های متفاوتی دارد.

بنابراین ارزیابی هر سیستم باید بر اساس کاربرد واقعی، کیفیت داده‌ها و پیامدهای احتمالی آن انجام شود.

نقش نظارت انسانی در جلوگیری از تصمیم‌های ناعادلانه

پژوهشگران خواستار بررسی دقیق‌تر استفاده از هوش مصنوعی در فعالیت‌های پلیسی و افزایش نظارت انسانی بر تصمیم‌های الگوریتمی شده‌اند.

یکی از موضوعات مهم، شفافیت درباره نحوه عملکرد سامانه‌هاست.

نهادهای مسئول باید بتوانند توضیح دهند که مدل بر چه اساسی به یک نتیجه رسیده، از چه داده‌هایی استفاده کرده و چه محدودیت‌هایی دارد.

همچنین لازم است خروجی مدل‌ها با داده‌های مستقل ارزیابی شود تا مشخص شود آیا نتایج آن‌ها برای گروه‌های مختلف جامعه یکسان و قابل‌اعتماد هستند یا خیر.

نظارت انسانی نیز زمانی مؤثر خواهد بود که افراد مسئول امکان بررسی، نقد و رد توصیه‌های الگوریتم را داشته باشند، نه اینکه صرفاً نتایج سیستم را تأیید کنند.

آیا باید استفاده پلیس از هوش مصنوعی متوقف شود؟

نگرانی‌های مطرح‌شده لزوماً به معنای بی‌فایده‌بودن تمام کاربردهای هوش مصنوعی در حوزه امنیت نیست.

سامانه‌های تحلیلی ممکن است در پردازش حجم بالای اطلاعات، شناسایی الگوهای پیچیده و تسریع برخی فعالیت‌های اداری مؤثر باشند.

بااین‌حال، هرچه تأثیر یک سیستم بر حقوق و آزادی‌های افراد بیشتر باشد، نیاز به ارزیابی مستقل، شفافیت و سازوکار پاسخ‌گویی نیز افزایش پیدا می‌کند.

در کاربردهایی مانند پیش‌بینی جرم، تصمیم‌گیری درباره افراد یا تعیین اولویت نظارت انتظامی، خطاهای الگوریتمی می‌توانند پیامدهای اجتماعی قابل‌توجهی داشته باشند.

به همین دلیل، پژوهشگران بر ضرورت بررسی دقیق این ابزارها پیش از استفاده گسترده تأکید می‌کنند.