با گسترش دوربینهای نظارتی مجهز به هوش مصنوعی، یک هنرمند آلمانی راه متفاوتی برای مقابله با آنها پیدا کرده است: پوشیدن یک پیراهن رنگارنگ! «Digital Camouflage» لباسی با الگویی ویژه است که برای گیجکردن سیستمهای بینایی ماشین و جلوگیری از شناسایی پوشنده بهعنوان «انسان» طراحی شده است.
تکراتو به نقل از دیجیاتو گزارش میدهد، این پروژه توسط «سیمون وکرت» (Simon Weckert)، هنرمند دیجیتال ساکن برلین، توسعه یافته است؛ فردی که پیشتر با حمل ۹۹ گوشی در خیابان توانسته بود گوگل مپس را فریب دهد و یک ترافیک ساختگی ایجاد کند.
دوربین شما را میبیند، اما هوش مصنوعی ممکن است نبیند
Digital Camouflage برخلاف لباسهای استتاری معمولی برای مخفیشدن از چشم انسان طراحی نشده است.
اگر فردی این پیراهن را بپوشد، همچنان بهوضوح در تصویر دوربین دیده میشود. تفاوت زمانی ایجاد میشود که یک الگوریتم تشخیص اشیا بخواهد تصویر را تحلیل کند.
سیستمهای بینایی ماشین معمولاً براساس الگوهای آماری آموختهشده از حجم عظیمی از تصاویر، تلاش میکنند اجسامی مانند انسان، خودرو یا حیوانات را شناسایی کنند.
الگوی عجیب این پیراهن دقیقاً همین فرایند را هدف قرار میدهد.
طرح عجیب پیراهن عمداً هوش مصنوعی را گیج میکند
ترکیب رنگهای اشباعشده و اشکال روی Digital Camouflage بهگونهای طراحی شده که ویژگیهای بصری مورد استفاده مدل تشخیص انسان را مختل کند.
گذارهای شدید رنگی میتوانند لایههای اولیه شبکه عصبی را تحتتأثیر قرار دهند و همپوشانی اشکال نیز پیوستگی فرم بدن انسان را برای الگوریتم بههم میزند.
نتیجه این است که مدل ممکن است نتواند اجزای مختلف بدن را به یکدیگر مرتبط کند و درنهایت فرد حاضر در تصویر را بهعنوان «Person» شناسایی نکند.
هوش مصنوعی به ساخت لباسی برای فریب هوش مصنوعی کمک کرد
یکی از جذابترین قسمتهای پروژه، روش طراحی الگوی لباس است.
وکرت برای پیدا کردن طرح مناسب صرفاً به سلیقه بصری خود متکی نبوده است. او از یک فرایند موسوم به Adversarial Loop استفاده کرده تا الگوهای مختلف را در برابر سیستم تشخیص آزمایش کند.
به بیان ساده، از هوش مصنوعی برای پیدا کردن نقاط ضعف یک سیستم هوش مصنوعی دیگر استفاده شده است.
دلیل این کار نیز مشخص است: الگویی که برای انسان عجیب یا گیجکننده به نظر میرسد، لزوماً برای یک شبکه عصبی مشکلساز نیست. بنابراین خود مدل باید مشخص کند کدام الگوها باعث کاهش توانایی آن در تشخیص انسان میشوند.
آزمایش Digital Camouflage با YOLO
سازنده برای نمایش عملکرد Digital Camouflage از یک سیستم متنباز تشخیص اشیا از خانواده YOLO استفاده کرده است.
در ویدیوهای آزمایشی پروژه، سیستم اطرافیان را با کادر و برچسب «Person» تشخیص میدهد، درحالیکه در برخی شرایط فردی که پیراهن مخصوص را پوشیده است بدون کادر باقی میماند.
این نمونه یکی از مفاهیم شناختهشده در حوزه هوش مصنوعی با عنوان Adversarial Example را نشان میدهد؛ ورودیهایی که عمداً بهگونهای طراحی میشوند تا مدل یادگیری ماشین را به اشتباه بیندازند.
این پیراهن شما را از تشخیص چهره مخفی نمیکند
با وجود عنوان جذاب «نامرئیشدن در برابر AI»، محدودیت این فناوری بسیار مهم است.
Digital Camouflage تضمین نمیکند که پوشنده در برابر تمام سیستمهای نظارتی نامرئی شود و سازنده نیز چنین ادعایی ندارد.
سیستم نمایش دادهشده در پروژه یک مدل عمومی متنباز تشخیص اشیاست و عملکرد این لباس در برابر سامانههای نظارتی واقعی، مدلهای متفاوت تشخیص انسان یا سیستمهای تشخیص چهره تضمین نشده است.
حتی وکرت در توضیحات رسمی پروژه تأکید کرده که این آزمایش درباره هیچ سامانه دولتی مشخصی ادعایی ندارد.
بنابراین بهتر است Digital Camouflage را نه یک «شنل نامرئی دیجیتال»، بلکه نمونهای عملی از نقاط ضعف احتمالی سیستمهای بینایی ماشین بدانیم.
اعتراض به گسترش نظارت هوشمند در شهرها
وکرت این پروژه را در واکنش به استفاده روزافزون از سامانههای نظارت و تحلیل رفتار مبتنیبر هوش مصنوعی توسعه داده است.
تمرکز اصلی پروژه روی سیستمهای نظارتی در فضای عمومی و بهخصوص استفاده از فناوری تحلیل ویدیو در منطقه Kottbusser Tor برلین قرار دارد.
Digital Camouflage در نهایت بیش از آنکه محصولی برای فرار از دوربینها باشد، یک پروژه هنری و فناورانه درباره اعتماد به سیستمهای نظارتی خودکار است.
این پروژه سؤال مهمی مطرح میکند: اگر یک الگوی چاپشده روی پارچه بتواند یک سیستم بینایی ماشین را گیج کند، تا چه اندازه میتوان تصمیمگیری درباره رفتار انسانها در فضاهای عمومی را به الگوریتمها سپرد؟
