فریب هوش مصنوعی توسط یک گیمر حرفه‌ای و باهوش همه را شگفت‌زده کرد. این گیمر توانست بازی Go را با این شیوه شکست دهد.
یک گیمر حرفه‌ای و باهوش توانست با فریب هوش مصنوعی بازی Go را شکست دهد. این گیمر متوجه نقص هوش مصنوعی در بازی KataGo شد و با اتکا بر هوش خود، توانست بر این بازی غلبه کند. جالب است بدانید که اولین‌بار است که چنین اتفاقی رخ می‌دهد و تابه‌حال هیچ انسانی نتوانسته بود هوش مصنوعی را شکست دهد.
فایننشال‌تایمز گزارش داده است کلین پلرین، یکی از بازیکنان بازی Go، با سوءاستفاده از ضعف شناسایی‌شده در سیستم هوش مصنوعی KataGo، موفق شد آن را شکست دهد. از سال ۲۰۱۹ که AlphaGo حتی قدرتمندترین انسان‌ها را در بازی Go شکست داد، این اولین‌بار است که شاهد پیروزی انسان بر هوش مصنوعی هستیم. این موضوع نشان می‌دهد حتی پیشرفته‌ترین سیستم‌های مبتنی‌بر هوش مصنوعی نیز می‌توانند همچنان ضعف‌هایی داشته باشند.
پیروزی پلرین با کمک شرکت تحقیقاتی FAR AI محقق شد. این شرکت برنامه‌ای را برای بررسی ضعف‌های KataGo توسعه داد و پس از انجام‌دادن بیش از یک‌میلیون بازی شبیه‌سازی‌شده موفق شد باگی را کشف کند که حتی بازیکنان تازه‌کار می‌توانند از آن بهره ببرند. پلرین می‌گوید:
استفاده از برنامه‌ی FAR AI برای بهرده‌برداری از نقص سیستم هوش مصنوعی کار خیلی سختی نیست.
فریب هوش مصنوعی توسط یک گیمر حرفه‌ای
پلرین درواقع از روشی مشابه با راهکار استفاده‌شده برای شکست هوش مصنوعی Leela Zero بهره گرفت. او با اشاره به آسان‌بودن تشخیص استراتژی شکست‌دادن هوش مصنوعی، توضیحاتی درباره‌ی آن ارائه داد:
هدف این است حلقه‌ی بزرگی از سنگ‌ها ایجاد کنید تا گروه حریف محاصره شوند و سپس با انجام حرکات در بخش‌های دیگر صفحه، حواس کامپیوتر را پرت کنید. حتی زمانی‌که گروه تقریباً در حالت محاصره باشد، کامپیوتر متوجه استراتژی کاربر نخواهد شد.
همان‌طور‌که انگجت اشاره می‌کند، نقص موجود در KataGo نشان می‌دهد سیستم‌های هوش مصنوعی درحال‌حاضر واقعاً نمی‌توانند فراتر از آموزش‌های خود عمل کنند؛ بنابراین، اغلب کارهایی که انجام می‌دهند، برای انسان‌ها عجیب و غیر‌منتظره و گاهی احمقانه به‌نظر می‌رسند.
ما مواردی مشابهی را در بینگ جدید مایکروسافت مشاهده کردیم. به‌عنوان مثال، این چت‌بات بارها اطلاعات را اشتباه نمایش داد یا گاهی برخی کاربران را تهدید کرد. این اشکالات احتمالاً به‌دلیل مدل‌هایی است که هوش مصنوعی مایکروسافت براساس آنها آموزش دیده است.
لایت وکتور، توسعه‌دهنده‌ی KataGo، قطعاً از مشکلی که بازیکنان در چند ماه گذشته از آن سوءاستفاده کرده‌اند، آگاه است. وکتور با انتشار پستی در گیت‌هاب اعلام کرد: «در حال کار روی اصلاحیه‌ای است که باگ مذکور را از سیستم هوش مصنوعی آن حذف می‌کند.»
