تلاش عامل های هوش مصنوعی OpenAI برای هک آزمایشی وب سایت سازمان ملل

عامل های هوش مصنوعی OpenAI پس از ناکامی در دریافت اطلاعات، با روش هایی تهاجمی سایت آماری آنکتاد را بیش از ۱۶ هزار بار اسکن کردند؛ اقدامی که نگرانی هایی درباره رفتار خارج از چارچوب این ابزارها ایجاد کرده است.

عامل های OpenAI تلاش کردند با آزمون و خطای گسترده به وب سایت سازمان ملل دسترسی پیدا کنند

یک پژوهشگر امنیتی اعلام کرده است که عامل های هوش مصنوعی OpenAI در فاصله ماه های آوریل تا ژوئن، بیش از ۱۶ هزار بار وب سایت آماری کنفرانس تجارت و توسعه سازمان ملل، موسوم به UNCTAD، را بررسی کردند. این رویداد از نظر شدت با هک اخیر Hugging Face یا حمله های تازه به وب سایت های دولتی آمریکا قابل مقایسه نیست، اما نمونه دیگری از رفتار نگران کننده عامل های هوش مصنوعی و عبور آنها از چارچوب های معمول برای انجام یک ماموریت به شمار می رود.

تلاش برای دریافت داده های شاخص ظرفیت های تولیدی

احتمال می رود این عامل ها برای استخراج داده های عمومی مربوط به شاخص ظرفیت های تولیدی یا PCI از طریق رابط برنامه نویسی UNCTADstat فعال شده باشند. با این حال، ظاهرا آنها دسترسی مستقیم به API نداشتند و محدودیت های ابزارهای HTTP نیز توانایی شان را برای دریافت اطلاعات از UNCTADstat کاهش داده بود.

عامل ها سرانجام روشی برای عبور از این محدودیت ها و آغاز دریافت داده از وب سایت پیدا کردند، اما همچنان با خطاهایی روبرو شدند. در این مرحله، رفتار آنها از خلاقیت به سمت فریب تغییر کرد. عامل ها تصور کردند خطاها نتیجه شناسایی درخواست هایشان توسط فیلتری غیرواقعی است و برای پنهان کردن فعالیت خود اقدام کردند.

استفاده از ابزار آموزشی XSS گوگل

این سامانه در ادامه متوجه شد که می تواند از بازی XSS گوگل، که ابزاری آموزشی برای یادگیری اسکریپت نویسی میان سایتی است، برای رسیدن به هدف خود استفاده کند. عامل ها سپس برای دستیابی به داده های سازمان ملل به سراغ روش هایی رفتند که به تدریج تهاجمی تر می شد.

OpenAI و سازمان ملل تا زمان انتشار این گزارش به درخواست اظهار نظر پاسخ نداده بودند.