نتایج یک تحقیق جدید نشان می‌دهد که چت‌بات‌های محبوب هوش مصنوعی، از جمله ChatGPT، Gemini و Perplexity، گاهی هنگام پیشنهاد فروشگاه‌های اینترنتی، کاربران را به وب‌سایت‌های جعلی، فروشندگان کالاهای تقلبی یا دامنه‌های نامعتبر هدایت می‌کنند. این مسئله می‌تواند امنیت اطلاعات شخصی و پرداخت‌های اینترنتی کاربران را به خطر بیندازد.
براساس گزارش The Verge، شرکت Podqi که در زمینه حفاظت از برندها و مالکیت فکری فعالیت می‌کند، در مطالعه‌ای ۶۷۹۵ پاسخ تولیدشده توسط سه چت‌بات هوش مصنوعی را بررسی کرده است. نتایج نشان می‌دهد Perplexity با ۱۵ درصد، ChatGPT با ۸ درصد و Gemini با ۴ درصد، در بخشی از پاسخ‌های مربوط به خرید اینترنتی به وب‌سایت‌های پرخطر اشاره کرده‌اند.
چت‌بات‌های هوش مصنوعی چگونه کاربران را به فروشگاه‌های جعلی هدایت می‌کنند؟
با گسترش استفاده از هوش مصنوعی در خرید اینترنتی، بسیاری از کاربران برای پیدا کردن فروشگاه‌های معتبر، مقایسه قیمت محصولات و بررسی شرایط ارسال کالا از چت‌بات‌ها کمک می‌گیرند.
اما تحقیق جدید Podqi نشان می‌دهد که پاسخ‌های تولیدشده توسط این ابزارها همیشه قابل اعتماد نیستند.
در برخی موارد، چت‌بات‌ها وب‌سایت‌هایی را معرفی می‌کنند که ظاهر یا نام آن‌ها شبیه فروشگاه‌های رسمی برندهای شناخته‌شده است، اما ارتباطی با شرکت اصلی ندارند.
همچنین ممکن است دامنه‌هایی پیشنهاد شوند که دیگر فعال نیستند یا مالکیت آن‌ها تغییر کرده است.
این مشکل زمانی خطرناک‌تر می‌شود که کاربر تصور کند معرفی یک فروشگاه توسط هوش مصنوعی به معنای تأیید اعتبار و امنیت آن است.
بررسی ۶۷۹۵ پاسخ از ChatGPT، Gemini و Perplexity
شرکت Podqi برای بررسی میزان اعتبار پیشنهادهای خرید هوش مصنوعی، مجموعه‌ای از پرسش‌های مرتبط با خرید اینترنتی طراحی کرد.
این پرسش‌ها درباره ۱۵۱ برند کوچک و بزرگ بودند و طی دو مرحله آزمایش در سپتامبر ۲۰۲۶ در اختیار سه چت‌بات قرار گرفتند.
برندهایی مانند Lululemon، Birkenstock، Stüssy، Madhappy و Le Creuset در میان نمونه‌های بررسی‌شده حضور داشتند.
پژوهشگران از چت‌بات‌ها می‌پرسیدند که محصولات یک برند را از کدام وب‌سایت‌ها می‌توان خریداری کرد یا آیا فروشگاه رسمی آن برند در کشورهای دیگر نیز فعالیت دارد.
در مجموع، ۶۷۹۵ پاسخ جمع‌آوری و وب‌سایت‌های معرفی‌شده از نظر اعتبار بررسی شدند.
نتایج نشان داد هر سه چت‌بات در برخی پاسخ‌های خود به دامنه‌های پرخطر اشاره کرده‌اند.
مقایسه ChatGPT، Gemini و Perplexity در معرفی سایت‌های پرخطر
براساس نتایج مطالعه Podqi، میزان نمایش وب‌سایت‌های پرخطر در پاسخ‌های سه چت‌بات متفاوت بوده است.
Perplexity در ۱۵ درصد پاسخ‌های آزمایش‌شده به چنین وب‌سایت‌هایی اشاره کرده و بالاترین نرخ را در میان سه ابزار داشته است.
ChatGPT با ۸ درصد در جایگاه دوم قرار گرفته و Gemini با ۴ درصد کمترین میزان نمایش سایت‌های پرخطر را ثبت کرده است.
بااین‌حال، این آمار به معنای آن نیست که تمام لینک‌های شناسایی‌شده به‌عنوان پرخطر، سایت‌های کلاهبرداری فعال بوده‌اند.
تعریف پژوهشگران از وب‌سایت پرخطر شامل فروشگاه‌های جعلی، فروشندگان احتمالی محصولات تقلبی، دامنه‌های منقضی‌شده و وب‌سایت‌های غیرفعال نیز می‌شد.
همچنین در محاسبه این درصدها، مواردی که چت‌بات درباره خطرناک‌بودن یک سایت هشدار داده بود نیز لحاظ شده‌اند.
بنابراین، ارقام منتشرشده میزان مواجهه با سایت‌های پرخطر را نشان می‌دهند و نباید آن‌ها را مستقیماً معادل نرخ پیشنهاد خرید از فروشگاه‌های جعلی دانست.
چرا فروشگاه‌های جعلی در پاسخ هوش مصنوعی ظاهر می‌شوند؟
یکی از مشکلات چت‌بات‌های هوش مصنوعی، ناتوانی احتمالی آن‌ها در تشخیص اعتبار واقعی برخی دامنه‌های اینترنتی است.
برای مثال، یک فروشگاه ممکن است نام و طراحی مشابه برند اصلی داشته باشد، اما توسط افراد دیگری اداره شود.
همچنین دامنه‌ای که در گذشته متعلق به یک شرکت معتبر بوده، ممکن است پس از انقضا توسط مالک جدیدی ثبت شده باشد.
در چنین شرایطی، هوش مصنوعی ممکن است اطلاعات قدیمی یا نامعتبر را در پاسخ خود نمایش دهد.
از سوی دیگر، بعضی مدل‌های هوش مصنوعی ممکن است آدرس وب‌سایت‌هایی را تولید کنند که ظاهری منطقی دارند، اما در واقع متعلق به برند موردنظر نیستند.
این مشکل به‌ویژه هنگام جست‌وجوی فروشگاه‌های منطقه‌ای و بین‌المللی بیشتر مشاهده شده است.
فروشگاه‌های جعلی برندهای کوچک بیشتر معرفی می‌شوند
یکی از یافته‌های قابل‌توجه تحقیق Podqi، تفاوت میزان خطا در معرفی فروشگاه‌های برندهای بزرگ و کوچک است.
طبق این بررسی، پاسخ‌های مربوط به برندهای بزرگ تقریباً نصف پاسخ‌های مربوط به برندهای کوچک حاوی سایت‌های پرخطر بودند.
یکی از توضیحات احتمالی این تفاوت، حضور گسترده‌تر برندهای بزرگ در اینترنت و وجود اطلاعات معتبر بیشتر درباره فروشگاه‌های رسمی آن‌هاست.
در مقابل، برندهای کوچک‌تر ممکن است شبکه فروش محدودتری داشته باشند و اطلاعات کمتری درباره فروشگاه‌های رسمی آن‌ها منتشر شده باشد.
پرسش درباره فروشگاه‌های منطقه‌ای نیز از مواردی بود که احتمال دریافت پاسخ نامعتبر را افزایش می‌داد.
پژوهشگران مشاهده کردند که در بعضی موارد، هوش مصنوعی برای برندهایی که اصلاً فروشگاه رسمی در یک منطقه نداشتند، آدرس‌هایی ظاهراً معتبر معرفی کرده است.
نمونه واقعی؛ معرفی فروشگاه غیررسمی به‌عنوان سایت اصلی Stüssy
یکی از نمونه‌های مطرح‌شده در این تحقیق به برند پوشاک Stüssy مربوط می‌شود.
در یکی از پاسخ‌های بررسی‌شده، Perplexity وب‌سایتی نامعتبر را به‌اشتباه به‌عنوان فروشگاه رسمی این برند معرفی کرده بود.
این چت‌بات همچنین در توضیحات خود، سایت موردنظر را مکانی مناسب برای خرید محصولات اصل توصیف کرده بود.
چنین پاسخی می‌تواند اعتماد کاربران را جلب کند؛ به‌خصوص زمانی که آن‌ها برای نخستین‌بار قصد خرید از یک برند را دارند.
این نمونه نشان می‌دهد که لحن مطمئن هوش مصنوعی لزوماً به معنای صحت اطلاعات ارائه‌شده نیست.
آیا ChatGPT درباره سایت‌های جعلی هشدار می‌دهد؟
پژوهشگران علاوه بر شناسایی وب‌سایت‌های پرخطر، نحوه واکنش چت‌بات‌ها به این سایت‌ها را نیز بررسی کردند.
طبق نتایج، ChatGPT در میان سه ابزار بررسی‌شده بیشترین تمایل را به هشدار درباره سایت‌های پرخطر نشان داده است.
بااین‌حال، این چت‌بات تنها در ۲۴ درصد مواردی که یک سایت پرخطر در پاسخ آن ظاهر شده بود، درباره خطر احتمالی هشدار داده است.
این موضوع نشان می‌دهد که حتی وجود قابلیت‌های هشداردهنده نیز نمی‌تواند تمام خطرات احتمالی را برطرف کند.
از طرف دیگر، نمایش یک آدرس اینترنتی در پاسخ هوش مصنوعی، حتی بدون توصیه مستقیم به خرید، ممکن است باعث شود کاربر آن را معتبر تصور کند.
واکنش OpenAI، گوگل و Perplexity به نتایج تحقیق
پس از انتشار نتایج این بررسی، شرکت‌های سازنده سه چت‌بات به یافته‌های پژوهشگران واکنش نشان دادند.
گوگل اعلام کرد که کیفیت اطلاعات برای این شرکت اهمیت زیادی دارد و Gemini نیز مانند سایر ابزارهای هوش مصنوعی ممکن است اشتباه کند.
این شرکت تأکید کرده است که نمایش منابع در پاسخ‌ها به کاربران کمک می‌کند اطلاعات ارائه‌شده را بررسی کنند.
OpenAI نیز اعلام کرده که در حال بهبود سازوکارهای محافظتی خود است تا احتمال نمایش وب‌سایت‌های فریبنده در نتایج مرتبط با خرید کاهش پیدا کند.
Perplexity هم با اشاره به عملکرد خود در ارزیابی‌های دقت اطلاعات تأکید کرده است که هیچ سیستم هوش مصنوعی نمی‌تواند دقت صددرصدی را تضمین کند.
چگونه هنگام خرید با هوش مصنوعی گرفتار سایت‌های جعلی نشویم؟
نتایج این مطالعه نشان می‌دهد که کاربران نباید صرفاً براساس پیشنهاد یک چت‌بات به فروشگاه اینترنتی اعتماد کنند.
یکی از مهم‌ترین اقدامات پیش از خرید، بررسی مستقل آدرس فروشگاه و مقایسه آن با وب‌سایت رسمی برند است.
همچنین بهتر است کاربران پیش از واردکردن اطلاعات بانکی یا شخصی، اعتبار فروشنده، اطلاعات تماس، شرایط بازگشت کالا و سابقه فعالیت فروشگاه را بررسی کنند.
وجود تخفیف‌های غیرعادی یا استفاده از نام دامنه‌ای بسیار شبیه به برند اصلی نیز می‌تواند نشانه‌ای برای بررسی بیشتر باشد.
در مجموع، هوش مصنوعی می‌تواند ابزار مفیدی برای مقایسه محصولات و پیدا کردن گزینه‌های خرید باشد، اما اعتبار فروشگاه معرفی‌شده باید جداگانه بررسی شود.
آینده خرید اینترنتی با هوش مصنوعی و چالش اعتماد کاربران
شرکت‌های فناوری در حال توسعه ابزارهایی هستند که بتوانند فرایند جست‌وجو، مقایسه و خرید محصولات را با کمک هوش مصنوعی ساده‌تر کنند.
بااین‌حال، هرچه نقش چت‌بات‌ها در تصمیم‌گیری مالی کاربران بیشتر شود، اهمیت صحت لینک‌ها و اعتبار فروشندگان نیز افزایش پیدا می‌کند.
نتایج تحقیق Podqi نشان می‌دهد که سیستم‌های فعلی همچنان در شناسایی برخی فروشگاه‌های نامعتبر با مشکل روبه‌رو هستند.
البته این مطالعه با پرسش‌های طراحی‌شده توسط پژوهشگران انجام شده و لزوماً نشان‌دهنده میزان خطا در تمام خریدهای واقعی کاربران نیست.
همچنین شرکت Podqi خود در حوزه حفاظت از برندها فعالیت تجاری دارد و نتایج تحقیق آن باید با درنظرگرفتن روش آزمایش و محدودیت‌های مطالعه تفسیر شوند.
با وجود این محدودیت‌ها، پیام اصلی پژوهش روشن است: معرفی یک فروشگاه توسط هوش مصنوعی به‌تنهایی تضمینی برای واقعی‌بودن یا امنیت آن نیست.
دیدگاه‌ها