تنها چند روز از انتشار هوش مصنوعی آمازون کیو نمی‌گذرد که خبر رسیده این مدل هوش مصنوعی اطلاعات محرمانه این شرکت را لو داده است.
هوش مصنوعی آمازون کیو تقریباً یک هفته پیش توسط این شرکت بزرگ آمریکایی معرفی شد. این مدل هوش مصنوعی که مختص سازمان‌ها طراحی شده حالا به افشای اطلاعات متهم شده است. این هوش مصنوعی که در حقیقت می‌توان آن را نسخه سازمانی چت‌بات هوش مصنوعی ChatGPT دانست به نحوی طراحی شده تا ضعف و ایمنی نسخه‌های معمولی چت‌بات‌های دیگر را پوشش دهد. اما ظاهراً فعلاً آمازون کیو در این مسیر موفق نبوده و کار تا جایی پیش رفته که خود کارمندان این غول خرده‌فروشی، آمازون کیو را به اختلالات حواس متهم کرده‌اند.
بیشتر بخوانید: آمازون در بلک فرایدی رکورد فروش جدیدی را ثبت کرد
هوش مصنوعی آمازون کیو یک ماشین افشای اطلاعات است!
4 روز پیش آمازون چت‌بات هوش مصنوعی آمازون کیو را معرفی کرد. این چت بات که در حقیقت به نسخه سازمانی ChatGPT شهره شده، اکنون با یک نشتی بزرگ دست و پنجه نرم می‌کند. این مدل هوش مصنوعی اطلاعات سازمان‌ها را فاش کرده است و فی‌الحال با تیغ تیز انتقاد کارمندان مواجه شده است.
گزارش‌های موجود نشان می‌دهند Amazon Q که به عنوان جایگزینی ایمن‌تر و مطمئن‌تر برای چت‌بات‌های هوش مصنوعی دیگر معرفی شده، دچار توهمات شدید شده و به افشای اطلاعات محرمانه مانند مکان مراکز داده AWS، قابلیت‌های معرفی نشده و برنامه‌های تخفیفی داخلی شرکت پرداخته است.
گزارش Platforme، همچنین به این موضوع اشاره می‌کند که کارمندان آمازون در یک سند داخلی به پاسخ‌های اشتباه آمازون Q و توهمات این مدل هوش مصنوعی واکنش نشان داده و می‌گویند:
Amazon Q می‌تواند توهم ایجاد کند و پاسخ‌های مضر یا نامناسبی ارائه دهد.
موارد اشاره شده در این سند، درحقیقت نمونه‌ای از مشکلات مدل‌های زبانی است که گاهاً در ارائه درست اطلاعات ناکام بوده و پاسخ‌های اشتباه یا نامناسب ارائه می‌دهند.
مشکلات آمازون کیو به قدری زیاد است که یکی از مدیران کسب‌وکار خدمات ابری آمازون (AWS) از کارمندان آمازون خواسته تا در این مورد در کانال‌های عمومی Slack با یکدیگر صحبت کنند.
اما با وجود تأیید مشکلات آمازون Q، آمازون ادعا کرده که هیچ مشکل امنیتی در این چت‌بات وجود ندارد. در این رابطه سخنگوی آمازون می‌گوید:
به‌دنبال بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده‌ایم تشکر می‌کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش‌نمایش به یک محصول عمومی، به بهینه‌سازی آن ادامه خواهیم داد.
آمازون در زمان معرفی مدل زبانی سازمانی خود که به عنوان نسخه سازمانی ChatGPT شناخته شده گفته بود که این مدل در مقایسه با دیگر مدل‌های هوش مصنوعی معمولی از امنیت بسیار بالاتری برخوردار است. با این حال اسناد فاش شده نشان می‌دهند که آمازون کیو فعلاً چنین قابلیتی ندارد و فقط اطلاعات نادرست و مضر ارائه می‌دهد.
چت بات هوش مصنوعی آمازون Q در حال حاضر تنها در دسترس کاربران سرویس Amazon قرار دارد؛ اما در آینده در اختیار تمام سرویس‌های Amazon Supply Chain و Amazon QuickSight قرار خواهد گرفت.
بیشتر بخوانید:
- فروش خودرو در سایت آمازون با هیوندای آغاز می‌شود
- پیشگویی هوش مصنوعی آمازون از زمان آغاز جنگ جهانی سوم ؛ پیش از پایان 2023!
- بهترین ارزهای دیجیتال هوش مصنوعی ؛ معرفی رمز ارزهای برتر براساس مارکت کپ
- وزارت دفاع بریتانیا هوش مصنوعی Chat-GPT را به ربات‌هایش اضافه خواهد کرد
نظر شما در مورد افشای اطلاعات سری توسط هوش مصنوعی آمازون کیو چیست؟ لطفاً نظرات خود را در بخش کامنت‌ها با ما به اشتراک گذاشته و اخبار تکنولوژی را از تکراتو دنبال کنید.
