توهمات هوش مصنوعی چگونه مشتریان طلبکار را بدتر می‌کند؟

هوش مصنوعی با ارائه اطلاعات نادرست درباره حساسیت‌های غذایی، مشتریان خودحق‌پندار را در رستوران‌ها جسورتر کرده است؛ تا جایی که برخی هشدار کارکنان درباره وجود آلرژن‌ها را نادیده می‌گیرند.

خطاهای ساختگی هوش مصنوعی، مشتریان حق به جانب را دشوارتر کرده است

مادیسون، پیشخدمتی در نیویورک، هنگام خوشامدگویی به هر میز ابتدا درباره حساسیت های غذایی مهمانان سؤال می کند. بااین حال، طی ماه های اخیر چند موقعیت خطرناک برای او پیش آمده است. او که برای حفظ هویتش نخواست نام خانوادگی اش منتشر شود، می گوید: «گاهی افراد اعلام می کنند به صدف دریایی حساسیت دارند، اما وقتی برمی گردم، دیگر درباره غذا سؤال نمی کنند. بعد غذایی از ماهی سفارش می دهند که آبِ آن با صدف دریایی تهیه شده است.»

هرگاه مادیسون به مشتریان هشدار می دهد غذایی حاوی ماده حساسیت زا است، برخی با استناد به ChatGPT با او مخالفت می کنند. او توضیح می دهد: «آن ها فقط می خواهند حرف ChatGPT را باور کنند. شما به صدف دریایی حساسیت دارید، ChatGPT گفته در این غذا صدفی وجود ندارد، اما ما به شما می گوییم که وجود دارد.»

رواج گسترده ابزارهای هوش مصنوعی مولد، برداشت قدیمی «همیشه حق با مشتری است» را برای کارکنان رستوران ها و فروشگاه ها تغییر داده است؛ اما مسئله اینجاست که وقتی مشتری انتظار دارد کارکنان با اطلاعات ساختگی یک سامانه هوش مصنوعی همراه شوند، چه اتفاقی رخ می دهد؟

اعتماد فزاینده مشتریان به پاسخ های نادرست

مادیسون علاوه بر بی توجهی برخی مشتریان به هشدارهای مربوط به مواد حساسیت زا، در رستوران ایتالیایی مورد توصیه میشلن که تا همین اواخر در آن کار می کرد، افزایش استفاده از هوش مصنوعی مولد را نیز مشاهده کرده است. او می گوید: «بارها پیشنهاد کرده ام متخصص نوشیدنی را صدا بزنم، اما مشتری پاسخ داده است که خودش از ChatGPT می پرسد. حتی در مواردی، متخصص نوشیدنی را از میز دور کرده اند چون ترجیح می دادند با ChatGPT مشورت کنند. این اتفاق بسیار بیشتر از گذشته رخ می دهد.»

به گفته او، مشتریان گاهی بطری هایی را درخواست می کنند که رستوران در فهرست خود ندارد و در بعضی موارد، آن محصول اساساً وجود خارجی ندارد.

از نگاه مادیسون، اطلاعات ساختگی هوش مصنوعی نگرانی های قدیمی برخی افراد درباره شراب را تشدید می کند. او می گوید بعضی مشتریان از گذشته نسبت به متخصصان نوشیدنی بدبین بوده اند و تصور می کردند آن ها مانند فروشندگان خودروهای دست دوم، قصد دارند مشتری را به خرید بطری گران تر ترغیب کنند. گروهی دیگر نیز نگران اند که متخصص نوشیدنی آن ها را ناآگاه تصور کند.

مادیسون و همکارانش برای کاهش تنش ناشی از پاسخ های نادرست هوش مصنوعی، به جای اینکه مستقیماً به مشتری بگویند ربات گفت وگوگر نام یک برند شراب را ساخته است، توضیحی ملایم تر ارائه می کنند؛ برای مثال می گویند: «فهرست شراب ما بسیار تخصصی است. شاید سامانه برای شما شرابی فرانسوی نمایش داده باشد، اما ما شراب فرانسوی نداریم.»

گسترش خطاهای هوش مصنوعی در خدمات مشتری

به نظر می رسد نفوذ هوش مصنوعی در مشاغل خدماتی تقریباً همه جا دیده می شود. عرضه Muse، عامل هوش مصنوعی جدید متا، احتمالاً این مسئله و دردسر کارکنانی را که باید به درخواست های گاه نامعقول مشتریان پاسخ دهند، بیشتر خواهد کرد. در جریان تهیه این گزارش، کارکنان سینما، باریستاها و کارمندان فروشگاه های اپل از مشتریانی گفتند که محصولات یا قابلیت هایی را درخواست کرده اند که اصلاً وجود ندارند. کارکنان خدمات مشتری نیز در Reddit و X از افرادی شکایت کرده اند که حرف ChatGPT را مانند حقیقت قطعی می پذیرند.

جیسون، محیط بان رودخانه در سرزمین های فدرال منطقه غرب کوهستانی آمریکا، می گوید شمار بازدیدکنندگانی که با برنامه های سفر بی معنا و تولیدشده به کمک هوش مصنوعی وارد پارک می شوند، افزایش یافته است. او به دلیل کارمند دولت فدرال بودن، خواست نام مستعارش استفاده شود.

او توضیح می دهد: «من و همکارانم برای بازدیدکنندگان شرح داده ایم که هوش مصنوعی برخی اردوگاه ها را از خودش ساخته یا برنامه فعالیت ها را از نظر جغرافیایی به ترتیب نادرست تنظیم کرده است. در نتیجه، گروه باید بعضی روزها قایق هایشان را برخلاف جریان رودخانه حرکت دهد که ممکن نیست و روزهای دیگر همراه جریان آب پیش برود.»

جیسون می گوید عجیب ترین بخش ماجرا این است که حتی وقتی یک محیط بان با اشاره به نقشه این موضوع را توضیح می دهد، چندین گروه همچنان تردید می کنند. به گفته او، برخی کاربران هوش مصنوعی حاضرند به ChatGPT بیشتر از محیط بانان، نقشه ها و راهنماهای چاپی اعتماد کنند.

تکیه والدین بر توصیه های نادرست

کیسی، مربی یک برنامه پس از مدرسه در نیویورک، می گوید والدین، پرستاران و دیگر مراقبان کودکان بیش از گذشته برای پرسش های مربوط به رشد کودک به ChatGPT یا Claude مراجعه می کنند. او نیز برای حفظ هویت خود خواست نام مستعارش در گزارش استفاده شود.

کیسی می گوید: «یک خانواده برای تنظیم برنامه خواب و زمان بندی استراحت فرزندشان از ChatGPT کمک گرفته بود، اما کودک به اندازه کافی نمی خوابید. من با توجه به رفتارش در برنامه، برآورد کردم که او هر شب به دو تا سه ساعت خواب بیشتر نیاز دارد و این موضوع را به والدینش گفتم. آن ها اصرار داشتند ChatGPT به آن ها گفته است برنامه فعلی مناسب است.»

به گفته کیسی، برخی والدین اکنون ابزارهای هوش مصنوعی مولد را کارشناسانی می دانند که دانششان از متخصصان مراقبت از کودک بیشتر است. او می گوید: «گفت وگو با کسی که تصمیم خود را گرفته بسیار دشوار است، چون چنین فردی این مرجع بیرونی را کاملاً ارزشمند و قابل اعتماد می داند.»

او در عین حال به کاربردهای ساده تر این فناوری نیز اشاره می کند؛ مانند کودکانی که با برگه های رنگ آمیزی تولیدشده به کمک هوش مصنوعی وارد برنامه می شوند.

ورود عامل های هوش مصنوعی به فرایند رزرو

لورن ویلفورد که ۱۵ سال در حوزه خدمات غذایی فعالیت کرده، می گوید استفاده از هوش مصنوعی در تعامل او با مهمانان نیز بیشتر شده است. این روند ابتدا از منو آغاز شد؛ مشتریان تصویر منو را در ChatGPT یا Claude بارگذاری می کردند و از سامانه می خواستند غذای مناسب یا ترکیب مطلوب غذا و شراب را پیشنهاد دهد، به جای آنکه از پیشخدمت سؤال کنند.

اما اکنون به نظر می رسد برخی مشتریان حتی این واسطه را نیز کنار گذاشته اند. طی یک سال گذشته، رستوران وی تماس ها و ایمیل هایی از عامل های نرم افزاری دریافت کرده که از طرف کاربران برای آن ها میز رزرو می کردند. افزایش استفاده از هوش مصنوعی عامل محور این تعامل ها را پیچیده تر کرده است.

ویلفورد زمانی شگفت زده شد که مشتری ای معمولاً کم دردسر، شب پیش از برگزاری یک مراسم بزرگ ناگهان درخواست های متعددی مطرح کرد؛ از جمله تهیه جایگاه سخنرانی و تجهیزات صوتی و تصویری که در رستوران او در پراویدنسِ رود آیلند به سادگی در دسترس نبود. همان مشتری در آخرین لحظه تغییراتی نیز در منوی پذیرایی خواست.

بااین حال، شگفتی ویلفورد زمانی بیشتر شد که مشتریان روز بعد به محل برگزاری آمدند و اصلاً درباره آن درخواست ها چیزی نگفتند. او نمی تواند این موضوع را ثابت کند، اما احتمال می دهد پیام ها از سوی هیچ یک از کارکنان آن شرکت ارسال نشده و در واقع نتیجه فعالیت یک عامل هوش مصنوعی بوده باشد.

ویلفورد می گوید: «من دلیل استفاده مردم از عامل های هوش مصنوعی را درک می کنم، به ویژه برای کارهای اداری و بروکراتیک. اما در موقعیت هایی که دیدار و همکاری مستقیم دو انسان ارزش دارد، به نظرم هنوز متوجه نیستیم با حذف این فرایندها چه چیزهایی ممکن است از دست برود.»