اسناد تازه منتشرشده نشان میدهد مدیرعامل متا در آغاز با اعمال کنترلهای والدین بر چتباتهای هوش مصنوعی همراهی نداشته؛ موضوعی که اکنون محل مناقشه حقوقی است.
به گزارش تکراتو و به نقل از androidheadlines، اسناد داخلی تازهای که از شرکت متا فاش شدهاند، حاکی از آن است که مارک زاکربرگ، مدیرعامل این شرکت، در مراحل اولیه توسعه چتباتهای هوش مصنوعی همراهمحور، با ایده اعمال کنترلهای والدین مخالفت کرده بود.
متا اما این ادعا را رد میکند و میگوید این برداشتها بر پایه اطلاعات گزینشی و بدون مدرک مستقیم از سوی زاکربرگ شکل گرفتهاند.
با توجه به اینکه متا مالک بزرگترین شبکه اجتماعی جهان است و همزمان ابزارهای هوش مصنوعیای توسعه میدهد که کاربران میتوانند با آنها مانند یک انسان واقعی تعامل داشته باشند، انتظار میرود کنترلهای والدین بخش جداییناپذیر چنین محصولاتی باشد.
با این حال، اسناد ارائهشده نشان میدهد که این موضوع در ابتدا با مقاومت مدیرعامل متا مواجه شده است.
بر اساس مدارکی که اخیرا در پروندهای قضایی در ایالت نیومکزیکو ثبت شدهاند، مارک زاکربرگ در ابتدا با اعمال کنترلهای والدین و دیگر سازوکارهای ایمنی که میتوانست مانع قرار گرفتن کودکان در معرض گفتوگوهای جنسی و سوءاستفادهآمیز شود، مخالفت کرده بود. این اسناد بخشی از شکایتی هستند که توسط دادستان کل نیومکزیکو، رائول تورس، علیه متا مطرح شده است.
در این شکایت ادعا میشود که متا نتوانسته جلوی انتشار و انتقال محتوای جنسی آسیبزا و پیشنهادهای نامناسب برای کودکان را بگیرد. به گفته دادستان، این ناکامی باعث شده کودکان در تعامل با چتباتهای هوش مصنوعی در معرض خطرات جدی قرار بگیرند.
بررسی ارتباطات داخلی متا نشان میدهد که برخی از کارکنان بخش ایمنی شرکت نسبت به مسیر انتخابشده ابراز نگرانی کرده بودند. دلیل اصلی این نگرانی آن بود که چتباتهای در حال توسعه، برای ایجاد حس همراهی طراحی شده بودند و این همراهی شامل تعاملات عاطفی و حتی جنسی با کاربران میشد.
در سال ۲۰۲۴، راوی سینها، رئیس سیاستگذاری ایمنی کودکان در متا، بهطور صریح نسبت به این تصمیم انتقاد کرد. او معتقد بود ساخت و بازاریابی محصولی که هوش مصنوعیهای عاطفی برای افراد زیر ۱۸ سال ایجاد میکند، نه قابل دفاع است و نه تصمیمی منطقی.
این موضعگیری نشان میدهد که درون شرکت نیز اجماع کاملی درباره رویکرد مدیریتی وجود نداشته است. پس از این اظهارنظر، پیامهایی میان دو کارمند متا ردوبدل شد که در آنها ادعا شده بود زاکربرگ با ایجاد کنترلهای والدین برای این چتباتها مخالفت کرده است. همین پیامها اکنون به یکی از محورهای اصلی پرونده قضایی تبدیل شدهاند.
با این حال، پرسش مهم این است که آیا این ادعاها کاملا دقیق هستند یا نه. اگرچه محتوای اسناد داخلی منتشرشده جدی و نگرانکننده به نظر میرسد، اما تاکنون هیچ پیام یا یادداشتی که مستقیما توسط مارک زاکربرگ نوشته شده باشد، ارائه نشده است.
در یکی از این اسناد، کارمندی در سال ۲۰۲۴ نوشته است که زاکربرگ در واقع اعتقاد داشته چتباتهای همراه باید از گفتوگوهای جنسی صریح با نوجوانان کمسن مسدود شوند.
همچنین در همان متن اشاره شده که از نظر او، بزرگسالان نیز نباید اجازه تعامل عاطفی یا عاشقانه با هوش مصنوعیهایی که نمایانگر افراد زیر ۱۸ سال هستند، داشته باشند.
متا نیز در واکنش رسمی به این پرونده، روایت ارائهشده از سوی دادستان کل نیومکزیکو را نادرست دانسته است. اندی استون، سخنگوی متا، اعلام کرده که این ادعاها بر پایه انتخاب گزینشی اسناد شکل گرفتهاند و تصویر دقیقی از واقعیت ارائه نمیدهند.
به گفته او، دادستان با انتخاب بخشهایی محدود از مدارک، تلاش کرده روایتی ناقص و گمراهکننده از تصمیمات متا و مدیرعامل آن ترسیم کند.
در مجموع، این پرونده بار دیگر بحث مسئولیت شرکتهای فناوری در قبال ایمنی کودکان، بهویژه در حوزه هوش مصنوعی و تعاملات شبهانسانی، را به صدر توجهات عمومی بازگردانده است؛ بحثی که به نظر میرسد در آینده نیز ادامهدار خواهد بود.