هشدار جدی درباره ChatGPT؛ استفاده نوجوانان از این هوش مصنوعی «ریسکی غیرقابل‌قبول» دارد

ما تعهدی عمیق به ایمنی نوجوانان، توسعه تدابیر حفاظتی و فراهم کردن ابزارهای مؤثر برای والدین به منظور هدایت استفاده فرزندانشان از هوش مصنوعی داریم. از ارزیابی های مستقل و دقیق استقبال می کنیم، اما معتقد نیستیم آزمایش های Common Sense Media عملکرد واقعی تدابیر حفاظتی ChatGPT برای نوجوانان یا دیدگاه کارشناسان درباره ظرفیت هوش مصنوعی برای حمایت از نوجوانان را به درستی نشان داده باشد.

بررسی ما درباره روش شناسی Common Sense Media نشان می دهد بخش عمده آزمایش های این مؤسسه احتمالاً پیش از تکمیل فعال سازی کنترل های والدین آغاز و پایان یافته است. در صورت صحت این موضوع، نتایج به دست آمده نمی تواند مشخص کند که اعلان های ایمنی برای والدین مطابق طراحی عمل می کنند یا نه.

ما همچنان با کارشناسان همکاری خواهیم کرد تا محصولاتمان فرصت یادگیری و خلاقیت را برای نوجوانان فراهم کنند و در عین حال، اعتماد والدین را افزایش دهند.

ما بر روش آزمایش و نتایج خود تأکید داریم. پیش از آغاز بررسی، از OpenAI تأیید گرفتیم که قابلیت های حالت نوجوانان، از جمله اعلان های مربوط به اختلالات خوردن و حالت مطالعه، به طور کامل راه اندازی شده اند.

درباره یکی از قابلیت های بررسی شده، یعنی اعلان های والدین، OpenAI پس از پایان آزمایش ها اعلام کرد که فعال شدن سامانه روی حساب هایی که به تازگی متصل شده اند، ممکن است چند ساعت زمان ببرد. برخی از حساب های آزمایشی ما در همین بازه زمانی به والدین متصل شده بودند؛ با این حال، حساب های دیگری نیز وجود داشتند که برای مدت بسیار طولانی تری متصل بودند اما همچنان هیچ اعلانی دریافت نکردند.

این اطلاعات تازه، نتیجه گیری ما را تغییر نمی دهد؛ زیرا نشان می دهد هشدارهای والدین برای موقعیت های بحرانی قابل اتکا نیستند.

ما پیش از عرضه محصول، نتایج ارزیابی خود را با حسن نیت در اختیار OpenAI گذاشتیم تا این شرکت فرصت بهبود محصولش را داشته باشد. حفظ امنیت کودکان به ارزیابی های مستقل و دقیق نیاز دارد و امیدواریم OpenAI به جای ایجاد تردید درباره روش بررسی ما، درباره محتوای یافته های مطرح شده وارد گفت وگو شود.