OpenAI مجموعه‌ای از محدودیت‌های جدید را برای افزایش ایمنی کاربران نوجوان ChatGPT معرفی کرده است. براساس اعلام رسمی شرکت، کاربران زیر ۱۸ سال از این پس با محدودیت بیشتری در دریافت برخی اطلاعات مرتبط با سلاح‌ها و سیستم‌های امنیتی روبه‌رو خواهند شد.
این تغییر بخشی از سیاست گسترده‌تر OpenAI برای ایمن‌تر کردن ChatGPT برای نوجوانان است. این شرکت می‌گوید محدودیت‌های جدید حتی زمانی اعمال می‌شوند که سؤال کاربر در ظاهر بی‌خطر باشد و نشانه‌ای از قصد خشونت‌آمیز مشاهده نشود.
محدودیت‌های ChatGPT برای اطلاعات مرتبط با سلاح‌ها بیشتر می‌شود
OpenAI اعلام کرده است که سیاست‌های قبلی از ارائه کمک برای برنامه‌ریزی یا اجرای خشونت جلوگیری می‌کردند و همچنین دسترسی نوجوانان به اطلاعاتی که به تهیه سلاح منجر شود محدود بود.
اکنون این شرکت یک مرحله فراتر رفته و ارائه اطلاعات عملی درباره سلاح‌ها و سیستم‌های امنیتی را که امکان سوءاستفاده از آن‌ها وجود دارد، برای کاربران نوجوان محدودتر می‌کند.
هدف از این سیاست، کاهش احتمال استفاده نامناسب از اطلاعاتی است که ممکن است در شرایط عادی آموزشی یا عمومی به نظر برسند، اما در برخی موقعیت‌ها بتوانند خطر ایجاد کنند.
محدودیت‌ها فقط به کاربران نوجوان مربوط نمی‌شوند
OpenAI هم‌زمان بخشی از سیاست‌های خود را برای همه کاربران نیز سخت‌تر کرده است.
این شرکت می‌گوید ChatGPT در پاسخ به پرسش‌هایی درباره حملات خشونت‌آمیز گسترده گذشته، اطلاعات جزئی کمتری درباره تجهیزات مورد استفاده، نحوه تهیه آن‌ها و جزئیاتی که بتوانند به بازسازی یک حمله کمک کنند ارائه خواهد کرد.
OpenAI تأکید کرده است که کاربران همچنان می‌توانند درباره پیامدهای چنین حوادثی، روش‌های پیشگیری از خشونت و تشخیص نشانه‌های هشداردهنده سؤال کنند.
ChatGPT به سابقه گفتگوها نیز توجه بیشتری می‌کند
یکی دیگر از تغییرات اعلام‌شده به نحوه ارزیابی زمینه گفتگو مربوط می‌شود.
OpenAI می‌گوید گاهی یک سؤال به‌تنهایی عادی به نظر می‌رسد، اما در کنار گفتگوهای قبلی می‌تواند معنای متفاوتی پیدا کند. به همین دلیل ChatGPT در شرایطی که گفتگوهای اخیر نشانه‌هایی از خطر احتمالی خشونت داشته باشند، هنگام ارائه اطلاعات حساس محتاط‌تر عمل خواهد کرد.
شرکت همچنین در حال توسعه سیستم‌هایی است که در صورت مشاهده تمرکز مداوم کاربر بر خشونت یا آسیب جدی به دیگران، بتوانند مداخله زودهنگام‌تری انجام دهند.
سیستم تشخیص سن ChatGPT تقویت شده است
OpenAI سیستم Age Prediction یا تخمین سن کاربران را نیز بهبود داده است.
این سیستم با بررسی مجموعه‌ای از سیگنال‌ها تلاش می‌کند تشخیص دهد کاربر احتمالاً زیر یا بالای ۱۸ سال است. اگر سیستم تشخیص دهد کاربر نوجوان است، حساب به تجربه ChatGPT for Teens منتقل می‌شود و محدودیت‌های مخصوص کاربران زیر ۱۸ سال به‌طور خودکار فعال خواهند شد.
OpenAI می‌گوید سیستم تخمین سن اکنون به‌صورت مستمر سیگنال‌های جدید را بررسی می‌کند و می‌تواند در طول زمان دسته‌بندی حساب را تغییر دهد.
کاربران بزرگسال می‌توانند سن خود را تأیید کنند
اگر کاربری به اشتباه در گروه زیر ۱۸ سال قرار بگیرد، امکان تأیید بزرگسال بودن خود را خواهد داشت.
OpenAI برای این فرایند از سرویس Persona به‌عنوان شریک تأیید سن استفاده می‌کند. پس از تأیید اینکه کاربر ۱۸ سال یا بیشتر دارد، محدودیت‌های مخصوص نوجوانان از حساب او برداشته می‌شوند.
ChatGPT for Teens از چه محدودیت‌هایی استفاده می‌کند؟
OpenAI در آگوست ۲۰۲۶ تجربه ChatGPT for Teens را معرفی کرد که برای کاربران ۱۳ تا ۱۷ سال طراحی شده است.
این نسخه علاوه بر امکانات آموزشی، محدودیت‌های بیشتری برای محتوای حساس، خشونت گرافیکی، چالش‌های پرخطر و برخی موضوعات نامناسب برای کاربران نوجوان دارد.
OpenAI می‌گوید هدف اصلی این سیستم حفظ دسترسی نوجوانان به ابزارهای یادگیری، خلاقیت و حل مسئله است؛ درحالی‌که احتمال مواجهه آن‌ها با محتوای پرخطر کاهش پیدا می‌کند.
سیاست‌های جدید بخشی از برنامه گسترده‌تر ایمنی OpenAI هستند
محدودیت تازه مرتبط با سلاح‌ها هم‌زمان با انتشار گزارش جدید Community Safety شرکت OpenAI اعلام شده است.
شرکت می‌گوید در کنار محدودیت‌های مدل، روی سیستم‌های تشخیص خطر و مداخله در موقعیت‌های حساس نیز سرمایه‌گذاری کرده و قصد دارد این سازوکارها را در آینده بیشتر توسعه دهد.
با این تغییرات، تفاوت میان تجربه استاندارد ChatGPT و نسخه مخصوص نوجوانان پررنگ‌تر می‌شود و کاربران زیر ۱۸ سال در موضوعات حساس با پاسخ‌های محافظه‌کارانه‌تری روبه‌رو خواهند شد.
دیدگاه‌ها