OpenAI واترمارک نامرئی را به متن‌های ChatGPT و Codex اضافه می‌کند

OpenAI ابزار جدید textGrain را برای افزودن واترمارک نامرئی و قابل‌خواندن توسط ماشین به خروجی‌های متنی ChatGPT و Codex راه‌اندازی می‌کند؛ این قابلیت ابتدا برای کاربران اتحادیه اروپا عرضه خواهد شد.

OpenAI فرایند افزودن واترمارک متنی به ChatGPT و Codex را آغاز می کند؛ قابلیتی نامرئی و قابل خواندن برای ماشین که در مرحله نخست فقط در اختیار کاربران اتحادیه اروپا قرار می گیرد.

عرضه مرحله ای واترمارک متنی در اتحادیه اروپا

واترمارک متنی OpenAI که با فناوری textGrain ایجاد شده است، طی هفته های آینده برای کاربران واجد شرایط ChatGPT و Codex در تمامی طرح ها و فقط در کشورهای عضو اتحادیه اروپا فعال می شود. این شرکت اعلام کرده است که در زمان آغاز عرضه، این قابلیت را به صورت پیش فرض در سراسر جهان فعال نخواهد کرد تا بتواند بازخورد کاربران و نتایج استفاده واقعی را بررسی کند.

به گفته OpenAI، عملکرد textGrain در مقایسه با برخی روش های دیگر، از جمله فناوری SynthID شرکت گوگل دیپ مایند برای متن، «هم سطح یا بهتر» بوده است. فناوری مذکور همچنین مبنای راهکار واترمارک متنی ای است که Anthropic در ماه اوت معرفی کرد. هر دو شرکت این اقدام را برای هماهنگی با الزامات قانون هوش مصنوعی اتحادیه اروپا انجام داده اند؛ با این حال، اضافه شدن چنین قابلیتی با استقبال همه کاربران مواجه نشده است.

واترمارک، معیار سنجش صحت یا میزان مشارکت انسان نیست

OpenAI برای مقایسه متن های دارای واترمارک و متن های بدون واترمارک، نتایج چند آزمون استاندارد هوش مصنوعی را نیز منتشر کرده است. این داده ها نشان می دهند عملکرد دو گروه متن تفاوت چشمگیری ندارد.

با وجود این، شرکت تأکید می کند که textGrain تشخیص قطعی و قابل اتکا را تضمین نمی کند. واترمارک متنی نمی تواند صحت اطلاعات را تأیید کند، مالک اثر را مشخص سازد، میزان مشارکت انسان در تولید متن را بسنجد یا ثابت کند که یک متن به طور کامل توسط انسان نوشته شده است.

امکان فعال سازی اختیاری برای مشتریان API

از امروز، مشتریان API در سراسر جهان می توانند برای مدل های منتخب، دریافت خروجی های متنی دارای واترمارک را به صورت اختیاری فعال کنند. این گزینه به مشتریان اجازه می دهد نحوه استفاده از واترمارک را با تعهدات خود در زمینه شفافیت و خدماتی که به کاربران ارائه می کنند، هماهنگ کنند.

OpenAI همچنین اعلام کرده است که با شرکای ابری خود همکاری می کند تا واترمارک برای خروجی مدل های این شرکت که از طریق خدمات شرکای ابری در دسترس قرار می گیرند، طی هفته های آینده ارائه شود.

دسترسی پژوهشگران به ابزار تشخیص

پژوهشگران تأییدشده و سازمان های تخصصی نیز از امروز می توانند برای استفاده از ابزار تشخیص درخواست خود را ثبت کنند. بر اساس مفاد «آیین نامه اقدامات»، دسترسی در ابتدا به صورت موردی اعطا خواهد شد تا ارزیابی و بهبود فرایند تعیین منشأ متن امکان پذیر شود.

این ابزار تنها اعلام می کند که آیا واترمارک OpenAI در متن شناسایی شده است یا نه و اطلاعاتی درباره هویت کاربر، درخواست های ثبت شده یا گفت وگوهای او ارائه نمی دهد. OpenAI با اشاره به احتمال شناسایی نشدن برخی واترمارک ها و ثبت نتایج مثبت اشتباه، اعلام کرده است که این ابزار را در زمان آغاز عرضه به صورت عمومی منتشر نمی کند.