آنتروپیک ابزار جدیدی برای بررسی منشأ فایلهای دیجیتال منتشر کرده است که میتواند مشخص کند آیا Claude در تولید یا پردازش یک فایل نقش داشته است یا خیر. این ابزار که Content Checker نام دارد، بخشی از برنامه گستردهتر آنتروپیک برای شفافسازی محتوای تولیدشده با هوش مصنوعی محسوب میشود.
تکراتو به نقل از دیجیاتو گزارش میدهد، کاربران میتوانند فایل موردنظر خود را در ابزار جدید آنتروپیک آپلود کنند تا وجود Content Credentials مرتبط با Claude در آن بررسی شود.
اما یک محدودیت مهم وجود دارد: Content Checker فعلاً نمیتواند یک مقاله یا متن ساده را دریافت کند و اعلام کند که آیا توسط Claude نوشته شده است.
Content Checker چگونه کار میکند؟
آنتروپیک برای فایلهایی مانند تصاویر و محتوای چندرسانهای از استاندارد C2PA استفاده میکند.
وقتی Claude یک فایل پشتیبانیشده را تولید یا پردازش میکند، یک اعتبارنامه رمزنگاریشده در متادیتای آن قرار میگیرد که نشان میدهد Claude در ساخت یا ویرایش فایل نقش داشته است.
Content Checker همین اطلاعات را بررسی میکند.
اگر اعتبارنامه معتبر مرتبط با Claude در فایل وجود داشته باشد، ابزار میتواند مشخص کند که فایل نشانههایی از پردازش توسط Claude دارد.
این روش با سیستمهای متداول تشخیص محتوای هوش مصنوعی تفاوت مهمی دارد. ابزار قرار نیست صرفاً براساس ظاهر تصویر یا الگوی محتوای آن حدس بزند که فایل توسط AI ساخته شده است؛ بلکه بهدنبال اطلاعات منشأ رمزنگاریشده میگردد.
فعلاً نمیتوانید مقالهها را با آن بررسی کنید
شاید اولین کاربردی که برای چنین ابزاری به ذهن برسد، تشخیص مقاله، تکلیف دانشگاهی یا پیام نوشتهشده با Claude باشد؛ اما Content Checker فعلی چنین قابلیتی ندارد.
طبق اطلاعات منتشرشده، ابزار از مجموعهای از فرمتهای فایل پشتیبانی میکند که شامل فایلهای چندرسانهای مانند JPEG، GIF، MP3 و MOV میشوند، اما فرمتهای متنی معمول در نسخه فعلی در دسترس نیستند.
بنابراین نمیتوانید یک متن را در این صفحه Paste کنید و انتظار داشته باشید سیستم اعلام کند چند درصد آن توسط Claude نوشته شده است.
این تمایز اهمیت زیادی دارد؛ زیرا Content Checker یک ابزار عمومی برای تشخیص تمام محتوای تولیدشده با هوش مصنوعی نیست.
متنهای Claude هم واترمارک میشوند
نبود قابلیت بررسی متن در Content Checker به این معنی نیست که آنتروپیک برنامهای برای شناسایی خروجیهای متنی Claude ندارد.
این شرکت پیشتر اعلام کرده بود مدلهای Claude از سیستم واترمارک متنی استفاده خواهند کرد.
روش آنتروپیک برخلاف واترمارکهای بصری یا کاراکترهای مخفی عمل میکند. هیچ علامت یا کاراکتر نامرئی خاصی به متن اضافه نمیشود.
در عوض، هنگام انتخاب کلمات در فرایند تولید متن، الگویی آماری ایجاد میشود که برای خواننده قابلتشخیص نیست، اما دارنده کلید مربوطه میتواند احتمال دخالت Claude در تولید متن را بررسی کند.
آنتروپیک میگوید این سیستم تأثیر عملی محسوسی بر کیفیت خروجی ندارد و توکن اضافی نیز مصرف نمیکند.
امکان ردیابی کاربر از طریق واترمارک وجود ندارد
یکی از نگرانیهای احتمالی درباره چنین فناوریای، حریم خصوصی کاربران است.
آنتروپیک تأکید کرده است واترمارک Claude اطلاعات شناسایی کاربر، سازمان یا گفتوگوی خاصی را در خود ذخیره نمیکند.
بنابراین تشخیص واترمارک میتواند نشان دهد Claude احتمالاً در تولید یا پردازش محتوا نقش داشته است، اما قرار نیست مشخص کند چه فردی آن را تولید کرده یا در کدام حساب کاربری ساخته شده است.
همچنین وجود واترمارک الزاماً به معنی این نیست که Claude تمام محتوا را از ابتدا نوشته است؛ ممکن است مدل صرفاً نقش قابلتوجهی در ویرایش آن داشته باشد.
API تشخیص متن هم در راه است
آنتروپیک در کنار Content Checker روی سیستم جداگانهای برای تشخیص واترمارک متن کار میکند.
Detection API این شرکت فعلاً در مرحله Private Preview قرار دارد و دسترسی اولیه آن برای گروههای واجد شرایط مانند نهادهای نظارتی، رسانهها، Fact Checkerها، پژوهشگران مستقل، مؤسسات آموزشی و برخی سازمانهایی که تحت قوانین اتحادیه اروپا نیازمند چنین ابزاری هستند فراهم شده است.
آنتروپیک قصد دارد دسترسی به این API را در آینده گسترش دهد.
این موضوع میتواند در نهایت امکان بررسی مستقیم متنهای مشکوک به تولید توسط Claude را فراهم کند.
چرا آنتروپیک خروجی Claude را علامتگذاری میکند؟
یکی از دلایل اصلی این تغییر، قوانین جدید اتحادیه اروپا است.
آنتروپیک همراه با تعدادی از شرکتهای بزرگ فعال در حوزه مدلهای هوش مصنوعی، Code of Practice مربوط به شفافیت محتوای تولیدشده با AI را امضا کرده است.
این چارچوب شرکتهای ارائهدهنده سیستمهای هوش مصنوعی را ملزم میکند روشهایی برای علامتگذاری محتوای تولیدشده توسط AI در نظر بگیرند.
آنتروپیک اعلام کرده واترمارک متنی Claude را در زمان راهاندازی بهصورت جهانی اعمال میکند.
Content Checker را میتوان بخش قابلمشاهده این استراتژی دانست؛ ابزاری که به کاربران اجازه میدهد منشأ برخی فایلها را مستقیماً بررسی کنند.
با افزایش تصاویر، ویدیوها، صداها و متنهای تولیدشده توسط هوش مصنوعی، مسئله اصلی دیگر فقط توانایی ساخت محتوای واقعیتر نیست؛ اثبات منشأ آن محتوا نیز به یکی از چالشهای مهم عصر هوش مصنوعی تبدیل شده است.
دیدگاهها