تیک تاک آزمایش و توسعه ابزار جدیدی را آغاز کرده که میتواند ویدیوهای دیپفیک ساختهشده با چهره کاربران را شناسایی و گزارش کند.
به گزارش تکراتو و به نقل از androidheadlines، تیک تاک در حال آزمایش ابزار جدیدی است که به تولیدکنندگان محتوا در آمریکا اجازه میدهد ویدیوهای ساختهشده با هوش مصنوعی را که بدون اجازه از چهره آنها استفاده کردهاند، شناسایی کنند.
برای استفاده از این قابلیت، کاربران باید هویت خود را از طریق گرفتن یک سلفی زنده و ارائه مدرک شناسایی تأیید کنند. این روش شباهت زیادی به ابزار تشخیص چهرهای دارد که یوتیوب پیشتر برای مقابله با سوءاستفاده از هوش مصنوعی معرفی کرده بود.
ابزار جدید تیک تاک برای شناسایی سوءاستفاده از چهره کاربران
هوش مصنوعی در کنار کاربردهای فراوان، نگرانیهای زیادی نیز ایجاد کرده است. یکی از مهمترین آنها دیپفیکها هستند؛ ویدیوهایی که با استفاده از چهره افراد ساخته میشوند و آنها را در حال انجام یا گفتن کارهایی نشان میدهند که هرگز انجام ندادهاند.
براساس پستی که مت ناوارا در شبکه اجتماعی ایکس منتشر کرده، تیک تاک آمریکا در حال آزمایش ابزار جدیدی برای شناسایی چنین ویدیوهایی است.
طبق توضیحات این قابلیت، تیک تاک محتوای تولیدشده با هوش مصنوعی را که احتمال دارد از چهره یک کاربر بدون اجازه استفاده کرده باشد، جستوجو میکند. سپس تولیدکننده محتوا میتواند این ویدیوها و حسابهای منتشرکننده را بررسی کرده و در صورت تأیید سوءاستفاده، آنها را گزارش دهد.
احراز هویت با سلفی و مدرک شناسایی
این ابزار از کاربران میخواهد برای تأیید هویت خود یک سلفی زنده ثبت کرده و مدرک شناسایی ارائه دهند تا مطمئن شود فرد درخواستدهنده همان شخص واقعی است.
البته فرایند احراز هویت توسط یک سرویس شخص ثالث انجام میشود و تیک تاک اعلام کرده که مدارک کاربران پس از پایان فرایند شناسایی ذخیره نخواهند شد.
در حال حاضر این قابلیت تنها بهصورت آزمایشی در اختیار برخی کاربران آمریکایی قرار گرفته و در صورت موفقیت آزمایشها، احتمال دارد بهصورت گسترده برای کاربران بیشتری منتشر شود.
دیپفیکها به چالشی جدی تبدیل شدهاند
تیک تاک تنها شرکتی نیست که برای مقابله با دیپفیکها اقدام کرده است. یوتیوب نیز اوایل امسال ابزار مبتنی بر هوش مصنوعی خود را برای شناسایی سوءاستفاده از چهره افراد منتشر کرد.
این قابلیت ابتدا فقط برای گروههای خاصی مانند سیاستمداران و خبرنگاران در دسترس بود، اما بعدها برای همه کاربران عرضه شد.
هرچه هوش مصنوعی پیشرفتهتر میشود، دیپفیکها هم واقعیتر به نظر میرسند
یکی از بزرگترین مشکلات دیپفیکها این است که با پیشرفت فناوری هوش مصنوعی، تشخیص آنها روزبهروز دشوارتر میشود.
در ماههای اخیر، ابزارهایی منتشر شدند که تصاویر برهنه جعلی از افراد تولید میکردند یا از روی تصاویر معمولی، نسخههای ساختگی بدون لباس میساختند. حتی چتبات گروک نیز بهدلیل فراهم کردن چنین قابلیتهایی با انتقادهای گستردهای روبهرو شد.
اگرچه بسیاری از این ابزارها از فروشگاههای رسمی اپلیکیشن حذف شدهاند، اما همچنان در نقاط مختلف اینترنت در دسترس هستند.
به نظر نمیرسد دیپفیکها به این زودی از بین بروند، اما اقدام شبکههای اجتماعی برای توسعه ابزارهای شناسایی و محافظت از کاربران میتواند گامی مهم در کاهش سوءاستفاده از این فناوری باشد.