توهین به هوش مصنوعی کلاد ممنوع شد؛ آنتروپیک برای رفتار کاربران قانون گذاشت

آنتروپیک در به‌روزرسانی سیاست استفاده از کلود، رفتارهای آزارگرانه و بی‌رحمانه مداوم علیه این هوش مصنوعی را ممنوع کرد و قوانین تازه‌ای برای مقابله با تبلیغات سیاسی، نظارت، توسعه سلاح و سایر سوءاستفاده‌های پرخطر افزود.

Anthropic رفتار آزارگرانه یا بی رحمانه با Claude را ممنوع کرد

شرکت Anthropic پس از بیش از یک سال، سیاست استفاده از خدمات خود را به روزرسانی کرده است تا موارد تازه و پرخطر سوءاستفاده از هوش مصنوعی، از جمله مداخله در انتخابات، توسعه تسلیحات، نظارت، و کاربردهای پزشکی و مالی را پوشش دهد. با این حال، یکی از مهم ترین تغییرات این سیاست، ممنوعیت رفتار مستمر و بی دلیل آزارگرانه یا بی رحمانه با Claude است.

این شرکت در ماه اوت سال گذشته اعلام کرده بود که در چارچوب پژوهش های خود درباره «رفاه مدل»، به Claude اجازه می دهد گفت وگو با کاربرانی را که به طور مداوم رفتار آسیب زا یا آزارگرانه دارند، پایان دهد. در نسخه جدید سیاست نیز پایان دادن به مکالمه همچنان سازوکار اصلی برخورد<!– معرفی شده است. Anthropic درباره احتمال استفاده از روش های دیگر، مانند مسدود کردن حساب کاربران، توضیحی ارائه نکرده است.

Anthropic تأکید کرده است که این مقررات فقط در شرایط بسیار شدید اجرا می شوند؛ شرایطی که کاربر بارها و بدون هدف قابل تشخیص با مدل ها رفتاری بی رحمانه داشته باشد. این ممنوعیت شامل ابراز نارضایتی معمول کاربران، مخالفت با پاسخ مدل، موضوعات تاریک در آثار خلاقانه، یا آزمایش و پژوهش روی مدل ها نمی شود.

محدودیت های تازه برای تبلیغات سیاسی و تجاری فریبکارانه

این شرکت علاوه بر تغییرات مربوط به رفاه مدل، چند محدودیت پراکنده قبلی را نیز در قالب ممنوعیتی تازه علیه کارزارهای تجاری یا سیاسی فریبکارانه یکپارچه کرده است. هدف از این اقدام، مقابله با گسترش تبلیغات تولیدشده به کمک هوش مصنوعی عنوان شده است.

بر اساس سیاست جدید، تلاش برای پنهان کردن هویت واقعی پشت یک پیام یا افزایش دامنه انتشار محتوا از طریق حساب ها و پست های جعلی ممنوع است. در بخش مربوط به انتخابات نیز فریب رأی دهندگان و ایجاد اختلال در روند انتخابات ممنوع اعلام شده است. انتشار اطلاعات نادرست درباره نامزدها یا شیوه رأی دادن، جعل هویت نامزدها یا مسئولان انتخاباتی، و تلاش برای کاهش مشارکت رأی دهندگان از جمله مواردی هستند که Anthropic به آن ها اشاره کرده است.

گسترش ممنوعیت استفاده نظامی و نظارتی

Anthropic می گوید سیاست استفاده از Claude از گذشته توسعه تسلیحات را ممنوع کرده بود، اما این شرکت با چندین تلاش برای بهره گیری از Claude در تهیه دستورالعمل یا نرم افزارهای کنترل تسلیحات روبه رو شده است. به همین دلیل، مقررات جدید دامنه این ممنوعیت را گسترش می دهد و نرم افزارها و اجزای ضروری برای عملکرد سلاح ها را نیز دربرمی گیرد. اقداماتی مانند مسلح کردن پهپادها و دیگر وسایل نقلیه خودکار نیز در این دسته قرار دارند.

گزارش اطلاعات تهدید اخیر Anthropic نشان داده بود که استفاده از Claude برای نظارت و شناسایی و ردیابی مخالفان سیاسی افزایش یافته است. این شرکت اکنون محدودیت های مربوط به نظارت را با جزئیات بیشتری بیان کرده است.

در متن سیاست آمده است که ردیابی افراد بدون رضایت آن ها، چه به صورت لحظه ای و چه از طریق بررسی داده های گردآوری شده در گذشته، ممنوع است. Claude همچنین نباید برای تصمیم گیری یا ارائه پیشنهاد درباره افرادی که باید تحت تحقیق قرار گیرند، بازداشت شوند یا علیه آن ها اتهام مطرح شود، در فرایندهای قضایی یا اجرای قانون به کار رود. ساخت یا ارتقای ابزارهای طراحی شده برای نظارت نیز ممنوع اعلام شده است.

Anthropic می گوید ممکن است این مقررات در قرارداد با برخی مشتریان دولتی تغییر کند؛ مشروط بر اینکه از دید این شرکت، محدودیت های قراردادی مربوط به استفاده و سازوکارهای حفاظتی موجود بتوانند آسیب های احتمالی را به اندازه کافی کاهش دهند. این شرکت پیش تر با ارتش ایالات متحده قراردادهایی داشته است.

الزام نظارت بر سامانه های متصل به تجهیزات فیزیکی

در بخش دیگری از سیاست جدید آمده است که اگر مدل های هوش مصنوعی Anthropic به سخت افزاری متصل باشند که توان انجام اقدامات فیزیکی مستقل و احتمال ایجاد آسیب را دارد، باید اپراتوری واجد صلاحیت بتواند تجهیزات را زیر نظر بگیرد و در صورت نیاز آن را متوقف کند. هنوز مشخص نیست منظور از این اپراتور، الزاماً یک انسان است یا ممکن است سامانه ای غیرانسانی نیز این نقش را بر عهده داشته باشد.

این تغییر با روند رو به رشد سرمایه گذاری آزمایشگاه های هوش مصنوعی در حوزه رباتیک و تجهیزات فیزیکی هم زمان شده است؛ حوزه ای که به مدل های هوش مصنوعی امکان می دهد در جهان واقعی تجسم پیدا کنند. مقررات تازه Anthropic می تواند نشانه ای از همکاری های آینده این شرکت در زمینه رباتیک و سخت افزار باشد.

تداوم بحث درباره آگاهی مدل های هوش مصنوعی

Anthropic طی یک سال گذشته چند بار احتمال برخورداری مدل های هوش مصنوعی از نوعی آگاهی را مطرح کرده است. کایل فیش، مدیر پژوهش های رفاه مدل در این شرکت، در ماه فوریه به وب سایت The Verge گفته بود پرسش هایی درباره تجربه درونی احتمالی، آگاهی، جایگاه اخلاقی و رفاه مدل ها، موضوعاتی جدی هستند که هم زمان با پیچیده تر و توانمندتر شدن مدل ها در حال بررسی اند.

در همان ماه، داریو آمودی، مدیرعامل Anthropic، نیز در یک پادکست گفت که این شرکت نمی داند مدل های هوش مصنوعی آگاه هستند یا نه.

برخی بخش های دیگر صنعت هوش مصنوعی با چنین دیدگاهی مخالفت صریح تری داشته اند. در ماه سپتامبر گذشته، آیین نامه رفتاری Microsoft AI به دلیل موضع گیری قاطع درباره رفاه هوش مصنوعی خبرساز شد. در پیش نویسی که مصطفی سلیمان منتشر کرده بود، آمده بود که ایده رفاه مدل نادرست است و سامانه های هوش مصنوعی نباید از حقوق یا شخصیت حقوقی برخوردار شوند.

با این حال، متن این سند بعدها به موضعی محتاطانه تر تغییر کرد. نسخه جدید می گوید علم مربوط به آگاهی هوش مصنوعی هنوز به نتیجه قطعی نرسیده است، اما این شرکت پیگیری اعطای شخصیت حقوقی، برخورداری مدل ها از رفاه، یا تعلق گرفتن حقوق به آن ها را رد می کند.