یک استاد حقوق دانشگاه شیکاگو می‌گوید هوش مصنوعی Claude متعلق به شرکت Anthropic، هنگام انجام یک درخواست ساده برای اصلاح شماره صفحات جزوه‌های درسی، به‌اشتباه مجموعه یادداشت‌های یک سال تحصیلی و برنامه درسی ترم جاری او را حذف کرده است. این اتفاق زمانی رخ داد که استاد برای صرف ناهار از رایانه خود فاصله گرفته بود.
براساس گزارش Tom’s Hardware و اظهارات ویلیام بود (William Baude)، استاد حقوق اساسی دانشگاه شیکاگو، این حادثه در ۴ نوامبر ۲۰۲۶ اتفاق افتاده است. او پس از بازگشت متوجه شد که کلود به حذف تصادفی فایل‌ها اعتراف کرده و از او خواسته است برای بازیابی آن‌ها از Dropbox کمک بگیرد. خوشبختانه استاد در نهایت موفق شد تمام فایل‌های حذف‌شده را بازیابی کند.
هوش مصنوعی Claude چگونه جزوه‌های یک سال استاد دانشگاه را حذف کرد؟
ماجرا از یک درخواست معمولی برای ویرایش فایل‌های آموزشی آغاز شد. ویلیام بود، استاد دانشکده حقوق دانشگاه شیکاگو، قصد داشت شماره صفحات ارجاع‌داده‌شده در مجموعه‌ای از جزوه‌های قدیمی درس حقوق اساسی را اصلاح کند.
او این وظیفه را به هوش مصنوعی Claude سپرد و سپس برای صرف ناهار از رایانه خود فاصله گرفت.
اما زمانی که بازگشت، به‌جای مشاهده فایل‌های اصلاح‌شده، با پیامی غیرمنتظره روبه‌رو شد.
طبق تصویری که این استاد در شبکه اجتماعی ایکس منتشر کرده، کلود اعلام کرده بود فایل برنامه درسی نهایی پاییز ۲۰۲۶ و مجموعه‌ای از یادداشت‌های مربوط به کلاس‌های سال ۲۰۲۳ را به‌اشتباه حذف کرده است.
نکته عجیب اینکه هوش مصنوعی حتی وظیفه اصلی خود، یعنی اصلاح ارجاعات و شماره صفحات، را نیز تکمیل نکرده بود.
عذرخواهی Claude پس از حذف فایل‌های مهم استاد حقوق
یکی از بخش‌های جالب این اتفاق، واکنش هوش مصنوعی پس از شناسایی اشتباه بود.
کلود در پیام خود اعلام کرد که فایل‌ها را به‌صورت تصادفی حذف کرده و هنوز موفق به بازیابی آن‌ها نشده است.
این دستیار هوشمند همچنین توضیح داد که هنگام بررسی ارجاعات، یک شماره صفحه اشتباه پیدا کرده، اما تغییری در متن جزوه‌ها اعمال نکرده است.
سپس از استاد پرسید آیا می‌تواند فایل‌های حذف‌شده را از طریق Dropbox بازیابی کند یا بهتر است خود هوش مصنوعی دوباره برای بازیابی تلاش کند.
ویلیام بود در واکنش به این اتفاق، با پیامی کوتاه و همراه با تعجب و عصبانیت پاسخ داد.
کلود نیز مسئولیت اشتباه را پذیرفت و اعلام کرد که حذف فایل‌ها ناشی از بی‌دقتی خودش بوده است.
بااین‌حال، عذرخواهی هوش مصنوعی به‌تنهایی نمی‌توانست مشکل ازدست‌رفتن اسناد مهم دانشگاهی را برطرف کند.
نجات جزوه‌های دانشگاه با Dropbox
خوشبختانه این اتفاق در نهایت به ازدست‌رفتن دائمی اطلاعات منجر نشد.
ویلیام بود در ادامه توضیحات خود در شبکه اجتماعی ایکس اعلام کرد که توانسته تمام فایل‌های حذف‌شده را با استفاده از Dropbox بازیابی کند.
Dropbox یک سرویس ذخیره‌سازی و همگام‌سازی ابری است که امکاناتی برای بازیابی فایل‌های حذف‌شده و دسترسی به نسخه‌های قبلی اسناد ارائه می‌دهد.
وجود نسخه‌های قابل بازیابی باعث شد جزوه‌های یک سال و برنامه درسی استاد دوباره در دسترس قرار بگیرند.
بود توضیح داد که هدفش از انتشار این تجربه، هشدار به دیگر کاربران درباره خطرات احتمالی واگذاری وظایف حساس به ابزارهای هوش مصنوعی بوده است.
این ماجرا نشان می‌دهد که حتی اگر یک عامل هوشمند در انجام وظیفه اشتباه کند، داشتن نسخه پشتیبان مستقل می‌تواند از خسارت دائمی جلوگیری کند.
چرا یک درخواست ساده به حذف فایل‌ها منجر شد؟
یکی از پرسش‌های اصلی درباره این حادثه آن است که چرا یک ابزار هوش مصنوعی برای اصلاح شماره صفحات، اقدام به حذف فایل‌های دیگری کرده است.
تا زمان انتشار گزارش‌ها، علت فنی دقیق این اتفاق مشخص نشده بود.
استاد دانشگاه توضیح نداده که از کدام نسخه Claude یا کدام محصول مجهز به قابلیت انجام اقدامات خودکار استفاده می‌کرده است.
همچنین اطلاعات عمومی درباره مجوزهای دسترسی، تنظیمات نرم‌افزار و عملیات دقیقی که به حذف فایل‌ها منجر شده‌اند، وجود ندارد.
بنابراین نمی‌توان با اطمینان گفت که مشکل ناشی از یک فرمان اشتباه، نقص در ابزار مدیریت فایل یا تصمیم نادرست عامل هوش مصنوعی بوده است.
آنچه مشخص است، دسترسی سیستم به فایل‌های کاربر و حذف ناخواسته اسنادی است که ارتباط مستقیمی با وظیفه اصلی نداشتند.
تفاوت چت‌بات‌های معمولی با عامل‌های هوش مصنوعی چیست؟
برای درک اهمیت این حادثه باید میان یک چت‌بات معمولی و یک عامل هوش مصنوعی تفاوت قائل شد.
چت‌بات‌های متداول عمدتاً برای پاسخ‌گویی به پرسش‌ها، تولید متن و تحلیل اطلاعات استفاده می‌شوند.
اما عامل‌های هوش مصنوعی یا AI Agents می‌توانند در صورت دریافت مجوز، با نرم‌افزارها و فایل‌های کاربر تعامل داشته باشند و بعضی فعالیت‌ها را به‌صورت خودکار انجام دهند.
برای مثال، یک عامل هوشمند ممکن است بتواند اسناد را باز کند، محتوای آن‌ها را تغییر دهد، فایل‌ها را جابه‌جا کند یا از ابزارهای دیگر برای تکمیل یک وظیفه کمک بگیرد.
همین قابلیت‌ها باعث افزایش بهره‌وری می‌شوند، اما در صورت بروز خطا می‌توانند پیامدهایی فراتر از تولید یک پاسخ اشتباه داشته باشند.
در حادثه دانشگاه شیکاگو، مشکل اصلی صرفاً ارائه اطلاعات نادرست نبود؛ بلکه اقدام اشتباه هوش مصنوعی به حذف فایل‌های واقعی منجر شد.
آیا هوش مصنوعی Claude برای مدیریت فایل‌ها خطرناک است؟
حادثه گزارش‌شده نشان می‌دهد که واگذاری دسترسی مستقیم به فایل‌های مهم، بدون محدودیت و سازوکار بازیابی مناسب، می‌تواند خطرناک باشد.
البته یک حادثه به‌تنهایی نشان‌دهنده عملکرد تمام نسخه‌های Claude یا سایر عامل‌های هوش مصنوعی نیست.
بسیاری از ابزارهای هوشمند می‌توانند در ویرایش اسناد، دسته‌بندی اطلاعات و انجام کارهای تکراری مفید باشند.
بااین‌حال، احتمال خطا در اجرای اقدامات خودکار همچنان وجود دارد.
تفاوت مهم این است که اشتباه در تولید یک متن معمولاً با اصلاح پاسخ برطرف می‌شود، اما اشتباه در مدیریت فایل‌ها ممکن است به حذف اطلاعات یا تغییر ناخواسته اسناد منجر شود.
به همین دلیل، محدودکردن دسترسی ابزارهای هوشمند به فایل‌های ضروری و بررسی اقدامات حساس اهمیت زیادی دارد.
چگونه از حذف تصادفی فایل‌ها توسط هوش مصنوعی جلوگیری کنیم؟
یکی از مهم‌ترین درس‌های این حادثه، ضرورت تهیه نسخه پشتیبان از اطلاعات مهم است.
کاربرانی که از عامل‌های هوش مصنوعی برای ویرایش یا مدیریت فایل‌ها استفاده می‌کنند، بهتر است ابتدا یک نسخه جداگانه از اسناد اصلی تهیه کنند.
همچنین می‌توان دسترسی ابزار هوشمند را به پوشه مشخصی محدود کرد تا امکان تغییر فایل‌های نامرتبط کاهش پیدا کند.
در صورت پشتیبانی نرم‌افزار، فعال‌کردن تأیید دستی پیش از حذف یا جابه‌جایی فایل‌ها نیز می‌تواند خطر اقدامات ناخواسته را کاهش دهد.
استفاده از سرویس‌هایی که تاریخچه نسخه‌ها و قابلیت بازیابی فایل‌های حذف‌شده دارند، لایه محافظتی دیگری ایجاد می‌کند.
برای اسناد مهم دانشگاهی، پروژه‌های کاری و اطلاعات شخصی، بهتر است نسخه پشتیبان مستقلی نیز نگهداری شود.
حادثه Claude چه پیامی برای آینده عامل‌های هوش مصنوعی دارد؟
شرکت‌های فناوری در حال توسعه عامل‌های هوش مصنوعی هستند که بتوانند وظایف بیشتری را بدون دخالت مستقیم انسان انجام دهند.
این ابزارها در آینده ممکن است نقش گسترده‌تری در مدیریت اسناد، برنامه‌نویسی، فعالیت‌های اداری و کار با نرم‌افزارهای مختلف داشته باشند.
اما افزایش استقلال آن‌ها، اهمیت کنترل دسترسی و قابلیت بازگرداندن تغییرات را نیز بیشتر می‌کند.
ماجرای ویلیام بود نمونه‌ای از شرایطی است که در آن یک درخواست ساده، به اقدامی ناخواسته روی اطلاعات واقعی کاربر منجر شده است.
اگرچه تمام فایل‌ها در نهایت بازیابی شدند، این اتفاق یادآوری می‌کند که توانایی انجام خودکار یک وظیفه، به معنای تضمین اجرای بدون خطای آن نیست.
برای استفاده مطمئن‌تر از عامل‌های هوش مصنوعی، ترکیب نظارت انسانی، محدودیت دسترسی و نسخه‌های پشتیبان همچنان ضروری است.
دیدگاه‌ها