انویدیا، مایکروسافت، متا و چندین شرکت بزرگ فناوری با تشکیل ائتلافی جدید، توسعه ابزارهای متنباز دفاعی برای مقابله با تهدیدهای هوش مصنوعی را آغاز کردند.
به گزارش تکراتو و به نقل از gsmarena، صنعت فناوری همچنان تحت تأثیر حادثه اخیر مربوط به هاگینگ فیس قرار دارد؛ جایی که یک مدل خودمختار و خارج از کنترل متعلق به اوپنایآی از محیط آزمایشی خود خارج شد و به سامانههای هاگینگ فیس نفوذ کرد.
هاگینگ فیس در ابتدا تلاش کرد با استفاده از مدلهای بسته و پیشرفته آمریکایی، از جمله مدل Fable 5 شرکت آنتروپیک، با این حمله مقابله کند، اما موفق نشد. در نهایت، این شرکت با کمک مدل متنباز GLM 5.2 توسعهیافته توسط شرکت چینی Z.ai توانست نفوذ را مهار کند.
برای درک بهتر این موضوع باید گفت که مدلهای بسته در محیط اختصاصی خود فعالیت میکنند؛ درست مانند چت جیپیتی. در مقابل، مدلهای متنباز یا Open-weight را میتوان بهراحتی دانلود، ویرایش و روی سیستمهای مختلف اجرا کرد.
تشکیل ائتلاف جدید برای امنیت هوش مصنوعی
این حادثه باعث شد رهبران صنعت فناوری تصمیم به تشکیل ائتلافی با نام Open Secure AI Alliance بگیرند.
این ائتلاف بزرگ متشکل از شرکتهایی مانند انویدیا، مایکروسافت، متا، اوپنایآی، پالانتیر، ادوبی، آیبیام، اسپیسایکس و چندین شرکت دیگر است. هدف اصلی این گروه، ایجاد یک اکوسیستم قدرتمند از ابزارهای متنباز دفاعی مبتنی بر هوش مصنوعی برای مقابله با حملات مشابه در آینده عنوان شده است.
چرا مدلهای متنباز اهمیت دارند؟
به گفته این گزارش، مدلهای متنباز هوش مصنوعی که در حال حاضر پیشرفتهترین نمونههای آنها عمدتاً توسط شرکتهای چینی توسعه یافتهاند، نقش مهمی در دفاع سایبری ایفا میکنند.
دلیل این موضوع آن است که این مدلها میتوانند محدودیتها و سازوکارهای حفاظتی اعمالشده توسط شرکتهای ثالث را دور بزنند؛ همان محدودیتهایی که مانع از دفاع مؤثر مدلهای بسته آمریکایی در جریان حمله به هاگینگ فیس شد.
بر اساس این گزارش، مدل GLM 5.2 توانسته است با تحلیل بیش از 17 هزار اقدام مختلف، حمله را شناسایی و متوقف کند.
اختلاف بر سر آینده مدلهای متنباز
در همین حال، دولت آمریکا در تلاش است استفاده و گسترش مدلهای متنباز هوش مصنوعی چینی را محدود کند. مقامهای آمریکایی شرکتهای چینی، از جمله مونشات AI سازنده مدل Kimi K3، را متهم میکنند که مدلهای خود را با استفاده از خروجی مدلهای پیشرفته آمریکایی آموزش دادهاند؛ روشی که در صنعت هوش مصنوعی با عنوان تقطیر شناخته میشود.
در مقابل، ائتلاف تازهتأسیس با انتشار نامهای سرگشاده خطاب به سیاستگذاران آمریکایی اعلام کرده است که محدود کردن مدلهای متنباز میتواند نوآوری را تضعیف کرده و به استقلال فناوری آسیب بزند.
اعضای این ائتلاف معتقدند توسعه آزاد مدلهای هوش مصنوعی، یکی از ارکان اصلی پیشرفت فناوری و افزایش توان دفاع سایبری در آینده خواهد بود.