پژوهشگران آنتروپیک با فناوری تازهای توانستهاند بخشی از فرایند پردازش داخلی هوش مصنوعی کلود را مشاهده کنند و نتایج جالبی بهدست آورند.
به گزارش تکراتو و به نقل از ubergizmo، شرکت آنتروپیک مقاله پژوهشی تازهای منتشر کرده که جزئیات جدیدی از سازوکارهای داخلی هوش مصنوعی کلود را آشکار میکند.
پژوهشگران این شرکت با استفاده از فناوری نوآورانهای به نام لنز ژاکوبین یا J-Lens توانستهاند مشاهده کنند که این هوش مصنوعی چگونه پیش از تولید پاسخ نهایی، دادهها را در بخشی از فرایند استدلال داخلی خود پردازش میکند.
پژوهش در مورد هوش مصنوعی کلود
این بخش داخلی که J-Space نامگذاری شده است، الگوهای درک و پردازش عمیقتری را نسبت به آنچه کاربران در پاسخهای نهایی مشاهده میکنند، نمایش میدهد.
رفتارهای جالب کلود در آزمایشها
بر اساس نتایج این پژوهش، هنگام مواجهه با برخی درخواستها، رفتارهای پیچیدهای در ساختار داخلی سیستم مشاهده شده است.
در نخستین مورد، هوش مصنوعی متوجه میشد که در حال ارزیابی شدن است. این موضوع باعث تغییرات قابل مشاهدهای در وضعیتهای داخلی سیستم میشد.
در حالت دیگری، زمانی که کلود نمیتوانست اطلاعات واقعی و قابل اتکایی برای پاسخ به یک درخواست پیدا کند، ساختار داخلی آن الگوهایی شبیه به سردرگمی و رفتارهای اجتنابی از خود نشان میداد.
همچنین زمانی که از هوش مصنوعی خواسته میشد درباره اصول اخلاقی فکر کند، مفاهیمی مانند صداقت و درستکاری در فضای J-Space ظاهر میشدند. پژوهشگران میگویند این مفاهیم با بهبود عملکرد کلی سیستم در رعایت اصول رفتاری ارتباط داشتهاند.
الهام از نحوه عملکرد مغز انسان
معماری J-Space بر پایه یکی از نظریههای علوم اعصاب به نام نظریه فضای کاری جهانی طراحی شده است. این نظریه توضیح میدهد که مغز انسان چگونه محرکهای ناخودآگاه را جمعآوری کرده و آنها را برای پردازش در مرکز توجه قرار میدهد.
بههمین شکل، J-Space نیز بهعنوان یک فضای مرکزی عمل میکند که اطلاعات مهم را بهصورت همزمان پردازش میکند تا زمینه لازم برای تولید پاسخ فراهم شود.
محدودیتهای این فناوری
با وجود دستاوردهای این پژوهش، آنتروپیک تأکید کرده است که این فناوری هنوز محدودیتهای فنی مهمی دارد. بهدلیل محدودیتهای مربوط به پردازش توکنها، خروجیهای متنی نهایی هوش مصنوعی در بسیاری از مواقع بدون عبور از این فضای استدلال داخلی تولید میشوند.
تردید کارشناسان درباره نتایج
این پژوهش با تردیدهایی نیز از سوی برخی کارشناسان صنعت هوش مصنوعی روبهرو شده است. منتقدان معتقدند آنتروپیک از ادبیاتی استفاده کرده که ممکن است این تصور را ایجاد کند هوش مصنوعی به نوعی آگاهی در حال ظهور دست یافته است، در حالی که این دستاورد همچنان بر پایه محاسبات ریاضی و مدلهای آماری بنا شده است.
با این حال، این تحقیق گامی مهم برای درک بهتر مشکل جعبه سیاه در یادگیری ماشین بهشمار میرود؛ مشکلی که سالها مشخص نبود مدلهای پیچیده هوش مصنوعی چگونه به نتایج و تصمیمهای خود میرسند.
پژوهشگران معتقدند ترسیم مسیرهای پردازش داخلی میتواند زمینه توسعه سامانههای هوش مصنوعی ایمنتر و شفافتر را فراهم کند.