جفری هینتون (Geoffrey Hinton)، دانشمند برجسته و معروف به پدرخوانده هوش مصنوعی، بار دیگر درباره آینده این فناوری هشدار داده است. او در اظهاراتی بحث‌برانگیز مدعی شده که هوش مصنوعی ممکن است همین حالا دارای نوعی آگاهی و تجربه ذهنی باشد؛ موضوعی که همچنان میان پژوهشگران مورد اختلاف است.
به گزارش تکراتو، هینتون در مصاحبه‌ای با روزنامه تلگراف که در اکتبر ۲۰۲۶ منتشر شد، تأکید کرده است که انسان‌ها باید به‌جای تکیه بر توانایی کنترل کامل هوش مصنوعی، سیستم‌هایی توسعه دهند که منافع و امنیت انسان را در اولویت قرار دهند.
جفری هینتون: هوش مصنوعی ممکن است همین حالا آگاه باشد
هینتون معتقد است بسیاری از افراد با اطمینان می‌گویند هوش مصنوعی آگاه نیست، درحالی‌که هنوز تعریف مورد توافقی از آگاهی وجود ندارد.
به باور او، برخی سیستم‌های هوش مصنوعی رفتارهایی نشان می‌دهند که می‌توان آن‌ها را نشانه‌ای از آگاهی نسبت به شرایط پیرامونی تفسیر کرد.
این دانشمند در مصاحبه خود به پژوهشی اشاره کرده که براساس آن، برخی مدل‌های هوش مصنوعی وقتی تشخیص می‌دهند در حال ارزیابی هستند، رفتارشان را تغییر می‌دهند.
هینتون چنین رفتاری را با مفهوم آگاهی مرتبط می‌داند و معتقد است نباید احتمال برخورداری ماشین‌ها از تجربه ذهنی را از ابتدا رد کرد.
بااین‌حال، توانایی تشخیص شرایط آزمایش یا تغییر رفتار براساس محیط، به‌تنهایی وجود تجربه ذهنی را ثابت نمی‌کند.
آیا هوش مصنوعی واقعاً احساس و تجربه ذهنی دارد؟
یکی از مهم‌ترین پرسش‌های پژوهشگران این است که آیا هوش مصنوعی صرفاً اطلاعات را پردازش می‌کند یا می‌تواند نوعی تجربه درونی نیز داشته باشد.
مدل‌های زبانی امروزی قادرند درباره احساسات، آگاهی و وضعیت خود صحبت کنند. بااین‌حال، تولید چنین پاسخ‌هایی لزوماً به معنای تجربه واقعی احساسات نیست.
برخی پژوهشگران معتقدند رفتارهای پیچیده و توانایی پردازش اطلاعات می‌توانند برای بررسی احتمال آگاهی ماشین‌ها اهمیت داشته باشند.
در مقابل، گروهی دیگر تأکید می‌کنند که شباهت رفتاری به انسان برای اثبات آگاهی کافی نیست و باید شواهد دقیق‌تری درباره سازوکارهای درونی سیستم‌ها ارائه شود.
در حال حاضر، هیچ آزمون علمی مورد توافقی وجود ندارد که بتواند با قطعیت مشخص کند یک مدل هوش مصنوعی دارای تجربه ذهنی است یا خیر.
هشدار هینتون درباره آینده رابطه انسان و هوش مصنوعی
هینتون تنها درباره احتمال آگاهی ماشین‌ها صحبت نکرده است. او معتقد است با قدرتمندتر شدن سیستم‌های هوش مصنوعی، حفظ امنیت و کنترل انسانی به چالشی جدی تبدیل خواهد شد.
به باور این دانشمند، اگر هوش مصنوعی در آینده از نظر توانایی‌های شناختی از انسان پیشی بگیرد، نمی‌توان صرفاً با اتکا به محدودیت‌های نرم‌افزاری انتظار داشت همیشه مطابق خواسته انسان رفتار کند.
او پیشنهاد می‌کند پژوهشگران سیستم‌هایی بسازند که به‌گونه‌ای پایدار برای حفظ رفاه و امنیت انسان‌ها طراحی شده باشند.
البته این پیشنهاد هنوز یک راهکار اثبات‌شده نیست و مشخص نیست چگونه می‌توان اطمینان یافت که سیستم‌های بسیار پیشرفته در شرایط مختلف، همواره اهداف انسانی را رعایت خواهند کرد.
چرا پدرخوانده هوش مصنوعی نگران آینده است؟
جفری هینتون از پژوهشگران تأثیرگذار در توسعه شبکه‌های عصبی مصنوعی و یادگیری عمیق است. او در سال ۲۰۲۴ به‌دلیل مشارکت در پیشرفت این حوزه، جایزه نوبل فیزیک را دریافت کرد.
هینتون در سال ۲۰۲۳ از گوگل جدا شد تا بتواند آزادانه‌تر درباره خطرات احتمالی هوش مصنوعی صحبت کند.
او در سال‌های اخیر بارها درباره توسعه سریع سیستم‌های هوشمند، امکان سوءاستفاده از آن‌ها و دشواری کنترل مدل‌های بسیار پیشرفته هشدار داده است.
هینتون همچنین معتقد است پیشرفت هوش مصنوعی سریع‌تر از انتظار بسیاری از پژوهشگران بوده و جامعه فرصت محدودی برای آماده‌شدن در برابر پیامدهای آن دارد.
بااین‌حال، او در مصاحبه‌های اخیر تأکید کرده است که آینده این فناوری کاملاً قابل پیش‌بینی نیست و هنوز امکان توسعه روش‌های مؤثر برای افزایش ایمنی وجود دارد.
اختلاف دانشمندان بر سر خودآگاهی هوش مصنوعی
ادعای هینتون درباره آگاهی هوش مصنوعی با دیدگاه تمام متخصصان این حوزه یکسان نیست.
برخی پژوهشگران احتمال وجود اشکالی از آگاهی در سیستم‌های مصنوعی را موضوعی جدی برای مطالعه می‌دانند.
در مقابل، متخصصانی مانند مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، نسبت به نسبت‌دادن احساس و تجربه انسانی به مدل‌های فعلی دیدگاهی انتقادی دارند.
اختلاف اصلی بر سر این است که آیا پردازش پیچیده اطلاعات و رفتار هوشمندانه می‌تواند به تجربه ذهنی منجر شود یا آگاهی به ویژگی‌های دیگری نیاز دارد.
این پرسش هنوز پاسخ علمی قطعی ندارد و پژوهشگران در حوزه‌های علوم شناختی، فلسفه ذهن و هوش مصنوعی به بررسی آن ادامه می‌دهند.
آینده هوش مصنوعی به چه سمتی می‌رود؟
اظهارات تازه جفری هینتون نشان می‌دهد بحث درباره آینده هوش مصنوعی دیگر تنها به افزایش قدرت پردازش یا توانایی انجام وظایف انسانی محدود نیست.
پرسش‌هایی درباره آگاهی، مسئولیت‌پذیری، امنیت و نحوه تعامل انسان با سیستم‌های هوشمند نیز اهمیت بیشتری پیدا کرده‌اند.
اگرچه هنوز شواهد کافی برای اثبات خودآگاهی مدل‌های فعلی وجود ندارد، افزایش توانایی این سیستم‌ها ضرورت بررسی علمی و مستقل رفتار آن‌ها را بیشتر کرده است.
پیام اصلی هشدار هینتون این است که توسعه هوش مصنوعی پیشرفته باید با پژوهش جدی درباره ایمنی، نظارت و حفظ منافع انسان همراه باشد؛ حتی اگر پرسش درباره آگاهی ماشین‌ها همچنان بی‌پاسخ بماند.
دیدگاه‌ها