چرا ذهن انسان برای مقابله با هوش مصنوعی آماده نیست؟

مغز انسان رایانه نیست؛ اما صنعت هوش مصنوعی با چنین فرضی، محصولاتی عرضه می‌کند که می‌توانند توانایی ما برای یادگیری عمیق و تفکر معنادار را تضعیف کنند.

ذهن ما برای رویارویی با هوش مصنوعی ساخته نشده است

نوربرت وینر، پدر علم سایبرنتیک، زمانی گفت: «تفکر هر عصر در فناوری آن بازتاب پیدا می کند.» در یک قرن گذشته، رایانه ها به آینه ای برای بازنمایی شیوه تفکر ما تبدیل شده اند؛ حتی فعالان حوزه هوش مصنوعی نیز مغز انسان را با رایانه مقایسه می کنند. دمِیس هَسابیس، مدیرعامل دیپ مایند گوگل، مغز را «تقریبی زیستی از ماشین تورینگ» می داند و ایلان ماسک صریح تر می گوید مردم باید مغز را نوعی رایانه زیستی تصور کنند.

با این حال، انسان بسیار پیچیده تر از یک رایانه ساده است؛ پیچیدگی ای که بخش بزرگی از صنعت هوش مصنوعی هنوز آن را جدی نگرفته است. هرچه محصولات این صنعت بیشتر وارد عرصه های مختلف زندگی و فرهنگ می شوند، پیامدهای آشفته آن ها نیز روشن تر می شود. هوش مصنوعی در این نگاه، شبیه نسخه شناختی یک غذای آماده است: در لحظه کار را آسان می کند، اما سلامت و پایداری سامانه های ذهنی را که طی هزاران سال شکل گرفته اند، تضعیف می کند.

برای فهم این مسئله، باید هم نگاهی به علوم اعصاب داشته باشیم و هم تاریخ تکامل انسان را بررسی کنیم.

مدل رایانه ای ذهن چه می گوید؟

ریشه تصور مغز به عنوان رایانه به ایده های آلن تورینگ بازمی گردد. در این دیدگاه، تفکر روندی سه مرحله ای و شبیه یک الگوریتم است: ذهن اطلاعاتی را از جهان دریافت می کند، آن را پردازش می کند و سپس رفتاری را در پی می گیرد. به بیان ساده، ادراک به شناخت و شناخت به عمل منتهی می شود. این مدل را می توان چنین خلاصه کرد:

این الگو در بسیاری از زمینه ها سودمند بوده است. فناوری دانان با تصور مغز به عنوان رایانه، مسیر توسعه فناوری محاسباتی را از ماشین های جمع ساده تا شبکه های عصبی مصنوعی و هوش مصنوعی مولد ادامه داده اند؛ گویی هر مرحله قرار است تصویر دقیق تری از ذهن انسان بسازد.

اما این تصویر، هرچند کاملاً بی ارتباط نیست، ناقص و تحریف شده است. جان فون نویمان، از چهره های مهم تاریخ رایانه و علوم رایانه، تردید داشت که مدل محاسباتی بتواند «پیچیدگی استثنایی دستگاه عصبی انسان» را توضیح دهد. دستگاه عصبی ما در روند تکامل، برای حرکت درون نظام زیست محیطی گسترده ای شکل گرفته که آن را جهان می نامیم و انسان نیز با عمل خود می کوشد تا حد امکان بر آن اثر بگذارد.

مغز؛ سامانه ای برای کنترل و بازخورد

مدل محاسباتی از نتیجه نهایی فعالیت ذهن آغاز می کند و می کوشد سازوکار آن را به صورت معکوس بازسازی کند. در مقابل، می توان تاریخ طولانی تکامل را بررسی کرد و مدلی را از پایه ساخت. پل سیسک، عصب شناس دانشگاه مونترال، از همین روش پیروی کرده و طی سال ها مدلی زیستی برای تحول مغز و دستگاه عصبی در میلیون ها سال ارائه داده است.

از دیدگاه سیسک، مغز را نباید فقط پردازشگر اطلاعات دانست؛ بلکه بهتر است آن را سامانه ای برای کنترل و دریافت بازخورد در نظر بگیریم. بدن ما صرفاً داده ای را دریافت نمی کند، بلکه با انجام عمل، شرایط دریافت آن داده را تغییر می دهد و با توجه به گزینه های موجود واکنش نشان می دهد. جان دیویی، فیلسوف اوایل قرن بیستم، نیز ذهن را نوعی مدار می دانست؛ مداری که پاسخ حرکتی در آن محرک را تغییر می دهد، همان طور که محرک حسی حرکت را تعیین می کند.

تفاوت این دو رویکرد را می توان با نمونه ای از ورزش بیسبال توضیح داد: گرفتن توپ بلندی که به سمت فضای بیرونی زمین پرتاب شده است. در مدل محاسباتی، بازیکن باید به طور ناخودآگاه سرعت توپ، اثر گرانش و عوامل ریاضی متعدد دیگر را محاسبه کند تا مسیر آینده آن را به دست آورد.

اما نظریه کنترل و بازخورد، راهکاری بسیار ساده تر پیشنهاد می کند: بازیکن توپ را در نقطه ای ثابت از میدان دید خود نگه می دارد و با حرکت بدن، این وضعیت را حفظ می کند. در اینجا، فرد با عمل خود محرکی را که دریافت می کند تنظیم می کند.

این توضیح با تجربه بازیکنان سازگاری بیشتری دارد و میان فرایند ذهنی و حرکت بدنی جدایی مصنوعی ایجاد نمی کند. انسان فقط مجموعه ای از محاسبات پیچیده نیست؛ بلکه موجودی پویا است که پیوسته با محیط خود تعامل دارد.

این دیدگاه با ساختار زیستی مغز نیز همخوانی بیشتری دارد. از ماهی های ابتدایی و دوزیستان تا پستانداران، نخستی ها و انسان امروزی، رفتارهای تازه در پاسخ به فرصت های جدید محیطی پدیدار شده اند. برای نمونه، پس از نابودی دایناسورها، برخی موجودات شب زی توانستند در روشنایی روز با خطر کمتری حرکت کنند و ظرفیت های تازه ای به دست آورند. به تعبیر سیسک، تاریخ دستگاه عصبی را می توان «گسترش پیوسته کنترل به بخش های دورتر جهان» دانست.

در این نمودار، روند تحول از چپ به راست نیست، بلکه باید آن را از بالا به پایین و در امتداد زمان تکاملی خواند. زمانی که مهره داران توانایی حرکت بیشتری پیدا کردند، برخورداری از سامانه هایی برای جست وجو و یافتن مسیر اهمیت یافت؛ برای نمونه، استفاده از نشانه های محیطی یا جهت یابی در شب. این نیازها به شکل گیری ساختاری انجامید که امروز آن را هیپوکامپ می نامیم. در همین مسیر، خاطرات رویدادهای مهم نیز شکل گرفتند و حافظه رویدادی از تجربه های گذشته پدیدار شد.

مدل محاسباتی نمی تواند چنین روندی را به درستی توضیح دهد، زیرا با ساختارهای قابل مشاهده در علوم اعصاب هماهنگ نیست. افزون بر این، این مدل پنهان می کند که بخش بزرگی از فعالیت مغز به تنظیم تعامل موجود زنده با محیط اختصاص دارد. بنابراین، به باور سیسک، باید الگوی فهم رابطه مغز و رفتار را تغییر دهیم و از مدل ورودی و خروجی الگوریتمی به سمت سامانه های پویای بازخوردی حرکت کنیم.

فرهنگ، اجتماع و تکامل شناختی

تا اینجا، بحث بیشتر بر بازخورد میان انسان و جهان فیزیکی متمرکز بود. اما یکی از مهم ترین حلقه های بازخورد در تاریخ بشر، از ماهیت اجتماعی انسان سرچشمه می گیرد. مدل محاسباتی ذهن این بخش را نیز به خوبی توضیح نمی دهد و صنعت هوش مصنوعی هم معمولاً آن را نادیده می گیرد. انسان طی هزاران سال نهادها و هنجارهایی برای یادگیری و ارتباط با یکدیگر ساخته است؛ با این حال، شرکت های بزرگ فناوری در کمتر از یک دهه به طور نظام مند در تضعیف این سازوکارها نقش داشته اند.

برای درک این موضوع، باید به گذشته بازگردیم. صدها هزار سال پیش، نیاکان دور ما توانایی شگفت انگیزی پیدا کردند: تقلید از یکدیگر. تقلید از حرکات و شیوه های رفتاری، انتقال تجربه های موفق مانند ساخت ابزارهای سنگی را ممکن کرد و به هماهنگی در فعالیت های پیچیده تر انجامید. همین رفتارهای مشترک، بر شکل گیری شناخت اثر گذاشتند و آغاز فرهنگ انسانی را رقم زدند.

پس از آن، انسان توانست صداها را تقلید کند و زبان شفاهی را بسازد. زبان خودِ اندیشه نیست، اما امکان انتقال اندیشه ها میان انسان ها را فراهم می کند. گروه های شکارچی و گردآورنده نیز به تدریج از زندگی کاملاً کوچ رو فاصله گرفتند و در سکونتگاه های پایدارتر، روش های پیچیده کشاورزی را توسعه دادند.

در مرحله ای دیگر، نشانه های نوشتاری برای بازنمایی زبان گفتاری و مفاهیم انتزاعی به وجود آمدند. انسان با این تحول توانست ایده های پیچیده را به نسل های بعد منتقل کند. آموزش رسمی نیز برای تضمین انتقال دانش در میان گروه های انسانی شکل گرفت و در ادامه، نهادهایی مانند بازار، قانون و دموکراسی برای تصمیم گیری جمعی پدیدار شدند.

هر یک از این ادعاها به بررسی گسترده تری نیاز دارد و می توان درباره جزئیات آن ها بحث کرد. با این حال، تحول فرهنگی با تکامل زیستی پیوند دارد؛ هر دو روند، دامنه کنترل انسان بر جهان پیرامون را گسترش داده اند. گاهی نیز تغییرات فرهنگی پیامدهایی ناخواسته ایجاد می کنند که به جای کمک، آسیب زا هستند.

هوش مصنوعی؛ غذای آماده برای ذهن

تغییرات رژیم غذایی نمونه ای روشن از این مسئله است. در دوران شکار و گردآوری، مواد غذایی پرچرب کمیاب اما ارزشمند بودند و به بقا کمک می کردند. انسان به تدریج به جست وجوی چنین خوراکی هایی و ذخیره انرژی آن ها عادت کرد. سپس کشاورزی و دیگر روش های تولید غذا توسعه یافتند و طی حدود ۱۰ هزار سال، مواد غذایی پرچرب از کالایی کمیاب به محصولی فراوان تبدیل شدند.

مسئله دقیقاً همین جاست. مصرف مداوم چنین غذاهایی می تواند به بدن آسیب بزند، زیرا میزان چربی دریافتی دیگر با نیازهای واقعی ما تناسب ندارد. هوش مصنوعی نیز می تواند برای توانایی های شناختی نقشی مشابه داشته باشد و ظرفیت ما را برای ساختن دانش در ذهن، دانشی که برای حرکت مستقل در جهان ضروری است، کاهش دهد. از این منظر، هوش مصنوعی نوعی غذای آماده برای ذهن است.

مصرف گاه به گاه غذای آماده لزوماً آسیب جدی ایجاد نمی کند، اما اگر به بخش ثابت وعده های روزانه تبدیل شود، پیامدهای آن تغییر خواهد کرد. درباره هوش مصنوعی نیز خطر اصلی استفاده محدود نیست؛ مشکل زمانی شکل می گیرد که این فناوری به بخش دائمی رژیم ذهنی ما تبدیل شود.

با این حال، شرکت های بزرگ فناوری دقیقاً در پی عادی سازی همین وضعیت هستند. لیا بلسکی، معاون آموزش شرکت اوپن ای آی، در پادکستی در ژوئیه ۲۰۲۵ گفت بیش از نیمی از ۹۰۰ میلیون کاربر ماهانه ChatGPT را «یادگیرندگان» تشکیل می دهند. او این سرویس را «بزرگ ترین سکوی یادگیری جهان» نامید. شرکت آنتروپیک نیز بعدتر طرحی با عنوان «کلود برای معلمان» راه اندازی کرد و دسترسی رایگان به مدل های پیشرفته را در اختیار معلمان شاغل گذاشت.

این اقدامات الزاماً به سود دانش آموزان و معلمان نیستند. آن ها نمونه ای روشن از تضعیف سامانه هایی هستند که برای رشد توانایی شناختی به آن ها نیاز داریم؛ همه این ها نیز به نام آسان تر شدن کار انجام می شود.

فرانسوا شولِه، مهندس پیشین گوگل، هوش مصنوعی را ابزار «خودکارسازی شناختی» توصیف کرده است؛ یعنی تبدیل انتزاع های انسانی به نرم افزار و استفاده از آن برای انجام خودکار وظایفی که پیش تر انسان ها انجام می دادند. گروهی میان رشته ای از پژوهشگران نیز استدلال کرده اند که مدل های زبانی بزرگ را نباید پیش از هر چیز عاملانی هوشمند دانست؛ بلکه باید آن ها را نوعی فناوری فرهنگی و اجتماعی دید که امکان استفاده از اطلاعات انباشته شده توسط انسان های دیگر را فراهم می کنند.

طرفداران هوش مصنوعی بارها از مزایای این روند گفته اند و معایب آن را با فناوری های پیشین مانند رایانه، ماشین حساب و حتی نوشتار مقایسه کرده اند. اما فارغ از پیامدهای فناوری های قبلی، بشر تاکنون چیزی را با این میزان از صراحت برای جایگزین کردن تفکر انسانی<!– توسعه نداده و در مقیاسی گسترده به کار نگرفته بود.

آموزش و خطر واگذاری تفکر

ChatGPT ممکن است بزرگ ترین سکوی یادگیری جهان باشد، اما بسیاری از دانش آموزان از آن برای فرار از تفکر دشواری استفاده می کنند که لازمه ساختن دانش پایدار است. شواهد درباره پیامدهای منفی ابزارهای هوش مصنوعی در محیط های آموزشی رو به افزایش است. مطالعه ای در چین نشان داد هزاران دانش آموز پس از استفاده از هوش مصنوعی، عملاً انجام تکالیف خود را کنار گذاشتند و یادگیری آن ها به طور محسوسی آسیب دید. پژوهش های دیگر نیز نشان می دهد دانش آموزانی که از مدل های زبانی بزرگ برای یادگیری کمک می گیرند، ممکن است در موقعیت های دیگر نیز به کاهش دقت قضاوت و تفکر انتقادی عادت کنند.

هیچ گونه دیگری به اندازه انسان دوره ای طولانی برای رشد مغز و بدن ندارد. انسان در طول تاریخ، این دوره طولانی را با نهادهای فرهنگی ویژه ای تکمیل کرده است که دانش را از نسلی به نسل دیگر منتقل می کنند. باید از این فرایند انسانی با جدیت محافظت کنیم؛ اما برخی مدیران مدارس و دانشگاه ها، همراه با شرکت های بزرگ فناوری، می کوشند هوش مصنوعی را هرچه سریع تر و عمیق تر وارد نظام آموزشی کنند.

اگر ذهن را فقط یک رایانه بدانیم، هوش مصنوعی ممکن است ابزاری مناسب برای یادگیری به نظر برسد و ایده ساخت معلم های هوشمند جذاب جلوه کند. اما این تصور نادرست است. ذهن ما دستگاهی صرفاً ورودی و خروجی نیست. ما درون یک زیست بوم شناختی گسترده زندگی می کنیم و باید تصمیم بگیریم انرژی ذهنی خود را چگونه مصرف کنیم. هدف این تلاش، گسترش اختیار و کنترل ما بر جهان است؛ هرچند این کنترل همیشه محدود باقی می ماند.

تفکر عمیق دشوار است و وقتی فناوری راهی آسان برای کنار گذاشتن این تلاش پیش پای ما می گذارد، بسیاری از افراد آن را انتخاب می کنند. برخی پژوهشگران این روند را «واگذاری شناختی» نامیده اند. آن ها هشدار داده اند که با گسترش این واگذاری، محیط اجتماعی پشتیبان استدلال مستقل تضعیف می شود و همین تضعیف، واگذاری بیشتر را آسان تر و جذاب تر می کند.

پژوهشگران برای مقابله با این روند، نوعی برنامه ایمن سازی شناختی در برابر هوش مصنوعی پیشنهاد کرده اند. این برنامه باید از تمرین ها و نهادهایی محافظت کند که شناخت انسانی را فعال نگه می دارند؛ از جمله حل مسئله بدون کمک، راستی آزمایی، گفت وگوی انتقادی و دوره هایی از فاصله گرفتن آگاهانه از ابزارهای هوش مصنوعی.

نام چنین نهادهایی مدرسه است.

مقاومت در برابر نفوذ هوش مصنوعی

سیاست گذاران نیز باید اقدام کنند. نروژ اخیراً تقریباً همه کاربردهای هوش مصنوعی برای دانش آموزان کمتر از ۱۳ سال را در مدارس ممنوع کرده است. در آمریکا نیز یک اتحادیه بزرگ معلمان خواستار ممنوعیت چت بات ها در مدارس ابتدایی شده و مناطقی مانند لس آنجلس و نیویورک محدودیت هایی در این زمینه اعمال کرده اند. چنین اقداماتی احتمالاً آخرین نمونه ها نخواهند بود.

نشانه هایی از افزایش مقاومت نیز دیده می شود. در برخی مراسم دانش آموختگی، دانشجویان هنگام تمجید سخنرانان از هوش مصنوعی واکنش منفی نشان داده اند. نگرانی درباره آینده شغلی یکی از دلایل این مخالفت است، اما احتمالاً گروهی از دانشجویان آسیب واردشده به رشد شناختی خود را نیز احساس می کنند.

دانشجویان باشگاه «لودیت» کالج اوبرلین در نامه ای سرگشاده به رئیس دانشگاه، از رویکرد این مؤسسه در قبال هوش مصنوعی انتقاد کردند. آن ها نوشتند دانشگاه در سال هوش مصنوعی خود قرار دارد، اما آنان سالی را برای خودشکوفایی، درک نتیجه تلاش های شخصی و پذیرش کاستی های انسانی و پرسشگری بی واسطه آغاز می کنند.

سامانه های کنترلی مغز ما محصول میلیون ها سال تکامل زیستی و هزاران سال تکامل فرهنگی هستند. برای فهم کامل انسان، باید از مدل صرفاً محاسباتی ذهن فراتر برویم و ماهیت عمیقاً اجتماعی خود را، که موتور شکل گیری فرهنگ بوده است، ببینیم.