محققان کرهای راهکاری ارائه دادهاند که هوش مصنوعی را قادر میسازد عدم قطعیت در پاسخها را تشخیص دهد و اعتمادبهنفس کاذب را کاهش دهد.
به گزارش تکراتو و به نقل از خبرگزاری مهر، محققان موسسه KAIST در کره جنوبی یک روش نوآورانه برای آموزش هوش مصنوعی ارائه کردهاند که به آن کمک میکند سطوح ناشناخته و نادیده را شناسایی کند و در نتیجه اعتماد بیش از حد به پاسخها را کاهش دهد.
این فناوری با هدف بهبود قابلیت شناسایی وضعیت های نامشخص و کم کردن خطاهای ناشی از اعتماد نادرست طراحی شده است.
در تحقیقات این تیم به رهبری «سی بوم پایک» مشخص شد که روش رایج مقدار دهی اولیه تصادفی در شبکههای عصبی، یکی از دلایل اصلی اعتماد کاذب در هوش مصنوعی است.
این اتفاق زمانی رخ میدهد که شبکههای عصبی بدون یادگیری واقعی، به شدت در خاطرجمع بودن درباره پاسخهایشان نشان میدهند که ممکن است منجر به بروز نتایج اشتباه شود.
برای حل این مشکل، آنها روشی به نام «گرم کردن» را پیشنهاد دادند. در این راهکار، شبکه عصبی قبل از شروع آموزش واقعی، چند مدت کوتاه با دادههای نویزی و تصادفی تمرین میبیند تا عدم قطعیت خود را بهتر درک کند.
این فرآیند باعث میشود هوش مصنوعی پیش از مواجهه با دادههای اصلی، به حالت طبیعی و مبتنی بر عدم قطعیت برسد و اعتماد کاذب خود را کاهش دهد.
همچنین آنها با نگاهی به مغز انسان که قبل از تولد مدارهای عصبی را با سیگنالهای خودجوش تشکیل میدهد، دریافتند که این فعالیت عصبی اختیاری و مستقل از دادههای خارجی است و باعث شکلگیری سیستمهای شناختی در انسان میشود.
با بهرهگیری از این مفهوم در شبکههای مصنوعی، مرحله «گرم کردن» به عنوان پیشآموزشی وارد عمل شد. در این مرحله، شبکه قبل از آموزش اصلی، با دادههای نویزی تمرین میبیند تا درک صحیحتری از عدم قطعیت و میزان اعتماد در پاسخهای خود داشته باشد.
نتیجتا، این روش سطح اعتماد اولیه را نزدیک به تصادفی بودن نگه میدارد و سوگیریهای نادرست در مرحله اولیه را کاهش میدهد.
در نتیجه، این رویکرد به هوش مصنوعی امکان میدهد نه فقط پاسخهای صحیح بدهد، بلکه بتواند تفکیک کند بین آنچه میداند و آنچه نمیداند؛ توانایی که به آن فراشناخت و شناخت خود گفته میشود.
این فناوری نویدبخش تحولی در توسعه سیستمهای هوشمند است که در کنار تولید پاسخ، بتوانند وضعیت شناختی خود را هم ارزیابی کنند.