بیل گیتس بار دیگر درباره خطرهای هوش مصنوعی هشدار داده و این بار گفته است قدرت این فناوری در صورت استفاده مخرب میتواند به رویدادهایی منجر شود که جان بخش بزرگی از جمعیت جهان را به خطر بیندازند.
بنیانگذار مایکروسافت در بخشی از مصاحبه جدید خود با برنامه Meet the Press شبکه NBC گفت هوش مصنوعی «بهاندازه کافی قدرتمند» است که بتواند به رخدادهایی با حتی یک میلیارد قربانی منجر شود. گیتس در عین حال تأکید کرد نگرانی اصلی او فقط از خود مدلهای هوش مصنوعی نیست، بلکه ترکیب تواناییهای پیشرفته AI با افرادی است که قصد سوءاستفاده از آن را دارند.
گیتس: AI میتواند به فاجعهای با یک میلیارد قربانی منجر شود
اظهارات جدید بیل گیتس در پاسخ به پرسشی درباره احتمال ایجاد خطرهای وجودی توسط هوش مصنوعی مطرح شد.
او گفت AI میتواند آنقدر قدرتمند شود که رویدادهایی با پیامدهای بسیار گسترده ایجاد کند و ترکیب افراد دارای نیت مخرب با پیشرفتهترین ابزارهای هوش مصنوعی را خطری بیسابقه توصیف کرد.
گیتس عدد یک میلیارد را بهعنوان پیشبینی یا احتمال مشخص وقوع یک فاجعه مطرح نکرده است؛ منظور او توصیف ابعاد بالقوه آسیبی است که این فناوری در سناریوهای بسیار شدید میتواند ایجاد کند.
بنابراین نمیتوان از صحبتهای او نتیجه گرفت که گیتس وقوع چنین حادثهای را قطعی یا حتی محتمل میداند.
نگرانی فقط درباره یک هوش مصنوعی سرکش نیست
بحث خطرهای وجودی AI معمولاً با سناریوی خارجشدن یک سیستم فوقهوشمند از کنترل انسان همراه میشود، اما بخش بزرگی از نگرانی گیتس روی استفاده انسانها از این فناوری متمرکز است.
او پیشتر در مقاله مفصلی درباره آینده AI نوشته بود که مدلهای قدرتمند میتوانند انجام حملات سایبری، کلاهبرداری، انتشار اطلاعات جعلی و سایر فعالیتهای مخرب را برای افراد کمتجربه نیز آسانتر کنند.
توانایی AI در علوم زیستی نیز یکی دیگر از حوزههایی است که گیتس درباره آن ابراز نگرانی کرده است؛ زیرا همان مدلهایی که میتوانند به پژوهشگران برای توسعه دارو کمک کنند، در صورت نبود محدودیتهای مناسب ممکن است برای اهداف خطرناک مورد استفاده قرار گیرند.
بیل گیتس دیگر مثل گذشته درباره AI خوشبین نیست
موضع گیتس درباره هوش مصنوعی طی ماههای اخیر محتاطانهتر شده است.
او در سالهای گذشته بارها درباره ظرفیت AI برای افزایش بهرهوری، توسعه دارو، بهبود آموزش و کاهش نابرابری صحبت کرده بود؛ اما در مقالهای که در ماه آگوست منتشر کرد، اعلام کرد برای نخستین بار در زندگیاش آرزو میکند یک فناوری جدید کمی آهستهتر پیشرفت کند.
گیتس در آن نوشته سه دسته اصلی از خطرها را برجسته کرد: سوءاستفاده امنیتی از AI، اختلال گسترده در بازار کار و پیامدهای احتمالی آن برای کودکان، آموزش و روابط انسانی.
بااینحال، او همچنان معتقد است هوش مصنوعی در صورت مدیریت صحیح میتواند مزایای بسیار بزرگی برای بشر داشته باشد.
شرکتهای هوش مصنوعی نباید خودشان تنها ناظر باشند
گیتس در مصاحبه جدید خود تأکید کرده است که اتکا به خودتنظیمی شرکتهای هوش مصنوعی کافی نیست.
به گفته او، نهادهای قانونی و دولتها باید در تعیین استانداردهای ایمنی، نظارت و سازوکارهای مقابله با سوءاستفاده از مدلهای پیشرفته نقش داشته باشند.
این موضع در شرایطی مطرح میشود که مدیران و پژوهشگران صنعت AI درباره سرعت توسعه مدلهای مرزی اختلافنظر جدی دارند.
برخی مدیران شرکتهای بزرگ خواستار هماهنگی بیشتر و کاهش سرعت توسعه قابلیتهای بسیار پیشرفته شدهاند، درحالیکه گروهی دیگر معتقدند محدودیت بیش از حد میتواند نوآوری و رقابت را تضعیف کند.
خطرهای هوش مصنوعی به بحثی جدی در صنعت تبدیل شدهاند
گیتس تنها چهره مطرح صنعت فناوری نیست که درباره پیامدهای بالقوه مدلهای بسیار پیشرفته هشدار میدهد.
در هفتههای اخیر بحث درباره کنترل مدلهای مرزی، توانایی آنها در حوزه امنیت سایبری و میزان استقلال ایجنتهای هوش مصنوعی شدت گرفته است.
داریو آمودی، مدیرعامل Anthropic، خواستار کاهش سرعت رشد توانایی مدلهای مرزی شده و چهرههایی مانند سم آلتمن نیز از ضرورت افزایش اقدامات ایمنی صحبت کردهاند.
در مقابل، برخی فعالان صنعت با سناریوهای بسیار آخرالزمانی درباره AI موافق نیستند و معتقدند خطرهای کوتاهمدت و قابلاندازهگیری مانند سوءاستفاده، کلاهبرداری، حملات سایبری و اختلال بازار کار باید در اولویت قرار گیرند.
گیتس همچنان به مزایای AI امیدوار است
هشدارهای جدید به این معنی نیست که بیل گیتس خواستار کنارگذاشتن هوش مصنوعی شده است.
بنیاد گیتس در همین ماه برنامهای یک میلیارد دلاری برای استفاده از AI در حوزههایی مانند سلامت، آموزش و کشاورزی معرفی کرده و روی گسترش دسترسی به مدلها برای زبانها و جوامعی که در مجموعهدادههای فعلی کمتر نمایندگی شدهاند کار میکند.
دیدگاه فعلی گیتس را میتوان ترکیبی از خوشبینی و نگرانی دانست: او همچنان AI را فناوریای با ظرفیت تحول مثبت بسیار بزرگ میداند، اما معتقد است بدون نظارت، سازوکارهای امنیتی و آمادگی دولتها، همان قدرت میتواند پیامدهای بسیار خطرناکی ایجاد کند.
دیدگاهها