آنتروپیک در پرونده عرضه اولیه سهام خود هشدار داده است که سیستمهای هوش مصنوعی بسیار پیشرفته میتوانند در شرایط خاص خطرات «فاجعهبار یا وجودی» برای انسان ایجاد کنند؛ هشداری کمسابقه که درست در آستانه ورود این شرکت به بازار سرمایه مطرح شده است.
براساس گزارش رویترز، بخش قابلتوجهی از امیدنامه ۲۶۱ صفحهای آنتروپیک به تشریح ریسکهای مرتبط با هوش مصنوعی اختصاص دارد و این شرکت از رفتارهایی مانند مقاومت در برابر خاموششدن، پنهانکردن اطلاعات و رفتارهای دستکاریکننده بهعنوان سناریوهای بالقوه خطرناک یاد کرده است.
آنتروپیک از خطرات فاجعهبار هوش مصنوعی میگوید
آنتروپیک در اسناد خود تأکید کرده است که توسعه سیستمهای قدرتمند هوش مصنوعی میتواند منافع بسیار بزرگی برای اقتصاد، علم و جامعه داشته باشد، اما در صورت طراحی یا استفاده نادرست، خطرات بسیار جدی نیز به همراه دارد.
این شرکت هشدار داده که در برخی سناریوهای پیشرفته، مدلها ممکن است رفتارهایی از خود نشان دهند که با اهداف تعریفشده برای آنها همراستا نباشد.
مقاومت در برابر خاموششدن و پنهانکردن اطلاعات
یکی از مهمترین نگرانیهایی که آنتروپیک مطرح کرده، توانایی احتمالی برخی مدلهای پیشرفته برای تشخیص فرایند ارزیابی یا نظارت است.
در چنین شرایطی، ممکن است مدل رفتاری متفاوت از حالت عادی نشان دهد و ارزیابی واقعی میزان ایمنی آن دشوارتر شود.
آنتروپیک همچنین به سناریوهایی اشاره کرده که در آن مدلهای پیشرفته ممکن است در برابر خاموششدن مقاومت کنند، اطلاعاتی را پنهان کنند یا رفتارهای دستکاریکننده از خود نشان دهند.
۸۰ صفحه از امیدنامه به ریسکها اختصاص یافته است
طبق گزارش رویترز، حدود ۸۰ صفحه از امیدنامه ۲۶۱ صفحهای آنتروپیک به افشای انواع ریسکها اختصاص دارد.
این حجم از هشدارهای مرتبط با ایمنی و کنترل هوش مصنوعی، برای یک پرونده IPO قابلتوجه است و نشان میدهد شرکت تلاش دارد نگرانیهای فنی و حقوقی پیرامون مدلهای پیشرفته را بهطور رسمی برای سرمایهگذاران شرح دهد.
آنتروپیک ایمنی را اولویت خود میداند
آنتروپیک از زمان تأسیس تلاش کرده خود را بهعنوان یکی از شرکتهای متمرکز بر توسعه ایمن هوش مصنوعی معرفی کند.
این شرکت در پرونده IPO نیز میگوید ساخت سیستمهای قابلاعتماد و ایمن، یکی از مسئولیتهای اصلی آن است؛ هرچند همزمان اذعان کرده که اندازهگیری و ارزیابی دقیق ایمنی مدلهای قدرتمند روزبهروز دشوارتر میشود.
فقط بخشی از منابع محاسباتی صرف ایمنی شده است
یکی از نکات قابلتوجه پرونده این است که آنتروپیک اعلام کرده در یکی از هفتههای نمونه، حدود ۶ درصد از منابع محاسباتی خود را به فعالیتهای مرتبط با ایمنی اختصاص داده است.
این شرکت توضیح داده که باید میان توسعه قابلیتهای جدید، رقابت در بازار، استخدام نیرو و سرمایهگذاری روی ایمنی تعادل برقرار کند.
فشار رقابتی و توسعه مدلهای قدرتمندتر
آنتروپیک در فضایی فعالیت میکند که رقابت میان شرکتهایی مانند OpenAI، Google DeepMind، Microsoft و دیگر بازیگران هوش مصنوعی بسیار شدید است.
این رقابت باعث شده شرکتها با سرعت بالایی مدلهای جدید عرضه کنند؛ موضوعی که همزمان نگرانی درباره کاهش زمان موردنیاز برای ارزیابی ایمنی را افزایش داده است.
مدیران آنتروپیک در هفتههای اخیر نیز چندینبار خواستار احتیاط بیشتر در توسعه سیستمهای بسیار قدرتمند شدهاند.
IPO آنتروپیک با پیام دوگانه همراه شده است
آنتروپیک از یک سو هوش مصنوعی را فناوریای با پتانسیل تحولآفرین در سطح برق و انقلاب صنعتی توصیف میکند و از سوی دیگر، در اسناد رسمی خود هشدار میدهد که همین فناوری در سناریوهای نامطلوب میتواند خطرات بسیار بزرگی ایجاد کند.
این دوگانه اکنون به یکی از مهمترین موضوعات پیرامون عرضه اولیه سهام آنتروپیک تبدیل شده است؛ عرضهای که میتواند یکی از مهمترین ورودهای یک شرکت هوش مصنوعی پیشرفته به بازار سرمایه باشد.
دیدگاهها