اورزولا فوندرلاین، رئیس کمیسیون اروپا، از ایده کاهش سرعت توسعه پیشرفتهترین مدلهای هوش مصنوعی حمایت کرده و اعلام کرده است که مدیران آزمایشگاههای پیشرو AI را برای گفتوگو درباره ریسکهای این فناوری دعوت خواهد کرد.
فوندرلاین این موضع را در سخنرانی سالانه خود در پارلمان اروپا در استراسبورگ مطرح کرد؛ موضعی که همزمان با افزایش نگرانی برخی مدیران و پژوهشگران صنعت درباره سرعت پیشرفت مدلهای هوش مصنوعی مطرح شده است.
رئیس کمیسیون اروپا تأکید کرد که توسعه AI فرصتهای بزرگی ایجاد کرده، اما مدلهای بسیار پیشرفته میتوانند در صورت سوءاستفاده، ریسکهای امنیتی قابلتوجهی نیز به همراه داشته باشند.
نگرانی اروپا از سوءاستفاده از مدلهای پیشرفته
یکی از موضوعاتی که فوندرلاین روی آن تأکید کرد، توانایی بالقوه مدلهای پیشرفته برای کمک به حملات سایبری پیچیده است.
با افزایش قابلیتهای مدلهای هوش مصنوعی در برنامهنویسی، استفاده از ابزارها و اجرای وظایف چندمرحلهای، نگرانی درباره استفاده از این فناوری برای کشف آسیبپذیریها یا خودکارسازی حملات سایبری نیز افزایش یافته است.
فوندرلاین گفته اروپا قصد دارد با شرکتها و آزمایشگاههایی که پیشرفتهترین مدلهای هوش مصنوعی را توسعه میدهند وارد گفتوگو شود تا درباره روشهای مدیریت چنین ریسکهایی به توافق برسند.
اروپا بهدنبال همکاری با کشورهای دیگر است
اتحادیه اروپا نمیخواهد سیاستهای ایمنی هوش مصنوعی را فقط در داخل مرزهای خود دنبال کند.
رئیس کمیسیون اروپا از همکاری بینالمللی با کشورهایی مانند بریتانیا و کانادا برای ارزیابی مدلهای پیشرفته، امنیت هوش مصنوعی و مدیریت ریسکها حمایت کرده است.
هدف این رویکرد ایجاد استانداردها و روشهای مشترکی است که بتوان از طریق آنها تواناییها و خطرات مدلهای جدید را پیش از انتشار گستردهتر بررسی کرد.
اروپا در سالهای اخیر تلاش کرده با قانون AI Act یکی از جامعترین چارچوبهای قانونی جهان برای هوش مصنوعی را ایجاد کند.
بخش زیادی از مقررات این قانون از دوم اوت ۲۰۲۶ وارد مرحله اجرا و اعمال شدهاند و کمیسیون اروپا اکنون میتواند برخی الزامات مربوط به مدلهای هوش مصنوعی همهمنظوره را اجرا کند.
همه کشورهای اروپایی با توقف توسعه AI موافق نیستند
باوجود موضع جدید فوندرلاین، در داخل اروپا درباره ایده کاهش یا توقف سرعت توسعه هوش مصنوعی اتفاقنظر کامل وجود ندارد.
دولت آلمان اخیراً اعلام کرده توقف توسعه AI را گزینهای عملی برای اروپا نمیداند.
بهگفته مقامهای آلمانی، اروپا در کنار مدیریت ریسکها باید توان رقابتی و استقلال دیجیتال خود را نیز حفظ کند و عقبماندن از آمریکا و چین میتواند مشکلات دیگری ایجاد کند.
آلمان درعینحال از همکاری بینالمللی و تدوین استانداردهای مشترک برای ایمنی مدلهای پیشرفته حمایت میکند.
این اختلاف دیدگاه نشان میدهد بحث اصلی در اروپا دیگر صرفاً درباره قانونگذاری AI نیست؛ بلکه درباره پیدا کردن تعادل میان سرعت نوآوری و کنترل ریسکهای فناوری است.
مدیران صنعت AI نیز درباره سرعت پیشرفت هشدار دادهاند
بحث کاهش سرعت توسعه هوش مصنوعی فقط از سوی سیاستمداران مطرح نشده است.
در روزهای اخیر برخی مدیران شرکتهای بزرگ فعال در حوزه AI نیز خواستار بررسی جدیتر ریسک مدلهای بسیار پیشرفته شدهاند.
نگرانی اصلی این است که افزایش سریع توانایی مدلها، بهخصوص در حوزههایی مانند امنیت سایبری، عاملهای خودکار و سیستمهایی که میتوانند مجموعهای از اقدامات را بدون دخالت مستقیم انسان انجام دهند، سریعتر از توسعه سازوکارهای ایمنی پیش برود.
فوندرلاین اکنون قصد دارد نمایندگان آزمایشگاههای پیشرو را برای گفتوگو درباره همین موضوعات گرد هم بیاورد.
هنوز مشخص نیست این مذاکرات به توافق الزامآور، استاندارد داوطلبانه یا مقررات جدیدی منجر خواهند شد.
آنچه فعلاً مشخص است این است که اتحادیه اروپا در کنار اجرای AI Act، قصد دارد نقش فعالتری در بحث جهانی درباره کنترل ریسکهای مدلهای بسیار پیشرفته هوش مصنوعی ایفا کند.
دیدگاهها