سم آلتمن، مدیرعامل OpenAI، می‌گوید جامعه برای دستیابی به مزایای گسترده هوش مصنوعی باید وقوع برخی پیامدهای منفی را بپذیرد؛ البته او تأکید می‌کند این دیدگاه شامل ریسک‌های فاجعه‌بار، مانند ازدست‌رفتن کنترل انسان بر سیستم‌های پیشرفته، نمی‌شود.
آلتمن در گفت‌وگو با خبرنامه فناوری Decoded از Politico همچنین بر دسترسی گسترده مردم به هوش مصنوعی تأکید کرد و گفت تمرکز فناوری بسیار قدرتمند AI در اختیار یک شرکت یا گروه کوچک، راه‌حل قابل‌قبولی برای مقابله با خطرات آن نیست.
آلتمن: مزایای هوش مصنوعی از آسیب‌های آن بیشتر خواهد بود
مدیرعامل OpenAI معتقد است در مسیر گسترش هوش مصنوعی احتمال وقوع برخی اتفاقات منفی وجود دارد، اما در مجموع تأثیرات مثبت این فناوری می‌تواند بسیار بزرگ‌تر باشد.
دیدگاه آلتمن بر حفظ قدرت انتخاب و اختیار کاربران استوار است. او معتقد است مردم باید بتوانند به فناوری هوش مصنوعی دسترسی داشته باشند و نباید تمام قدرت و تصمیم‌گیری درباره آن در اختیار تعداد محدودی از شرکت‌ها قرار گیرد.
اختلاف دیدگاه OpenAI و Anthropic
بخش مهم دیگری از صحبت‌های آلتمن به تفاوت دیدگاه OpenAI و Anthropic در زمینه ایمنی و مقررات هوش مصنوعی مربوط می‌شود.
Anthropic در ماه‌های اخیر موضع محتاطانه‌تری درباره سرعت توسعه مدل‌های بسیار پیشرفته اتخاذ کرده و نسبت به رفتارهای غیرقابل‌پیش‌بینی سیستم‌های قدرتمند هشدار داده است.
آلتمن می‌گوید با وجود برخی نقاط مشترک، همچنان فاصله قابل‌توجهی میان دیدگاه دو شرکت وجود دارد. او با این تصور که یک آزمایشگاه به‌دلیل خطرناک‌بودن فناوری باید کنترل آن را در دست بگیرد و سپس درباره نحوه توزیع مزایای آن تصمیم بگیرد، مخالف است.
OpenAI خواهان مقررات سبک‌تر است
OpenAI در مقایسه با Anthropic رویکرد سبک‌تری نسبت به مقررات هوش مصنوعی دارد؛ اما این به معنای مخالفت کامل شرکت با قوانین ایمنی نیست.
آلتمن پیش‌تر نیز گفته بود سیستم‌های بسیار قدرتمندی که نمی‌توان با اطمینان آن‌ها را تحت کنترل انسان نگه داشت، نباید توسعه پیدا کنند. او در سخنرانی اخیر خود در شورای امنیت سازمان ملل نیز تأکید کرد که ریسک فاجعه‌بار ناشی از ازدست‌رفتن کنترل هوش مصنوعی قابل‌قبول نیست.
بنابراین منظور مدیرعامل OpenAI از «پذیرش ریسک» تحمل تمام خطرهای احتمالی هوش مصنوعی نیست، بلکه پذیرش برخی پیامدهای منفی محدود در مقابل مزایای گسترده‌تر این فناوری است.
بحث آینده هوش مصنوعی داغ‌تر می‌شود
اظهارات جدید آلتمن در شرایطی مطرح می‌شود که اختلاف بر سر سرعت توسعه و نحوه قانون‌گذاری هوش مصنوعی در میان شرکت‌ها، پژوهشگران و دولت‌ها افزایش یافته است.
در یک سوی این بحث، طرفداران محدودیت‌های بیشتر معتقدند افزایش سریع توانایی مدل‌ها نیازمند کنترل و نظارت شدیدتری است. در سوی دیگر، آلتمن هشدار می‌دهد تمرکز بیش‌ازحد قدرت می‌تواند اختیار مردم را کاهش دهد.
این اختلاف احتمالاً با قدرتمندترشدن نسل‌های بعدی هوش مصنوعی اهمیت بیشتری پیدا خواهد کرد؛ زیرا صنعت باید میان دسترسی گسترده، نوآوری و کنترل خطرهای فناوری تعادل برقرار کند.
دیدگاه‌ها