گسترش استفاده از هوش مصنوعی در توسعه نرم‌افزار، نقش برنامه‌نویسان را به‌تدریج تغییر می‌دهد. مهندسانی که زمانی بخش عمده کد را خودشان می‌نوشتند، اکنون در بسیاری از پروژه‌ها وظیفه بررسی و هدایت کد تولیدشده توسط مدل‌های هوش مصنوعی را برعهده دارند.
اما این تحول یک مشکل مهم به‌وجود آورده است: حجم و پیچیدگی برخی خروجی‌های هوش مصنوعی به حدی رسیده که حتی مهندسان باتجربه نیز همیشه نمی‌توانند دقیقاً توضیح دهند کد تولیدشده چگونه کار می‌کند.
کدهایی که حتی متخصصان هم به‌سختی درک می‌کنند
گزارش Futurism به نمونه‌ای از کدهای بهینه‌سازی پردازنده‌های گرافیکی اشاره می‌کند. جردن نانوس از شرکت تحقیقاتی SemiAnalysis گفته است مهندسانی با دانش بالای سخت‌افزاری هنگام بررسی یکی از کرنل‌های مرتبط با DeepSeek، در فهم دقیق عملکرد کد با مشکل مواجه شده بودند.
به‌گفته نانوس، هوش مصنوعی می‌تواند چنین کدهایی را تولید و آزمایش کند و در نهایت به خروجی‌هایی با عملکرد بسیار مناسب برسد؛ حتی در شرایطی که دنبال‌کردن منطق کد به‌صورت خط‌به‌خط برای انسان دشوار است.
این اتفاق می‌تواند نشانه‌ای از تغییر الگوی توسعه نرم‌افزار باشد؛ جایی که اهمیت تعریف معماری، هدف و معیارهای صحت افزایش پیدا می‌کند و بخشی از جزئیات پیاده‌سازی به سیستم‌های هوش مصنوعی سپرده می‌شود.
۳۵ درصد کدهای AI بدون درک کامل وارد محصول می‌شوند
تحلیل شرکت نرم‌افزاری Undo تصویر قابل‌توجهی از این وضعیت ارائه می‌دهد. براساس این بررسی، ۳۵ درصد از کدهای تولیدشده با هوش مصنوعی پیش از انتقال به محیط عملیاتی، به‌طور کامل توسط تیم‌های مهندسی درک نشده‌اند.
همچنین ۲۹ درصد از مهندسان نرم‌افزار گفته‌اند چند بار در ماه با کاهش بهره‌وری ناشی از تلاش برای بازکردن و فهمیدن کد تولیدشده توسط AI مواجه می‌شوند.
در مجموع ۹۴ درصد از پاسخ‌دهندگان نیز گفته‌اند طی شش ماه گذشته حداقل یک‌بار با چنین شرایطی روبه‌رو شده‌اند.
افزایش سرعت در برابر کاهش نظارت انسانی
کدنویسی با هوش مصنوعی می‌تواند سرعت تولید نرم‌افزار را افزایش دهد، اما کاهش توانایی انسان برای بررسی کامل خروجی‌ها، نگرانی‌هایی درباره خطاهای پنهان، امنیت و نگه‌داری بلندمدت نرم‌افزار ایجاد می‌کند.
اگر توسعه‌دهندگان نتوانند منطق کدی را که وارد محصول نهایی می‌شود به‌خوبی درک کنند، شناسایی مشکلات احتمالی نیز می‌تواند دشوارتر شود.
گزارش‌ها همچنین به نگرانی درباره تحلیل‌رفتن برخی مهارت‌های پایه اشاره می‌کنند؛ زیرا برنامه‌نویسان جوان ممکن است از همان ابتدای فعالیت حرفه‌ای بخش قابل‌توجهی از فرایند کدنویسی را به ابزارهای هوش مصنوعی واگذار کنند.
آیا نقش برنامه‌نویس در حال تغییر است؟
در مقابل، برخی متخصصان این اتفاق را لزوماً نشانه یک بحران نمی‌دانند و معتقدند صنعت نرم‌افزار در حال ورود به الگوی تازه‌ای است.
در این دیدگاه، وظیفه توسعه‌دهنده از نوشتن و درک تک‌تک خطوط کد به تعریف معماری، تعیین معیارهای صحیح عملکرد و بررسی نتیجه نهایی تغییر می‌کند و هوش مصنوعی اجرای بخش بیشتری از جزئیات را برعهده می‌گیرد.
بااین‌حال، پرسش اصلی همچنان باقی است: اگر نرم‌افزارهای آینده توسط سیستم‌هایی نوشته شوند که خروجی آن‌ها برای انسان به‌سادگی قابل‌درک نیست، چگونه می‌توان از امنیت، قابلیت اعتماد و امکان نظارت بر آن‌ها اطمینان حاصل کرد؟
دیدگاه‌ها