گوگل تلاش می کند برای هوش مصنوعی مخرب، دکمه ی خاموش طراحی کند.
از زمان توسعه ی هوش مصنوعی ، همه ی ما نگران بودیم که مبادا این تکنولوژی به این نتیجه برسد که بهتر از ما فکر می کند و کنترل تمام امور را در اختیار بگیرد. این سناریوی وهم آور، به ندرت به پایان خوش ختم می شود.
خبر تلاش گوگل در زمینه ی طراحی دکمه ی خاموش برای هوش مصنوعی مسرت بخش است. این کمپانی به دنبال راهی است تا افراد بتوانند این سیستم فوق هوشمند را خاموش کنند؛ حتی اگر قدرت آنها افزایش یابد. این برنامه که با نام “safe interruptibility” (انقطاع امن) شناخته می شود، به عنوان بخشی از سیستم DeepMind در حال توسعه است؛ قدرت این سیستم قبلا در بازی Go به نمایش گذاشته شده است.
تیم مهندسانی که روی پروژه ی DeepMind تلاش می کنند، مقاله ای را منتشر و چهارچوب کاری مشخصی را برای این دکمه ی خاموش (یا دکمه ی قرمز بزرگ) در نظر گرفته اند؛ این سیستم می تواند هر ارتش رباتیکی را که روی عوامل حیاتی جهان مانور می دهند، از کار بیاندازد.
لارنت اورسیو و استوارت آرم استرانگ (نویسندگان این مقاله) در این باره توضیح داده اند: “فشار دادن دکمه ی قرمز بزرگ برای اپراتورهای انسانی و در هر زمانی ضروری است. این کار به منظور ممانعت مامور و تداوم تاثیرات یک عمل تخریب کننده و هدایت او به سمت یک راه حل امن تر انجام می شود. تفاوتی ندارد که اثر تخریب کننده بر ضد مامور خواهد بود و یا محیط پیرامون.”
محققان معتقدند که هوش مصنوعی نباید توانایی غیر فعال کردن دکمه ی قرمز بزرگ را داشته باشد؛ علاوه بر این، باید از میل باطنی او برای غیر فعال کردن این قابلیت نیز جلوگیری شود. دانشمندان همچنین معتقدند که روبرو شدن با انقطاع های برنامه ریزی شده که در آن ماشین می تواند زمان خاموش شدن را پیش بینی کند، بسیار مشکل تر خواهد بود.
در قلب این مشکل، ایده ی پاداش و یا به بیان بهتر، ایده ی هدفی که نرم افزار برای آن برنامه ریزی شده، نهفته است؛ با هوشمند تر شدن هوش مصنوعی ، احتمالا قادر خواهد بود تا پاداش های مورد نظر خود را ایجاد کرده و آنها را توسعه دهد. در وحله ی اول، توانایی قضاوت و تصمیم گیری را خواهد داشت.
نگران نباشید، هوشمند ترین افراد گوگل در این زمینه تلاش خواهند کرد.
.
.
منبع: techradar
