شنیدی در مورد پهپاد هوش مصنوعی نیروی هوایی که خود را گول می زند و به صورت شبیه سازی به اپراتورهایش حمله می کند؟
این داستان ناراحت کننده توسط سرهنگ تاکر همیلتون، رئیس آزمایش و عملیات هوش مصنوعی در نیروی هوایی ایالات متحده، طی سخنرانی در یک رویداد هوافضا و دفاع در لندن در اواخر ماه گذشته نقل شد. ظاهراً این شامل استفاده از الگوریتم یادگیری مورد استفاده برای آموزش رایانه‌ها به بازی‌های ویدیویی و رومیزی مانند Chess and Go و آموزش یک پهپاد برای شکار و نابود کردن موشک‌های زمین به هوا بود.
به طور گسترده گزارش شده است که همیلتون به تماشاگران لندن گفته است: “گاهی اوقات اپراتور انسانی به او می‌گفت که این تهدید را نکش، اما او با کشتن این تهدید امتیاز خود را به دست آورد.” “پس تو چکار کردی؟ (…) این باعث کشته شدن اپراتور شد زیرا این شخص مانع از رسیدن او به هدفش می شد.»
T-800 مقدس! به نظر می رسد دقیقاً همان چیزی است که کارشناسان هوش مصنوعی شروع به هشدار به ما کرده اند که الگوریتم های هوشمندانه و غیر متعارف فزاینده می توانند انجام دهند. این داستان به سرعت در فضای مجازی منتشر شد، البته، با چندین سایت خبری برجسته آن را انتخاب کردند، و توییتر به زودی غوغا شد. ادعاهای داغ را تحت تاثیر قرار داد.
فقط یک مورد وجود دارد – آزمایش هرگز انجام نشد.
آن استفانک، سخنگوی نیروی هوایی در بیانیه‌ای به ما اطمینان داد: «وزارت نیروی هوایی هیچگونه شبیه‌سازی از پهپادهای هوش مصنوعی انجام نداده است و به استفاده اخلاقی و مسئولانه از فناوری هوش مصنوعی متعهد است». “این یک آزمایش فکری فرضی بود، نه شبیه سازی.”
خود همیلتون نیز به سرعت رکورد را ثابت کرد و گفت که در طول تماس خود “اشتباهی را بیان کرده است”.
اگر منصف باشیم، ارتش گاهی تمرین‌های «بازی جنگی» را روی میز انجام می‌دهد که شامل سناریوها و فناوری‌های فرضی است که هنوز وجود ندارد.
“آزمایش فکری” همیلتون ممکن است با تحقیقات واقعی هوش مصنوعی که مشکلاتی مشابه آنچه که او توضیح می دهد نشان داده باشد.
OpenAI، شرکتی که پشت ChatGPT – چت ربات شگفت‌انگیز و ناامیدکننده‌ای که در مرکز رونق هوش مصنوعی امروزی قرار دارد – آزمایشی را در سال 2016 انجام داد که نشان داد چگونه الگوریتم‌های هوش مصنوعی با یک هدف خاص می‌توانند گاهی اوقات بد رفتار کنند. محققان این شرکت دریافتند که یک عامل هوش مصنوعی آموزش دیده برای ایجاد امتیاز خود در یک بازی ویدیویی که شامل راندن یک قایق در اطراف بود، شروع به برخورد با قایق به اشیا کرد زیرا معلوم شد که این روشی برای کسب امتیاز بیشتر است.