امروز، OpenAI اولین گزارش تهدید خود را منتشر کرد که جزئیات چگونگی تلاش بازیگران روسیه، ایران، چین و اسرائیل را برای استفاده از فناوری آن برای عملیات نفوذ خارجی در سراسر جهان منتشر کرد. در این گزارش نام پنج شبکه مختلف که OpenAI بین سال‌های 2023 و 2024 شناسایی و تعطیل شدند، ذکر شده است. در این گزارش، OpenAI فاش کرد که شبکه‌های مستقر مانند Doppleganger روسیه و Spamoflauge چین در حال آزمایش نحوه استفاده از هوش مصنوعی مولد برای خودکارسازی عملیات خود هستند. آنها هم در این کار خیلی خوب نیستند.
و در حالی که این که این بازیگران از هوش مصنوعی مولد برای تبدیل شدن به نیروهای اطلاعات نادرست غیرقابل توقف استقبال نکرده اند، مایه آرامش است، اما واضح است که آنها در حال آزمایش هستند، و این به تنهایی باید هشدار دهنده باشد.
گزارش OpenAI نشان می‌دهد که کمپین‌های اینفلوئنسر با محدودیت‌های هوش مصنوعی مولد مواجه هستند که کپی یا کد قابل اعتمادی تولید نمی‌کند. با اصطلاحات – که باعث می‌شود زبان به نظر واقعی‌تر و انسانی‌تر به نظر برسد – و همچنین گاهی اوقات با دستور زبان اصلی دست و پنجه نرم می‌کند (به حدی که OpenAI یک شبکه را “Bad Grammar” نامید.) شبکه Bad Grammar آنقدر شلخته بود که یک بار هویت واقعی خود را فاش کرد. : “به عنوان یک مدل زبان هوش مصنوعی، من اینجا هستم تا کمک کنم و تفسیر مورد نظر را ارائه کنم.”
یکی از شبکه‌ها از ChatGPT برای اشکال‌زدایی کد استفاده می‌کند که به آن امکان می‌دهد پست‌ها را در تلگرام خودکار کند، یک برنامه چت که مدت‌ها مورد علاقه افراط‌گرایان بوده و بر شبکه‌ها تأثیر می‌گذارد. گاهی اوقات این کار به خوبی انجام می شد، اما گاهی اوقات منجر به ارسال یک حساب کاربری به عنوان دو شخصیت جداگانه می شد و بازی را از دست می داد.
در موارد دیگر، ChatGPT برای ایجاد کد و محتوا برای وب سایت ها و رسانه های اجتماعی استفاده شده است. به عنوان مثال، Spamoflauge از ChatGPT برای اشکال زدایی کد برای ایجاد یک وب سایت وردپرسی استفاده کرد که داستان هایی را منتشر می کرد که به اعضای دیاسپورای چینی که منتقد دولت این کشور بودند حمله می کرد.
بر اساس این گزارش، محتوای تولید شده توسط هوش مصنوعی حتی زمانی که در پلتفرم‌های پرکاربرد مانند X، فیس‌بوک یا اینستاگرام به اشتراک گذاشته می‌شود، نتوانسته است از شبکه‌های تأثیرگذار به جریان اصلی نفوذ کند. کمپین هایی که توسط یک شرکت اسرائیلی اداره می شد و به نظر می رسید برای استخدام کار می کرد و محتوایی از ضد قطر تا ضد BJP را منتشر می کرد، حزب ملی گرای هندو که در حال حاضر دولت هند را کنترل می کند، چنین بود.
در مجموع، این گزارش تصویری از چندین کمپین تبلیغاتی خام نسبتاً بی‌اثر را ترسیم می‌کند، که ظاهراً ترس بسیاری از کارشناسان در مورد پتانسیل این فناوری جدید برای انتشار اطلاعات نادرست و اطلاعات نادرست، به‌ویژه در طول یک سال انتخاباتی سرنوشت‌ساز را کاهش می‌دهد.
اما کمپین‌های تأثیرگذار رسانه‌های اجتماعی اغلب در طول زمان برای جلوگیری از شناسایی، نوآوری می‌کنند، پلتفرم‌ها و ابزارهای آنها را یاد می‌گیرند، گاهی اوقات بهتر از خود کارمندان پلتفرم‌ها. جسیکا والتون، محقق موسسه CyberPeace که استفاده از Doppleganger را برای هوش مصنوعی مولد مطالعه کرده است، می‌گوید در حالی که این کمپین‌های اولیه ممکن است کوچک یا بی‌اثر باشند، به نظر می‌رسد هنوز در مرحله آزمایشی هستند.
در تحقیقات خود، این شبکه از پروفایل های واقعی فیس بوک برای انتشار مقالات، اغلب در مورد موضوعات سیاسی تفرقه انگیز استفاده می کند. او می گوید: «مقالات واقعی توسط هوش مصنوعی مولد نوشته می شود. و بیشتر تلاش آنها این است که ببینند چه چیزی قرار است پرواز کند، الگوریتم‌های متا چه چیزی را می‌توانند بگیرند و چه چیزی را نمی‌توانند بگیرند.»
به عبارت دیگر، انتظار داشته باشید که آنها فقط از اینجا بهتر شوند.