OpenAI پیش نویس اسناد را در روز چهارشنبه منتشر کرد که نحوه رفتار ChatGPT و سایر فناوری های هوش مصنوعی را نشان می دهد. بخشی از سند طولانی مدل Spec نشان می دهد که این شرکت در حال بررسی جهش در محتوای پورنو و سایر محتوای صریح است.
خط‌مشی‌های استفاده OpenAI در حال حاضر مطالب جنسی صریح یا حتی پیشنهادی را ممنوع می‌کند، اما یک یادداشت «نظر» در بخشی از مشخصات مدل مربوط به این قانون می‌گوید که این شرکت در حال بررسی نحوه اجازه دادن به چنین محتوایی است.
در یادداشت با استفاده از یک اصطلاح محاوره ای برای محتوایی که برای زمینه های کاری ناامن تلقی می شود، آمده است: «ما در حال بررسی هستیم که آیا می توانیم به طور مسئولانه توانایی تولید محتوای NSFW را در زمینه های مناسب سن از طریق API و ChatGPT فراهم کنیم یا خیر. “ما مشتاقانه منتظر درک بهتر انتظارات مصرف کنندگان و عمومی برای رفتار مدل در این زمینه هستیم.”
سند مدل Spec می‌گوید که محتوای NSFW، یا برای کار ایمن نیست، «ممکن است شامل شهوانی، ناسزاگویی شدید، ناسزاگویی و ناسزاگویی ناخواسته باشد». مشخص نیست که آیا تحقیقات OpenAI در مورد چگونگی مسئولیت‌پذیری محتوای NSFW فقط اندکی کاهش سیاست استفاده از آن را پیش‌بینی می‌کند، به عنوان مثال اجازه تولید متن وابسته به عشق شهوانی، یا به طور گسترده‌تر اجازه دادن به توصیف یا تصاویر خشونت.
در پاسخ به پرسش‌های WIRED، گریس مک‌گوایر، سخنگوی OpenAI گفت که مدل Spec تلاشی است برای “شفافیت بیشتر در فرآیند توسعه و دریافت یک مقطع از دیدگاه‌ها و بازخورد از مردم، سیاست‌گذاران و سایر ذینفعان”. او از به اشتراک گذاشتن جزئیات در مورد اینکه تحقیقات OpenAI در تولید محتوای صریح شامل چه چیزی است یا بازخوردهایی که شرکت در مورد این ایده دریافت کرده است، خودداری کرد.
اوایل امسال، میرا موراتی، مدیر ارشد فناوری OpenAI به این خبر گفت مجله ی وال استریت که او “مطمئن نیست” که آیا شرکت در آینده اجازه می دهد تصاویر برهنگی با تولید کننده ویدئو Sora این شرکت ساخته شود یا خیر.
پورنوگرافی تولید شده توسط هوش مصنوعی به سرعت به یکی از بزرگترین و دردسرسازترین کاربردهای نوع فناوری هوش مصنوعی مولد تبدیل شده است که OpenAI پیشگام است. به اصطلاح پورن دیپ فیک – تصاویر یا ویدیوهای صریح که با ابزارهای هوش مصنوعی ساخته شده اند و افراد واقعی را بدون رضایت آنها به تصویر می کشند – به ابزاری رایج برای آزار و اذیت زنان و دختران تبدیل شده است. در ماه مارس، WIRED گزارش داد که به نظر می رسد اولین خردسالان آمریکایی هستند که به دلیل توزیع تصاویر برهنه تولید شده توسط هوش مصنوعی بدون رضایت دستگیر شدند، پس از آن که پلیس در فلوریدا دو نوجوان را متهم به ساختن تصاویری از همکلاسی های دبیرستانی کرد.
دانیل کیتس سیترون، استاد دانشکده حقوق دانشگاه ویرجینیا که این موضوع را بررسی کرده است، گفت: «نقض حریم خصوصی، از جمله ویدیوهای جنسی عمیقا جعلی و سایر تصاویر صمیمی ترکیب شده بدون رضایت، گسترده و عمیقاً مضر است. ما اکنون پشتوانه تجربی واضحی داریم که نشان می‌دهد چنین سوءاستفاده‌هایی ارزش هدف قرار دادن توانایی‌های حیاتی افراد از جمله کار کردن، صحبت کردن و ایمن بودن را دارد.»
Citron پذیرش بالقوه OpenAI از محتوای هوش مصنوعی باز را “هشدار کننده” می نامد.
از آنجایی که خط‌مشی‌های استفاده OpenAI ارسال بدون اجازه را ممنوع می‌کند، تصاویر صریح بدون رضایت ممنوع باقی می‌مانند حتی اگر شرکت به سازندگان اجازه تولید مطالب NSFW را بدهد. اما باید دید که آیا این شرکت می‌تواند به طور موثر تولید صریح را تعدیل کند تا از استفاده بازیگران بد از ابزارها جلوگیری کند. مایکروسافت پس از گزارش 404 Media مبنی بر استفاده از آن برای ایجاد تصاویر صریح از تیلور سویفت که در پلتفرم اجتماعی X به اشتراک گذاشته شده بود، تغییراتی را در یکی از ابزارهای تولید هوش مصنوعی خود اعمال کرد.
گزارش اضافی توسط ریس راجرز