10 آوریل بود یک روز بسیار بد در زندگی گیمر معروف و یوتیوبر آتریوک (براندون یوینگ). یوینگ در حال پخش یکی از استریم های زنده معمولی خود در توییچ بود که پنجره مرورگر او به طور تصادفی در معرض دید عموم قرار گرفت. در آن چند لحظه، بینندگان ناگهان با ویدئوهای پورنوی عمیق جعلی مواجه شدند که یوتیوبرها و گیمرهای زن QTCinderella و Pokimane-همکارها و، می‌دانم، اوینگ را نشان می‌دادند. دوستان. لحظاتی بعد، یک بیننده زیرک اسکرین شات از صحنه را در Reddit آپلود کرد و بنابراین این رسوایی به واقعیت تبدیل شد.

دیپ فیک به طور گسترده به رسانه‌هایی اطلاق می‌شود که توسط هوش مصنوعی اصلاح شده‌اند، معمولاً برای قرار دادن چهره یک فرد بر چهره، مثلاً، یک بازیگر در یک فیلم یا ویدیو. اما متأسفانه، همانطور که معاون روزنامه‌نگار سامانتا کول گزارش می‌دهد، کار اصلی آن ایجاد پورن با حضور افراد مشهور زن و شاید نگران‌کننده‌تر، تجسم تخیلات جنسی دوستان یا آشنایان بوده است. با توجه به پیچیدگی و دسترسی روزافزون آن، هر کسی که عکسی از چهره شما داشته باشد می تواند آن را به پورن تبدیل کند. همانطور که کول به اختصار می گوید: «همه ما به هم ریخته ایم».

من معتقدم برای اکثر مردم واضح است که یوینگ با استفاده از پورنوگرافی ساختگی اما غیرقانونی دوستانش مرتکب نوعی رفتار نادرست شده است. در واقع، نظرات در Reddit و واکنش‌های شدید (موجه) زنانی که از چهره‌شان در ویدیوها استفاده شده بود، گواه بر حس عمیق انزجار است. این قابل درک است، اما تعیین دقیق محل جنایت یک تلاش شگفت آور دشوار است. در واقع، انجام این کار یک مشکل فلسفی را به منصه ظهور می‌رساند که ما را مجبور می‌کند نه فقط پورن، بلکه در ماهیت تخیل انسان تجدید نظر کنیم. من آن را معضل منحرف می نامم.

از یک طرف، می توان ادعا کرد که یوینگ با مصرف مواد، تولید و توزیع آن را تشویق کرد، که در نهایت می تواند به شهرت و رفاه گیمرهای زن همکارش آسیب برساند. اما بعید می‌دانم که اگر او ویدیوها را برای لذت شخصی ایجاد می‌کرد، این جمله در انظار عمومی بسیار سبک‌تر بود. و تعداد کمی از مردم شکست او در بستن برگه را به عنوان یک مشکل بزرگ می بینند. به نظر می رسد جرم در مصرف خود جعلی های عمیق نهفته است، نه در اثرات پایین دستی آن. مصرف دیپ فیک اشتباه است، اعم از اینکه افراد «شرکت کننده» در ویدیوها یا هر کس دیگری متوجه آن شود.

در عین حال، ما به همان اندازه مطمئن هستیم که تخیلات جنسی از نظر اخلاقی خنثی هستند. در واقع، هیچ کس (به جز شاید برخی از کاتولیک های سرسخت) اوینگ را به ایجاد تصاویر مستهجن از QTCenderella در ذهن خود متهم نمی کند. اما دقیقاً چه تفاوتی وجود دارد؟ هر دو فانتزی و دیپ‌فیک اساساً تصاویر مجازی هستند که از ورودی داده‌های قبلی ایجاد شده‌اند، تنها یکی در سر شخص و دیگری روی صفحه نمایش وجود دارد. درست است که سهیم شدن دومی آسانتر است، اما اگر جرم مصرف شخصی باشد نه عوامل خارجی، باید بی ربط باشد. معضل منحرف از این روست: ما فکر می‌کنیم که خیال‌پردازی‌های جنسی خوب هستند، در حالی که در سر فرد ایجاد می‌شوند و در ذهن فرد وجود دارند، و از لحظه‌ای که در مغز با استفاده از یک بازنمایی تا حدی واقع‌گرایانه وجود دارند، نفرت دارند – اما ما در تلاش هستیم تا یک تمایز اخلاقی مرتبط را شناسایی کنیم. این ارزیابی را توجیه می کند.

در درازمدت، این احتمالاً ما را وادار می‌کند که نگرش‌های اخلاقی خود را نسبت به دروغ‌پردازی‌های عمیق و تخیلات جنسی، حداقل تا آنجایی که می‌خواهیم ثبات اخلاقی خود را حفظ کنیم، مجدداً ارزیابی کنیم. دو روش واضح وجود دارد که از طریق آن می توان این کار را انجام داد.