تشخیص زمان تولید متن توسط ابزارهایی مانند ChatGPT کار دشواری است. ابزارهای محبوب تشخیص هوش مصنوعی مانند GPTZero می‌توانند راهنمایی‌هایی را برای کاربران ارائه دهند و به آنها بگوییم که چه زمانی چیزی توسط یک ربات نوشته شده است نه یک انسان، اما حتی نرم‌افزارهای تخصصی نیز بی‌خطا نیستند و می‌توانند موارد مثبت کاذب را بیرون بیاورند.
به‌عنوان روزنامه‌نگاری که بیش از یک سال پیش شروع به پوشش خبری کشف هوش مصنوعی کردم، می‌خواستم برخی از بهترین مقاله‌های WIRED را در این زمینه گردآوری کنم تا به خوانندگانی مانند شما کمک کنم تا این موضوع پیچیده را بهتر درک کنند.
سوالات بیشتری در مورد کشف نتایج ChatGPT و سایر ابزارهای chatbot دارید؟ برای خبرنامه AI Unlocked من ثبت نام کنید و مستقیماً در مورد هر چیزی که در رابطه با هوش مصنوعی می خواهید پاسخ داده شود یا می خواهید WIRED برای کاوش بیشتر با من تماس بگیرید.
فوریه 2023 توسط ریس راجرز
در این مقاله، که حدود دو ماه پس از راه‌اندازی ChatGPT نوشته شد، شروع کردم به دست‌وپنجه نرم کردن با پیچیدگی‌های کشف متن هوش مصنوعی، و همچنین اینکه انقلاب هوش مصنوعی برای نویسندگانی که به صورت آنلاین منتشر می‌کنند چه معنایی دارد. ادوارد تیان، بنیانگذار GPTZero، در مورد اینکه چگونه آشکارساز هوش مصنوعی او بر عواملی مانند تنوع متن و تصادفی بودن تمرکز می کند، با من صحبت کرد.
همانطور که می‌خوانید، روی بخش مربوط به واترمارک‌های متنی تمرکز کنید: «یک واترمارک ممکن است بتواند الگوهای کلمات خاصی را به‌عنوان محدودیت‌های تولیدکننده متن AI علامت‌گذاری کند، در حالی که این ایده امیدوارکننده بود، محققانی که با آنها صحبت کردم قبلاً در مورد کارایی بالقوه آن تردید داشتند.
سپتامبر 2023 توسط کریستوفر بیم
این مقاله یک قطعه خارق‌العاده از شماره اکتبر سال گذشته WIRED است. تمرکز بر چگونگی تأثیر هوش مصنوعی بر کار مدرسه بسیار مهم است.
کشف متن هوش مصنوعی برای بسیاری از معلمان کلاس درس مهم است زیرا آنها مقالات را نمره می دهند و به طور بالقوه تکالیف انشا را به طور کلی کنار می گذارند زیرا دانش آموزان مخفیانه از چت بات ها برای انجام تکالیف استفاده می کنند. در حالی که برخی از دانش آموزان ممکن است از هوش مصنوعی مولد به عنوان ابزار طوفان فکری استفاده کنند، برخی دیگر از آن برای اختراع کل تکالیف استفاده می کنند.
سپتامبر 2023 توسط کیت کنیبز
آیا شرکت ها مسئولیت دارند که محصولاتی را که ممکن است توسط هوش مصنوعی تولید شده اند برچسب بزنند؟ کیت کنیبز بررسی کرد که چگونه کتاب‌های تولید شده توسط هوش مصنوعی که به طور بالقوه حق نسخه‌برداری را نقض می‌کنند، برای فروش در آمازون فهرست شده‌اند، علی‌رغم اینکه برخی استارت‌آپ‌ها معتقد بودند که این محصولات با نرم‌افزار ویژه قابل مشاهده و حذف هستند. یکی از بحث‌های اصلی در مورد تشخیص هوش مصنوعی به این بستگی دارد که آیا پتانسیل موارد مثبت کاذب – متن نوشته شده توسط انسان که به طور تصادفی به عنوان کار هوش مصنوعی پرچم‌گذاری می‌شود – بر مزایای برچسب‌گذاری محتوای تولید شده به‌صورت الگوریتمی بیشتر است.
آگوست 2023 توسط آماندا هوور
فراتر از تکالیف، متن های تولید شده توسط هوش مصنوعی بیشتر در مجلات دانشگاهی ظاهر می شوند، جایی که اغلب بدون افشای مناسب ممنوع می شوند. آماندا هوور می نویسد: «مقالات تالیف شده توسط هوش مصنوعی نیز می تواند با رقیق کردن مجموعه ادبیات علمی، توجه را از کار خوب منحرف کند. یکی از استراتژی‌های بالقوه برای رفع این مشکل این است که توسعه‌دهندگان ابزارهای کشف تخصصی ایجاد کنند که محتوای هوش مصنوعی را در اسناد بررسی شده جستجو کنند.
اکتبر 2023 توسط کیت کنیبز
وقتی برای اولین بار در فوریه گذشته با محققان در مورد واترمارکینگ برای تشخیص متن با هوش مصنوعی صحبت کردم، آنها امیدوار بودند اما در مورد پتانسیل چاپ متن هوش مصنوعی با الگوهای زبانی خاص که برای خوانندگان انسانی غیرقابل شناسایی هستند اما برای نرم افزارهای تشخیص واضح هستند، محتاط بودند. با نگاهی به گذشته، ترس آنها نابجا به نظر می رسد.
فقط نیم سال بعد، کیت نایبز با منابع متعددی صحبت کرد که واترمارک های هوش مصنوعی را تجزیه می کردند و ضعف اساسی خود را به عنوان یک استراتژی تشخیص نشان می دادند. اگرچه تضمینی برای شکست وجود ندارد، اما انجام واترمارکینگ متن هوش مصنوعی دشوار است.
آوریل 2024 توسط آماندا هوور
یکی از ابزارهایی که معلمان سعی دارند از آن برای شناسایی کارهای تولید شده توسط هوش مصنوعی در کلاس استفاده کنند، Turnitin است، یک نرم افزار تشخیص سرقت ادبی که قابلیت های تشخیص هوش مصنوعی را اضافه می کند. (Turnitin متعلق به Advance، شرکت مادر Condé Nast است که WIRED را منتشر می کند.) آماندا هوور می نویسد: «خوانندگان می گویند که اکثر مشتریان این سرویس خرید کشف هوش مصنوعی را انتخاب کرده اند. اما خطرات مثبت کاذب و سوگیری علیه زبان آموزان انگلیسی باعث شده است که برخی از دانشگاه ها فعلا این ابزار را کنار بگذارند.
آشکارسازهای هوش مصنوعی بیشتر احتمال دارد محتوای نوشتاری نادرست را از شخصی که زبان اصلی او انگلیسی نیست به عنوان یک هوش مصنوعی پرچم‌گذاری کنند تا از کسی که زبان مادری او است. همانطور که توسعه دهندگان به کار بر روی بهبود الگوریتم های تشخیص هوش مصنوعی ادامه می دهند، مشکل نتایج اشتباه همچنان یک مانع بزرگ برای غلبه بر آن است.