داده‌های جدید منتشر شده توسط شرکت تشخیص سرقت ادبی Turnitin نشان می‌دهد که دانش‌آموزان بیش از 22 میلیون مقاله ارسال کردند که ممکن است در سال گذشته از هوش مصنوعی مولد استفاده کرده باشند.
یک سال پیش، Turnitin یک ابزار تشخیص نوشتن هوش مصنوعی منتشر کرد که بر روی مجموعه مقالات نوشته شده توسط دانش آموزان و همچنین سایر متون تولید شده توسط هوش مصنوعی آموزش داده شده بود. از آن زمان تاکنون، بیش از 200 میلیون مقاله توسط آشکارساز بررسی شده است که بیشتر توسط دانش آموزان دبیرستانی و کالج نوشته شده است. Turnitin دریافت که 11 درصد ممکن است حاوی زبان نوشتاری با هوش مصنوعی در 20 درصد محتوای خود باشند، و 3 درصد از تمام اسناد بررسی شده دارای 80 درصد یا بیشتر نوشتار هوش مصنوعی هستند. (Turnitin متعلق به Advance است، که همچنین مالک Condé Nast، ناشر WIRED است.) Turnitin می گوید که آشکارساز آن هنگام تجزیه و تحلیل اسناد کامل، نرخ مثبت کاذب کمتر از 1 درصد دارد.
راه اندازی ChatGPT با ترس های باورنکردنی مواجه شد که مقاله در کلاس انگلیسی از بین برود. یک چت بات می تواند اطلاعات را ترکیب کند و تقریباً فوراً آن را تقطیر کند، اما این بدان معنا نیست که همیشه همه چیز را درست می کند. هوش مصنوعی مولد به داشتن توهم، ایجاد حقایق خاص خود و استناد به منابع آکادمیک که در واقع وجود ندارند، معروف است. چت ربات‌های مولد هوش مصنوعی نیز در حال انتشار متن‌های مغرضانه درباره جنسیت و نژاد دستگیر شده‌اند. علیرغم این اشکالات، دانش آموزان از چت بات ها برای تحقیق، سازماندهی ایده ها و به عنوان یک نویسنده ارواح استفاده کرده اند. ردپایی از چت بات ها حتی در مقالات دانشگاهی منتشر شده با بازبینی همتایان یافت شده است.
قابل درک است که معلمان می خواهند دانش آموزان را به خاطر استفاده از هوش مصنوعی بدون اجازه یا افشای مسئول بدانند. اما این نیاز به یک روش قابل اعتماد برای اثبات اینکه هوش مصنوعی در یک کار مشخص استفاده شده است. مربیان گاهی اوقات سعی کرده اند راه حل های خود را برای تشخیص هوش مصنوعی به صورت نوشتاری بیابند و از روش های نامرتب و آزمایش نشده برای اجرای قوانین و عصبی کردن دانش آموزان استفاده می کنند. با پیچیده تر کردن این موضوع، برخی از معلمان حتی از هوش مصنوعی مولد در فرآیندهای درجه بندی خود استفاده می کنند.
کشف استفاده از Gen AI دشوار است. به آسانی پرچم گذاری سرقت ادبی نیست زیرا متن تولید شده همچنان متن اصلی است. علاوه بر این، تفاوت های ظریفی در نحوه استفاده دانش آموزان از Gen AI وجود دارد. برخی ممکن است از ربات‌های گفتگو بخواهند که اسناد خود را به صورت تکه‌های بزرگ یا کامل بنویسند، در حالی که برخی دیگر ممکن است از ابزارها به عنوان کمک یا شریک طوفان فکری استفاده کنند.
دانش آموزان همچنین نه تنها توسط ChatGPT و مدل های زبان بزرگ مشابه وسوسه می شوند. به اصطلاح word spinner نوع دیگری از نرم‌افزارهای هوش مصنوعی است که متن را بازنویسی می‌کند و می‌تواند برای معلم کمتر آشکار شود که کار سرقت ادبی یا تولید شده توسط هوش مصنوعی است. Anni Ceccitelli، مدیر ارشد محصول شرکت می گوید، آشکارساز هوش مصنوعی Turnitin نیز برای شناسایی کلمات چرخشی به روز شده است. همچنین می‌تواند کارهایی را که توسط سرویس‌هایی مانند spell checker Grammarly بازنویسی شده‌اند، پرچم‌گذاری کند، که اکنون مولد هوش مصنوعی خود را دارد. از آنجایی که نرم افزار آشنا به طور فزاینده ای اجزای هوش مصنوعی مولد را اضافه می کند، آنچه دانش آموزان می توانند و نمی توانند استفاده کنند به طور فزاینده ای گیج کننده می شود.
ابزارهای کشف خود خطر سوگیری دارند. زبان آموزان انگلیسی ممکن است بیشتر آنها را ناراحت کنند. یک مطالعه در سال 2023، 61.3 درصد مثبت کاذب را هنگام نمره دادن به امتحانات آزمون انگلیسی به عنوان زبان خارجی (TOEFL) با هفت آشکارساز هوش مصنوعی مختلف نشان داد. این مطالعه نسخه Turnitin را بررسی نکرد. این شرکت می گوید آشکارساز خود را برای تایپ از زبان آموزان انگلیسی و همچنین انگلیسی زبانان بومی آموزش داده است. مطالعه‌ای که در ماه اکتبر منتشر شد نشان داد Turnitin در میان ۱۶ آشکارساز زبان هوش مصنوعی در آزمایشی که در آن این ابزار اوراق دانش‌آموز و اسناد تولید شده توسط هوش مصنوعی را بررسی می‌کرد، دقیق‌ترین است.