Създателят на ChatGPT предложи начин да се разпознава текст на изкуствен интелект

Изследователите от OpenAI предложиха на потребителите инструмент, който да открива дали даден текст е написан от изкуствен интелект.

Изследователската лаборатория с основен инвеститор "Майкрософт" съобщи в блога си, че е обучила класификатор, който да различава написаното от човек от продукт на изкуствен интелект, при това с "автор" и други системи, не само най-известния в последните два месеца бот ChatGPT.

Публикацията същевременно върви с предупреждение: класификаторът не е "напълно надежден". "Правим го публично достъпен, за да получим обратна връзка за това дали несъвършените инструменти като този са полезни."

В помощ на образованието

ChatGPT притесни компании, образователни институции и други по света със способностите си да създава съдържание по зададена тема, формат и стил. В училища - и дори в някои университети - домашни и курсови работи на определено ниво се оказаха неразличими за част от преподавателите от тези, изготвени от ученици и студенти хомо сапиенс. През декември "Ню Йорк таймс" предложи на експерти да познаят авторството на три ученически съчинения; нито един не успя да посочи правилния отговор и за трите.

Някои британски и американски университети се върнаха към изпитите на хартия, а преподавател в австралийски каза, че един на всеки пет от оценяваните от нея е използвал ChatGPT. Други търсят начини за интегрирането му в обучението.

"Невъзможно (е) надеждно да се открие целия текст, написан от AI", но все пак добрите класификатори могат да уловят знаци, че текст е написан от изкуствен интелект. Така инструментът може да е от полза например при споменатите случаи в образованието.

Ограничения

Засега успехът на този класификатор е силно ограничен, тъй като той разпознава правилно едва 26% от англоезичните текстове, написани с изкуствен интелект, а в 9% от случаите окачествява като написани с изкуствен интелект изготвените от хора. Все пак надеждността може да се увеличи: нараства, колкото по-дълъг е текстът: той трябва да е над 1000 знака.

Друг проблем е представянето на езици, различни от английския (с данни от който най-много е захранван алгоритъмът на ChatGPT, но и на класификатора). Съветът е той да се ползва не като основен, а като допълващ метод за установяване дали даден текст е написан от човек.