Компания OpenAI, создавшая популярный чат-бот ChatGPT, выпустила инструмент для выявления текстов, сгенерированных нейросетью.

Классификатор на основе искусственного интеллекта обучается на подборках пар текстов авторства человека и нейросети, сообщается на сайте разработчика. Технология предназначена для выявления фейковых материалов в интернете, а также списанных учебных и научных работ.

Точность проверки пока невысокая – при тестировании тексты от нейросети определялись классификатором с точностью 26%, а в 9% случаев он признавал сгенерированным ИИ написанное человеком. Надёжность технологии будет расти по мере увеличения объёма проверяемого материала.

Авторы ChatGPT создали инструмент для определения текстов, сгенерированных нейросетью
Фото: openai.com

Необходимость проверки текстов на «человечность» стала актуальной после всплеска популярности ChatGPT. Высокое качество текстов нейросети позволило сотням школьников и студентов выполнить экзаменационные задания, а некоторым абитуриентам даже поступить в вузы США.

Ранее издание Involta media рассказало, что интернет-тролли стали массово использовать систему синтеза голоса ElevenLabs для озвучивания оскорблений голосами знаменитостей.