Компания OpenAI, создавшая популярный чат-бот ChatGPT, выпустила инструмент для выявления текстов, сгенерированных нейросетью.
Классификатор на основе искусственного интеллекта обучается на подборках пар текстов авторства человека и нейросети, сообщается на сайте разработчика. Технология предназначена для выявления фейковых материалов в интернете, а также списанных учебных и научных работ.
Точность проверки пока невысокая – при тестировании тексты от нейросети определялись классификатором с точностью 26%, а в 9% случаев он признавал сгенерированным ИИ написанное человеком. Надёжность технологии будет расти по мере увеличения объёма проверяемого материала.
Необходимость проверки текстов на «человечность» стала актуальной после всплеска популярности ChatGPT. Высокое качество текстов нейросети позволило сотням школьников и студентов выполнить экзаменационные задания, а некоторым абитуриентам даже поступить в вузы США.
Ранее издание Involta media рассказало, что интернет-тролли стали массово использовать систему синтеза голоса ElevenLabs для озвучивания оскорблений голосами знаменитостей.
Автор: Елизавета Третьякова