Учёные из ВШЭ создали нейросеть для автоматического определения токсичных комментариев

Учёные Высшей школы экономики обучили алгоритм, способный автоматически выявлять токсичные комментарии к постам. Об этом говорят результаты исследования, опубликованные в сборнике научных трудов IEEE International Conference on Business Informatics.

Авторы научной разработки на суперкомпьютере НИУ ВШЭ по технологии машинного обучения создали нейронную сеть и проанализировали почти 20 миллионов комментариев в социальной сети «Пикабу».

«Для классификации токсичных комментариев мы вручную разметили набор данных через Yandex.Toloka и провели эксперименты по обучению классификаторов на основе языковых моделей RuBERT и ToxicRuBERT. В наших исследованиях по классификации токсичности и настроений в русскоязычных текстах эти модели демонстрировали более высокое качество классификации, чем другие», — говорит соавтор исследования Сергей Сметанин.

Авторы алгоритма планируют изучить особенностей миграции токсичного контента по социальным сетям.

Ранее involta.media сообщал, что для развития искусственного интеллекта требуется доверие.

0 комментариев