Исследователи ИИ предупредили о грядущем коллапсе моделей генерации контента

С дальнейшим развитием технологий искусственного интеллекта появляется всё больше контента, созданного самообучающимися системами.

Однако исследование учёных из Великобритании и Канады показало, что использование в обучении языковой модели материалов, сгенерированных нейросетью, приводит к возникновению необратимых дефектов в будущих поколениях системы, сообщает «Хайтек+» со ссылкой на публикацию на сайте препринтов arXiv.

«Мы собираемся наполнить интернет чушью, – сообщили исследователи. – Это затруднит обучение новых моделей путём прочесывания интернета».

Проблема связана с коллапсом генеративных моделей – процессом вырождения, при котором со временем ИИ забывает оригинальное распределение и всё менее адекватно воспринимает реальность. Авторы работы предложили ряд решений, включая создание механизма массовой маркировки и дифференциации материала.

Ранее издание Involta media рассказало, что многие компании начали запрещать использование нейросети ChatGPT, создающей тексты, похожие на написанные человеком.

0 комментариев