Исследователи озабочены возможным крахом генеративных ИИ-моделей

Чат-боты на основе моделей, таких как ChatGPT, обучены на огромном объеме данных, и многие ведущие компании уже применяют такой генеративный ИИ в своей деятельности. Проблема заключается в том, что на пути к обучению ИИ на сгенерированных данных машиной возможен коллапс обученных моделей, ведущий к неадекватному содержанию и большему количеству ошибок.

Коллапс модели возникает, когда ИИ получает все больше данных, созданных самим ИИ. Постепенно модель становится все менее эффективной, и ее реакции теряют вариативность. По мнению исследователей, для предотвращения коллапса моделей необходимо удостовериться в правильном распределении меньшинственных групп в обучающих данных, чтобы сохранить их отличительные черты.

Однако это сложная задача, поскольку модели сложно обучаться на редких событиях. Авторы также рекомендуют, чтобы ИИ-компании разделяли задачу прогнозирования человеческого участия в создании данных в своих приложениях. Правила в области защиты данных для ИИ могут разрушить экономические преимущества компаний, что делает их уязвимыми для судебных исков.