GPT‑5 и другие модели могут создавать правдоподобные, но ложные утверждения

Учёные OpenAI в новой статье обсудили проблему галлюцинаций у больших языковых моделей, таких как GPT‑5.

Они определяют галлюцинации как правдоподобные, но ложные утверждения и признают, что полностью устранить их невозможно. Ошибки возникают из-за предобучения на тексте без меток истинности: модели учатся предсказывать следующее слово, но низкочастотные факты вроде дня рождения не поддаются закономерностям.

Исследователи предлагают изменить систему оценки моделей: вместо поощрения угадываний штрафовать за уверенные ошибки и частично учитывать проявление неуверенности.

Ранее издание involta.media опубликовало статью о том, что Amazon Music запустил еженедельные персонализированные плейлисты.

0 комментариев