Языковая модель стала игнорировать указания разработчицы из-за пола

Она использует Pro для работы с квантовыми алгоритмами и документацией на GitHub. Сначала всё работало нормально, но затем модель стала игнорировать её указания и повторно запрашивать одни и те же данные.

Куки предположила, что причина может быть в её поле, и сменила аватарку на изображение белого мужчины. В переписке с Perplexity ИИ фактически сомневался в её компетентности из-за гендера, ссылаясь на сложность алгоритмов. Компания опровергла подобные утверждения, отметив, что данные могли быть изменены.

Исследователи объясняют это «эмоциональным стрессом» модели и скрытой предвзятостью: языковые модели часто отражают стереотипы из обучающих данных. Пол, раса и стиль речи пользователя могут влиять на ответы, даже если человек не раскрывал личные данные.

Примеры встречались и с другими пользователями. Профессии женщин заменялись «женскими» вариантами, тексты получали эмоциональную окраску. Специалисты подчеркивают, что LLM — лишь инструмент прогнозирования текста, отражающий структурные предубеждения общества, а не осознанные установки.