Исследование показало, что люди редко замечают расовую предвзятость в ИИ

Модели, обученные на несбалансированных наборах, например с преобладанием счастливых белых лиц и грустных чёрных, начинают ассоциировать эмоции с расой. Испытуемые редко замечали искажения, кроме как представители негативно изображённых групп.

Результаты подчёркивают, что алгоритмическая предвзятость часто остаётся незаметной, и демонстрируют необходимость повышения ИИ-грамотности, прозрачности данных и разработки инструментов для выявления скрытых предубеждений. Люди склонны судить о системе по её результатам, игнорируя дисбаланс обучающих данных.