Science: нейросети могут распространять негативные стереотипы о маргинальных личностях

Как для людей, так и для ИИ, Интернет является площадкой для сбора информации, на основании которой впоследствии генерируется новый контент. В результате ложные данные могут неоднократно повторяться, что в итоге приводит к тому, что эти данные воспринимаются пользователями как правдивая информация.

Исследования показали, что особенно сильно созданная информация затрагивает маргинализированные группы - женщин, детей, беженцев, людей с ограниченными возможностями, темнокожих и пр.

Ученые отмечают, что человек, воспроизводя какую-либо информацию, в которой он не уверен, подчеркивает свои сомнения разными фразами, например, "я так считаю", "может быть" и т.д. А вот генеративные модели, в отличие от людей, дают уверенные, беглые ответы. В результате, говорят ученые, это может привести к искажению того, как понимает данную ИИ информацию человек. В конце концов, опасаются ученые, человек будет считать эту информацию достоверной, даже если она таковой не является.