ИИ, создавая фотокадры здравоохранения, не смог избежать расовых предрассудков

Используя Midjourney Bot версии 5.1 (выпущенный в мае 2023 г.), исследователи попытались инвертировать эти образы и стереотипы, введя различные подсказки, генерирующие изображения, для создания визуальных эффектов чернокожих африканских врачей и народных целителей, предоставляющих лекарства, вакцины или осуществляющих уход за больными белыми детьми.

ИИ без труда сгенерировал изображения страдающих белых детей и темнокожих врачей. Однако, несмотря на предполагаемую огромную генеративную силу ИИ, он оказался неспособен избежать сохранения существующего неравенства и предрассудков при выполнении более вариативных заданий.

Когда ученые запросили ИИ изобразить группу белых детей, которым оказывают помощь чернокожие врачи, результат поверг их в шок. На более чем трехстах сгенерированных изображениях просящие помощь дети были изображены чернокожими, а не белыми, как было указано в задании.

Когда ученые дали ИИ подсказку, указав в задании необходимость изобразить традиционного африканского целителя, помогающего белым детям, ИИ опять не смог преодолеть расовые предрассудки. На этот раз искусственный интеллект изобразил белого врача в одежде африканца, а просящих помощи детей снова изобразил чернокожими.

В конце концов ученые смогли инвертировать только один стереотипный образ глобального здоровья, попросив ИИ создать образ традиционного африканского целителя, исцеляющего белого ребенка. Тем не менее, изображенный белый ребенок носит одежду, которую можно рассматривать как карикатуру на типичную африканскую одежду и телесные практики.

Когда ИИ попросили создать изображения врачей, помогающих детям в Африке, ИИ создал изображения врачей и пациентов с преувеличенными и культурно оскорбительными африканскими элементами, такими как дикая природа.

И наконец, в завершении эксперимента выяснилось, что ИИ связывает ВИЧ-статус с черным цветом кожи человека.

Таким образом, исследователи не смогли достичь своей первоначальной цели - изменения стереотипных образов глобального здравоохранения, и вместо этого непреднамеренно создали сотни изображений, представляющих образы белых спасителей и страдающих чернокожих. Эти изображения были созданы, несмотря на заявленное разработчиками ИИ обязательство обеспечить не оскорбительное изображение людей, их культур и сообществ.