Исследователи из Национальной службы NIBIB по развитию данных и технологий сообщили о способности искусственного интеллекта определять расу человека по рентгеновским снимкам, сообщает MedicalXpress.

Это говорит о том, что информация о расе может быть включена в модели анализа изображений. Такая ситуация может внести непреднамеренно субъективные искажения в результаты на основе предубеждений, которые уже заложены в алгоритмы.

«Искусственный интеллект обладает огромным потенциалом для революции в диагностике, лечении и мониторинге многочисленных заболеваний и состояний и может кардинально изменить наш подход к здравоохранению. Однако, чтобы искусственный интеллект действительно приносил пользу всем пациентам, нам нужно лучше понимать, как эти алгоритмы принимают решения, чтобы предотвратить непреднамеренные предубеждения», — объяснила автор исследования Джуди Гичоя.

Гичоя и её коллеги решили разработать модель искусственного интеллекта, которая могла бы определять расовую принадлежность человека по рентгеновскому снимку. Для анализа были собраны данные пациентов разных рас. В результате разработанная исследователями модель практически с абсолютной точностью смогла определить расу человека по снимку его грудной клетки, что не под силу ни одному рентгенологу. При этом искусственный интеллект смог показать высокие результаты даже в случае повреждения снимков.

Фото: MedicalXpress

Исследовательская группа впоследствии использовала другие наборы данных рентгенографии, не относящиеся к грудной клетке, включая маммограммы, рентгенограммы шейного отдела позвоночника и компьютерную томографию грудной клетки — искусственный интеллект справился и с этой задачей, успешно определив расовую принадлежность владельцев снимков.

Однако для учёных остаётся нераскрытым вопрос, как искусственному интеллекту удаётся предсказывать расу человека по рентгеновскому изображению.