В России ученые разработают технологии безопасного использования ИИ на критической инфраструктуре

Чтобы решить эту проблему, был создан Исследовательский центр доверенного искусственного интеллекта, т.к. без доверенной технологии применение ИИ будет ограниченным в критических областях, не только в России, но и во всём мире.

ИИ решает проблемы по аналогии, обрабатывая массивы данных, обучается, находя закономерности из этих данных, а затем обрабатывает новые данные. Малейшее изменение входных данных может привести к неправильным выводам системы.

К примеру, беспилотный автомобиль фиксирует дорожный знак и реагирует своими действиями, но если знак случайно загрязнен, то ИИ решит, что этой другой знак, при этом человек среагирует верно. В связи с этим беспилотник может совершить аварию.

Исследовательский центр доверенного искусственного интеллекта работает с 2021 года на базе ИСП РАН. Ученые из центра создали доверенную версию популярных фреймворков машинного обучения TensorFlow и PyTorch. В центре ведется разработка технологии доверенного ИИ.