Мошенники стали использовать дипфейки в двадцать раз чаще за три года

Некоторые из них используются для нудификации — создания изображений без одежды, другие — для обмана или нанесения вреда репутации политиков и публичных фигур.

Создание таких материалов стало доступным благодаря достижениям ИИ, что значительно увеличило число мошеннических случаев. За последние три года попытки обмана с дипфейками выросли более чем в 20 раз, сообщает Signicat.

Для борьбы с этим явлением принимаются меры. В США подписан закон, запрещающий дипфейковое порно без согласия, а соцсети обязаны удалять подобный контент. Федеральная комиссия по связи запретила использование ИИ-голосов в автоматических звонках после случая с подделкой голоса Джо Байдена. ЕС и Китай ввели требования маркировки дипфейков, а в Великобритании призвали запретить приложения для нудификации.

Дипфейки создаются с помощью алгоритмов глубокого обучения, которые заменяют лица и синтезируют голос, что делает фальсификации практически неотличимыми от настоящих видео. Технология развивается, и распознавать подделки становится всё сложнее. Это вызывает опасения о масштабах вреда — от манипуляций на выборах до распространения ложных новостей и порнографии.