Дипфейки: Как мошенники подделывают голоса с помощью искусственного интеллекта

В течение последних лет ИИ стремительно развивается, и это не всегда имеет положительные результаты. Люди с помощью ИИ начали подделывать новости, фотографии и видео со знаменитостями, а также другими способами обманывать пользователей.

Технология создания поддельных голосов приобретает все большую популярность. Для создания реалистично копии чьего-то голоса нужны данные для обучения алгоритмов ИИ. Для этого подойдет несколько аудиозаписей речи человека, и чем их будет больше, тем лучше ИИ его скопирует.

Многие люди активно ведут соцсети, куда выкладывают видео с озвучкой от первого лица. Когда копия голоса попадает в открытый доступ, мошенники с помощью ИИ легко обучат модель имитировать его. На практике это довольно просто - любой человек может сделать это.

1. Распространение дезинформации

2. Мошеннические звонки с целью вымогательства денег

3. Взлом личных систем пользователя, голос которого используется

На данный момент уже разработано несколько видов ПО, которые помогают выявить поддельные голоса. Они создают визуальное представление звука, которое называется спектрограмма. В процессе прослушивания звонка настоящий и поддельный голос можно отличить как раз при помощи параллельного анализа спектрограмм.

Но система генерирования спектрограммы довольно сложна, поэтому есть другие пути защиты от обмана. Необходимо проверять информацию и быть настороже во время подозрительного звонка.

В случае неожиданного звонка от близких с людей с просьбой одолжения средств или других странных вопросов необходимо перезвонить ему или отправить текстовое сообщение. Таким образом можно узнать, действительно ли он звонил.

Возможности ИИ растут, из-за чего границы между реальностью и вымыслом стираются. "Откатить" такие технологии уже невозможно, поэтому необходимо знакомиться с ними ближе и соблюдать осторожность.