USD
95.03
+0.52
EUR
104.87
+0.42
Категория: AI и робототехникаAI и робототехника
15 июля 2023 г. в 22:27

Дипфейки: Как мошенники подделывают голоса с помощью искусственного интеллекта

Дипфейки: Как мошенники подделывают голоса с помощью искусственного интеллекта
ok.ru
Мошенники начали использовать новые способы обмана. Теперь они могут имитировать голоса знакомых людей, которым звонят. Для этого используется генеративный искусственный интеллект.
В течение последних лет ИИ стремительно развивается, и это не всегда имеет положительные результаты. Люди с помощью ИИ начали подделывать новости, фотографии и видео со знаменитостями, а также другими способами обманывать пользователей.
Как создается поддельный голос
Технология создания поддельных голосов приобретает все большую популярность. Для создания реалистично копии чьего-то голоса нужны данные для обучения алгоритмов ИИ. Для этого подойдет несколько аудиозаписей речи человека, и чем их будет больше, тем лучше ИИ его скопирует.
Многие люди активно ведут соцсети, куда выкладывают видео с озвучкой от первого лица. Когда копия голоса попадает в открытый доступ, мошенники с помощью ИИ легко обучат модель имитировать его. На практике это довольно просто - любой человек может сделать это.
Основные проблемы использования голосовых дипфейков
1. Распространение дезинформации
2. Мошеннические звонки с целью вымогательства денег
3. Взлом личных систем пользователя, голос которого используется
Как защитить себя от "воровства" голоса
На данный момент уже разработано несколько видов ПО, которые помогают выявить поддельные голоса. Они создают визуальное представление звука, которое называется спектрограмма. В процессе прослушивания звонка настоящий и поддельный голос можно отличить как раз при помощи параллельного анализа спектрограмм.
Но система генерирования спектрограммы довольно сложна, поэтому есть другие пути защиты от обмана. Необходимо проверять информацию и быть настороже во время подозрительного звонка.
В случае неожиданного звонка от близких с людей с просьбой одолжения средств или других странных вопросов необходимо перезвонить ему или отправить текстовое сообщение. Таким образом можно узнать, действительно ли он звонил.
Возможности ИИ растут, из-за чего границы между реальностью и вымыслом стираются. "Откатить" такие технологии уже невозможно, поэтому необходимо знакомиться с ними ближе и соблюдать осторожность.
0 комментариев