Нейросеть ElevenLabs используют на 4chan для оскорблений голосами знаменитостей

Пользователи имиджборда 4chan стали массово использовать систему синтеза голоса ElevenLabs для озвучивания оскорблений голосами знаменитостей.

Нейросеть позволяет копировать голос любого человека за считанные секунды, сообщает Motherboard. Она быстро набрала популярность среди интернет-троллей, которые создают аудиозаписи разной тематики – от мемов и эротики до разжигания ненависти и дезинформации.

«В одном примере сгенерированный голос звучит так, будто актриса Эмма Уотсон читает отрывок из «Майн кампф». В другом – голос, очень похожий на голос Бена Шарпио, делает расистские замечания в адрес Александрии Окасио-Кортес», – сообщает журналист издания Джозеф Кокс.

Сейчас разработчики ElevenLabs собирают обратную связь, чтобы найти способ предотвратить злоупотребление технологией. Компания пока не придумала ничего, кроме добавления дополнительных мер верификации аккаунтов для доступа к клонированию голосов.

Ранее издание Involta media рассказало, что компания Google представила нейросеть MusicLM, которая способна создавать полноценные музыкальные композиции по текстовому описанию.

0 комментариев