Последние данные свидетельствуют о том, что ИИ упрощает и автоматизирует процесс создания фейковых новостей. Искусственный интеллект распространяет ложные слухи, которые касаются стихийных бедствий, войн или выборов в разных странах.

В течение полугода количество сайтов, на котором публикуются ложные новости, созданные ИИ, выросло с 49 до 600 (более чем на 1000%). Ранее создание пропаганды и ложных новостей лежало на плечах людей, труд которых мало плохо оплачивался, но сейчас эта работа упростилась благодаря ИИ.

Одной из основных проблем фейкового ИИ-контента можно назвать его оригинальность - иногда отличить фейки от реальности практически невозможно.

Одна из статей, созданных ИИ, повествует о психиатре Биньямина Нетаньяху, которого в реальности не существует. В статье сообщается, что врач умер, оставив записку, в которой сообщается о причастности премьер-министра Израиля к его смерти. Позднее стало известно, что история вымышлена, но перед этим ее подхватило несколько известных СМИ и соцсетей.

Сейчас труды агитаторов направлены на грядущие в Штатах выборы президента. На разных ресурсах публикуется огромное количество контента, который наносит ущерб политическим кандидатам.

Кроме текстовой информации, сейчас существует возможность создавать фейковый видео- и аудиоконтент, который невозможно отличить от действий реальных людей. Политики разных стран обнаружили, что их голоса клонировали, а теперь ими озвучивают спорные и противоречивые вещи.