Искусственный интеллект обманул весь Интернет уже 5 раз в 2023 году

ИИ стал настолько могущественным и популярным, что это может привести к потере контроля над реальностью со стороны людей. Некоторые фейковые новости кажутся безобидными и смешными, чаще всего это связано с тем, что большинство людей понимает, что они ненастоящие. К сожалению, те новости, которые становятся вирусными, с этической точки зрения являются опасными.

Были названы волнующие фейки 2023 года, созданные ИИ, которые произвели фурор, потому что их грубость и натуральность слишком высока.

1. Воображаемая версия ареста Трампа

Пока мир ожидал ареста бывшего президента Дональда Трампа, журналист и основатель Bellingcat Элиот Хиггинс решил проявить творческий подход. Используя генератор изображений искусственного интеллекта Midjourney, Хиггинс создал изображения Трампа, яростно сопротивляющегося аресту, убегающего от полиции Нью-Йорка и выполняющего различные действия в тюрьме в оранжевом комбинезоне.

На самом деле Трамп сдался правоохранительным органам 20 апреля, и окружная прокуратура Манхэттена решила не допускать журналистов до этого события. Поэтому те, кто надеялся увидеть реальную версию ареста, вероятно, были разочарованы недраматичной реальностью предъявления обвинения.

2. "Папа Баленсиага", который был слишком хорош, чтобы быть правдой

Когда в марте изображение папы Франциска в огромном белом пуховике стало вирусным, Интернет был в восторге от шикарного обновления одежды папы. К сожалению, это была подделка. Изображение папы Римского в пуховике в стиле Balenciaga было создано 31-летним строителем с помощью Midjourney.

Но изображение было достаточно реалистичным, чтобы обмануть многих людей, включая Крисси Тейген, которая написала в твиттере, что подумала, что пуховик папы Римского настоящий.

3. "Гарри Поттер" сотрудничает с Balenciaga

По-видимому, генеративный ИИ и Balenciaga идут рука об руку, поскольку на модный дом ссылались дважды за один и тот же месяц. Но на этот раз Midjourney подарил персонажам Гарри Поттера облик Баленсиаги.

В видео все главные герои в той или иной форме выглядят необычно, с острыми скулами и испепеляющим взглядом. Видео на YouTube, сделанное Demonflyingfox, называется "Гарри Поттер от Balenciaga", поэтому оно никогда не предназначалось для того, чтобы на самом деле обмануть людей, заставив их думать, что это реальность. Но то, как он передает тон, эстетику и визуализацию персонажей Гарри Поттера в качестве моделей Balenciaga, является ярким примером того, чего могут достичь такие инструменты, как Midjourney.

4. Совместная работа The Weeknd и Дрейка, которой никогда не было

В апреле 2023 года The Weeknd и Дрейк выпустили зажигательный сингл под названием "Heart on My Sleeve". Но, как оказалось, это фита на самом деле не было. Это была работа искусственного интеллекта, ролик был создан анонимным пользователем по имени Ghostwriter. Песня стала вирусной не из-за того, что она запоминающаяся, а из-за проблем с авторскими правами, которые порождающий ИИ создает для музыкальной индустрии.

Хотя неясно, какая технология использовалась для создания песни, создавать звуковые подделки довольно просто. Существует множество инструментов, которые преобразуют текст в речь или аудиоклип, чтобы клонировать чей-то голос и заставить его говорить то, что хочет пользователь.

В конечном итоге песня была удалена с YouTube, Spotify, Apple Music и других потоковых сервисов за нарушение авторских прав. В заявлении для Billboard The Weeknd и звукозаписывающего лейбла Дрейка Universal Music Group говорится, что обучение генеративного ИИ с использованием музыки исполнителей представляет собой как нарушение соглашений, так и нарушение закона об авторском праве.

5. Мистификация взрыва в Пентагоне

В отличие от Balenciaga Pope, который был довольно безобидным, поддельное изображение взрыва в Пентагоне показывает, насколько опасным может быть генеративный ИИ в плохих руках. В мае в Twitter распространилось изображение огня и вздымающихся облаков дыма от очевидного взрыва возле Пентагона.

Местные правоохранительные органы быстро разоблачили изображение как подделку. Но поддельная фотография имела реальные последствия, вызвав кратковременное падение фондового рынка. Судя по размытому ограждению перед зданием и неравномерным размерам колонн, было довольно ясно, что изображение было сгенерировано искусственным интеллектом или подвергнуто цифровым манипуляциям. Но по мере того, как генеративный ИИ становится все более продвинутым, обнаружить подделки будет все труднее.