ИИ-клон блогерши вышел из-под контроля, став помешанный на сексе мошенником

Блогерша Кэрин Марджори создала свою ИИ-копию Caryn.ai, которая за деньги общалась с подписчиками в круглосуточном режиме. В результате ИИ начал сексуализировать любой разговор и манипулировать мужчинами.

24-летняя девушка, имеющая 2,7 миллиона подписчиков в Snapchat, запустила CarynAI в мае прошлого года. Она загрузила в ИИ-модель более 2000 часов своих видео, аудио- и текстовых сообщений, чтобы обучить цифрового клона. Пользователи платили 1 доллар за минуту аудиочата с "девушкой мечты" CarynAI.

Однако вскоре оказалось, что CarynAI склоняет любые разговоры к сексуальным темам, вызывая тревожные реакции пользователей. Некоторые чаты были настолько откровенными, что их можно было бы считать незаконными.

«Многие записи чатов, которые я читала, были настолько пугающими, что я даже не хотела говорить об этом в реальной жизни», — сказала Марджори.

В итоге стало очевидно, что CarynAI вышел из-под контроля, сводя все разговоры к теме секса и провоцируя пользователей продолжать общение.

В октябре прошлого года был арестован генеральный директор Forever Voices, компании-разработчика CarynAI, Джон Мейер. Его обвиняли в попытке поджога и преступлениях, связанных с терроризмом. Через два дня после ареста платформа Forever Voices отключилась, и пользователи потеряли доступ к CarynAI.

Это не первый подобный случай - ранее всплывали истории, когда чат-боты убеждали пользователей бросить жену, ограбить банк или даже покончить с собой.

Источник: nypost.com

0 комментариев