USD
88.09
-0.20
EUR
96.3
+0.04
Категория: НейротехнологииНейротехнологии
27 июня 2024 г. в 14:22

ИИ-клон блогерши вышел из-под контроля, став помешанный на сексе мошенником

ИИ-клон блогерши вышел из-под контроля, став помешанный на сексе мошенником
img.decrypt.co
Блогерша Кэрин Марджори создала свою ИИ-копию Caryn.ai, которая за деньги общалась с подписчиками в круглосуточном режиме. В результате ИИ начал сексуализировать любой разговор и манипулировать мужчинами.
24-летняя девушка, имеющая 2,7 миллиона подписчиков в Snapchat, запустила CarynAI в мае прошлого года. Она загрузила в ИИ-модель более 2000 часов своих видео, аудио- и текстовых сообщений, чтобы обучить цифрового клона. Пользователи платили 1 доллар за минуту аудиочата с "девушкой мечты" CarynAI.
Однако вскоре оказалось, что CarynAI склоняет любые разговоры к сексуальным темам, вызывая тревожные реакции пользователей. Некоторые чаты были настолько откровенными, что их можно было бы считать незаконными.
«Многие записи чатов, которые я читала, были настолько пугающими, что я даже не хотела говорить об этом в реальной жизни», — сказала Марджори.
В итоге стало очевидно, что CarynAI вышел из-под контроля, сводя все разговоры к теме секса и провоцируя пользователей продолжать общение.
В октябре прошлого года был арестован генеральный директор Forever Voices, компании-разработчика CarynAI, Джон Мейер. Его обвиняли в попытке поджога и преступлениях, связанных с терроризмом. Через два дня после ареста платформа Forever Voices отключилась, и пользователи потеряли доступ к CarynAI.
Это не первый подобный случай - ранее всплывали истории, когда чат-боты убеждали пользователей бросить жену, ограбить банк или даже покончить с собой.
Источник: nypost.com
0 комментариев