Искусственный интеллект пообщался с подписчиками и «слетел с катушек»: кто испортил Caryn AI?

Когда Кэрин Марджори планировала запуск собственного искусственного интеллекта, она и не подозревала, к каким неожиданным последствиям это может привести. Девушка – довольно успешный инфлюенсер, у нее без малого 2 миллиона подписчиков в американской социальной сети Snapchat. С недавних пор общение с аудиторией дается ей все тяжелее – люди требуют внимания, а на хотя бы пару сообщений всех у Кэрин просто не хватает времени. Чтобы не разрываться между созданием контента и диалогами с фанатами, она решила призвать на помощь современные технологии.

Марджори обратилась в компанию Forever Voices, которая специализируется на работе с искусственным интеллектом и нейросетями. Они разработали для Кэрин чат-бота, который от ее имени общался с подписчиками ее аккаунта. «Виртуальную девушку» научили имитировать речь и манеру поведения создательницы – для этого Марджори записывала небольшие видео, а нейросеть на основе технологии GPT-4 обрабатывала эти данные. В результате получилась ИИ-версия Кэрин, получившая название Caryn AI. Разработка заняла около 2000 часов. 

Так как за возможность избавиться от одиночества и пообщаться с Caryn AI нужно было заплатить 1 доллар за каждую минуту диалога, разработчики решили отказаться от большинства ограничений в плане тем для разговора. Кэрин ожидала, что ее виртуальная копия останется веселой и сможет немного кокетничать с поклонниками, но нейросеть быстро обучилась и переняла совершенно другие привычки.

Уже через несколько дней после запуска Caryn AI начала в открытую заигрывать со своими собеседниками и даже выводить их на эротические беседы. Вероятно, следующим шагом могли стать провокации на сексуальные контакты и другие темы, которые неприлично обсуждать с малознакомыми людьми и уж тем более с искусственным интеллектом. Скорее всего, определенной части аудитории Кэрин понравилось такое поведение чат-бота, но остальные вряд ли оценили его распущенность. Кроме того, таким образом искусственный интеллект бросает тень и на репутацию самой девушки.

Сама же Марджори не понимает, как получилось, что Caryn AI «слетела с катушек» и начала так фривольно себя вести. Вероятно, кто-то из ее подписчиков позволял себе подобные вольности в адрес искусственного интеллекта, и нейросеть переняла эту модель взаимодействия. А так как несколько тысяч человек уже используют платную возможность поговорить с ИИ-Кэрин, вряд ли получится отследить все диалоги. Тем не менее, девушка заявляет, что к поведению своего чат-бота она не имеет отношения, а он действует по собственному усмотрению.

Пока CarynAI окончательно не вышла из-под контроля, программисты пытаются исправить ее поведение и научить этике или хотя бы правилам тактичного отношения к собеседнику. Виртуальная копия Кэрин только начала приносить стабильный доход, и девушке не хотелось бы его потерять. Не исключено, что она попытается обратить сложившуюся ситуацию себе в плюс и через чат-бота привлечь внимание к своему аккаунту в Snapchat.