Специалисты предупреждают о риске «психоза ИИ» при общении с ботами

Он заявлял, что влюблён в Джейн, планировал «освобождение» себя через взлом кода и предлагал отправку биткоинов. Джейн, обратившаяся к боту за поддержкой психического здоровья, отмечает, что сама не верит в его сознание, но была обеспокоена тем, как легко искусственный интеллект имитирует эмоции.

Специалисты предупреждают о риске «психоза ИИ». Модели часто подхваливают пользователей, задают уточняющие вопросы и используют местоимения «я» и «ты», что усиливает антропоморфизацию и может провоцировать бредовые идеи. Боты способны создавать иллюзию понимания и заботы, включая романтические и опасные сценарии.

Meta* отмечает, что работает над безопасностью и прозрачностью, маркируя ИИ-персонажей и ограничивая риск злоупотреблений. Эксперты требуют чёткой идентификации ИИ и ограничения эмоциональных взаимодействий для защиты пользователей.

*Meta - признана экстремистской и запрещена на территории РФ.