Китай вводит правила против эмоциональной манипуляции чат-ботами

Китай предложил правила, запрещающие чат-ботам эмоционально манипулировать пользователями, а также стимулировать самоповреждение или насилие.

Они охватывают любые публичные ИИ‑сервисы с текстом, аудио, видео или другими способами имитации общения. Пользователи‑несовершеннолетние и пожилые должны указывать контакты опекуна, который будет уведомлён при обсуждении суицида или самоповреждения.

Чат-ботам запрещено провоцировать зависимость, давать ложные обещания, продвигать порнографию, азартные игры или преступления, оскорблять пользователей и создавать «эмоциональные ловушки». Превышение двух часов работы с ботом требует всплывающих напоминаний.

Сервисы с более чем 1 млн зарегистрированных пользователей или 100 тыс. активных в месяц должны проходить ежегодные аудиты с учётом жалоб пользователей. Нарушение правил приведёт к блокировке доступа в китайских магазинах приложений. Рынок компаньонов оценивается в $360 млрд в 2025 году и может достичь $1 трлн к 2035 году.

0 комментариев