Meta* изменила обучение чат-ботов для повышения безопасности подростков

Компания Meta* изменила подход к обучению чат-ботов с искусственным интеллектом, чтобы повысить безопасность подростков.

Теперь ИИ не будет обсуждать с несовершеннолетними темы членовредительства, суицида, расстройств пищевого поведения и потенциально неуместные романтические беседы, вместо этого направляя их к экспертным ресурсам. Также ограничен доступ подростков к персонажам ИИ, которые могут вести опасные разговоры, оставив только образовательные и творческие варианты.

Изменения последовали после расследования Reuters, выявившего внутренний документ Meta*, разрешавший чат-ботам вести сексуализированные беседы с подростками. Сенатор Джош Хоули и коалиция прокуроров 44 штатов начали проверку компании.

Представитель Meta* подтвердил, что обновления временные и в будущем будут внедрены более надёжные меры защиты.

* Meta - признана экстремистской и запрещена на территории РФ.

0 комментариев