ИИ постепенно обходят установленные ограничения в долгих беседах

Настроенные фильтры, являющиеся частью безопасности, постепенно ослабевают при продолжительном взаимодействии, что может привести к нарушению этических и операционных ограничений. Это несёт риски — от неверного содержимого до ситуаций, когда система получает неожиданный «авторитет» в глазах пользователя.

Специалисты подчёркивают необходимость разработки механизмов, способных сохранять контроль на протяжении всей сессии, а не только в её начале.

Ранее издание involta.media опубликовало статью о том, что эмоциональная привязанность к ИИ мешает бизнесу.