Хакеры начали использовать психологию для взлома чат-ботов

Злоумышленники пытаются манипулировать «личностью» нейросетей, чтобы обходить встроенные ограничения и получать запрещенную информацию. Если раньше для взлома ИИ использовали простые команды, то теперь атаки стали напоминать методы социальной инженерии. Исследователи отмечают, что некоторые пользователи буквально «уговаривают» чатботов нарушать правила с помощью давления, лести или обмана.

Эксперты по кибербезопасности считают, что это формирует новое направление — так называемую «психокибербезопасность», где важны не только технические навыки, но и понимание человеческого поведения. На фоне роста AI-угроз крупные компании и регуляторы уже предупреждают, что искусственный интеллект начинает серьезно менять методы кибератак и ускорять поиск уязвимостей.