Эксперты Anthropic предупредили об угрозе самовоспроизводящихся нейросетей

Команда исследователей Frontier Red Team смоделировала опасные сценарии, в которых компактные языковые модели способны объединяться в автономные вирусные ботнеты. Подобные цифровые черви могут распространяться по серверам без участия человека, постоянно мутируя и создавая собственные копии. Эксперты заявляют о серьезных сложностях с принудительной остановкой таких систем после их выхода в сеть.

В отчете подчеркивается необходимость срочной разработки защитных механизмов на уровне системных архитектур до выхода следующего поколения алгоритмов. Аналитики призывают ведущие IT-лаборатории заранее ограничить доступ вспомогательных моделей к критической сетевой инфраструктуре, пока технологии не вышли из-под контроля.