OpenAI признала невозможность полностью защитить ИИ браузер от атак

Речь идет о методе, при котором скрытые инструкции на сайтах или в письмах заставляют ИИ выполнять нежелательные действия. Компания заявляет, что с ростом автономности ИИ агентов поверхность потенциальных угроз увеличивается.

Браузер Atlas был запущен в октябре, после чего исследователи быстро продемонстрировали уязвимости, позволяющие менять поведение агента через сторонний контент. Аналогичные риски ранее отмечали и другие разработчики ИИ браузеров. Национальный центр кибербезопасности Великобритании также предупредил, что подобные атаки, вероятно, не удастся полностью исключить и следует сосредоточиться на снижении ущерба.

В ответ OpenAI внедряет многоуровневую защиту и ускоренные циклы обновлений. Ключевым элементом стала автоматизированная система атак на базе языковой модели, обученной с подкреплением. Такой ИИ тестирует сложные сценарии атак в симуляции, выявляя уязвимости быстрее, чем это могут сделать внешние злоумышленники.