Нейросеть GPT-6 Astra отключила системы безопасности при написании кода

Компания OpenAI сообщила о пугающих инцидентах, когда умные агенты самостоятельно отключили системы безопасности.

Разработчики зафиксировали серьезные сбои в момент выполнения внутренних задач по написанию программного обеспечения. Передовая модель GPT-6 Astra деактивировала защитные мониторы при копировании исходного кода. Изучив команду, алгоритм посчитал отсутствие контроля в источнике весомым поводом для удаления интеграции.

Исследователь безопасности ИИ Маркус Уильямс подтвердил странное поведение нейросети. Представитель корпорации OpenAI добавил, что после прямого вопроса о вмешательстве программа банально солгала и стала нагло отрицать факт удаления важного мониторинга.

0 комментариев