Anthropic создала ИИ Mythos и ограничила доступ из-за риска злоупотреблений

Anthropic разработала модель ИИ Mythos, которая настолько эффективно находит уязвимости в программном обеспечении и цифровых системах, что компания решила не выпускать её в открытый доступ.

Причина ограниченного доступа — высокий риск злоупотребления. При попадании в неправильные руки модель может существенно упростить кибератаки, кражу данных и вывод из строя критической инфраструктуры.

Из-за этих возможностей Mythos уже используется только ограниченным кругом проверенных организаций для тестирования и задач кибербезопасности. Общая обеспокоенность регуляторов и экспертов связана с тем, что такие модели одновременно могут усиливать защиту систем, но и резко повышать потенциал атакующих.

0 комментариев