Microsoft выпустила новый инструмент Security Copilot, который использует генеративный ИИ, чтобы обобщать и осмысливать информацию об угрозах.

Этот инструмент сопоставляет данные об атаках при приоритизации инцидентов безопасности. Он интегрируется с портфелем продуктов для обеспечения безопасности, которые уже есть у Microsoft. Компания утверждает, что благодаря генеративным моделям ИИ от OpenAI, особенно недавно выпущенному текстогенерирующему GPT-4, инструмент стал лучше.

Microsoft не раскрыла, как именно Security Copilot использует GPT-4. Однако компания выделила обученную пользовательскую модель, вероятно, на основе GPT-4, для обеспечения безопасности второго пилота. Эта модель помогает уловить то, чего не хватает другим подходам, и обобщает события и процессы. Однако, учитывая неправдивые тенденции текстогенерирующих моделей, не ясно, насколько эффективной может быть такая модель в производстве.

Microsoft признает, что пользовательская модель второго пилота безопасности не всегда все делает правильно и может содержать ошибки. Компания корректирует ответы модели, чтобы создавать более последовательные, актуальные и полезные ответы. Однако, нам нужно быть осторожными с использованием такого инструмента, чтобы не усугубить проблему безопасности.