OpenAI представила новые модели ИИ o3 с улучшенной безопасностью

Эти модели, по заявлению компании, являются более продвинутыми в сравнении с предыдущими благодаря масштабированию вычислений и внедрению новой парадигмы безопасности. OpenAI представила метод «сознательного согласования», который улучшает соответствие моделей принципам безопасности компании.

Этот метод позволяет моделям o1 и o3 учитывать политику безопасности OpenAI при логическом выводе, что снижает частоту ответов на опасные вопросы и повышает точность при ответах на безобидные. Модели проходят процесс цепочки рассуждений, где после запроса пользовательской информации они дополнительно анализируют безопасность ответа.

OpenAI создала примеры, в которых модели учитывают различные аспекты политики безопасности, не полагаясь на ответы людей. Такой подход позволил улучшить точность и снизить затраты на вычисления. Несмотря на сложность процесса, результаты тестов показывают улучшение безопасности моделей, хотя окончательная версия o3 будет доступна лишь в 2025 году.