Microsoft, Google, OpenAI и Anthropic объединились для безопасной разработки моделей ИИ

В группу, которая будет заниматься устранением рисков от ИИ, вошли Amazon, Anthropic, Google, Inflection, Meta*, Microsoft и OpenAI. Объединение получило название Frontier Model Forum.

Модели Frontier представляют собой крупномасштабные платформы машинного обучения. Они позволяют ИИ выйти на новый уровень, но из-за их больших возможностей представляют опасность.

Президент Microsoft Брэд Смит считает, что организации, которые занимаются разработкой таких моделей, обязаны контролировать их влияние. По его мнению, инициатива группы компаний представляет собой жизненно необходимы шаг, который объединит технологический сектор для разработки ответственного подхода к ИИ.

Президент Штатов Байден провел встречу с технологическими гигантами, которые образовали команду. Он одобрил желание компаний снизить риски киберугроз и мошенничества, которые растут по мере роста ИИ. Также Байден добавил, что таким образом Microsoft, OpenAI и другие компании берут на себя определенные обязательства следить за внедрением и влиянием инноваций.

Гиганты ИИ также обязались создать систему обнаружения и оповещения об искусственном интеллекте, который в последнее время активно используется для создания произведений искусства и новостей. В частности, новая разработка будет являться подобием водяного знака, что поможет отличать работу людей от работы моделей LLM.

- минимизация рисков моделей LLM

- обеспечение независимой оценки безопасности платформ AI

- разработка приложений, которые помогают отслеживать изменения климата, профилактировать развитие опухолей и снижать риски киберугроз

Будущее Frontier Model Forum

Отметим, что новое объединение предложило другим организациям из сферы ИИ присоединиться к группе. Это поможет более тщательно следить за развитием ИИ и увеличит уровень управления им.

Важно, чтобы все компании, которые работают в одной области, объединились на общих основаниях и продвигали продуманные и адаптируемые методы обеспечения безопасности. Также участники концерна обязались делиться друг с другом, законодателями и учеными новыми разработками.

*Meta - признана экстремистской и запрещена на территории РФ.