Понятие "сверхразум" относится к одному из уровней ИИ, который значительно превосходит способности человеческого мозга. В сфере технологических достижений концепция сверхразума является инновационной и перспективной.

Этот вид ИИ может изменить мир таким образом, о котором человечество еще даже не подозревает. Сверхразум способен решать самые срочные проблемы, с которыми сталкивается человечество. Однако он также несет в себе непредсказуемые риски.

«Сверхразум станет самой эффективной технологией, которую когда-либо изобретало человечество», - заявляют разработчики.

Миссия компании OpenAI заключается в создании искусственного общего интеллекта (AGI), который будет служить на благо всего человечества. AGI должен превзойти людей в самых разных сферах деятельности, имеющих экономическую ценность.

Компания стремится придерживаться принципов долгосрочной безопасности и технического лидерства. Кроме того, в OpenAI работают над предотвращением использования ИИ или AGI для причинения вреда человечеству.

Источник: https://www.nato.int

В процессе изучения возможностей сверхразума становится очевидно, что управление рисками и соблюдение человеческих ценностей требуют инновационных решений. Поэтому компания OpenAI объявила о формировании команды, которая будет сосредоточена на проверке сверхразума. Она намерена собрать ведущих исследователей и инженеров в области машинного обучения, чтобы работать над этой проблемой.

Для создания AGI работа будет проходить в три этапа;

1. Разработка метода машинного обучения, который позволит эффективно совершенствовать сверхразум;

2. Проверка полученной модели для подтверждения ее качества и функциональности;

3. Проведение стресс-тестирования AGI, чтобы убедиться, что он способен справиться с различными задачами при определенных условиях.