OpenAI создаёт команду для контроля над созданием «сверхразумного» ИИ

Вполне вероятно, что в ближайшие десять лет может появиться ИИ, превосходящий по уровню интеллекта человека. Но нельзя сказать, будет ли этот ИИ благосклонен к человечеству. В этом случае подходы OpenAI опираются на возможность того, что люди способны контролировать ИИ, что маловероятно, когда имеешь дело со «сверхразумными» ИИ, потенциально более интеллектуальными, чем человек. Специальная группа будет иметь доступ к 20 процентам вычислительных мощностей компании, чтобы проанализировать этот вопрос.

Кроме того, к ним присоединятся ученые и программисты из подразделения по адаптации ИИ. За четыре года эта команда планирует решить основные технические трудности, связанные с управлением сверхразумными ИИ. На самом деле речь идет о том, чтобы научить ИИ с помощью обратной связи.