Билл Гейтс объяснил, почему сверхразумному ИИ нужно самосознание

Это необходимо для достижения следующего уровня развития ИИ. Гейтс подчеркнул, что метапознание включает в себя стратегическое мышление о проблеме и её важности, а также использование внешних инструментов для проверки ответов.

Он указал, что текущие большие языковые модели (LLM), такие как GPT-4 или Llama, работают за счёт генерации последовательностей токенов, что, по его мнению, впечатляюще, но не совсем правильно. В отличие от человека, который может шагнуть назад и продумать свои действия и стратегию, эти модели действуют линейно и без стратегического осмысления.

Гейтс считает, что увеличение объёмов обучающих данных и вычислительных мощностей для улучшения LLM даст лишь временный эффект. Для дальнейших прорывов исследователи должны сосредоточиться на внедрении стратегий самосознания, чтобы ИИ мог работать умнее, а не сложнее.

Он также отметил, что исследования метапознания могут помочь решить проблемы надёжности и точности LLM. Гейтс выразил уверенность, что технологии ИИ смогут достичь сверхчеловеческих уровней, если будет решена проблема их непредсказуемости и ненадёжности.

Источник: Fastcompany