Жидкие нейросети могут решать проблемы ИИ от робототехники до беспилотных автомобилей

Жидкие нейронные сети (LNN), разработанные исследователями из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (MIT CSAIL), представляют собой новую архитектуру глубокого обучения.

Они позволяют адаптируемо, компактно и эффективно выполнять сложные задачи ИИ. Эти сети предназначены для решения некоторых проблем, связанных с традиционными моделями глубокого обучения.

LNN могут способствовать внедрению инноваций в области ИИ, особенно в тех сферах, где традиционное глубокое обучение испытывает трудности, например, в самоуправляемых автомобилях и робототехнике. Они используют математическую формулировку, которая обеспечивает меньшие вычислительные затраты и помогает нейронам быстрее обучаться.

Ключ к успеху LNN - это используемая динамическая настройка дифференциальных уравнений, которые позволяют сетям быстро адаптироваться в новых ситуациях после обучения. Это невозможно сделать с помощью стандартной нейронной сети.

LNN используют и другую архитектуру подключения, позволяющую проводить латерально-рекуррентную связь в одном слое. Это позволяет жидким сетям изучать модели непрерывного времени, которые динамически меняют их поведение.

Одной из ярких особенностей LNN является их сжатость. Например, стандартная нейросеть требует примерно 100 тысяч искусственных нейронов и 0,5 млн параметров для выполнения задачи по удержанию автомобиля в своей полосе движения. Для решения этой же задачи LNN требуется только 19 нейронов.

Уменьшение размера нейросети имеет несколько последствий. Во-первых, модель может быть использована для небольших компьютеров, которые используются в робототехнике и других устройствах, работающих на грани.

Во-вторых, при уменьшении количества нейронов LNN становятся намного понятней. Обычно, при использовании традиционных моделей глубокого обучения, сложно оценить, почему они принимают то или иное решение.

Еще одна проблема, которую решают LNN - это причинно-следственные связи. Традиционные методы глубокого обучения нередко испытывают трудности в их понимании, что может привести к ложным закономерностям. Жидкие нейросети лучше обобщают информацию о невидимых ситуациях.

LNN предназначены, в первую очередь, для работы с непрерывными потоками данных, таким как видеопотоки, аудиопотоки, последовательности измерений температуры и прочие.

Характеристики LNN делают их наиболее подходящими для автономных транспортных средств и робототехники, где данные поступают в модели машинного обучения постоянно.

Команда MIT CSAIL уже протестировала LNN в одиночных роботах, где они показали многообещающие результаты.