Ученые заглянули внутрь глубокой нейронной сети при помощи реверсивного инжиниринга

Например, есть передовой гаджет, способный взломать любой сейф в мире, но непонятно, как он работает. Можно взять гораздо более старый инструмент для взлома сейфов, например, надежный ломик. С помощью этого рычага можно открыть гаджет, заглянуть в его внутренности и попытаться сделать реверс-инжиниринг. Как оказалось, именно это ученые сделали с помощью математики.

Результаты исследования указывают на то, что их ИИ выполняет многие из тех же расчетов, которые люди уже давно выполняют самостоятельно.

Авторы обычно используют глубокие нейронные сети для прогнозирования экстремальных погодных явлений или для других климатических приложений. При этом более точные местные прогнозы могут помочь людям планировать даты посещения парка, а предсказание ветра и облаков может также помочь операторам возобновляемых источников энергии планировать, что поставить в сеть в ближайшие часы.

Сегодня метеорологи часто занимаются подобным прогнозированием с помощью моделей, требующих огромных суперкомпьютеров. Глубоким нейронным сетям требуется гораздо меньше вычислительной мощности для выполнения тех же задач. Легко представить себе будущее, в котором любой человек сможет запускать такие модели на ноутбуке в полевых условиях.