Siemens: state space models запускают ИИ на сенсорах с 1–3,4 КБ ОЗУ

Большая часть промышленных данных — это не текст и не изображения, а временные ряды: токи, вибрации, температуры, давления, напряжения и звук, которые непрерывно снимаются устройствами с памятью в килобайты, а не гигабайты. Исследователи из Siemens Research и TU Wien продемонстрировали, что state space models (модели пространства состояний) способны выполнять нейросетевые вычисления на такой аппаратной базе, используя от 1 до 3,4 КБ оперативной памяти.

Проблема: умный сенсор, но слабый контроллер

Полевое устройство, годами работающее безотказно, уже измеряет всё необходимое для обнаружения аномалий, классификации режимов или прогнозирования отказов. Ограничение для внедрения ИИ — не сам датчик, а контроллер за ним: отсутствие ML-акселератора, малый объём ОЗУ, скромные вычислительные ресурсы и жёсткие энергетические рамки. Замена уже развёрнутого оборудования только ради ИИ экономически невыгодна и экологически нежелательна. Для промышленных систем с многолетним сроком службы интеллект должен укладываться в имеющееся железо.

Требования к моделям на периферии

Перенос интеллекта непосредственно в поле предъявляет к ИИ-моделям иные требования, чем облако: работа с несколькими килобайтами памяти вместо гигабайт, строгий энергобюджет и обработка непрерывного сигнального потока. Потенциал рынка велик: аналитики ожидают, что поставки TinyML-чипсетов будут расти на 37 % в год и к 2031 году превысят 4,1 млрд единиц.

Ограничения существующих архитектур

Анализ временных рядов в глубоких нейросетях обычно строится на трансформерах, свёрточных и рекуррентных сетях. Каждая архитектура имеет сильные стороны, но и недостатки для встраиваемого применения. В облаке эти компромиссы приемлемы, однако на микроконтроллере с несколькими килобайтами ОЗУ они часто становятся решающими. Возникает разрыв между ресурсоёмким мейнстримным ИИ и длительными жизненными циклами промышленного оборудования.

Решение из теории управления

State space models, заимствованные из теории управления, позволяют удерживать память постоянной при захвате длинных временных зависимостей — даже если сигнал поступает бесконечно. Это отличает их от трансформеров, чьи затраты памяти растут с длиной контекста, и от рекуррентных сетей, страдающих от затухания градиентов. Модели пространства состояний описывают динамику системы через скрытое состояние, обновляемое линейно, что даёт постоянную сложность по памяти и вычислениям на каждом шаге. Именно это свойство делает их пригодными для микроконтроллеров с килобайтами ОЗУ: сеть обрабатывает поток измерений непрерывно, не накапливая буферы и не требуя ML-акселератора.

Применение в России

Для российской промышленности подход особенно актуален: парк полевых устройств и контроллеров АСУ ТП зачастую имеет длительный срок службы, а модернизация с заменой оборудования ограничена. Встраивание моделей пространства состояний в существующие датчики вибрации, давления и температуры позволяет реализовать предиктивную диагностику и обнаружение аномалий без закупки новых ML-платформ. Решение применимо на насосных и компрессорных станциях, в энергетике и металлургии, где важны автономность, малые энергозатраты и работа в реальном времени на периферии.