AURA-Mem: память для роботов с фиксированным потреблением VRAM

Исследователи опубликовали в архиве препринтов arXiv статью, в которой представили AURA-Mem (Action-Utility Recurrent Adaptive Memory) — архитектуру рекуррентной памяти для политик роботов, потребляющую постоянный объём видеопамяти (VRAM). Разработка ориентирована на встраиваемые системы с ограниченными ресурсами.

Традиционный KV-кэш, эффективный в центрах обработки данных, плохо подходит для роботов, поскольку они работают в непрерывном режиме на аппаратуре с узкой пропускной способностью памяти. AURA-Mem решает эту проблему за счёт обученного гейта, который записывает новые данные только в том случае, если текущее наблюдение меняет следующее действие.

Объём памяти AURA-Mem фиксирован и составляет 4224 байта независимо от длины эпизода. Для сравнения, KV-кэш при 100 тысячах шагов вырастает в 6061 раз больше. На синтетическом бенчмарке AURA-Mem по точности сравнялась с лучшим O(1)-базовым решением, используя в 5,19–6,13 раз меньше операций записи, а на более лёгких конфигурациях — до 9,19 раз меньше.

Случайные и периодические схемы записи с таким же бюджетом не давали такого выигрыша, что подтверждает эффективность обучения гейта на сигнале «действие-неожиданность». В эксперименте с замкнутой системой OpenVLA-OFT 7B на наборе LIBERO-Long (по 60 эпизодов на каждую руку) AURA-Mem не ухудшила показатель успеха: результат совпал с базовой политикой без гейта (0,233) и немного превзошёл вариант с постоянной записью (0,217), при этом используя в 7 раз меньше записи и постоянную память.

Также авторы продемонстрировали методику оценки границы потерь на основе приблизительного информационного состояния, однако в текущем масштабе эта граница оказалась неэффективной.

Разработка может найти применение в робототехнике, где важна энергоэффективность и ограниченный объём памяти на борту устройства.