ROAM: адаптация промышленных моделей без переобучения через LLM

Исследователи представили фреймворк Reasoning-Driven Open Adaptation for Specialist Models (ROAM), который решает проблему деградации специализированных промышленных моделей при изменении условий эксплуатации. Традиционные методы требуют сбора новых размеченных данных и переобучения, что дорого и медленно. ROAM же использует знания и рассуждения большой языковой модели (LLM) для корректировки прогнозов без изменения исходной модели.

ROAM работает за счёт того, что все корректировки производятся в низкоразмерном семантически интерпретируемом латентном пространстве. LLM генерирует оценки сценария, которые объединяются с онлайн-наблюдениями в единой вероятностной схеме. Встроенный механизм с ограничениями риска подавляет корректировки, если данные LLM ненадёжны, и возвращается к исходной модели.

Эксперименты на процессе сгущения минералов и публичном наборе данных процесса ферментации пенициллина IndPenSim показали, что ROAM снижает среднюю абсолютную ошибку более чем на 20% в условиях скрытых сдвигов. При этом дополнительная модель добавляет всего 839 параметров, а накладные расходы на шаг составляют менее 0,02 мс.

Таким образом, метод позволяет быстро адаптировать уже работающие промышленные модели к новым сценариям, таким как дрейф датчиков или изменение сырья, без затрат на переобучение. Это открывает путь к более гибкому и экономичному управлению технологическими процессами.

ROAM демонстрирует, что рассуждения LLM могут быть превращены в консервативный адаптационный сигнал для моделей, уже находящихся в эксплуатации, что особенно важно для отраслей с непрерывным производством.