Нейро-агентный фреймворк: LLM с физическим контролем предотвращает атаки на промышленность
Учёные из arXiv (препринт 2607.09076) разработали архитектуру нейро-агентного управления для защиты промышленных систем. Новый подход объединяет LLM-планировщик (например, Gemini 2.5 Flash-Lite) с предобученной временной фундаментальной моделью TimesFM, что позволяет автоматически отражать кибератаки на операционные технологии.
Традиционные системы мониторинга на основе правил плохо справляются с атаками на промышленный интернет вещей, что приводит к дорогостоящим простоям и физическим повреждениям. LLM обладают логическими способностями, но подвержены галлюцинациям, что недопустимо для замкнутого управления. Предложенный фреймворк решает эту проблему с помощью механизма контрфактической физической инъекции.
Суть механизма: перед тем как применить предложенное LLM действие, система моделирует его последствия в числовом латентном пространстве фундаментальной модели. Если действие галлюцинаторно или небезопасно, оно отклоняется. Такой подход гарантирует, что физически неверные команды не будут выполнены.
На наборе данных Secure Water Treatment (SWaT) в сценариях стохастических атак фреймворк показал превосходство над базовыми моделями LSTM и TCN. Нейро-агентный цикл предотвратил пять нарушений (33,3%) ниже порогового значения, в то время как LSTM — 26,7%, а TCN — 13,3%. При этом ни одно физически некорректное (галлюцинированное) действие не было выполнено.
Авторы полагают, что использование фундаментальных моделей в качестве детерминированных «стражей» позволяет безопасно применять агентный ИИ в критической инфраструктуре. Это открывает путь к автоматической защите водоочистных, энергетических и других промышленных объектов без риска ошибочных команд со стороны искусственного интеллекта.
Разработка особенно актуальна на фоне роста целевых атак на промышленные сети, где каждая минута простоя может обходиться в миллионы долларов. Предложенная архитектура может стать основой для новых систем кибербезопасности, сочетающих гибкость LLM и гарантии физической адекватности.
