GENADA: новый генеративный способ атаки на модели временных рядов
Глубокие нейросети всё чаще применяются для анализа временных рядов в медицине, финансах, энергетике и мониторинге окружающей среды. Однако такие модели остаются уязвимыми к состязательным атакам: даже небольшие искажения входных данных могут серьёзно ухудшить качество прогнозов. Традиционные методы атак, основанные на градиентах, требуют многократного обратного распространения ошибки через модель-жертву, что делает их вычислительно затратными.
В новой работе на arXiv представлен фреймворк GENADA (GENerative ADversarial Attack). Авторы предлагают обучать генеративную модель, которая создаёт обманные возмущения напрямую за один прямой проход, минуя дорогостоящие итеративные вычисления градиентов. Такой подход позволяет существенно сократить время генерации атаки на этапе инференса.
В статье описаны две версии метода: одношаговая и итеративная генеративные схемы. Одношаговый вариант работает максимально быстро, а итеративный позволяет повысить точность атаки ценой некоторого увеличения времени. Это даёт гибкость при выборе баланса между скоростью и эффективностью.
Эксперименты проводились на нескольких нейросетевых моделях и наборах данных в области временных рядов, в контролируемой низкоразмерной среде. Согласно результатам, GENADA достигает качества атак, сопоставимого с сильными базовыми методами, но при этом требует меньше времени для генерации возмущений.
Практическая значимость работы в том, что быстрые состязательные атаки могут использоваться для тестирования устойчивости моделей в реальном времени, а также для разработки более надёжных защитных механизмов. Авторы подчёркивают, что ускорение атак не должно восприниматься как угроза, а скорее как инструмент для оценки и укрепления безопасности нейросетей.
Препринт доступен на arXiv под номером 2608.12535.
