Новый бенчмарк KAN-Robust-Bench оценил устойчивость нейросетей к атакам

Научный портал arXiv опубликовал работу, посвященную безопасности нового класса нейросетей — сетей Колмогорова-Арнольда (KAN). Авторы представили бенчмарк KAN-Robust-Bench для оценки устойчивости таких моделей к состязательным атакам.

Как отмечается в аннотации, обычные модели машинного обучения показывают высокую эффективность, но уязвимы к специально сгенерированным искажениям входных данных. Наиболее распространенный класс таких угроз — evasion-атаки, когда злоумышленник создает измененные примеры, незаметные для человека, но способные обмануть нейросеть.

Исследователи изучили сертифицированную и эмпирическую устойчивость различных архитектур KAN. Для сертифицированной оценки использовались методы рандомизированного сглаживания и интервального распространения границ (interval bound propagation).

Эмпирическая часть включает проверку defended и undefended моделей под действием известных атак FGSM, PGD и C&W. Цель работы — определить оптимальные стратегии защиты и архитектуры, наиболее устойчивые к взлому.

KAN — сравнительно новое направление в проектировании нейросетей, основанное на теореме Колмогорова-Арнольда. Такие сети привлекли внимание способностью аппроксимировать сложные функции с меньшим числом параметров, но вопрос их безопасности оставался открытым. Предложенный бенчмарк должен помочь разработчикам и исследователям систематически оценивать риски.

Полный текст препринта доступен на arXiv. Авторы не раскрывают личности, работа опубликована под идентификатором 2608.21488.