Разработан X-AddGraph: объяснимость для детектора аномалий без потери точности
Современные детекторы аномалий на основе глубокого обучения достигают высокой точности в динамических графах, но остаются непрозрачными: когда система помечает ребро как аномальное, аналитик получает только оценку, но не объяснение. Эта особенность становится критичной в регулируемых информационных системах, где автоматические решения должны быть проверяемыми и заслуживающими доверия.
Группа исследователей устранила этот пробел для модели AddGraph — базовой архитектуры, объединяющей графовые свёрточные сети и нейросети с гейтовой рекуррентностью для обнаружения аномалий на уровне рёбер. До сих пор эта модель не имела никаких механизмов объяснимости.
Разработанный фреймворк X-AddGraph основан на механизме двойной пространственно-временной атрибуции (DSTA). Его три компонента соответствуют архитектурным модулям AddGraph: градиентная атрибуция над текущей структурой смежности (пространственная), прямое считывание весов внимания, уже вычисленных в процессе инференса (краткосрочная темпоральная, с нулевой дополнительной стоимостью), и градиентный откат через рекуррентные скрытые состояния (долгосрочная темпоральная).
Поскольку детектор остаётся замороженным, производительность сохраняется точно: изменение AUC равно нулю, что подтверждено эмпирически до десятого знака после запятой. На эталонном наборе данных UCI Message обученная базовая модель AddGraph достигает среднего AUC 0,8705 на снапшот, превышая ранее опубликованный результат. X-AddGraph воспроизводит каждую оценку идентично, добавляя объяснения там, где их раньше не существовало.
Исследователи проверили метод на четырёх группах рёбер: уверенные истинные срабатывания, низкоуверенные истинные срабатывания, ложные срабатывания и случайные выборки. Долгосрочная атрибуция идентифицировала исторические снапшоты с существенно более сильным контрфактическим сигналом, чем случайный отбор: 0,127 против 0,074. Такой способностью не обладают объяснительные методы, игнорирующие временное измерение.
Авторы опубликовали реализацию X-AddGraph для полного воспроизведения результатов. Работа делает автоматические решения в системах обнаружения аномалий более прозрачными, что особенно важно в регулируемых отраслях, где требуются аудит и подтверждение корректности алгоритмов.
