ASV-объяснения: быстрый расчёт важности признаков с учётом причинности
Объяснение решений моделей машинного обучения остаётся одной из ключевых задач в области ИИ. Стандартный подход — Shapley values (SHAP) — часто требует значительных вычислительных ресурсов. В новой работе исследователи предложили альтернативу: Asymmetric Shapley Values (ASV), которые используют информацию о причинно-следственных связях между признаками.
Авторы показали, что в некоторых контекстах, где вычисление SHAP является #P-трудной задачей, точное вычисление ASV может быть выполнено за полиномиальное время. Для этого они воспользовались структурой причинного графа — если граф является корневым ориентированным деревом, то алгоритм работает за полиномиальное время от числа классов эквивалентности топологических порядков.
Кроме того, исследователи разработали метод аппроксимации ASV для произвольных направленных ациклических графов (DAG). Он основан на равномерной выборке топологических порядков, для чего были использованы как известные алгоритмы, так и более простые альтернативы.
Экспериментальные результаты подтвердили практическую применимость подхода на реалистичных причинных структурах. Работа доступна на arXiv (идентификатор 2606.25103) и может стать шагом к более интерпретируемым и эффективным системам ИИ.
Новый метод особенно актуален для областей, где критично понимание логики модели — медицина, финансы, автономные системы. Использование причинности позволяет избежать ложных корреляций и даёт более осмысленные объяснения.
