Новый метод CAS улучшает объяснимость ИИ: точность оценки причинных эффектов выросла на 40%
Международная группа исследователей опубликовала на arXiv препринт, в котором представила Causal Attribution Score (CAS) — новый подход к объяснению моделей искусственного интеллекта. В отличие от традиционных методов, которые лишь показывают, какие признаки повлияли на предсказание, CAS оценивает, как изменение этих признаков изменило бы реальный результат.
Авторы описывают CAS как компактную архитектуру, объединяющую интервенциональную коалиционную игру и каузальный вклад Шепли. Метод позволяет строить локальные и глобальные объяснения с явной целевой переменной вмешательства. Ключевое отличие — не новая формула Шепли, а дополнительный слой отчётности, который переводит предсказательные атрибуции в причинные.
В ходе экспериментов на известных данных с достоверными ответами исследователи провели восемь серий симуляций с тремя действиями и 2200 наблюдений в каждой. Средняя ошибка локального CAS (L1 MAE) составила 0.107 для коалиционного варианта, тогда как при поочерёдной нормализации — 0.173, а при глобальной нормализованной абсолютной ATE-векторе — 0.213. Преимущество над поочерёдной нормализацией росло с усилением взаимодействий: от -0.003 при аддитивности до 0.091 при сильных взаимодействиях.
На двух реальных наборах данных — по влиянию участия в 401(k) на финансовые активы (n = 9915) и по влиянию бонуса за возобновление работы в Пенсильвании на длительность безработицы (n = 5099) — ранжирование признаков с помощью CAS существенно отличалось от стандартного SHAP. Например, в данных Пенсильвании признак dep1 (наличие одного иждивенца) поднялся с 13-го места в предсказательном SHAP до 2-го места в Feature-CAS, став ведущим локальным модификатором эффекта.
По словам авторов, это изолирует ценность разделения того, что предсказывает результат, и того, что объясняет неоднородность причинного эффекта. Метод может быть полезен в задачах, где важно понимать, на какие группы людей вмешательство влияет по-разному — например, в экономике, медицине или государственной политике.
Препринт доступен под номером arXiv:2608.12555. Работа прошла проверку на синтетических данных и двух эмпирических датасетах, но пока не рецензирована.
