ProToMEx: новый метод объяснения решений ИИ оказался в 30–40 раз быстрее SHAP и LIME

Современные методы объяснения решений моделей машинного обучения в основном опираются на оценку важности отдельных признаков. Такой подход, как отмечают авторы новой работы, не всегда способен отразить сложные комбинации факторов, влияющих на результат.

Для решения этой проблемы представлен ProToMEx — подход, использующий вероятностные тематические модели. Он выявляет скрытые темы, которые соответствуют отдельным высокоуровневым причинам классификации, а не просто важности признаков.

Новый метод обеспечивает как глобальные объяснения поведения модели в целом, так и локальные, позволяя разделять несколько одновременно действующих причин для конкретного прогноза.

Эксперименты на стандартных табличных наборах данных и синтетических данных показали, что ProToMEx дает объяснения с точностью, сопоставимой с SHAP и LIME, но при этом работает примерно в 30–40 раз быстрее при генерации локальных объяснений.

Такая производительность делает метод подходящим для применения в системах реального времени, где важна быстрая и понятная интерпретация решений моделей.