Новый метод CIExplainer делает работу графовых нейросетей прозрачнее и понятнее
Разработчики представили новый подход к объяснению решений графовых нейронных сетей (GNN). Метод под названием CIExplainer использует каузальный вывод для выявления подграфов, которые действительно влияют на результат работы модели. Это делает «чёрный ящик» нейросетей более прозрачным.
GNN применяются в социальных сетях, молекулярной биологии, рекомендательных системах и других областях, где данные имеют структуру графа. Однако понять, почему сеть выдала тот или иной результат, часто сложно. CIExplainer решает эту проблему, оценивая причинно-следственные связи между входными данными и предсказаниями.
В основе метода лежит подход Potential Outcome Framework — статистическая техника для измерения эффекта воздействия. CIExplainer перебирает возможные подграфы и вычисляет, какой из них сильнее всего влияет на выход сети. Авторы протестировали метод на архитектурах GCN, GraphSAGE, GAT и GIN.
Второй компонент — G2TeXplainer — переводит найденные каузальные подграфы в текстовое описание. Оно учитывает как признаки узлов и рёбер, так и отношения между ними. Таким образом, пользователь получает не просто картинку, а связное объяснение на естественном языке.
Работа опубликована на портале arXiv. Разработчики отмечают, что их подход может повысить доверие к моделям GNN в ответственных приложениях — например, в медицине или финансах. В будущем они планируют распространить метод на более сложные типы графов и динамические сценарии.
