Графовые нейросети стали понятнее: новый метод извлекает компактные логические правила

Графовые нейронные сети (GNN) широко применяются для классификации узлов в социальных сетях, биологических данных и других структурах. Однако их предсказания часто остаются непрозрачными, что мешает использованию в чувствительных областях. Новый препринт на arXiv предлагает способ превратить эти «чёрные ящики» в понятные логические правила.

Существующие методы объяснения, такие как LogicXGNN, строят глобальные правила из наборов объясняющих подграфов. Как отмечают авторы, такие подграфы часто содержат избыточную информацию, привязанную к отдельным узлам, что ограничивает обобщение правил.

Предложенный фреймворк работает с сетями Simple Graph Convolution (SGC). Для каждого узла вычисляется минимальный набор пар «узел-признак», достаточный для сохранения предсказанного класса. Эти минимальные абдуктивные объяснения служат промежуточным представлением.

На основе таких объяснений обучаются деревья решений, из которых затем извлекаются глобальные логические правила. Это позволяет охватить общие закономерности, не теряясь в индивидуальных особенностях объектов.

Эксперименты на эталонных наборах данных показали, что полученные правила остаются компактными, а их точность воспроизведения исходной модели SGC высокая. Таким образом, подход подтверждает практическую ценность.

Работа публикуется в категории Machine Learning (cs.LG) и доступна по номеру arXiv:2608.17103. Повышение интерпретируемости GNN — шаг к более надёжному ИИ, на который можно полагаться в бизнес-процессах, медицине и науке.