G2I: объяснимый ИИ на графах находит эффективные вмешательства для соцсетей и здравоохранения
Графовые нейронные сети (GNN) часто применяются в здравоохранении и социальных науках для прогнозирования. Однако перевод предсказаний в реальные вмешательства требует понимания того, как модель принимает решения. Существующие методы объяснения GNN в основном работают на уровне отдельных узлов и не позволяют проектировать сетевые вмешательства.
Авторы новой работы, представленной на arXiv, указывают на ограничения известных контрфактических объяснителей, таких как CF-GNNExplainer и CF2. Эти методы используют непрерывную оптимизацию масок над признаками и рёбрами, что предполагает возможность произвольного изменения связей. На практике многие атрибуты и связи могут быть неизменяемыми, а вычислительные затраты значительны.
В ответ исследователи предложили фреймворк G2I — двухэтапный жадный подход. На локальном уровне он ищет контрфактические примеры через жадный поиск, который непосредственно выявляет минимальные и осуществимые изменения признаков узлов и условий соседей. Полученные контрфактуалы преобразуются в интерпретируемые правила, пригодные для реальных вмешательств.
На сетевом уровне выбор вмешательств формулируется как задача покрытия в дизъюнктивной нормальной форме (DNF) с бюджетным ограничением. Авторы доказали, что целевая функция является неубывающей и приближённо субмодулярной, что позволяет использовать жадный алгоритм с теоретическими гарантиями.
Эксперименты на синтетических графах и реальных сетях риска суицида показали, что G2I даёт масштабируемые и экономически эффективные стратегии вмешательства. По сравнению с маскированными контрфактическими методами, новый подход значительно улучшает эффективность.
Особую ценность представляет то, что объяснения становятся понятными специалистам-предметникам, не обязательно знакомым с ИИ. Это делает G2I практичным инструментом для поддержки принятия решений в области общественного здоровья и социальной политики.
