Федеративное объяснимое ИИ: как совместить конфиденциальность и прозрачность — новый обзор
Исследователи опубликовали на arXiv обзор, посвящённый федеративному объяснимому искусственному интеллекту (FedXAI) — парадигме, объединяющей федеративное обучение и объяснимый ИИ. Федеративное обучение (FL) позволяет обучать модели на распределённых данных без их централизации, сохраняя конфиденциальность. Однако сами модели остаются «чёрными ящиками». XAI добавляет прозрачность, но традиционные методы редко учитывают распределённую природу FL.
Новый обзор систематизирует работы по FedXAI, выделяя роли объяснимости на всех этапах FL: от агрегации и персонализации до обеспечения робастности и координации. Авторы предлагают таксономию, классифицирующую методы по роли объяснимости, типам моделей и объяснителей, области объяснения, уровню интеграции, настройкам FL и гетерогенности данных.
В рамках обзора рассмотрены методы от модельно-агностических объяснений до интерпретируемых федеративных моделей и механизмов агрегации с учётом объяснимости. Особое внимание уделено оценке: авторы отмечают отсутствие стандартизированных бенчмарков и метрик для измерения качества, стабильности, утечки приватности и вычислительных затрат объяснений.
Среди ключевых вызовов выделены: обеспечение объяснимости при не-IID данных, атаки на безопасность, связанные с объяснениями, коммуникационно-эффективные методы XAI, непрерывное FedXAI, а также интеграция предметных знаний и регуляторных ограничений.
Работа представляет собой справочную основу для проектирования доверенных, прозрачных и приватных федеративных систем ИИ. Как отмечают авторы, переход к FedXAI — это не просто добавление объяснений, а переосмысление роли прозрачности в распределённом обучении.
