Новый метод объяснимого ИИ HCBM превзошёл линейные модели на аэрофотоснимках
Группа исследователей опубликовала статью, в которой описывается новый подход к объяснимому искусственному интеллекту — модель Hoeffding Concept Bottleneck (HCBM). Разработка нацелена на повышение интерпретируемости глубоких нейросетей в задачах компьютерного зрения, особенно там, где решения имеют высокую ответственность.
Существующие концептуальные модели (CBM) используют линейную агрегацию оценок концепций, что требует большого числа концепций и ведёт к утечке информации. Авторы HCBM предложили заменить линейную комбинацию на функциональное разложение Хёфдинга для градиентного бустинга деревьев. Это обеспечивает нелинейное и разреженное агрегирование, а также формирует компактные прогнозы с помощью простых импликант.
Эксперименты показали, что HCBM превосходит стандартные линейные CBM как по точности, так и по устойчивости к межконцептуальной утечке. Метод эффективен не только для классификации, но и для задач обнаружения объектов. Особый акцент сделан на сложном случае — обработке аэрофотоснимков, где HCBM продемонстрировал высокую производительность.
Как отмечают авторы, большой набор концепций в CBM снижает объяснимость и способствует утечке информации. HCBM решает эту проблему за счёт нелинейного разреженного отбора, что позволяет получать более чистые предсказания. Метод основан на разложении Хёфдинга, которое разбивает функцию на сумму членов, взаимодействующих в разных порядках, и используется в градиентном бустинге.
Исследование подтверждает, что HCBM может заменить линейные CBM в приложениях, где требуется высокая интерпретируемость при сохранении точности. Адаптация к обнаружению объектов делает модель пригодной для реальных задач, таких как анализ спутниковых снимков.
