Генеративный инпейнтинг улучшил объяснения ИИ: новый метод для визуального XAI

Сложность современных моделей машинного обучения продолжает расти, что делает их поведение всё менее прозрачным. В ответ на это активно развивается область объяснимого искусственного интеллекта (XAI), предлагающая методы интерпретации решений нейросетей. Среди таких подходов выделяются методы на основе возмущений (perturbation-based), которые изменяют входные данные и оценивают, как это влияет на предсказание.

Для изображений традиционные возмущения часто сводятся к замене пикселей фиксированным цветом или применению простых фильтров. Однако такие приёмы создают неестественные артефакты — изображения, выходящие за пределы распределения обучающих данных. Это может искажать поведение модели и снижать достоверность объяснений.

В новой работе, опубликованной на arXiv, исследователи предложили решить эту проблему с помощью генеративного инпейнтинга. Они модифицировали популярный метод LIME, который обычно использует случайное зашумление или закрашивание областей. Вместо этого алгоритм стал заполнять удалённые фрагменты изображения с помощью модели генеративного инпейнтинга, синтезирующей правдоподобные текстуры и объекты.

Такой подход позволяет получать возмущённые сэмплы, которые визуально неотличимы от реальных фотографий и остаются внутри исходного распределения данных. По утверждению авторов, это значительно повышает качество объяснений: модель реагирует на изменения более адекватно, а карты значимости (saliency maps) становятся точнее и информативнее.

Эксперименты проводились на стандартных датасетах изображений (например, ImageNet) и показали, что фотореалистичные возмущения уменьшают артефакты в объяснениях и делают их более понятными для человека. Разработчики отмечают, что метод легко адаптируется к различным архитектурам моделей.

Работа открывает новые перспективы для XAI: генеративные модели могут не только создавать контент, но и помогать интерпретировать «чёрные ящики» ИИ. Дальнейшие исследования, вероятно, будут направлены на интеграцию подобных подходов в реальные системы, где требуется прозрачность решений — например, в медицине или беспилотных автомобилях.