Новая причинно-следственная модель для алгоритмического восстановления решений ИИ

Доверие к системам искусственного интеллекта становится всё более важным. Одним из ключевых элементов является возможность получить рекомендации о том, как отменить негативное решение, — эта задача известна как алгоритмический рекурс (algorithmic recourse).

Существующие подходы рассматривают результаты рекурса как контрфактуалы для фиксированного субъекта, игнорируя, что в реальности решения принимаются неоднократно в различных скрытых условиях. Новая работа, опубликованная на arXiv, предлагает причинно-следственную модель, которая описывает рекурс как процесс до и после вмешательства, допуская частичную стабильность и пересчёт скрытых переменных.

Авторы вводят условия пострекурсной стабильности, позволяющие анализировать эффекты рекурса только на основе наблюдательных данных. На этой основе разработан копула-алгоритм для вывода эффектов вмешательства.

Для ситуаций, когда доступны парные наблюдения одного субъекта до и после вмешательства (так называемые данные рекурса), исследователи предложили методы оценивания параметров копулы и проверки адекватности модели. В случае отклонения копульной модели используется безраспределительный алгоритм, который обучает эффекты рекурса непосредственно по данным.

Эффективность предложенных методов продемонстрирована на реальных и полусинтетических наборах данных. Работа открывает путь к более прозрачным и подотчётным системам ИИ, способным не только принимать решения, но и объяснять, как их можно изменить.