Новый метод борьбы с предвзятостью ИИ сокращает ошибки на 90% при минимальных потерях точности
В новом исследовании на arXiv учёные представили подход к детекции и смягчению предвзятости в системах машинного обучения. Они формализовали предвзятость как операцию нарушения симметрии: классификатор считается справедливым, если его выходные данные не меняются при гипотетическом изменении защищённого атрибута (например, пола или расы) при фиксированных заслугах.
Для устранения дисбаланса авторы реализовали регуляризацию на основе функции потерь, действующую как механизм восстановления симметрии. Метод тестировался на четырёх синтетических наборах данных с разным уровнем шума, корреляции и предвзятости.
Результаты показали, что фреймворк снижает нарушения справедливости более чем на 90% при незначительном падении точности — около 5%. Это делает его привлекательным для применения в чувствительных областях, таких как кредитование, найм или уголовное правосудие.
Важное преимущество подхода — отсутствие необходимости в знании каузального графа. Он также требует мало вычислительных ресурсов и обобщается на любые защищённые атрибуты, которые можно представить в виде битового флипа.
Авторы отмечают, что их метод особенно полезен в ситуациях, когда локальные источники дискриминации отсутствуют в стандартных бенчмарках. Работа расширяет арсенал инструментов для построения этичного ИИ.
Развитие таких методов критически важно, поскольку системы ИИ всё чаще применяются в высокорисковых социально-экономических контекстах, где несправедливые решения могут иметь серьёзные последствия. Предложенный фреймворк предлагает практичный и эффективный способ борьбы с этой проблемой.
