Исследование: корреляция признаков усложняет оптимизацию рекомендаций ИИ для человека

Люди все чаще принимают решения с помощью искусственного интеллекта. Например, врачи следуют рекомендованным ИИ диагностическим тестам и ставят диагноз на основе результатов. Возникает естественный вопрос: какие тесты ИИ должен предлагать, чтобы сбалансировать качество решения в краткосрочной перспективе и обучение человека в долгосрочной, если разные признаки (например, результаты тестов) коррелируют между собой?

Предыдущие работы показали, что стационарные политики, рекомендующие одни и те же тесты повторно, оптимальны, когда признаки независимы. Однако авторы нового исследования, опубликованного на arXiv, доказали, что корреляция признаков может приводить к сколь угодно плохой производительности таких политик.

Вместо этого они установили, что любая оптимальная политика должна следовать структуре «исследование-затем-фиксация»: сначала ИИ должен предлагать разнообразные тесты, чтобы человек мог точно оценить коэффициенты признаков, а затем переключаться на единый набор тестов. Длительность исследовательской фазы зависит от степени корреляции признаков.

Авторы также доказали, что вычисление оптимальной политики является NP-трудной задачей, и разработали алгоритм на основе динамического программирования, который находит оптимальную политику для конечного горизонта. Кроме того, они предложили аппроксимацию, которая планирует на более короткие горизонты и добавляет стационарный суффикс, достигая почти оптимальной производительности.

Эмпирические результаты подтверждают теорию: чем сильнее корреляция признаков, тем длиннее должна быть исследовательская фаза. Эти выводы важны для проектирования систем поддержки принятия решений в медицине, финансах и других областях, где признаки часто взаимосвязаны.

Работа открывает путь к созданию более адаптивных ИИ-ассистентов, способных учитывать как обучение человека, так и сложную структуру данных.