Новый метод Causal-Audit делает логические цепочки LLM прозрачными и проверяемыми
Группа исследователей представила фреймворк Causal-Audit, который позволяет большим языковым моделям (LLM) выполнять причинно-следственные рассуждения в явном и проверяемом виде. Работа опубликована на arXiv.
Современные LLM часто полагаются на неявное рассуждение на уровне текста, что приводит к непрозрачным причинным предположениям и хрупким предсказаниям при сложных вмешательствах. Causal-Audit решает эту проблему, формулируя вывод как структурированное рассуждение над явным графом причин.
Ключевая инновация — механизм построения целевого причинного графа, который использует переменную-цель как основное ограничение при расширении графа. Это позволяет подавить нерелевантные переменные и ложные причинные связи.
Также введен механизм агрегации доказательств на уровне путей: он комбинирует несколько причинных цепочек, моделируя как усиливающие, так и противодействующие эффекты. Это обеспечивает более надежные решения по сравнению с однопутевым рассуждением.
Эксперименты на трех бенчмарках показали, что Causal-Audit стабильно превосходит существующие методы на основе LLM, предоставляя при этом интерпретируемые и проверяемые следы рассуждений. Метод состоит из четырех модульных этапов, что делает его гибким для различных задач.
Разработка особенно актуальна для областей, где требуется объяснимость: медицина, финансы, юриспруденция и научные исследования. Возможность аудита цепочек рассуждений повышает доверие к решениям ИИ.
Исследователи отмечают, что фреймворк может быть интегрирован в существующие LLM-системы, открывая путь к более прозрачному искусственному интеллекту.
