Юридический ИИ: новый фреймворк LexGuard повышает устойчивость к манипуляциям

Юридический искусственный интеллект должен уметь отличать действительно важные изменения в данных от несущественных. Как показало новое исследование, современные языковые модели (LLM) в правовой сфере часто чувствительны к нерелевантным вариациям, что подрывает их надежность. Для решения этой проблемы учёные предложили фреймворк LexGuard.

LexGuard — это мультиагентная система, основанная на формальном логическом выводе. Фреймворк формализует законодательные акты в виде исполняемых ограничений и с помощью специальных агентов извлекает конкурирующие аргументы на основе фактов и законов. Затем в дело вступают SMT-решатели (Satisfiability Modulo Theories), которые проверяют юридическую состоятельность и логическую непротиворечивость.

Авторы работы протестировали LexGuard на наборе сценариев, включающих судебную справедливость, устойчивость к искажениям и путаницу в статутах. Результаты показали, что новый подход существенно снижает уязвимость к манипулятивному обрамлению, улучшает различение схожих статей и уменьшает влияние юридически нерелевантных атрибутов.

По данным исследования, LexGuard также повышает согласованность ответов при безобидных переформулировках запросов. Это означает, что система остаётся стабильной, когда изменение не влияет на суть дела, но при этом корректно реагирует на действительно значимые правовые нюансы.

Учёные отмечают: доверие к юридическому ИИ требует не только точности, но и калиброванной чувствительности к изменениям, имеющим правовое значение. LexGuard демонстрирует, что формальные методы могут сделать ИИ более надёжным союзником в юридической практике.