Нейро-символический подход: как сделать выводы ИИ в юриспруденции более надёжными
В новом препринте на arXiv (2605.14049) представлен подход, призванный решить ключевую проблему использования больших языковых моделей (LLM) в юриспруденции. Авторы отмечают, что современные AI-системы не только галлюцинируют факты, но и систематически делают выводы, выходящие за пределы исходного текста, выдавая предположения за логически обоснованные заключения.
Предложенный метод — нейро-символическая архитектура, которая объединяет выразительные возможности LLM с формальной верификацией. Это позволяет проверять логическую состоятельность умозаключений и отделять то, что действительно следует из источников, от гипотетических допущений.
По мнению авторов, такой подход способен существенно снизить нагрузку на юристов по ручной проверке результатов AI, не жертвуя при этом ответственностью, которую требует юридическая практика. В высокорисковых сферах, где цена ошибки велика, формальная гарантия корректности становится критически важной.
Разработка находится на стадии предложения; полные реализации и тесты ещё не опубликованы. Однако сама идея сочетания нейросетей и символьного вывода активно обсуждается как один из путей к созданию доверенного legal AI.
В работе также поднимается вопрос о вере в AI: систематическая ошибка в виде неявных допущений может быть опаснее, чем единичные галлюцинации, поскольку она маскируется под логику. Нейро-символическая верификация призвана сделать неявное явным.
Для практики это означает, что в будущем AI-помощники для контрактов, анализа документов и судебных материалов смогут не только генерировать ответы, но и пояснять степень их обоснованности ссылками на формальные правила.
