BioCheck Agent: новый ИИ-агент повышает точность проверки медицинских фактов и снижает галлюцинации
Автоматическая проверка биомедицинских утверждений важна для надежности информации о здоровье, но требует глубокого понимания научной литературы и оценки доказательств. Современные языковые модели с поиском часто выдают лишь простые вердикты, не объясняя ход рассуждений.
Группа исследователей предложила решение — агент BioCheck, построенный на больших языковых моделях. Он не только выносит вердикт (подтверждено или опровергнуто), но и формирует структурированный отчет с изложением доказательств и анализа.
Для поиска информации агент использует исключительно базу PubMed, применяя продвинутые булевы операторы. Это гарантирует опору на качественную научную литературу, а не на случайные веб-страницы.
Ключевая инновация — метод обучения EG-GRPO (Evidence-Grounded Group Relative Policy Optimization). Он поощряет агента за продуманный поиск и релевантные доказательства, одновременно штрафуя за галлюцинации и низкое качество отчетов. Такой подход позволяет даже небольшим открытым моделям работать точнее.
В экспериментах на наборе данных SciFact BioCheck Agent с EG-GRPO показал улучшение точности предсказания меток на 9,95% по сравнению с базовой моделью Qwen3.5-4B. При этом качество подобранных доказательств выросло на 3,7%, а уровень галлюцинаций в доказательствах снизился на 19,63%.
Разработчики отмечают, что создание объяснимых отчетов — важный шаг к практическому применению ИИ для проверки медицинских фактов. Врачи и исследователи смогут быстрее оценивать достоверность утверждений, а пациенты — получать более прозрачную информацию.
