PathoSage: новая ИИ-система для патологии снижает галлюцинации и конфликты данных
Группа исследователей представила PathoSage — новую трёхэтапную систему для мультимодального анализа патологических изображений. Разработка призвана решить проблему галлюцинаций морфологических признаков и конфликтов между данными, которые характерны для современных мультимодальных больших языковых моделей (MLLM).
Основная идея PathoSage — разделение процессов поиска знаний, сбора доказательств и их финальной оценки. Это позволяет избежать смешения контекста и уменьшить влияние предвзятости при формировании окончательного решения.
Ключевой компонент системы — Structured Evidence Deliberation (структурированное обсуждение доказательств). Он независимо анализирует результаты работы разных инструментов, выявляет противоречия и формирует итоговое заключение в чистом контексте, снижая эффект якорной привязки.
Дополнительно авторы внедрили безысходную Beta-Bernoulli систему с непрерывным назначением кредитов. Она оценивает долгосрочную надёжность каждого инструмента и строит взвешенные по схожести априорные вероятности для будущего применения.
Эксперименты показали, что PathoSage эффективно уменьшает количество галлюцинаций в ответах на вопросы по изображениям (VQA) и снижает разногласия между классификаторами. По этим показателям система превзошла существующие MLLM и агентные подходы в патологии.
Разработчики отмечают, что явное взвешивание доказательств и учёт ненадёжности инструментов являются ключевыми факторами для создания надёжных патологических агентов. Работа опубликована в архиве препринтов arXiv.
