Tree of Evidence: новый фреймворк автоматической проверки фактов улучшает точность на 24%
Научная группа представила фреймворк Tree of Evidence (ToE), предназначенный для автоматической проверки фактов. Разработка описывается в статье на arXiv (2606.27736) и направлена на борьбу с дезинформацией, в том числе создаваемой нейросетями и распространяемой через механизмы GEO-отравления.
ToE моделирует каждое утверждение в виде динамически расширяющегося дерева аргументов. Фреймворк объединяет три ключевых компонента: агент сбора доказательств на основе обучения с подкреплением, агент оценки доказательств и алгоритм агрегации. Система итеративно разбивает, собирает и проверяет утверждения через объяснимую цепочку доказательств.
В работе приводится теоретический анализ процесса поиска, показано, что полученная политика сходится к окрестности теоретически оптимальной. Авторы также установили формальную границу ошибки, гарантирующую устойчивость алгоритма.
Эксперименты проводились на нескольких наборах данных и с разными языковыми моделями. ToE показал улучшение на 4–24 процентных пункта по сравнению с конкурентными базовыми методами. Наибольший прирост (до 24%) наблюдался на данных, зашумлённых состязательными атаками, что подчёркивает устойчивость фреймворка к манипуляциям.
Проблема AI-дезинформации обостряется с развитием генеративных моделей: техники GEO-отравления позволяют систематически внедрять вредоносный контент в результаты поиска, что загрязняет выводы LLM. ToE может стать инструментом для детекции таких угроз.
По мнению авторов, иерархическая структура и прозрачность цепочки доказательств делают фреймворк пригодным для применения в новостных агрегаторах, соцсетях и фактчекинговых системах. Дальнейшие исследования планируется направить на снижение вычислительных затрат и адаптацию к различным языкам.
