SchemaRouter: новый метод маршрутизации инструментов для эффективных RAG-систем

Научная работа SchemaRouter, опубликованная на arXiv, предлагает новый подход к управлению инструментами в агентных системах с дополненной генерацией (RAG). Авторы указывают на две типичные проблемы: переполучение данных, когда агент запрашивает все возможные поля и инструменты, и недополучение, когда нужные поля пропускаются. Обе проблемы ведут к лишним затратам токенов и задержкам.

SchemaRouter решает задачу через построение схемного графа, который описывает инструменты, конечные точки, параметры, поля ответов, доменные понятия, единицы измерения, происхождение данных и лицензии. При запросе система формирует исполняемый план вызовов инструментов с указанием конкретных полей для извлечения. Интент, концепции и ограничения определяет небольшая языковая модель, а выбор полей выполняется детерминированно с помощью проекции интент-групп и сопоставления концепций через алиас-слой.

На бенчмарке из 110 запросов по материаловедению SchemaRouter показал точность ответов 0,71, что сопоставимо с подходом fetch-everything (все данные) и выше, чем prompt-all (0,66), хотя доверительные интервалы перекрываются. При этом система использовала лишь 227 токенов извлечённого контекста против 2066 у fetch-everything, а сквозная задержка оказалась в 2,7 раза ниже, чем у prompt-all.

Также SchemaRouter добился наилучшей точности выбора инструментов (0,93) и полной валидности параметров (1,0). Происхождение данных и лицензии указывались в 62% ответов, в то время как базовые методы не давали этой информации почти никогда.

Авторы отдельно проверили гипотезу о том, что сокращение числа выбранных полей всегда полезно. Оказалось, что минимизация количества полей снижает точность до 0,56, почти не экономя токены. Вместо этого проекция, сохраняющая полноту информации, обеспечивает лучшую точность.

Разработка ориентирована на гетерогенные RAG-системы, которые работают с внешними API, базами данных, векторными и графовыми хранилищами. SchemaRouter позволяет масштабироваться независимо от размера схемы и добавляет проверяемость источников, что важно для задач, где критичны достоверность и лицензионная чистота ответа.