Новый метод создания агентных LLM-систем: дешевле и точнее динамических

Исследователи представили принципиальный подход к проектированию и оптимизации практичных агентных систем на основе больших языковых моделей (LLM). В отличие от распространённых динамически планируемых рабочих процессов, новый фреймворк делает упор на простоту, контролируемость и предсказуемость затрат на вывод.

Ключевая идея — введение псевдо-инструментов, которые вызывают LLM рекурсивно в ограниченном контексте. Это позволяет разработчикам добиться модульности системы. На основе фреймворка были вручную созданы агенты для разнообразных задач.

Сравнение показало, что фиксированные рабочие процессы, созданные вручную, в целом дешевле и точнее, чем динамически планируемые. Однако затем авторы разработали методы обучения для ключевых компонентов — псевдо-инструментов и фиксированных рабочих процессов, которые превзошли ручную разработку.

Модульность фреймворка также позволила применить многокритериальную оптимизацию для совместного улучшения стоимости и качества ответов, а также объединить результаты нескольких обучающих систем.

Результаты исследования опубликованы в arXiv (препринт 2606.00189). Работа демонстрирует, что отказ от сложных динамических схем в пользу простых модульных конструкций может быть не только практичнее, но и эффективнее.