BatchDAG: система на LLM ускоряет анализ корпоративных данных в десятки раз
Группа разработчиков из Brevian.ai и исследовательского сообщества представила BatchDAG — систему для масштабного анализа корпоративных данных, основанную на больших языковых моделях (LLM). Система решает проблему «контекстного переполнения» при работе с тысячами записей, заменяя последовательные вызовы LLM на параллельное исполнение графа операций.
В основе BatchDAG лежит типизированный ориентированный ациклический граф (DAG), который LLM строит по текстовому запросу. Граф включает SQL-запросы, семантический поиск, преобразования в памяти и параллельные ветвления. Детерминированный движок выполняет граф с волновым параллелизмом, передавая данные в структурированном JSON-формате.
Ключевая оптимизация — пакетная обработка сущностей (entity-aware batching). Она группирует строки по логическим сущностям перед ветвлением, что сокращает число обращений к LLM до 47 раз. В экспериментах на 12 запросах к транскриптам встреч BatchDAG показал качество 3,74 балла из 5 — сравнимо с экспертным пайплайном (3,25) и лучше, чем у ReAct-агента (3,09).
Дополнительно система обеспечивает прозрачность: 77% ответов содержат ссылки на транскрипты против 46–60% у альтернатив. Замена текстовых сводок на структурированный JSON снизила уровень галлюцинаций на 27% (по парному t-тесту, p=0,107, n=12). Планировщик достиг 98,8% корректных DAG-графов среди 300 вызовов.
В производственной среде Brevian.ai BatchDAG обрабатывает запросы по более чем 50 000 встреч менее чем за 60 секунд. Стоимость одного запроса составляет от $0,02 до $0,24 при использовании опубликованных тарифов GPT-5.1. Разработчики подчёркивают, что система не направлена на повышение точности — это универсальная оркестровка, заменяющая несколько ручных пайплайнов одним генератором стратегии выполнения.
Полное описание BatchDAG опубликовано в архиве arXiv (ID: 2607.18241). Система демонстрирует, как сочетание LLM-планирования и детерминированного исполнения позволяет эффективно анализировать большие корпоративные массивы данных без потери производительности и атрибуции.

