CUGA представила систему политик для управления LLM-агентами без дообучения
Компания CUGA представила модульную систему политик для управления поведением LLM-агентов в корпоративных средах. Решение под названием CUGA Policy System позволяет задавать, какие действия разрешены, когда требуется участие человека и какие данные можно раскрывать, без дообучения модели под каждую задачу.
Система встраивает управление в пять критических точек выполнения. Первый уровень — Intent Guard, блокирующий запросы на этапе планирования. Второй — Playbook, который меняет системный промпт для направления рассуждений агента. Третий — Tool Guide, контролирующий вызовы внешних инструментов. Четвёртый — Human-in-the-Loop, требующий одобрения человека для рискованных действий. Пятый — Output Formatter, фильтрующий и структурирующий итоговый ответ.
Архитектура позволяет внедрять управление непрерывно, а не как дополнение после разработки. Разработчики продемонстрировали работу системы на примере сценария в здравоохранении. Демонстрация показала динамическую вставку Playbook для принудительного выполнения последовательности операций, блокировку вредоносных запросов через Intent Guard и точки одобрения человека для потенциально опасных действий.
Решение ориентировано на корпоративных клиентов, которые развёртывают агентов в регламентированных отраслях. По словам разработчиков, система повышает предсказуемость и соответствие нормативам без замедления внедрения. CUGA подчёркивает, что отсутствие дообучения упрощает обновление политик.
В основе лежит подход «политика как код» — политики описываются в виде исполняемых модулей. Это обеспечивает аудируемость и согласованность поведения агента. Технология совместима с любыми LLM-агентами общего назначения.
CUGA планирует выпустить систему в открытый доступ для тестирования. Компания рассчитывает, что решение ускорит развёртывание надёжных агентов в финансах, медицине и других строго регулируемых сферах.
