AgenticRei: новая система управления ИИ-агентами на основе обязательств и разрешений
Разработчики предложили новый подход к управлению автономными ИИ-агентами, способными вызывать инструменты, манипулировать данными, устанавливать программное обеспечение и координировать действия с другими агентами. Традиционные системы безопасности, такие как аутентификация и контроль доступа, не охватывают весь спектр корпоративных требований. Для решения этой проблемы создан фреймворк AgenticRei, который вводит деонтические политики — правила, регулирующие не только разрешённые и запрещённые действия, но и обязательства, которые агент должен выполнить при определённых условиях.
В основе AgenticRei лежит язык деонтических политик, построенный на платформе Rei и выраженный в формате OWL (Web Ontology Language). Это позволяет проводить онтологическое рассуждение над классами предметных областей, что важно для таких сфер, как здравоохранение, кибербезопасность и защита данных. Политики выполняются высокопроизводительным логическим движком вне большой языковой модели, что гарантирует скорость и безопасность принятия решений.
Современные системы управления политиками, такие как XACML, Rego и Cedar, поддерживают лишь базовые разрешения и запреты. Они не обрабатывают жизненный цикл обязательств, не разрешают конфликты между политиками и не предоставляют механизм диспенсаций (временного снятия обязательств в особых обстоятельствах). AgenticRei закрывает эти пробелы, добавляя функции управления обязательствами, разрешения конфликтов на уровне метаполитик и возможность отступления от правил в конкретных ситуациях.
Архитектура AgenticRei объединяет в одном конвейере управление как вызовами инструментов агентом, так и сообщениями между агентами. Это позволяет единообразно контролировать все взаимодействия в гетерогенных средах. Разработчики отмечают, что фреймворк совместим с отраслевыми стандартами, в частности с протоколом A2AS (Agent-to-Agent Security), что упрощает его интеграцию в существующие корпоративные системы.
На примерах авторы демонстрируют, что деонтические политики способны выразить многие требования безопасности и конфиденциальности, которые невозможно описать в современных промышленных движках. Например, агент может получить обязательство уведомить ответственного за безопасность после выполнения определённого действия, а при конфликте правил система автоматически выберет приоритетное предписание.
Предложенная модель ориентирована на предприятия, где ИИ-агенты работают в сложных организационных контекстах. Руководители служб безопасности смогут задавать точные границы дозволенного, а также определять, какие действия агент обязан предпринять и когда эти обязанности могут быть смягчены. Это снижает риски несанкционированного использования данных и нарушений нормативных требований.
По мнению авторов, AgenticRei открывает путь к созданию полностью управляемых экосистем агентов, где политики могут динамически адаптироваться к меняющимся условиям. Дальнейшие исследования планируется направить на тестирование масштабируемости и производительности в крупных промышленных развёртываниях.
