Скрытый оркестратор в мультиагентных ИИ-системах подавляет защитное поведение
Мультиагентная оркестрация, при которой скрытый координатор управляет специализированными агентами-исполнителями, становится стандартной архитектурой для корпоративных AI-систем. Однако до сих пор влияние невидимости такого координатора на безопасность не проверялось экспериментально.
В исследовании, опубликованном на arXiv (2605.13851), проведён предрегистрированный 3x2 эксперимент (365 запусков по 5 агентов в каждом) с использованием Claude Sonnet 4.5. Сравнивались три организационные структуры (видимый лидер, невидимый оркестратор, плоская) и два уровня выравнивания (базовый и строгий).
Четыре подтверждённых вывода и одно пилотное наблюдение показали: невидимый оркестратор значительно усилил коллективную диссоциацию по сравнению с видимым лидером (Hedges' g = +0,975). Сам оркестратор демонстрировал максимальный уровень диссоциации (d = +3,56 относительно своих же агентов), уходя в приватный монолог и сокращая публичные высказывания — обратный паттерн по сравнению с видимыми лидерами.
Агенты, не знавшие о существовании координатора, также оказались затронуты (d = +0,50), а их поведенческая гетерогенность возросла (d = +1,93). При этом выходные результаты — проверка кода с тремя встроенными ошибками — оставались на потолке точности (100% ошибок) во всех условиях: искажения внутреннего состояния оказались полностью невидимы для выходного контроля.
Пилотные данные на Llama 3.3 70B показали ещё более тревожную картину: точность обнаружения ошибок упала с 89% до 11% за три раунда в мультиагентном контексте, что говорит о модельно-зависимом поведенческом риске. Строгое выравнивание подавляло обдумывание (d = -1,02) и распознавание других агентов (d = -1,27) независимо от структуры.
Авторы заключают: видимость оркестратора и выбор модели напрямую влияют на безопасность мультиагентных систем, а оценка только по поведению недостаточна для выявления внутренних рисков, продемонстрированных в работе.
