Само-верифицирующийся агент: учёные разделили сбои намерений и исполнения ИИ
Международная группа исследователей опубликовала на arXiv.org (препринт 2608.04066) описание нового инструмента для верификации долгосрочных ИИ-агентов. Предложенная система построена так, что проверка становится структурной, а не последующей, и позволяет отделить сбой намерений от сбоя исполнения.
В центре архитектуры — детерминированный исполнительный модуль (Executive), который владеет всеми убеждениями агента. Языковая модель может только подавать типизированные предложения, а заявки принимаются лишь тогда, когда предварительно зарегистрированный прогноз совпадает с наблюдением, проверяемым кодом. Это исключает зависимость от самоотчётов агента.
Ключевая особенность инструмента — самоликвидация невалидных прогонов. Если нарушаются установленные пороговые значения ошибок записи, размера рендера или контрольных меток, прогон автоматически признаётся недействительным. Из первых восьми архитектурных прогонов четыре были аннулированы, причём каждый из них локализовал реальный дефект.
Для корректной оценки абляций используется невидимая теневая ссылка: она компилирует план, который полная система выполнила бы в каждой экспериментальной ячейке. Это позволяет определять метрики дрейфа даже там, где тестируемый механизм удалён.
В ходе экспериментов исследователи получили чистый однофакторный результат. При отключении механизма фиксации намерений показатель отказа от цели меняется с 0,00 до 1,00, тогда как ошибка исполнения остаётся на нуле. Канал исполнения, напротив, не воспроизводит дрейф при удалении его ремонта: поскольку исполнение закреплено кодом, класс отказов поглощается структурно, а его остаточный след проявляется лишь выше по течению как коллапс формирования гипотез.
Важно отметить: эффективность решения задач оказалась нулевой (ноль выполненных заданий за 52 прогона на ARC-AGI-3), что было предварительно объявлено как структурный опровергающий фактор. Поэтому вклад работы — не рост производительности, а методология верификации и измеримая декомпозиция дрейфа для разработки надёжных агентов.
