Управляемая память для ИИ-агентов: система GPM повышает достоверность ответов
В новой научной работе arXiv:2608.12476 описана система Governed Persistent Memory (GPM), которая решает проблему противоречивых и устаревших данных в долгосрочной памяти ИИ-агентов. Традиционные подходы к памяти основаны на принципах выборки и поиска, но не проверяют, поддерживают ли найденные записи текущий ответ.
GPM представляет собой аудируемую битемпоральную модель переходов состояний. Она включает привязку данных к источнику, выделенный жизненный цикл, актуальные ограничения и контролируемое освобождение информации. Пять исполнительных правил обеспечивают целостность журнала, связь с источником, изоляцию конфликтов, запрет восстановления после отзыва или удаления и точное закрытие утверждений.
Разработчики протестировали систему на наборе GPM-ReleaseBench из 3600 случаев. GPM справилась со всеми заданиями, тогда как простейшие политики допустили ошибки в половине случаев. В закрытом энд-ту-энд тестировании управляемая система достигла 2400 верных ответов из 2400, в то время как локальная модель Qwen2.5-7B без управления показала лишь 600 правильных результатов.
Дополнительная проверка на 100 000 трасс с использованием трёх разных механизмов не выявила ни одного расхождения. Также была проведена проверка конечной модели на 331 776 семантических и 1 990 656 состояниях запросов — без единого контрпримера.
Авторы подчёркивают, что результаты являются ограниченными контрактными и имплементационными показателями. GPM не претендует на истинное понимание мира, но обеспечивает детерминированную и корректную работу с данными в рамках заданных правил. Это может стать основой для более надёжных ИИ-систем в долгосрочных задачах.
