Новый фреймворк NeSyFS улучшил планирование LLM-агентов при неполной информации
LLM-агенты всё чаще используются в автономных сценариях: от самокоррекции до научных открытий. Однако на практике они действуют в условиях частичной наблюдаемости, когда доступна лишь часть информации о среде. Это порождает проблемы: неверную оценку состояния, рассинхронизацию целей и трудности с планированием.
Большинство существующих подходов опираются на полную или сжатую историю действий и наблюдений. Избыточные или нерелевантные данные могут сбивать агента с толку и приводить к ошибочным решениям.
В новой работе на arXiv предложен фреймворк NeSyFS — нейросимволическая система быстрого и медленного мышления. Она использует граф знаний для представления текущего состояния агентом. Тройки графа служат контекстом для всех модулей системы.
Быстрый модуль отвечает за реактивные действия, а медленный — за планирование с учётом неопределённости. Он построен на основе высокоуровневой структуры алгоритма twisted sequential Monte Carlo. Такой подход позволяет агенту более осознанно выбирать последовательность шагов.
Отдельный модуль рефлексии анализирует действия быстрого мышления и переключает агента на медленное, если реактивные шаги повторно приводят к неудаче. Это помогает корректировать отклонения от исходной задачи.
Эксперименты на трёх известных бенчмарках — ALFWorld, Webshop и ScienceWorld — показали значительное превосходство NeSyFS над предыдущими методами. По мнению авторов, такой гибрид нейронных и символьных подходов приближает ИИ к более гибкому и надёжному поведению в реальных условиях.
