Исследователи разграничили автоматизацию и настоящий ИИ-агент: предложена архитектура GIC
Группа исследователей опубликовала в архиве препринтов arXiv работу, посвященную фундаментальному вопросу: где проходит граница между автоматизацией и настоящим агентом. В условиях, когда LLM-системы активно позиционируются как «кодинг-агенты» и «AI-соисследователи», а также растут страхи перед потерей контроля над ИИ, авторы предлагают четкие критерии агентности.
Опираясь на философию Декарта и образы автономных существ из научной фантастики, ученые проанализировали современные архитектуры по пяти измерениям: цель, идентичность, принятие решений, саморегуляция и обучение. Ключевой вывод: настоящая агентность требует, чтобы эти структуры были интернализованы внутри самой системы, а не собраны из внешних компонентов.
Вводится различие между «агентными» (agentic) системами, чья компетенция заложена в инженерных пайплайнах, и «агентными» (agentive) системами, способности которых (включая социальное взаимодействие) возникают эндогенно. Первые годятся для предписанных задач, вторые — для истинной автономии в открытом мире.
На основе этого анализа авторы представляют архитектуру Goal-Identity-Configurator (GIC) для общего агента. Она объединяет иерархическую декомпозицию целей, эволюцию идентичности, имитационное рассуждение на базе отдельно обученной модели мира, саморегуляцию и самоуправляемое обучение на реальном и симулированном опыте.
Особое внимание уделяется контролю и безопасности. Исследователи отмечают, что системы с большей автономией (агентные) должны оставаться под надзором человека, а их действия должны быть проверяемыми и управляемыми. Работа задает теоретическую основу для развития безопасного ИИ-агентства.
