Архитектура памяти важнее пропускной способности канала в языковых играх ИИ-агентов
Новое исследование на arXiv показало, что в задачах формирования общего языка между ИИ-агентами ключевую роль играет не пропускная способность канала, а архитектура памяти. Ученые протестировали пять вариантов памяти в языковой игре Льюиса, где отправитель и получатель должны скоординировать код без предварительных договоренностей, используя только историю взаимодействий.
В эксперименте агенты с постоянным личным блокнотом (persistent private notebook) достигли наиболее надежной координации — 0,867 ± 0,023 при пропускной способности канала 25. Этот результат превзошел показатели агентов без памяти, которые демонстрировали пик при умеренной пропускной способности, а затем ухудшались по мере роста словаря, не помещающегося в контекстное окно.
Блокнот выполняет функцию внешней памяти, сохраняя усвоенные условности и освобождая агентов от необходимости заново выводить коды в каждом раунде. Это позволило эффективно использовать избыточную пропускную способность канала, тогда как агенты без памяти страдали от так называемого коллапса высокой пропускной способности.
Интересно, что аргумент, основанный на информационном узком месте (information bottleneck), предсказывал оптимальную пропускную способность, равную количеству объектов. Однако эксперимент показал, что узкое место (capacity = 8) оказалось точкой уязвимости, а избыточная пропускная способность в целом оказывается полезнее.
Вывод исследователей: пропускная способность канала сама по себе не может предсказать успех координации. Именно архитектура памяти определяет, превращают ли агенты историю взаимодействий в стабильные условности. Для понимания того, как сигналы становятся языком, необходимо учитывать оба фактора.
Результаты открывают новые перспективы для разработки мультиагентных систем, где согласование коммуникаций критично, например, в распределенных робототехнических комплексах или в автоматизированных переговорных агентах.
