Новый метод управления ИИ-инструментами: активационное управление снижает ненужные вызовы
Исследователи из группы SEM Foreign RusNews AI представили новый подход к управлению использованием внешних инструментов большими языковыми моделями (LLM). В препринте на arXiv описывается метод извлечения векторов управления из позиций заголовочных якорей, которые воздействуют на решение модели вызывать инструменты.
Инструментально-дополненные LLM расширяют свои возможности за счёт внешних сервисов, но склонны вызывать их даже тогда, когда это не нужно. Авторы работы показали, что существуют стабильные внутренние представления, связанные с решением об использовании инструмента. Эти представления можно извлечь и манипулировать ими.
В ходе экспериментов с пятью открытыми моделями и тремя доменами векторы, полученные из позиций заголовочных якорей, оказывали двунаправленное причинное воздействие на поведение вызова инструмента. Наиболее эффективно подавление ненужных вызовов работало в областях, где достаточно параметрического знания.
Геометрический анализ выявил, что причинная эффективность не соответствует чёткой линейной структуре. Шаги вызова инструмента демонстрируют диффузное, бимодальное выравнивание с вектором подавления, а разные типы инструментов используют в основном различные внутренние сигнатуры с низким перекрытием признаков.
Исследователи предполагают, что эти геометрические свойства указывают на ненараметрическую природу инструментов и отличают векторы управления для инструментов от векторов, извлечённых для параметрически обоснованных концепций. Связь между геометрической нерегулярностью и наблюдаемой причинной эффективностью остаётся открытым вопросом.
Работа может помочь в разработке более контролируемых и экономичных систем ИИ, которые используют внешние инструменты только при необходимости, снижая затраты и повышая надёжность.
