SLAT: новый метод сокращает цепочки рассуждений ИИ вдвое без потери точности
На платформе arXiv опубликован препринт, в котором исследователи представили новый метод борьбы с избыточностью в цепочках рассуждений (Chain-of-Thought) больших языковых моделей. Метод получил название SLAT — Segment-Level Adaptive Trimming.
Современные модели, обученные с подкреплением (RL), часто генерируют длинные рассуждения, содержащие структурно избыточные фрагменты. Такое «переосмысление» приводит к высоким вычислительным затратам без улучшения качества ответов.
Авторы работы показали, что неэффективность сосредоточена в сегментах с высокой вероятностью, но низкой предельной полезностью. На основе этого они разработали теоретическую характеристику субоптимальности сегментов в рамках компромисса между правильностью и длиной.
SLAT представляет собой фреймворк обучения с подкреплением, который избирательно подавляет избыточные сегменты. Этот подход опирается на формальный критерий и не использует грубые равномерные штрафы за длину, которые могут подавить полезные рассуждения.
Эксперименты на стандартных бенчмарках показали, что SLAT устанавливает более высокую границу Парето по точности и эффективности. Метод сокращает длину рассуждений на 50% по сравнению с несжатыми baseline, сохраняя конкурентоспособную точность.
Результаты свидетельствуют о том, что теоретически обоснованное сегментное обрезание является многообещающим направлением для создания эффективных цепочек рассуждений в больших языковых моделях.
