Новый метод управления генерацией текста в диффузионных моделях повысил точность до 93%
Ученые из Массачусетского технологического института и ряда других вузов представили новый подход к контролируемой генерации текста в дискретных диффузионных языковых моделях. В статье на arXiv они описали проблему: стандартные методы, заимствованные из авторегрессионных моделей, равномерно вмешиваются на каждом шаге шумоподавления, что снижает качество, особенно при одновременном управлении несколькими атрибутами.
С помощью разреженных автоэнкодеров на четырех моделях размером от 124 миллионов до 8 миллиардов параметров авторы выявили, что разные атрибуты «закрепляются» на разных этапах генерации. Например, тема определяется в первые 2% процесса, а тональность формируется постепенно на протяжении 20% шагов. Равномерное вмешательство тратит ресурсы на шаги, где атрибут уже закреплен или еще не сформировался.
В ответ команда предложила адаптивный планировщик, который концентрирует вмешательство на этапах активного формирования атрибута, оставляя остальные шаги нетронутыми. Анализ показал, что преимущество такого подхода выражается единой дисперсионной статистикой распределения закрепления.
В экспериментах на семи задачах управления новый метод избежал типичной для равномерных вмешательств деградации. Особенно впечатляющим оказался результат при одновременном контроле трех атрибутов: сила управления достигла 93%, что на 15 процентных пунктов превзошло лучший из существующих методов, при сохранении качества генерации.
Разработка открывает путь к более точному и эффективному управлению текстом в диффузионных языковых моделях, которые являются альтернативой авторегрессионным подходам и генерируют текст параллельно. Это может быть востребовано в системах помощи, контент-генерации и других приложениях, где требуется контроль над стилем, тональностью или темой.
