ELMER: эволюционная языковая модель для точного управления мутациями
Команда исследователей представила ELMER (Evolutionary Language Model that Explores and Refines) — эволюционную языковую модель, предназначенную для поиска и уточнения программ через описание на естественном языке. Разработка направлена на решение проблемы контроля над изменениями в поведении программы, когда небольшое изменение кода может привести к непредсказуемым последствиям.
Традиционные эволюционные алгоритмы оценивают лишь результат мутации, но не контролируют, насколько сильно изменилось поведение. Синтаксический размер правки часто не отражает реального влияния: крошечная правка может полностью изменить логику, а крупная — сохранить прежнее поведение. ELMER предлагает подход, при котором поиск ведётся в пространстве текстовых описаний политик, а затем они компилируются в исполняемые программы.
В основе ELMER лежит модель Qwen3-8B, дообученная на трёх задачах: условная семантическая мутация, компиляция описания на естественном языке в предметно-ориентированный язык GPTL и обратный перевод из GPTL в текст. Модель обучали с помощью Direct Preference Optimization (oDPO), причём сила мутации задавалась явно как низкая, средняя или высокая.
Эксперименты показали, что oDPO улучшает как калибровку изменений, так и эффективность поиска при ограниченном бюджете. В ходе 252 эволюционных запусков модели на фиксированном бюджете наилучшая приспособленность достигалась при использовании естественного языка в качестве представления.
Анализ результатов подтвердил, что условный вход, задающий силу мутации, систематически влияет на состав семантических правок. При этом языковые мутации сохраняют больше родительской приспособленности при одинаковом небольшом или умеренном смещении поведения. Это указывает на то, что язык может выступать в роли управляемого представления для поиска в пространстве исполняемых программ.
Публикация размещена в архиве препринтов arXiv. По словам авторов, ELMER открывает путь к более точным и интерпретируемым методам автоматического улучшения кода, где изменения контролируются не только на уровне синтаксиса, но и на уровне смысла.
