Новый метод CRAFTER улучшает точность замороженных ИИ-моделей без переобучения
Исследователи представили CRAFTER — агента, который находит корректирующие признаки для моделей машинного обучения с замороженными весами. Такой подход позволяет улучшать точность, не прибегая к дорогостоящему дообучению.
Замороженные предобученные модели часто дают сбои в одних и тех же ситуациях. Исправление ошибок через тонкую настройку может быть затратным. Авторы работы изучают задачу обнаружения корректирующих признаков: они извлекают интерпретируемые признаки остатков модели, чтобы управлять лёгким пост-хок корректором.
CRAFTER работает в несколько этапов. Основная модель остаётся неизменной. Система анализирует остатки с помощью двух генераторов: композиционного поиска по исходным каналам входных данных и большой языковой модели, которая предлагает именованные комбинации признаков, бинарные флаги и короткий исполняемый код. Единый валидационный фильтр принимает или отклоняет каждое предложение независимо от источника, а выбранный на валидации корректор применяет принятые признаки либо оставляет прогноз без изменений.
Такой подход позволяет сравнивать разные системы инженерии признаков в одинаковых условиях. По словам авторов, CRAFTER становится инструментом для отделения влияния источника признаков от остальных компонентов улучшения прогноза.
В экспериментах на шести открытых наборах данных и шести замороженных моделях CRAFTER превзошёл все специализированные системы инженерии признаков при каждом бюджете признаков. Улучшение от корректора удваивается, а ошибка самых слабых моделей снижается до 27%.
Устойчивость результатов проверена на разных языковых моделях, а также при применении поверх уже дообученных моделей. По данным исследования, улучшения сохраняются даже после тонкой настройки исходных моделей, что расширяет область применения метода.
