Дистилляция онтологии для языковых моделей: Qwen3.6-27B сравним с GPT-5 на финансовых задачах

Исследователи представили совместную работу, объединяющую два метода для регулируемых финансовых организаций: онтологически усиленную дистилляцию и аудит контекстуальности. Цель — создание языковых моделей, которые могут работать внутри корпоративного периметра, соблюдая требования к суверенности данных.

В первой части работы изучалась дистилляция онтологии: студенческая модель Qwen3.6-27B адаптировалась к онтологии Foundation AgenticOS через supervised fine-tuning на траекториях ведущих моделей и онтологически обоснованную оптимизацию предпочтений (DPO). Обучение проводилось локально на Apple M5 Max с использованием 47 синтетических англоязычных пар предпочтений.

На 40 отложенных задачах финансового домена на вьетнамском языке дистиллированная модель правильно обосновала 36 задач (коэффициент обоснованности 0,90, среднее покрытие терминов онтологии 0,95). Эти показатели совпали с результатами базовой модели GPT-5, которая также показала 36 из 40. Однако, как отмечают авторы, мощность эксперимента недостаточна для установления эквивалентности: 95% доверительный интервал парных разностей охватывает ±4 задачи, а предварительно зарегистрированная гипотеза о превосходстве студенческой модели не подтверждена.

Вторая часть работы посвящена методу аудита контекстуальности для маршрутизации агентов предприятия. В отдельном пилотном исследовании с отрицательными результатами скорректированная каноническая степень контекстуальности оказалась нулевой для всех групп как в локальном прогоне Qwen, так и в проверке на Gemma. Полезным сигналом авторы считают прямое влияние и конструктивное сопряжение, а не остаточную контекстуальность.

Совокупность исследований объединяет механизм построения модели на основе онтологии с диагностическим инструментом управления, который определяет, когда кажущиеся расхождения должны инициировать стандартизацию подсказок, многоагентный синтез или проверку человеком. Авторы подчеркивают, что полученные данные не подтверждают пригодность к развертыванию, безопасность, превосходство, статистическую эквивалентность или положительное правило маршрутизации по контекстуальности.

Работа опубликована на arXiv (ID: 2607.11948) и представляет интерес для разработчиков корпоративных AI-систем в регулируемых отраслях, где требуется локальное обучение и работа с чувствительными данными.