PlanE: фреймворк для планирования данных, дообучения и инференса LLM

Группа исследователей опубликовала в архиве препринтов arXiv работу, посвящённую новому фреймворку PlanE (Planning framework for Extractive-based LLMs). Разработка направлена на повышение эффективности настройки больших языковых моделей (LLM) под конкретные задачи, связанные с извлечением информации.

PlanE объединяет три ключевых этапа: декомпозицию данных (data decomposition), инструктивное дообучение (instruction tuning) и промпт-инференс (prompt inference). Вместо традиционного подхода с большими объёмами размеченных данных авторы предлагают планировщик DTI (Data-Tuning-Inference), который автоматически выбирает оптимальную базовую LLM и комбинацию этих этапов для заданного датасета.

Эксперименты показали, что PlanE эффективен в двух сценариях: при работе с разными датасетами на одной модели и при использовании одной задачи с разными базовыми LLM. DTI-планировщик продемонстрировал обобщаемость при различных целях оптимизации, что говорит о его универсальности.

По словам авторов, основной проблемой существующих методов является высокая стоимость аннотации данных и отсутствие гибких способов адаптации LLM под конкретные задания. PlanE решает эти вопросы, комбинируя подходы к управлению данными, тонкой настройке и формулировке промптов.

Исходный код фреймворка выложен в открытый доступ на GitHub, что позволяет другим разработчикам тестировать и дорабатывать решение. Ожидается, что PlanE может быть полезен при создании специализированных языковых моделей для анализа документов, извлечения фактов и других задач, где требуется точное извлечение информации.

Работа ещё проходит рецензирование, но предварительные результаты уже доступны в архиве препринтов. В будущем авторы планируют расширить возможности планировщика и применить его к другим типам моделей и задач.