Новый метод CPP улучшает логику и точность больших языковых моделей

Исследователи представили новый подход к улучшению работы больших языковых моделей (LLM), получивший название Concretized Proposition Prompting (CPP). Метод направлен на преодоление композиционно-знаниевой дихотомии — ситуации, когда модели либо теряют способность к логическим рассуждениям, либо демонстрируют недостаток фактических знаний.

В основе CPP лежит явная конкретизация утверждений, релевантных заданному вопросу. Это позволяет модели более четко структурировать ответы, опираясь как на логические связи, так и на достоверные факты.

Эксперименты показали, что CPP значительно повышает производительность в медицинских бенчмарках, где точность знаний критична. При этом метод остается конкурентоспособным и на математических задачах, где приоритет отдается дедуктивным рассуждениям.

Дополнительные исследования подтвердили, что CPP масштабируется на различные базовые модели и размеры параметров. Авторы отмечают, что этот подход может стать фундаментальной парадигмой, объединяющей композиционные и знаниевые методы.

Таким образом, CPP предлагает практическое решение давней проблемы баланса между логикой и фактологией в ИИ. Внедрение метода не требует значительных вычислительных ресурсов и может быть адаптировано под существующие системы.

Работа опубликована на arXiv и доступна для ознакомления. Дальнейшие исследования могут быть направлены на апробацию CPP в более широком спектре прикладных задач.