SafeGene: переиспользуемый адаптер безопасности для LLM, решающий проблему ослабления защиты при дообучении
Команда исследователей разработала новый подход к обеспечению безопасности больших языковых моделей (LLM) с открытым весом. Предложенный модуль SafeGene решает проблему ослабления защитных механизмов, которая возникает при дообучении моделей под конкретные задачи.
Открытые LLM всё чаще используются для создания кастомизированных ассистентов. Однако дообучение на новых данных, даже без вредоносных примеров, может снизить способность модели отказывать в опасных запросах. Традиционное восстановление безопасности требует отдельной настройки под каждую версию модели, что неэффективно.
SafeGene предлагает иной подход: безопасность рассматривается как независимая, переиспользуемая способность, отделённая от обновлений под конкретную задачу. Представление этой способности получают из разницы между выровненной и деградировавшей моделью. Затем с помощью анализа данных выбираются наиболее переносимые слои, а адаптация к новой задаче выполняется через few-shot калибровку коэффициентов по слоям.
Эксперименты проводились на нескольких семействах моделей, разнообразных downstream-задачах и с различными оценщиками безопасности. Результаты показали, что модели, усиленные SafeGene, значительно реже генерируют вредные ответы, сохраняя при этом качество выполнения основной задачи. По заявлению авторов, подход превосходит известные методы безопасной адаптации по компромиссу между безопасностью и полезностью.
Разработка особенно актуальна для сценариев, где модели регулярно обновляются на новых данных или взаимодействуют с пользователями. Вместо повторного восстановления защиты после каждого цикла дообучения SafeGene позволяет один раз настроить адаптер и применять его многократно.
Полный текст исследования опубликован на arXiv, что позволяет другим разработчикам ознакомиться с деталями метода и проверить его эффективность на своих моделях.
