NeuMoSync: новая архитектура для непрерывного обучения нейросетей без потери гибкости
Исследователи представили архитектуру NeuMoSync, направленную на решение проблемы потери пластичности у глубоких нейросетей при последовательном обучении нескольким задачам. Метод вдохновлён глобальными механизмами нейромодуляции в мозге и добавляет в стандартные сети динамическую модуляцию, адаптирующуюся под текущий контекст.
В основе NeuMoSync лежат два ключевых элемента: обучаемые векторы признаков для каждого нейрона, отслеживающие историю состояния сети, и модуль более высокого уровня абстракции, который синтезирует сигналы для отдельных нейронов с учётом текущих входов и эволюции модели. Это позволяет регулировать активацию и синаптическую пластичность в процессе обучения.
Авторы протестировали архитектуру на нескольких классах задач непрерывного обучения: запоминании случайных меток на CIFAR-10 и MNIST, концептуальном дрейфе на Shuffle CIFAR-10 и Shuffle Mini-ImageNet, инкрементальном обучении классам на ImageNet и CIFAR-100, а также инкрементальном обучении доменам на Permuted MNIST. Во всех сценариях NeuMoSync продемонстрировала устойчивое сохранение пластичности и улучшение как прямой, так и обратной адаптации по сравнению с существующими подходами.
Абляционные эксперименты подтвердили необходимость каждого компонента предложенной схемы. Анализ сгенерированных модулирующих сигналов показал интерпретируемые паттерны координации между задачами, что, по мнению авторов, свидетельствует о потенциале интеграции глобальных механизмов координации в системы глубокого обучения.
Код архитектуры опубликован в открытом доступе на GitHub. Разработка может быть полезна для создания адаптивных ИИ-систем, которые способны осваивать новые навыки без разрушения ранее полученных знаний.
