ИИ научили учиться непрерывно по образцу мозга: архитектура 4MAS имитирует сон и асимметрию полушарий

Современные системы искусственного интеллекта сталкиваются с серьёзным ограничением: при обучении новым задачам они часто забывают ранее полученные знания. Это явление, известное как катастрофическое забывание, вынуждает переучивать модели на всех данных заново, что становится невозможным при ограничениях на хранение или конфиденциальность данных. Биологические системы, напротив, способны учиться непрерывно, не теряя старые навыки.

Новая работа на arXiv предлагает высокоуровневую архитектуру 4MAS (4 Module Awake/Sleep), вдохновлённую механизмами консолидации памяти у животных. Авторы сосредоточились на трёх ключевых концепциях: воспроизведении опыта (experience replay), фазе сна, включая REM-сон, и билатеральности — асимметрии полушарий мозга.

Основная идея 4MAS — разделение модели на четыре модуля, имитирующих левое и правое полушария, каждое со своими механизмами долговременной и кратковременной памяти. Такая структура позволяет модели обрабатывать информацию в двух режимах: бодрствования (обучение на новых данных) и сна (консолидация памяти). Во время сна, по аналогии с физиологией животных, происходит повторное воспроизведение пережитого опыта, что укрепляет связи и предотвращает забывание.

Эксперименты показали, что предложенная архитектура достигает конкурентоспособных результатов на популярных бенчмарках: 98,3% точности на Split-MNIST, 84,9% на Split-Fashion-MNIST и 29,29% на Split-CIFAR-100. Это сопоставимо с существующими методами непрерывного обучения, но при этом предложенный подход ближе к биологическим принципам.

Авторы подчёркивают, что 4MAS — это макроархитектура, демонстрирующая потенциальную пользу от асимметрии модулей и чередования фаз обучения и сна. Дальнейшие исследования могут уточнить детали реализации и расширить применимость подхода на более сложные задачи.

Работа доступна на arXiv под идентификатором 2608.19514 и будет полезна исследователям в области lifelong learning и нейроморфных вычислений.