Ученые описали теорию видообразования в диффузионных моделях на римановых многообразиях
Исследователи представили на arXiv теорию специации для генеративных диффузионных моделей, работающих на компактных римановых многообразиях. Под специацией понимается процесс, при котором в ходе денойзинга изначально неразличимые траектории распределяются по разным классам данных, образуя устойчивые ветви.
Ранее такие переходы обычно описывали как симметричную бифуркацию типа вилки, предполагая, что пространство имеет большую размерность. Новая работа предлагает внутренний подход: специация характеризуется через бифуркации критических точек эволюционирующей плотности вероятности.
Авторы используют спектральное представление теплового ядра, которое делает явной роль геометрии многообразия. Теория Пуанкаре — Хопфа и теория Морса накладывают глобальные ограничения на число и тип равновесий оценки, выявляя топологически обусловленные геометрические моды.
Для смесей тепловых ядер доказано, что типичные события специации имеют одномерное критическое ядро и допускают нормальную форму A2-складки. Вилки и одновременные многонаправленные переходы возникают лишь в необщих симметричных конфигурациях, как показывают авторы.
Получены зависящие от геометрии оценки времени специации для бимодальных смесей и правильных симплексов. Также установлена структурная устойчивость невырожденных складок при возмущениях оценки и показано, что сдвиг времени первого порядка определяется только компонентой ошибки оценки вдоль критического направления.
Теорию проиллюстрировали на сфере с использованием смесей фон Мизеса — Фишера, где наблюдаются бифуркации типа вилки и седло-узел, топологические моды и иерархические множественные специации.
В работе также предложена схема внутреннего обучения оценки на основе нейронных сетей, которая сопоставляет теоретически предсказанные переходы на простых и более сложных наборах данных. Это позволяет проверять теорию на практике.
