Пространственно-коррелированное обучение повышает точность физико-информированных нейросетей
Физико-информированные нейронные сети (PINN) — перспективный инструмент для решения дифференциальных уравнений в частных производных, востребованный в гидродинамике, теплопередаче и механике твёрдого тела. Однако их обучение осложняется невыпуклым ландшафтом потерь, дисбалансом многокритериальных ограничений и неэффективным распространением информации.
Существующие методы curriculum learning и причинно-следственного обучения улучшают стабильность, но в основном фокусируются на временной или параметрической последовательности, оставляя без внимания пространственное распространение информации и согласованность между областями. Более того, они не подходят для краевых задач с сильной пространственной связью.
Авторы новой работы, опубликованной на arXiv, предложили фреймворк пространственно-коррелированного curriculum learning для PINN. По их словам, это первая работа, которая решает трудности обучения с учётом пространственной связи между подобластями.
Метод включает три ключевых компонента. Первый — пространственные причинные веса, которые направляют информацию от граничных областей внутрь, снижая риск неудачной оптимизации и ложной сходимости. Второй — низкочастотный информационный мост, обеспечивающий согласованность на основе псевдометок между пространственно разделёнными областями, что подавляет глобальный низкочастотный дрейф. Третий — адаптивная стратегия перевзвешивания подобластей, которая корректирует локальные потери, уменьшая остаточные ошибки и восстанавливая высокочастотные детали.
Эксперименты на бенчмарках PDE показали, что при сопоставимых вычислительных затратах предложенный метод сокращает количество сбоев обучения и повышает точность решений. Код метода доступен на GitHub.
Разработка может найти применение в моделировании сложных физических процессов, где требуется высокая точность при ограниченных ресурсах.
