Новый алгоритм MoRe ускоряет сходимость многозадачного обучения в два раза
Научная статья, опубликованная на arXiv, описывает новый метод многозадачной оптимизации — MoRe (Multi-objective Regularity-aware). Разработка направлена на повышение эффективности обучения моделей ИИ, которые одновременно решают несколько задач.
Авторы показали, что стандартный стохастический мульти-градиентный спуск (SMG) имеет субоптимальную скорость сходимости из-за шума в градиентах. Установлено, что конфликт-избегающее направление обладает лишь 1/2-непрерывностью по Гёльдеру, что ограничивает скорость. Однако при наличии дополнительной регулярности эту непрерывность можно улучшить до липшицевой.
На основе этого открытия исследователи предложили алгоритм MoRe. Он использует конфликт-избегающее направление, когда градиенты сильно расходятся, и переключается на линейную скаляризацию в противном случае. Это обеспечивает гарантированное избегание конфликтов на каждой итерации.
Теоретически метод улучшает скорость сходимости в невыпуклом случае с O(T^{-1/4}) до O(T^{-1/2}), где T — число итераций. Логарифмические множители опущены. Эксперименты подтвердили эффективность MoRe в многозадачном обучении и согласие с теоретической скоростью.
Работа может найти применение в областях, где требуется одновременная оптимизация нескольких целей, например, в робототехнике, рекомендательных системах и автономном вождении. Исходный код и детали доступны в препринте.
