Андервольтинг GPU повысил устойчивость нейросетей к атакам и снизил энергопотребление
Сверточные нейронные сети (CNN) остаются уязвимыми к специально созданным атакам, а их обучение требует значительных вычислительных ресурсов. Традиционный метод защиты — adversarial training — эффективен, но дорог, особенно при переходе к энергоограниченным периферийным устройствам. Ученые предложили неожиданное решение: использовать андервольтинг GPU во время обучения.
Андервольтинг — снижение напряжения питания графического процессора — приводит к случайным сбоям на уровне битов. Эти сбои, как показало исследование, действуют как неявная регуляризация, улучшая обобщающую способность модели и одновременно снижая энергопотребление. Такой подход не требует изменений в архитектуре нейросети или алгоритмах обучения.
Авторы работы охарактеризовали ошибки, вызванные андервольтингом, на битовом уровне, а затем обучили три модели — LeNet, VGG-6 и MobileNetV3 — на датасетах MNIST и CIFAR-10. Обучение проводилось в двух режимах: стандартном и adversarial, причем каждый из них тестировался при номинальном и пониженном напряжении питания.
После обучения все модели были проверены на устойчивость к adversarial-атакам. Результаты показали, что модели, обученные при андервольтинге, последовательно демонстрируют более высокую точность при атаках, чем их аналоги, обученные при номинальном напряжении. Это справедливо для обоих режимов обучения, включая adversarial training, который сам по себе считается одной из самых надежных защит.
Энергетический эффект также значителен: динамическая мощность процессора масштабируется квадратично от напряжения питания, поэтому снижение напряжения дает существенную экономию энергии. Таким образом, андервольтинг одновременно повышает робастность и энергоэффективность, что особенно важно для edge-устройств с ограниченным энергобюджетом.
Авторы подчеркивают, что GPU undervolting — это легко внедряемая аппаратная защита, не требующая изменения алгоритмов. Открывается перспективное направление, в котором устойчивость нейросетей и энергоэффективность движутся в одном направлении. Исследование опубликовано в архиве препринтов arXiv.
