Universal Quantum Transformer: квантовая архитектура превзошла классические нейросети в алгебре
Международная группа исследователей опубликовала на arXiv описание Universal Quantum Transformer (UQT) — вычислительной архитектуры, использующей квантовые свойства многочастичных систем. Разработка нацелена на точное математическое и алгебраическое рассуждение, что остаётся сложной задачей для классических непрерывных нейросетей.
Классические нейронные сети, работающие с непрерывными пространствами, с трудом усваивают точные дискретные симметрии, такие как модульная арифметика и некоммутативная алгебра. Для приближения этих правил им требуется огромное количество параметров, что приводит к стохастической нестабильности — явлению, известному как grokking.
UQT принципиально отличается: он использует параметризованное геометрическое фазовое вложение и интерференцию SU(2) как универсальный индуктивный сдвиг. Вместо имитации классических нейронных механизмов, квантовая модель опирается на физику кубитов. На компактном 5-кубитном чипе она идеально обучилась двум различным классам: циклической модульной арифметике (Z11) и неабелевой алгебре (группа перестановок S4).
В то время как классические трансформеры на основе внимания демонстрируют стохастическую нестабильность при сходимости, UQT достигает математически точного детерминированного обобщения. Авторы назвали это явление кристаллизацией — шагом вперёд по сравнению с известным grokkingом.
Помимо точности, UQT обеспечивает значительные вычислительные и память преимущества. Теоретически он обходит квадратичное узкое место классического self-attention и логарифмически сжимает размерность представления, устраняя необходимость сверхпараметризации.
Архитектура была развёрнута на квантовом оборудовании IBM с NISQ-уровнем шума, что подтвердило её практическую применимость. Результаты показывают, что параметризованная квантовая топология может стать универсально превосходящим физическим субстратом для точного искусственного интеллекта.
