Новая теория связывает фазовые переходы в ИИ и химии
Ученые из международной группы опубликовали на arXiv препринт, в котором предложили универсальную теоретическую основу для фазовых переходов в сложных информационных системах. Работа объединяет явления из глубокого обучения (например, «гроккинг» и эмерджентные способности) и неравновесной химии (пребиотический отбор) в рамках единого подхода.
Авторы рассматривают обе системы как «управляемые информационные системы» — стохастические процессы с двумя градиентными полями: скорость производства энтропии Sigma и информационный квазипотенциал Phi_I. На этом базисе введены два кандидата в параметры порядка: порог адверсариального разрушения alpha_dagger и порог самореферентной связи kappa_c. Совместное масштабирование (alpha_dagger, kappa_c) определяет кандидатский класс универсальности с показателями (gamma_1, gamma_2).
В рамках фреймворка исследователи описали геометрическую структуру, позволяющую отличать его от альтернатив с одним полем. Также сформулированы проверяемые предсказания, такие как характер скейлинга при адверсариальных атаках и условия возникновения частичной интроспекции в больших языковых моделях.
Работа опирается на эмпирические данные за 2024-2026 годы, касающиеся переходов в выравнивании (alignment transitions), скейлинга адверсариального разрушения и феномена частичной интроспекции. Авторы утверждают, что их теория согласуется с этими наблюдениями, но при этом предлагает объяснение, отсутствующее в однофакторных моделях.
Новый подход может дать ключ к пониманию фундаментальных механизмов как в искусственном интеллекте, так и в физико-химических системах. В частности, он потенциально объясняет, почему в нейросетях внезапно возникают новые способности (эмерджентность) и как в химических реакционных сетях происходит направленный отбор без внешнего вмешательства.
Дальнейшие исследования, вероятно, будут направлены на экспериментальную проверку предсказаний фреймворка, в том числе в области безопасности ИИ (устойчивость к адверсариальным атакам) и синтетической биологии (конструирование самовоспроизводящихся систем).
