Теория ускоряющейся отдачи не решает проблему научных открытий — новая статья на arXiv
На arXiv опубликован препринт, посвященный теории ускоряющейся отдачи Рэя Курцвейла. Эта концепция, популярная в дискуссиях о технологическом прогрессе, утверждает, что достижения в вычислениях, искусственном интеллекте, нейронауке и биотехнологиях взаимно усиливают друг друга, порождая экспоненциальный рост.
Авторы дают математическую интерпретацию этой теории, но затем указывают на её ограничения. По их мнению, ускоряющаяся отдача применима в первую очередь к исполнительским и инфраструктурным возможностям — росту вычислительной мощности, объему данных, скорости алгоритмов. Однако научные открытия требуют другого: способности понять, когда текущая концептуальная рамка перестает работать и какой шаг нужен для её смены.
В качестве иллюстрации приводятся результаты теста ARC-AGI-3. Люди решают его практически без ошибок (100%), в то время как лучшие модели ИИ показывают результат менее 1%. Это демонстрирует огромный разрыв между современным ИИ и гибкостью человеческого мышления.
В работе также упоминается высказывание Демиса Хассабиса из DeepMind: люди должны сохранять чувство смысла и осознанно выбирать, на что направлять свою жизнь. Это напоминание, что будущее ИИ — не только технический прогноз, но и вопрос о том, какие формы человеческого понимания стоит сохранять и передавать.
В качестве ответа на выявленный пробел предлагается концепция Qualitative Engine for Science (QES). Эта система призвана восполнить недостаток качественного рассуждения, который не решается простым наращиванием вычислительных мощностей. Ценность QES, по мнению авторов, не зависит от того, когда наступит AGI, — она заключается в организации и сохранении мудрости, накопленной в процессе научного познания.
Таким образом, статья не отрицает ускорения технологий, но смещает акцент: количественный прогресс важен, но для настоящих открытий нужны иные механизмы, связанные с человеческим пониманием.
