Новая метрика для измерения сознания ИИ: пересмотр классических тестов
В архиве препринтов arXiv появилась научная заметка, предлагающая по-новому взглянуть на давние споры о сознании искусственного интеллекта. Авторы применили концепцию Conservation-Congruent Encoding (CCE) к трём классическим мысленным экспериментам: мельнице Лейбница, имитационной игре Тьюринга и китайской комнате Сёрла.
В центре работы — разграничение двух величин. Первая, W_causal,T, описывает успешность выполнения задачи с точки зрения наблюдаемого поведения. Вторая, ?_T, названа операциональным сознанием и оценивает, насколько эффективно сохраняемая внутренняя структура системы поддерживает это поведение.
В рамках упрощённой символической модели сравниваются два типа систем. Первая — несжатая система, которая ищет ответ по постоянно растущему набору неиспользуемых сопоставлений. Вторая — компактная генеративная система, переиспользующая внутренние структуры. По внешним результатам обе могут быть одинаково успешны, однако по уровню ?_T они сильно расходятся.
Авторы подчёркивают: именно это расхождение позволяет отделить внешнюю имитацию понимания от организации, которая реально поддерживает поведение. Классические возражения, например аргумент китайской комнаты, традиционно строились на том, что внешне правильные ответы не доказывают понимания. Предложенный подход переводит этот спор из философской плоскости в измеримую.
Отдельно отмечается, что различие между чистой производительностью и внутренней организацией может быть важно для будущего анализа безопасности ИИ. Система, способная правдоподобно имитировать успешное поведение без устойчивой внутренней структуры, с точки зрения авторов может требовать иных подходов к контролю, чем система, переиспользующая компактное представление.
Пока работа носит теоретический характер и не предлагает готового инструмента для тестирования существующих моделей. Однако она задаёт рамку, в которой понятие сознания ИИ можно обсуждать не как бинарный признак, а как измеримую характеристику, имеющую отношение к безопасности.
