Рассуждения в ИИ предложили считать обучаемым процессом на основе правил
На arXiv опубликован позиционный доклад, авторы которого предлагают пересмотреть то, как исследователи понимают рассуждения в системах искусственного интеллекта. Работа размещена под идентификатором 2608.12325 и сразу привлекла внимание сообщества.
В тексте отмечается, что рассуждения долгое время были областью символического ИИ, тогда как современные успехи связаны в основном с глубокими вероятностными генеративными моделями. Однако, по мнению авторов, в сообществе до сих пор нет чёткого операционального определения термина «рассуждение», что мешает оценивать прогресс.
Ключевой тезис доклада: рассуждение стоит рассматривать как обучаемый правиловой процесс. Такая трактовка, считают авторы, позволяет сделать оценку качества более проверяемой и приблизиться к созданию доверенных автономных систем.
Исследователи также обращают внимание на проблему конструктной валидности: без ясного определения нельзя понять, действительно ли тесты измеряют способность рассуждать. Это, по их словам, подрывает доверие к результатам многих экспериментов.
В качестве решения авторы предлагают два практических шага. Во-первых, операциональные определения, основанные на синтезе существующей литературы. Во-вторых, чек-лист для описания исследований, который поможет сообществу единообразно сообщать о методах и результатах.
Пока доклад носит постановочный характер и не предлагает готовой модели. Однако он может повлиять на то, как академические группы и компании будут выстраивать эксперименты в области искусственного интеллекта и интерпретировать их результаты.
