Детерминизация в теориях структур: новая математическая основа для борьбы с галлюцинациями ИИ

В новом препринте на arXiv предложен формальный подход к построению канонических интерпретаций в так называемых структурах теорий. Работа описывает теорию как тройку, включающую сигнатуру, аксиомы и правила вывода, а её допустимые интерпретации собираются в единое семейство. Цель — понять, при каких условиях из множества возможных логических вариантов можно получить единственный непротиворечивый результат.

Ключевое понятие — детерминизация. Авторы выделяют три уровня канонизации: стабилизация замыкания (когда результат сходится к одному решению с разных стартовых точек), глобальное завершение (независимость от выбора начальной точки) и полная детерминизация (единственная допустимая интерпретация). Это позволяет систематизировать причины, по которым логические системы могут давать разные результаты.

Недетерминизм в работе классифицируется на два типа. Эпистемический (Type E) связан с нехваткой информации, а структурный (Type S) — с самой организацией системы. Отдельно выделен подкласс Type S-strong, для которого отсутствуют общие верхние границы — в таких теориях детерминизация достигается через специальный механизм канонического выбора.

Для механизмов канонизации авторы описывают два базовых подхода: операторное завершение и селекторное конструирование. Они доказывают, что в определённых условиях чисто логическое завершение сводится к насыщенному оператору замыкания. При этом для теорий типа E гарантируется стабилизация, однако полная детерминизация требует глобального свойства конфлюентности, которое остаётся открытым вопросом.

Практический интерес работа представляет для систем на базе больших языковых моделей. По версии авторов, галлюцинации можно интерпретировать как неподтверждённую канонизацию: модель делает вывод, не имеющий опоры в исходной структуре данных. Такое видение может помочь в создании методов, делающих рассуждения ИИ более прозрачными и предсказуемыми.

Препринт опубликован на arXiv и ещё не проходил полноценное рецензирование. Тем не менее предложенная классификация недетерминизма и условия детерминизации могут стать полезным инструментом для исследователей, работающих над надёжностью искусственного интеллекта.