Новая математическая модель ToM-U объясняет, как ИИ может читать чужие мысли
Группа исследователей опубликовала на arXiv работу, в которой предложила формальную модель Theory of Mind Utility (ToM-U). Эта модель описывает, как искусственный интеллект может выводить чужие убеждения, отслеживая не только сказанное, но и порядок получения информации, а также её достоверность.
Авторы подчёркивают, что для понимания чужих мыслей недостаточно считывать поверхностные сигналы — нужно знать, кто кому что сообщил и в какой последовательности. ToM-U решает эту задачу на вычислительном уровне, не привязываясь к конкретным алгоритмам или нейронным сетям.
Ключевой элемент модели — локальные эпистемические миры (LEWMs). Это направленные графы, которые представляют агентов, состояния сущностей и связи между ними. Модель сравнивает различные варианты таких графов с наблюдаемым поведением, пока один из них не достигнет достаточной степени уверенности.
ToM-U включает пять формальных определений, описывающих структуру LEWM, свойства узлов-агентов (включая историю получения информации), механизм ограниченного разрастания рекурсивного ментализирования, три процедуры вывода и функцию остатка, фиксирующую следы неудачных попыток ментализирования.
Авторы отмечают, что их подход отличается от байесовской теории разума, которая предполагает состояние убеждений, а не выводит его. Также он не сводится ни к симуляционной теории, ни к теории-теории, так как предлагает строгий формальный аппарат для вывода эпистемических состояний.
Построенная архитектура даёт фальсифицируемые предсказания о том, когда и почему ментализирование может дать сбой. Эти предсказания следуют из структурных свойств модели, а не из дополнительных допущений. Исследователи позиционируют ToM-U как универсальный механизм, работающий до анализа целей и других социально-когнитивных процессов.
Появление такой формальной модели может иметь значение для разработки более «социального» ИИ — роботов-помощников, чат-ботов и систем, которым необходимо понимать намерения и ошибки в коммуникации.
