ODYSSEY: категорный фреймворк для верифицируемых AI-моделей представят на ICML 2026
Группа исследователей представила ODYSSEY — категорный фреймворк для построения верифицируемых фундаментальных моделей, сохраняющих локальную истинность. Разработка описывается в препринте на arXiv.
ODYSSEY использует компоненты, называемые foundry (литье), которые задают локальные контексты, семейства представлений, карты ограничений, правила склейки и политики блокировки. Каждый foundry включает аргументационный компонент. Конкретные foundry строятся из обобщенных категорий — например, evidence/argument, operational decision, institutional/financial и другие.
Для формализации построения foundry используется Universal Foundry Learning (UFL) на основе левых и правых расширений Кана. Левые расширения объединяют локальные артефакты в кандидатные foundry, а правые — обеспечивают выполнение условий ограничений, склейки и аргументации.
Также представлен Foundry SQL (FSQL) — типизированный язык запросов для работы с поддерживаемыми артефактами foundry. Для допуска внешних моделей в постоянное состояние ODYSSEY применяется сертификация TICKET (Topos Integration using Causal Kan Extension Transformers).
Фреймворк полностью реализован и протестирован на широком спектре конкретных foundry. Он поддерживает конструирование доменов, воспроизведение артефактов, диагностику пучков, проверку с помощью Toulmin и локальных LLM, реестры остаточных блокировок и оптимизированное извлечение причинно-следственных утверждений из разнородных источников.
Доклад по ODYSSEY будет представлен в виде 2,5-часового туториала на конференции ICML 2026. Домашняя страница туториала доступна по ссылке bit.ly/4ajS0nA.
