Ученые представили протокол HEP для проверяемых ИИ-исследователей
Группа исследователей предложила протокол HEP (Hypothesis Evolution Protocol) для LLM-агентов, который превращает процесс научного поиска в аудируемую последовательность операций. Работа опубликована на сервере препринтов arXiv.
Современные LLM-агенты способны самостоятельно выдвигать гипотезы, проводить эксперименты и корректировать свои убеждения, но эти шаги остаются скрытыми в неструктурированных логах. Протокол HEP решает эту проблему, делая каждый этап — генерацию гипотезы, её оценку и эволюцию — явным и проверяемым.
В ходе тестирования на задачах в области материаловедения агент, оснащённый HEP, смог реализовать полный цикл «гипотеза — тест — доказательство — обновление убеждений», который отсутствует у обычных планирующих агентов. Результаты показали, что протокол работает для разных исследовательских вопросов и раскрывается полнее по мере роста возможностей базовой LLM.
Авторы отмечают, что HEP позволяет как самому агенту, так и человеку-исследователю отслеживать, как формируются и меняются научные гипотезы. Это важный шаг к созданию аудируемых ИИ-учёных, чьи рассуждения можно инспектировать, верифицировать и использовать как основу для дальнейших исследований.
Разработка может ускорить внедрение ИИ в научные лаборатории, особенно в дисциплинах, где требуется строгая воспроизводимость и прозрачность методологии. Пока HEP протестирован только на материалах, но авторы предполагают его применимость и в других областях.
