Разногласия вместо консенсуса: учёные предложили новый метод для ИИ-модерации

Учёные опубликовали работу, в которой предложили отказаться от стремления к консенсусу в мультиагентных системах. Вместо этого они предлагают использовать разногласия в рассуждениях агентов как источник полезной информации.

Авторы отмечают, что для задач, связанных с ценностными суждениями (value-laden tasks), разногласия могут отражать нормативную неопределённость, а не ошибку агента. Поэтому стремление к единому мнению через голосование или консенсус может быть неоптимальным.

В рамках подхода разработан слой представления знаний, в котором трассы рассуждений и решения агентов абстрагируются в символические состояния разногласий. Выделяются четыре состояния: конвергентное согласие, дивергентное согласие, конвергентное разногласие и дивергентное разногласие.

Эти состояния позволяют применять стратегические правила маршрутизации, которые учитывают не только итоговые решения, но и схожесть рассуждений. Предложенный фреймворк был протестирован в контексте модерации контента.

По мнению авторов, такой подход обеспечивает мост между субсимволическими рассуждениями больших языковых моделей и символическим представлением знаний для стратегического мышления мультиагентных систем. Результаты могут быть полезны для платформ, где требуется баланс между автоматизацией и учётом контекста.

Работа доступна в архиве препринтов arXiv.