Обучение ИИ социальным нормам повысило эффективность координации с человеком в 4 раза
Ученые представили новый подход к обучению искусственного интеллекта, основанный на формализации негласных социальных норм. В исследовании, опубликованном на arXiv, они сосредоточились на динамическом взаимодействии пешеходов и водителей как типичном сценарии, где требуется быстрая и естественная координация.
Для сбора данных авторы создали упрощенную экспериментальную платформу, которая воспроизводила ключевые особенности такого взаимодействия. В ходе эксперимента было собрано 3456 динамических человеческих взаимодействий, на основе которых ученые выделили три принципа социальных норм: предсказуемость исхода, согласование ценностей и осознание преимуществ.
Интеграция этих принципов в алгоритмы ИИ, в частности в большую языковую модель (LLM), значительно улучшила показатели координации. В задаче замкнутого взаимодействия с людьми агент, обученный социальным нормам, набрал почти в четыре раза больше очков по сравнению с базовой стратегией.
Кроме того, результат такого ИИ-агента оказался на 43% выше, чем средний показатель взаимодействия между двумя людьми в тех же условиях. Это указывает на то, что явная формализация неявных норм позволяет ИИ лучше адаптироваться к человеческому поведению.
Авторы отмечают, что существующие подходы часто просто подгоняют поведение модели под человеческие демонстрации, не улавливая глубинные правила. Предложенный метод решает эту проблему, делая социальные нормы измеримыми и программируемыми.
Результаты открывают путь к более естественной интеграции ИИ в повседневную жизнь — от управления транспортом до роботов-помощников, где требуется эффективное и вежливое взаимодействие с человеком.
