Агентный ИИ для мультидронных систем: исследование о доверии операторов и вызовах
На портале arXiv опубликован позиционный доклад, посвящённый применению агентного искусственного интеллекта в мультидронных системах для решения критически важных задач. Авторы обобщают опыт двух исследовательских проектов: NAMUR, изучающего использование больших языковых моделей для управления роботами при поиске и спасении, и PERSIST, посвящённого постоянному мониторингу и охране объектов критической инфраструктуры.
Как отмечается в работе, мультидронные комплексы всё чаще рассматриваются как инструмент для поисково-спасательных операций и наблюдения за инфраструктурой. Однако их реальное применение ограничивается не только уровнем автономности, но и сложностью интеграции агентного поведения в профессиональную деятельность операторов. Специалистам необходимо понимать, контролировать и доверять автоматизации в условиях неопределённости и ограниченного времени.
Авторы доклада подчёркивают, что агентный ИИ следует рассматривать как социотехническую задачу. Интерфейсы, механизмы надзора и методы оценки могут быть не менее важны, чем сами алгоритмы. В частности, речь идёт о том, чтобы оператор сохранял ситуационную осведомлённость и возможность вмешаться в любой момент.
Исследование предлагает человеко-ориентированный и итеративный подход к разработке таких систем. Планируется последовательное выявление потребностей заинтересованных сторон, развитие возможностей агентов через прототипы и создание переносимых концепций. Это позволит формировать стратегии оценки для других сценариев, связанных с высокими рисками.
По мнению авторов, дальнейшее развитие агентного ИИ в мультидронных системах зависит от того, насколько эффективно удастся выстроить взаимодействие между человеком и машиной. В центре внимания остаются вопросы прозрачности решений, распределения ответственности и контроля в условиях быстро меняющейся обстановки.
