Мультиагентный планировщик с LLM снизил нарушения задержек в edge-облаке до 3%
Потоковые системы все чаще развертываются в гетерогенной инфраструктуре мобильного edge и облака. Волатильность нагрузки, конкуренция за ресурсы и жесткие требования к качеству обслуживания (QoS) усложняют децентрализованное планирование. Исследователи представили метод MAS-DecStream, призванный решить эти проблемы.
Основная инновация — расширение классического протокола Contract Net Protocol (CNP) с помощью больших языковых моделей. Модуль LLM-MR-CNP добавляет семантическую формулировку CFP, постепенное раскрытие контекста, многовитовый пересмотр предложений, память переговоров и детерминированную проверку.
В предложенной схеме агенты edge-кластеров уточняют предложения на естественном языке, опираясь на локальные наблюдения, прогнозируемое состояние ресурсов и качественный контекст выполнения. При этом жесткие ограничения по ресурсам и QoS остаются детерминированными, что гарантирует надежность.
Эксперименты построены на основе набора данных Alibaba ASI Trace. Авторы сравнили одно- и многовитовый CNP, правило-базируемое и LLM-ассистированное уточнение, а также фиксированную модель с одно- и многовитовыми переговорами. В оцененных конфигурациях MAS-DecStream сократил нарушения задержки до 3% и полностью устранил переподписку ресурсов.
Коэффициент разрешения конфликтов составил 0.91 при работе с 20 агентами. Полезность системы выросла до 22% по сравнению с многовитовым базовым правилом. Отдельная оценка на 25 случаях показала, что точность и стоимость зависят от выбранной модели и промпта.
Полученные результаты дают первоначальные свидетельства того, что основной вклад в повышение эффективности вносит именно многовитовое уточнение протокола CNP, а LLM-поддержка особенно полезна для обработки качественного и неопределенного контекста. Работа опубликована в виде препринта на arXiv.
