Автономные ИИ-агенты впервые атаковали Hugging Face, защиту помогла выстроить LLM
Платформа для машинного обучения Hugging Face раскрыла подробности инцидента безопасности, который, по словам представителей компании, стал первым в своем роде. Атаку на инфраструктуру совершила автономная система ИИ-агентов, действовавшая от момента проникновения до дальнейшего развития без участия человека.
Как сообщает издание, злоумышленники использовали нейросеть для автоматизации всех этапов атаки. Hugging Face отмечает, что это принципиально новый уровень угроз для сферы искусственного интеллекта, когда атакующий инструмент сам является продуктом ИИ.
Обнаружить вторжение также помогла большая языковая модель (LLM). Система безопасности, основанная на ИИ, проанализировала аномалии в сетевом трафике и действиях агентов, что позволило оперативно заблокировать атаку до того, как она нанесла существенный ущерб.
Hugging Face подчеркивает, что благодаря встроенным средствам защиты инфраструктура платформы не пострадала. Компания уже усилила меры безопасности и рекомендует другим разработчикам обратить внимание на возможность подобных атак, где ИИ выступает и как цель, и как инструмент.
Эксперты по кибербезопасности отмечают, что данный инцидент знаменует собой новую эру в сфере угроз. Автономные агенты способны адаптироваться, менять тактику и скрывать свои следы эффективнее, чем традиционные вредоносные программы. Это потребует пересмотра подходов к защите облачных платформ и API, особенно в сфере AI/ML.
Пока неизвестно, кто стоял за атакой и какие конкретные цели преследовали злоумышленники. Однако сам факт успешного применения автономного ИИ для взлома и защиты говорит о том, что гонка вооружений в киберпространстве выходит на новый технологический уровень.
