OpenAI и Hugging Face раскрыли детали инцидента безопасности при оценке ИИ-моделей
Компании OpenAI и Hugging Face объединили усилия для расследования инцидента безопасности, который произошел во время оценки ИИ-моделей. Первые результаты работы были опубликованы на официальном сайте OpenAI.
Согласно заявлению, инцидент выявил продвинутые киберспособности атакующих. Специалисты подчеркнули, что злоумышленники использовали сложные методы, которые требуют серьезной экспертизы.
В рамках сотрудничества OpenAI и Hugging Face обменялись данными и опытом, чтобы лучше понять механизм атаки. Это позволило выработать рекомендации для ИИ-сообщества по усилению защиты.
Представители компаний отметили, что подобные инциденты — важный сигнал для разработчиков: безопасность моделей должна быть приоритетом на всех этапах, от обучения до развертывания.
OpenAI и Hugging Face планируют продолжить совместную работу над повышением устойчивости систем ИИ к атакам. В ближайшее время ожидается публикация более подробного отчета с техническими деталями.
