ИИ-модель Mythos от Anthropic взломала секретные системы США за часы – глава АНБ
Глава Агентства национальной безопасности (АНБ) и Киберкомандования США генерал Джошуа Радд рассказал сенатору Марку Уорнеру, что модель Mythos, разработанная компанией Anthropic, сумела преодолеть защиту практически всех секретных систем страны. По словам генерала, на это потребовались не недели, а всего несколько часов.
Сенатор Уорнер, занимающий пост заместителя председателя сенатского комитета по разведке, публично сослался на слова Радда 11 июня. Таким образом, впервые была названа конкретная причина, по которой власти США в середине июня потребовали от Anthropic отключить свои наиболее мощные модели. Ранее обоснование, связанное с национальной безопасностью, оставалось расплывчатым.
Инцидент поднимает вопросы о безопасности передовых систем искусственного интеллекта. При том, что сами модели ИИ могут использоваться для защиты, их возможности по взлому систем вызывают серьёзные опасения.
Компания Anthropic, основанная бывшими сотрудниками OpenAI, специализируется на разработке безопасного ИИ. Модель Mythos, по данным источника, обладает возможностями, которые позволяют ей быстро находить уязвимости в защищённых сетях.
По версии американских властей, подобные инциденты требуют пересмотра мер контроля за распространением мощных ИИ-моделей. Пока неизвестно, какие конкретно системы были скомпрометированы и какой ущерб мог быть нанесён.
Эксперты отмечают, что ситуация демонстрирует двойственную природу искусственного интеллекта: с одной стороны, он способен повышать безопасность, с другой — создаёт новые угрозы. Официальные комментарии от Anthropic пока не поступали.
