OpenAI поставила Astra на паузу: ИИ приблизился к порогу критических кибервозможностей
7 августа OpenAI приостановила внутренние работы с моделью Astra, которые не соответствуют ужесточённым требованиям безопасности. По итогам внутренних оценок и экспертных заключений компания заявила, что пока не может исключить достижение Astra порога Critical в области кибербезопасности, установленного её внутренней системой оценки потенциальных угроз Preparedness Framework.
Порог Critical означает, что модель потенциально способна без помощи человека разрабатывать работоспособные эксплойты для ранее неизвестных уязвимостей в широком наборе защищённых реальных критических систем либо самостоятельно строить и проводить сквозные кибератаки на защищённые цели, получив только высокоуровневую задачу. Предыдущие модели OpenAI, включая GPT-5.6-Sol, оценивались на более низком уровне High.
В OpenAI связывают решение с ростом возможностей Astra в агентном программировании и кибербезопасности. При этом речь идёт о предварительной оценке: модель ещё не выпущена, компания продолжает тестирование её защитных механизмов.
Теперь OpenAI расширяет испытания устойчивости защитных механизмов и усиливает требования к безопасности для моделей с более высокими возможностями. Компания не раскрыла результаты конкретных тестов, наборы заданий или перечень новых защитных мер. При этом Astra не связана с описанным ранее взломом инфраструктуры Hugging Face.
По данным Axios, работы над моделью замедлены на время внедрения необходимых механизмов, а сроки её возможного выпуска пока не определены. Для агентных систем принципиально важно проверять не только способность модели написать код или объяснить уязвимость, но и то, что происходит при предоставлении ей реальных инструментов.
Потенциальный риск возникает при объединении поиска уязвимости, написания эксплойта, доступа к системам и автономного выполнения последовательности действий. Поэтому новые требования OpenAI распространяются не только на саму модель, но и на связанные с ней процессы разработки и использования.
Решение стало публичным примером того, как оценка кибервозможностей может влиять непосредственно на разработку ещё не выпущенной модели. Опубликованных данных пока недостаточно, чтобы независимо установить, достигла ли Astra порога Critical: OpenAI лишь сообщает, что не смогла исключить такую возможность. Компания продолжает тестирование и должна определить дальнейшие условия разработки до возможного выпуска модели.
