США и Anthropic создают методику оценки угроз ИИ с правом вмешательства

Белый дом и компания Anthropic, создатель языковой модели Claude, начали совместную работу над стандартизацией оценки безопасности искусственного интеллекта. Об этом сообщает Politico со ссылкой на двух чиновников администрации США.

Разрабатываемая методика призвана оценивать серьезность уязвимостей в новых ИИ-моделях и определять порог, после которого государство может вмешаться в процесс их развертывания. Пока такие решения принимались компаниями самостоятельно, что приводило к разногласиям.

Ранее Anthropic уже сталкивалась с критикой из-за блокировки доступа к своим самым мощным моделям. По версии компании, это было сделано для предотвращения потенциальных рисков. Однако подобные действия вызвали споры в профессиональном сообществе о том, кто и как должен контролировать развитие ИИ.

Теперь частный конфликт вокруг одной компании перерастает в попытку выработать общие правила для всей индустрии. Белый дом стремится создать механизм, который позволит государству оперативно реагировать на угрозы, не замедляя инновации.

Детали методики пока не разглашаются. Предполагается, что она будет учитывать специфику разных типов ИИ-систем и станет основой для будущего регулирования. Эксперты отмечают, что подобный шаг может стать прецедентом для других стран.

В случае успеха стандарт безопасности поможет снизить риски, связанные с появлением сверхмощных моделей, и даст четкие критерии для принятия решений как разработчикам, так и регуляторам.