Глава Anthropic призвал регулировать ИИ как авиацию — с блокировкой опасных моделей
Гендиректор компании Anthropic Дарио Амодеи выступил с инициативой ужесточить государственное регулирование искусственного интеллекта. В эссе под названием Policy on the AI Exponential он предложил взять за образец авиационную отрасль, где каждый самолёт проходит обязательную сертификацию перед эксплуатацией.
По версии Амодеи, передовые ИИ-модели должны проходить обязательное тестирование и аудит до релиза. Государственные органы, по его мнению, должны обладать правом заблокировать или отозвать модель, если она не соответствует стандартам безопасности. Такой подход, считает глава Anthropic, позволит предотвратить потенциальные риски, связанные с мощными системами ИИ.
Эссе было опубликовано 10 июня — на следующий день после выхода новой модели компании, Claude Fable 5. В Anthropic подчеркивают, что будущее развитие ИИ требует не только технологических, но и регуляторных мер.
Амодеи сравнил ИИ с авиацией: самолёты не могут летать без сертификации, а пилоты — без лицензий. Аналогичный подход, по его словам, необходим и для искусственного интеллекта, чтобы избежать катастрофических сценариев.
Инициатива Anthropic отражает растущую обеспокоенность экспертов по безопасности ИИ. Ранее аналогичные призывы звучали от других лидеров индустрии, однако именно это эссе стало одним из самых детальных предложений по государственному контролю.
Пока неизвестно, как отреагируют регуляторы в США и других странах. Однако предложение Амодеи уже привлекло внимание профильных специалистов и может повлиять на формирование будущих законов в сфере ИИ.
