Глава Google DeepMind предложил создать международный орган по контролю за мощными ИИ-моделями
Глава Google DeepMind Демис Хассабис призвал к созданию международной независимой организации для оценки передовых моделей искусственного интеллекта. В опубликованном блоге с заголовком A Framework for Frontier AI and the Dawning of a New Age он предложил учредить надзорный орган, который будет анализировать самые мощные ИИ-системы до их запуска и при необходимости рекомендовать временные ограничения на их распространение.
По замыслу Хассабиса, инициатором создания такого органа должны выступить США, учитывая их ведущую роль в разработке ИИ и влияние на технологический рынок. В состав организации предлагается включить экспертов по безопасности ИИ, представителей научного сообщества и разработчиков открытого программного обеспечения. Основная задача — независимая оценка наиболее мощных моделей и выработка рекомендаций по замедлению их внедрения, если они будут признаны потенциально опасными.
Хассабис отметил, что развитие ИИ приближается к этапу появления систем, близких к искусственному общему интеллекту (AGI), способных выполнять широкий спектр интеллектуальных задач на уровне человека или выше. По его словам, текущий период может стать началом фундаментальных изменений в экономике и обществе, поэтому механизмы контроля необходимо создавать заранее, а не постфактум.
Как сообщает Axios, Хассабис уже несколько месяцев обсуждает свою инициативу с представителями американской администрации, другими лабораториями ИИ и европейскими чиновниками. Он рассчитывает, что новая организация сможет начать работу до конца 2026 года. Однако пока не существует ни согласованного международного формата такого регулятора, ни единой системы правил для ИИ в самих США.
Предложение Google DeepMind стало частью более широкой дискуссии о регулировании самых мощных моделей ИИ. Ранее Хассабис вместе с другими руководителями технологических компаний выступал за усиление защиты от потенциального использования искусственного интеллекта для создания биологического оружия. Параллельно представители индустрии и экономики предупреждают о необходимости заранее подготовиться к возможным изменениям на рынке труда и в мировой экономике из-за быстрого развития ИИ.
При этом создание глобального надзорного органа остаётся сложной задачей: разные страны по-разному оценивают риски ИИ, а ведущие технологические компании одновременно выступают за регулирование и продолжают активно развивать собственные модели. Предложение Хассабиса фактически ставит вопрос о том, кто и каким образом будет определять допустимые границы развития наиболее мощных систем искусственного интеллекта.
