AI Lock-In угрожает: исследователи призывают готовиться к рискам зависимости от ИИ

Научное сообщество обратило внимание на новую угрозу, связанную с искусственным интеллектом. В позиционном документе, опубликованном на arXiv, исследователи описывают феномен AI Lock-In — чрезмерную зависимость от ИИ-систем, которая может привести к деградации человеческих навыков и системным сбоям.

Авторы отмечают, что традиционные исследования безопасности ИИ сосредоточены на техническом выравнивании, то есть на том, чтобы системы действовали в соответствии с намерениями человека, а также на регулировании генеративных моделей. При этом упускается риск, связанный с самой зависимостью от таких систем.

AI Lock-In, по определению авторов, проявляется в том, что люди и организации перестают полагаться на собственные способности, а при отказе или взломе ИИ-инфраструктуры оказываются в уязвимом положении. Уже сейчас этот процесс наблюдается на индивидуальном, общественном и национальном уровнях.

Исследователи описывают сценарии, при которых угроза усиливается: от атрофии навыков у отдельных людей до отказа инфраструктур национального масштаба. Сбои в работе сервисов ИИ или геополитические конфликты могут многократно повысить риски, подчеркивается в документе.

Авторы предлагают для каждого уровня свои меры митигации: например, сохранение базовых навыков для индивидов, резервирование систем на уровне общества и подготовку планов действий для государств. По их мнению, важно начать работу до того, как зависимости станут необратимыми.

Исследователи призывают включить тему AI Lock-In в повестку безопасности ИИ, поскольку это явление уже развивается. Они считают, что это необходимо для сохранения автономии личности и национальной безопасности.