AI Act: новый фреймворк определяет, какие системы ИИ обладают способностью к выводу
Европейский Акт об искусственном интеллекте (AI Act) стал первым комплексным регулированием ИИ, устанавливающим обширные обязательства для так называемых систем высокого риска и общего назначения. Ключевым отличительным признаком таких систем является способность к выводу (inference). Однако сам Акт не дает четкого определения этого понятия, создавая серую зону для некоторых систем, основанных на данных.
Например, системы кредитного скоринга перечислены в Приложении III AI Act как системы высокого риска, но на практике часто реализуются с помощью статистических моделей. Неясно, обладают ли они способностью к выводу и подпадают ли под определение ИИ по AI Act. Исследователи из Fraunhofer Institute for Intelligent Analysis and Information Systems (IAIS) мотивировали свою работу именно этой неопределенностью.
В своей работе на arXiv они используют статистическую теорию обучения для разработки фреймворка, который позволяет градуировать различные уровни способности к выводу. Опираясь на AI Act и Руководящие принципы Комиссии по определению системы искусственного интеллекта, авторы анализируют, какие уровни соответствуют достаточной способности к выводу по смыслу AI Act, а где требуется дополнительная регуляторная ясность.
Для иллюстрации фреймворка они создали два реалистичных рабочих процесса кредитного скоринга и показали, происходит ли в них вывод и на каком этапе. Анализ демонстрирует, что оценивать нужно не только отдельные модели, но и весь процесс обработки данных. Кроме того, участие экспертов-людей во время разработки может существенно влиять на способность системы к выводу.
Код фреймворка доступен на GitHub (fraunhofer-iais/inference-framework-creditscorecards). Разработка может помочь регуляторам и разработчикам точнее определять, какие системы должны подчиняться требованиям AI Act, а также улучшить понимание границ между традиционной статистикой и искусственным интеллектом.
