Исследование: инструменты доверенного ИИ игнорируют объяснимость и экологию
Международная группа исследователей провела критический анализ инструментов и фреймворков доверенного ИИ (Trustworthy AI), используя обширный набор данных Организации экономического сотрудничества и развития (OECD). В работе, опубликованной на платформе arXiv, авторы отмечают, что, несмотря на обилие высокоуровневых этических руководств, конкретные механизмы их реализации остаются слабыми.
Эмпирическое картирование и сравнительный анализ показали значительные перекосы в этических акцентах. Наибольшее внимание в существующих инструментах уделяется справедливости, прозрачности и робастности. При этом такие важные аспекты, как объяснимость принимаемых решений, защита цифровых данных и экологическая устойчивость, практически не охвачены.
Авторы также выявили неравномерность охвата жизненного цикла ИИ-систем. Большинство инструментов сертификации и оценки сосредоточены на этапах после развертывания, в то время как ранние стадии — проектирование и сбор данных — остаются без достаточного руководства. Образовательные инициативы и взаимодействие с политиками также развиты слабо.
По мнению ученых, текущие усилия в области доверенного ИИ в основном носят технический и процедурный характер, будучи сконцентрированы в промышленном контексте. Это создает разрыв между общими принципами этичного ИИ и реальной практикой.
Чтобы преодолеть этот разрыв, исследователи предлагают расширить перечень этических целей, интегрировать этику на всех этапах жизненного цикла систем и активнее привлекать множественные заинтересованные стороны. Результаты работы содержат как диагностику существующих пробелов, так и практические рекомендации для создания более целостного и инклюзивного управления ИИ.
