Новый метод позволяет узнать, почему ИИ сомневается: шум или нехватка данных

Научная статья, опубликованная на arXiv, предлагает новый способ диагностики неопределенности в прогнозах глубоких нейросетей. Авторы адаптировали два классических статистических подхода — гомоскедастические и гетероскедастические линейные оценки — для современных архитектур машинного обучения.

Неопределенность в моделях ИИ обычно делят на два типа: алеаторную, связанную с шумом в самих данных, и эпистемическую, возникающую из-за нехватки примеров в обучающей выборке. До сих пор разделить их на практике было сложно, особенно при работе с большими моделями.

Разработчики использовали приближенные матрицы Фишера — математический аппарат, который описывает количество информации о параметрах модели в данных. Это позволило масштабировать классические оценки до реальных архитектур, включая трансформеры и сверточные сети.

Эксперименты показали, что разные тестовые точки по-разному подвержены обоим источникам неопределенности. В одних случаях преобладает шум, в других — редкость аналогичных примеров в обучающем наборе. Такой анализ помогает точнее настраивать модели и понимать, в каких сценариях им нельзя полностью доверять.

Практическая ценность метода — в повышении устойчивости ИИ-систем, которые работают с неполными или зашумленными данными: от медицинской диагностики до автономного транспорта. Понимание источника ошибки позволяет либо собрать больше данных, либо улучшить качество самих данных.

Как отмечают авторы, работа опирается на недавние достижения в области приближенного вычисления матриц Фишера, что делает подход применимым к большим нейросетям. Полный текст исследования доступен в открытом доступе на платформе arXiv.