Исследование: более умные ИИ-модели могут усиливать риски на финансовых рынках
Международная группа исследователей представила на arXiv работу, в которой показала: улучшение отдельных больших языковых моделей (LLM) не всегда делает системы безопаснее. В ряде случаев, наоборот, повышение точности модели способно увеличить риски на уровне всей экосистемы — например, на финансовых рынках.
Авторы предположили, что из-за общих архитектур и обучающих данных более способные модели начинают действовать схожим образом. Это снижает разнообразие их реакций и создает «недиверсифицируемый» уровень риска: ошибки или уязвимости словно умножаются, а не компенсируются другими участниками.
Для проверки гипотезы была проведена серия агентных симуляций финансового рынка, где в роли трейдеров выступали LLM разной мощности. Выяснилось, что самые продвинутые модели демонстрируют значительно более коррелированное поведение, чем слабые.
При точном общем анализе увеличение числа таких агентов снижало рыночный риск. Однако в условиях общей дезинформации корреляция становилась уязвимостью: участники одинаково ошибались, что усиливало нестабильность.
Ученые назвали этот эффект «парадоксом производительности»: индивидуальные успехи не гарантируют коллективной безопасности. Насколько похожие процессы происходят в других областях — от модерации контента до найма, — предстоит выяснить.
