Ученые нашли общую ось эмоций у ИИ-моделей и мозга человека

Группа ученых представила результаты исследования, в котором сравнивались внутренние представления больших языковых моделей (LLM) с активностью человеческого мозга при восприятии эмоционально окрашенных стимулов. Работа опубликована в репозитории arXiv и описывает так называемую ось валентности — общее направление оценки «позитив-негатив», которое возникает как в нейросетях, так и в электроэнцефалограмме (ЭЭГ) человека.

Для построения оси валентности (V-axis) авторы использовали всего девять коротких эмоционально насыщенных предложений. Полученное направление было проверено на нескольких бенчмарках тональности текстов, а затем подтверждено на 14 различных языковых моделях. Это показало, что ось валентности является устойчивой характеристикой для разных архитектур LLM.

Далее исследователи сопоставили полученную ось с данными публичного набора ЭЭГ, в котором 123 добровольца смотрели эмоционально заряженные видео. Оказалось, что единственная линейная проекция на признаки ЭЭГ позволяет предсказать положение каждого видео на оси валентности. Кроме того, 36 классификаторов эмоций, обученных на этих данных без какой-либо информации об оси, спонтанно воспроизвели ту же структуру в своих внутренних представлениях.

Однако попытки улучшить точность декодирования с помощью дополнительных методов выравнивания (например, дистилляции знаний или контрастивного обучения) не увенчались успехом. Из 25 опробованных стратегий ни одна не дала прироста, а 16 из них даже снизили точность. Этот результат авторы назвали «правилом насыщения» (saturation regularity): как только классификатор самостоятельно выучил целевую ось, дополнительное супервизорное обучение лишь искажает уже насыщенный бассейн, не затрагивая важный внутриклассовый остаток.

Исходя из этого наблюдения, ученые предложили не пытаться дальше насыщать бассейн, а вместо этого работать с остаточным подпространством, недоступным для супервизии. Применив ансамблирование на основе разнообразия остатков, им удалось повысить сбалансированную точность на 10,5% по сравнению с предыдущим лучшим результатом на наборе данных FACED. Аналогичный эффект был подтвержден и на другом датасете SEED-V.

Работа демонстрирует глубокую связь между внутренними механизмами языковых моделей и нейронной активностью человека, а также указывает на фундаментальные ограничения в методах обучения ИИ. Дальнейшие исследования могут быть направлены на поиск способов эффективного использования остаточных представлений для улучшения задач декодирования мозговой активности.