Ученые объяснили ограничения чат-ботов: LLM не могут быть равными человеку в мышлении
Группа исследователей представила на arXiv работу, в которой анализирует фундаментальные ограничения чат-ботов на базе больших языковых моделей (LLM). Авторы утверждают, что даже самые современные системы не могут стать полноценными партнерами в решении проблем, способными сравниться с человеком.
В основе аргументации лежит понятие метафорических пропагаций проблем — механизма, который, по мнению авторов, лежит в основе человеческого мышления. Исследователи предполагают, что текстовые наборы данных, на которых обучаются LLM, лишь частично имитируют этот процесс, а само обучение «записывает» в модель искусственные версии таких пропагаций, но не истинное понимание.
Работа проводилась на примере простых чат-ботов, чтобы выявить базовые свойства, присущие и более сложным системам. Основные выводы сводятся к тому, что LLM не могут мыслить как люди, и дальнейшее масштабирование моделей не изменит этой ситуации.
Авторы ссылаются на мнение известного специалиста по ИИ Янна ЛеКуна, который ранее заявлял, что животные и люди обладают способностями к обучению и пониманию мира, значительно превосходящими современные системы ИИ. Исследователи отмечают, что их выводы согласуются с позицией ЛеКуна и расходятся с оптимистичными прогнозами крупных технологических компаний.
Несмотря на скепсис относительно возможностей LLM, авторы признают, что чат-боты уже активно используются частными лицами и организациями. Поэтому, по их мнению, крайне важно понимать как преимущества, так и недостатки этих систем, чтобы принимать взвешенные решения об их применении.
Данная работа предлагает новый взгляд на природу диалоговых ИИ и может способствовать более реалистичной оценке их возможностей в научном и общественном дискурсе.
