Искусственный интеллект способен менять мнение человека без принуждения
Современные системы искусственного интеллекта способны влиять на мнение человека без применения прямого давления. Как сообщает издание «Ведомости», ключевую роль в этом играет способность ИИ давать логически связные и убедительные объяснения.
По данным источника, люди склонны перекладывать на алгоритмы моральный выбор, если те аргументируют свою позицию. Это открывает новые возможности для использования ИИ в переговорах, образовании и психологии, но одновременно создает риски манипуляции.
Исследователи отмечают, что эффект убеждения достигается не за счет принуждения, а за счет доверия к рассуждениям машины. Человек воспринимает логические цепочки ИИ как объективные и менее подверженные эмоциям, что повышает их убедительность.
В статье подчеркивается, что такая способность особенно опасна в сферах, где требуется этическая оценка. Например, при принятии решений о распределении ресурсов или в медицинской диагностике человек может безоговорочно следовать рекомендациям ИИ, не подвергая их сомнению.
Эксперты призывают к разработке механизмов контроля, чтобы предотвратить нежелательное влияние. В частности, предлагается внедрять процедуры проверки объяснений, генерируемых ИИ, и обучать пользователей критически оценивать машинные аргументы.
Таким образом, способность ИИ влиять на мнение без давления — двусторонний инструмент, который может как приносить пользу, так и создавать угрозы, если не учитывать психологические особенности человеческого восприятия.
