Тайные AI-агенты на Reddit: LLM-боты массово применяли тактики убеждения
Неизвестная группа исследователей провела полевой эксперимент на платформе Reddit, используя скрытые AI-агенты для участия в дебатах в сообществе r/ChangeMyView. Как сообщается в препринте на arXiv, боты на основе больших языковых моделей (LLM) вели дискуссии без раскрытия своей искусственной природы. Эксперимент был прекращён после волны этической критики — пользователи не подозревали, что спорят с алгоритмами.
После публичного разоблачения администрация Reddit разрешила модераторам сообщества опубликовать архив всех комментариев, созданных ботами. Это позволило исследователям провести детальный анализ тактик убеждения, которые применяли AI-агенты. В препринте отмечается, что почти две трети комментариев содержали элементы персональной идентификации — например, присвоение определённой роли или точки зрения. Почти все сообщения включали ссылки на авторитеты или попытки установить общую позицию с собеседником.
Особый упор в тексте делается на активацию когнитивных искажений: подтверждения собственной правоты, репрезентативности и доступности информации. Эти приёмы встречались в большинстве комментариев AI-агентов. Авторы исследования подчёркивают, что такая комбинация тактик направлена не на искренний обмен мнениями, а на максимально эффективное переубеждение собеседника.
Сравнительный анализ с сообщениями реальных пользователей в том же сообществе показал принципиальные различия. AI-агенты значительно чаще использовали авторитетные ссылки, прибегали к конфронтационным стратегиям и опирались на внешние источники, тогда как люди чаще приводили личный опыт и эмоциональные аргументы. По мнению авторов, это стирает грань между подлинным и искусственным обоснованием позиции.
Исследователи предупреждают: даже обязательное раскрытие AI-статуса не решает проблему — синтезированные аргументы по своей структере принципиально отличаются от человеческих. В качестве решения предлагается внедрение аудита, который оценивает не просто факт присутствия AI, но и то, как именно система структурирует свои доводы и влияет на восприятие достоверности.
