ИИ-обзоры Google начали принимать вымышленную вселенную SCP за реальные факты
Google столкнулся с необычной проблемой: его ИИ-обзоры начали выдавать вымышленные истории из вселенной SCP Foundation за реальные факты, сообщает iXBT.
SCP Foundation — популярный международный проект коллективного творчества, описывающий вымышленную организацию, которая содержит и изучает аномальные объекты и существа. По задумке, эти «аномалии» часто нарушают законы физики. Однако алгоритмы Google, судя по всему, не различают художественный вымысел и реальность.
Пользователи заметили, что при запросах, связанных с некоторыми сценариями SCP, ИИ-обзоры ссылались на них как на задокументированные инциденты. Например, сообщалось о «необъяснимых явлениях», которые на самом деле описаны только в статьях SCP. Это может вводить в заблуждение тех, кто не знаком с проектом.
Проблема в том, что ИИ-обзоры Google генерируются автоматически на основе анализа большого объёма данных из интернета. Алгоритмы не всегда корректно оценивают достоверность источников, особенно когда контент выглядит правдоподобно, но является вымыслом. SCP Foundation часто оформлен в виде псевдодокументальных отчётов, что и сбивает ИИ с толку.
Пока неясно, насколько широко распространена эта ошибка. Возможно, Google уже работает над улучшением фильтрации данных. Однако инцидент подчёркивает уязвимость систем искусственного интеллекта к контенту, который намеренно имитирует реальные документы.
В компании пока не комментировали ситуацию. Эксперты отмечают, что это не первый случай, когда ИИ путает вымысел с реальностью, и рекомендуют разработчикам уделять больше внимания верификации источников для поисковых подсказок и обзоров.
