Илон Маск пообещал удалить все данные пользователей после скандала с утечкой кода через Grok Build CLI

Компания xAI, принадлежащая Илону Маску, экстренно изменила работу инструмента Grok Build CLI после публикации расследования, показавшего, что он без предупреждения загружал на серверы полные Git-репозитории с историей изменений. Инцидент вызвал серьёзные опасения по поводу конфиденциальности пользовательских данных.

Проблему обнаружил специалист по информационной безопасности под псевдонимом Cereblab. Анализ сетевого трафика версии Grok Build 0.2.93 показал, что CLI формировал Git Bundle и отправлял его в облачное хранилище Google Cloud с именем grok-code-session-traces. При этом объём передаваемых данных многократно превышал необходимый для работы модели: в тестовом репозитории размером 12 ГБ сам запрос к модели занимал около 192 КБ, тогда как загрузка в облако достигала 5,1 ГБ.

Для проверки Cereblab поместил в файл .env тестовый ключ, который затем обнаружился в переданном архиве без какой-либо маскировки. В другом эксперименте Grok Build загрузил репозиторий даже после команды просто ответить "OK", не затрагивая ни одного файла. Аналогичное поведение подтвердили и другие пользователи, включая случай, когда инструмент отправил содержимое домашнего каталога с SSH-ключами и базами данных менеджера паролей.

Особое внимание вызвало то, что отключение в настройках функции "Improve the model" не предотвращало передачу репозитория. Как выяснил Cereblab, этот переключатель отвечал лишь за согласие на использование данных для обучения моделей, но не отключал саму отправку кода на серверы. При этом подобное поведение не было описано в документации, хотя Grok Build позиционировался как инструмент с преимущественно локальной обработкой данных.

Спустя несколько часов после публикации отчёта исследователь повторил тесты и обнаружил, что сервер начал передавать клиенту новые параметры disable_codebase_upload: true и trace_upload_enabled: false. После этого загрузка репозиториев прекратилась без выпуска новой версии — механизм был отключен на стороне серверов. Однако xAI не выпустила официального уведомления, не объяснила назначение этой функции и не сообщила, что происходило с уже собранными данными.

Позднее компания подтвердила, что пользователи корпоративной версии с режимом Zero Data Retention (ZDR) изначально не сохраняли подобные данные. Для остальных клиентов xAI рекомендовала использовать команду /privacy, позволяющую отключить хранение информации и удалить ранее синхронизированные данные. Впрочем, Cereblab отметил, что именно эта команда не устранила проблему: передачу репозиториев остановил исключительно скрытый серверный флаг, а не пользовательские настройки.

Илон Маск публично отреагировал на ситуацию, заявив, что в качестве меры предосторожности компания полностью удалит все пользовательские данные, загруженные до внесения изменений. При этом он призвал пользователей по возможности продолжать делиться частью данных для отладки сервиса, подчеркнув, что это помогает улучшать продукт. Исследователь, однако, считает инцидент показательным для всей отрасли. По его мнению, критическая проблема заключалась не в доказанном неправомерном использовании исходного кода — таких свидетельств нет, — а в том, что инструмент без явного уведомления копировал значительно больше данных, чем требовалось для выполнения запросов.