OpenAI внедрила режим блокировки для защиты от атак с внедрением промптов

Компания OpenAI представила новую функцию под названием режим блокировки (Lockdown mode), которая призвана защитить конфиденциальные данные от атак с внедрением вредоносных подсказок. Режим блокировки отключает просмотр веб-страниц в реальном времени, оставляя доступ только к кэшированному контенту. Также блокируется получение и отображение изображений из сети, углублённый поиск и работа режима агента.

Цель нововведения — снизить вероятность утечки чувствительной информации в процессе взаимодействия с ChatGPT. Как пояснили в OpenAI, даже при включённом режиме блокировки модель всё ещё может быть уязвима для внедрения вредоносных промптов, которые могут содержаться в кэшированном контенте или загруженных файлах. Однако функция существенно уменьшает риски.

Режим блокировки предназначен не для всех пользователей. Он разработан для людей и организаций, которые регулярно работают с конфиденциальными данными и нуждаются в более строгой защите от утечек, связанных с атаками на промпты. OpenAI уже начала внедрять функцию для самообслуживаемых бизнес-аккаунтов ChatGPT, а также для соответствующих личных аккаунтов.

Параллельно компания выпустила новый набор опций для Codex — инструмента, предназначенного для рабочих сред. Шесть плагинов ориентированы на конкретные задачи: анализ данных, креативное производство, продажи, дизайн продуктов, инвестиции в акции и инвестиционный банкинг. Плагины доступны из приложения Codex и включают интеграции, инструкции и контекст, позволяющий ИИ адаптироваться под задачу.

Эти шаги демонстрируют стремление OpenAI укрепить безопасность своих продуктов и расширить их применимость в корпоративной среде, где защита данных стоит на первом месте. Режим блокировки и новые плагины для Codex уже доступны соответствующим категориям пользователей.