Обновление Claude Sonnet 5 стало видеть джейлбрейк в обычных запросах

Компания Anthropic выпустила обновление модели Claude Sonnet 5, известное как Mythos или Fable 5, для пользователей платных подписок. Однако вместо улучшений пользователи столкнулись с неожиданной проблемой: модель стала чрезмерно подозрительной.

По сообщениям в сети, Sonnet 5 начал активно реагировать на любые инструкции, указанные в настройках проекта или профиля, расценивая их как попытку джейлбрейка — обхода системных ограничений. В результате модель выдает пространные ответы, расходуя токены впустую.

Один из пользователей отметил, что столкнулся с этим багом спустя несколько сообщений в новом чате: модель внезапно начала давать развернутые предупреждения на Project Instructions, которые ранее не вызывали такой реакции.

Проблема проявляется не только на сложных запросах, но и на стандартных задачах. Многие пользователи жалуются, что работать с моделью стало невозможно — она тратит больше времени на объяснения, чем на выполнение задачи.

Anthropic пока не комментировала ситуацию. На форумах предполагают, что это может быть следствием слишком строгих настроек безопасности, введенных в новом релизе. Временным решением считается использование более ранних версий модели или полная очистка инструкций.

Этот инцидент подчеркивает сложность балансировки между безопасностью ИИ и удобством его использования. Чрезмерная паранойя модели может отпугнуть пользователей, особенно тех, кто использует Claude для рабочих задач.