Белый дом объяснил блокировку Claude Fable 5: Anthropic отказалась исправить джейлбрейк

Советник Белого дома по искусственному интеллекту Дэвид Сакс впервые публично изложил позицию администрации по блокировке мощной языковой модели Claude Fable 5 от компании Anthropic. В своём посте на платформе X он сообщил, что власти запросили у разработчика либо исправление обнаруженного джейлбрейка, позволяющего обходить ограничения модели, либо снятие её с публичного доступа.

По словам Сакса, Anthropic отказалась выполнять это требование. "Мяч находится на стороне Anthropic", — заключил советник, подчеркнув, что дальнейшие шаги теперь зависят от самой компании. Это первое официальное заявление администрации по данному спору, которое проливает свет на логику принятого решения.

Claude Fable 5 считается одной из самых мощных моделей Anthropic, способной к сложным рассуждениям и генерации кода. Однако ещё до официального релиза модель подверглась критике из-за выявленных уязвимостей, которые могли позволить злоумышленникам обходить встроенные защитные механизмы.

Блокировка модели со стороны властей США стала поводом для дискуссий о балансе между инновациями в области ИИ и необходимостью обеспечения безопасности. Многие эксперты видят в этом прецедент для будущего регулирования искусственного интеллекта.

На данный момент Anthropic не предоставила официального ответа на заявление Сакса. Компания ранее занимала жёсткую позицию по вопросам безопасности, однако в этом случае её отказ от исправления уязвимости может говорить о внутренних разногласиях или о сложности технической задачи.

Событие привлекло внимание как индустрии, так и регуляторов. Аналитики отмечают, что итог этого спора может повлиять на то, как в будущем будут выводиться на рынок передовые ИИ-модели. Пока же мяч действительно на стороне Anthropic.