Cerebras запустил Google Gemma 4 со скоростью 1500 токенов/с и поддержкой изображений

Компания Cerebras, известная своими гигантскими ИИ-чипами размером с кремниевую пластину, запустила модель Google Gemma 4 на своей платформе инференса. Скорость обработки превышает 1500 токенов в секунду — это один из самых высоких показателей для открытых моделей.

Пока сервис работает в режиме приватного превью: доступ предоставляется ограниченному кругу пользователей. В компании обещают открыть общий доступ до конца текущего месяца.

Это не первая модель, которую Cerebras запускает на повышенной скорости, но она стала первой с поддержкой мультимодальности. Gemma 4 может принимать на вход не только текст, но и изображения, что расширяет сценарии её использования.

Cerebras использует собственные wafer-scale чипы, которые обеспечивают высокую пропускную способность и низкую задержку. Благодаря архитектуре, оптимизированной для инференса, компания регулярно достигает рекордных скоростей на популярных моделях.

Запуск Gemma 4 с мультимодальной поддержкой открывает новые возможности для разработчиков, которым требуется быстрая обработка как текста, так и визуальной информации. Cerebras позиционирует своё решение как альтернативу облачным GPU-платформам с более высокой производительностью.

Ожидается, что после открытия общего доступа Gemma 4 станет доступна широкому кругу пользователей Cerebras, что может повлиять на рынок инференса больших языковых моделей.