Kimi K2.7 Code ускорили в 6 раз — до 260 токенов в секунду
Китайская компания Moonshot AI анонсировала Kimi K2.7 Code HighSpeed — ускоренный режим своей открытой модели для программирования Kimi K2.7 Code. По заявлению разработчиков, скорость генерации токенов увеличилась до шести раз.
В типичных задачах кодинга модель выдает около 180 токенов в секунду, а на коротком контексте — до 260 токенов в секунду. При этом сама модель осталась прежней — изменения коснулись только механизма вывода.
Доступ к HighSpeed-режиму раскатывается постепенно. Как пояснили в Moonshot AI, это связано с ограниченными вычислительными ресурсами. Компания не раскрывает точные сроки полного развертывания функции.
Kimi K2.7 Code — открытая модель, нацеленная на помощь разработчикам в написании и отладке кода. Ускорение вывода может сделать её более конкурентоспособной на фоне аналогичных решений от других компаний.
Нововведение уже доступно части пользователей. Ожидается, что в ближайшее время скоростной режим появится у всех, кто использует Kimi K2.7 Code.
