Cerebras ускорила 1 трлн модель kimi K2.6 до тысяча т/sec

[Dhwtj]

Не вижу kimi на

chat.cerebras.ai

[AnotherProger]

К сожалению сейчас доступна только enterprise клиентам. Для остальных же доступна тоже интересная модель glm-4.7.

Упоминал выше

[Dhwtj]

При том, что уже glm 5.1

Я пробовал на chat.cerebras.ai

Быстро, но плохо

[rPman]

по умолчанию (и при оплате 10$ в месяц) там не доступны ничего кроме glm 4.7 и oss120b, крутые модели доступны в подписке enterprise с не названными ценами и лимитами, и да, платить как я понял за запросы так же придется, подписочная модель только доступ открывает.

[nikulin_krd]

Интересно откуда они взяли 31т/с у муншота, по ощущениям там порядка 70т/с. У меня она работает быстрее чем локальная с 60т/с

[Dhwtj]

Вы наверное вечером запускаете когда сервера не перегружены

[rodial]

На openrouter в данный момент показывает 32tps

[nikulin_krd]

Я прямо с муншота токены беру. Опенроутер занижает кол-во токенов

[rPman]

что значит openrouter занижает количество токенов?