Qwen3.8-Flash-Next и важность прогона бенча в три раза на конфиг

[Altair2021]

А почему у flash q3 балл выше, а пройденных задач меньше, чем у q4? 43/50 у q3 и 44 у q4

[whocoulditbe]

и прикидываем ее на 5090 c 32GB VRAM

А где это в статье?

Честно говоря, весь текст похож на какие-то заметки на полях, понятные только автору.

[FBykov]

Выпустили Qwen3.8-Flash-Next-MTP для llama.cpp. Декод на 6000 PRO пишут что вырос до 170, на практике до 140

Для 27B есть конфиги vLLM, дающие на 5090 и на 6000 PRO до 160 токенов

А Ninfer для Ornith 35B аж до 750