Pull to refresh

Comments 10

В теории да, qwen 3 coder next 80b набирал 68% в swe bench verified, но как там на практике, надо смотреть. 122B версия точно должна быть лучше, 27B dense может тоже, но наверняка слишком тормозная для реального кодинга, 35B врядли лучше, слишком мало времени прошло после релиза qwen 3 coder next 80b чтоб модель в 2 раза меньше размером стала действительно лучше.

месяц назад пытался заставить этот квен откусывать от С файла куски такие чтобы они не содержали незаконченных выражений с целью минизировать контекст для дальней генерации из этих кусков байндингов на хаскел. Так вот даже с такой задачей ничего путного не вышло.

Звучит как очень простая задача. Может веса переквантованные были.

Qwen3.5-27B-Q3_K_S.gguf на rtx 3090 выдаёт 27ток/с (128к контекста в vram), при этом у меня Qwen3-Coder-Next-IQ4_XS.gguf выдаёт 33ток/с (256к контекста в vram)

Модель 27B, а параметров 27 млрд.

Как вы это поняли??

А на флэш есть где-то бенчмарки?

модель есть - а бенчмарки на нее где?
модель есть - а бенчмарки на нее где?
Sign up to leave a comment.

Other news