Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 10
Мне 9b весь код запорола, на более сложных задачах. Qwen3.6-27b себя показывает лучше чем 35b. Но это все равно рядом не стояло с облачными моделями.
Qwen3.6-27b - лучше по какому критерию и для какой задачи?
Qwen3.6-27b “умнее” MoE модели (Qwen3.6-35b-a3b), но значительно медленнее. И с квантами можно поиграться - mlx и NVFP4 достаточно компромиссные варианты, лучше тестировать с llama.cpp и GGUF Q4_K_M.
Спасибо за ответ, хоть вы и не автор оригинального сообщения. То, что он «умнее» вы на каких задачах видите? Конкретно на решении проблемы, описанной в статье - на удивление справился хуже.
Медленность - на этом железе - согласен, сильно медленнее
Так хуже справился Qwen3.5-9bотносительно Qwen3.5-35B‑A3B. А Qwen3.5-27B будет лучше за счет своей dense-архитектуры и большого размера. А Qwen3.6-27b справился бы еще лучше - модель гораздо более свежая.
А “умнее” определяется хотя бы по бенчмаркам от производителя - в рамках одной линейки они дают сравнительную таблицу, где MoE-модели немого уступают dense-моделям примерно одной размерности.
P.S. сравнение есть тут для Qwen3.6-27B и тут для Qwen3.6-35B-A3B.
P.P.S. в свое время видел сравнение, что Qwen3-30B-A3B соответствует Qwen3-14B, хотя лично мои наблюдения показали, что Qwen3-30B-A3B все-таки немного лучше (вероятно, результат зависит от задачи).
Не до конца раскрыл свою мысль - в статье действительно сравнение 3.5-9B с 3.5B-30B-A3B.
Говоря
"Конкретно на решении проблемы, описанной в статье - на удивление справился хуже"
я пытался донести, что сравнивал результат 3.6-27B c 3.6-35B-A3B - эти эксперименты не были описаны в этой статье.
P.S.: результаты бенчмарка на huggingface видел, поэтому и удивился что в моей задаче более умная по бенчмарку модель оказалась хуже :)
А вот это была бы уже гораздо более интересная статья ) Мало кому интересен “устаревший” Qwen3.5 ) А вот что 3.6-35B-A3B “умнее” 3.6-27B - гораздо интереснее, особенно если дать больше контекста по задачам )
P.S. возможно, использовали UD-кванты от unsloth - они могут достаточно непредсказуемо себя вести.
P.P.S. и gemma4 если добавить в сравнение (MoE и dense) - было бы совсем интересно )
в 2023м M2 Pro 16" 16GB стоила около примерно сколько в конце 2025 M4 Pro 16" 48GB... (~230.000)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Локальный агент для диагностики инфраструктуры