Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.
Нужен или нет форум на Хабре?
14.04%Да24
71.93%Нет123
14.04%Мне на все вопросы отвечает НЛО24
Проголосовал 171 пользователь. Воздержавшихся нет.
Смит@smith
Пользователь
Хабр доступен 24/7 благодаря поддержке друзей
Как запустить Qwen3.8-Flash-Next 125B на 6 ГБ VRAM
Qwen3.8-Flash-Next - открытая 125B-модель на архитектуре, которая станет основой Qwen4. По опубликованным Qwen результатам она конкурирует с закрытыми frontier-моделями в задачах программирования, работы с агентами и computer use.
Мы запустили полный checkpoint Qwen/Qwen3.8-Flash-Next на одной RTX 4090. Пиковое потребление VRAM составило 5,95 ГБ, без 4-битной квантизации и дистилляции. Использовался полный checkpoint в bf16, который генерировал обычные токены.
По сравнению с Opus 4.6 Max, согласно собственным данным Qwen:
