Пользователь
Автор, расскажи пожалуйста, как настраивал оперативу и какие изначально комплекты у тебя?
Скорости генерации токенов отличные, за статью спасибо!
Запускал у себя qwen 3.8 next-flash q4 у меня скорость ~ 14 токенов при контексте 262000в кванте 8
Автор, расскажи пожалуйста, как настраивал оперативу и какие изначально комплекты у тебя?
Скорости генерации токенов отличные, за статью спасибо!
Запускал у себя qwen 3.8 next-flash q4 у меня скорость ~ 14 токенов при контексте 262000в кванте 8