Культ квантования: почему 3 битные LLM это диагноз, а не оптимизация

слова красивые, доказательств 0, потери от q4_k_m(~4.5 bpw, один из самых эффективных вариантов на гигабайт памяти) представляются как смерть

Локальные LLM в реальной работе: Gemma 4, Qwen 3.6 и Qwen Coder

qwen 3.6 на русском сильно деградирует, gemma 4 слабее

GLM 5.1 vs. DeepSeek V3.2: сравниваем топовые китайские модели

вышла deepseek v4, ну и кими 2.6 есть