Всё, что вы хотели знать про локальные LLM, но боялись заинференсить

пропустили Gemma 4 QAT,а без него никак нельзя, размер и скорость q4_0 а качество уровня q5_k_m-q8_0, в зависимости от модели

RuStore качает MAX без спроса и мониторит GPS каждые 5 минут и ему даже не стыдно

раз у нас теперь как в сша может еще зарплаты вырастут?

Культ квантования: почему 3 битные LLM это диагноз, а не оптимизация

слова красивые, доказательств 0, потери от q4_k_m(~4.5 bpw, один из самых эффективных вариантов на гигабайт памяти) представляются как смерть

Локальные LLM в реальной работе: Gemma 4, Qwen 3.6 и Qwen Coder

qwen 3.6 на русском сильно деградирует, gemma 4 слабее

GLM 5.1 vs. DeepSeek V3.2: сравниваем топовые китайские модели

вышла deepseek v4, ну и кими 2.6 есть