Небольшой тест LLM‑модели qwen3‑coder‑next:q8_0

[Badsanta83]

Тут клод то 4.5 и то бывает таких косяков напорет, что мама не горюй. А к другим моделям я и близко не подхожу. Хотя квен Макс временами неплох и лихо за другими косяки замечает.

А чатжат это просто ходячий жополиз. ВАШ КОД ЭТО ОБРАЗЕЦ!! А там утечки размером с водопад Виктория

[softel]

У меня нет утечек и протечек, я запускаю LLM только локально )))

[radli]

А на чем вы в итоге запустили? Очень интересно

[softel]

Процессор Core I9 14900KF RAM: DDR5 192 Gb. GPU 2 x RTX4090D48G (96 Гб. VRAM GDDR6X), производительность по меркам huggingface 166 TFLOPS

Ollama 0.15.5 новый релиз

Вчера Ollama стала устанавливаться как версия 0.15.5 Теперь доступны новые модедели, например qwen3-...

habr.com

По ссылке выше можно прочитать подробней на чем я запускаю и даже получить временный доступ к серверу бесплатно.