akdengi Mar 11 at 08:17Рассуждающая модель QwQ 32B доступна в OllamaReading time1 minViews2.2KHOSTKEY corporate blogArtificial IntelligenceTotal votes 2: ↑2 and ↓0+2Add to bookmarks7Comments3
4external Mar 11 at 08:31Show previous commentFull Model RequirementsMacBook Pro (M3 Max, 128GB RAM)4-bit Quantized Version RequirementsMacBook Pro (M2, 32GB RAM)источник: https://apxml.com/posts/how-to-install-qwq-32b
akdengi Mar 11 at 09:52Show previous commentОна в q4 занимает 20 Гб, разжимается значит в районе 30-32 Гб по слоям, по идее должно влезть.
Рассуждающая модель QwQ 32B доступна в Ollama