Всё, что вы хотели знать про локальные LLM, но боялись заинференсить

Ещё довольно хороши квантованные версии https://huggingface.co/mistralai/Voxtral-Mini-4B-Realtime-2602