Я сделал локального AI-агента для России. Без VPN, без подписки, без облака

Почему это нельзя настроить или увидеть, поменять квантование контекста и так далее? Там же наверняка llama.cpp крутится под капотом, легко же настраивается