Comments 5
Без Ollama пришлось бы сражаться с PyTorch, CUDA и библиотеками токенизаторов
Вы точно умеете в LLM? Без Ollama запускается llama.cpp и работает быстрее и с меньшим количеством багов.
Read-only RBAC переворачивает модель доверия. Агенту позволено ошибаться, потому что ошибка ничем не грозит
А если он своими ридами кластер заспамит.
Sign up to leave a comment.
Information
- Website
- tech.vk.com
- Registered
- Employees
- 1,001–5,000 employees
- Location
- Россия
- Representative
- Евгений Левашов
Создание кластер-осведомлённого ИИ-агента с Kubernetes, Argo CD и GitOps