Myskat_90 May 12 at 11:35Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка KubernetesLevel of difficultyHardReading time14 minViews3.1KФлант corporate blogМосковский кредитный банк corporate blogArtificial IntelligenceKubernetes*DevOps*TutorialTotal votes 31: ↑31 and ↓0+39Add to bookmarks66Comments1
Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка Kubernetes