denis-19 May 22 at 06:25Red Hat представила открытый проект llm-d — это распределённая структура вывода LLM на основе KubernetesReading time1 minViews1.4KArtificial IntelligenceMachine learning*Kubernetes*Open source*SoftwareTotal votes 3: ↑3 and ↓0+6Add to bookmarks5Comments2
TomskDiver May 22 at 07:37Show previous commentДа, лучше бы не переводили. Оставили Inference Scheduler и наверное было бы понятней. Ну или хотя бы "планировщик инференса".
Red Hat представила открытый проект llm-d — это распределённая структура вывода LLM на основе Kubernetes