Red Hat представила открытый проект llm-d — это распределённая структура вывода LLM на основе Kubernetes

[Kopilov]

Что такое «планировщик вывода»? А планировщик ввода будет?

[TomskDiver]

Да, лучше бы не переводили. Оставили Inference Scheduler и наверное было бы понятней. Ну или хотя бы "планировщик инференса".