Эффективное использование GPU в Kubernetes: Настройка и использование Volcano Scheduler + Volcano vGPU Device Plugin

[antonaleks605]

Спасибо за хорошую статью!

В целом для шеринга GPU можно использовать hami project и без volcano скедулера.

Вот когда появляется боль с аллокацией ресурсов, конкуренции подов за ресурсы GPU - здесь хорошо заиспользовать такие скедулеры, где можно выставлять приоритеты, очереди и квоты на ресурсы.

Также интересно было бы сравнить с https://github.com/NVIDIA/KAI-Scheduler/tree/main - нативным решением от nvidia

[Bambarambambum]

Спасибо за отзыв. Насчет решения от Nvidia как-нибудь руки дойдут посмотреть )

[megapeople]

На какой базе собраны воркеры?

[Bambarambambum]

Описанные в статье на базе Supermicro H12SSL-i.
Другие воркеры которые есть на базе Tyan s8036gm2ne

[megapeople]

А что по поводу питания для 4090 сколько нужно для 5 шт?

[Bambarambambum]

По поводу воркера на 5 не могу сказать (в ipmi не доступны данные, а физически не могу посмотреть т.к он на другой площадке).
По поводу воркера на 10 шт 4090 - стоит 5 БП каждый по 1700w.