Вы пишете, что «MIG фактически делит A100/H100 на несколько независимых частей… Недостаток — низкая гибкость. Жёсткий лимит в 7 партиций нам не подходит — иногда нужно поселить 10+ мелких моделей на одной карте». А далее утверждаете, что вашим решением можно дробить GPU до 8 виртуальных экземпляров. Неужели все эти ухищрения только ради одного дополнительного профиля?
Также неясно, с чем именно сравнивались метрики «GPU utilization выросла с 23% до 78%» и «latency увеличилась всего на 7%». Это по отношению к прямому пробросу PCI-карты (passthrough)? Почему нет сравнения с MIG?
Как у вас решена совместимость с драйверами CUDA/NVIDIA? Ваш слой работает поверх стандартного runtime/драйверов или требует модификаций/патчей?
Про binpacking: вы уплотняете нагрузки по памяти (VRAM)? А как учитывается загрузка вычислительных блоков (SM)? Без контроля за SM несколько «виртуальных GPU» ведь могут конкурировать за одни и те же ресурсы.
И ещё: cloudru-vgpu-scheduler очень напоминает HAMi. Правильно ли понимаю, что в итоге на один MIG-профиль у вас садится несколько клиентских workload’ов?
Вы совершенно правы, но есть один момент, рыночек все порешает. Напомните процентовку дистрибов по десктопу и серверным версиям. Где эти золотые безрешные линуксы. Если говорить о кор компонентах, балдейте от networkmanager? Я честно не знаю что там в Винде происходит,, лет 15 не видел. Ещё раз куча народа пилит пилит дистры с непонятной целью, причем там просрано куча человеко часов действительно талантливых людей.
Я подозреваю посыл в многолетнем упорстве Линукс сообщества делать дерьмо в тех местах где казалось бы пора уже полечить детские болячки и двигаться вперед, Линукс это же не недоумки на Винде, это же элита да? Самое забавное, это касается не только десктоп части. А еще помножив это на наших аналогов нет, вообще кайф, начинаешь их за баги подтягивать - а мы что, мы просто взяли пакет и скомпилили( это если повезёт) мы же не разработчики. Вот и получается весь Линукс, левая рука не знает что делает правая, кроме возможно ядра где Торвальдс всех за кокошки держит. Для тех кто любит минусить, вы хоть на одном опенсорц проекте на совещание планирование ходили? А этот цирк нужно хоть раз увидеть.
На баше просто нативно и короче обращение к файлам или спискам, но если логика обработки чуть сложнее то ад. Глупо отрицать питон как парсер данных и размахивать башем. Так же как на ансибле этим заниматься.
О божественный кубер на волшебных технологиях. И вот прям тошнит от примеров на всяких магазинах и платежном говне.
А для танкистов в чем Профит от этих вот fastcroot итд. Систем д и Нетворк менеджер пожалуй самые кривые решения .
Автор fluent видел?
Вы пишете, что «MIG фактически делит A100/H100 на несколько независимых частей… Недостаток — низкая гибкость. Жёсткий лимит в 7 партиций нам не подходит — иногда нужно поселить 10+ мелких моделей на одной карте». А далее утверждаете, что вашим решением можно дробить GPU до 8 виртуальных экземпляров. Неужели все эти ухищрения только ради одного дополнительного профиля?
Также неясно, с чем именно сравнивались метрики «GPU utilization выросла с 23% до 78%» и «latency увеличилась всего на 7%». Это по отношению к прямому пробросу PCI-карты (passthrough)? Почему нет сравнения с MIG?
Как у вас решена совместимость с драйверами CUDA/NVIDIA? Ваш слой работает поверх стандартного runtime/драйверов или требует модификаций/патчей?
Про binpacking: вы уплотняете нагрузки по памяти (VRAM)? А как учитывается загрузка вычислительных блоков (SM)? Без контроля за SM несколько «виртуальных GPU» ведь могут конкурировать за одни и те же ресурсы.
И ещё: cloudru-vgpu-scheduler очень напоминает HAMi. Правильно ли понимаю, что в итоге на один MIG-профиль у вас садится несколько клиентских workload’ов?
Wget наверное делал слишком пухлым дистрибутив.
Откуда в образе ping tcpdump итд? Если их доставлять это же опять зависимости которые надо проверять с точки зрения ИБ нет?
Еще бы ы понять зачем все это? Вот конкретные примеры, а главное с обоснованием. И вишенка как это все дебажить без обвязки.
Вы совершенно правы, но есть один момент, рыночек все порешает. Напомните процентовку дистрибов по десктопу и серверным версиям. Где эти золотые безрешные линуксы. Если говорить о кор компонентах, балдейте от networkmanager? Я честно не знаю что там в Винде происходит,, лет 15 не видел. Ещё раз куча народа пилит пилит дистры с непонятной целью, причем там просрано куча человеко часов действительно талантливых людей.
Я подозреваю посыл в многолетнем упорстве Линукс сообщества делать дерьмо в тех местах где казалось бы пора уже полечить детские болячки и двигаться вперед, Линукс это же не недоумки на Винде, это же элита да? Самое забавное, это касается не только десктоп части. А еще помножив это на наших аналогов нет, вообще кайф, начинаешь их за баги подтягивать - а мы что, мы просто взяли пакет и скомпилили( это если повезёт) мы же не разработчики. Вот и получается весь Линукс, левая рука не знает что делает правая, кроме возможно ядра где Торвальдс всех за кокошки держит. Для тех кто любит минусить, вы хоть на одном опенсорц проекте на совещание планирование ходили? А этот цирк нужно хоть раз увидеть.
HDR они научились?
И какой лейтенси при включённой репликации?
Все время забываю про то как иб любит кнопочки.
И что вместо гвоздей и саморезов предлагается использовать для монтажа чтобы мостиков холода не было? Жгите альбомом технических решений.
Тут даже интереснее, через пенополистирол низкой плотности можно дышать. Но на сколько это плюс хз.
Может таки пенополистирол? А что такое пригодный для утепления пенопласт?
Расскажите это ансиблу и солту :)
Уровень сложности тупой будет когда?
На баше просто нативно и короче обращение к файлам или спискам, но если логика обработки чуть сложнее то ад. Глупо отрицать питон как парсер данных и размахивать башем. Так же как на ансибле этим заниматься.
Круто, раньше такого никто не видел.
А чего тут теплое и мягкое смешалось, блочка бакеты, гео и дц.