Уверен, вы в курсе, что видеокарты нужны не только криптомайнерам. Чем «умнее» становятся сервисы и сферы производства, тем больше самым разным организациям требуется инфраструктура с GPU – как в выделенных серверах, так и в облаке.
Сегодня я расскажу о нескольких интересных кейсах клиентов Selectel, которые арендуют выделенные серверы с GPU. Разделю их на секторы бизнеса и укажу, какие видеокарты и конфиги они используют.
Дисклеймер: у нас нет доступа к серверам клиентов, мы не знаем, какие конкретно приложения на них запускаются. Вся информация, которую я использую в статье, получена из открытых источников: интервью с клиентами, их отзывов, сайтов компаний. Названия части компаний не упоминаются.
Как выбрать GPU
Учитывая развитие технологий в различных сферах повседневной жизни, аренда сервера с GPU становится необходимой для целого ряда сфер бизнеса — не только «исконно технологичных». На данный момент в Selectel есть более десяти моделей видеокарт. Все они есть либо в готовых сборках (если сервер нужен в течение 10 минут), либо в конфигураторе — нужна особая конфигурация и есть время подождать сервер (до 5 рабочих дней). Если вам интересно, почему у нас так много видеокарт и как мы их выбираем, читайте мой предыдущий текст.
Что мы можем предложить сейчас?
| GPU | RAM | GeekBench 5 | Конфигурации готовых серверов | VDI | ML | Ренд. | Транскод. |
|---|---|---|---|---|---|---|---|
| A2 | 16 ГБ GDDR6 | 39 180 | нет, только в конфигураторе | + | + | + | + |
| Tesla T4 | 16 ГБ GDDR6 | 79 454 | Intel Xeon E-2236: 6 × 3.4 ГГц,16 ГБ DDR4, 2 × 240 ГБ SSD SATA, GPU Tesla T4 | + | + | + | + |
| A2000 | 6 ГБ GDDR6 | 81 638 | AMD Ryzen 5 5600X: 6 × 3.7 ГГц, 64 ГБ DDR 4, 2 × 1 ТБ SSD NVMe, GPU A2000 | - | + | + | + |
| A4000 | 16 ГБ GDDR6 | 137 850 | Intel Core i7-11700K: 8 × 3.6 ГГц, 64 ГБ DDR4, 2 × 1 ТБ SSD NVMe, GPU A4000 16 ГБ GDDR6 | - | + | + | + |
| A5000 | 24 ГБ GDDR6 | 182 930 | 2 × Intel Xeon Gold 6240R: 24 × 2.4 ГГц, 512 ГБ DDR4, 2 × 480 ГБ SSD SATA, 2 × 1920 ГБ SSD SATA, 4 × RTX A5000 | + | + | + | + |
| V100 | 32 ГБ HBM2 | 193 619* | нет, только в конфигураторе | + | + | + | + |
| A100 | 40 ГБ HBM2 | 213 899* | 2 × Intel Xeon Silver 4314: 16 × 2.4 ГГц, 256 ГБ DDR4, 2 × 480 ГБ SSD SATA, 2 × 1920 ГБ SSD SATA, GPU Tesla A100 | + | + | + | - |
*CUDA API
Все эти карты можно установить в различные платформы с подходящими процессорами в нашем конфигураторе выделенных серверов.
Tesla T4, A2 и A2000 в конфигурации с одной GPU не требуют специального корпуса, что позволяет использовать их с широкой линейкой процессоров, в том числе десктопных. О том, почему мы предлагаем десктопные процессоры, мы уже писали.
A4000 и A5000 также можно комбинировать с десктопными процессорами, однако для серверного сегмента потребуется специальный GPU-корпус.
V100 и A100 работают только с серверными процессорами, материнскими платами и корпусами, и это настоящие «монстры» производительности.
Сконфигурировать систему можно от простого решения с одной картой до сервера с 8 GPU. A100 можно подключить с помощью шины NVLink для увеличения производительности.
Как подойти к выбору карты? К сожалению, универсальных рецептов не существует. В каких-то случаях эффективнее взять несколько дешевых GPU, которые с легкостью заменят одну более производительную карту. Где-то подойдет исключительно A100. Лучший способ узнать — экспериментировать с разными картами, чтобы получить лучшую производительность. Для фиксированных конфигураций доступна аренда сервера на сутки, что сделает тесты не такими затратными. В облаке можно протестировать те же карты — с оплатой по модели pay-as-you-go.
Если у вас есть особый подход к выбору видеокарты, напишите о них в комментариях!
Теперь посмотрим, какие GPU выбирают те или иные сферы бизнеса.
Медицина
Начну с решений, буквально продлевающих жизнь людям. Медицинский софт способен распознавать данные со снимков рентгена, КТ, МРТ, обращать внимание врача на отклонения от нормы, предполагать диагноз. Здесь подключаются системы распознавания изображений, текста, звука. Все они работают на серверах с видеокартами, которые хорошо подходят для обучения и инференса моделей.
Более распространенный кейс использования — это медицинские исследования: разработка вакцин, изучение ДНК и т.д. Все это работа с большими данными, которую не произвести без мощных видеокарт.
Пример клиента Selectel. Компания предоставляет продукт, анализирующий КТ-снимки органов грудной клетки. С помощью разработанных алгоритмов и обученной модели система распознает на снимках такие патологии, как COVID, рак легкого, аневризмы, остеопороз, новообразования печени и почек.
Выбор компании: используют NVIDIA A100 — с ними легче проводить такую аналитику.
Также в сфере медицины развиваются сервисы чат-ботов — например, их можно встретить в мобильных приложениях страховых компаний. Обучение ботов в сфере здравоохранения особо важно: по описанию симптомов «помощник» может направить к нужному специалисту или даже поставить диагноз. Для «тренировки» таких ботов используются мощности видеокарт. Возможно, вы реже пишете в чат «Позови оператора» отчасти из-за серверов Selectel.
Какие карты применять?
Для описанных задач можно применять любую карту в линейке GPU – в зависимости от объема данных и желаемой скорости их обработки. Можно работать с проверенной временем Tesla T4 или выйти на новый уровень с восемью картами A100 на многоядерных масштабируемых процессорах, таких как Intel® Xeon® Gold 6240R, установленных в двух сокетах.
Архитектура, строительство, урбанистика
Эти направления интересны активным использованием VDI. На серверах создаются удаленные рабочие столы с высоконагруженными приложениями для проектирования и визуализации: AutoCAD, Revit, Autodesk 3ds MAX и другие. Корректная работа этих сервисов требует хороших GPU. Покупать сотрудникам компьютеры и ноутбуки, способные тянуть это ПО, дорого. Отдельной задачей станет администрирование парка корпоративных ПК и обеспечение безопасности удаленной работы.
С технологией VDI сотрудники компаний-девелоперов могут использовать ресурсы серверов с GPU, подключившись в режиме «тонкого клиента» из любого удобного места.
Пример клиента Selectel. Проектное бюро BIMTeam проекта ПИК в начале пандемии коронавируса развернуло более 1 000 виртуальных рабочих мест для удаленной работы сотрудников. Проектировщики компании работают с требовательным к производительности программным обеспечением. При этом могут делать это с любого рабочего компьютера, так как последний является лишь тонким клиентом.
Выбор компании: видеокарты Tesla T4, которые позволяют поддерживать совместную работу над проектирования 3D-моделей домов.
Подробнее о кейсе:
→ Как ПИК-Проект перевел 2 000 сотрудников на удаленку
→ Больше про технологию VDI и решение ПИК-Проекта
Аналогичные серверы и технологии применяются для систем «умный город», позволяющих распознавать граждан, номерные знаки автомобилей и т.п.
Какую карту выбрать?
Не все видеокарты поддерживают технологию VDI. Бюджетно технологию удаленных рабочих столов можно развернуть на конфиге GL10-1-T4 с процессором Intel Xeon E-2236, 16 ГБ RAM и видеокартой Tesla T4. Если требуется более мощный сервер, можно собрать сервер в конфигураторе с GPU A5000 и A100, в качестве бюджетного решения — сервер с видеокартой A2.
Производство, добыча ископаемых, наука
Я был приятно удивлен, обнаружив среди клиентов Selectel ряд научно-исследовательских организаций. Наука в России живет и делает CUDA-вычисления — например, в таких областях, как квантовая физика и квантовая оптика.
Пример клиента Selectel. Сразу два научных центра используют серверы для исследований по квантовым технологиям и разработке новых технических устройств.
Выбор компаний: единогласно используется GPU Tesla T4 в вариациях от одной до одиннадцати видеокарт в сервере.
Не отстает и тяжелая промышленность. На интервью клиенты из этой сферы также рассказывают про построение нейронных сетей и 3D-моделировании на графических ускорителях.
Особо востребованы видеокарты в добыче полезных ископаемых. Здесь огромный простор для использования серверов с GPU — например, для гидродинамического моделирования, геологических расчетов, создания 3D-моделей месторождений.
Пример клиента Selectel. Одна из компаний, которая как раз занимается добычей полезных ископаемых, рассчитывает на серверах с GPU модели гидроразрывов пласта. Тем самым они сокращают расходы и повышают эффективность работы.
Выбор компании: сервер с восемью картами A5000.
Еще один прикладной кейс — работа поставщика оборудования для добывающей промышленности. Компания использует 3D-сканер для оцифровки запчастей и комплектующих, чтобы предлагать клиентам практически любую номенклатуру товаров на заказ собственного производства. Для обработки таких данных также подходят серверы с GPU.
Какие карты использовать?
Для подобных задач подойдут даже десктопные серверы с GPU — например, в конфигурациях AR32G-NVMe или CL63G-NVMe.
Видеопродакшн, стримы и онлайн-образование
Основные задачи, которые решают в этой сфере с помощью GPU, — это рендеринг и обработка видео, а также организация различных стримов и трансляций. Соответственно такими серверами пользуются стриминговые сервисы, хостеры видео и студии продакшена.
Пример клиента Selectel. Одна из крупнейших видеохостингов в России. Используется серверы с GPU для стриминга и обработки видео.
Выбор компании: обширный список серверов, от простых решений на Tesla T4, до платформ с четырьмя или восемью GPU.
Отдельный кластер составляют EdTech-компании, использующие видео для обучения своих студентов. От мини-курсов английского языка до платформ онлайн-образования и школ DevOps-специалистов.
Какие карты использовать?
Согласно нашему тесту видеокарт, здесь оптимально использовать линейку GPU А2000, А4000, A5000. Чаще всего клиенты выбирают A4000 в серверах произвольной конфигурации как золотую середину.
Системные интеграторы и разработка
Мобильная и веб-разработка, сервисы знакомств, управление автосервисом, системы управления рабочим временем, софт для e-commerce — всего лишь несколько примеров профилей клиентов, которые заказали у нас выделенные серверы с GPU.
Нередко это системные интеграторы, комплексно решающие задачи создания IT-инфраструктуры клиентов, в том числе с дальнейшим использованием искусственного интеллекта в бизнесе компании.
Сюда же могу отнести агрегаторов различных предложений: фитнес-услуг, языковых курсов, финансовых услуг.
Какие карты использовать?
Поскольку задачи клиентов существенно различаются, сложно выделить безусловных лидеров. Здесь могут пригодиться базовые конфигурации из конфигуратора с видеокартой A2 либо мощные фиксы GL70-1-A100 или GL90-4-A5000.
Кто еще?
Аналитика вождения и контроль топлива. Целый ряд клиентов этой сферы используют серверы c видеокартой для построения нейронных сетей. Также серверы применяют для контроля городского транспорта и каршеринга. Четко прослеживается использование «младших» — видеокарт — A2 и A2000.
Маркетинг. Серверы с GPU используют для аналитики и быстрого формирования отчетов с визуализацией.
Криптовалюта и блокчейн. Два слова, тесно связанные между собой, — майнинг и видеокарты. Было бы странно не упомянуть это направления. Здесь кейсы меняются со скоростью света, и, что ждать завтра, совершенно непонятно. Помните, год назад был Chia Coin?
Нашли себя в перечне сфер и задач? Если нет, напишите в комментариях, нужны ли вам GPU и для каких целей?
Безусловно, вариаций клиентов, сфер бизнеса и задач, в которых они применяют серверы с GPU, существенно больше перечисленных. Кроме того, не всегда компании выполняют на серверах работу, соответствующую их сфере деятельности. Ресурсы могут понадобиться для тестов нового ПО или разового выполнения непрофильной задачи. В этом тексте я постарался выбрать явно повторяющиеся и схожие по конфигурациям кейсы.
Серверы с GPU можно найти в аукционе выделенных серверов Selectel — удачливый пользователь может арендовать годную конфигурацию со значительной скидкой. На этой неделе — три конфигурации с GPU! Подписывайтесь на Telegram-канал аукциона, чтобы не упустить выгоду.
