Как стать автором
Обновить

Комментарии 39

Бизнеса для - о боже! Не в серверном окружении, а на своей персоналке протестщено - прекрасно!

А есть ли у автора понимание, что в сервер кое-кто из этих карт банально не влезет?

Вы забыли, что у бизнеса есть понимание выгоды. Если будет оправдано использование RTX4090, то будут и серверы в которые они влезут, причем от вполне себе какого-нибудь Supermicro.

Вы совершенно правы, для бизнес показателей важна стоимость покупки или аренды оборудования. Сейчас разброс стоимости очень большой на рынке, так что мы сосредоточились на перформансе.

Раз уж мы говорим о том, что выгоднее, то было бы неплохо либо взять усреднённую на рынке либо рекомендованную производителем цену и всё-таки добавить графики удельной производительности к стоимости.

А ещё у вас опечатка: на RTX 3090 (а также на 3090ti) NVlink есть.

Очень многие такие бизнесы выросли из кучки разносортных десктопов на полках в полуподвале. Я думаю, и сейчас не брезгуют.

Игровые карты выдувают воздух вверх карты

Мне казалось, материнки продолжают делать под правую стенку системного блока, и сверху у видеокарты текстолит. Поэтому она сосёт воздух снизу и вдувает его в радиатор, из которого ему деваться некуда, кроме как утекать через заднюю стенку...

Вы не видели новых видеокарт... теперь они еще продуваются насквозь и греют процессорный кулер и оперативную память...

RTX 30XX-40XX

На картинке изображён референс карты, и он, можно сказать, ещё нормален в части охлаждения. У меня 3070 от gigabyte, вот чем там думали инженеры при проектировании охлаждения, для меня загадка. Выдув идёт строго перпендикулярно материнской плате. Задний край радиатора чётко над южным мостом матплаты, как результат - постоянный сильный нагрев чипсета.

Странное сравнение карточек. они из разных ниш и задач. в частности А5000 это из линейки для видеостен и ставятся обычно по 2 штуки на системник (а в теории до 32х мониторов поддержка). они адаптированы под NVIDIA® Mosaic, что позволяет использовать все мониторы как единый экран без всяких доп действий (то есть по простому если кликнуть на значок развернуть окно на весь экран то оно развернётся на все мониторы без вопросов). так же возможность синхронизации изображений между отдельными пк схожей конфигурации. в общем много чего там есть для больших разрешений.

У А5000 большой потенциал и используют их много где. Мы лишь предложили один из вариантов сравнения, цели сравнить карты во всех возможных вариантах использования мы перед собою не ставили

есть разные варианты использования, несколько не наш случай с нейросетями и транскодингом

Вентиляторы игровых карт не предназначены для длительной работы и выходят из строя при длительной постоянной эксплуатации

Майнеры тут бы поспорили. Также имеет значение ориентация карты к земле, если ось вентиляторов параллельно, нагрузка на втулки/подшипники меньше, чем если кулеры висят "вниз головой". Да и системы озлаждения на топовых игровых картах типа всяких Стриксов-Аорусов изготовлены с большим запасом, а это и более низкие скорости вращения, и благоприятный температурный режим.

у нас огромный опыт эксплуатации такого и всякого. ни разу не видел сломанную турбину, а запасных вентиляторов для радеонов и прочих подобных карт на алике ящиками брали. иногда долго работает, а обычно перестаёт крутиться или разбивает за полгода примерно

Турбину просто используют меньше и обороты там повыше, что лучше для распределения смазки.

у меня несколько сотен карт с турбинам работали 24/7 месяцами без единой проблемы, мы их потом продали. а несколько из пары десятка карт с вентиляторами некоторые потребовали ремонта уже через пару месяцев, а через полгода все уже надо было чинить.

потестите на физических задачах, ну хотя бы на ansys

мы к сожалению в этом не разбираемся, можем выдать машины на тесты - напишите отчёт для хабра?

можете описать кратко как будет выглядеть, тк есть проблема с лицензиями на ПО и это надо уточнить.

выдадим машину с картой с поставленой виндой на тесты, можно будет по RDP зайти и потестить все.

уточню по поводу лицензии позволят ли нам передать/использовать на сторону... мы оч. маленькие и с лиц. очень трудно особенно когда вендоры всё заблокировали).

А "без" ну ни мне ни вам наверно лучше не связываться:)

Возможно @OlegKopaev сможет потестировать тот же abaqus на квадрах. Хотя мне кажется у них свои.

Кстати если не ошибаюсь после с A4000 есть возможность использовать всю память на видеокартах те если у вас 2 карты по 24 Gb то на один расчет можно использовать все 48Gb, а вот на младших и игровых такой фокус не получится... соответственно будет ограничение по размеру модели.

это не происходит автоматически. зная о том, что карт несколько и есть мостик - можно своим софтом обращаться к памяти другой карты напрямую.

Система охлаждения профессиональных карт выдувает горячий воздух из сервера или рабочей станции.

Игровые карты выдувают воздух вверх карты

Нуу, в общем случае я бы так не сказал ))
RTX 4090 с "турбиной" (вентилятором тангенциального типа)
RTX 4090 с "турбиной" (вентилятором тангенциального типа)

на картинке норм, да вот на складах нет. нвидиа явно запретила делать такие корпуса своим партнёрам

Ждем выхода на рынок правильных радиаторов под видеокарты? :) Вентилятор вообще можно будет выкинуть, сервера под теслоподобные часто сами нормально продувают gpu насквозь.

вам не понравится находится в одном помещении с таким сервером. рядом с ним шумно примерно на 90-100 dB. там радиатор во всю длинну карты и перед ним двойная турбина 80х80 на 10к оборотов. и их там часто 5-6 штук, иногда и столько же на выдув.

водянки для 3090 свободно продаются, эти не проблема.

А зачем сидеть в помещении с сервером, если под них отдельные помещения есть? Для рабочей же станции и переделывать вентиляцию смысла особого нет, если в нее 4-8 штук засунуть не планируют. Кроме того, под нагрузкой это нормальный такой обогреватель получается на пару-тройку киловатт и в одном помещении с ним сидеть все равно будет не очень даже без шума.

мы немного отошли от темы. эти все карты не предназначены для такого продува, а те что предназначены, типа А100 - эксплуатируются в специальных серверах в ЦОД. более того А5000 в такой сервер можно поставить, но вентилятор сервера участвовать в охлаждении не будет

Еще одна проблема — запрет Nvidia на использование драйверов для своих игровых карт в дата-центрах и в удаленном режиме вне офиса.
А можно цитату про запрет на удалённый режим? Целиком вычитывать всё соглашение довольно накладно, а поиском по ключевым словам удалось найти лишь про датацентры, а про удалённый доступ — нет. Да и вообще странная формулировка. Это что, я не имею права удалённо зайти на свой домашний комп, на котором игровая видеокарта с соответствующими драйверами?

Также было бы интересно сравнить соотношение производительности к энергопотреблению. В статье говорится, что A-карты потребляют меньше, но никаких цифр не приводится.

там одно предложение в самом начале. в вольном переводе дрова для игровой линейки нельзя использовать на системах установленных в датацентрах и удалённых локациях вне места, откуда работает оператор за исключением работ с блокчейн.

Если вы про фразу
No Datacenter Deployment. The SOFTWARE is not licensed for datacenter deployment, except that blockchain processing in a datacenter is permitted.
то, как я написал, да, про датацентры вопросов нет. Но я не не вижу тут ни единого слова про удалённую работу.

Customer may install and use multiple copies of the SOFTWARE on a shared computer or concurrently on different computers, and make multiple back-up copies of the SOFTWARE, solely for Customer's use within Customer's Enterprise. "Enterprise" shall mean individual use by Customer or any legal entity (such as a corporation or university) and the subsidiaries it owns by more than fifty percent (50%).

это можно трактовать как "в офисе" или "дома".

Это чересчур широкая трактовка, не подкреплённая текстом. Понятие Enterprise тут никоим образом не относится к физическому местоположению, а говорит лишь о владении собственностью.

С одной стороны статья вроде хорошая, а с другой - очень много воды и не заданы самые главные вопросы, а именно:

  • Памятуя про про опыт с 3090 с турбинами от Gigabyte (они были так хороши, что поначалу никто не хотел покупать серверные карты), будут ли 4090 с турбинами, и будет ли там такой же треш с TDP и физическими размерами?

  • Реально ли вообще будет купить такие 4090? Не убьет ли Nvidia эту "лазейку" уже на старте?

  • Будут ли вообще серверные решения уровня А10 / A100 / A4000 / A5000 на новой архитектуре в ближайшее время, и можно ли их вообще будет купить, памятуя о текущих событиях в мире (H100, к примеру, доступны только для "своих" и в уже сборках с неплохой маржой сверху)?

А так да, на любых тестах для игр карты серии 40* неадекватно дорогие (и, шапочка из фольги, новые игры специально для этого плохо оптимизированы), а для вычислений чудо как хороши.

Вообще конечно с трудом верится, что для вычислений Pascal были хороши, Turing были не очень, Ampere были весьма и весьма очень (x2-x3), а Ada якобы опять очень (опять x2?).

Где-то должна быть подстава. Наверное она в неадекватных TDP или в отсутствии поставок или чем-то таком. С другой стороны, если условная A10 или A5000 имеют TDP в районе 150-200 ватт (можно настроить всегда), а 4090 - 450, то как бы "прирост" в 2 раза улетучивается ...

Гугл выдает такую карту - не самые именитые проихводители взялись за такое - https://3dnews.ru/1080507/istoriya-geforce-rtx-4090-s-turbinoy-goryachaya-shumnaya-unikalnaya - а конкретно рассмотренная вообще похожа на штучный кастом какой-то

это кто-то одну сделал руками. у гигабайт нет такого scu

1) им запретили так делать

2) нет, их нет в продаже

3) конечно

подставы нет, карта рассчитана на любителей хорошо поиграть и поработать на своей рабочей станции. не все задачи можно разнести на несколько гпу, вот и одна мощная часто полезнее чем пара попроще.

карта рассчитана на любителей хорошо поиграть и поработать на своей рабочей станции

Для многих задач машинного обучения, да и имхо просто с точки зрения отказоустойчивости, 2 карты с 24 GB памяти предпочтительны одной, у которой TDP в 2 раза выше …

и одна мощная часто полезнее чем пара попроще.

Я думал, что карты давно обогнали игры, но в последнее время учащаются отчеты, что мол на максимальных настройках новых игры тормозят на карты 40*. Но это неточно.

нет. если модель большая, она должна влезть в память целиком и 2 мелких карты будут бесполезны. разложить задачу на несколько карт не такая простая история, это происходит совсем не автоматически.

на 4К или 8К все что угодно может тормозить на хаях. у меня 3090 стоит с 4К монитором, в кибеопанке отнюдь не максималки.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий