Обзор серверного ускорителя NVIDIA Tesla V100 16 Gb в корпусе от RTX 4090: Часть 2 — Тестирование в бенчмарках и играх

[Myrmitory]

Лучшее бюджетное решение для того чтобы ворочать ИИшки у себя дома.

[Yuiy78]

Согласен. По крайней мере я не нашел решение лучше за свою стоимость, которое подойдет и для запуска LLM и для игр.

[da-nie]

Таблица про Titan V что-то врёт.

И я сейчас свою программу запускал на тесле и на титане, так вот на титане она быстрее была на 30 мс (тесла 280 мс, титан 250), при том, что процессор в сборке для титана слабее (а у меня он тоже используется).

А по тесле такие данные:

[Yuiy78]

Понятно, у Tesla V100 только 1 уровень производительности. Я еще пробовал увеличивать частоту ядер Tesla V100 в MSI Afterburner - не работает. Titan V как и многие видеокарты nvidia можно подразогнать. В моем обзоре у Titan V частота буста ядер указана в режиме по умолчанию. Смущает только то, что на скриншоте в NVIDIA Settings нет частоты буста 1455 Мгц как указано в моей таблице.

[da-nie]

Да вот непонятные все эти таблицы из инета. Вот что ещё титан выдаёт.

Интересно, что у титана 250 Вт, а у теслы 300. Я думаю, что ограничение связано с охлаждением. И его можно и поменять. Была какая-то команда такой настройки.

[Yuiy78]

Изменить TDP можно командой nvidia-smi -pl "значение в Вт". На tesla V100 не получается увеличить power limit выше 300 Вт. Возможно на Titan V получится выставить больше 250, так как судя по данным VBIOS - limit tdp 300 w.

[da-nie]

У титана ставится. А вот работает ли...

[Yuiy78]

Можно запустить тот же furmark и проверить энергопотребление. Лишь бы система охлаждения справилась.

[Dex6]

доброго! а когда ожидать третью часть, про ИИчницу на этой 300-ваттной сковородке? ;-)

[Yuiy78]

Третья часть в процессе, в эти выходные постараюсь выпустить.