Известный производитель компьютерных элементов Nvidia обявила о выходе принципиально новых графических адаптерах для высокопроизводительной обработки данных(Tesla).Всё это дело подключается через разьём PCI-Express. Основа GeForce восьмой серии и 1,35 гигабайта графической памяти. Но самое прикольное в том, что эти адаптеры не имеют выхода для конекта монитора… Они служат для увеличения производительности всей системы! Производительность дикая с сравнительно малым потреблением энергии. Представляете что произойдёт, если два таких адаптера соединить в SLI-режиме? Бешеная мощность. Речи о цене пока не идёт!!!
0
12
Хабр доступен 24/7 благодаря поддержке друзей
Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах
Я собрал домашний сервер с нейросетками, чтобы не зависеть от облака. Далее честный рассказ с цифрами, бенчмарком на 14 реальных задачах и выводами, которые я проверял на себе.
Если совсем коротко: киловатт питания, две серверные Tesla P100 (суммарно 32 ГБ видеопамяти), турбины, которые слегка шумят, но сервер пришлось выселить на кухню, и Xeon на 28 потоков. Всё это выдаёт от 10 до 50 токенов в секунду, в зависимости от модели. DeepSeek в облаке в три раза быстрее, зато это моё и всегда доступное круглые сутки.
