Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.
Как вы произносите название компании Google?
69.92%Гуугл165
1.27%Гоголь3
0.42%Гагл1
3.39%Гогле8
25%НЛО59
Проголосовали 236 пользователей. Воздержавшихся нет.
Я собрал домашний сервер с нейросетками, чтобы не зависеть от облака. Далее честный рассказ с цифрами, бенчмарком на 14 реальных задачах и выводами, которые я проверял на себе.
Если совсем коротко: киловатт питания, две серверные Tesla P100 (суммарно 32 ГБ видеопамяти), турбины, которые слегка шумят, но сервер пришлось выселить на кухню, и Xeon на 28 потоков. Всё это выдаёт от 10 до 50 токенов в секунду, в зависимости от модели. DeepSeek в облаке в три раза быстрее, зато это моё и всегда доступное круглые сутки.