Слив языковой модели LLaMA 3.1 размером 405B (а также 70B, 8B). Главный открытый конкурент GPT-4o

Правильно ли я понимаю, что там более-менее линейная скорость в зависимости от скорости памяти? Те если взять машину на 4 процессора(допустим dl560g9), то это ускорит процесс в 2 раза.

И подскажите, пожалуйста, 1-2 токена/с насколько это быстро?