Комментарии 4
Очередная отбраковка кристаллов?)
D - Defective :)
Посмотрите на Groq: американская компания покупает у китайского вендора чипы для самого быстрого инстанса llama 70b и mistral. 500 токенов в секунду.
Секрет прост: ASIC. Китайская компания 10 лет занимается асиками, и выпустить чип под llm ей не составило большого труда.
>Существующие ограничения не позволяют американским компаниям поставлять в КНР графические ускорители высокой мощности
Ух как порезали то!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Чем антисанкционная видеокарта Nvidia GeForce RTX 4090D отличается от обычной RTX 4090?