Бюджетная альтернатива RTX 3090 Ti для локальных ИИ, или как китайцы воплотили пророчество майнинг-бумового юмора

[melodicmsk]

Форку этому уже наверное 3 месяца. После него цена на эти карты рванул с 25т.р. В реальности 100 т/с достигаются только на кодинге с очень удачным mtp. Это как на 4080с с qwen 3.8 flash next iq4 получать 160 т/с. Такое бывает, но крайне редко. Обычно 80-120 т/с. В текущей цене 100 т. Р. За пару 2080ти с мостиком уже не такое интересное предложение. Кстати в страте даёт в районе 70т/с.

[Semen_Korneplodenko]

Согласен, цены на лот и правда сильно выросли, и предложение уже не такое вкусное как было ранее, но всё ещё даже за 100к 44 гига с хорошей шиной сложно найти, по поводу реальных т/c согласен, бенчмарк с темы был сделан в идеальных условиях, я делал по этому поводу ремарку

[vialine]

было бы неплохо как-то сопоставить ещё с v100 32gb,
потому что текущие ценники на неё и 2080ti 22gb почти сопоставимы,
ну может v100 на копеечку подороже выйдет сейчас

[Semen_Korneplodenko]

Да, но я думаю, она сильно будет проигрывать по т/c, хотя и память у неё хорошая. У volta тензорные ядра не поддерживают актуальные INT4/INT8, увы.