Наверное, что то с памятью в 90hx было, тестировал в паре 102-100 с rtx 1080 всё работало, пара cmp90hx + с rtx 1080 не работали модели больше 10gb. продал все майнерские карты и взял rtx3090 :)
У меня cmp 90hx. Работают модели только те, что влезают в память, типа 7b. всё что выше выдают ошибки. не знаю в чём проблема, с виду вроде новая, знакомый говорит, возможно проблема в банке. в паре с p102-100 работать не хочет. p102-100 в lmstudio в версиях выше 3.20 не работают. интересует скорость генерации при двух картах в параллели. у меня gtx 1080 и p102-100. одна 1080 выдаёт что то около 20 токенов/с на 4b модели, а в паре с p102-100 уже 7 токенов/с. PS у cmp90hx охлад мне нравится.. 7 трубок.
Наверное, что то с памятью в 90hx было, тестировал в паре 102-100 с rtx 1080 всё работало, пара cmp90hx + с rtx 1080 не работали модели больше 10gb. продал все майнерские карты и взял rtx3090 :)
У меня cmp 90hx. Работают модели только те, что влезают в память, типа 7b. всё что выше выдают ошибки. не знаю в чём проблема, с виду вроде новая, знакомый говорит, возможно проблема в банке. в паре с p102-100 работать не хочет. p102-100 в lmstudio в версиях выше 3.20 не работают. интересует скорость генерации при двух картах в параллели. у меня gtx 1080 и p102-100. одна 1080 выдаёт что то около 20 токенов/с на 4b модели, а в паре с p102-100 уже 7 токенов/с. PS у cmp90hx охлад мне нравится.. 7 трубок.