Да, тут как раз вчера про это статья вышла - заманчиво, конечно. Под это нужно другую «бомжесборку» собирать: тут ещё, помимо памяти, в процессор без AVX2 упрётся, ну и в ядра, да. Этот процессор выбирался больше по наличию встроенного видео. О, P102 - я, когда выбирал, тоже смотрел наравне с P106, но на тот момент выиграла цена в два раза ниже и то, что я руководства по драйверам чаще всего к P106 и P104 находил.
Тут, скорей, что сама P104 не сильно популярная карта - без видеовыходов, проблемная установка драйверов (про которые отдельную повесть можно написать)... Но зато дешевая :) Про квантование: тут хотелось сравнить в лоб, без оптимизаций. Вам отдельное спасибо за это предложение, как-то выпало, что так тоже можно. Попробовал - да, 32к влазит, запускается. -fa on, kv=q8_0 / -fa on, kv=q4_0 - примерно 16-17 т/с.
Да, тут как раз вчера про это статья вышла - заманчиво, конечно. Под это нужно другую «бомжесборку» собирать: тут ещё, помимо памяти, в процессор без AVX2 упрётся, ну и в ядра, да. Этот процессор выбирался больше по наличию встроенного видео. О, P102 - я, когда выбирал, тоже смотрел наравне с P106, но на тот момент выиграла цена в два раза ниже и то, что я руководства по драйверам чаще всего к P106 и P104 находил.
Тут, скорей, что сама P104 не сильно популярная карта - без видеовыходов, проблемная установка драйверов (про которые отдельную повесть можно написать)... Но зато дешевая :) Про квантование: тут хотелось сравнить в лоб, без оптимизаций. Вам отдельное спасибо за это предложение, как-то выпало, что так тоже можно. Попробовал - да, 32к влазит, запускается.
-fa on, kv=q8_0/-fa on, kv=q4_0- примерно 16-17 т/с.