я хоть и не из компании, но вкатываюсь в LLM на карте 3090 и для меня статья был полезна, пусть я и понимаю только четверть (или даже меньше, я все же не программист) на данный момент, но думаю за довольно короткий срок все же разберусь я знаю про ollama, но как инженер который работал с большим количеством разного ПО, понимаю, что рано или поздно упираешься в потолок таких упрощенных, в угоду удобства, программ, поэтому мне кажется, что данная статься будет крайне полезна тем кто только вливается в данную тему с серьезным настроем, а не два вечера посидеть и забыть насчет компаний -- мне кажется вы забываете, что за технологиями стараются поспевать все, а не только богатые компании и бу 3090 хороший выбор для них возьмите даже научку, какой-нибудь гос институт, вряд ли их финансирование позволит нанять программиста для настройки и покупки 5090 или серверных карт, зато сами работники из числа энтузиастов по данной инструкции смогут настроить работу модели
я хоть и не из компании, но вкатываюсь в LLM на карте 3090 и для меня статья был полезна, пусть я и понимаю только четверть (или даже меньше, я все же не программист) на данный момент, но думаю за довольно короткий срок все же разберусь
я знаю про ollama, но как инженер который работал с большим количеством разного ПО, понимаю, что рано или поздно упираешься в потолок таких упрощенных, в угоду удобства, программ, поэтому мне кажется, что данная статься будет крайне полезна тем кто только вливается в данную тему с серьезным настроем, а не два вечера посидеть и забыть
насчет компаний -- мне кажется вы забываете, что за технологиями стараются поспевать все, а не только богатые компании и бу 3090 хороший выбор для них
возьмите даже научку, какой-нибудь гос институт, вряд ли их финансирование позволит нанять программиста для настройки и покупки 5090 или серверных карт, зато сами работники из числа энтузиастов по данной инструкции смогут настроить работу модели