Как мы запустили 35B LLM на видеокарте за $500: внутри ZINC inference engine

[inetstar]

Привет! Объём разработки впечатляет. Подарил приглашение. Очень полезное направление по использованию железа AMD.

Я так понял, что этот проект ты разработал с помощью ИИ из личного любопытства/интереса.

Интересно, сколько реального времени это заняло, какая модель для разработки использовалась и на каком тарифе?

[inetstar]

И ещё вопрос. Если взять карту поддерживаемую ROCm, то какое соотношение в производительности между ROCm и Zink?

[debagger]

Здравствуйте! Пара вопросов:
1. Есть ли поддержка vision для Qwen3.5?
2. Где вы нашли Radeon AI PRO R9700 за $500? Полез смотреть, везде цена раза в 3 больше.

[koreychenko]

За 1500$ заголовок получился бы в 3 раза менее привлекательным :-)

[AngryEvilCookie]

Статья норм, заголовок кликбейт, msrp карты 1300 баксов, какие 500.