Сравнить объективно трудно. Могу сказать, что на глаз я не отличаю qwen3.6-27b от gemini flash lite. На практике мне хватает для типовых задач вайбкодинга.
Да, было изначально две GPU по 24 Гб, но контекст приходилось резать до 100-150 тыс. токенов. Сейчас, с 4 GPU, память загружена на ~65% при 250 тыс. Так что будем считать, что есть запас на вырост :) Путается ли? Пока не замечал, но стараюсь сильно не перегружать контекст без необходимости.
Не забывайте, что чем больше модель (и соответственно, больше видеокарт) - тем медленнее всё работает для типового домашнего случая, когда модель режется по слоям (и работает на GPU последовательно). Скорость будет сохраняться только если иметь физически очень быструю шину (т.е. либо все GPU на pcie x16, либо имеют свой собственный физический интерфейс обмена данными) и включить тензорный параллелизм. А без серверного железа оно не имеет смысла.
Да, Portainer стоит. Просто GUI порой удобнее чтобы делать настройку в более привычном окружении + экспериментировать на том же LM Studio с моделями куда удобнее, чем постоянно править какие-нибудь конфиги вручную.
Уже два месяца пользую на Qwen Code локальную LLM. Поддерживаются произвольные OpenAI-совместимые API (для любителей GUI вроде меня - VS Code + Qwen Code Companion).
Я заметил, что сейчас qwen местами сама делает вместо прямого вызова, например, `npm run build` вызов с фильтрацией - что-то типа `npm run build | findstr error`.
Если данные прилетают с сервера, то решение из статьи, как мне кажется, будет наиболее красивым-легковесным. Или если есть данные, которые нужно наоборот - легко сериализовать без заморочек. В других случаях, думаю, вы правы - лучше сделать классы и всё прочее.
Вы совершенно правы, дело в кривом коде. И даже Ангуляр тут не при чём - можно прокинуть события как через сервисы, так и сигналы, никто не завтавляет городить 5 уровней.
Мой опыт - Qwen3 Coder Next неюзабельна. Qwen 3.6 сильно лучше - использую в повседневной практике вайбкодинга.
Сравнить объективно трудно. Могу сказать, что на глаз я не отличаю qwen3.6-27b от gemini flash lite. На практике мне хватает для типовых задач вайбкодинга.
Платформа - обычное домашнее железо, в моём случае - материнка под сокет AM4 + DDR4 и соответствующий проц на 8 ядер (можно меньше, не критично).
Да, было изначально две GPU по 24 Гб, но контекст приходилось резать до 100-150 тыс. токенов. Сейчас, с 4 GPU, память загружена на ~65% при 250 тыс. Так что будем считать, что есть запас на вырост :)
Путается ли? Пока не замечал, но стараюсь сильно не перегружать контекст без необходимости.
Изначально (пару лет назад) купил в магазине RX 7900 XTX. Так что выбор был - либо продавать и закупаться 3090, либо докупать ещё AMD :)
Не забывайте, что чем больше модель (и соответственно, больше видеокарт) - тем медленнее всё работает для типового домашнего случая, когда модель режется по слоям (и работает на GPU последовательно). Скорость будет сохраняться только если иметь физически очень быструю шину (т.е. либо все GPU на pcie x16, либо имеют свой собственный физический интерфейс обмена данными) и включить тензорный параллелизм. А без серверного железа оно не имеет смысла.
Да, Portainer стоит. Просто GUI порой удобнее чтобы делать настройку в более привычном окружении + экспериментировать на том же LM Studio с моделями куда удобнее, чем постоянно править какие-нибудь конфиги вручную.
Вряд ли... Входит максимум 6 двухслотовых видеокарт с промежутками по ~3 см между ними.
Брал на озоне, но там они закончились. Искать по "Корпус Dr.Miner". Конкретно у меня на 6 видеокарт, но реально скорее на 5.
Gemini говорит, что вы правы, вероятность 21% :)
Действительно, 99 / 6296 * 100% = 1.57%
Уже два месяца пользую на Qwen Code локальную LLM. Поддерживаются произвольные OpenAI-совместимые API (для любителей GUI вроде меня - VS Code + Qwen Code Companion).
Я заметил, что сейчас qwen местами сама делает вместо прямого вызова, например, `npm run build` вызов с фильтрацией - что-то типа `npm run build | findstr error`.
Кому интересно - вот сравнение Qwen3.6 vs Gemma 4 (всё локально) - Qwen показал себя ощутимо лучше - https://www.reddit.com/r/LocalLLaMA/comments/1soc98n/qwen_36_35b_crushes_gemma_4_26b_on_my_tests/
Да, это всё уже давно, статья больше для тех, кто, например, сидел на легаси проекте и всё это пропустил.
Если данные прилетают с сервера, то решение из статьи, как мне кажется, будет наиболее красивым-легковесным. Или если есть данные, которые нужно наоборот - легко сериализовать без заморочек. В других случаях, думаю, вы правы - лучше сделать классы и всё прочее.
и Windows Mixed Reality :(
Вы совершенно правы, дело в кривом коде. И даже Ангуляр тут не при чём - можно прокинуть события как через сервисы, так и сигналы, никто не завтавляет городить 5 уровней.
Писал на Vue, сейчас на Angular. Разница видится непринципиальной - скорее дело вкуса.
По поводу шины полностью с вами согласен, далеко не везде оно нужно.
Вы не совсем правы. Ограничение в 10 цивилизаций максимум - оно берётся из совсем других соображений. См. мой коммент ниже.