можно ли ехать на велосипеде с квадратными колёсами? можно, но колеса переворачивать с грани на грань придётся руками.
по факту единственный обзор который реально стоит времени и сил, и который нужен, это сравнение gsq rco кванта квена 27б и ista Coder через страту. причём не в плане скорости, а в плане наличия мозга.
и именно поэтому никто такое сравнение не сделает. будем дальше клодослоп изрыгивать.
немного дезинфы, 35б квен влезет даже в 12гб гпу. просто нужно гуглить ncpumoe в поиске. но смысла в этом не прямо что бы много, когда есть плотный квен. в остальном все верно.
модельный ряд опоздал на два года. впринципе все что умное и актуальное написали выше, это и ornith и gsq rco, и qwen 3.6 a3b.
конкретно для фронтенда должен быть хорош ornith.
докуп ещё одной карты не обязателен, 16гб вполне хватит что бы гонять что то умное. расширившись на 32гб например, ты останешься на том же плотном квене 3.8, просто возьмёшь квант повыше и закинешь больше контекста, какого то прорыва не будет. следующий апдейт это флеш некст, но туда надо 64гб озу и 24гб врам. и нграмы на ссд.
бюджетно 16гю врам это наиболее эффективная точка из соотношения затрат качества
впридачу теперь можно раздавать локальные домены для своих серверов, и ходить к ним не по айпи и порту. вся инфра для этого у вас уже есть.
вы так же можете по идее рассмотреть возможность подключения второго канала связи, через симку в телефоне. модули связи в телефонах значительно лучше чем в роутерах с sim разъемом.
вы забыли о рекурсии. мясное прокси пишет нейробулшит, затем приходит скрапер собирающий датасет для гпт 7, и очень даже читает.
к тому же вы забыли что весь этот мир одна большая психушка с огромным количеством абсурда и комичных ситуаций. всегда будут корпорации и гос сектор, в которых 60летний директор / руководитель, который освоил кнопочный телефон только в 57лет, решит что в этом месяце отдел связей (не половых) с общественностью должен выродить 10 статей за месяц, и отчитаться о проделанной работе письменно. и вот уже типичная офисная муха по имени Маша накатывает лонгрид бреда в Вашу харбаленту, потому что насяльника отдал приказ. и это я ещё не писал об полоумных нейроевангелистах и промпт-медиумах. целая каста душевно больных из вахи 40к, готовых подобно техножрецам молиться на предугадыватель слов и чисто идейно везде блевать я сгенерированным хламом, даже если он никому не нужен.
и да, вот примерно так выглядит живой комментарий, который даже солевая хайпеж астра никогда не сможет сделать.
денс сидящий полностью в гпу будет иметь лучший промпт процессинг чем мое. но в случае с 4гб врам, у вас нет альтернатив, только использовать мое.
можно ли ехать на велосипеде с квадратными колёсами? можно, но колеса переворачивать с грани на грань придётся руками.
по факту единственный обзор который реально стоит времени и сил, и который нужен, это сравнение gsq rco кванта квена 27б и ista Coder через страту. причём не в плане скорости, а в плане наличия мозга.
и именно поэтому никто такое сравнение не сделает. будем дальше клодослоп изрыгивать.
выбрасываешь бонсай, плюешь в корзину с бонсаем, качаешь gsq rco iq3, размером в 10гб. запускаешь, контекст ставишь 64к.
оно не юзабельно, и уровень мозгов там на уровне gpt2.
ornith 1.5, tiel Coder, qwen 3.8 gsq rco с очень агрессивным квантования кэша
немного дезинфы, 35б квен влезет даже в 12гб гпу. просто нужно гуглить ncpumoe в поиске. но смысла в этом не прямо что бы много, когда есть плотный квен. в остальном все верно.
помещается она без проблем, возьми gsq-rco, на 16гб 100к контекста будет, и выброси бога ради олламу, ты сам себе в ногу стреляешь с ней.
модельный ряд опоздал на два года. впринципе все что умное и актуальное написали выше, это и ornith и gsq rco, и qwen 3.6 a3b.
конкретно для фронтенда должен быть хорош ornith.
докуп ещё одной карты не обязателен, 16гб вполне хватит что бы гонять что то умное. расширившись на 32гб например, ты останешься на том же плотном квене 3.8, просто возьмёшь квант повыше и закинешь больше контекста, какого то прорыва не будет. следующий апдейт это флеш некст, но туда надо 64гб озу и 24гб врам. и нграмы на ссд.
бюджетно 16гю врам это наиболее эффективная точка из соотношения затрат качества
впридачу теперь можно раздавать локальные домены для своих серверов, и ходить к ним не по айпи и порту. вся инфра для этого у вас уже есть.
вы так же можете по идее рассмотреть возможность подключения второго канала связи, через симку в телефоне. модули связи в телефонах значительно лучше чем в роутерах с sim разъемом.
я могу импортировать кисти, плагины, градиенты, стили, экшны из фотошопа?
вы забыли о рекурсии. мясное прокси пишет нейробулшит, затем приходит скрапер собирающий датасет для гпт 7, и очень даже читает.
к тому же вы забыли что весь этот мир одна большая психушка с огромным количеством абсурда и комичных ситуаций. всегда будут корпорации и гос сектор, в которых 60летний директор / руководитель, который освоил кнопочный телефон только в 57лет, решит что в этом месяце отдел связей (не половых) с общественностью должен выродить 10 статей за месяц, и отчитаться о проделанной работе письменно. и вот уже типичная офисная муха по имени Маша накатывает лонгрид бреда в Вашу харбаленту, потому что насяльника отдал приказ. и это я ещё не писал об полоумных нейроевангелистах и промпт-медиумах. целая каста душевно больных из вахи 40к, готовых подобно техножрецам молиться на предугадыватель слов и чисто идейно везде блевать я сгенерированным хламом, даже если он никому не нужен.
и да, вот примерно так выглядит живой комментарий, который даже солевая хайпеж астра никогда не сможет сделать.