Привет всем. Вопрос может не к месту, но честно говоря не знаю, где лучше спрашивать, а тесты уже просто устал смотреть. Буду поднимать локальную ИИ на 32 gb VRAM для структуризации и обработки заметок, документов, текста, возможно дополнение через поисковики. Какую модель выбрать на данный момент? Как я понял, очень важен стабильный вызов большого количества tools. Посматриваю на MoE Qwen 30B A3B, Qwen-AgentWorld-35B-A3B. Например Unsloth в какой-то из своих версий хвалилась стабильным вызовом инструментов... Тут еще интересно про контекстные окна, окно в 8к явно маловато, а вот влезет ли по-хорошему 64к вопрос отдельный. Может есть у кого опыт? P.S. поговаривают выйдет dense Qwen 3.8 27b вот ее бы я точно пощупал
Очень вовремя наткнулся на данную статью, так как предстоит работа с нуля над проектом. Поддерживаю идею рассмотрения процесса от и до на примере, было бы интересно прочитать
Долго читал про тему второго мозга, хранилища заметок и тп, очень понравилась идея. Хочется начать пользоваться но... все как-то не могу внедрить его в свою жизнь. Может тут кто дать пару советов начинающему? Каждый раз берусь, вроде что-то идет, но потом забрасываю, потому что не понимаю, что писать. Многие гайды говорят просто начать писать все и обо всем. Но неужели список покупок в продуктовом достоин там места? Или формирование всякой всячины в хранилище - этап, который необходимо пройти? Пока подбирал для себя возможные решения и применения, никак не мог отделаться от чувства, что у меня есть молоток, и я ищу что бы им забить...
Привет всем. Вопрос может не к месту, но честно говоря не знаю, где лучше спрашивать, а тесты уже просто устал смотреть.
Буду поднимать локальную ИИ на 32 gb VRAM для структуризации и обработки заметок, документов, текста, возможно дополнение через поисковики. Какую модель выбрать на данный момент? Как я понял, очень важен стабильный вызов большого количества tools. Посматриваю на MoE Qwen 30B A3B, Qwen-AgentWorld-35B-A3B. Например Unsloth в какой-то из своих версий хвалилась стабильным вызовом инструментов...
Тут еще интересно про контекстные окна, окно в 8к явно маловато, а вот влезет ли по-хорошему 64к вопрос отдельный. Может есть у кого опыт?
P.S. поговаривают выйдет dense Qwen 3.8 27b вот ее бы я точно пощупал
Новость была, что claude урезала на 2/3 количество циклов размышлений (никому не сказав) , поэтому и стал глупым. Шринкфляция по ии'шевски
Очень вовремя наткнулся на данную статью, так как предстоит работа с нуля над проектом. Поддерживаю идею рассмотрения процесса от и до на примере, было бы интересно прочитать
Спасибо, вы дали некоторый новый взгляд на это
Долго читал про тему второго мозга, хранилища заметок и тп, очень понравилась идея. Хочется начать пользоваться но... все как-то не могу внедрить его в свою жизнь. Может тут кто дать пару советов начинающему?
Каждый раз берусь, вроде что-то идет, но потом забрасываю, потому что не понимаю, что писать. Многие гайды говорят просто начать писать все и обо всем. Но неужели список покупок в продуктовом достоин там места? Или формирование всякой всячины в хранилище - этап, который необходимо пройти?
Пока подбирал для себя возможные решения и применения, никак не мог отделаться от чувства, что у меня есть молоток, и я ищу что бы им забить...