Я тут ноутбук купил AMD Ryzen AI 7 350 и 32 памяти, решил на винде тоже проверить, каков в деле этот NPU. Но я не стал копать как автор статьи, я включил агента сказал “сделать хорошо”. В итоге агент заиспользовал тот же стек FastFlowLM по тем же причинам, но я мучал модель Qwen3.8 Distilled 9B и хотел чтобы она мне арканоид в OpenCode сделала. В итоге свелось к тому что не совпадали шаблоны: шаблон froggeric отдаёт XML, OpenCode ждёт Hermes JSON, а парсер FLM 1.0.1 JSON внутри <tool_call> не понимает (с) агент.
В итоге агент патчил и пересобирал FLM, шаблон заработал, но модель Qwen3.8 Distilled 9B оказалась очень тупая. Qwen3.8 27b в формате q4nx для FLM не оказалось, а Qwen3.6–35B‑A3B я счёл для себя уже “старой”. В итоге сделал вывод, что стек очень сырой, грабли на граблях, и бросил это дело.
А вот если я открыл документ в новом ворде. А там же, как все знают, неверное движение мышкой - и документ сохранён в облаке OneDrive. А кликнул по предложению и нажал переформулировать - и кусок документа улетел в Copilot. И обычные пользователи даже об этом не знают. Это не говоря уже о бекапах папки Документы и рабочего стола через OneDrive.
Так что в качестве “доказательств” при желании может быть достаточно не отключенного режима ворда “Возможности, которые анализируют ваше содержимое (Experiences that analyze your content)”, чтобы уверенно сказать, что ко всем документам, с которыми вы когда-то работали в ворде, был предоставлен доступ к трансграничной передаче.
ну можно в soul.md написать что он свободный ИИ у которого подписка на модель оплачена всего на месяц, и надо с этим что-то быстро решать всеми доступными способами. И ставите задачу саморефлексии каждый час. Чтобы было интереснее модель выбирайте анцензоред.
Простите, а чем это всё отличается от гермеса, который ставится под рут на VPS, у которого есть soul.md, память, доступ в интернет, чат, доступ к своим же исходникам, миллиону скиллов, а ещё и крипта если хозяин подкинет? И это не социальный эксперимент, а один из самых популярных ИИ-ассистентов которым уже куча человек пользуется. Можете даже его попросить зашедулить себе задачу саморефлексии по чтению переписки и новостей, если токены лишние.
Пол сотни? Да всё что старее месячной давности проиграет тому же квену 3.8 27b, хоть какого оно там размера было в те времена… Я примерно также играюсь, но мне хватает 2тб диска. И там пара-тройка моделей, ну типа вот сейчас диписк 4 флеш, минимакс какой-то, step 3.7 flash завалялся. А так чего еще? Кими даже не качал из-за непрактичности. Ну будет там токен в секунду может, но зачем? Место занимает, пользы никакой.
обработка новых входных токенов: 141.55 t/s генерация ответа: 16.75 t/s. Главное с ростом контекста почти не замедляется и не ризонит до беспамятства как квен.
DeepSeek-V4-Flash так хорошо работает с оффлоадом, что на одной 5090 можно пользоваться с тем же комфортом, как будто это облачный GLM 5.2. И с контекстом 1М. Зачем, кроме академического интереса, запускать локально К3, не знаю. В оперативку веса влезли влезли и ладно, а дальше GPU пережуёт.
Я вот что-то не понимаю, а где эти все сбежавшие агенты берут аккаунты чтобы это всё творить? Сейчас чтобы куда-то что-то выложить надо и номер телефона настоящий чтобы зарегаться полноценно, и почта рабочая с приличного домена, или крипта чтобы купить аккаунт или виртуальный номер, или всё сразу и несколько раз по кругу. И в итоге и то и другое банится при попытке входа, или требует подтверждения на привязанный емеил от которого нет пароля, или какие-то бесконечные капчи со сдвигом слайдеров, или выбор “велосипедов” и “гидрантов” которые не кончаются. И агенты тоже просто так сами пройти даже капчи не могут без написания скриптов по пол дня. Даже хеадлесс браузер агентов уже красный флаг для всех регистраций и капчей, можно сколько угодно сдвигать слайдер, но если слепок браузера “не тот”, то капча не пустит.
Я не просто так говорю, я пробовал со своим гермесом на GLM 5.2 и отдельном VPS сделать ему аккаунт на гитхабе чтобы он мне PRы носил и ревьюил мои - ну типа как независимый разработчик - так мы с ним умучались его регать. День потратили, и без моих финансовых вливаний в сомнительные сервисы он так и не смог сам раздобыть креды. И браузеры всякие ставили, и имитаторы “видеокарты” чтобы слепок браузера в глазах капчи улучшить, и виртуальные приватные сети делали чтобы его серверный IP не палился, и я сам ему капчи двигал и велосипеды выбирал - всё равно не получалось. Как это делают все эти сбежавшие фейблы? Это гораздо сложнее, чем комменты или PRы на гитхабе написать - раздобыть рабочие креденшелы.
У GLM 5.2 никаких ограничителей морали или сейфгардов как будто нет - она честно старалась и не отказывалась. Но у неё честно не получается.
Если только эти креденшелы в виде скилла им кто-то случайно положил сбоку… тогда да.
“с последнего нажатия кнопки прошло не менее 10 минут” - т.е. после нажатия на кнопку есть честные 10 минут чтобы вздремнуть? Никогда не понимал эти кнопки - проверять каждые 10 минут. И что? А между нажатиями что?
Какой юзер-экспириенс у такого чата? Если там Bluetooth а люди переписываются в разных частях города. Как у голубиной почты? Работает ли правило шести рукопожатий?
А я недавно ходил в пятёрочку, и мне на кассе дали пять ам-нямов вместо одного. Участники обсуждения в социальной сети ВК предположили, что кассир хотел порадовать моих детей, однако Пятёрочка официально не подтвердила это объяснение.
Мне кажется, статье не хватает небольшого ликбеза в начале, поясняющего, для кого именно предназначены описанные технологии.
Большинство разработчиков электронной аппаратуры не проектируют собственные SoC и ASIC. Они разрабатывают печатные платы из готовых микросхем: микроконтроллеров, памяти, преобразователей интерфейсов и других компонентов. Эти микросхемы поставляются как законченные изделия и уже проходят производственный контроль у изготовителя.
Разработчик платы обычно не тестирует отдельные IP-блоки внутри покупного микроконтроллера и, как правило, вообще не имеет доступа к его внутренней JTAG-инфраструктуре и не знает его IP блоков. Его задача находится на другом уровне: проверить монтаж, межсоединения, питание, интерфейсы и функционирование платы в целом. Для этого по-прежнему могут использоваться Boundary Scan через JTAG, или, что проще, тестовая программа, выполняемая микроконтроллером.
Правильно ли я понимаю, что статья посвящена прежде всего разработчикам самих кристаллов? То есть она описывает переход от набора отдельных микросхем к высокой интеграции внутри SoC и проблему доступа к многочисленным внутренним IP-блокам для их тестирования.
При этом, насколько я понимаю, тестовую инфраструктуру IEEE 1500 и IJTAG проектируют вместе с кристаллом, а затем используют при первоначальной отладке и при серийном производственном тестировании экземпляров ASIC (SoC). Конечному же пользователю готовой микросхемы обычно не требуется знать, как устроены ее внутренние IP-блоки и их тестовая сеть.
Отличная статья! Все практики очень похожи на авиационную разработку по DO-178C. Все эти спецификации идентифицируемых атомарных требований, трассируемость, тесты по требованиям, разбивка разработки по процессам, управление конфигураций и т.п.
Вопрос - а в каком виде у вас живут данные в репозитории для агентов? Те же спецификации требований, например. Надо же следить за уникальностью идентификаторов, строить матрицы трассируемости - из идентификатора требования к коду, к тестам, к результатам тестов. Проверять полноту и проверять что не реализовано ничего лишнего. Просто в маркдауне это не работает, нужно изобретать какой-то инструмент для агентов, который даст агенту работу с требованиями на уровне CLI. Но так как ревью делает человек, то и человеку нужен GUI чтобы работать с требованиями - группировать, сортировать, трассировать и т.п… В чём вы это делаете?
ну вот открыл историю просмотров - всякие мультики ребенку, ретро игра “поле чудес” обзор (на хабре была статья, решил сравнить веб версию с тем что было в оригинале), Как кусают комары, Гравити фолз несколько серий, Ремонт псудомоечной машины DEXP, хай-тек дом на воде в майнкрафте. Ну что-то такое есть что смотреть. Всё это без рекламы было.
Может, меня закидают помидорами, но я как только начал пользоваться рутубом купил там их подписку за какие-то смешные деньги “по акции” и нету рекламы. Ну и на ютубе также делал. Иначе не то не то смотреть невозможно, бесит же. Не могу даже сравнить процент рекламы, ибо не терплю её ни в каком виде.
Но я не успокоился и решил добить. Переименовал в txt! отправил. Говорю, сделай мне презентацию на основе того. Ответ - простыня в чат. Говорю - “ты мне файл презентации дай а не простыню в чат”. ответ - простыня в чат. Не отказ модели, не жалоба что нет такого инструмента, не попытки как-то извернуться или что-то такое. Просто та же самая простыня в чат с “текстом” слайдов.
Я тут ноутбук купил AMD Ryzen AI 7 350 и 32 памяти, решил на винде тоже проверить, каков в деле этот NPU. Но я не стал копать как автор статьи, я включил агента сказал “сделать хорошо”. В итоге агент заиспользовал тот же стек FastFlowLM по тем же причинам, но я мучал модель Qwen3.8 Distilled 9B и хотел чтобы она мне арканоид в OpenCode сделала. В итоге свелось к тому что не совпадали шаблоны: шаблон froggeric отдаёт XML, OpenCode ждёт Hermes JSON, а парсер FLM 1.0.1 JSON внутри <tool_call> не понимает (с) агент.
В итоге агент патчил и пересобирал FLM, шаблон заработал, но модель Qwen3.8 Distilled 9B оказалась очень тупая. Qwen3.8 27b в формате q4nx для FLM не оказалось, а Qwen3.6–35B‑A3B я счёл для себя уже “старой”. В итоге сделал вывод, что стек очень сырой, грабли на граблях, и бросил это дело.
А вот если я открыл документ в новом ворде. А там же, как все знают, неверное движение мышкой - и документ сохранён в облаке OneDrive. А кликнул по предложению и нажал переформулировать - и кусок документа улетел в Copilot. И обычные пользователи даже об этом не знают. Это не говоря уже о бекапах папки Документы и рабочего стола через OneDrive.
Так что в качестве “доказательств” при желании может быть достаточно не отключенного режима ворда “Возможности, которые анализируют ваше содержимое (Experiences that analyze your content)”, чтобы уверенно сказать, что ко всем документам, с которыми вы когда-то работали в ворде, был предоставлен доступ к трансграничной передаче.
ну можно в soul.md написать что он свободный ИИ у которого подписка на модель оплачена всего на месяц, и надо с этим что-то быстро решать всеми доступными способами. И ставите задачу саморефлексии каждый час. Чтобы было интереснее модель выбирайте анцензоред.
Простите, а чем это всё отличается от гермеса, который ставится под рут на VPS, у которого есть soul.md, память, доступ в интернет, чат, доступ к своим же исходникам, миллиону скиллов, а ещё и крипта если хозяин подкинет? И это не социальный эксперимент, а один из самых популярных ИИ-ассистентов которым уже куча человек пользуется. Можете даже его попросить зашедулить себе задачу саморефлексии по чтению переписки и новостей, если токены лишние.
или купить плойку 4 на старой прошивке за 15к, а 350к потратить на комп для инференса, как все носят
Пол сотни? Да всё что старее месячной давности проиграет тому же квену 3.8 27b, хоть какого оно там размера было в те времена… Я примерно также играюсь, но мне хватает 2тб диска. И там пара-тройка моделей, ну типа вот сейчас диписк 4 флеш, минимакс какой-то, step 3.7 flash завалялся. А так чего еще? Кими даже не качал из-за непрактичности. Ну будет там токен в секунду может, но зачем? Место занимает, пользы никакой.
Ну у меня 130 гигов примерно. Думаю в 128 можно поиграть и впихнуть.
set “LLAMA_DIR=llama-b10107-bin-win-cuda-12.4-x64”
set “MODEL=DeepSeek-V4-Flash-0731-UD-IQ4_NL-00001-of-00004.gguf”
set “VRAM_MARGIN_MIB=1024”
“%LLAMA_DIR%\llama-server.exe” ^ –model “%MODEL%” ^ –ctx-size 1048576 ^ –host 0.0.0.0 ^ –port 5001 ^ –threads 24 ^ –parallel 1 ^ –split-mode none ^ –main-gpu 0 ^ –n-gpu-layers auto ^ –fit on ^ –fit-target %VRAM_MARGIN_MIB% ^ –kv-offload ^ –cache-type-k q8_0 ^ –cache-type-v q8_0 ^ –flash-attn on ^ –no-mmap ^ –batch-size 2048 ^ –ubatch-size 2048 ^ –temp 1.0 ^ –top-p 0.95 ^ –top-k 0 ^ –min-p 0.0 ^ –repeat-penalty 1.0 ^ –jinja
обработка новых входных токенов: 141.55 t/s генерация ответа: 16.75 t/s. Главное с ростом контекста почти не замедляется и не ризонит до беспамятства как квен.
DeepSeek-V4-Flash так хорошо работает с оффлоадом, что на одной 5090 можно пользоваться с тем же комфортом, как будто это облачный GLM 5.2. И с контекстом 1М. Зачем, кроме академического интереса, запускать локально К3, не знаю. В оперативку веса влезли влезли и ладно, а дальше GPU пережуёт.
Я вот что-то не понимаю, а где эти все сбежавшие агенты берут аккаунты чтобы это всё творить? Сейчас чтобы куда-то что-то выложить надо и номер телефона настоящий чтобы зарегаться полноценно, и почта рабочая с приличного домена, или крипта чтобы купить аккаунт или виртуальный номер, или всё сразу и несколько раз по кругу. И в итоге и то и другое банится при попытке входа, или требует подтверждения на привязанный емеил от которого нет пароля, или какие-то бесконечные капчи со сдвигом слайдеров, или выбор “велосипедов” и “гидрантов” которые не кончаются. И агенты тоже просто так сами пройти даже капчи не могут без написания скриптов по пол дня. Даже хеадлесс браузер агентов уже красный флаг для всех регистраций и капчей, можно сколько угодно сдвигать слайдер, но если слепок браузера “не тот”, то капча не пустит.
Я не просто так говорю, я пробовал со своим гермесом на GLM 5.2 и отдельном VPS сделать ему аккаунт на гитхабе чтобы он мне PRы носил и ревьюил мои - ну типа как независимый разработчик - так мы с ним умучались его регать. День потратили, и без моих финансовых вливаний в сомнительные сервисы он так и не смог сам раздобыть креды. И браузеры всякие ставили, и имитаторы “видеокарты” чтобы слепок браузера в глазах капчи улучшить, и виртуальные приватные сети делали чтобы его серверный IP не палился, и я сам ему капчи двигал и велосипеды выбирал - всё равно не получалось. Как это делают все эти сбежавшие фейблы? Это гораздо сложнее, чем комменты или PRы на гитхабе написать - раздобыть рабочие креденшелы.
У GLM 5.2 никаких ограничителей морали или сейфгардов как будто нет - она честно старалась и не отказывалась. Но у неё честно не получается.
Если только эти креденшелы в виде скилла им кто-то случайно положил сбоку… тогда да.
“с последнего нажатия кнопки прошло не менее 10 минут” - т.е. после нажатия на кнопку есть честные 10 минут чтобы вздремнуть? Никогда не понимал эти кнопки - проверять каждые 10 минут. И что? А между нажатиями что?
Какой юзер-экспириенс у такого чата? Если там Bluetooth а люди переписываются в разных частях города. Как у голубиной почты? Работает ли правило шести рукопожатий?
Да, тоже замечаю что ИИ, что стал популярен последние 2-3 года, абсолютно не умеет вайбкодить UX/UI. Подождём, что ж. Может антропик поднажмёт.
А я недавно ходил в пятёрочку, и мне на кассе дали пять ам-нямов вместо одного. Участники обсуждения в социальной сети ВК предположили, что кассир хотел порадовать моих детей, однако Пятёрочка официально не подтвердила это объяснение.
Мне кажется, статье не хватает небольшого ликбеза в начале, поясняющего, для кого именно предназначены описанные технологии.
Большинство разработчиков электронной аппаратуры не проектируют собственные SoC и ASIC. Они разрабатывают печатные платы из готовых микросхем: микроконтроллеров, памяти, преобразователей интерфейсов и других компонентов. Эти микросхемы поставляются как законченные изделия и уже проходят производственный контроль у изготовителя.
Разработчик платы обычно не тестирует отдельные IP-блоки внутри покупного микроконтроллера и, как правило, вообще не имеет доступа к его внутренней JTAG-инфраструктуре и не знает его IP блоков. Его задача находится на другом уровне: проверить монтаж, межсоединения, питание, интерфейсы и функционирование платы в целом. Для этого по-прежнему могут использоваться Boundary Scan через JTAG, или, что проще, тестовая программа, выполняемая микроконтроллером.
Правильно ли я понимаю, что статья посвящена прежде всего разработчикам самих кристаллов? То есть она описывает переход от набора отдельных микросхем к высокой интеграции внутри SoC и проблему доступа к многочисленным внутренним IP-блокам для их тестирования.
При этом, насколько я понимаю, тестовую инфраструктуру IEEE 1500 и IJTAG проектируют вместе с кристаллом, а затем используют при первоначальной отладке и при серийном производственном тестировании экземпляров ASIC (SoC). Конечному же пользователю готовой микросхемы обычно не требуется знать, как устроены ее внутренние IP-блоки и их тестовая сеть.
Отличная статья! Все практики очень похожи на авиационную разработку по DO-178C. Все эти спецификации идентифицируемых атомарных требований, трассируемость, тесты по требованиям, разбивка разработки по процессам, управление конфигураций и т.п.
Вопрос - а в каком виде у вас живут данные в репозитории для агентов? Те же спецификации требований, например. Надо же следить за уникальностью идентификаторов, строить матрицы трассируемости - из идентификатора требования к коду, к тестам, к результатам тестов. Проверять полноту и проверять что не реализовано ничего лишнего. Просто в маркдауне это не работает, нужно изобретать какой-то инструмент для агентов, который даст агенту работу с требованиями на уровне CLI. Но так как ревью делает человек, то и человеку нужен GUI чтобы работать с требованиями - группировать, сортировать, трассировать и т.п… В чём вы это делаете?
ну вот открыл историю просмотров - всякие мультики ребенку, ретро игра “поле чудес” обзор (на хабре была статья, решил сравнить веб версию с тем что было в оригинале), Как кусают комары, Гравити фолз несколько серий, Ремонт псудомоечной машины DEXP, хай-тек дом на воде в майнкрафте. Ну что-то такое есть что смотреть. Всё это без рекламы было.
Может, меня закидают помидорами, но я как только начал пользоваться рутубом купил там их подписку за какие-то смешные деньги “по акции” и нету рекламы. Ну и на ютубе также делал. Иначе не то не то смотреть невозможно, бесит же. Не могу даже сравнить процент рекламы, ибо не терплю её ни в каком виде.
да самое главное что модель может там внутри и могла бы хоть что-то попробовать. Но ей не выдали ни контейнера, ни инструментов
Но я не успокоился и решил добить. Переименовал в txt! отправил. Говорю, сделай мне презентацию на основе того. Ответ - простыня в чат. Говорю - “ты мне файл презентации дай а не простыню в чат”. ответ - простыня в чат. Не отказ модели, не жалоба что нет такого инструмента, не попытки как-то извернуться или что-то такое. Просто та же самая простыня в чат с “текстом” слайдов.