С4 - вообще странная штука - с одной стороны архитектура на уровне систем, с другой схема таблиц в БД. хотя по идее это уровни разных людей. и если ты строишь архитектуру контура, то у тебя на сервисах API, которые тебе гарантируют контракты взаимодействия. а если строишь ПО, то пожалуйста, рисуй архитектуру программы, схемы БД и т.д. редактор, кстати, да прикольный.
На моей карте 5060 TI 16Gb не взлетело. Далее что мне агент написал:
"Прогнал data/mono3.wav — пайплайн отработал, расшифровки разговора нет.
Файл нормальный: 4.5 МБ, 146 с, 16 кГц mono. Модель его «услышала»: в промпт ушло 914 audio-токенов. Генерация заняла ~76 с, но текст — мусор (air bearing / flying fly / ring…), не реплики двух людей. Сырой ответ лежит в data/mono3.raw.txt.
Это не баг промпта и не «модель не умеет диаризацию». Та же установка ломается и без аудио: на вопрос «столица Франции?» в FP8, в BF16 с CPU-offload и в 8-bit отвечает кашей вроде fire fire / ]*)*.*.*. То есть декодер сейчас не генерирует связный русский текст.
Почему так на этой карте: веса GigaChat Audio 10B — ~24 ГБ BF16, в 16 ГБ VRAM они не влезают. Единственный способ загрузить модель — online FP8 в vLLM, а для DeepSeek-V3 MoE без калиброванных scale это портит маршрутизацию экспертов. Официального CUDA-кванта под Audio нет."
такой портал документации - через пару проектов в моем списке на вайбкодинг.
также хочу подключать репозитории с кодом. но документацию генерить в самом портале (в фоне), чтобы можно было под каждый репо задать свои промпты, обязательные критерии и т.д. так как проекты разные.
MCP в вашем проекте - это круто и мастхэв.
у меня сейчас есть портал документации, который отображает docs из каждого указанного репозитория, если репо поменялся подтягивает изменения. но такой подход зависит от имеющихся в проекте файлов, т.е. если ты сам с ним не работаешь, то не можешь повлиять на контент, не понятно из каких соображений там что-то написанj - кто-то из разрабов сам пишет доки, кто-то с помощью llm нагенерировал, но какой там промпт - неизвестно.
возможно стоит сделать гибридный вариант - брать доку из проекта, добавлять промпт и писать новое. что-то в стиле llm-wiki.
еще из планируемых фишек - это сохранять запросы пользователей и ответы, чтобы была страничка с уже заданными вопросами ранее.
еще терзающий меня момент - т.е. есть код с репо. но это просто код проекта. но он же как-то задеплоен, с какими-то артефактами (домены, ключи, аккаунты) работает. хотелось бы задавать как-то вопросы по взаимосвязям проектов, их конфигурациям. есть отдельные деплойные репозитории, в которых по сути вся архитектура прослеживается. возможно, это отдельная история.
про фреймворк для агентов круто, пора попробовать. еще очень зашло упоминание AG-UI. делал свой фреймворк для ui чатов https://github.com/mobilon-dev/chotto
использую "было бы" чтобы показать, что такой не имеется функциональности, хотя вы согласны, что это весьма простая функциональность. думаю, что банки в рамках какого-то стандарта безопасности не должны выдавать данные из своих приложений.
крутой сервис. Недвижимость, Персоны, Подписки, Кредиты - можно в один пункт Объекты свернуть, типа настраиваешь раз, и затем только иногда заходишь подредактировать. самый главный пункт вероятно - инбокс. некоторые сервисы отправляют уведомления об оплате на емейл. инбокс для емейлов - это прям родное. плюс отдельно закидывать pdf-ки на распознавание - круто.
вообще, пока посмотрел ваш сервис, возникла мысль навайбкодить расширение для браузера, которое будет с аккаунта банка грузить список операций и раскидывать их в таблицу. т.е. раз в месяц, например, заходишь по очереди в каждый свой банк и актуализируешь данные в своей таблице
чего только не делают, чтобы свести аналитику семейных трат. хотя достаточно было бы в кабинете банка сделать опцию вебхуков - отправка json данных платежей на указанный пользователем url
прикольно. но прикольно, что еще вот так видишь концепцию, и можешь через пару часов затащить с помощью вайбкодинга к себе в тулзы. у меня вот есть набор, которым пользуюсь часто, и вот добавить теперь, ну недолго ) просмотр JSON как таблицы
недавно для себя открыл komodo - для деплоя docker-compose проектов. к нему навайбкодил обертку для caddy (который для доменов автоматом делает сертификаты) и coredns (который из label в docker-compose.yml вытягивает домены). все деплойные конфиги лежат в репозиториях.
прикольно, у меня по мессенджеру целый план из нескольких компонент: UI для отображения, движок для обмена сообщениями, отдельный сервис для хранения медиа. моя заметка по теме https://t.me/chottodev/209
порекомедуйте, пожалуйста, беспроводную бесшумную мышку под нормальную мужскую ладонь без геймерских подсветок (т.е. реально нормального размера, не ноутбучную или какую побольше) за адекватные, конечно, деньги
С4 - вообще странная штука - с одной стороны архитектура на уровне систем, с другой схема таблиц в БД. хотя по идее это уровни разных людей. и если ты строишь архитектуру контура, то у тебя на сервисах API, которые тебе гарантируют контракты взаимодействия. а если строишь ПО, то пожалуйста, рисуй архитектуру программы, схемы БД и т.д. редактор, кстати, да прикольный.
На моей карте 5060 TI 16Gb не взлетело. Далее что мне агент написал:
"Прогнал
data/mono3.wav— пайплайн отработал, расшифровки разговора нет.Файл нормальный: 4.5 МБ, 146 с, 16 кГц mono. Модель его «услышала»: в промпт ушло 914 audio-токенов. Генерация заняла ~76 с, но текст — мусор (
air bearing / flying fly / ring…), не реплики двух людей. Сырой ответ лежит вdata/mono3.raw.txt.Это не баг промпта и не «модель не умеет диаризацию». Та же установка ломается и без аудио: на вопрос «столица Франции?» в FP8, в BF16 с CPU-offload и в 8-bit отвечает кашей вроде
fire fire/]*)*.*.*. То есть декодер сейчас не генерирует связный русский текст.Почему так на этой карте: веса GigaChat Audio 10B — ~24 ГБ BF16, в 16 ГБ VRAM они не влезают. Единственный способ загрузить модель — online FP8 в vLLM, а для DeepSeek-V3 MoE без калиброванных scale это портит маршрутизацию экспертов. Официального CUDA-кванта под Audio нет."
https://t.me/chottodev - разарабатываем компоненты для чата: ui, отдельно движок, дополнительные сервисы
такой портал документации - через пару проектов в моем списке на вайбкодинг.
также хочу подключать репозитории с кодом. но документацию генерить в самом портале (в фоне), чтобы можно было под каждый репо задать свои промпты, обязательные критерии и т.д. так как проекты разные.
MCP в вашем проекте - это круто и мастхэв.
у меня сейчас есть портал документации, который отображает docs из каждого указанного репозитория, если репо поменялся подтягивает изменения. но такой подход зависит от имеющихся в проекте файлов, т.е. если ты сам с ним не работаешь, то не можешь повлиять на контент, не понятно из каких соображений там что-то написанj - кто-то из разрабов сам пишет доки, кто-то с помощью llm нагенерировал, но какой там промпт - неизвестно.
возможно стоит сделать гибридный вариант - брать доку из проекта, добавлять промпт и писать новое. что-то в стиле llm-wiki.
еще из планируемых фишек - это сохранять запросы пользователей и ответы, чтобы была страничка с уже заданными вопросами ранее.
еще терзающий меня момент - т.е. есть код с репо. но это просто код проекта. но он же как-то задеплоен, с какими-то артефактами (домены, ключи, аккаунты) работает. хотелось бы задавать как-то вопросы по взаимосвязям проектов, их конфигурациям. есть отдельные деплойные репозитории, в которых по сути вся архитектура прослеживается. возможно, это отдельная история.
а мы делаем проект chotto ui - набор ui компонент на vue3 для чатов https://github.com/mobilon-dev/chotto
про фреймворк для агентов круто, пора попробовать. еще очень зашло упоминание AG-UI. делал свой фреймворк для ui чатов https://github.com/mobilon-dev/chotto
использую "было бы" чтобы показать, что такой не имеется функциональности, хотя вы согласны, что это весьма простая функциональность. думаю, что банки в рамках какого-то стандарта безопасности не должны выдавать данные из своих приложений.
крутой сервис. Недвижимость, Персоны, Подписки, Кредиты - можно в один пункт Объекты свернуть, типа настраиваешь раз, и затем только иногда заходишь подредактировать. самый главный пункт вероятно - инбокс. некоторые сервисы отправляют уведомления об оплате на емейл. инбокс для емейлов - это прям родное. плюс отдельно закидывать pdf-ки на распознавание - круто.
вообще, пока посмотрел ваш сервис, возникла мысль навайбкодить расширение для браузера, которое будет с аккаунта банка грузить список операций и раскидывать их в таблицу. т.е. раз в месяц, например, заходишь по очереди в каждый свой банк и актуализируешь данные в своей таблице
чего только не делают, чтобы свести аналитику семейных трат. хотя достаточно было бы в кабинете банка сделать опцию вебхуков - отправка json данных платежей на указанный пользователем url
прикольно. но прикольно, что еще вот так видишь концепцию, и можешь через пару часов затащить с помощью вайбкодинга к себе в тулзы. у меня вот есть набор, которым пользуюсь часто, и вот добавить теперь, ну недолго ) просмотр JSON как таблицы
недавно для себя открыл komodo - для деплоя docker-compose проектов. к нему навайбкодил обертку для caddy (который для доменов автоматом делает сертификаты) и coredns (который из label в docker-compose.yml вытягивает домены). все деплойные конфиги лежат в репозиториях.
запиши видео как работаешь в gitbor, собирая коммит. на каком-нибудь демо-репо
может ли сюда слать алерты signoz? инциденты как открываются/закрываются? автозакрытие или закрытие по контрольной метрике есть?
прикольно, у меня по мессенджеру целый план из нескольких компонент: UI для отображения, движок для обмена сообщениями, отдельный сервис для хранения медиа. моя заметка по теме https://t.me/chottodev/209
на текущий момент цена пакета 1300 рублей за 20 млн токенов GigaChat-2 Lite
Спасибо 👍
порекомедуйте, пожалуйста, беспроводную бесшумную мышку под нормальную мужскую ладонь без геймерских подсветок (т.е. реально нормального размера, не ноутбучную или какую побольше) за адекватные, конечно, деньги
тут необходимо выяснять намерение пользователя и работать с ним, пример такого подхода в spec https://github.com/antirek/action-spec/blob/master/PROMPT_SPEC.md
Прикольная модель
в статье не увидел примеров версионирования по EvoVer