Pull to refresh
9
9
Петр Трипольский @tripolskypetr

Frontend разработчик

Send message

В этом и прикол, при навигации агенты видят переписку друг друга. Ты говоришь: Подскажи какие продукты продаёте, а в программе автоматически дергаются три операции 1 - переключение на агент продаж, 2 - поиск в бд по запросу, 3 - ответ списка товаров пользователю. Поиск товара по смыслу, а не буквам, есть в репо, через embedding model и cosine distance.

В облаке монго уже есть векторный поиск по смыслу, https://www.mongodb.com/docs/manual/reference/operator/aggregation/vectorSearch/

  1. Да, речь преобразуется в текст. Просто, ранее это делал SAPI 5.0 на ванильном дотнетовском C++/CLI,а сейчас нейронка openai whisper

  2. Nomic грозятся выкатить в opensource асинхронный итератор - в реальном времени кормить новыми словами ответа озвучку голоса, но застряли на технической части

  3. OpenAI предоставляют WebRTC для коннекта к говорилки в реальном времени, но у оперсорс сообщества плохо с этим протоколом, халявы в естественной речи можно пока не ждать

    https://platform.openai.com/docs/guides/realtime-webrtc

У ЦРТ есть облако для распознавания и генерации речи. Они работают с нейронками в проде года так с 2017.

https://cloud.speechpro.com/

Что могу сказать, их ценовая политика: плати - лети

Могу предложить в https://github.com/ggerganov/whisper.cpp. На текущий момент чего-то вменяемого в опенсорсе я не нашел: разве что пайпить ChatGPT в локальный бек, обрабатывающий текстовую речь

Есть opensource версия для онбординга студентов, которых крайне удобно использовать на подбор промптов методом тыка, она использует nemotron-mini, чтобы можно было запустить на ноутбучной видеокарте

4b opensource нейронка моросит
4b opensource нейронка моросит

Есть NDA версия, которая совсем по другой предметной области и использует другие модели. Одна из них дообученый whisper. В этом проекте смысл приседания - сделать применение языковых моделей масштабируемым, для этого написана библиотека и тесты

https://github.com/tripolskypetr/agent-swarm-kit/tree/master/test

Ещё раз. При рассматриваемой архитектуре технически нельзя вытянуть статус доставки сообщения

Тут очень узкая специфика, из других комментов можно додумать контекст.

Как обычно в IoT, владелец завода не понимает разницу между слесарем и кодером до тех пор, пока не упрется в срок договора. Далее приглашают инженера решать вопрос, потом дают ему 2 недели на увольнение и порочный круг Путинизма продолжается

Эта статья именно для тех, кому дали донашивать архитектуру с турникетом-вибратором. При этом даже владелец бизнеса понимает, что код говно, но с темы нужно как-то выскакивать

Тут что-то случилось с твоим комментарием. Не хочешь написать ещё раз?

В предидущей архитектуре не было заложено, что турникет отправляет обратное сообщение, что турникет открыт

Как по мне, зоопарк эти ваши AMPQ, MQTT, PPAP и тд. В итоге, дофига инструментов, а специалиста, который будет решать, зная платформу от и до, не будет. Его, как сказать, ИИ заменит, только вот не заработает в итоге программа

При разработке Internet of things по WebSocket передаются команды, например, на открытие дверцы турникета. Если python клиент заморозит поток c websocket heartbeat, команда открытия турникета уйдет в молоко, когда запись в бд уже сделана

  1. В socket.io не кеширует очередь, это лишь адаптер websocket/long polling.

  2. При разработке Internet of things по WebSocket передаются команды, например, на открытие дверцы турникета. Если python клиент заморозит поток c websocket heartbeat, команда открытия турникета уйдет в молоко, когда запись в бд уже сделана

Конечно, в условиях, когда бюджет позволяет приоретизировать и очищать очередь сообщений, это будет лучше. Однако, позволить подобное по финансам может разве что условный яндекс, которому дают деньги. Или банк, который косвенно печатает деньги.

Для малого и среднего бизнеса, который деньги зарабатывает, это неприемлимо, так как на вещь, которая по мнению владельца бизнеса работает сама по себе, будет влито полтора месяца инженерной работы

В условиях нестабильного соединения, я бы предпочёл сразу брать Application Server, такой как Firebase (не для ядерной сверхдержавы), AppWrite или Supabase, где отправка уведомлений на устройства грамотно заложена из коробки.

В идеале, не делать MPA вовсе: есть SPA

К слову, так как в данном случае жизненный цикл transient ограничен коллбеком, создать 20 контекстов будет как минимум неудобно технически

Одно другого не отменяет, это разные вопросы. Подобное ядро было разобрано в связанной статье

https://habr.com/ru/articles/858186/

1

Information

Rating
672-nd
Location
Москва, Москва и Московская обл., Россия
Date of birth
Registered
Activity

Specialization

Backend Developer, Frontend Developer
From 3,000 $
JavaScript
TypeScript
React
Angular
NestJS
MobX
Adaptive layout
CSS-IN-JS
SOLID
Qt