Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 10
Не хватает локальных моделей для эмбеддингов и распознвания голоса. Но если всё это локально держать, слишком он уж будет жирным.
Почему локальная модель всего одна?
Как то подгоняли работу агента под работу именно с нею?
Есть возможность выбрать не квен, а ту же недавно вышедшую гемма?
У нас есть e2e тесты (подробнее писал в статье), проверяли модель на них. Локальная 4b qwen оказалась настолько же хороша, как Gigachat Lite со специально подобранным под нее промптом. Нас пока такой результат устроил, но специально ещё ничего не подгоняли.
Гемму собираемся поддержать в следующем релизе.
спасибо за статью, за открытый код и отдельное - за реализацию не на питоне.
проголосовал за крон-таски - и безопасно, и несложно в реализации и добавляет функционала. Но это - со стороны стороннего наблюдателя, я, пользуясь постулатом "написать агента может каждый", - пишу своего, под себя.
спасибо ... и отдельное - за реализацию не на питоне.
... пишу своего, под себя.
А на чём своего пишете?
кто сейчас, интересно, своего не пишет? =)) у меня, допустим, NeutralinoJS + NodeJS - https://habr.com/ru/articles/994454/comments/#comment_29504814
dotnet (hosted app), на базе https://github.com/microsoft/agent-framework. В идеале, если сильно тормозить не будет - положу на старенький rPI 3b. Общение - телеграм бот. У агента есть доступ к дом. сети, sqlite для памяти и фактов, web поиск, напоминалки (разовые и и по графику). Это то, что уже есть.
Еще в хотелках добавить аналитики по своим документам через RAG, тут я еще думаю о вариантах.
Очередная статья от ИИ, хабру надо ии ревьюера делать, который будет оценивать и не пропускать такое.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Десктопный агент «Союз»: безопасный и бесплатный, теперь Open Source