Обновить

Hermes Agent сжигал 603M токенов за спиной — как я сократил фоновые расходы в 125 раз

Время на прочтение5 мин
Охват и читатели11K
Всего голосов 5: ↑4 и ↓1+4
Комментарии4

Комментарии 4

При таком пуле задействованных моделей сколько в среднем тратите в месяц на токены, если не секрет? Может можете опубликовать полный конфиг, который используете для Гермеса? Для начинающих, так сказать.

количество токенов в среднем не считал, Ollama показывает количество запросов, которые обновляются каждые 5 часов и неделю. К концу недели попробую подсчитать. Да, думаю, туториал по Hermes подготовлю

Здравствуйте! Подскажите пожалуйста. А какой лучше всего оператор подойдет к hermes? Кто менее затратный ?

Здравствуйте! я использую Ollama Cloud, 200 долларов в год, доступно большое количество AI моделей, в том числе и передовые, долго думал, что выбрать, и в результате поисков понял, что Ollama лучший вариант (токенов больше чем во всех альтернативных подписках у других провайдеров) Помимо этого можете интегрировать API бес проблем с другими агентами

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации