Обновить

Комментарии 4

Спасибо Вам за подробную статью. Видно что проведена огромная работа. Мне больше всего понравился тезис:
"Итого для запуска модельки в продакшен в кровавом энтерпрайзе примерно: 202 млн рублей * 3 = 606 млн рублей... 

И да, я знаю, что такое можно сделать на “домашнем” компе за 150.000 рублей...." 

Полезная методичка, спасибо!
Но это только для случая своей локальной LLM.
А что насчет внешних моделей?
Там возникает расход токенов — нет рекомендеций по оценке?

Привет. Где-то на Хабре была статья про схему расчета в прошлом году. Не могу найти, но в ней была шпаргалка по расчету - вот она https://docs.google.com/spreadsheets/d/1OykNMJP6B8zVL9wOJu8KOoElSwfvt2wXZ3dSb0C5kaY/edit?gid=0#gid=0

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации