Сколько на самом деле стоит локальная LLM?
Привет, Хабр! Я Дмитрий Емец, тимлид отельного поиска в Островке.
Как и многие, до какого-то момента я воспринимал локальные LLM как «свои»: модель скачана, компьютер уже куплен, API-ключ не нужен. Запустил — и работаешь.
Но с чем я сравниваю локальный запуск — с API или с нулём?
Решил прикинуть: привести оба варианта к одной метрике — стоимости 1 млн выходных токенов.
Сразу оговорюсь: это не сравнение качества моделей. Одинаковый объём генерации не означает одинаковое число решённых задач.
Розетка — не главное
Для расчёта беру домашнюю сборку с RTX 5080. Заявленное потребление видеокарты — 360 Вт, поэтому для грубой оценки закладываю 500 Вт на всю систему под нагрузкой.
Тариф — 10,4 ₽ за кВт·ч, верхняя граница из моих московских тарифов.
0,5 кВт × 10,4 ₽/кВт·ч = 5,2 ₽ в час.
Электричество стоит меньше шести рублей в час. Но API продаёт токены, поэтому важна скорость генерации.
Возьмём три условных сценария: 10, 20 и 40 токенов в секунду. Конкретная скорость зависит от модели, квантизации, размера контекста и движка.
Один миллион токенов при таких скоростях генерируется примерно за 28, 14 и 7 часов. Значит, электричество обойдётся в:
145 ₽ при 10 ток/с;
72 ₽ при 20 ток/с;
36 ₽ при 40 ток/с.
И это всё ещё не основная статья расходов.
Железо меняет картину
Моя сборка стоит около 370 тыс. ₽. Чтобы оценить её стоимость, предположим, что она куплена преимущественно ради локального инференса и амортизируется три года без учёта остаточной стоимости: 250 рабочих дней в году по восемь часов.
370 000 / 3 / 250 / 8 ≈ 62 ₽ в час.
При полной полезной загрузке амортизация на 1 млн выходных токенов составит:
около 1710 ₽ при 10 ток/с;
около 860 ₽ при 20 ток/с;
около 430 ₽ при 40 ток/с.
С учётом электричества получаем примерно 1860, 930 и 460 ₽ соответственно.
Расчёт предполагает, что все учтённые часы GPU действительно генерирует полезные токены. Если система простаивает, фактическая цена токена растёт. Если компьютер уже был куплен для других задач, наоборот, полную стоимость сборки относить на LLM некорректно: тогда имеет смысл считать только дополнительные расходы и стоимость занятого GPU-времени.
С чем сравнивать API
У провайдеров входные и выходные токены обычно оплачиваются отдельно. Для сопоставимости я беру только выходные токены. Время обработки входного контекста локально тоже не учитываю, поэтому для длинных запросов этот расчёт будет нижней оценкой.
По открытым тарифам порядок цен такой:
бюджетный сегмент (GPT-5.4 nano, Gemini 3.1 Flash-Lite) — 50–150 ₽ за 1 млн выходных токенов;
средний сегмент (GPT-5.6 Terra, Gemini 3.5 Flash) — 450–1000 ₽;
верхний сегмент (Claude Opus 5, GPT-5.6 Sol) — 1500–3000 ₽.
Цены округлены по официальным тарифам и курсу на 31 июля 2026 года.
Получается:
при 10 ток/с локальный запуск по цене попадает в верхний сегмент API — 1860 ₽;
при 20 ток/с он сопоставим со средним — 930 ₽;
при 40 ток/с начинает выглядеть конкурентно — 460 ₽, но только при высокой загрузке и без учёта различий в качестве моделей.
Когда локальный запуск оправдан
Локальная LLM не становится бесплатной только потому, что счёт за API не приходит. Главные параметры — стоимость железа, скорость генерации и загрузка.
Экономика может сойтись, если GPU уже куплен, регулярно используется и локальная модель решает нужную задачу не хуже доступной альтернативы. Если железо приобретено специально и большую часть времени простаивает, «свои токены» просто скрывают расходы внутри покупки.
Но цена — не единственный критерий. Приватность, офлайн-работа, предсказуемость и полный контроль могут оправдать локальный запуск даже без выигрыша в рублях.
Для ряда моих задач локальные LLM пока не выстрелили. В сложной разработке с большим контекстом быстро упираешься в объём памяти, а подходящее железо стоит несопоставимо дороже подписки за условные $20 в месяц.
А для вас локальная LLM уже стала рабочим инструментом — или пока остаётся дорогим хобби? Расскажите в комментариях.