ХабрВсе потоки
Поиск
Редактировать
Войти
Обновить
ostrovityanin9 мар 2008 в 00:33

Вероника Бельмонт — как она есть.

Время на прочтение1 мин
Охват и читатели1K
Чулан
http://rutube.ru/tracks/517543.html?v=2928c1af98cbee60efbbec3ab33ba57e</rutube> C праздником тебя, <hh user="veronica" />!
Теги:
  • veronica belmont
  • Вероника Бельмонт
Хабы:
  • Чулан
Всего голосов 73: ↑51 и ↓22+29
Комментарии86
25
Карма
ostrov@ostrovityanin

Пользователь

Отправить сообщение
Хабр доступен 24/7 благодаря поддержке друзей
Хабр Карьера Курсы
Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Комментарии Комментарии 86
ЕЖЕДНЕВНЫЙ ХАБР | 28 ОКТ 2026
Охват75K

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

По статистике, среди рядовых пользователей настольных компов самая распространенная видеокарта имеет 16 ГБ видеопамяти. По опросам GaugeDB, такие карты занимают 27,21% рынка. У меня как раз видеокарта NVIDIA GeForce RTX 4070 Ti SUPER с 16 ГБ видеопамяти GDDR6X, которая на текущий момент стоит 900$. До сего момента главной проблемой было то, что на видеокарте такого класса невозможно было запустить LLM-агента, который будет достаточно умным и достаточно быстрым. Если запускаешь умную модель типа Qwen 3.8 27B (Dense архитектура), то на выходе получаешь 10-20 токенов в секунду. А для комфортной работы кодинг-агента надо 100-150 токенов в секунду.

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

Я пришёл автоматизировать маркетплейсы из кровавого энтерпрайза, и вот что меня сильно удивило

Как жалобы заказчика станут источником ваших новых доходов

Где CSS подложил вам ловушки

Ещё

Публикации

Ваш аккаунт

  • Войти
  • Регистрация

Разделы

  • Статьи
  • Новости
  • Хабы
  • Компании
  • Авторы
  • Песочница

Информация

  • Устройство сайта
  • Для авторов
  • Для компаний
  • Документы
  • Соглашение
  • Конфиденциальность

Услуги

  • Корпоративный блог
  • Медийная реклама
  • Нативные проекты
  • Образовательные программы
  • Стартапам
VKTelegramYoutubeЯндекс Дзен
Техническая поддержкаНа информационном ресурсе применяются рекомендательные технологии
© 2006–2026, Habr