ComfyUI даёт контроль над генерацией: можно сохранять workflow, менять отдельные этапы, подключать референсы, апскейл и редактирование, а затем повторять удачные результаты. Но на чистом сервере до первой картинки обычно нужно ещё установить окружение, подобрать версии PyTorch и CUDA, настроить внешний доступ и скачать модели. В статье проверяем другой сценарий: арендуем RTX 5090 в GPUGO, запускаем готовый образ ComfyUI + Jupyter, загружаем workflow и собираем обложку для статьи. Разбираем, что именно экономит готовая среда.

Привет, Хабр!

Локальные модели обычно сравнивают по скорости и длине контекста. Мне хотелось проверить более приземлённый сценарий: сможет ли агент собрать и запустить первую линию технической поддержки, а не просто сгенерировать красивый README. Я дал Hermes Agentпустую директорию и подробную спецификацию. Qwen3.6-27B на инфраструктуре GPUGO сначала выступила кодовым агентом, а затем стала отвечать на безопасные обращения через отдельный профиль Hermes.

Получился работающий MVP: почта по IMAP/SMTP, ответы по базе знаний из документации GPUGO, правила риска, ручная модерация и экспорт одобренных ответов в JSONL. Я собирал его как экспериментальное создание основы, которую можно масштабировать для собственного сервиса до привлечения дорогого SaaS. В статье расскажу, какая архитектура для MVP оказалась достаточной, где проходит граница автоматизации и почему не стал начинать с полноценного helpdesk или файн-тюнинга.

LLM может влезать в контекст и генерировать 200 tok/s, но если она не может найти нужный факт в тексте, толку от этого мало. Поэтому мы захостили 8 локальных LLM и прогнали через NIAH-тесты: тройной хоп, пять дистракторов и контексты до 256K.

Разобрал, как GPU ускоряет инженерные расчёты на примере массового моделирования 2D-траекторий. Сравнил NumPy CPU, CuPy vectorized и CuPy RawKernel на RTX 5090, взятой на GPUGO.