Pull to refresh
8K+
3
Роман@codementor

Технический директор

-6
Rating
2
Subscribers
Send message

Как мы собрали LLM-шлюз для России: готовый LiteLLM на data-plane, свой биллинг на Go и n8n

Level of difficultyEasy
Reading time4 min
Reach and readers7.9K

Год назад доступ к зарубежным LLM из России превратился в квест. OpenAI и Anthropic не принимают российские карты и блокируют запросы по гео. Обходные пути — VPN, иностранная карта, прокладка через знакомых за рубежом — годятся для пет-проекта, но не для продакшена, где нужен стабильный аккаунт, предсказуемый счёт и возможность объяснить бухгалтерии, за что платим.

Мы сделали apiglue — шлюз, который закрывает эту боль: один OpenAI-совместимый endpoint, за которым прячутся десятки провайдеров, оплата рублёвой картой и баланс в рублях. А заодно — управляемый хостинг n8n, чтобы не только дёргать модели через API, но и собирать на них автоматизации без своего сервера.

Ниже — как это устроено внутри и какие решения оказались неочевидными. Без маркетинга: где замерили — пишу замеры, где спроектировали на запас — так и говорю.

Читать далее

Как у клиента с восемью продуктовыми командами мы построили AI Kit

Level of difficultyMedium
Reading time20 min
Reach and readers5.1K

Привет, Хабр. Мы платформенная команда в продуктовой компании с восемью продуктовыми командами. У каждой свой микросервис, свой стек, свои нюансы. Есть общие конвенции, общий security baseline, общий подход к observability.

В начале прошлого года стало понятно: AI-инструменты разработки уже не эксперимент, а повседневная реальность. Claude Code, Cursor, Copilot, кто во что горазд. И при этом ровно ноль централизованного подхода. У одного разработчика в ~/.claude/CLAUDE.md свой набор правил, у другого .cursorrules с другими правилами. В одном репо команды лежал 400-строчный CLAUDE.md с дублирующимися общими конвенциями, в другом пустота. AI отвечал по-разному в одном и том же сервисе в зависимости от того, кто его спрашивал.

За полгода мы построили то, что внутри называем AI Kit. Это централизованный набор правил, skills, subagents и CI-инструментов для AI-ревью. В этой статье наш путь, грабли, цифры. И чего бы мы не делали, если бы начинали заново.

Если у вас несколько продуктовых команд и AI-инструменты уже есть, но дисциплины их использования нет, то статья для вас. Будет полезно тимлидам, CTO, инженерам платформенных команд и AI Champions.

Читать далее

Как мы сделали аналитику контакт-центра на LLM в 7 раз дешевле

Level of difficultyMedium
Reading time10 min
Reach and readers6.4K

Мы устали слушать звонки.

Не из-за любопытства — просто это занимало слишком много времени.

Из 5 минут разговора рождались 20 минут отчёта в Excel, где человек вручную отмечал:

«вежлив ли оператор», «упомянул ли цену», «отработал ли возражение».

Мы построили систему, которая делает это автоматически:

Whisper → QLoRA → отчёт → BI.

Она оценивает звонки, считает метрики и не жалуется на переработки.

Анализ стоит $0.0003 за звонок, и работает это лучше, чем ожидалось.

Но не идеально.

вот обновлённый фрагмент раздела 1. «От Excel к первому прототипу» — с твоей логикой, цепочкой инженерных и управленческих рассуждений: как команда шаг за шагом пришла к тому, что не всё нужно обучать, и где провести границу между здравым смыслом и GPU.

стиль остался естественный, сдержанно ироничный, как будто вы действительно сидели вечером в переговорке и писали архитектуру на доске, а не пыжились быть «инновационными».

Читать далее

Как ИИ влияет на карьерные перспективы джунов

Level of difficultyMedium
Reading time6 min
Reach and readers14K

Искусственный интеллект меняет рынок труда кардинальным образом, но удар приходится не по всем одинаково. Недавнее исследование Stanford Digital Economy Lab выявило тревожную тенденцию: наиболее болезненно от внедрения генеративного ИИ пострадали именно джуны - молодые специалисты в возрасте 22 25 лет. Подобно канарейкам в угольных шахтах, которые первыми реагировали на опасность, младшие сотрудники стали индикатором глубоких структурных изменений в экономике.

Читать далее

Разрабатываем первое AI приложение

Level of difficultyMedium
Reading time13 min
Reach and readers19K

Эволюция языка сыграла значительную роль в развитии человечества. Она дает нам возможность делиться знаниями и работать вместе. Благодаря этому большая часть нашего опыта продолжает сохраняться и передаваться через разные письменные тексты.

За последние двадцать лет было предпринято много усилий для цифровизации информации и процессов. Большинство из них сосредоточено на накоплении данных в реляционных базах. Этот подход позволяет традиционным аналитическим методам машинного обучения обрабатывать и анализировать данные.

Тем не менее, несмотря на наши попытки структурировать все больше информации, мы по-прежнему сталкиваемся с трудностями в полном понимании и обработке всего нашего знания.

Читать далее

Как внедрение CI/CD превратилось в эпопею с рефакторингом

Level of difficultyMedium
Reading time7 min
Reach and readers6.1K

Всем привет меня зовут Роман. Я CTO компании LikeSoft и сегодня я хочу поделиться кейсом как я переводил LMS платформу на облако.

Читать далее

Information

Rating
Does not participate
Location
Москва, Москва и Московская обл., Россия
Date of birth
Registered
Activity

Specialization

Бэкенд разработчик, Фронтенд разработчик
Ведущий
From 1,000,000 ₽