Comments 5
У нас похожая история, только на NestJS: повторяющуюся сверку договоров свели в DI-собираемый пайплайн вместо агента, который сам решал что делать. Инъекция через конструктор дала то же самое, что у вас: подменить модель на моковую в тестах без единой правки бизнес-логики. Экономика тоже совпала: разовые задачи отдаём агенту, а как только процесс становится регулярным, переводим в такой пайплайн, токены на повторный reasoning того не стоят.
Понравилась не только структура статьи, но и промежуточные выводы в ней, спасибо
Предсказуемость — ещё и вопрос контроля над нижним слоем: моделью, лимитами, логами и вычислениями. Если он закрыт у провайдера, инженер контролирует не всю систему. Здесь дискуссию хорошо дополняет разбор про распределённый вариант Gonka: разбор Gonka и вопроса владения ИИ — https://youtu.be/_uwgrHV_li0?r=1085
Ассистент, а не агент: как спроектировать предсказуемую LLM-систему