Инженерия вокруг агента: 10 идей AI Engineer

[AlexeyChijov]

Довольно длинная, но любопытная статья о том, куда движется агентная разработка.

[igor-sheludko]

Так а в чем собственно идеи из этих докладов, какие прозрения?

[ratnik]

Главное прозрение в том, что сильный агент без инфраструктуры - это не разработчик, а очень быстрый источник правдоподобных ошибок. Ему нужны внешняя память, независимая проверка, ограничения прав и формальные условия остановки. Иначе рост скорости ничего не даёт: система просто начинает быстрее производить технический долг, уязвимости и решения, за которые никто не успел осознанно взять ответственность.

[igor-sheludko]

Пока что картина выглядит так - вместо людей в процесс разработки вовлекается куча разнородных инструметов от разных поставщиков. Это точно несет на порядок больше уязвимостей и возможностей для появления ошибок и проблем. И все это делается ради желания ускорить и удешевить разработку?
Многим известно тройственное правило: есть три параметра - скорость, надежность (качество) и цена (бюджет), достигнуть эффективности одновременно можно не более чем в двух направлениях.
Думаете, нейросети помогут преодолеть это правило?

[ratnik]

По моему опыту, нейросети действительно меняют привычный компромисс. Разработка может идти в разы быстрее, качество при этом не обязательно падает, а итоговая стоимость становится ниже.

Но, думаю, главный вопрос - что будет с таким кодом через год или два. Насколько легко его будет поддерживать, менять и передавать другим людям. Не накопятся ли скрытые ошибки, лишние зависимости и решения, смысл которых уже никто не понимает.

То есть нейросети, возможно, не отменяют правило «быстро, качественно или дёшево», а заметно поднимают планку. Теперь можно получить больше по всем трём направлениям, но новые проблемы проявляются позже - на этапе поддержки, развития и контроля системы.

[maxnoosphere]

Очень точно про «модель — не вся система». На практике самым сложным оказывается не запустить агента, а определить его контур: откуда он берёт контекст, что имеет право менять и кто или что говорит «готово».

Я бы добавил ещё один слой к harness: жизненный цикл. Долгоживущему агенту нужны явные правила, когда он просыпается, как переживает ошибку, что делает после рестарта и какие действия требуют человека. Иначе даже хороший набор инструкций и тестов превращается в набор удачных демо.