От промптов к циклам: как давать AI‑агенту проверяемые задачи

[MazurenkoEvgeniy]

Вы предлагаете давать агенту очень жесткие границы (разрешенные файлы, запреты, лимиты). Но как быть с задачами, где решение неизвестно и требует исследования? Не отсекается ли так потенциал ИИ?

[achekalin]

Хороший вопрос. Значит, не показал в тексте.

Надо смотреть по задаче.

Если задача исследовательская, границы по чтению не обязательно должны быть узкими. Агенту можно разрешить смотреть проект шире, читать соседние модули, историю изменений, документацию, логи, issue и так далее. Но при этом отдельно указать: на этом этапе код не менять, внешние действия не выполнять, секреты не запрашивать, результатом должны быть гипотезы, найденные места и план проверки.

А уже когда гипотеза выбрана и начинается исправление, границы лучше зажимать: какие файлы можно менять, какими командами проверять, когда остановиться и когда звать человека.

То есть ограничения нужны не для того, чтобы отрезать ИИ от исследования, а чтобы отделить исследование от применения изменений. В противном случае агент легко отчитается на ваше «разберись, что происходит» чем‑то вроде «я заодно переписал соседний модуль, обновил зависимости и починил проблему другим способом».

[latynlana]

С одной стороны, меньше ручного контроля и постоянного повторения одних и тех же команд это плюс. С другой, чем больше свободы отдаешь AI-агенту, тем внимательнее нужно следить за ограничениями и результатом.

[achekalin]

Притом, не зря опытные люди (это те, кто уже делает бэкапы) советуют агента на отдельной машине запускать )

[iiibax]

Писать подробные инструкции это половина дела. Хотелось бы такой же подробный разбор устройства рантайма, что и как передавать в контекст. От простых сценариев, провоцирующих цикличность ("создай, а потом удали"), и до различных многошаговых задач.