Сколько автономности должно быть у ИИ‑агента

[EugeneZolo]

Автономность ИИ-агентов, как правило, заканчивается после обнаружения очередной уязвимости. Даже если максимально дотошно спроектировать пайплайн работы, риски незапланированных косяков иишки, увы, сохраняются. Поэтому думается, что автономность в принципе доступима в достаточно ограниченном круге задач. Не "неважных", а таких, где позволительно взять на себя риски.

[stas_makarov]

Тоже занимался этой проблемой - как запустить агента в корпоративный контур, чтобы он ничего не натворил. Я пришел к идее дать ему отдельный аккаунт и включить в процесс как сотрудника.

Все риски это не снимает, но должно помочь как-то разрулить ситуацию.
Появляется и прозрачность, прослеживаемость.
И в целом становится более наглядно.
Вдруг будет интересно: https://habr.com/ru/articles/1037746/