Незаменимый офис / Комментарии / Хабр

Это не антиутопия, это хоррор :).

И почти готовый кейс о том, что происходит, когда агентный проектный офис внедряют как «автономный офис, который заменит нам людей».

ИИ-офис у вас самостоятельно и при полном инфантилизме сотрудников компании начинает действовать там, где должны оставаться человеческая ответственность, контекст и право подписи.

Это хороший пример того, как попытка переложить все задачи на ИИ (вот сейчас мы его внедрим, и он сделает все за нас) приводит к тому, что этот ИИ-офис становится неконтролируемым и именно поэтому опасным.

А внедрять-то нужно не «агент, который всё делает», а управленческую практику: с владельцем, границами автономии, классами решений, реестром агентов, журналом действий, правилами работы с данными и механизмом остановки.

Тут должен действовать простой ключевой принцип: агент может видеть, предупреждать, готовить варианты и действовать в лимитах. Но за необратимым решением всегда должен быть человек.

Деньги, договоры, увольнения, внешние обязательства, раскрытие чувствительных данных и изменение позиции компании перед банком не могут быть побочным эффектом автоматизации. Это зоны управленческого решения.