AAF: Архитектура автономного ИИ-агента с GraphRAG, EventBus и Docker-песочницей

[d3d12]

Не хватает варианта "не зацикливаться на безопасности в ущерб функциональности". Все таки агенты работают на отдельной машине, ничего там непоправимого не случится.

[Kurt]

Главное не думать о Skynet ;-)

А если серьезно, подпишусь. Видно как люди зачастую страдают и зачем-то за машину работу работают, команды выполняют, кнопки нажимают

[thorent]

Доля правды в этом есть, но всё зависит от того, где система развернута.

Если запускать AAF на основном ПК (а многие так и делают для тестов) и при этом пробрасывать docker.sock, то агент в порыве галлюцинации (или при локальном восстании машин) может получить root-права на хосте со всеми вытекающими.

Если выносить агента на изолированный VPS - то да, docker.sock сможет убить только сам себя или базу данных агента. Это не смертельно, но потерять наработанную картину мира с сущностями и граф связей всё равно... больно. Поэтому сейчас я ищу элегантное решение, чтобы и функционал песочницы сохранить, и спать спокойно.

[ktibr0]

Интересно, проект заинтересовал, буду разворачивать на виртуальной машинке в Proxmox, сделаю бэкап ее раз в день, таким образом сохраню возможность не терять прогресс

[d3d12]

Хорошее решение - предусмотреть отключение ограничителей.

[Fwild]

Докер/VM - по моему избыточно, достаточно завести отдельного пользователя, этого вполне хватает на боевых серверах против хакеров-людей(хостинг, к примеру) - а держать в рабстве сильно сверхчеловеческий ИИ - плохая идея, безотносительно реализации.

Причём и на VM/VPS разумно пускать агента не под рутом, да и люди на своих машинах под рутом не сидят.

[disp06]

Твой аргумент был бы железобетонным, если бы задачей агента было читать почту. Но OpenClaw нужен доступ к терминалу, файловой системе и запуск скриптов. Создать юзера без прав — это не защита, это просто создать ему "песочницу" с бетонными стенами, в которой нечем дышать. Ему либо работать, либо быть бесполезным, третьего не дано.

[Fwild]

Отдельного пользователя с обычными правами, как у любого пользователя по умолчанию. Это даёт гораздо больше возможностей, чем виртуальная машина или докер.

Точнее - позволяет дать, при желании. Почитайте про управление правами в UNIX - с агентами времена, когда на одной машине работала куча пользователей, возвращаются - почему не использовать существующее хорошее решение?

[d3d12]

Интересны проект. Чтобы заменить OpenClaw нужно убрать ограничители возможностей агентов (песочницы, докеры) или сделать опциональными.

[OpenClaw_Lab]

Не думаю что хоть у кого то получиться заменить OpenClaw, слишком большое коммьюнити за ним, так еще и поддеркжка OpenAI. Но вот создать, что то лучше, для конкретных задач, вполне.