Например, если OpenClaw хочет отправить письмо клиенту, он делает это не напрямую. Вместо этого он отправляет запрос отдельному безопасному микросервису, который хранит реальные учётные данные почты. Этот микросервис может применить свои собственные правила: "Есть ли этот email-адрес в списке одобренных? Профессионально ли содержание? Нужно ли одобрение руководителя?". Таким образом, даже если агент скомпрометирован, вредоносная команда упирается в стену.
Отличный пример про ограничение возможностей отдельным микросервисом. Тоже считаю, что только так доступы для OpenClaw и нужно предоставлять.
Еще если взять в учет, что в Go 1.27 появилась встроенная поддержка SIMD, теперь можно встраивать локальную (небольшую) LLM прямо в этот микросервис без танцев с бубном (дополнительного кода на C/C++, мучений в плане совместимости и ошибок памяти). Что делает описанный автором микросервис более "способным" для поиска нарушения безопасности в задаче полученной от OpenClaw. - это к вопросу одного из комментариев выше "смысл запуска нейронки локально"
Не совсем понятно, как такой watermark будет работать в случае генерации кода. Если, агент генерирует функцию, то вариантов корректной реализации в большинстве случаев не так много. В естественном языке модель может выбирать между множеством практически равнозначных вариантов, слегка смещая вероятности токенов и создавая статистический паттерн. А в коде выбор в большинстве случаев жёстко ограничен синтаксисом и логикой программы. Интересно, насколько хорошо такой подход вообще работает для кода.
Портируемый simd в 1.27 — это то, чего не хватало: один исходник разворачивается в Neon на Apple Silicon и AVX2 на Intel без ручной ассемблерной возни. В проде выигрыш реальный только на tight loops — у нас в realtime-движке (40 WebSocket-стримов, расчёты по каждому апдейту) векторизация математики по потокам даёт профит, а вот IO-bound участки (чтение сокетов, парсинг) SIMD не ускорит, их уже давно давит GC и syscall. Вопрос коллегам: кто уже замерил прирост на своих hot paths — 1.27 дал ощутимо или только на синтетике?
Информация
В рейтинге
Не участвует
Зарегистрирован
Активность
Специализация
Бэкенд разработчик, Архитектор программного обеспечения
Отличный пример про ограничение возможностей отдельным микросервисом. Тоже считаю, что только так доступы для OpenClaw и нужно предоставлять.
Еще если взять в учет, что в Go 1.27 появилась встроенная поддержка SIMD, теперь можно встраивать локальную (небольшую) LLM прямо в этот микросервис без танцев с бубном (дополнительного кода на C/C++, мучений в плане совместимости и ошибок памяти). Что делает описанный автором микросервис более "способным" для поиска нарушения безопасности в задаче полученной от OpenClaw.
- это к вопросу одного из комментариев выше "смысл запуска нейронки локально"
Не совсем понятно, как такой watermark будет работать в случае генерации кода. Если, агент генерирует функцию, то вариантов корректной реализации в большинстве случаев не так много. В естественном языке модель может выбирать между множеством практически равнозначных вариантов, слегка смещая вероятности токенов и создавая статистический паттерн. А в коде выбор в большинстве случаев жёстко ограничен синтаксисом и логикой программы. Интересно, насколько хорошо такой подход вообще работает для кода.
Портируемый simd в 1.27 — это то, чего не хватало: один исходник разворачивается в Neon на Apple Silicon и AVX2 на Intel без ручной ассемблерной возни. В проде выигрыш реальный только на tight loops — у нас в realtime-движке (40 WebSocket-стримов, расчёты по каждому апдейту) векторизация математики по потокам даёт профит, а вот IO-bound участки (чтение сокетов, парсинг) SIMD не ускорит, их уже давно давит GC и syscall. Вопрос коллегам: кто уже замерил прирост на своих hot paths — 1.27 дал ощутимо или только на синтетике?