Комментарии 2
Спасибо за статью.
Выглядит как очень не простой к реализации чек лист на продовых моделях. Сколько времени занимает примерно реализация чеклиста или его части для новой модели\агента? Сколько потом FTE уходит на поддержание такого чек листа после перевода модели в прод?
Чек-лист относится не столько к отдельным ассистентам или агентам, сколько к процессам LLMSecOps. Если настроена инфраструктура, внедрены инструменты автоматизированного тестирования и платформенные средства митигации угроз (гардрейлы, гейтвеи, управление секретами), то поставка новых агентов/ассистентов происходит без особых проблем: экспертам нужно проверять архитектуру и соблюдение принципа минимальных привилегий
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Почему промпт-инъекции — это симптом, а не болезнь безопасности ИИ