aveml Jun 23 at 07:03Иллюзия контроля: почему промпты не защищают ИИ‑агентовLevel of difficultyMediumReading time13 minReach and readers7.1KInformation Security * Systems engineering * Artificial IntelligenceOpinionFrom sandboxTotal votes 5: ↑5 and ↓0+8Add to bookmarks10ShareComments2
Anton_Trofimov Jun 23 at 16:42Действительно интересный ракурс, что риском может стать не только явная prompt инъекция, но и сам контекст вокруг агентской системы и по-факту "служебный текст" тоже нужно проектировать как часть platform logic.
Иллюзия контроля: почему промпты не защищают ИИ‑агентов