aveml23 июн в 07:03Иллюзия контроля: почему промпты не защищают ИИ‑агентовУровень сложностиСреднийВремя на прочтение13 минОхват и читатели7.1KИнформационная безопасность * Инженерные системы * Искусственный интеллектМнениеИз песочницыВсего голосов 5: ↑5 и ↓0+8Добавить в закладки10ПоделитьсяКомментарии2
Anton_Trofimov23 июн в 16:42Действительно интересный ракурс, что риском может стать не только явная prompt инъекция, но и сам контекст вокруг агентской системы и по-факту "служебный текст" тоже нужно проектировать как часть platform logic.
Иллюзия контроля: почему промпты не защищают ИИ‑агентов