aveml16 часов назадИллюзия контроля: почему промпты не защищают ИИ‑агентовУровень сложностиСреднийВремя на прочтение13 минОхват и читатели5.6KИнформационная безопасность * Инженерные системы * Искусственный интеллектМнениеИз песочницыВсего голосов 4: ↑4 и ↓0+6Добавить в закладки8ПоделитьсяКомментарии2
Anton_Trofimov6 часов назадДействительно интересный ракурс, что риском может стать не только явная prompt инъекция, но и сам контекст вокруг агентской системы и по-факту "служебный текст" тоже нужно проектировать как часть platform logic.
Иллюзия контроля: почему промпты не защищают ИИ‑агентов