Обновить

Иллюзия контроля: почему промпты не защищают ИИ‑агентов

Уровень сложностиСредний
Время на прочтение13 мин
Охват и читатели5.6K
Всего голосов 4: ↑4 и ↓0+6
Комментарии2

Комментарии 2

Очень хорошее описание данной уязвимости и варианты что делать.

Действительно интересный ракурс, что риском может стать не только явная prompt инъекция, но и сам контекст вокруг агентской системы и по-факту "служебный текст" тоже нужно проектировать как часть platform logic.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации