Обзор уязвимостей для LLM. Часть 2. Защита

[shelomitsky2011]

Может я читал невнимательно (но было очень интересно и познавательно), но как защищать то?

[artmaro]

Надо делать анализ угроз для каждого конкретного решения. Для старта подойдет карта с моделированием, которая есть в https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf (листайте до последней страницы).
Далее, если это b2c приложение, надо делать базовые тесты на промпт-инъекции и ставить от них защиту в системный промпт решения.