Ratila Apr 16 at 06:48Токсичный контент, промпт-хакинг и защита ИИ — всё о Guardrails для LLMLevel of difficultyMediumReading time13 minReach and readers6.2KJava * Machine learning * Information Security * Artificial IntelligenceReviewTotal votes 3: ↑3 and ↓0+3Add to bookmarks16ShareComments2
vkrasikov Apr 17 at 19:39Спасибо за статью, интересно и злободневно! Я бы, делая защиту для русскоязычного бота, добавил бы простую проверку, что 90% букв - кириллица. Ну, 10% - ок, могут быть English. Иероглифы бы не прошли)
Ratila Apr 17 at 19:42Show previous commentСпасибо вам большое! Насчёт проверки, очень интересный подход :)
Токсичный контент, промпт-хакинг и защита ИИ — всё о Guardrails для LLM