Pull to refresh
2
xi ji@xiji

User

Send message

Как я построил guardrails, которые не дали моему AI-агенту пойти вразнос

Level of difficultyMedium
Reading time8 min
Reach and readers10K

На третий день в проде мой support-агент на LangGraph и GPT-4o слил email одного клиента в переписку с другим. Причина банальна: модель вставила сырой контекст из базы прямо в ответ, и ничто в пайплайне это не проверяло. Фреймворки для агентов дают оркестрацию, вызов инструментов и память — но не безопасность. В этой статье разбираю стек из четырёх guardrails (валидация входа, валидация выхода, circuit breaker по расходам и проверка вызова инструментов), который умещается в ~200 строк Python и добавляет менее 40 мс latency. С рабочим кодом, схемой пайплайна и честным разбором того, что эти guardrails ловят, а что — нет.

Читать далее

Information

Rating
Does not participate
Location
Барановичи, Брестская обл., Беларусь
Date of birth
Registered
Activity

Specialization

Создатель контента, Копирайтер
Младший
Python
Git
Английский язык