Идея агрегатора новостей по кибербезопасности зародилась еще давно. Хотелось получать самое важное и без инфошума. LLM тогда ещё не были повседневным инструментом, и первую версию реализовал на модели суммаризации rut5_base_sum_gazeta, а важность считал textrank. Работало так себе. Потом появились сервисы, которые сами подбирают новости под настроенную ленту. Но оптимального решения так и не увидел – это либо про всё сразу, либо что-то про одну узкую тему.

Задача изначально выглядела простой. Моделей полно, готовых наработок должно было быть много. Но на практике уже первые недели ушли на тюнинг, и лучше при этом не становилось: поднял порог – канал молчит сутки, опустил – в ленту попали вебинары, квадранты и пресс-релизы продуктов. Из этого опыта родилось гибридное решение. Важность теперь считает формула из семи признаков, все логируется, а модель пишет тексты и отсекает нерелевантное.

За последние несколько лет хайпа вокруг LLM образовался новый класс решений — LLM firewall. Его часто позиционируют как аналог WAF/FW для ИИ‑приложений: фильтрация входа и контроль выхода как базовый механизм защиты. Но на практике всё сложнее.

В статье разбирается класс LLM firewall: какие угрозы он закрывает, новые вызовы и в каком направлении развивается безопасность AI‑систем