Слушай можно делать иначе - маскировать или вырезать небезопасное уже пост-запуска. https://t.me/data_secrets/8463 . так ты минимизируешь риск связанный с падениями метрик.
Прошу обратить внимание на название статьи - это райтап к учебной машине... Ясное дело, что в боевом пентесте, у заказчика будут совершенно другие креды ... а может быть и нет
Спасибо за замечание, словил Фрейда ночью когда писал. Используются только открытые источники.
Пока не хочу опенсурсить. Хочу больше посмотреть его в бою. Сейчас больше описал то как я это вижу.
Для того чтобы оно вышло в открытую - нужно чтобы прошло реально множество этапов замера. Я пока использовал его 3 месяца. Дорабатывал.
Пройдет время и посмотрим как схема описанная мною себя поведет
Артем, ты легендарен, я твой большой фанат
про гардрейлсы я очень косвенно сказал - так и есть но и они не панацея. Из интересного подхода можно отметить https://t.me/pwnai/1126
Constitutional Classifiers ++ (https://www.anthropic.com/research/next-generation-constitutional-classifiers)
Слушай можно делать иначе - маскировать или вырезать небезопасное уже пост-запуска. https://t.me/data_secrets/8463 . так ты минимизируешь риск связанный с падениями метрик.
Окей. Учту
🫡
Были. 10к$ за первое место.
Можно добавить ещё это
https://github.com/aryakvnust/LLMSecGuard
https://github.com/tuhh-softsec/LLMSecEval
https://github.com/s2e-lab/SecurityEval
по безопасногенерации кода
и для vllm https://t.me/pwnai/546
Прошу обратить внимание на название статьи - это райтап к учебной машине... Ясное дело, что в боевом пентесте, у заказчика будут совершенно другие креды ... а может быть и нет
Огоонь !
OpenAI закрыли свой классификатор
https://platform.openai.com/ai-text-classifier - недоступен
По их мнению, на рынке нет точных средств для выявления ИИ-текста.