Аудиторская компания zkSecurity направила свой ИИ-пайплайн на CIRCL — экспериментальную криптографическую библиотеку Cloudflare. Результат: семь подтвержденных багов, все уже исправлены, за большинство компания получила выплаты по баунти-программе Cloudflare. Разбор находок zkSecurity опубликовала 7 июля — и самое интересное в нем не сами баги, а то, как повели себя нашедшие их модели.
Главная находка — критическая. В CIRCL есть схема шифрования, где доступ к сообщению определяется правами: расшифровать его должен только тот, чей ключ соответствует политике вроде "финансовый отдел И офис в США". Что-то вроде замка, который открывается только двумя ключами сразу. Из-за ошибки в одной строке кода замок собирался неправильно: первого ключа хватало, чтобы открыть его в одиночку. А поскольку служебная метка, играющая роль этого "первого ключа", была в каждом выданном ключе, любой пользователь мог расшифровать любое сообщение — политика доступа просто не работала. Cloudflare подтвердила критический уровень.
Этот баг нашел zkao, собственный ИИ-агент zkSecurity для аудита кода. Остальные шесть попроще: пять обнаружил Claude Opus 4.6 в связке с экспертными скиллами команды, один — GPT-5.3. Люди при этом оставались в цикле: каждую находку исследователи проверяли на эксплуатируемость и сами вели раскрытие. Авторы честно признают: кандидаты от ИИ дешевы, доверие к отчетам — нет.
Дальше начинаются странности в поведении моделей. Во-первых, ИИ плохо оценивает серьезность собственных находок, причем в обе стороны: большинство багов он переоценил, а вот атаку на агрегированные подписи BLS, наоборот, занизил до среднего уровня . В zkSecurity пока доверяют оценку серьезности людям — правда, оговариваются, что и рейтинги Cloudflare отражают в первую очередь влияние на ее собственные сервисы, а для других проектов на базе CIRCL те же баги могут быть куда опаснее.
Во-вторых, связки моделей нестабильны. В первом прогоне баги находил в основном Opus 4.6, а GPT-5.3 лишь проверял чужие находки. Через несколько недель компания повторила сканирование на Opus 4.7 и GPT-5.4 — роли развернулись: теперь баги находил GPT, а Claude только подтверждал их. Вывод авторов: не привязывайтесь к имени модели, лидер меняется от релиза к релизу.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
