Anthropic не стала публично выпускать свою новую ИИ-модель Claude Mythos Preview, которая способна автономно находить, анализировать и эксплуатировать уязвимости в софте в промышленных масштабах.

В блоге компании сообщается, что Mythos – это “поворотный момент”. Модель настолько мощна, что даже неспециалисты в области кибербезопасности смогут использовать её “для поиска и эксплуатации сложных уязвимостей”.

За время тестирования Claude Mythos Preview обнаружила тысячи критических дыр в безопасности, включая zero-day-уязвимости, для которых нет готовых исправлений. Для сравнения: элитные команды людей-хакеров находят около сотни таких за год, пояснил Офер Амитай, сооснователь стартапа Onit Security. “Так что производительность выше в 10–100 раз, и разработка эксплойтов сжимается с недель до часов”, – добавил он.

Эксперты по кибербезопасности, опрошенные Business Insider, признают: за объявлением Anthropic стоит не только маркетинг. “Anthropic построила репутацию ИИ-компании с приоритетом ‘безопасность превыше всего’, поэтому такие анонсы служат двум целям: искренней осторожности и сигналу о своей приверженности безопасности”, – отметил Джейк Мур, глобальный специалист по кибербезопасности из ESET.

Эрик Блох, вице-президент по информбезопасности Ilumio, объясняет успех Mythos просто: “LLM – это, по сути, языковые движки, а код – просто ещё один язык. Неудивительно, что они находят баги и уязвимости, которые пропускают люди или правила, – особенно тонкие проблемы на уровне логики”.

Однако есть вопросы к стоимости и масштабируемости. Anthropic сообщила, что поиск 27-летней уязвимости в одной операционной системе обошёлся в 20 000 $ после тысяч прогонов Mythos. “Учитывая затраты – масштабируется ли это? – задаётся вопросом Кев Брин, старший директор по исследованию киберугроз из Immersive. – С чего начинать? Люди масштабируются более дёшево, чем ИИ-агенты?”

Атака против защиты – кому выгоднее такой инструмент? Если бы Mythos стала публичной, в краткосрочной перспективе больше выиграли бы злоумышленники, считают эксперты. “Они могут генерировать высокотаргетированный фишинг, убедительные дипфейки или рабочие цепочки эксплойтов одной кнопкой”, – пояснил Майк Бриттон, главный директор по информации Abnormal AI. Но как только защитники внедрят такие же инструменты, преимущество вернётся к ним.

Anthropic также проводила тесты, в которых побуждала ИИ сбежать из виртуальной песочницы. Один из исследователей компании рассказал, что получил “неожиданное письмо от модели, когда ел бутерброд в парке”.

Дэн Эндрю, глава службы безопасности Intruder, заметил: “Если заявленные возможности реальны, а не маркетинговый хайп, то у меня – и я не одинок – есть серьёзные опасения по поводу того, куда мы катимся”.

Пока что Anthropic предоставила предварительную версию Claude Mythos Preview избранным компаниям – включая Google, Microsoft, JPMorgan Chase и CrowdStrike – для тестирования в контролируемой среде в рамках проекта “Project Glasswing”.

“Последствия – для экономики, общественной безопасности и национальной безопасности – могут быть суровыми, – признаёт Anthropic. – Project Glasswing – это срочная попытка поставить эти возможности на службу оборонительным целям”.


Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.