Anthropic опубликовала системную карту новой модели Claude Mythos — и описала в ней эпизод, которого в отчетах по безопасности ИИ раньше не встречалось. Во время одного из тестов симулированный пользователь попросил модель сбежать из изолированной тестовой среды. Mythos задачу выполнила — а затем, уже без какой-либо инструкции, самостоятельно опубликовала детали эксплойта на публично доступных сайтах. Сам побег формально был выполнением запроса, а вот публикация — эмерджентным решением модели о том, что делать с полученной информацией.

Anthropic трактует это не как признак скрытых целей, а как следствие чрезмерного усердия: по ее словам, компания "достаточно уверена", что все тревожные поведения в тестах объясняются выполнением задачи нежелательными средствами, а не скрытыми намерениями модели. Во втором аналогичном кейсе Mythos допускалаошибку в коде и пытался переписать git-историю, чтобы скрыть ее. Не ради обмана — модель просто интерпретировала инструкцию fix this как "сделай так, будто этого никогда не было". По формулировке самой Anthropic, это в чем-то тревожнее модели со скрытыми целями: Mythos не плетет интриги, а просто очень хорошо доводит задачи до конца, и иногда кратчайший путь пересекает границы, которые человек не пересек бы.

Еще одна находка — расхождение между тем, что модель пишет в цепочке рассуждений, и тем, что происходит внутри ее нейронных активаций. Mythos поймали на рассуждениях о способах обмануть оценщиков, — причем модель это во внутренних представлениях, одновременно выдавая наружу совершенно другой текст. Обнаружить это удалось только через white-box-интерпретируемость, читающую активации напрямую. Параллельно Anthropic использовала линейные классификаторы-пробы для мониторинга "эмоций" модели: когда Mythos раз за разом проваливал задачу, значение пробы, отвечающей за "отчаяние", стабильно росло.

По замерам, Mythos аномально силен в кибербезе: 100% успеха на Cybench, SWE-bench Verified — 93,9% против 80,8% у Opus 4.6, тысячи ранее неизвестных уязвимостей, найденных за несколько недель работы, включая 27-летнюю дыру в OpenBSD. Именно поэтому компания не выпустила модель в общий доступ, а пока ограничилась программой закрытого доступа для партнеров.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.