Британские финансовые регуляторы собирают экстренное межведомственное совещание из-за новой модели Anthropic — Claude Mythos. По данным Financial Times, на встрече на этой неделе соберутся представители Банка Англии, Управления по финансовому регулированию и надзору (FCA), Казначейства и Национального центра кибербезопасности (NCSC). Председательствовать будет глава подразделения рисков Банка Англии Дункан Маккиннон — в рамках Cross Market Operational Resilience Group, куда входят крупнейшие британские банки, страховые компании и биржи. Повод — способность Mythos самостоятельно находить уязвимости в критических ИТ-системах.
Мотивы регуляторов пояснил министр по делам ИИ Великобритании Канишка Нараян. По его словам, модель протестировали в государственном AI Security Institute (AISI) — органе, созданном при Риши Сунаке для независимой оценки передовых моделей. "Это самая способная кибермодель, которую мы когда-либо оценивали", — сказал Нараян. По его словам, Mythos стала первой моделью, полностью прошедшей симуляцию корпоративной сети в cyber-range AISI, — то есть самостоятельно перемещалась по системам и выявляла уязвимости. "Мы уже приняли меры по итогам наших находок", — добавил министр, не раскрыв деталей.
Лондон фактически повторяет американский сценарий с короткой задержкой. На прошлой неделе министр финансов США Скотт Бессент и глава ФРС Джером Пауэлл собирали руководителей Citigroup, Goldman Sachs, Morgan Stanley и других крупных банков с Уолл-стрит — с тем же посылом: тестируйте Mythos на своих системах, пока она не попала в плохие руки. Anthropic со своей стороны отложила публичный релиз модели и открыла к ней доступ в рамках программы Project Glasswing — только для проверенных организаций и для задач оборонительной кибербезопасности. Компания заявила, что Mythos уже выявила "тысячи серьезных уязвимостей" в операционных системах, браузерах и распространенном программном обеспечении.
Не все согласны с тем, что угроза столь серьезна, как ее подают. AI-исследователь Гэри Маркус выразил скепсис в отношении заявлений Anthropic — по его мнению, компания может преувеличивать возможности модели в маркетинговых целях. Депутат британского парламента от Консервативной партии Дэнни Крюгер, наоборот, призвал правительство активнее взаимодействовать с Anthropic и не полагаться только на экспертизу силовиков.
Происходящее превращает Mythos из частного продукта одной компании в объект межгосударственной координации: за неделю модель дважды становилась поводом для закрытых встреч финансовых регуляторов уровня G7. Для Anthropic это одновременно и лучшая реклама оборонительных возможностей модели, и серьезный повод для беспокойства — каждое такое совещание приближает регуляторные рамки, которые могут определить, на каких условиях подобные модели будут выходить на рынок в будущем.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
