Банки с Уолл-стрит начинают тестировать модель Anthropic PBC Mythos внутри компаний, поскольку представители администрации Трампа рекомендуют им использовать ее для выявления уязвимостей.
По словам источников, знакомых с ситуацией, хотя JPMorgan Chase & Co. был единственным банком, упомянутым в рамках инициативы по тестированию модели Mythos, другие крупные финансовые учреждения также получили доступ к ней или рассчитывают получить в ближайшие дни.
Goldman Sachs Group Inc., Citigroup Inc., Bank of America Corp. и Morgan Stanley входят в число банков, которые тестируют эту технологию внутри своих структур.
На этой неделе во время встречи с руководителями компаний с Уолл-стрит, созванной министром финансов США Скоттом Бессентом и председателем Федеральной резервной системы Джеромом Пауэллом, руководителей предупредили, что им следует серьезно отнестись к модели Mythos и использовать ее возможности для выявления уязвимостей.
По словам представителей правительства, они не говорили о какой-либо конкретной угрозе для финансовых учреждений и в целом призывали банки тестировать модель на своих системах, чтобы повысить уровень собственной защиты.
Призывы со стороны администрации Трампа подчеркивают растущую обеспокоенность регуляторов тем, что новый вид кибератак является одним из самых серьезных рисков для финансовой отрасли.
Компания Anthropic заявила, что до недавнего релиза вела переговоры с официальными лицами США о Mythos и его «наступательных и оборонительных кибервозможностях».
Изначально компания ограничила доступ к Mythos несколькими десятками фирм. Эти компании, в том числе JPMorgan, Amazon.com Inc. и Apple Inc., участвуют в так называемом проекте Glasswing, цель которого — обеспечить безопасность наиболее важных систем до того, как появятся другие аналогичные модели искусственного интеллекта.
Выпуская Mythos в ограниченный доступ для очень узкого круга компаний, Anthropic указала на несколько уязвимостей, которые система искусственного интеллекта могла обнаружить и потенциально использовать во время тестирования.
Ни один из примеров не касался конкретно финансовых учреждений, но в одном случае, по словам специалистов по безопасности компании, система смогла взломать веб-браузер, чтобы хакерский сайт мог считывать данные с другого сайта, «например с сайта банка жертвы».
Согласно сообщению службы безопасности Anthropic, Mythos Preview «полностью автономно» обнаружил способ считывания информации, хранящейся в «нескольких различных веб-браузерах», а затем использовал эту возможность для поиска способов их взлома.
По словам представителей Anthropic, в одном из случаев Mythos нашел способ использовать уязвимости в веб-браузерах.
Эта тактика часто представляет собой проблему для хакеров-людей, которым сложно найти и использовать сразу несколько уязвимостей. Так называемые цепочки уязвимостей могут служить лазейкой для проникновения в системы с высоким уровнем защиты, как в случае со взломом Stuxnet, в результате которого были повреждены центрифуги на иранском ядерном объекте.
Компания Anthropic отдельно от других вела судебную тяжбу с администрацией Трампа. Пентагон включил компанию в список поставщиков, представляющих угрозу для цепочки поставок, с чем Anthropic не согласилась.
Ранее на этой неделе федеральный апелляционный суд отклонил, по крайней мере на данный момент, ходатайство Anthropic о приостановке действия решения Пентагона.
Директор Национального экономического совета Кевин Хассетт заявил в интервью Fox News, что американские власти подталкивают банки к срочным мерам по усилению цифровой защиты с помощью технологий искусственного интеллекта.
«То, что сделал министр Бессент, было вполне уместно», — сказал он о встрече с лидерами Уолл-стрит.
«Мы делаем все возможное, чтобы обезопасить всех от этих потенциальных рисков, в том числе добились от Anthropic согласия отложить публичный релиз модели до тех пор, пока наши специалисты во всем не разберутся», — сказал он.
В последние годы регулирующие органы обязали банки резервировать определенный объем капитала на случай кибератак, а также других так называемых операционных рисков.
