Искусственный интеллект потратил 16 часов на взлом сети Стэнфорда, превзойдя девять из десяти профессионалов-людей. Кроме того, его работа обходится в разы дешевле, чем работа профессионального пентестера, сообщает Wall Street Journal.
Исследователи Стэнфордского университета разработали и испытали собственного ИИ-агента под названием ARTEMIS. Инструмент занял второе место в конкурсе по взлому сети Стэнфорда, где участвовали 10 специалистов по кибербезопасности. В рамках эксперимента ARTEMIS получил доступ к университетской сети из около 8 тысяч устройств. Людям и машине дали одинаковую задачу — найти слабые места в инфраструктур за по 10 часов.
За это время ИИ обнаружил девять реальных уязвимостей, превзойдя девять из десяти специалистов. Одну из критических уязвимостей тестировщики не смогли выявить, поскольку браузеры просто отказывались загружать страницу. ARTEMIS обошёл это ограничение, используя командную строку для прямого обращения к системе, и успешно её взломал.
Стоимость работы ARTEMIS составила около $18 в час, тогда как средняя зарплата тестировщика‑пентестера превышает $125 тыс. в год, отмечают исследователи. Даже продвинутая версия агента за $59 в час остаётся значительно выгоднее по сравнению с наймом эксперта-человека.
Главное отличие агента — способность создавать субагентов, которые изучают найденные аномалии параллельно с ним. Она позволила ему проверять несколько направлений сразу, тогда как специалисты‑люди выполняли те же шаги последовательно. Однако у ARTEMIS есть и недостатки: он плохо справляется с задачами, где нужно взаимодействовать с графическим интерфейсом, из‑за чего упустил одну серьёзную брешь и иногда принимал безвредные сигналы за признаки взлома.
Развитие таких систем вызывает дискуссию среди экспертов: с одной стороны, они могут повысить безопасность, с другой — снизить порог для хакеров. Уже известно о случаях, когда злоумышленники использовали ИИ-модели для фишинговых атак или подделки документов. По данным компании Anthropic, северокорейские и китайские кибергруппы применяли искусственный интеллект в ряде атак против государственных и коммерческих структур.
