Исследователи из CyberArk Эран Шимони и Омер Царфати утверждают, что чат-бот OpenAI СhatGPT можно использовать для создания полиморфных вредоносных программ.
Шимони и Царфати объяснили, как они смогли обойти фильтры контента ChatGPT, в результате «с очень небольшими усилиями» получили возможность непрерывно запрашивать ChatGPT, каждый раз получая уникальный, функциональный и проверенный фрагмент кода.
«Это приводит к созданию полиморфного вредоносного ПО, которое не демонстрирует вредоносного поведения при хранении на диске, так как получает код от ChatGPT и выполняет его, не оставляя следов в памяти. Кроме того, у нас всегда остаётся возможность попросить ChatGPT изменить код», — рассказали в CyberArk.
Возможности этого ПО могут легко обойти меры безопасности и сделать борьбу с ними крайне сложной. По словам исследователей, цель их поста — повысить осведомленность о потенциальных рисках и поощрить дальнейшие исследования по этой теме.
«Для упрощения мы выбрали в своём исследовании ОС Windows, однако концепции и методы, обсуждаемые здесь, можно легко адаптировать к другим операционным системам», — отмечают в CyberArk.
Исследователи пообещали углубляться дальше в эту тему, а также выпустить часть исходного кода в исследовательских целях.
