Эксперты по кибербезопасности Check Point Research выяснили, что хакеры применяют ChatGPT для написания вредоносного кода и фишинговых электронных писем. При этом часть из них практически не имеют опыта в программировании.
Исследователи приводят в качестве примера скрипт на Python, который при некоторой доработке можно превратить в программу-вымогатель.
В другом случае скрипт на Python производит поиск файлов заданного типа, например PDF, на локальной машине, а затем сжимает файлы и отправляет их на сервер потенциального злоумышленника.
Второй фрагмент кода, написанный на Java, тайно загрузил клиент SSH и telnet PuTTY и запустил его с помощью Powershell.
Код Python сочетал в себе различные криптографические функции, в том числе подпись кода, шифрование и дешифрование. Одна часть скрипта сгенерировала ключ, используя криптографию на эллиптических кривых и кривую ed25519 для подписи файлов. Другая часть использовала запрограммированный пароль для шифрования системных файлов с помощью алгоритмов Blowfish и Twofish. Третья задействовала ключи RSA и цифровые подписи, подписывание сообщений и хеш-функцию blake2 для сравнения различных файлов.
Эксперты попытались самостоятельно использовать ChatGPT для написания вредоносного кода, и нейросеть справилась с этой задачей. Чат-бот составил фишинговое письмо и написал вредоносный VBA-макрос. Затем исследователи использовали инструмент Codex для разработки других типов вредоносных программ, включая обратную оболочку и скрипты для сканирования портов, обнаружения песочниц и компиляции их кода Python в исполняемый файл Windows.
Хотя условия ChatGPT запрещают подобное использование, исследователи без труда настроили запросы так, чтобы обойти эти ограничения.
ChatGPT разработала и в ноябре 2022 года выпустила компания OpenAI. Почти сразу после запуска администрация форума Stack Overflow временно запретила постить ответы, сгенерированные ChatGPT. Причина в том, что бот часто выдавал ответы, похожие на правильные, но вводящие в заблуждение.
В январе департамент образования Нью-Йорка запретил школьникам и учителям доступ к чат-боту ChatGPT в сетях и на устройствах государственных школ города.
