Comments 12
Насколько бесконечно количество вариантов генерируемого кода. мне кажется довольно быстро начнутся повторы и они так же будут добавлены в исключения антивирусов.
По такой логике можно было оффлайн сгенерировать много функций и через какой нибудь веб-сервис зловред бы их скачивал, хоть с pastebin, хоть с гугл диск.
Вряд ли злоумышленник захочет оставлять свой апи ключ в зловреде. даже если это найденный где то, ведь его все равно надо будет пополнять время от времени.
К тому же программисты и так через пакетные менеджеры скачивают кучу непонятного кода и не беспокоятся о его безопасности.
Пока что основная опасность как раз оффлайн использование. когда злоумышленник заранее делает новый код через чат, потом сам коспилирует его (не на питоне же зловред писать).
Если помечтать дальше, то можно придумать как антивирусы будут работать через ИИ, перед запуском спрашивая ИИ: что делает этот код, не опасный ли это кусок кода?
Понятно что для каждого пользователя это делать дорого, каждый файл надо распознавать один раз и хранить результаты проверки на сервере.
Многие последствия появления ИИ компенсируются им же. Например "можно генерировать тонны нового контента" -> "люди читают статьи и книги через ИИ сокращалки текста, извлекающие основной смысл".
Можно будет просто пообщаться в чате с интересующей книгой или статьей. Вроде бы контента будет больше, а в итоге люди читать будут еще меньше. Только самое главное, причем у каждого будет свой ИИ помощник который знает все о "своем хозяине" и может ответить конкретно для него "что я еще не знаю из этой статьи".
Подозреваю, что количество сгенерированного текста будет явно больше пользователей ИИ-сокращалок. Всё таки нейронки бесплатными будут немного и/или недолго. В итоге большая масса пользователей будут читать сгенерированный разбавленный водой текст. И то же самое с вирусами. Не у многих будет такой антивир с ИИ. По крайней мере до тех пор, пока не появится возможность крутить достаточно мощный ИИ прям у себя на компе.
обе проблемы решаются кешированием. вот эту статью достаточно один раз сократить и раздавать всем кому надо сокращенный враиант. кеширование на сервисе. сейчас даже видео так обрабатывают (краткий пересказ видео).
то же самое с исполняемыми файлами. антивирусу достаточно посчитать хэш от файла и отправить его на сервер, 99% что у кого то уже был такой файл.
В конце концов, антивирусы давно уже используют всякий эвристический/поведенческий анализ, а не ограничиваются простыми базами сигнатур.
Как насчет декомпиляции и деобфускации с использованием ИИ?
Я знаю несколько успешных попыток такого использования, в целом это возможно. Правда, полноценных исследований и сравнений с традиционными методами пока не видел.
Зачем здесь лишнний шаг генерация кода?
С таким же успехом зловредная программа может обращаться на любой сервер в интенете и скачивать любой нужные ей код, уже готовый без какой-либо генерации.
Такой же ворос возник при прочтении, да еще и нет гарантии работоспособности сгенерированного кода.
А кто его напишет? Идеальный полиморфный зловред должен менять свой код при каждом заражении, а может быть и несколько раз в процессе работы на конкретной машине. Потому вирусописатели и присматриваются к языковым моделям.
Касаемо WinApi chatGPT очень тупой. Генерирует такое , как изобретательный двоечник, который предмет не знает, но пытается что-то выдумать. Прекратил им пользоваться для справки по WinApi , т.к. больше времени уходит на поиск ошибок, чем писал бы сам. По пайтону и вебу - возможно, там ситуация получше ввиду большего наличия инфы для обучения.
Генерация полиморфного вредоносного кода при помощи ChatGPT