Генерация контента с помощью искусственных нейронных сетей (ИНС) с каждым днём становится всё более привычным явлением: с помощью ИНС создают графику для видеоигр, пишут книги и дипломные работы, синтезируют звук и поддерживают диалоги в чат-ботах. Существенный вклад в популяризацию задачи и идеи генерации материалов, несомненно, внёс ChatGPT от OpenAI. Среди не менее успешных отечественных аналогов можно выделить Балабобу от Яндекса на основе нейросетей семейства YaLM и модель ruGPT-3 XL от Sber (работа сети основана на Generative Pretrained Transformer 3 от OpenAI).
В области информационной безопасности (ИБ) синтезирование материалов представляется также крайне привлекательным: нейросетевые модели генерируют сигнатурные базы и вредоносный код, создают DeepFake и фишинговые письма, пишут полезную нагрузку для эксплойтов и sql-инъекций.
Одним из перспективных направлений применения ИНС в ИБ можно выделить написание сценария атаки для Red Team. Процесс подготовки сценария напад��ния для «красной» команды во многом напоминает создание киносценария или придумывание сюжета детектива. Например, чем сценарий «Бумажного дома» или детективные истории об Арсене Люпене – не описания атак для Red Team? Их также можно разложить на этапы в соответствии с моделью Kill Chain, выделить уязвимости, позволившие реализовать атаку, описать техники, тактики и процедуры, применяемые главными героями.
Тем более, что ИНС уже активно применяются для создания киносценариев: сотрудники подразделения Alphabet DeepMind AI представили ИИ-инструмент Dramatron AI для написания черновиков фильмов или телепередач; белорусская киностудия RitZeed создала видеоролик на основе сценария, синтезированного нейросетью, при этом авторы модели заявили, что «получили сценариста с шизой, помешанного на столах и стульях»; сценарист и комик Китон Пэтти (Keaton Patti) на основе 1000 часов сериала «Чёрное зеркало» сгенерировал сценарий эпизода с участием дронов и голограмм; на Хабре в 2018 году писали о короткометражном фильме Zone Out, созданного нейронной сетью, начиная от подготовки сценария и заканчивая озвучкой персонажей.
Описанный опыт можно попробовать адаптировать для генерации сценариев атаки в рамках Red Teaming. ИНС способны охватывать самые разнообразные источники и обрабатывать огромные массивы данных. Возможно, в 2017 году применение ИНС позволило бы выдвинуть гипотезу о появлении вируса WannaCry в результате политического противостояния Южной Кореи и КНДР или предсказать появление вирусов-шифровальщиков, как естественную трансформацию любого вида преступлений в информационную форму.
Например, запросы через чат-бот DUM-E к ChatGPT о создании сценария атаки для Red Team показали любопытные результаты:
Пожалуй, самый интересный и кровожадный сценарий выдал Балабоба. По очень субъективной оценке и личному мнению Балабоба общается более естественно и нестандартно, чем ChatGPT, но это исключительно собственные впечатления.
RuGPT-3 генерирует много текста, результаты получились не очень осмысленными:
Собственные попытки обучить LSTM-сеть в Google Colab на книге Кевина Митника "Искусство обмана" и статьях по ИБ / пентестингу / Red Teaming пока ограничиваются скромными, но вдохновляющими результатами:
Сообщение от Митника
Когда он обнаружил свои продукта и верной программное обеспечения для получения социальный инженер знал свои доступ к компьютерные инженеров и получить программы и предоставляет видел по повести полицейский служащих компании, который он не подозревающий доступ к компьютерный просьбу обмана
В социальный инженер из тех в компании, который подобное делать и систему и процедурам по поводу и просто позвонить и подозрения и просто страницах.
Анализ обмана
«Сколько сообщения в себе, что он выполнить в социальный инженер должен быть на просьбу.
Отдел на просьба были не стали по просто подозревающий сервера и подозревающий программы и показала он защите сотрудников и перезвонить в социальной инженерии, которая подозревающий системы и программы должны быть важно подозрения в социальной инженерии и продукты в компании. Но сотрудникам об этом или сотрудники просто подозревающий просто выдавать возможность в компании, не смог получить на компьютерный подписал пол
Возможности и перспективы машинного обучения, в частности, современных нейросетевых моделей поражают и восхищают. Остаётся с предвкушением ожидать новых этапов развития и совершенствования технологий, не забывая про печальную участь создателя ИИ в фильме «Из машины», и организованное квантовым компьютером Уинстоном заказное убийство с религиозным подтекстом в романе Дэна Брауна «Происхождение».
