Некоторые подходы к хранению данных, при которых одному исходному файлу соответствует один зашифрованный, защищают сами данные, но оставляют открытой часть метаданных. Расскажу, как я столкнулся с такой проблемой, какие ошибки совершил при этом столкновении, и при чем тут фрагментация.

На упрощённых схемах NGFW часто изображают как последовательный конвейер: межсетевой экран, DPI, IPS, антивирус, WAF. Такая схема удобна для презентации, но создаёт неверное впечатление, будто каждый пакет проходит через все механизмы по очереди, а для усиления защиты достаточно включить больше модулей.

На практике всё зависит от конкретного потока. DNS-запрос, исходящее HTTPS-соединение, другой транзитный трафик и обращение к опубликованному веб-приложению обрабатываются разными механизмами. Поэтому модуль может быть настроен и активен, но не анализировать нужное соединение: профиль IPS не подключён к разрешающему правилу, DNS-запросы уходят через другой резолвер, HTTPS не расшифровывается, а приложение опубликовано через DNAT в обход WAF.

Разберём эту модель на примере Ideco NGFW Novum 22: какой трафик получает каждый механизм, какие данные ему доступны и где чаще всего возникают слепые зоны.

Привет, Хабр!

Я разработчик-авантюрист и создатель нескольких проектов, которые сносят крышу своей неординарностью и креативом. Илон Маск - выглядит как прыщавый мальчишка в дырявых штанишках по сравнению с моей неудержимой жаждой творить вещи, взрывающие мозг. И если ты, дорогой читатель, увидел в этом нездоровый сарказм, не спеши делать выводы.

Пока ты ещё убеждаешься в моей способности создавать неожиданные вещи на пустом месте, позволь пригласить тебя в моё информационное пространство, ссылку на которое можно найти в моём профиле. Там ты увидишь ряд моих проектов, которые работают прямо сейчас, вызывая повышенный интерес по всему миру.

Но в этой статье я попытаюсь оголить свои мысли в отношении моего нового концепта о защите авторских прав на интеллектуальную собственность. Я расскажу о разработанной мною альтернативе самой CISAC (Международная конфедерация обществ авторов и композиторов), которая ставит её перед фактом нецелесообразности дальнейшего бытия.

Настало время перемен!

На прошлой неделе стало известно о серьезной уязвимости в гипервизоре KVM (новость, подробная публикация первооткрывателя). Проблема с идентификатором CVE-2026-53359 получила название Januscape. Предложенный исследователем PoC приводит к падению хоста со всеми виртуальными машинами, но теоретически атака может быть доработана и до еще более опасного сценария. Ошибка в код Linux KVM была внесена 16 лет назад, и это, возможно, первый подобный баг, который затрагивает серверы одновременно на процессорах AMD и Intel.

Ошибка в коде относится к механизму управления таблицами страниц в так называемом теневом модуле управления памятью (Shadow MMU). Отсутствующая проверка на тип страницы в некоторых условиях приводит к обращению к совершенно другой странице. Это фактически повреждает состояние KVM и рано или поздно приводит к падению ядра системы. Исследователь Ким Хен У, обнаруживший ошибку и представивший ее на соревновании kvmCTF, допускает в том числе возможность выполнения произвольного кода. Осложняется это тем, что потенциальный атакующий в лучшем случае может контролировать точку назначения записи данных, но не то, какие данные записываются.

Хабр, привет! На связи аналитики GSOC.

В начале июля мы обнаружили фишинговую атаку, в которой злоумышленники задействовали бренд GIS DAYS. Письмо пришло с внешнего адреса annaborisova.official@mail[.]ru с темой «Приглашение на GIS DAYS 2026 – форум по информационной безопасности». В нём находились PDF-файл с приглашением и запароленный архив с исполняемыми файлами .exe.

PDF-приглашение мимикрирует под легитимный документ, в котором были использованы актуальный логотип мероприятия этого года, поддельный сертификат электронной подписи, основная публичная информация о мероприятии, а в качестве отправителя был указан генеральный директор.

В этой статье разберём атаку.

В 2023 году злоумышленники позвонили в сервис-деск Clorox — международного производителя бытовой химии и товаров для дома. Представившись сотрудниками компании, они убедили службу поддержки восстановить доступ к корпоративным системам.

Последствия быстро вышли за пределы ИТ. Компания столкнулась с нарушением производства и отгрузок, дефицитом продукции и снижением продаж. Только прямые дополнительные расходы, признанные к концу 2023 года, составили около $49 млн.

Это не уникальная история. За последние годы похожие по масштабу последствия возникали из-за отказа подрядчика, дефектного обновления, непроверенного восстановления и даже нехватки места на сервере.

В статье разберём пять повторяющихся управленческих просчётов, проявившихся в крупных инцидентах 2023–2025 годов, и посмотрим, как проверить наличие таких рисков в собственной ИТ-службе.

В мае 2026 года департамент Threat Intelligence экспертного центра безопасности Positive Technologies обнаружил очередную кампанию APT-группировки CloudAtlas, в рамках которой использовались характерные документы Microsoft Office с техникой внедрения вредоносных шаблонов и многоступенчатая цепочка доставки вредоносных HTA- и VBS-компонентов.

Однако кампания отличалась использованием цепочек из oEmbed-запросов и скомпрометированных легитимных веб-ресурсов как транспортного слоя для загрузки полезной нагрузки, что усложняло выявление и атрибуцию канала доставки вредоносного ПО.

Дополнительный интерес представляет нетипичный таргетинг: наряду с кибератаками на российские объекты энергетической, оборонно-промышленной и транспортной инфраструктуры с акцентом на предприятия на территории Крымского полуострова ряд обнаруженных вредоносных документов предназначался для пользователей из Ирака.

С развитием больших языковых моделей качество автоматически сгенерированного текста достигло уровня, при котором он становится практически неотличимым от написанного человеком. Это создаёт как новые возможности, так и значительные вызовы, связанные с фальсификацией информации, мошенничеством, генерацией дезинформации и другими рисками.

В связи с этим встает вопрос по обнаружению и защите от созданного искусственным интеллектом контента. Особенно в академической среде. Кроме того, одной из немаловажных проблем также является возможность обеспечения универсального обнаружения сгенерированных искусственным интеллектом текстов и противодействие обходу методов классификации созданного контента. На Хабре уже неоднократно освещали эту тему. 

Мы решили разобраться, что происходит с патентами в данной сфере.

В первой части мы говорили о том, как SOC крупного ритейла может связывать кибербезопасность и антифрод внутри компании: обогащать технические алерты бизнес-контекстом, учитывать платежи, заказы, бонусы, личные кабинеты и приоритизировать инциденты не только по технической критичности, но и по влиянию на клиента и бизнес-процессы.

Но у ритейла есть еще одна важная зона риска — внешнее цифровое пространство.

Prompt injection — один из самых распространенных способов взлома ИИ-агентов. В текст, с которым работает модель, прячется вредоносная инструкция в расчете на то, что человек не будет проверять все подряд, а ИИ прочитает и выполнит. Очевидно, что системы безопасности современных моделей настроены в первую очередь на распознание и игнорирование подобных инструкций. Поэтому злоумышленники постоянно ищут способы, как запрятать их еще глубже.

Сильнейшие экономики мира вкладывают в ИИ триллионы не ради ещё одного способа зачитать чужой сетевой флоу. Гонка идёт за право задавать условия, в которых государства и компании видят мир и принимают решения.

ИИ-стек связывает безопасность, производство, финансы и знание через доступ, зависимость и ренту. Знание становится его управляющим слоем. Поэтому кибербезопасность выходит из технического арьергарда и становится одной из опор новой структурной власти.

Расширенная версия доклада Сергея Гордечика на Kaspersky Кибер Кэмп, июнь 2026.

Невидимый текстовый слой PDF можно редактировать и экспортировать в Markdown, JSON и TXT. Такие документы называются адаптивными PDF, они созданы для чтения и людьми, и роботами. Люди видят обычный PDF, а роботы — отдельный слой ActualText с текстом в Markdown и картинками в base64.

Вся история — от закрытой Mythos Preview и проекта обязательной проверки, который Трамп отклонил, до глобального отключения, закулисных переговоров, возвращения Fable и первых международных последствий.

Fable 5 снова доступна после почти трёх недель глобального отключения. Anthropic договорилась с правительством США, изменила защитные механизмы модели и добилась отмены экспортных ограничений. Но исходное состояние не восстановилось: более мощная Mythos 5 осталась за закрытыми дверями, а законность механизма, позволившего правительству выключить модель по всему миру, суд так и не проверил.

За прошедший месяц появились подробности о причинах запрета, правовом механизме, переговорах Anthropic с Белым домом и условиях возврата. Многочисленные пересказы обычно фокусируются на центральной части истории — джейлбрейк, внезапное отключение и конфликт Anthropic с администрацией. По краям остались два менее заметных эпизода: незадолго до запрета Трамп отклонил обязательную проверку моделей, а после запрета зависимость от американского ИИ стала темой переговоров на уровне G7. Я решил собрать историю целиком.

То есть доступ вернули, но сам административный рубильник никуда не делся.

(про трубу в заголовке я немного зря - CF всегда были средством доставки, но любили их и за защиту; другими словами, надо бы писать про "трубу с ситечком", но в заголовок такое не ложится)

Сама новость: Cloudflare, всем нам хорошо знакомый провайдер CDN и WAF, теперь будет не просто выделять в статистике посещений ИИ-ботов, но и разделять их по категориям, разрешая одним то, что запрещено другим. Ну и да, прямо замаячила тема оплаты за доступ. Brave new world, как по мне!

Cloudflare разделила ИИ-ботов на три категории: Search, Agent и Training. Владельцы сайтов теперь могут независимо разрешать или блокировать поисковую индексацию, обращения агентов от имени пользователей и сбор данных для обучения моделей. Для каждой категории доступны три режима: разрешить, заблокировать везде или заблокировать только на страницах с рекламой.

В результате Cloudflare уже не только пропускает трафик и отфильтровывает мусор. Она начинает решать, кто и зачем может читать сайт, а следом собирается брать оплату за проход.

Bjorn — это инструмент, подобный тамагочи, только для хакеров пентестеров, который сам сканирует сети, находит, оценивает и даже может эксплуатировать уязвимости, разработанный для работы на Raspberry Pi с 2,13-дюймовым e-Paper HAT.

Я захотел себе такую штуку и делюсь с вами подробным гайдом о том, как самостоятельно собрать себе собственный Bjorn.

Недавно коллеги из Censys выкатили разбор семейства AsyncRAT, описав целое генеалогическое древо: AsyncRAT → DCRAT (DarkCrystal RAT) → VenomRAT → еще десятки форков вплоть до LMTeamRAT, Alfa Red Fox, EchoRAT, Gh0stRAT (не путать с оригинальным Gh0st RAT 2008 года) и т. д. Всего насчитали около 40 именованных вариантов, 13 из них — с живой C2-инфраструктурой на момент исследования.

У нас, отдела сетевой экспертизы антивирусной лаборатории, уже был опыт детектирования VenomRAT по его дефолтовому сертификату, и мы даже отдали в сообщество сигнатуру для Suricata в рамках проекта PT Rules.

Именно поэтому нас это исследование, само собой, зацепило — и мы решили прогнать похожую логику не по интернет-скану, а по трафику из собственных песочниц: а вдруг мы что-то упустили?

Системы контроля доступа (СКУД) встречают нас в жизни на каждом шагу: в офисах, домах, транспорте и почти в любой сфере ежедневного применения. За последние десятилетия СКУД прошли большой путь эволюции. В данной статье мы не очень глубоко разберём некоторые важные аспекты реализации СКУД c использованием OSDP Crypto.

Утечка данных почти никогда не выглядит как взлом — чаще это тихий SELECT без LIMIT от роли, у которой и так есть доступ. Заметить такое штатными средствами PostgreSQL почти невозможно: аудита как отдельной подсистемы там нет, а есть лишь разрозненные логи, из которых расследование превращается в quest с grep. В этой статье — как с помощью pg_proaudit и pgpro-otel-collector превратить эту головную боль в один запрос на LogsQL.

Теневые API редко появляются из злого умысла. Чаще это побочный эффект быстрой разработки: временный маршрут для пилота, отдельная точка доступа для мобильного приложения, старая версия, которую забыли отключить, или внутренний сервис, внезапно опубликованный наружу. В статье разберём, почему официальные реестры API расходятся с реальностью, откуда берутся Shadow API и как начать их искать без многомесячного проекта.

Возникла идея написать подробную инструкцию по установке и настройке matrix. Всё, что нашел в интернете — либо устаревшая, неактуальная информация 3–4 летней давности без использования MAS, либо неполная информация с обрезанными конфигурационными файлами, по типу «догадайся сам и допиши». Также все инструкции, которые есть в интернете, в основном по установке в контейнере docker. Я же поделюсь с вами инструкцией по установке без каких либо контейнеров.

В условиях блокировки Телеграм и других популярных мессенджеров, протокол matrix дает возможность организовать, например, связь между членами семьи, родственниками и друзьями, не используя ВПН. Постараюсь доступно объяснить и показать все шаги установки и настройки, чтобы это было понятно большинству «чайников». Под «чайниками» я подразумеваю людей, которые знают, что такое терминал в линукс, и на базовом уровне умеют им пользоваться.

Зачем нужна установка matrix совместно с панелью 3x‑ui? Всё просто — для экономии денег. Если у вас уже есть сервер с установленной панелью, то зачем арендовать еще один сервер для matrix? Всё можно установить на один сервер. Другой вопрос — правильно ли это? Возможно нет, но у меня такая схема работает несколько месяцев без сбоев.

Команда VK Cloud перевела второй пост из серии трёх частей о том, как Cilium укрепляет свой CI/CD-конвейер. Первая часть рассказывала про управление доступом: кто может запускать сборки и какой CI-код разрешено исполнять. Этот пост про уровень зависимостей: какой код эти сборки подтягивают и как мы убеждаемся, что его не подделали.

Всем привет! На связи снова Angara Security. И сегодня у нас разговор по-честному. У всех компаний разный уровень зрелости ИБ. Это нормально. Если у вас всё выверено, процессы отлажены, а системы управления уязвимостями (VM) и SIEM слаженно работают в паре — это уже сильный результат. Но даже тогда системы могут не складывать картину: VM знает, где уязвимость, а SIEM видит атаку.

Эта статья будет полезна, если:

1. у вас пока только VM-решение или вы уже начали думать: «А что дальше? Куда двигаться?»;

2. есть и системы классов VM, и SIEM, но они существуют параллельно: данные не пересекаются, корреляции нет, эффект от систем оставляет желать лучшего.

Большинство современных вредоносных рассылок уже давно не используют классические макросы Microsoft Office. Вместо этого злоумышленники строят многоступенчатые цепочки заражения, где каждый компонент выполняет только одну небольшую задачу: первоначальный документ лишь инициирует загрузку следующего этапа, тот скачивает новый компонент, который в свою очередь запускает основной вредоносный модуль.

В ходе анализа одного из подобных образцов была исследована полная цепочка заражения — от письма с вложением Excel до запуска LuaJIT-загрузчика и последующего инфостилера. Интересной особенностью является использование файлов с нестандартными расширениями (.PIF и .TTF), которые на самом деле не являются ни ярлыком, ни шрифтом.

Давайте рассмотрим каждый этап работы вредоносной цепочки.

Этой статьей я постараюсь логично завершить эксперимент с ханипотом и рассказать про анализ вредоносного ПО силами ИИ. Идея проекта простая: проверить, может ли связка из изолированной виртуальной машины, классических инструментов анализа ВПО и LLM-агента дать не только красивый отчет, как было в прошлый раз, а реально полезный материал для борьбы с вредоносами.

В 2026 году был опубликован инструмент VMkatz. По функционалу он напоминает широко известный инструмент Mimikatz, но, в отличие от него, целью VMkatz является извлечение учетных данных напрямую из файлов виртуальных машин (снимков памяти и виртуальных дисков) без необходимости входа внутрь гостевых Windows-систем. VMkatz может работать с файлами виртуальных машин разных платформ, включая VMware ESXi, Microsoft Hyper-V, VirtualBox и QEMU/KVM.

В марте состоялся второй эпизод DevSecOps-митапа CyberCamp, в программу которого вошли киберучения на платформе Jet CyberCamp. Три задания, максимально приближенных к реальным задачам специалиста по безопасности приложений — в этом материале разберем их все. Вы узнаете, какие идеи закладывались в задания, где авторы расставили ловушки, и какие реальные кейсы из практики за ними стоят.

P.S. А пока вы с головой уходите в разбор этих кейсов, мы уже вовсю готовимся к новому формату — 17 июля в Москве на свежем воздухе пройдёт первый опен-эйр-фестиваль «Лето в Киберкэмпе 2026» с новыми киберучениями, докладами про ИИ, DFIR и живым общением у воды. Не пропустите!

Хакер приходит в общественную столовую и с возмущением обнаруживает, что солонку на столе может открутить кто попало. Помните эту старую хохму?

Когда в новостях вспоминают о кибератаках на розничные сети, то обычно говорят про слитые базы данных, DDoS и шифровальщиков. Но что, если злоумышленник войдет в магазин с ноутбуком в рюкзаке и внимательно посмотрит по сторонам?

На связи Иван Глинкин, руководитель отдела прикладных исследований в Бастионе. Сегодня расскажу вам историю про Хакера в супермаркете, который получил доступ к конфиденциальным данным, прослушал переговоры сотрудников и даже инициировал возврат денег на чужую карту.

Под катом вас ждет собирательный образ российского ритейла и результат нескольких прогулок по магазинам с одной целью: взглянуть на привычные вещи глазами исследователя безопасности, который видит в магазине не только полки и кассы, но и поверхность атаки. 

Итак, приходит Хакер в магазин и обнаруживает: 

• Кассы-трансформеры и терминалы самообслуживания — лицо современного ритейла и его ахиллесова пята.

• Кнопки вызова сотрудников — радиопередатчики с фиксированным кодом, который можно перехватить и воспроизвести.

• Беспроводные трубки стандарта DECT, которые до сих пор используют в торговых залах.

• Терминалы сбора данных — Android-устройства без пароля, с доступом к настройкам Wi-Fi.

• Сетевые провода, которые приглашают к знакомству с внутренней сетью.

Привет, Хабр!

На связи снова Максим Мотиков. Я аналитик киберугроз в «Гарде». В прошлой статье разбирал, как вскрывать Python-малварь, а сегодня хочу зайти с другой стороны и рассказать про так называемый reverse engineering kit, который мне помогает закрывать задачи анализа ВПО, когда часть привычного софта может оказаться недоступной.

IDA Pro, например, стоит около тысячи долларов в год, но если докупать все важные архитектуры сразу, то ценник может перевалить уже за десятки тысяч долларов. Каждый декомпилятор продается отдельно, купил поддержку x86 и x64, а за ARM придется доплачивать. Получается как с машиной, которую купил без колес.

К счастью, свет не сошелся клином на IDA Pro. Сегодня есть немало бесплатных инструментов, которые позволяют анализировать ВПО ничуть не хуже, если понимать, в каких задачах каждый из них раскрывается лучше всего. Но прежде чем говорить о софте, начну с обзора железа — это фундамент любой нормальной «лаборатории» аналитика ВПО.

Спойлер: оба находятся в опасности, но по-разному. Эта разница имеет значение.

Я не собирался сравнивать веб и мобилку как две враждующие платформы.

Меня всегда больше цеплял другой момент: в проектах они часто выглядят как разные продукты, а ломаются через один и тот же бэкенд.

На вебе можно спрятать админку за условием в JavaScript и решить, что доступ закрыт. В мобилке можно положить токен в SharedPreferences и надеяться, что до него никто не доберется. Можно оставить открытый бакет, отключить нормальные правила Firebase, забыть про rate limit на логине или принять userId из тела запроса.

Все это выглядит как мелочи, пока приложение работает.

Проблема начинается там, где клиент перестает быть интерфейсом и становится поверхностью атаки. В браузере злоумышленник давит на сервер через запросы, куки, DOM и XSS. В мобилке он может разобрать само приложение, вытащить ключи, перехватить трафик, изменить APK и посмотреть, что команда случайно отправила пользователю вместе с релизом.

Разбираем: где веб и мобильная безопасность совпадают; где расходятся; почему общий API часто опаснее конкретного клиента и какие решения действительно закрывают риски, а какие только создают ощущение защиты.

Привет! На связи Антон Дятлов, инженер по защите информации в Selectel. В инфраструктуре из 1000 серверов и 100 администраторов счет активным SSH-ключам может идти на тысячи. По умолчанию они не имеют срока действия, поэтому со временем накапливаются и устаревают.

Исследования показывают, что в крупных компаниях до 90% ключей не используются и не администрируются, а часть оставшихся предоставляет доступ на уровне root. Отсутствие централизованного управления усугубляет проблему: при увольнении сотрудника его доступы могут забыть удалить, сохранив за ним возможность подключаться к системам.

В итоге администраторы оказываются перед трудоемкой задачей контроля и актуализации авторизационных данных.

Но у меня как у человека, который много лет занимается внедрениями ITSM/ITAM и постоянно взаимодействует со службами безопасности заказчиков, накопилось наблюдение, которым хочется поделиться и услышать мнение тех, кто в теме глубже.

Большая часть крупных российских корпоративных сетей построена на оборудовании Cisco. Миграция болезненная, дорогая и занимает месяцы. Ideco NGFW Novum 22 снимает эту проблему: теперь вы можете встроить российский NGFW в действующую Cisco-инфраструктуру, не меняя протокол динамической маршрутизации с EIGRP на OSPF.

Первое, что обычно удивляет заказчиков — развертывание начинается не с запуска процесса инсталляций и даже не с подготовки серверов и средств защиты информации.

А с чего?

За последний год я провёл серию корпоративных тренингов по использованию ИИ для рабочих офисных задач — в разных по размеру компаниях. И очень часто в перерыве кто‑нибудь из участников подходит и вполголоса спрашивает — «а ничего, что я договор с клиентом закидывал в ChatGPT, чтобы он мне выжимку сделал?»

Ничего хорошего. Хотя человека понять можно: быстро, удобно, качественный результат. Проблема в том, что вместе с текстом договора в чужой дата‑центр уезжают ФИО, паспорта, ИНН, реквизиты — и обычно об этом не знает вообще никто, включая того, кто за персональные данные в компании формально отвечает.

Масштаб у явления нешуточный. ГК «Солар» проанализировала трафик 150 организаций из госсектора, финансов, промышленности, ритейла, телекома и ИТ — и насчитала, что за год объём данных, которые сотрудники сливают в публичные ИИ‑сервисы, вырос примерно в тридцать раз. При этом около 60% компаний вообще не имеют внутренних правил на этот счёт: процесс не контролируется ни технически, ни на бумаге [1, 2].

Давайте разложим по полочкам: что здесь регулирует закон, где реальный риск, где только «страшилки», а где могут быть и штрафы для компании, и как в итоге делать правильно.

В этой статье расскажу о том как я воплотил в реальность свою идею разработать легковесный prodaction guardrails. Расскажу что такое Guardrails, далее поделюсь основными компонентами lite-guardrails, его архитектурой, этапами разработки, настройкой observability, а также созданием документации по проекту.

Linux даёт мощные механизмы безопасности уровня ядра — seccomp, SELinux и AppArmor, — которые ограничивают возможности контейнеризированных рабочих нагрузок. Если коротко: seccomp фильтрует системные вызовы процесса, SELinux и AppArmor накладывают мандатные политики доступа к файлам, сети и возможностям. Каждый из них работает через профили, которые описывают разрешённое поведение, но писать, распространять и поддерживать такие профили вручную утомительно и легко ошибиться.

Security Profiles Operator (SPO) снимает эту боль: профилями безопасности можно управлять как пользовательскими ресурсами Kubernetes, записывать их с работающих нагрузок и декларативно привязывать к подам.

С выходом v1.0.0 Security Profiles Operator переводит все восемь своих API типа Custom Resource Definition (CRD, определение пользовательского ресурса Kubernetes) на версию v1. Это первый стабильный релиз проекта, подкреплённый сторонним аудитом безопасности, полным циклом работ по усилению защиты и путём миграции без простоя с любой предыдущей версии API.

Команда VK Cloud перевела статью о том, как проект Security Profiles Operator за шесть лет довёл свои API до версии v1, прошёл сторонний аудит безопасности и теперь влияет на развитие самого Kubernetes. Это будет полезно тем, кто отвечает за безопасность кластеров — DevOps- и SRE-инженерам, специалистам по ИБ и разработчикам, которые пишут профили seccomp, SELinux и AppArmor для контейнеров.

Я не пытался сделать «приватный мессенджер» и вообще не думал про слежку и прослушку.

В один день мне просто надоело, что созвониться с человеком — это настоящая проблема: блокировки, включи-выключи VPN, а любой новый аналог встречает регистрацией с десятком полей — а теперь местами ещё и просьбой показать паспорт.
За ночь я собрал прототип голосового чата по принципу «ничего лишнего» — и уже потом с удивлением понял, что этот же принцип случайно сделал разговор в нём таким, что подслушать его со стороны физически негде.

Ниже — как так получилось, где у этой «невозможности» честные границы, и почему всё держится на одном-единственном решении.

Всем привет! На связи Максим Митрофанов, руководитель ML-команды Application Security в Positive Technologies.

Недавно мы выпустили нейросеть MOLOT и описали архитектуру решения в техрепорте на arXiv. Эта статья в каком-то смысле его TLDR в свободном изложении. Скажу сразу, наша модель — не LLM, хотя к трансформерам имеет самое прямое отношение. MOLOT построен на базе BERT-энкодера (не modern, не neo, а самого ванильного) и умеет обнаруживать вредоносный код по цепочкам вызовов не хуже Mythos от Anthropic (как минимум не боится промпт-инъекций).

ИИ сейчас встраивают практически в каждый продукт: от чат-ботов до внутренних систем автоматизации. Но почти все думают о том, как внедрить его быстрее, и почти никто – о том, как его защищать. В данной статье рассмотрим ИИ как поверхность атаки.

Будет затронуто четыре основных блока: кто и как регулирует ИИ, как ломают ИИ-системы (Red Team), как их защищают (Blue Team) и что лучше почитать, если тема вызывает интерес.

Наша команда создаёт сервис управления доступом (коротко - СУД) в одной из самых больших в Сбере платформ - Платформе Кибербезопасности, или просто ПКБ. На ней обрабатываются все данные Банка, связанные с кибербезопасностью, а также работает множество продуктов и сервисов, предназначенных для противодействия внутреннему и внешнему мошенничеству, защиты инфраструктуры, а также для мониторинга и анализа различных угроз. Подробнее о том, что собой представляет ПКБ, можно посмотреть в Кибрарии Сбера в статье Аналитическая платформа кибербезопасности. Опыт Сбера. Там же можно узнать, как наш сервис вписан в платформу.

В вводной части немного расскажу об архитектуре сервиса, его задачах, с чем мы уже справились и что ещё предстоит сделать и почему.

Наш сервис используется в большой гетерогенной среде, которая содержит не только разрабатываемое в банке программное обеспечение, но и opensource-продукты, предоставляющие различную функциональность (Apache Flink и MLFlow), а также управляющие данными (Apache Hadoop, Ozone и Clickhouse).