Давайте я кратко для ИБ сразу напишу для экономии времени
Ключевые риски, которые выделил ЦБ — Отравление данных. Злоумышленник подменяет информацию, модель начинает обманывать клиента — Галлюцинации в платёжном процессе это убыток — Дрейф данных — заменили 1 на 0. Из достойного дона, стали рванью — Prompt injection — модель делает противозаконные действия. — Цепочка поставок — open-source компоненты, API поставщиков, облака.
Что требует регулятор: — Разработать модель угроз специально для системы ИИ. — В критичных процессах (платежи, учёт) — проверка результатов человеком. Автоматика не аргумент. — При передаче данных поставщику — только очищенные или похожая информация — Договор с поставщиком ИИ должен включать ответственность за ИБ-инциденты и уведомление об уязвимостях — Регулярный red team — не пентест инфраструктуры, а симуляция атак именно на модель
Организация отвечает за оценку доверия, целостность по всей цепочке и мониторинг инцидентов.
ЦБ доносит следующее. ИИ это не черный ящик, поставил и забыл. Это сложный процесс обучение → обработка → выводы. И каждый этап точка атаки хакеров. Защищать нужно все, а не просто прикрутить DLP систему и повесить орден за защиту ИИ.
Цель лишить жуликов работы(если возможно привлечь к ответственности по закону), чем больше людей будет знать тем меньше вероятность обмана наивных людей.
в статье производиться разбор эмуляторов, для тех кому потребуется данный функционал будет знать и использовать, а не тратить несколько часов на поиск и переборку нужного функционала
Иногда приходиться запускать приложения написанное неизвестными разработчиками крайне сомнительного содержания больше похожего на скам, на очень слабом железе (нормального под рукой просто может не быть). Тогда данные эмуляторы меня выручили. Но они не как не заменят полноценной песочницы и специализированного ПО.
Мне кажешься целесообразно сотрудников обучать взяв за основу опыт ведущих компаний Group ib, Positive Technologies и других специализирующихся на форензике. Тогда Российские следователи в расследовании кибер преступлений уйдут далеко в перед.
Я купил подобную консоль года 2 назад, до того как это стало популярным. Теперь с удовольствие играю с сыном в танчики, battletoads and double dragon и другие шедевры игр на dendi и sega.
Первый раз выйдя в сеть интернета, о вас уже всё знают.. или нет, всё зависит только от вас и если вы кому-то нужны, вам никак не скрыться.. Смеритесь или выдерните всё шнуры(интернета, питания), отключите все беспроводные средства связи(вафлю, голубой зуб и всякие там "G"), выньте батарею...
Уважаемый ты слишком сильно паришься. Не прошел, не ответили не страшно. Качай софт скилы и хард скилы. Запомни простое правило если на собеседовании нет химии между тобой и участниками встречи, то скорее всего откажут, даже если у тебя опыта достаточно и ты ответил на все вопросы правильно. Если собеседование не похоже на встречу друзей которые давно не виделись значит 90% откажут. Даже если молчат, значит отказали просто не парься
Давайте я кратко для ИБ сразу напишу для экономии времени
Ключевые риски, которые выделил ЦБ
— Отравление данных. Злоумышленник подменяет информацию, модель начинает обманывать клиента
— Галлюцинации в платёжном процессе это убыток
— Дрейф данных — заменили 1 на 0. Из достойного дона, стали рванью
— Prompt injection — модель делает противозаконные действия.
— Цепочка поставок — open-source компоненты, API поставщиков, облака.
Что требует регулятор:
— Разработать модель угроз специально для системы ИИ.
— В критичных процессах (платежи, учёт) — проверка результатов человеком. Автоматика не аргумент.
— При передаче данных поставщику — только очищенные или похожая информация
— Договор с поставщиком ИИ должен включать ответственность за ИБ-инциденты и уведомление об уязвимостях
— Регулярный red team — не пентест инфраструктуры, а симуляция атак именно на модель
Организация отвечает за оценку доверия, целостность по всей цепочке и мониторинг инцидентов.
ЦБ доносит следующее. ИИ это не черный ящик, поставил и забыл. Это сложный процесс обучение → обработка → выводы. И каждый этап точка атаки хакеров. Защищать нужно все, а не просто прикрутить DLP систему и повесить орден за защиту ИИ.
Не могу поставить лайк, карма отрицательная. Вы большой молодец и правильно сделали
Уважаемые читатели если Вам понравилась моя статья можете подписаться на мой телеграмм канал Инфобез, стараюсь публиковать там интересный контент.
Цель лишить жуликов работы(если возможно привлечь к ответственности по закону), чем больше людей будет знать тем меньше вероятность обмана наивных людей.
Вы правы, к сожалению большинство телефонных мошенников остается на свободе
в игры к сожалению мне некогда играть
в статье производиться разбор эмуляторов, для тех кому потребуется данный функционал будет знать и использовать, а не тратить несколько часов на поиск и переборку нужного функционала
Иногда приходиться запускать приложения написанное неизвестными разработчиками крайне сомнительного содержания больше похожего на скам, на очень слабом железе (нормального под рукой просто может не быть). Тогда данные эмуляторы меня выручили. Но они не как не заменят полноценной песочницы и специализированного ПО.
Благодарю, Вас данной информации мне не хватало, обязательно поставлю и разберусь. Интересно
а как вы будете бороться с обходом\взломом 2FA?
Хорошо что начали обучать!
Мне кажешься целесообразно сотрудников обучать взяв за основу опыт ведущих компаний Group ib, Positive Technologies и других специализирующихся на форензике. Тогда Российские следователи в расследовании кибер преступлений уйдут далеко в перед.
Я до сих пор играю Battletoads & Double Dragon, теперь с сыном
Печально, посмотрим во что это выльется...
моя мама по этому поводу говорила следующее "Молчи сойдешь за умного". Так и тут приехал с другую страну, не выпендривайся веди себя корректно
Спасибо отличная статья, положил в закладки. В будущем перечитаю часть материала использую для своих телеграмм каналов
спасибо, отличная статья. Рисунки просто отвал башки, нет слов они прекрасны
Я купил подобную консоль года 2 назад, до того как это стало популярным. Теперь с удовольствие играю с сыном в танчики, battletoads and double dragon и другие шедевры игр на dendi и sega.
Первый раз выйдя в сеть интернета, о вас уже всё знают.. или нет, всё зависит только от вас и если вы кому-то нужны, вам никак не скрыться.. Смеритесь или выдерните всё шнуры(интернета, питания), отключите все беспроводные средства связи(вафлю, голубой зуб и всякие там "G"), выньте батарею...
Спасибо, прекрасная статья. Читал с удовольствием
Уважаемый ты слишком сильно паришься. Не прошел, не ответили не страшно. Качай софт скилы и хард скилы. Запомни простое правило если на собеседовании нет химии между тобой и участниками встречи, то скорее всего откажут, даже если у тебя опыта достаточно и ты ответил на все вопросы правильно. Если собеседование не похоже на встречу друзей которые давно не виделись значит 90% откажут. Даже если молчат, значит отказали просто не парься