Что такое MLSecOps, или Как безопасность искусственного интеллекта стала заботой DevSecOps

[elk21]

А какие есть методы митигации рисков по ИБ в MLSecOps? Это все про генерацию синтетики, контролируемое обучение на выделенном контуре, разделение доступов к данным?

На что в первую очередь стоит смотреть в своем ml конвеере?

[gazizovasg]

Привет! Есть хорошие материалы на тему моделирования угроз и соответственно работы с рисками - например, https://arxiv.org/pdf/2406.11007
В целом, мы наверное сделаем MLSecOps серией статей - так что про мотивацию рисков тоже напишем в скором времени:)

[andrettv]

Ну, в БДУ аж 5 угроз для ИИ указаны уже года 3 (УБИ.218-222).

Хороший обзор видов атак по этапам жизненного цикла моделей (на medium).

PS: ещё один материал по той же теме вышел на следующий день...

[andrettv]

Главное забыл - там и общий контекст безопасности ИИ, и угрозы при разработке, обучении, и эксплуатации модели.

[mr_d3ath]

Прочитал пост и понял что есть все навыки(Диплом ИБшника и повышение квалификации в виде DevOps, есть опыт разработки нейронных сетей(с 2019 года)). Жаль, что таких офферов на работу нет 😅