Банк России опубликовал методические рекомендации № 3-МР по обеспечению информационной безопасности при разработке и применении искусственного интеллекта. Это один из наиболее практически полезных российских документов по безопасности ИИ, которые мне попадались.Большая редкость, когда регулятор выпускает подобные документы, где есть конкретные сценарии атак и способы защиты от них.
Причём речь не только о классических уязвимостях в коде, Банк России рассматривает отравление обучающих данных, инверсию моделей, prompt injection, кражу моделей и даже ситуации, когда нейросеть сама по себе работает исправно, но злоумышленник заставляет её принимать неверные решения.
В документе 8 специфичных угроз безопасности ИИ, 21 мера защиты и 18 положений для корпоративной политики информационной безопасности.
Документ разработан для финансового рынка, но многие из рисков актуальны и в других областях экономики.
Если ваша компания использует корпоративный RAG, подключает LLM к внутренним базам данных, разрабатывает ИИ-агентов или просто интегрирует стороннюю модель через API, значительная часть рекомендаций касается и вас.
Сейчас будет лонгрид с разбором конкретных пунктов документа, примерами угроз и выводами о том, насколько предложенные меры применимы на практике.
Если нужна краткая выжимка, welcome в конец статьи😊
Будут ли рекомендации ЦБ обязательны?
Короткий ответ: сами по себе нет.
Методические рекомендации № 3-МР не федеральный закон и не нормативный акт, который автоматически обязывает каждую компанию внедрить все перечисленные меры. Данный документ адресован прежде всего участникам финансового рынка: банкам, некредитным финансовым организациям, субъектам национальной платёжной системы и другим организациям, перечисленным в пункте 1.1.