«Лаборатория Касперского» предложила ООН создать принципы использования ИИ для обеспечения кибербезопасности

[Tasta_Blud]

ничего не понятно, но очень интересно.

системы на базе машинного обучения могут устаревать и плохо работать при резком изменении входных данных.

сфера сама по себе очень динамичная и постоянно совершенствуемая. а не для того ли и скармливаются постоянно большие разнообразные данные, чтобы ИИ умел обрабатывать и их тоже? как бы в данном случае процесс обучения важнее процесса изначального построения, или нет?

должен быть человеческий контроль, включая доступ экспертов в режиме реального времени ко всем данным и процессам.

сам процесс достаточно сложен, чтобы ясно отслеживать и понимать происходящее, особенно в реальном времени. и эксперты кто? уж не сама ли "ЛК"?

минимизировать использование персональных данных при обучении ИИ, при этом данные должны быть обезличены

звучит хорошо, но сама как девелопер (увы, не ии-систем) скажу, что иногда даже максимально приближенные тестовые данные не могут выявить реальных проблем. были случаи, когда система отказывалась работать или работала некорректно в продакшене, хотя проходила все тесты. и только благодаря конкретным данным удавалось найти причину. к примеру, невозможность ввести двойную фамилию либо эта фамилия попадала в графу "отчество". зато что сыпалось в логи на проде: фамилии с адресами, и номера кредиток в открытом виде, даже пароли...

обучать системы на данных из открытых источников.

тоже звучит неплохо, но вопросы степени "открытости" остаются, равно как и другие, например, авторских правах и т.д.

[pvsur]

Это они кому предлагают ? Странам, которые из ИИ уже разрабатывают электронных пилотов для боевой авиации и ракет ? Ну, удачи...