Нерешённые проблемы кибербезопасности в ML

[semibiotic]

Я не специалист, но случай с шумом, скорее показывает, что нейронная сеть используется как-то неверно. Сеть, однозначно, придает избыточное значение невидимому шуму, что, либо показывает недостататок обучения против шума, либо недостаток подготовки данных (забыли прогнать картинки через правильную загрубляющую модель зрения, которая требуется если мы не ищем что-то невидимое).