Обманываем нейросети при помощи шума

[lxsmkv]

Просто ассоциативные способности человека еще не настолько продвинуты, чтобы распознать в россыпи разноцветных точек «слона, людей, и большой мяч» ;)

[WarMonSlim]

Помню в детстве развлекался тем, что смотрел на шум помех телевизора, пока не начинал там видеть всякие образы :)

[Akon32]

\ vgg16 resnet18 alexnet densenet inception
mean 0.226978 0.328249 0.147289 0.409413 0.020204
Я использую предварительно обученную сеть resnet18, и с данным изображением она на 40% уверена, что видит медузу

Для того, чтобы сказать, что НС обнаружила на картинке "медузу", нужно, чтобы уверенность превысила некоторый порог eps. Этот порог может подбираться перебором возможных значений eps на валидационном датасете, с оценкой, насколько хорошо данная конфигурация справляется. Порог задаёт некий баланс между ложноположительными и ложноотрицательными срабатываниями. Если задать порог в 60%, значение уверенности 40% не будет считаться за увиденную нейросетью "медузу".

Вы пробовали заставить эти нейросети выдавать значение уверенности побольше, например 80, 90, 95 или 99 процентов? Вроде бы, это несложно сделать градиентным спуском, меняя пикселы картинки. Насколько я помню, таким образом можно обмануть типичную современную нейросеть, и прецеденты были. Но у меня есть слабое подозрение, что inception со значением уверенности=0.020204 на шуме справляется достаточно хорошо, чтобы быть обманутой.

P.S. не сразу заметил, что это перевод.

[Ajex]

Раньше были обложки на тетрадки, где из шума надо было выделить изображение. Сначала фокусируешься на палец, а потом на изображение. Нечто похожее, но ни одного примера найти не могу. Неужели эти изображения канули в лета.

[amakhrov]

Что-то типа https://www.magiceye.com/ ?

[Ajex]

ага, ток я помню ничего не мог разобрать))) да и сейчас не особо разглядел. Интересно что там нейросеть рассмотрит.

[LaG1924]

Что там распознают текущие нейросети? Ничего, ну или то же самое, что и одноглазый человек.
А вот обучить нейронку на декодирование подобных стереокартинок — задача интересная (и датасет можно легко найти)…

[ShuraorSasha]

Статья классная, спасибо, правда я видел как-то информацию, что шум уже тоже не спасает

[v1000]

еще одно доказательство того что в ИИ искусственного гораздо больше чем интеллекта.

[Ajex]

Собственно человеческий мозг сработает также. В зависимости от полученного опыта, каждый увидит что-то своё.
Сложно требовать от компьютерного зрения результатов, лучше, чем человеческий мозг.