Comments 22
Если на клетке слона прочтешь надпись: буйвол, — не верь глазам своим (с) Козьма Прутков
А до этого далеко как до Луны пешком…
Но указанная проблема связана скорее с обучающей выборкой, где аннотация почти полностью совпадает с классом, чем с архитекторуй нейросети. Как вариант перед обучением надо просто размывать подписи на рисунках.
В этом примере у ИИ всё хорошо с распознанием, проблема в том что его ответ крайне ограничен.
У него нету расширительной приставки "надпись". Чтобы он мог писать надпись Ipod,
А в данном случае просто смешали распознавание предметов и текста, что разумеется неправильно, и как раз таки является примером работы с «сутью» вещей, то есть не просто сопоставлению входной картинки и числа на выходе, а декомпозиции и выдаче какого-то семантического дерева.
Хм, порчей знака можно не только автопилот обмануть, но и реальных водителей. Только это не считается уязвимостью водителей...
Это уже уязвимость в системе.
Дьявол в деталях. Если достаточно информации и освещение хорошее, то человек поймет, что кусок ленты, наклеенный поверх и соединяющий хвостики цифры 3 это нифига не органичная часть цифры 8. Тогда как модели, опирающейся только лишь на признаки, этого достаточно.
— Где он? — завопил Модест, озираясь.
— Вот, — сказал Роман, показывая на диван.
— Не беспокойтесь, стоит на месте, — добавил Корнеев.
— Я спрашиваю, где этот ваш… программист?
— Какой программист? — удивился Роман.
— Вы это прекратите, — сказал Модест. — Здесь был программист.
Он стоял в брюках и без ботинок.
— Ах, вот что вы имеете в виду, — сказал Роман. — Но мы же пошутили,
Модест Матвеевич. Не было здесь никакого программиста. Это было просто…
— Он сделал какое-то движение руками, и посередине комнаты возник человек
в майке и в джинсах. Я видел его со спины и ничего о нем сказать не могу,
но юный Ковалев покачал головой и сказал:
— Нет, это не он.
Модест обошел призрак кругом, бормоча:
— Майка… Штаны… Без ботинок… Он! Это он.
Призрак исчез.
— Да нет же, это не тот, — сказал сержант Ковалев. — Тот был молодой,
без бороды…
— Без бороды? — переспросил Модест. Он был сильно сконфужен.
— Без бороды, — подтвердил Ковалев.
— М-да… — сказал Модест. — А по-моему, у него была борода...
Goupil
Чтобы ИИ понимал суть вещей и явлений, он должен не уступать по сложности хотя бы мозгу пчелы. Пока до этого очень далеко.Тут явно проблема с так называемым здравым смыслом. Это сотни тысяч невербальных правил усваиваемых человеком на протяжении взросления. И с умением гибко строить модель сцены распознавания. В общем MLю с недоИИ до этого всего как до Луны, это точно. Хотя от конкретной атаки можно попытаться защититься.
tmin10
Хм, порчей знака можно не только автопилот обмануть, но и реальных водителей. Только это не считается уязвимостью водителей...Реального водителя никогда не обманет надпись на поло пешехода «Дорога свободна».
NeoCode
В статье не ИИ, а нейросеть. Так что поведение будет зависеть от того как нейросеть обучена. Если бы ее обучили распознавать бумажки, она бы и выдала «бумажка».Вообще то на вход сети на дороге может попасть вообще почти что угодно. Есть более вероятные предметы есть мение. Но сила человека-водителя именно в том, что он справляется с подавляюще большим количеством ситуаций. В том числе и с непредвиденными.
В OpenAI показали, как обмануть нейросеть бумажкой с надписью