SLY_G Oct 28 2018 at 12:00

Нейросети не понимают, что такое оптические иллюзии

3 min

24K

Image processing*Artificial IntelligenceBrain

Translation

+18

Comments 23

aikixd Oct 28 2018 at 12:46

Не понимаю на что они расчитывали. Мы, люди, никогда двухмерного изображения не видели. Все что мы "видим" это смесь (очень некачественной) картинки из глаза, пространтсвенного ощущения, воображения, опыта, настроения и т.д. Оптическая иллюзия появляется когда все эти компоненты не согласны с интерпретацией. У нейросетей просто нет инструментов что-бы их заметить.

+15

zim32 Oct 28 2018 at 15:20

На

bypeso Oct 28 2018 at 20:32

Некоторые видели, у некоторых один глаз, если уж подходить формально.
Первая картинка бьет по частоте сигналов, карандашный тест, вторая бьет по опыту.
Вот ИИ удивится нашим несовершенным нервам, мозгу и глазам

Danikey Oct 28 2018 at 21:00

Закрыть один глаз? О_-

Caseor Oct 29 2018 at 01:58

Мы, люди, никогда двухмерного изображения не видели.

Наоборот — мы только и видели, что двумерную картинку. Но тут надо отделить котлет от мух — глаза видят одно, а сознание видит другое. Глаза видят двумерное изображение, точнее проекцию на поверхность почти полусферы — сетчатку. Мозг анализирует двумерную картинку, сравнивает картинку от разных глаз и уже по результату строит, достраивает модель окружающего мира, которую мы воспринимаем трёхмерной. Иллюзия это когда модель сильно отличается от реальности.

UFO just landed and posted this here

saluev Oct 28 2018 at 16:31

«Способно на решение таких задач». Глаголы не нужны.

UFO just landed and posted this here

phenik Oct 28 2018 at 14:49

Более простые сети, как и человек, испытывают иллюзии, вот исследование на эту тему. Там правда использовались простые иллюзии на контраст, тем не менее. Думаю на перейдолиях ИНСы могут накалываться, как и человек) Случайно тоже могут сгенерировать. Вообще у разных типов сетей должны быть свои иллюзии, связанные со спецификой архитектуры, как у людей.

TimsTims Oct 28 2018 at 16:13

А разве каждая неверная интерпретация объекта (баг) не является иллюзией для нейросети))?

aikixd Oct 28 2018 at 16:39

Если мне показали Васю, а я сказал что это Петя, значит ли это что у Васи оптическая иллюзия а не рожа?

-1

TimsTims Oct 28 2018 at 17:06

Всегда есть причина, по которой вы так сказали. Не верно сработала ваша система осознания не сработала. Почему? Либо вы бухой в стельку, либо системе были поданы ложные данные, которые вызвали неверную ячейку памяти. Неверные данные на входе и есть иллюзия.

aikixd Oct 28 2018 at 17:13

Я бы не называл любую неверную работу сети иллюзией. Я могу видеть Петю вместо Васи и быть абсолютно уверенным в том, что я прав. При иллюзии же, я так или иначе понимаю что данные с разных источников не сходятся и разные части мозга начинают бороться за правду.

phenik Oct 28 2018 at 17:46

Между ошибкой распознания (для человека в случае лиц — обознаться) и иллюзией тонкая грань, но она имеется. Если сеть натренирована на распознание только конкретных лиц людей, и вместо Васи распознала Петю, то это ошибка распознания, можно сказать, что сеть «обозналась». А если сети показали гамадрила, и она распознала в нем Васю, то это иллюзия сети, связанная как с архитектурой, так и обучением. Эта ситуация принципиально не отличается от иллюзий которым подвержен мозг человека. И вы правы, в случае иллюзии, в мозге происходит конкурентная борьба нейронных сетей. Изменяя контекст, меняя наклон головы, освещенность и тд, мы даем преимущество той, или иной сети, склонясь к определенному выбору. Это для простых иллюзий типа перейдолии, механизм динамических иллюзий, включая с разным набором сенсорных систем, сложнее.

Space__Elf Oct 28 2018 at 16:27

У нейросетей — свои иллюзии, которые не видит человек, но нейросети обманываются.

pOmelchenko Oct 28 2018 at 16:51

Злой вы. От картинки на главной аж голова заболела :(

QuaziKing Oct 28 2018 at 17:12

Интересно. Получается: чтобы получить много иллюзий для изучения принципа работы зрения нам нежно сначала получить много иллюзий чтобы построить нейросеть создающую много иллюзий. )

perfect_genius Oct 28 2018 at 17:16

Невзламываемые капчи?

Fedorkov Oct 28 2018 at 19:09

Теоретически взламываемые, но придётся эмулировать зрительный конвеер.

Danikey Oct 28 2018 at 21:14

И никто не сказал про то, что если нейронки начнут генерить иллюзии высокой сложности по запросу, то получим некоторое подобие контроля мозга. Представьте, что нейронка будет учиться на конкретном человеке, взламывая его восприятие самым оптимальным образом. А если взлом откроет дорогу более интересным вещам, вроде гарантированно работающего гипноза или «дайвинга», как в «Лабиринте отражения»? В итоге, получим нечто вроде «очков счастья», систем коррекции правонарушений, как в «Заводном апельсине», или систему изощрённых пыток, сводящих людей с ума почище химии. И не докажешь ведь ничего, за сумасшедшего сочтут. Напоминает продолжение программы MK Ultra, только уже в открытую.
Мне одному кажется, что такие технологии гораздо опаснее ИИ и автопилотов?

-2

Silvatis Oct 29 2018 at 02:15

Была создана система зрения без «легаси» костылей днк-кода в виде саккад, слепого пятна, конкурентных «отмирающих» колонок клеток мозга итп… и жалуемся, что у них нет багов так как нет костылей? Серьезно?

Caseor Oct 29 2018 at 03:05

Silvatis, у вас есть информация, что иллюзии начинаются с оптической системы? Мне кажется, что они начинаются с Фурье-преобразования, алгоритмами по распознаванию фурье-образа, а заканчиваются распознаванием глубины изображения.

конкурентных «отмирающих» колонок клеток мозга

Это тоже как по мне сомнительная причина появления иллюзий. Есть ссылочка?

Silvatis Oct 29 2018 at 13:15

Вы хотите все иллюзии свести к одной ошибке? Есть множество иллюзий связанных с различными костылями: К примеру окрашивание в настоящие цвета монохромной картинки инверсным изображением полностью на сетчатке происходит (баг связанный с саккадами и работой «логической схемы» переключения между чб\цветными сенсорами). Так же в вики можно найти картинку с пропадающим крестиком из за слепого пятна. Еще есть иллюзия — гифка с зеленой точкой бегущей по кругу, которой нет: эта бага вообще без использования аппарата вычисления, связана со скоростью отклика на изменения сенсоров.

Что касается колонок — любой тест ведущего глаза является той самой иллюзией. Но тут уже пространственное восприятие, соответственно в 2D не проявляются.

>Мне кажется, что они начинаются с Фурье-преобразования
Я с вами частично не согласен. Наверняка какие — то из иллюзий связаны с процессом обработки, но чуть ли не все «движущиеся» иллюзии перестают двигаться, если подавлять саккады. У Искусственных нейросетей нет этой проблемы.

Show the best of all time