Нейросети не понимают, что такое оптические иллюзии

[aikixd]

Не понимаю на что они расчитывали. Мы, люди, никогда двухмерного изображения не видели. Все что мы "видим" это смесь (очень некачественной) картинки из глаза, пространтсвенного ощущения, воображения, опыта, настроения и т.д. Оптическая иллюзия появляется когда все эти компоненты не согласны с интерпретацией. У нейросетей просто нет инструментов что-бы их заметить.

[zim32]

На

[bypeso]

Некоторые видели, у некоторых один глаз, если уж подходить формально.
Первая картинка бьет по частоте сигналов, карандашный тест, вторая бьет по опыту.
Вот ИИ удивится нашим несовершенным нервам, мозгу и глазам

[Danikey]

Закрыть один глаз? О_-

[Caseor]

Мы, люди, никогда двухмерного изображения не видели.

Наоборот — мы только и видели, что двумерную картинку. Но тут надо отделить котлет от мух — глаза видят одно, а сознание видит другое. Глаза видят двумерное изображение, точнее проекцию на поверхность почти полусферы — сетчатку. Мозг анализирует двумерную картинку, сравнивает картинку от разных глаз и уже по результату строит, достраивает модель окружающего мира, которую мы воспринимаем трёхмерной. Иллюзия это когда модель сильно отличается от реальности.

[saluev]

«Способно на решение таких задач». Глаголы не нужны.

[phenik]

Более простые сети, как и человек, испытывают иллюзии, вот исследование на эту тему. Там правда использовались простые иллюзии на контраст, тем не менее. Думаю на перейдолиях ИНСы могут накалываться, как и человек) Случайно тоже могут сгенерировать. Вообще у разных типов сетей должны быть свои иллюзии, связанные со спецификой архитектуры, как у людей.

[TimsTims]

А разве каждая неверная интерпретация объекта (баг) не является иллюзией для нейросети))?

[aikixd]

Если мне показали Васю, а я сказал что это Петя, значит ли это что у Васи оптическая иллюзия а не рожа?

[TimsTims]

Всегда есть причина, по которой вы так сказали. Не верно сработала ваша система осознания не сработала. Почему? Либо вы бухой в стельку, либо системе были поданы ложные данные, которые вызвали неверную ячейку памяти. Неверные данные на входе и есть иллюзия.

[aikixd]

Я бы не называл любую неверную работу сети иллюзией. Я могу видеть Петю вместо Васи и быть абсолютно уверенным в том, что я прав. При иллюзии же, я так или иначе понимаю что данные с разных источников не сходятся и разные части мозга начинают бороться за правду.

[phenik]

Между ошибкой распознания (для человека в случае лиц — обознаться) и иллюзией тонкая грань, но она имеется. Если сеть натренирована на распознание только конкретных лиц людей, и вместо Васи распознала Петю, то это ошибка распознания, можно сказать, что сеть «обозналась». А если сети показали гамадрила, и она распознала в нем Васю, то это иллюзия сети, связанная как с архитектурой, так и обучением. Эта ситуация принципиально не отличается от иллюзий которым подвержен мозг человека. И вы правы, в случае иллюзии, в мозге происходит конкурентная борьба нейронных сетей. Изменяя контекст, меняя наклон головы, освещенность и тд, мы даем преимущество той, или иной сети, склонясь к определенному выбору. Это для простых иллюзий типа перейдолии, механизм динамических иллюзий, включая с разным набором сенсорных систем, сложнее.

[Space__Elf]

У нейросетей — свои иллюзии, которые не видит человек, но нейросети обманываются.

[pOmelchenko]

Злой вы. От картинки на главной аж голова заболела :(

[QuaziKing]

Интересно. Получается: чтобы получить много иллюзий для изучения принципа работы зрения нам нежно сначала получить много иллюзий чтобы построить нейросеть создающую много иллюзий. )

[perfect_genius]

Невзламываемые капчи?

[Fedorkov]

Теоретически взламываемые, но придётся эмулировать зрительный конвеер.

[Danikey]

И никто не сказал про то, что если нейронки начнут генерить иллюзии высокой сложности по запросу, то получим некоторое подобие контроля мозга. Представьте, что нейронка будет учиться на конкретном человеке, взламывая его восприятие самым оптимальным образом. А если взлом откроет дорогу более интересным вещам, вроде гарантированно работающего гипноза или «дайвинга», как в «Лабиринте отражения»? В итоге, получим нечто вроде «очков счастья», систем коррекции правонарушений, как в «Заводном апельсине», или систему изощрённых пыток, сводящих людей с ума почище химии. И не докажешь ведь ничего, за сумасшедшего сочтут. Напоминает продолжение программы MK Ultra, только уже в открытую.
Мне одному кажется, что такие технологии гораздо опаснее ИИ и автопилотов?

[Silvatis]

Была создана система зрения без «легаси» костылей днк-кода в виде саккад, слепого пятна, конкурентных «отмирающих» колонок клеток мозга итп… и жалуемся, что у них нет багов так как нет костылей? Серьезно?

[Caseor]

Silvatis, у вас есть информация, что иллюзии начинаются с оптической системы? Мне кажется, что они начинаются с Фурье-преобразования, алгоритмами по распознаванию фурье-образа, а заканчиваются распознаванием глубины изображения.

конкурентных «отмирающих» колонок клеток мозга

Это тоже как по мне сомнительная причина появления иллюзий. Есть ссылочка?

[Silvatis]

Вы хотите все иллюзии свести к одной ошибке? Есть множество иллюзий связанных с различными костылями: К примеру окрашивание в настоящие цвета монохромной картинки инверсным изображением полностью на сетчатке происходит (баг связанный с саккадами и работой «логической схемы» переключения между чб\цветными сенсорами). Так же в вики можно найти картинку с пропадающим крестиком из за слепого пятна. Еще есть иллюзия — гифка с зеленой точкой бегущей по кругу, которой нет: эта бага вообще без использования аппарата вычисления, связана со скоростью отклика на изменения сенсоров.

Что касается колонок — любой тест ведущего глаза является той самой иллюзией. Но тут уже пространственное восприятие, соответственно в 2D не проявляются.

>Мне кажется, что они начинаются с Фурье-преобразования
Я с вами частично не согласен. Наверняка какие — то из иллюзий связаны с процессом обработки, но чуть ли не все «движущиеся» иллюзии перестают двигаться, если подавлять саккады. У Искусственных нейросетей нет этой проблемы.