«Чувство числа» возникает из распознавания визуальных объектов

    Результаты нового исследования искусственного интеллекта указывают на то, что зрительная система спонтанно создает чувство числа без предварительного опыта подсчета.



    У людей и животных есть «чувство числа», врожденная способность подсчитывать количество объектов в сцене. Считается, что нейронной основой этой способности являются так называемые нейроны числа, которые реагируют на определенные числа и были обнаружены в мозге человека и животных. Исследователи долго задавались вопросом, формируются ли эти нейроны числа в мозге только благодаря способности видеть — и если да, то как? Теперь группа исследователей во главе с профессором Андреасом Нидером из Института нейробиологии Университета Тюбингена изучила происхождение чувства числа, используя искусственную нейронную сеть. Результаты показывают, что чувство числа возникает спонтанно в визуальной системе без какого-либо опыта в подсчете. Исследование было опубликовано в издании Science Advances.

    Исследователи начали с процедуры глубокого обучения искусственной нейросети распознаванию изображений объектов, таких как теннисные мячи, ожерелья, пауки и собаки. «Сетевая модель основана на архитектуре, структурированной как ранняя стадия развития зрительной коры человека”, — объясняет Андреас Нидер. “Там было обнаружено, что нервные клетки работают вместе на разных иерархических уровнях, чтобы обеспечить зрение.» Искусственная сеть научилась распознавать объекты на основе 1,2 миллиона изображений, классифицированных на тысячу категорий. После обучения сеть могла с высоким процентом успеха классифицировать тысячи новых изображений.

    Сеть состоит из двух частей. Первая часть извлекает особенности объектов из изображений и преобразует их в абстрактное представление; вторая сортирует объекты по категориям основываясь на вероятности. “Мы разделили части сети, и первой представили не фотографии, а простые рисунки точек, от одной до 30 точек”, — говорит Нидер. В следующих циклах эксперимента паттерны повторялись с различным числом точек и плотностью размещения. Затем исследователи проанализировали, реагируют ли нейроны сети на одинаковое количество точек независимо от других характеристик. «Оказалось, что почти десять процентов искусственных нейронов специализировались на определенном числе точек, хотя сеть специально не обучалась различать числа. Сеть спонтанно развила чувство числа», — говорит Нидер.

    Исследователи предполагали, что способность считать развилась внутри зрительной системы. По словам Нидера, основная задача зрения — распознавать видимые объекты. Новое исследование показывает, как нейроны числа могут спонтанно возникнуть в искусственной зрительной системе, которая была обучена распознавать только видимые объекты. Кроме того, реакция искусственных нейронов напоминала реакцию реальных нейронов числа у животных и людей. «Чувство числа, по-видимому, не зависит от конкретной, специализированной области мозга, а скорее от нейронных сетей, сформированных зрением. Теперь это позволяет объяснить, почему даже дети или необученные дикие животные имеют чувство числа», — поясняет Нидер.

    Оригинальная публикация: “Number detectors spontaneously emerge in a deep neural network designed for visual object recognition”. Khaled Nasr, Pooja Viswanathan, Andreas Nieder.

    Science Advances. doi:10.1126/sciadv.aav7903

    Источник

    Комментарии 21

      –1
      То есть, они посмотрели как работает нейросеть, и решили что мозг работает так же? Мне одному кажется что это несколько притянуто за уши?
        +2
        Это нормально. Моделирование мозга с помощью нейросетей — это распространённый приём и он даёт практические результаты. Тут скорее посмотрели работу мозга, затем сделали нейросеть по подсмотренным принципам и проанализировали её работу. Вот ещё пример такой модели.
          +2
          Немного не так. Если посмотреть внимательнее, то ранее они проводили подобные эксперименты с живоными (обезьяны), а сейчас сделали модель ИНС.
            +1
            даже здесь про это было — habr.com/ru/post/380983
            +2

            Не числа а количества же. Ну или численности.
            Сами числа распознаются иначе; это только восприятие количества есть

              0
              Сами числа распознаются иначе; это только восприятие количества есть
              Нейроны числа реагируют именно на это число объектов с наибольшей вероятностью. Если вы о распознавании изображений или названий чисел, то конечно они распознаются иначе.
                +1
                Думаю, товарищ datacompboy хочет сказать, что фраза «чувство числа» не очень корректная. Лучше говорить «чувство количества». И я с ним согласен. Ведь поскольку слово «число» — многозначное, и под ним в данном контексте вы подразумеваете именно количество, а не число как математический объект, то лучше использовать слово «количество» для избежания двусмысленности.

                Так, вашу фразу «Нейроны числа реагируют именно на это число объектов с наибольшей вероятностью» лучше переформулировать так: «Нейроны числа реагируют именно на это количество объектов с наибольшей вероятностью».
                  0
                  Тема исследований достаточно новая, в русском языке устоявшаяся терминология по ней фактически отсутствует. Стать начинается с фразы:
                  Humans and animals have a “number sense,” an innate capabilityto intuitively assess the number of visual items in a set, its “numerosity”
                  Которая формально переводится, как «У людей и животных есть «чувство числа», врожденная способность интуитивно оценить количество визуальных элементов в наборе, его «численность»» Поэтому дела вкуса какую терминологию использовать, используются все значения) Предпочел как число, как основное значение number, а количество, как основное, это quantity.
                  По смыслу «число» первично, связано с множествами — кардинальное число, число элементов в конечных множествах. По сути нейроны числа и реагируют на число элементов в множествах объектов. Отсюда можно сделать далеко идущие выводы об эволюционно-биологической поддержке теоретико-множественного основания математики) но это тема для другой статьи)
                    0
                    Тема исследований достаточно новая, в русском языке устоявшаяся терминология по ней фактически отсутствует. Стать начинается с фразы:
                    Humans and animals have a “number sense,” an innate capabilityto intuitively assess the number of visual items in a set, its “numerosity”
                    Которая формально переводится, как «У людей и животных есть «чувство числа», врожденная способность интуитивно оценить количество визуальных элементов в наборе, его «численность»»
                    <...>
                    Предпочел как число, как основное значение number, а количество, как основное, это quantity.
                    Да, тут претензия должна быть к выражению «number sense», а не к «чувство числа». Другими словами, она должна быть адресована не к вам, а к автору оригинальной статьи))

                    По смыслу «число» первично, связано с множествами — кардинальное число, число элементов в конечных множествах. По сути нейроны числа и реагируют на число элементов в множествах объектов.
                    Да, как правило, число используется как количественная характеристика чего-либо, но первоначальный смысл «числа» не является тождественным понятию «количество». А то, что слово «число» часто используют как синоним слова «количество» — это уже вторично.

                    И я считаю, что лучше все же для описания количества использовать слово «количество», которое для этого и придумано (и имеет всего один смысл), а не «число».

                    Иначе время от времени будут возникать вот такие путаницы (о которых упомянул datacompboy). И ведь вне контекста фраза «чувство числа» («number sense») выглядит как ощущения именно числа в превоначальном его смысле (натурального, целого, действительного, эм… сюрреального:) ), а не как ощущение количества каких-то объектов. Поэтому я остаюсь при своем мнении, что термин «number sense» некорректен. Фраза «quantity sense» подошла бы больше.
                      0
                      И ведь вне контекста фраза «чувство числа» («number sense») выглядит как ощущения именно числа в превоначальном его смысле (натурального, целого, действительного, эм… сюрреального:) ), а не как ощущение количества каких-то объектов.
                      Почему вне контекста? сюрреалистического? Авторы исследования правильно использовали термины «чувство числа» и «нейроны числа», именно в контексте, и по смыслу. Это традиция в нейрофизиологии, в мозге есть «нейроны места» и «нейроны времени», и возможно др. нейроны отвечающие за проявления других эволюционно значимых свойств реальности. Количество уже некоторое обобщение простого счета, см. здесь или здесь, и больше годится для описания величин чего-либо. А эти величины могут измеряться не только натуральными числами, но и отрицательными, действительными, мнимыми, и тд.
                      Фраза «quantity sense» подошла бы больше.
                      Уж тогда чувство численности. Потому, как некоторые количества могут быть измерены только с помощью приборов, или расчитаны теоретически. Например, распределение плотности вероятности локализации электрона в атоме водорода, и она никак не может быть почувствована, сколько не тужься))
                        0
                        Так, пора восстановить смысл слова «количество»:
                        Уж тогда чувство численности. Потому, как некоторые количества могут быть измерены только с помощью приборов, или расчитаны теоретически, например, распределение плотности вероятности локализации электрона в атоме водорода, и ну никак не почувствованы, сколько не тужься))
                        Мне начинает казаться, что вы как-то не так понимается слово «количество»))
                        Почему «распределение плотности вероятности локализации электрона в атоме водорода» вы считаете количеством?

                        Количество уже некоторое обобщение простого счета, см. здесь или здесь, и больше годится для описания величин чего-либо.
                        Сам был удивлен, когда в вики прочитал преамбулу о том, что такое количество. Но в вики косяки — это привычное дело. Как бы то ни было, любой человек в фразе «нейроны количества» второе слово будет понимать в общепринятом обыденном смысле, а не в каком-то замудренно-философском. Т.е. в таком, в котором оно используется в фразе «количество тарелок на столе».

                        Количество уже некоторое обобщение простого счета, см. здесь или здесь, и больше годится для описания величин чего-либо.
                        Вовсе нет. Слово «количество» в первую очередь используется для описания того, сколько объектов рассматривается в какой-либо ситуации. Например: «количество деревьев в лесу», «количество звезд на небе», «количество людей на планете», «количество точек на листе бумаги»…

                        ________________________________________________________
                        Надеюсь, смысл слова «количество» восстановлен, и далее мы будем понимать его одинаково))

                        Почему вне контекста?
                        Я говорю о том, что если кто-то где-то услышит фразу «чувство числа», то вряд ли в слове «число» увидит количество (или численность — если вам так угодно). Скорее всего он увидит в нем число в первоначальном его смысле (натуральное, целое, действительное...), что будет ошибкой. Для правильного понимания второго слова ему понадобиться контекст (например, почитать оригинальную статью).

                        А вот в фразе «чувство количества» (или «чувство численности») второе слово он правильно поймет. Для этого ему не понадобиться контекст.

                        сюрреалистического?
                        Придуманы и такие числа))

                        Авторы исследования правильно использовали термины «чувство числа» и «нейроны числа», именно в контексте, и по смыслу.
                        — Чем эти термины лучше таких: «чувство количества» и «нейроны количества» (или «чувство численности» и «нейроны численности», если вам так больше нравится)?
                        — Я могу сказать чем они (термины в статье) хуже — тем, что вводят многозначность.
                        — Но я понимаю почему в оригинале использовано слово «number» в этих терминах. Потому, что в английском языке слова, как правило, имеют на порядки больше значений, чем в русском языке; и частота использования слова «number» («число») в значении количества чего-либо гораздо выше чем в русском языке, где такая практика тоже сильно распространена. И это печально, поскольку для понимания смысла этого слова обязательно нужен контекст.

                        Фраза «quantity sense» подошла бы больше.
                        Уж тогда чувство численности.
                        — Дело вкуса)) Но мне больше нравится «количество», ибо звучит более научно и более распространено.
                        — И в принципе, я соглашусь как с фразой «чувство/нейроны количества», так и с «чувство/нейроны численности», но никак не с «чувство/нейроны числа»)) Многозначность в научных терминах — это зло.
                        — И это если говорить о русском языке. В английском однозначно фраза «quantity sense» подойдет больше.
                          0
                          Я говорю о том, что если кто-то где-то услышит фразу «чувство числа», то вряд ли в слове «число» увидит количество (или численность — если вам так угодно). Скорее всего он увидит в нем число в первоначальном его смысле (натуральное, целое, действительное...), что будет ошибкой. Для правильного понимания второго слова ему понадобиться контекст (например, почитать оригинальную статью).
                          Так научный язык и не расчитан на обыденное понимание, а именно понимание в точном научном контексте. В данном случае термин, как раз расчитан на понимание, как целого числа. И как раз в этом случае многозначности нет, а не в случае чувство/нейроны количества.

                          Давайте посмотрим, как сами специалисты со временем устаканят терминологию)
                            0
                            Так научный язык и не расчитан на обыденное понимание, а именно понимание в точном научном контексте.
                            Так и в науке слово «количество» в 99,9% случаев имеет тот же смысл, что и в фразе «количество тарелок на столе».

                            В данном случае термин, как раз расчитан на понимание, как целого числа.
                            Думаю, все же не как целого числа, а как количества (численности) каких-то объектов. Хоть эти вещи и тесно связаны, но в мозгу скорее возникает чувство второго.
                              0
                              Хорошо, до сих пор занимался в основном отпиской) давайте подробнее разберемся, тем более, что самому стало интересно прояснить некоторые моменты.
                              Несколько длинновато получилось, поэтому спрятал под спойлер
                              Так и в науке слово «количество» в 99,9% случаев имеет тот же смысл, что и в фразе «количество тарелок на столе».
                              Отнюдь, вы опять все свели к счету. В науке количество понимается в основном, как величина чего-то, и эти величины, как правило не счетные. Возьмите любые физические величины — длину, длительность, массу, и тд, все они не счетные. В математике счетные множества используются чаще, в ней есть даже раздел дискретной математики, кот. широко используется в информатике, и в частности, в программировании. Возможно вы математик по образованию, или занимаетесь программированием, поэтому вам кажется, что все построено на счетных множествах, и подсчете. В физике нет, расчетные модели лишь некоторые приближения к теоретическим. Тем более в биологии, и нейрофизиологии к которой имеет отношение тема статьи. В ней вообще счет, как перебор элементов с их перенумерацией, не рассматривается. Нет никого специального обучения подсчета числа элементов в сцене, как подопытных, так и при моделировании в ИНС. В статье утверждается, что получение числа элементов в сцене является побочным эффектом обучения распознаванию любых сцен с различными объектами. Вполне возможно такое было и в эволюции древних животных, и лишь затем она нашла применение этому побочному эффекту, как это часто бывает. И в мозге, и в ИНС появляются нейроны, кот. реагируют наибольшим образом на определенное количество элементов в сцене. Причем это вероятностный процесс, чем больше число элементов, тем меньше точность определения, тем шире разброс. Обратите внимание, на этом уровне, а для модели в ИНС тем более, нет никаких оснований говорить о подсчете, тем более, о каком-то чувстве. Просто есть нейроны реальные или формальные, кот. вероятностным образом реагируют на определенное число элементов в сцене. Все! Совершенно обоснованно можно говорить об этих нейронах, как нейронах числа элементов в сцене. Поскольку эти числа не зависят от типа объектов, то они отражают некоторое универсальное свойство реальности, и можно говорить о числах и нейронах числа, как их нейрофизиологических коррелятах, не привязываясь к конкретным сценам, процедуре счета, и тд. С учетом этого в мозге можно считать эти нейроны коррелятами абстракции натурального числа. Количество, как результат подсчета вторично, и выводится из этой абстракции дополнительным использованием операции сложения. Арифметика исторически конечно возникла позже, чем оценка числа объектов в наборе. Это мы теперь можем смело переносить понятие количества, в данном случае, как цельно-положительной величины, на это число. Но если строго, то это разновидность когнитивной ошибки, связанной с ретроспективным анализом, коих черт пруди. Можно представить механизм, связанный с аппроксимацией, как получить оценку этого числа в ИНС, без использования процедуры подсчета. Еще раз уточню, можно говорить и о численности, количестве элементов, но специально подсчет не велся, и результат обладает вероятностной природой. Нужно отличать это от ситуации сознательного подсчета элементов в сцене, этому специально обучают, и не переносить этот механизм на механизм подсознательной оценки, возникающий спонтанно.
                              Думаю, все же не как целого числа, а как количества (численности) каких-то объектов. Хоть эти вещи и тесно связаны, но в мозгу скорее возникает чувство второго.
                              Теперь от этих нейрофизиологических коррелятов чисел можно перейти к следующему шагу — построения субъективной шкалы ощущения (чувства). Для этого можно представить след. психофизический эксперимент. Предположим испытуемым показывают изображения с объектами, и просят подсчитать их количество. Время при этом не ограничивается. Понятно, что чем больше объектов в изображении, тем больше времени требуется на их подсчет, но результаты будут всегда точными. Теперь усложним задачу, ограничим время подсчета, и будем постепенно уменьшать его величину. Чем меньше будет время, тем больше ошибок будет при подсчете изображений с большим числом объектов, т.к. времени на подсчет будет не хватать. Это связано с тем, что при небольших временах, вместо механизма сознательного подсчета объектов включается механизм оценки числа объектов, без подсчета, тот самый о котором и сообщается в статье, и называется чувством числа. В пределе маленького времени будет работать только этот механизм, и можно построить зависимость интенсивности ощущения от воздействия (стимула), кот. называют субъективной шкалой ощущения, и посмотреть подчиняется ли она закону Вебера-Фехнера. В статье дается утвердительный ответ на этот вопрос. То есть все же в мозге возникает чувство первого, как числа объектов, а не количества, как результата их подсчета. Хотя как писал выше можно назвать это и чувством количества, но отдавать отчет в тонкостях механизма.
                      0
                      Лучше добавить примечание переводчика чтобы убрать двусмысленность.
                0
                Ну это только на малом количестве работает. 2 объекта от 3-х легко отличить, а вот 10 от 11 уже нет.
                  +1
                  Ну это только на малом количестве работает.
                  Да, установлено, что это чувство также подчиняется психофизическому закону Вебера-Фехнера, как и другие ощущения.
                  +2
                  Опередили меня :) Я ещё в июне наткнулся на эту статью и стал изучать эту тему.
                  Проведённый эксперимент с ИНС довольно интересный и сейчас довольно легко повторить его самостоятельно.
                  Однако, не готов согласиться с выводами авторов статьи — больше похоже, что данное «восприятие» в ИНС остаётся на «текстурном» уровне и хотя и соотносится с количеством, но совсем ему не тождественно.
                    +1
                    Однако, не готов согласиться с выводами авторов статьи — больше похоже, что данное «восприятие» в ИНС остаётся на «текстурном» уровне и хотя и соотносится с количеством, но совсем ему не тождественно.
                    По моему это из разряда психофической проблемы обнаружения сигналов, точнее различения двух близких сигналов, когда хвосты распределений вероятностей обнаружения накладываются. И вопрос реализации состоит в том, как можно сделать эти распределения более узкими, и минимизировать наложение хвостов. Всегда имеются ограничения, в том числе и в мозге эволюция реализовала компромиссное, не идеальное решение. Собственно она такое решение для всех ощущений нашла, и отсюда следует закон Вебера-Фехнера.

                    Данная тема мне интересна тем, что она затрагивает проблему реализации субъективных состояний в интеллектуальных системах, как естественного, так и искусственного происхождения. В том плане, что эти состояния подчиняются вполне определенным физическим ограничениям. И в какой-то степени развеивают туман нагнанный на эту проблему философами аналитиками, в виде «трудной задачи сознания», и не проходимой грани между описанием этих субъективных состояний (проблема квалия) и нейрофизиологическими коррелятами.
                    +1
                    Если кого заинтересовала данная тема, то вот целый номер журнала посвещённый этому:
                    The origins of numerical abilities
                      +1
                      Спасибо за ссылку, очень интересные публикации.

                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                    Самое читаемое