«Разум в сети». Информация в мозге

    Решил опубликовать еще один отрывок из рассказа "Разум в сети", который тоже касается обсуждаемого на Хабре — обработка информации. В нем изложен несколько неожиданный взгляд на поток информации в мозге, чем принят в программировании. Но не спешите критиковать, это просто попытка иначе взглянуть на то, что порой кажется известным и само собой разумеющимся. Сразу замечу, что этот подход основан на когнитивной психологии. Буду рад интересным мнениям, так как вопрос открыт.

    — Эми, я столкнулся с проблемой. Как создавать модели? Информации от объектов явно недостаточно. И она зашумлена. Надо очень много предъявлений, чтобы корректно обучить модель.
    — Модель не создается по информации от предмета. Она уже есть в мозге. Только тогда информацию, как ты говоришь, можно «принять», то есть выбрать вариант этой модели. Каждый предмет, ситуация, факт, явление – это только вариант более общей модели. И сама модель состоит из других моделей. Как предложение, описывающее предмет, из слов, служащих для описания не только этого экземпляра. Тебе надо разобраться в этом.
    — Подожди, то есть, по-твоему, наши представления строятся не из информации от предмета?
    — Если бы это было так, то ты бы видел в цвете только маленький круг в фокальной зоне (в фокусе внимания), все остальное вокруг было бы для тебя в оттенках серого. Так устроена сетчатка, как ты знаешь. Информация о предмете всегда неполная, но вы видите предмет всегда полностью. Потому что информация от предмета только активирует вариант модели, которая уже есть в мозге.
    — Как так, не понял? Как работает мозг тогда?
    — Так же как вы решаете уравнения. В уравнении уже установлены отношения между переменными. И вам обычно не известны все переменные сразу. Вы подставляете одни, чтобы найти другие. И в итоге приходите к решению. К одному из решений, то есть варианту модели при данных переменных. Примерно так же это происходит и в мозге, только модели более сложные, распределенные и многомодальные.

    — Но разве это не обработка информации?
    — Тебе надо изменить способ представления об этом процессе, чтобы понять. Мозг не обрабатывает информацию как поток, а подбирает подходящий под триггеры сенсорной системы вариант модели, которая уже есть в мозгу. Ваши нейронные сети так и работают уже. Они обучаются – это значит, что они приобретают модель того, что учатся распознавать. А картинка – всего лишь триггер на входе, который активирует цепочку весов, замкнутую на тот или иной выход нейросети.
    — Откуда же мы узнаем новые модели?
    — Вы их генерируете в ответ на отсутствие подходящей модели с предсказанным ответом среды. В ответ на нераспознанный (не подходящий ни под одну модель) стимул идет поиск вариантов (ориентировочное поведение), у животных – это весь ассортимент имеющихся движений. У людей – все варианты мысленных действий. Например, математики начинают сочинять математические теории, которые потом надо подтверждать в опыте для объяснения нового явления. И если ответ среды (триггер) с искомым результатом окажется предсказанным, этот вариант запоминается как модель процесса. Это если упрощенно.
    — Но мы до сих пор пользуемся представлением о передаче информации от источника.
    — Передача информации о предмете излучением от него – это наивная метафора. Она произошла от передачи предмета, письма с текстом, которая была интерпретирована как передача информации. Но чтобы прочитать письмо, надо уже иметь модель букв, слов, предложений (языка). Иначе это только черточки на бумаге. Буквы являются вариантами в модели, и передать ее можно, только если у адресата есть такая же модель – он знает хотя бы букварь. Вот так, кстати, метафоры вам мешают находить правильные решения. И вам трудно от них отказаться, многие ваши ученые и ты до сих пор пользуетесь этой метафорой.
    — Что тогда мне надо делать?
    — Алгоритм генерации моделей по триггерам, а не наоборот. У вас были работы по генеративным нейросетям, это может подойти, если немного скорректировать подход. Я покажу как.
    — Хорошо, ты говоришь, что надо генерировать модель. Но что брать за основу? Все равно нужны какие-то данные из среды. Или элементы модели совершенно произвольны и никак не связаны с реальностью?
    — Разве шкала градусника как-то похожа на температуру тела? Разве она как-то соответствует броуновскому движению молекул? Она только показывает, какая она в тех единицах, которые вы приняли для себя. В градусах. Все, что соответствует реальности в этих измерениях, — это одновременное изменение температуры тела и положения указателя на шкале градусника, так как ртуть расширяется от нагревания. Это все, что вы узнаете при помощи прибора о реальности, – ее изменение в единицах шкалы. И без шкалы положение ртути в градуснике вам ничего не говорит! Ни одно разумное существо не может знать, какова реальность на самом деле, потому что все разумные существа оперируют не самой реальностью, а моделями ее внутри себя. Модели — это шкала градусника. При этом они созданы для удобства оперирования ими, а не для соответствия реальности. Они созданы теми средствами, которые доступны мозгу.
    — Вы тоже используете модели реальности?
    — Конечно, но более сложные, чем у вас. Наши модели могут учитывать больше параметров. Любой субъект может видеть, оперировать только своими моделями, чтобы организовывать свои действия. Поэтому то, что мы видим, – шкала градусника, а не сама температура. Это показал еще ваш древний философ Кант.
    — Получается, что мы солипсисты, замкнутые в своем воображении?
    — Вы не солипсисты, потому что модель всегда имеет варианты. Как деления на шкале градусника. Выбор вариантов происходит по тому, что воспринимают в данный момент ваши сенсоры из среды. Это и есть триггеры.
    — Все модели как-то связаны?
    — Не всегда. Возьмем, например, яблоко. Это один объект, но у него может быть много моделей. Как фрукта, как молекулярного объекта, как атомного, субатомного. У вас это разные модели, прямо не связанные между собой, хотя могут описывать одну и ту же субстанцию, в разных масштабах.
    — Почему так происходит?
    — Мозг не может обработать все изменения, воспринимаемые из среды. Он не может сделать настолько подробную модель, чтобы рассматривать целое яблоко на субатомном уровне, и прибегает к упрощениям. Целое проявляет новые свойства, которые не могут быть выведены из взаимодействия частей, потому что это другая модель целого, что вы называете эмерджентностью. Можно было бы составить одну модель целого из составных, и вы могли бы видеть яблоко как взаимодействие молекул. Но это была бы огромная модель, которой будет трудно оперировать. Это непосильно для вашего мозга.
    — То есть практически надо создавать модели определенных категорий, классов, которые могут и не пересекаться. Но есть же связь между ними?
    — Да, она в третьей модели – как сделать стул из палочек.
    — Понял. Это все, что мне нужно учесть при создании моделей?
    — Нет. Любое понятие, которые ты знаешь, при ближайшем рассмотрении окажется только фиксацией изменения, динамикой в среде, которая и отражает модель. Например, даже цвет ты видишь, только если рядом есть другой цвет. Если же долго пребывать в комнате, где все одного цвета (или надеть цветные очки), через небольшое время ты перестанешь его воспринимать как цвет. Красный исчезнет. Даже линию ты видишь, пока глаз пересекает ее своим фокусом. Ты знаешь об опытах, когда линия исчезает, если ее изображение синхронизировать с движением хрусталика. Это как раз и говорит о том, что модели предназначены для восприятия изменений. Поэтому модели отражают варианты, и когда происходит переключение между ними, ты видишь это. Когда яблоко созревает, цвет в мозге тоже меняется с зеленого на красный.
    — Но зачем такие сложности? Цвет можно определить и обычным детектором света.
    — Детектор знает, что можно сделать с этим цветом? Распознание с вариантами необходимо мозгу, чтобы знать, как оно может измениться, как оно может выглядеть иначе. Распознавая лошадь, а не зебру, ты узнаешь, что ее можно запрячь и поехать верхом, в отличие от зебры. Распознавая линию края, а не поверхность, ты узнаешь, что дальше нельзя двигаться. Модель содержит не только распознаваемое, но и его варианты, а также возможные действия. Детектор тебе в этом не поможет.
    — Совершенно непонятно, как теперь программировать моделирование. Я запутался.
    — Я предупреждала, что вы еще очень далеки от того, что можно было бы назвать интеллектом. Вы не знаете даже базовых задач моделирования среды и мышления. Если ты сможешь понять, о чем я говорю, ты сможешь сделать интеллект. Не раньше.
    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More
    Ads

    Comments 12

      0
      Тарелка крепкого бульона… Как-то слабо верится.
      Всё связанное с электроникой основано на базовых математических действиях. Из маленького получается большое, с новыми разделами науки, новыми возможностями и применением.
      Но вот проблема, базовые математические действия имеют доказательства из более высоких слоёв. Тот самый случай, когда над чем-то простым есть наблюдатель. Оно доказывает само себя, и наверное по этому может существовать.
      Это можно использовать, как например GCC, который может сам себя собирать.
      Но каким образом для искусственного интеллекта осознать своё строение — для для меня не понятно. Вот мы например, достаточно много знаем о собственном мозге, однако материализовать из воздуха нечто похожее и думающее — не можем.
      Осознать — значит иметь представление, возможность применять, и наверное главное — возможность менять себя без угрозы самоуничтожения.
      Что-то я ни о чём подобном ещё не слышал…

      А сама фантастика прикольная, читаю.
        0
        Верная суть идеи о контекстных моделях понимания, интерпретирующих восприятие и возможность ответных действий. Локализация – префронтальная лобная кора. При формировании каркас образуется нейронами, названными зеркальными за отражение свойств объекта внимания. Хорошо описано то, как подбирается подходящая модель при восприятии, придавая смысл объекту внимания. Внимание – всегда ориентировочный рефлекс, подключающий активный образ третичной теменной коры к лобноым механизмам произвольного решения: “а что делать с этой новизной в привычном”. Вот тут бы и подхватить функциональность сознания, которая так неудачно была не описана в предыдущей вашей статье.
          0
          Спасибо за комментарий
          Вот тут бы и подхватить функциональность сознания, которая так неудачно была не описана в предыдущей вашей статье.

          Что именно не описал?
            0
            >>Что именно не описал?
            Не описал функции сознания для адаптивности организма. Все наработки эволюции – адаптивность. Особи, оказывающиеся вне ее, выходят из игры. Поэтому и у механизмов, проявляющихся как то, что назвали сознанием, есть своя даже очень конкретная адаптивная функциональность, без который не только человек, но и рабы-птицы так и остались бы на уровне условных рефлексов простых насекомых. Короче, сознание не для того, чтобы писать стихи понравившейся особи противоположного пола или философствовать под луной, воя от тоски, а это все – следствия его адаптивной функциональности.
            Видя как здорово у вас получилась эвристика про модели понимания, мне стало интересно, сможете ли вы развить картину в целом, учитывая передачу опыта через отзеркаливание, учитывая произвольность в отношении привычного и те контексты моделей понимания, в которых возникает понимаемый смысл и решаются проблемы, фактических данных исследований более, чем достаточно. Очень бы хотелось!
              0
              Вы так точно формулируете вопрос, что мне в пору самому ждать от Вас хорошего текста про сознание )) Пока могу сказать, что адаптивность сознания как раз была направлена на речевую коммуникацию в коллективе, так как продолжение генов в стаде высших обезьян больше зависело от положения в нем, а не от морфологических качеств как клыки и быстрый бег. Это направление адаптивности хорошо прослежено у Томаселло, да и Бикертон об этом же в Языке Адама. Поэтому у меня и сложилась уверенность, что сознание связано с речью. Я бы даже сказал «осознанность действия». Тот кто смог реагировать на знаки других и быть более произвольным в своих становился доминантом даже без надлежащей для этого мышечной массы.
                0
                >>сложилась уверенность, что сознание связано с речью
                Надеюсь, что имеется в виду не обязательно вербальная коммуникация. У некоторых народов (и отдельных особей типа Эллочки людоедки) 30 слов в лексиконе, но они очень неплохо интегрированы в свою социальную нишу.

                >>адаптивность сознания как раз была направлена на речевую коммуникацию в коллективе, так как продолжение генов в стаде высших обезьян больше зависело от положения в нем, а не от морфологических качеств как клыки и быстрый бег.
                Сказано верно про то, что коммуникабельность сама по себе – значимый вектор отбора. Но стоит заметить, что для использования коммуникабельности сознание вовсе не нужно: когда мы общаемся у нас нет времени задуматься, за словом в карман не лезем, а делаем все автоматически в силу своего опыта. Но иногда бывает время задуматься, бывают обстоятельства, когда приходится задумываться потому как слишком очевидна опасность, а заготовки реагирования нет еще, нечего из кармана доставать.
                Поэтому воспрос о том, а зачем именно нужно сознание остается открытым :)
                  0
                  30 слов в лексиконе, но они очень неплохо интегрированы в свою социальную нишу.

                  Я сомневаюсь в наличии у них сознания при таком развитии )) Если серьезно, то появление глагольной конструкции считается освоением управляемой речью. Поэтому надо смотреть на ее наличие, а не только на количество слов в лексике. Грубо говоря, если ребенком они проходят этап проговаривания чужих/своих действий с подлежащим, значит могут иметь сознание (осознание своих действий в моей интерпретации).

                  Но стоит заметить, что для использования коммуникабельности сознание вовсе не нужно

                  Совершенно верно замечено. Сознание стало следствием, а не причиной развития внутригрупповой коммуникации. Так в эволюции происходило ни раз. Перья тоже не для полета появились. Я написал в рассказе, что сознание развивалось в два этапа — коллективное и потом только индивидуальное. При коллективном индивидуального сознания еще нет. Но сознание своим появлением ускорило и развитие самой речи. Именно благодаря формуле сознания стала возможна продолжительная речь, когда осознание (распознание) своих речевых действий приводит к «ответу самому себе». Человек этой речью и отличается — дети до 2 лет и высшие обезьяны говорят только холофразами. А длинная речь позволила создать передаваемую культуру и рассказ (перенос в воображаемое).
                    0
                    >>сознание развивалось в два этапа — коллективное и потом только индивидуальное. При коллективном индивидуального сознания еще нет.
                    Это – очень круто! :) Сразу вспомнилось: “Вначале было слово и слово было у бога и слово было бог”. На то и философия, чтобы можно было бы высказывать любые идеи :) Вот толь, что такое сознание, которого “еще нет”, чего именно еще нет? Что за штука, какие свойства и что делает когда оно есть? А у животных, значит его еще нет, ни у обезьян, ни, тем более у волков и кошек? Зверям не нужно решать проблемы, а они адаптируются чисто на механизмах рефлексов? Так думал И.Павлов.
                    Потом выяснилось, что произвольность проявляется уже рыбами и птицами. Произвольность = новое действие вопреки привычному. Что позволяет выработать новое, чтобы потом не лезть в карман в проблемных ситуациях? Рефлекс никак не учитывает результат действия чтобы тут же учесть если он негативный.
                    Многие начали изучать это и П.Анохин попытался развить теорию акцептора действия. Одновременно К.Соловов нашел основы ориентировочного рефлекса, обращающего внимание на актуальное новое, О.Виноградова провела капитальное исследование гиппокапма, обеспечивающего фокусировку внимания и совершенно новый механизм нерефлекторного запоминания, а А. Иваницкий вычислил по задержкам распространения сигналов цепи субъективизации с реверберацией самоподдерживающегося образа новой проблемы с помощью гиппокампа.
                    Мы помним именно то в цепочках последовательности эпизодической памяти, на что обращал наше внимание ориентировочный рефлекс, а в остальном нас легко дурят фокусники и мошенники. Ну и т.д. Базовая функция гиппокампа есть уже у рыб и птиц, они проявляют фокусировку внимания, они не просто бодрствуют, они решают актуальные проблемы пока на простом уровне, используя модели понимания, а это – не просто контекстное (условно-рефлекторное реагирование). То, какие вовсе не рефлекторные проблемы могут решать животные этологи накопили много данных.
                    В общем, иногда очень не стоит поддаваться соблазну просто объяснить явление своей текущей удачной мыслью, но без учета общей системы механизмов организации индивидуальной адаптивности к новому по отношению к привычному это всегда приводило к мало полезным утверждениям.
                    Сорри :) не хотел устраивать тут проповедь в вашей теме…
                      0
                      Вы очень точно все описали, и я очень рад, что тут есть тот, кто знает все означенные труды! И указанное Вами никак, подчеркиваю, никак не противоречит тому, что говорю я. Потому что ориентировочная реакция и внимание не есть сознание! Все указанные механизмы не требуют сознания в том виде как я описал в рассказе (и статьях ранее). Вообще меня даже удивляет иногда, что именитые ученые ассоциируют сознание с предшествующими ему функциями, не различая их. Ориентировочное поведение может создавать новые не закрепленные ранее паттерны поведения в той ситуации, когда закрепленные не помогают. Это есть даже у голубей, как отмечал еще Скиннер. Они начинают использовать (хаотично в основном) весь репертуар своего поведения, чтобы выбраться из затруднительной ситуации. В этом кстати кроется по мнению некоторых ученых наше чувство свободы воли (услышал от В. Дубынина). Но это не сознание! Оно выполняет совершенно другие функции и совершенно другие возможности открыло нам. И эти возможности описаны в рассказе. Прежде всего самопрограммирование через ту самую «длинную» речь (что и путают с голубиной «произвольностью»), описанное в рассказе как «взять зонтик, когда пойду на улицу». И автобиографическая память, в котрой мы помним себя. И время, «перенос» из «здесь и сейчас» как говорят когнитивисты, стало
                      прорывом сознания (животные всегда остаются «здесь и сейчас», у них есть только короткое время предшествующего периода и эмоциональная память). И сознание появилось после, а не до речи. Мы стали жить мыслями, а не действиями благодаря сознанию. Появились артефакты, история и культура (все что Поппер назвал третьим миром). П.С. К. Соловов может Е. Соколов? :)
                        0
                        >>ориентировочная реакция и внимание не есть сознание!
                        Конечно же нет. Но с нее начинается осознанное внимание и произвольность оценок и выбора цели в контексте моделей смысла происходящего. Еще можно сказать, что сознание – не есть речь в любой ее сложности, а для сложной коммуникабельности муравьев достаточны рефлексы. Хотя если человека не воспитывать в речевой культуре, он не будет демонстрировать то, что так похоже на проявление осознанного. Но у него будет произвольность, он сможет решать новые проблемы, на которых у него нет заготовленной реакции. Сможет только в том случае, если он будет воспитываться в среде хоть какой-то культуры (волков, например), в которой будет период доверчивого обучения и возникнет отзеркаленная система возможных целей (тут многое нужно сказать для понимания).
                        Но у нас возникает полемика :) а этого я точно не хочу, ведь чтобы сделать что-то очевидным для другого нужно сказать очень много слов при условии, что другой готов воспринять доводы.
                        Поэтому спасибо за внимание к моим вопросам и попытки ответить! но пока вопрос о том, какую именно базовую функцию в адаптивности выполняет сознание (не говоря про то как оно это выполняет для всех его уровней осознанного решения проблем) остается для вас открытым, и очень хорошо, что есть такие люди как вы, пытающиеся разобраться с этом.
                        Надеюсь, хоть в чем-то поспособствовал для того, чтобы вы написали уже хорошо взвешенную статью об этом :) Всего вам доброго!
                        >>может Е. Соколов?
                        Да, я просто опечатался, а ворд на этом месте не покраснел :)
                          0

                          Спасибо за хорошо сформулированный вопрос. Как известно, это уже половина ответа )

            0
            — Откуда же мы узнаем новые модели?
            — Вы их генерируете в ответ на отсутствие подходящей модели с предсказанным ответом среды. В ответ на нераспознанный (не подходящий ни под одну модель) стимул идет поиск вариантов (ориентировочное поведение), у животных – это весь ассортимент имеющихся движений.

            Это не так. Есть собака, она узнает хозяина. Когда щенок только родился, у него не было представления ни о хозяине ни о людях вообще. В какой-то момент щенок открывает глаза и начинает видеть окружающий мир. У него все стимулы не распознаны, не подходят ни под одну модель, потому что никаких моделей еще нет. Постепенно он начинает узнавать окружающие объекты, в том числе и людей. Он не может генерировать варианты того, как они выглядят, и как выглядит именно хозяин, потому что не знает этих вариантов. Он создает их сам посредством наблюдения. Это и есть проявление интеллекта. И это именно "передача информации о предмете излучением от него".


            Передача информации о предмете излучением от него – это наивная метафора. Она произошла от передачи предмета, письма с текстом, которая была интерпретирована как передача информации.

            Нет. Это передача информации письмом с текстом произошла от передачи информации излучением (светом). Самые первые варианты такой передачи информации — угрожающие действия и звуки животных при нападении — рычание, оскал клыков, движения рогами.

            Only users with full accounts can post comments. Log in, please.