Мышление и принцип «сумасшедшего программиста»

    Попробую нарушить последовательность повествования, которую планировал изначально. После описания «Эмоционального компьютера» я хотел написать об устройстве ассоциативной памяти, но по комментариям я так понимаю, что читатели уже устали от скучных лекций и ждут экшена.

    Сначала расскажу историю. Был у меня приятель, талантливый программист. Человек действительно не ординарный. Когда он учился в Питерском политехе, то был ленинским стипендиатом. Может быть, кто помнит такой компьютер БК-0010, так вот лучшие игры были написаны им, причем писал он их в кодах. Для первого канала написал на Амиге «графику», под которую крутили прогноз погоды.

    Жил ярко, злоупотреблял всем, чем было можно, и тем более все, чем нельзя. Потом, что-то случилось со здоровьем вообще и с головой в частности. Сейчас он живет, практически, не выходя из дома. Главное его занятие беседы с телевизором. Одновременно у него включены четыре телевизора, все четыре он настраивает на разговорные передачи. Далее происходит так. Он произносит фразу. А «отвечают» на нее телевизоры. То есть они, телевизоры, просто выдают много разнообразного текста, а он «на лету» конструирует «ответ», который состоит из этих телевизионных слов, но при этом укладывается в контекст беседы. Так он, сутки напролет, общается, как он говорит, с «лучшим в мире собеседником».

    Не банальность получается в том, что это:
    • разговор с самим собой;
    • рандомизированный внешним источником;
    • пространство возможных ответов сужено набором телевизионных слов.

    Он уверяет, что при некоторой тренировке, так разговаривать может научиться любой. Я не пробовал, боюсь, вдруг подсяду.

    Так вот этот принцип, который я называю «принципом сумасшедшего программиста», удивительным образом похож на то как, с моей точки зрения, протекает процесс мышления у человека.

    Раз я пропустил описание ассоциативной памяти, то просто приведу, основные тезисы. Если будет интерес, расшифрую их позже.

    Представим, что у нас есть очень хорошая сенсорная система, которая получает информацию из окружающего мира и переводит ее в очень удобную форму. Например, звуковая подсистема выдает нам уже готовые фонемы, из которых можно шутя комбинировать слова, сама выделяет сигналы смеха, плача, стоны боли и все прочие, распознает звуки природы. Для задания безусловных рефлексов нам не надо мудрствовать лукаво. Если мы хотим получить рефлекторный испуг, то уже по готовым признакам (неожиданный звук, чей-то испуганный крик, быстрое движение в периферической области зрения и т.п.) мы зададим срабатывание соответствующего рефлекса.

    Представим, что у нас есть лимбическая система, которая по набору признаков на выходе сенсорной системы, формирует рефлекторное срабатывание эмоций и ощущений.

    Представим, что у нас есть ассоциативная память, которая:
    • — способна запоминать текущую картину на выходе сенсорной системы, а так же запоминать наши поступки и то каким изменением эмоционального состояния это сопровождалось;
    • — способна управлять нашим поведением, как описано в посте «Эмоциональный компьютер»;
    • — имеет многоуровневую структуру.


    Воспоминания первого уровня формируются на базе сенсорного слоя при срабатывании эмоций, завязанных непосредственно на сенсорный слой, (по большей части мы называем эти эмоции ощущениями).

    Формирование верхних уровней отложено во времени и начинается при накоплении достаточного опыта в первом слое.

    Существуют «метки», которые позволяют нам идентифицировать те или иные целостные события или явления. «Метки» могут быть достаточно разнообразны, все они вызывают ответ на сенсорном слое. Однако мы можем не ощущать присутствие метки и не догадываться о ее существовании. Яркий пример «меток» — феромоны.
    Феромоны — биологические маркеры собственного вида, летучие хемосигналы, управляющие нейроэндокринными поведенческими реакциями, процессами развития, а также многими процессами, связанными с социальным поведением и размножением (Википедия).

    Феромоны идентифицируют для нас кто мужчина, кто женщина, запускают эмоции, связанные с половым влечением, определяют «вожака» и многое другое.
    «Метки» необходимы для прохождения процедуры «импринтинга эмоций». Суть импринтинга в том, что «метка» вызывает появление эмоции, а память формирует воспоминание, в котором увязывается, возникшая эмоций и объект или ситуация, в своем отражении на сенсорный и последующие уровни.

    Результатом импринтинга является то, что явление через свои признаки ассоциативно увязывается с определенной эмоцией. Впоследствии эмоция возникает не зависимо от присутствия «метки», а как реакция на признаки явления. Таким образом «запускаются» эмоции, для которых мы не наблюдаем непосредственной сенсорной причины. Собственно то, где мы можем проследить рецепторный источник, мы называем ощущением, а там где нет эмоцией.

    Формирование верхних уровней памяти происходит на базе низлежащих, под действием соответствующих эмоций. Можно отдельно выделить эмоцию, которая вносит, наверно, самый существенный вклад – любопытство. Положительный переход эмоционального состояния – удовлетворение любопытства. Для реализации эмоции любопытства нужна отдельная функциональная система.

    В результате формирования памяти, у нее возникает следующее свойство: картина внешнего мира вызывает определенную активацию группировок нейронов, связанных с воспоминаниями, содержащими в себе элементы этой картины.
    Проще говоря, когда с нами что-то происходит, мы отображаем это с помощью всех наших предыдущих воспоминаний.

    Ну а теперь перейдем к принципу «сумасшедшего программиста», он же «принцип ассоциативного размывания».

    Продолжим моделировать мозг. Сделаем ассоциативную память такой, что бы она параллельно обслуживала три процесса. То есть будем моделировать память тремя «слоями», это будет одна и та же память с теми же связями, но в различных картинах активности (не путайте с уровнями памяти).

    Состояние нашего мозга будет меняться ритмически, будет происходить смена «фреймов». При этом может проходить несколько процессов с разными частотами. Для простоты рассмотрим общий ритм.

    Информация из внешнего мира поступает в ассоциативную память и вызывает активацию тех нейронов, которые «узнают» знакомые признаки. Возникает картина активности памяти, соответствующая тому, что мы воспринимаем. Эта картина описывает то, что происходит вокруг в терминах сенсорных ощущений и нашего опыта, накопленного в памяти. Эта картина не случайна, она соответствует некому существующему событию, «она осмыслена». Будем трактовать это состояние активности памяти как состояние «первого слоя».

    Теперь представим, что параллельно существует картина активности, описывающая, то о чем мы думаем. Это образы, которые мы представляем, внутренняя речь, которую мы произносим про себя и другие «фантазии». Сейчас речь идет об одном фрейме таких «мыслей». Картина нашей мысли по структуре аналогична картине внешнего мира и, как и той ей соответствует определенная картина активности ассоциативной памяти. Будем говорить об этом как о состоянии «третьего слоя». «Второй слой» пока зарезервируем.

    Эмоции произведут нам оценку состояния первого слоя и отдельно произведут оценку состояния третьего слоя.
    Введем характеристику «фокус внимания», которая будет описывать, что «приоритетнее для нас» слой один или слой три. Сделаем «фокус внимания» функцией: его предыдущего состояния, эмоциональной оценки слоя один и слоя три. Будем при смене состояний сохранять «фокус внимания», если нет причин его менять, и будем корректировать его в сторону того слоя итоговая эмоциональная оценка которого будет преобладать.

    Соберем на сенсорном уровне картину, вызванную внешней информацией и «спроецированную» от слоя три, которая соответствует нашему текущему «фрейму» мышления. Силу «проецирования» будем соотносить с состоянием «фокуса внимания». Мы сможем получить диапазон от «мы внимательно следим за происходящим, затаив дыхание», до «отвлекся и ушел в себя».
    Текущее эмоциональное состояние определим как взвешенную с учетом фокуса внимания сумму состояния слоев один и три.

    Произведем поступок, продиктованный памятью (смотри «Эмоциональный компьютер»).

    Создадим новое воспоминание, учитывающее наше текущее состояние и его эмоциональную оценку. Новое воспоминание может отражать реальный опыт, а может нашу фантазию и ее эмоциональную оценку.

    Обратим внимание, что «собранная» ранее картина, и состояние эмоций соответствуют нашему «осознанию» в текущий момент.

    Теперь разместим, условно, между первым и третьим «второй слой». Начнем процедуру «ассоциативного размывания».
    Станем активировать все элементы памяти ассоциативно связанные с теми, которые активны в первом и третьем слое. Будем учитывать силу активности и фокус внимания. Получим некое размытое облако ассоциаций. Это облако будет не случайным, понятия (воспоминания), образующие его будут ассоциативным следствием того, что мы распознали в окружающем мире и нашей текущей «мысли». Однако это размытое облако будет «бессмысленным». Картина активности не будет соответствовать никакому «осмысленному» воспоминанию или фантазии. Это будет некий аналог речи, слышимой сразу с четырех телевизоров. Теперь нам понадобится «сумасшедший программист», который вычленит из этого облака, «следующую фразу».

    Таким элементом, выступит механизм эмоций. Размытая картина вызовет срабатывание разных противоречивых эмоций. Когда активно много признаков, велик шанс, что среди них найдутся те, которые нужны для активации некой эмоции. Теперь выберем самую сильную эмоцию и пойдем обратным ходом. Оставим активными только те понятия, которые вызвали ее срабатывание. Итоговая картина будет обладать интересным свойством – она будет «осмыслена».

    Собственно перепишем эту картину в слой три и назовем ее нашей следующей мыслью.

    По ходу дела, на небольшой промежуток времени размытая ассоциативная картина вызывала появление «облака эмоций», этот «паразитный фон» можно назвать «настроением». Его свойства удивительным образом соответствуют свойствам настроения у человека.

    Закончим такт. И повторим все сначала.

    Вот где-то так можно смоделировать мышление.

    Что бы повествование не разрослось, пришлось опустить многие значимые моменты, но основное направление мысли вроде передать удалось.
    Напоследок, для примера приведу, как в этой схеме реализуются два основных подхода к решению задач.

    Логическое мышление. Мы знаем определенные правила, мы сужаем ассоциативную область, оставляя понятия, относящиеся к нужной нам предметной сфере. При ассоциативном размывании набор ассоциаций не велик и следующая мысль практически определена «сильным» ассоциативным переходом.

    Креативное мышление. Логических путей ведущих к цели не видно. Мы начинаем ассоциативный поиск. Мы делаем широкое ассоциативное размывание, туда попадает все, что может натолкнуть нас на ответ. Ассоциации, вызванные внешним миром, вносят туда случайную составляющую, которая может стать решающей. Если из набора понятий можно найти ответ, то есть сложить образ, который вызовет эмоцию «эврика», то возможно мы его найдем. Если нет, то мы будем продолжать «забрасывать невод». Мы будем находить «промежуточные островки». Они будут помогать нам формировать новые картины ассоциативного размывания, в которых возможно все необходимые понятия соберутся.

    Дополнение.
    Стараясь упростить, я, наверно, зря опустил еще один процесс. Картина в слое один вызывает эмоциональную оценку, эта оценка по самой сильной эмоции «упрощает» картину этого слоя, оставляя только то, что связано с ней. Полная картина происходящего остается на сенсорном уровне, а на слое один возникает акцентированная ее часть. Это состояние слоя один соответствует выделению того на что «направлено наше внимание». Можно «распараллелить» таким образом несколько эмоций, введя несколько дополнительных слоев.

    Добавлю, что такой процесс очень хочется увязать с альфа ритмом, а процесс происходящий в слое три с бета ритмом.
    Поделиться публикацией
    Комментарии 123
    • НЛО прилетело и опубликовало эту надпись здесь
        +7
        Какая тут философия? Чтобы что-либо создать — нужно понять, как оно устроено.
        Искусственный интеллект это Вам не hello world )
        • НЛО прилетело и опубликовало эту надпись здесь
          +5
          Первое предложение о нелюбви к философии. Второе о науке. Связи 0. Философия это не наука.
            +3
            А вот Большая Советская Энциклопедия считает иначе. Извините за оффтоп.
            Но теория, безусловно, крайне важна, это неоспоримо.
              +2
              Считает она так потому что Маркс считал философию наукой.
                +1
                в Штатах доктора философии по философии (!) учеными не считаются, а философия — наукой. (из личного опыта...)
                  +2
                  Да, только это единственная энциклопедия которая так считает.
                    0
                    На мехмате Белорусского ГУ философия определялась как «рационально-критическое мировоззрение».
                    0
                    наблюдение:
                    Отношение человека к философии однозначно определяется его психологическим возрастом
                      0
                      Сто процентов. Чем старше становишся, тем яснее становится, что это лженаука и самообман. В юношестве для меня философия была этаким загадочным всезнающим божеством, в студенческие годы — просто местами интересным предметом, который надо выучить и сдать. А потом, с годами, пришло понимание, что король-то голый, прикладного значения нет, критериев истины нет, научной базы нет. Как с религией или сказками — можно почитать ради интереса, можно верить или нет, но суть дела и практический толк от этого не появится.
                        0
                        Вот еще один ничего не понял…
                          0
                          Вот еще один понял всё.
                      0
                      Философия — не наука. У нее мало признаков науки.
                      По крайней мере это утверждали все преподаватели философии у меня в аспирантуре.
                        0
                        наш лектор по физике называет философию проституткой от науки)
                          0
                          Вот интересно стало, а какое же «правильное» определение они давали? Или сами не знали и отсылали погуглить :)
                          У нас, как я написал выше, «рационально-критическое мировоззрение».
                          0
                          Гм. Ваше утверждение как-то… Некорретно в самой постановке.

                          Наука — некое подмножество философии, ограниченное специфичной методологией.

                          Естествознание — подмножество наук, ограниченное методологией, построенной вокруг повторяемого эксперимента.
                          +4
                          порадовали :)

                          философию ненавидите, но о «критериях истины» рассуждаете, что тоже есть философия в некотором смысле.
                          • НЛО прилетело и опубликовало эту надпись здесь
                            +3
                            Если бы не было философии, то, возможно, критерия истины до сих пор бы и не существовало.
                            • НЛО прилетело и опубликовало эту надпись здесь
                              +4
                              Довольно глупое заявление, учитывая то, «критерия истины» не существует. Это написано в каждом учебнике физике во введении. Это как бы само собой разумеется для любого уважающего себя ученого. Можно на эту тему обратиться, кстати, к Хокингу.

                              Даже более того, в самой математике критерий истины — довольно интересный вопрос. На эту тему рассуждали такие ребята как Рассел, Гильберт и многие другие. Взять хотя бы простой вариант — неполная система аксиом. В этом случае вы можете получить утверждение, которое не сможете ни доказать, ни опровергнуть. Логически, я имею ввиду. Да и контр-пример возможен далеко не всегда.

                              Если же говорить о науке вообще, то система аксиоматизации физики была очень популярна в начале 20 века, но как-то до сих пор никто не сподобился. Поэтому, раз у нас нет точного набора предпосылок, мы пока не можем говорить даже о том, что наша система знаний является непротиворечивой (это может иметь воздействия на очень глубоком уровне, сохраняя непротиворечивость на внешнем, взять хотя бы геометрию Евклида, неопровергаемую в «бытовых» условиях).

                              В силу всего вышесказанного, критерий истины — это удел лишь философов как раз)
                              • НЛО прилетело и опубликовало эту надпись здесь
                                  +1
                                  Я не говорил ничего о теореме Геделя. Я просто взял пример неполной системы аксиом. насчет Геделя — это Вы сами додумали.

                                  Если рассматривать критерий истинности как частный случай, т.е. обговаривая все его условия истинности, то я, конечно, согласен. Думаю, что разошлись именно из-за общности Вашего первого высказывания.

                                  Единственно, хочу немного сказать про эксперимент в физике. На мой взгляд, эксперимент не может считаться даже за ограниченный (частичный?) критерий истинности. Эксперимент может подтверждать теорию лишь на то время, пока она не опровергнута (сколь угодно долго), т.е. он говорит нам, что в рамках наших представлений эта теория позволяет нам с достаточной степенью точности оценить некоторый показатели(и), пока физический процесс протекает в данных условиях.

                                  Мне кажется еще, что просто слово истина — довольно сильное, отсюда недопонимание.
                                    +2
                                    Мне кажется вам преподавали не то. У меня было три семестра философии плюс занятия в философском кружке. И я могу сказать что отношение к философии определяется не ей самой а преподавателем. «Историю» философии слушать действительно неинтересно, по крайней мере не более интересно чем историю России — это будет такой же монотонный набор фактов, дат и лиц.

                                    Совсем другое дело когда преподаватель выбирает интересные работы и обсуждает их с учениками — для меня было например огромным удовольствием прочитать Миф о Сизифе Альбера Камю. Да и многое другое было. Обсуждали даже философию Маркиза де Сада. В этом смысле философия — это мировоззрение, поэтому изучая ее учишься глядеть на мир с разных точек зрения. Мне кажется вот именно это и есть самое важное, да и в жизни это очень полезный навык.
                                      0
                                      Очень хорошо сказано. Я в свое время формально показал почему философия не наука. Если не лень — aboutbrain.ru/?p=539.
                                        +1
                                        Наткнулся на похожие мысли недавно, вот в этой статейке. Собственно, интерес представляет раздел Emergence and Structure. Только там это называно структурами и паттернами, но суть как мне кажется та же.
                                          0
                                          Спасибо, интересно. Как оказалось, «заставили» раньше времени прочитать главу книги из «to read»-списка.
                                            0
                                            «Мозг напрокат» — моя книга, мне грех на нее не ссылаться.
                                              0
                                              Боюсь, Вы не поняли — я о другой книге (Saunders et al. (ed.) Many worlds?.., 2010), одной из глав которой является статья, предложенная Valery'ем Pride'ом.
                                              А в Вашей я ещё после первого поста несколько глав просмотрел, так что можно сказать, её уже эпизодически читаю.
                                      • НЛО прилетело и опубликовало эту надпись здесь
                                    +1
                                    Кстати, философия переводится как любовь к мудрости…
                                    • НЛО прилетело и опубликовало эту надпись здесь
                                        0
                                        Выходит, что «заниматься философией» = «заниматься любовью с мудростью» :) Так что искать какие-либо научные плоды от этого занятие бессмысленно, исходя из этимологии: философия — для удовольствия :)
                                          0
                                          ну, с точки зрения этой метафоры, кроме удовольствия тут ещё какие-то дети могут родиться. Типа формальной логики (у Аристотеля, кажись) или Евклидовой геометрии…
                                      +7
                                      У вашего друга богатое воображение творческого человека, и развитая обобщающая способности аналитика / программиста.
                                        0
                                        А если вам сказать, что он бездарь, что вы скажите?
                                          +3
                                          Судя по приведенным фактам он уже не попадает под классификацию «бездарь».
                                          Человек нашел для себя своеобразный «белый шум», который наводит его на интересные мысли, может быть даже полезные, может быть даже нам. Нам сие неведомо.
                                          Другие для этого уходят слушать звуки природы, а этот выбрал набор асинхронных дикторов.
                                            +2
                                            Я живу в уединении, дабы достичь своей цели, и следую должному, дабы претворить свою правду. Я слышал эти слова, но никогда не встречал такого человека.
                                            (с) Конфуций.
                                              –1
                                              Вы сами, следуете сути циатат которые копируете?
                                                0
                                                К сожалению не всегда. А вы всегда отвечаете вопросам на вопрос?
                                                  0
                                                  хм…
                                                    0
                                                    А пгочему ви спгашиваете?
                                            +1
                                            Так можно и в Кащенко ( или типа того, психушку ) попасть =)
                                              +3
                                              Если вовремя оплачивать счета, быть вежливым с соседями и соблюдать гигиену не заберут. )
                                              +9
                                              Talk is cheap. Show me the code! ;)
                                                0
                                                Линус, ты?
                                                +4
                                                Проблема, однако, может быть в том, что для получение чего-то похожего на разум, на каждый маркер должно быть навешано 2^N образов, где N гораздо больше 64, и самих маркеров тоже может быть много.

                                                Кроме того, не очень понятно, а что есть такое (в программной реализации) метка и образ? Вряд ли мы можем сразу же зашить в память такие понятия, как 'сладкое' и 'зелёное'. Таких понятий вообще отдельно нет, они все — результат некой, как раз, связности понятий через ассоциации.

                                                Как это хранить и обрабатывать? По идее, и сладкое и зелёное — это просто некие натуральные числа. Но как им придать изначальные связи? Как сформировать эмоции и всё такое прочее?

                                                Понятно, что ассоциации имеют место быть. Не понятно только, что есть такое эта самая ассоциация, и между чем именно эти ассоциации устанавливаются.

                                                Но мысль развивать надо. Всяко.
                                                  0
                                                  Образ — состояние конкретного подмножества выходов в нейронной сети.
                                                  Сладкое и зелёное — это просто некие натуральные числа — да, но лишь на определённых выходах нейронной сети. Т.е. в определённых местах образа. И, скорее, вещественные. Или даже комплексные, потому что как нейроны, так и складывающийся образ — вещи динамические, и хоть состояние выхода каждого нейрона в некоторый момент времени можно характеризовать мгновенным потенциалом, но очень важна и частота импульсов. Кроме того на всё влияет и локальный химический состав близлежащей к каждому отдельному нейрону окружающей среды. Да и внутренней…
                                                    +3
                                                    Ваш комментарий ясности не прибавил.
                                                      +2
                                                      Ну. Компьютер умеет оперировать лишь натуральными числами. Если комплексность или вещественность принципиально важны, то это уже невозможно смоделировать.

                                                      Но опыт моделирования физических процессов (высокая степень совпадения экспериментов вычислительных и натурных) показывает, что вся эта вещественность и комплексность не так уж и важны. Хотя, кто знает? И кто знает о том, реализуются ли вещественные числа в природе вообще?

                                                      Кроме того, а почему обязательно нейроны? Кто сказал, что для разумности нейроны принципиально важны? Может быть, эти самые нейроны просто средство реализации некой более абстрактной структуры, которая может существовать и на других базовых элементах?
                                                        0
                                                        И вещественные, и комплексные числа вполне успешно моделируются парой-другой натуральных (мантисса и экспонента, действительная и мнимая части). Так что я не очень понимаю, о чём это Ваше возражение. Все те моделирования физики используют эти или подобные модели вещественных и комплексных чисел.

                                                        Разумность — понятие настолько спорное и неоднозначное (а на мой взгляд, просто неопределённое), что говорить о её более абстрактной структуре пока беспредметно. Тот взгляд на разумность, который традиционен (я имею ввиду антропоцентрический) не позволяет считать разумным всё, что не похоже на человеческий мозг по устройству и проявлениям. А в том смысле, в котором склонен понимать Разумность я, разумность — это просто некая кривенькая характеристика одновременно сложности и адекватности произвольной информационной подсистемы, обрабатывающей информацию из окружающей её среды.
                                                      0
                                                      А на ваши вопросы и не ответишь толком.

                                                      Для того, чтобы можно было говорить о какой-то реализации, нужна отдельная статья описывающая нейрон, его связи с ближайшими элементами, его значение /механизм принятия решения
                                                      нужна алгебра мозга :) которая пока на хабре не описана
                                                        0
                                                        Почему обязательно нейрон?
                                                          0
                                                          потому что это базовый объект во всех этих рассуждениях
                                                          Из него состоят цепочки принятия решения, он каким-то «магическим образом» реагирует на события поступившие от рецепторов.
                                                            0
                                                            А просто пока широко используются и относительно изучены лишь два базовых элемента информационных систем: триггер в электронике и нейрон в природе.

                                                            Были, правда, ещё механические вычислители на шестерёнках — там базовый элемент вычленить чуть сложнее. %) В квантовых компьютерах базовый элемент я тоже пока не понимаю.
                                                            0
                                                            Кстати, эта самая статья, которую мы комментируем — очень неплохое начало этого предмета, алгебры мозга.
                                                            0
                                                            сладкое и зеленое — лишь выборка сладких и зеленых вещей и проведение аналогий между уже известными сладкими зелеными вещами и новыми, еще неизвестными
                                                            +4
                                                            >>Он уверяет, что при некоторой тренировке, так разговаривать может научиться любой. Я не пробовал, боюсь, вдруг подсяду.

                                                            А мой друг говорит, что внутри компьютера живут дeмоны. Я внутрь не заглядываю, боюсь душу потерять.
                                                              0
                                                              да, живут
                                                              apache,mysql,dbus…
                                                              +3
                                                              Автор, у вас ни одного подраздела в статье. Неясно о чем вы хотели сказать, и к каким выводам пришли. Рекомендую книжку — «Принцип пирамиды», дисциплинирует изложение.

                                                              А что касается содержания… к каждой фразе возникает куча вопросов. Общая картина — как будто вы нахватали идей и попытались все смешать в одном котле. Кое-где мне кажется, что вы не знаете о чем говорите. Возможно, ошибаюсь, но следующая фраза вводит в ступор:

                                                              «Логическое мышление. Мы знаем определенные правила, мы сужаем ассоциативную область, оставляя понятия, относящиеся к нужной нам предметной сфере. При ассоциативном размывании набор ассоциаций не велик и следующая мысль практически определена «сильным» ассоциативным переходом.»

                                                              Поясните, плз, что вы хотите тут сказать?
                                                                0
                                                                Что логическое мышление выполняется волевой фокусировкой сознания (внимания) на посылках и правилах вывода, и тогда ассоциативно связанным с этими объектами внимания оказывается лишь следующий из них результат. На мой взгляд, фраза вполне прозрачна…
                                                                  0
                                                                  Не понятно, что такое ассоциативное размывание? Что такое сильный ассоциативный переход?

                                                                  Ух, компьютер бы сломался разбирая ваши фразы."… ассоциативно связанным с этими объектами внимания оказывается лишь следующий из них результат". Поясните, о каких объектах идет речь?

                                                                    0
                                                                    объекты, на которых сфокусировано внимание: посылки и правила вывода
                                                                      0
                                                                      Ассоциативный переход — переход от того, что видишь к тому, что с этим у тебя ассоциировано.
                                                                        0
                                                                        Ассоциативное размывание — это когда ассоциаций много, и внимание как-бы размывается по ним, расфокусируется…
                                                                        0
                                                                        Да, и объясните мне в конце концов. Вы явно не упоминаете нейронную сеть, но все здесь сквозит схожей терминологией.
                                                                        Так почему нейронная сеть? Это лишь оптимизирующая математическая модель, для решения определенного рода задач. Есть множество других методов машинного обучения.
                                                                          0
                                                                          Вот именно потому, наверное, что этим термином часто зовут лишь «оптимизирующую мат модель», как Вы выразились, а автор о мозгах говорит.
                                                                      0
                                                                      В этой области хорошие книжки писал Поспелов, например вот эту: reslib.com/book/34576
                                                                        +3
                                                                          +1
                                                                          В третье картинке слово ПЕПЯКА — Откуда оно там? так называет промо магазин Перекрестка :-)
                                                                            +1
                                                                            Пепяка входит в словарь Упячки и означает следующее:
                                                                            ПЕПЯКА — аналог кармы на Лепре. По подтвержденным данным является особым видом рейтинга, который воены получают за конкретные действия, такие как, например, пстение креатива на глагне. Также бытует мнение, что заветный инвайт стоит 15 единиц этой самой пепяки. В данный момент скрыта от глаз пользователей.

                                                                            Еще значение слова ПЕПЯКОДЭНС достаточно хорошо характеризует ПЕПЯК-у в ситуации на картинке:
                                                                            ПЕПЯКОДЭНС — Также «ПЕПЯКОДАНСЕ» — танец проявления невменяемости и идиотизма.
                                                                              0
                                                                              Пепяка — это МПХ
                                                                                0
                                                                                Нет объяснение выше мне больше понравилось, а ваше только одно непонятное слово меняет на другое.
                                                                            +1
                                                                            Ваш друг профессор Нэш?
                                                                              0
                                                                              Прекрасный пост, в самый раз для середины недели, эдакая легкая разгрузка для мозгов.
                                                                              И Теорию получил и отдохнул и пошел курить задумчивый, побольше бы таких постов.
                                                                                0
                                                                                Да, хороший ход мыслей. Но работать не будет. Простое запоминание на каждом шаге не даст сознания, да и последовательного мышления вообще. Тут нужен некоторый другой механизм, хотя я пока и не знаю, какой именно.
                                                                                  0
                                                                                  Последовательное мышление даст довольно простая обратная связь… С сознанием — и впрямь несколько сложнее, хотя — смотря что им называть.
                                                                                    0
                                                                                    >Последовательное мышление даст довольно простая обратная связь

                                                                                    Расскажите, как!
                                                                                    Я уже давно работаю с нейросетями с обратными связями, и сейчас вроде кое-что серьезное начинает получаться, но как раз с последовательным мышлением пока проблемы даже на концептуальном уровне — я не вижу способов «сконцентрировать внимание» на каком-то ассоциативном ряде, в тех моделях, которыми я оперирую, этого нет, и не очень ясно, как делать.
                                                                                      0
                                                                                      Автор статьи постоянно говорит про эмоции. Это ключевой момент. Суть в том, что каждая ассоциация записывается вместе с эмоцией и силой эмоции, которая ее сопровождает (и только в случае если есть эмоция).
                                                                                      В этом топике автор и описывает механизм концентрации внимания: При активации цепочки ассоциаций, т.е. когда одно понятие последовательно активирует несколько ассоциативно связанных понятий, а те в свою очередь активируют ассоциативно связанные с ними понятия, фокус внимания направлен на те понятия, которым соответствует самая сильная эмоция (см. 1 абзац).
                                                                                      Я так понял автора. Соответственно, если активация определенного понятия (оно может означать и действие и быть промежуточным значением) вызывает сильную эмоцию, то оно и будет «в фокусе внимания».
                                                                                      Получается реализация известной всем ситуации: «Кто о чем, а вшивый о бане» или «все разговоры на баб сведут».
                                                                                        0
                                                                                        Спасибо за понимание. Действительно это и писалось, и имелось в виду. Единственно поправлю. Какая мысль, о чем она, что мы воспринимаем определяется картиной активации памяти и уже содержит «акценты». В этой статье под фокусом внимания я имел ввиду механизм, регулирующий приоритеты между «из вне» и «из внутри», при формировании расширенного ассоциативного набора.
                                                                                        Моя вина. Я соблазнился на уже «занятый» термин, но к этому процессу он тоже хорошо подходит.
                                                                                        Еще я, стараясь упростить, наверно зря опустил еще один процесс. Картина в слое один вызывает эмоциональную оценку, эта оценка по самой сильной эмоции «упрощает» картину, оставляя только то, что связано с ней. Полная картина происходящего остается на сенсорном уровне, а на слое один возникает акцентированная ее часть. Это состояние слоя один соответствует выделению того на что «направлено наше внимание». Можно «распараллелить» таким образом несколько эмоций, введя несколько дополнительных слоев.
                                                                                        Добавлю, что такой процесс очень хочется увязать с альфа ритмом, а процесс происходящий в слое три с бета ритмом.
                                                                                          0
                                                                                          см. ответ ниже — как получается, что логические рассуждения вызывают «эмоции» силы, несопоставимой со всем, что может дать память, и как они же эти «эмоции» мгновенно гасят?
                                                                                            0
                                                                                            «Картина в слое один вызывает эмоциональную оценку, эта оценка по самой сильной эмоции «упрощает» картину, оставляя только то, что связано с ней.» — подумалось, что для этого есть хорошее понятие из Фотошопа: маскирующий слой. Но там он кажись не умеет вычисляться автоматически по маскируемому, а тут — ровно это и делает. С другой стороны — в фотошопе есть слои-фильтры, которые свой результат вполне и по фильтруемому вычисляют, но их кажется пока не придумали научиться быть масками.
                                                                                            0
                                                                                            А вот тут возникает проблема: я могу задаться некоторым вопросом, и прочитать текст. В зависимости от того, каким вопросом я задался, при чтении текста я буду обращать внимание на очень разные вещи. Получается, что «эмоция» от этого вопроса настолько сильна, что «забивает» эмоции, возникающие при чтении текста. Но… Откуда она такая сильная взялась, и куда она исчезает, когда я получаю ответ на вопрос, и как другой человек одной фразой может у меня ее вызвать (задав вопрос)? Я не понимаю математики, которая может за этим стоять, если мы используем подход ассоциативных сетей.
                                                                                              0
                                                                                              Эта эмоция — желание узнать ответ, интерес, любопытство. Оно управляет вниманием, т.е. активирует узнавание «подогретых» ею ассоциаций и подавляет остальные. Подогревает те ассоциации, которые касаются вопроса.
                                                                                                0
                                                                                                Как она называется — не имеет значения :) Как она действует — я уже описал.
                                                                                                Меня интересует, откуда она берется в этой модели? Каким образом к ней «привязываются» вопросы, и «отвязываются» от нее? (отвязываются точно — ведь вопрос, на который ответ уже получен, нас интересовать в роли вопроса больше неспособен, верно? Но как возникает «понимание» того, что на вопрос уже получен ответ? За счет чего запускается механизм «отвязки» вопроса от эмоции?).
                                                                                                  0
                                                                                                  т.е. почему интересен то один вопрос, а то другой?
                                                                                                    0
                                                                                                    Нет, почему вопрос, на который получен ответ, становится неинтересным? Каким образом происходит «понимание» того, что ответ получен?
                                                                                                      0
                                                                                                      Думаю, у вопроса с ответом образуется ассоциативная связь, и при повторении вопроса ответ уже всплывает по прямой ассоциации. Не возникает ощущения, что ответа нет, и соответственно желание получить ответ не выливается в активацию поисковых алгоритмов.

                                                                                                      Правда говоря это, я почти совсем не представляю себе, как это выглядит в терминах сетей и активностей нейронов %)
                                                                                                        0
                                                                                                        >у вопроса с ответом образуется ассоциативная связь

                                                                                                        А в какой момент паттерн активности вдруг начинает считаться «ответом»?
                                                                                                        Это интуитивно очевидные вещи, которые я не представляю себе как формализовать, а без такой формализации все рассуждения об ИИ мало чего стоят…
                                                                                                          0
                                                                                                          Видимо, у ответа на вопрос есть какие-то признаки, и есть подсистема-распознаватель таких признаков. Та, которая «Эврика» кричит, и генерит соответствующую эмоцию, обеспечивающую запоминаемость найденной ассоциации. Найти такие признаки — действительно задачка не из лёгких.
                                                                                                            0
                                                                                                            Мне такой вариант кажется маловероятным, но в любом случае — это на данный момент один из основных нерешенных вопросов, без ответа на него рассуждения могут иметь лишь небольшую ценность.
                                                                                                              0
                                                                                                              Верно схвачена суть проблемы. Я сейчас занимаюсь многоуровневым формированием ассоциативной памяти. Хочется верить, что при правильной организации можно получать на верхних уровнях группировки нейронов, отвечающие за абстрактные признаки. То есть эмоция «эврика» появляется не на сам ответ, а на формирование на определенном уровне признаков свойственных правильным ответам. Кстати, часть таких признаков дает эмоцию «красиво». Основной механизм формирования — импринтинг, в статье я очень поверхностно его описал.
                                                                                                                0
                                                                                                                Ну, если получится что-то толковое на эту тему — пишите обязательно :) Это действительно будет прорывом. Я крутил свою модель и так и эдак — но пока ничего существенного в этом плане сделать не вышло. Есть только очень общие идеи, в каком направлении копать.
                                                                                                                0
                                                                                                                Вот попробуйте проследить за своими эмоциями, ощущениями, решая какую-нибудь простую, но не моментальную задачку. Например, такую: назовите в быстром темпе с третьей по восьмую буквы в строке «qkbdkdmbgjmjczrehmpg», ничем не помогая себе их выделять, ни пальцем, ни мышкой.

                                                                                                                Наверняка сначала прочтёте по одной букве, относительно медленно, потом ещё разок чуть быстрее, потом глаз попытается соскользнуть и сбиться со счёту, перечитаете ещё раз, потом для проверки ещё разок и только потом начисто и без запинок прочитаете эти пять букв быстро. В эмоциональном плане может быть сначала будет ощущение типа «ну-ка, что тут?», сосредоточенной заинтересованности, потом с первой буквой появится внимательность, фокусирующаяся на буквах, произносимых про себя с некоторым тактовым повышением тона, помогающим отсчитать первые три буквы называя их, а не их номера, по достижении третьей возникнет некоторая удовлетворённость решением первого шага задачи и внимательность чуть приугаснет (типа, передышка), будут отчасти замечены габариты пройденного отрывка, чтоб вернуться проще на достигнутую точку, затем с небольшим усилием начинаем новый такт отсчёта, теперь уже пяти букв. После пары прочтений очередной повтор чтения будет производиться больше по памяти, вызывая при подтверждении глазами каждой буквы ощущение узнавания. Когда при очередном прочтении ощущение узнавания не прервётся, покажется, что этот случайный набор букв запомнился и может быть прочтён быстро, с большей опорой на память. Далее, повторив не глядя, может быть пару раз, может быть захочется ещё разок глянуть чтоб убедиться, что повторяешь то, что действительно написано. И опять, узнавание окажется непрерывным.

                                                                                                                Думаю, это вполне себе признак решения некоторого класса задач. Сама эмоция узнавания, т.е. равенства двух образов, приходящих с разных входов, вроде бы элементарна. Её прерывание (или появление эмоции неузнавания) во время проверочного захода вполне может прерывать заход, вызывая повторное желание вчитаться и подправиться. Достижение конца проверочного захода вполне может служить признаком решённости такой задачи. Остаётся понять, как зарядить сеть на запуск, проведение и как определить завершение проверочного прохода. Но это наверно так же, как и на решение других задач…

                                                                                                                Думаю, присматриваясь к решению конкретных задач можно найти признаки завершения и у них, и попробовать выразить их в терминах нейронных взаимодействий.
                                                                                                                  0
                                                                                                                  Самое интересное вы как раз пропустили — как тот факт, что я прочел задание, приведет активность моих нейронных сетей к такому состоянию, что первые 3 буквы я пропущу, а следующие 5 буду читать?
                                                                                                                    0
                                                                                                                    В этой ветке диалога у нас был вопрос «А в какой момент паттерн активности вдруг начинает считаться «ответом»?»
                                                                                                                      0
                                                                                                                      Ок, перефразирую — за счет чего именно то состояние, когда я могу прочесть буквы с 3й по 8ю, будет эмоционально окрашено как «узнавание»? Почему такой флаг не получит состояние, когда я могу прочитать первые 3 буквы, или весь набор целиком?
                                                                                                                        0
                                                                                                                        «Достижение конца проверочного захода вполне может служить признаком решённости такой задачи.» Ведь у вас же в голове есть образ задачи, своего рода алгоритм. Есть механизм его выполнения, есть контроль завершения этапов… Вот контроль завершения последнего этапа, выполняемого при готовности отдать результат, позволяет выдать результат как готовый, а заодно словить соответствующую эмоцию…
                                                                                                                          0
                                                                                                                          >Ведь у вас же в голове есть образ задачи, своего рода алгоритм

                                                                                                                          Так я вот все пытаюсь понять, как он у меня сформируется в рамках описанного механизма при чтении задания. И не понимаю.
                                                                                                                      0
                                                                                                                      А откуда возьмётся желание найти ответ, мотивация решить задачку — вопрос отдельный. Она вне задачки, она «до неё». Это вопрос нейрофизиологии мотивации вообще. Кстати, это вполне ключевое словосочетание и по нему гуглятся несколько статей. Вот такая, например: motivac-potreb.ru/neirofiz/index.html
                                                                                                                        0
                                                                                                                          0
                                                                                                                          Богатый набор эмоций может полностью «проруководить» процессом. Только при анализе надо разделять ситуации: начала обучения «решать задачи» и когда уже сформирован определенный опыт.
                                                                                                                            0
                                                                                                                            Ага
                                                                                                                          0
                                                                                                                          Кстати, мне тут ещё подумалось, что мотивация на какое-то дело, это способ выделить это дело из множества других доступных альтернатив. А в специализированных системах можно этим не заморачиваться, там мотивация не требуется потому что дело у них одно. Просто при подаче информации на входы она будет всегда проходить заданную обработку по перекрёсткам нейронной сети и сливаться обработанной на выходы. Как через какой-нибудь гитарный фильтр…
                                                                                                                    0
                                                                                                                    В классических персептронах распознавателем при обучении работал человек-учитель, который пинал обратную волну по своему усмотрению.
                                                                                                                      0
                                                                                                                      Классический персептрон — слишком примитивная модель. Рекуррентный персептрон — тоже не отражает многих важных свойств, хотя возможно для описания работы эффекторной системы сойдет. А вот динамическая ассоциативная память — уже куда ближе, как минимум все механизмы памяти можно организовать на ней.
                                                                                                                        0
                                                                                                                        я про то, что там эта задача вовсе не ставилась.
                                                                                                      0
                                                                                                      Да, с вниманием чуть сложнее.
                                                                                                      Это некий фоновый механизм (впрочем, собранный на тех же нейронах), который избирательно добавляет активирующего потенциала в одни и тормозящего потенциала в другие сегменты ассоциативной памяти.
                                                                                                      Управляется, наверно, действительно оценочными/эмоциональными нейронами…
                                                                                                      Говорят, источником этого потенциала выступает часть лимбической системы, называемая ретикулярная формация (это удалённая статья в ВП, но там пара хороших ссылок в причинах удалений)…

                                                                                                      Кстати, Вы работаете с сетями. Вы как-то визуализируете то, что в них происходит? В этом цикле статей много говорится об «образе», «картине» — я тут подумал, если выходы каждого нейрона отдельной подсистемы (памяти, внимания и т.п) сопоставить отдельному пикселу экрана (ну, через красивую палитру, конечно), может получится весьма наглядная штука. Пространство цвета у нас трёхмерно, так что на один экран можно вывести три источника информации. Думаю, нагляднее будет в HSB
                                                                                                        0
                                                                                                        Я делаю модель не в нейронных сетях. Использую массивы в которых храню информацию о состоянии нейронов. Да именную такую или похожую визуализацию планирую сделать.
                                                                                                          0
                                                                                                          ну, ИМХО, без разницы, как именно физически хранятся нейроны сети… всё равно сеть, и всё равно нейронная ;)
                                                                                                          0
                                                                                                          Ну, я сейчас использую черно-белую визуализацию: активный нейрон черный (чем активнее, тем темнее), пассивный — белый, нейроны в некотором (удобном мне по ряду соображений) порядке отображаются на прямоугольную область экрана. Ну и в аналогичные области отображаются все те их прошлые состояния, которые непосредственно влияют на текущий паттерн активности. Получается очень удобно и интуитивно, при запоминании последовательностей образов я вижу все актуальные «кадры» этой последовательности одновременно.
                                                                                                            0
                                                                                                            Интересные картинки получаются? Можете пару-другую последовательностей опубликовать в виде гифок с комментариями?
                                                                                                              0
                                                                                                              Свежие результаты я сейчас как раз оформляю в статью, пока не готов их показать, а вот доклад на конференции год назад — есть на нашем сайте (хотя пока и не дошли руки там сделать нормальный список публикаций, так что только по прямой ссылке доступен): ailen.org/wp-content/uploads/2010/10/Dynamic_associative_memory.pdf
                                                                                                              Там ближе к концу, в экспериментальной части, есть две запомненные последовательности (для наглядности, представлены движущимися кругами — хотя в принципе это могут быть произвольные образы, там же есть и картинки для случая букв) — и если сети дать «для затравки» несколько входных образов, которые содержат элементы и одной, и другой последовательностей в равном количестве — то она сгенерирует некоторый гибрид из них, если же дать образы только из одной, или преимущественно из одной, то сеть восстановит именно ее.
                                                                                                              В целом как раз весьма похоже на реализацию того, что автор обсуждаемой тут статьи написал, только без эмоций — чисто на воспоминаниях. И если выйдет ввести некий контролирующий механизм, который будет отделять «нужные» воспоминания от «ненужных» — то в совокупности получится модель, очень близкая к механизму мышления. Но я над этим уже пару лет думаю, и пока не придумал.
                                                                                                                0
                                                                                                                Если делать ИИ, который претендует «понимать» человека, то без аппарата эмоций не обойтись. Но эмоции еще и удобный механизм определения «осмысленных» состояний. Я не уверен, что это можно сделать в общем случае без эмоций.
                                                                                                                  0
                                                                                                                  Я ничего не имею против эмоций. Хотя я им отвожу несколько другую роль — но это не принципиально, описанная модель тоже имеет право на жизнь. Вопрос именно в построении процедуры мышления — этот вопрос сейчас ключевой, а различные виды ассоциативной памяти уже есть.
                                                                                                                  0
                                                                                                                  Если искать на зашумлённой картинке что-то, не зная что — будет сложнее, чем искать на той же картинке что-то конкретное.
                                                                                                                  Т.е. ежели заранее стоит подогреть подмножество результатов распознавания (настроится на поиск чего-то конкретного, например, бабушки) — это конкретное скорее найдётся, а остальное — незаметится.

                                                                                                                    –1
                                                                                                                    Ну в этой статье именно такой «подогрев» и делается (хотя и не очень явно — статью, которая детально описывает этот процесс, я как раз пишу) — зная, какой образ был предыдущим, правильно узнать следующий намного проще, даже при большом шуме.
                                                                                                      0
                                                                                                      «Введем характеристику «фокус внимания», которая будет описывать, что «приоритетнее для нас» слой один или слой три.»

                                                                                                      А может корректнее говорить: характеристика фокус внимания описывает, что приоритетнее для нас эмоция 1 или эмоция 2 или эмоция 3 и т.п.?
                                                                                                      Тогда без разницы где эмоция в первом или третьем слое, а фокусируемся мы же не на слое, а на конкретных объектах
                                                                                                        0
                                                                                                        Я вынес в дополнение к статье ответ. Из него видно, что это разные вещи.
                                                                                                        0
                                                                                                        Про внимание и его неустойчивость неплохая статья — www.superidea.ru/tm/book/tomw5.htm
                                                                                                          0
                                                                                                          Фамилия вашего друга не «C… н»?
                                                                                                            0
                                                                                                            Нет, «М… в».

                                                                                                          Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                                          Самое читаемое