Марвин Мински «The Emotion Machine»: Глава 5 «Уровни Психической Деятельности»

http://web.media.mit.edu/~minsky/E5/eb5.html
  • Перевод
Во время хайпа по цифровой экономике и ***чейнам самое время обратить внимание, как привнести «человеческое» в технологии и как технологии помогают понять и улучшить и масштабировать «человеческое». В этом нам поможет суровый Марвин Мински, который своим беспощадным разумом анализирует чувства, эмоции, боль, влюбленности и сознание.

image

Глава 5. Уровни Психической Деятельности


«Мы, очевидно, являемся уникальным видом благодаря способности создавать символы, а также способности контролировать условия нашего существования, используя эти символы. Наша способность представлять и моделировать реальность подразумевает, что мы можем приблизительно оценивать различные порядки (разрядности) бытия и… дает нам ощущение управления собственным опытом».
— Хайнц Паджелс, «Мечты Разума» (The Dreams of Reason)
Ни один человек не обладает силой вола, скрытностью кошки или скоростью антилопы, но наш вид превосходит всех остальных в способности изобретать новые способы мыслить. Мы изготавливаем оружие, одежду и жилища. Мы постоянно развиваем новые формы искусства. Мы непревзойдены в создании новых социальных соглашений, создании сложных законов, которые изначально применяем, а затем ищем всевозможные способы уклониться от них.

Что позволяет нашим умам генерировать так много новых вещей и идей? В этой главе будет предложена схема, которая сводит все наши ресурсы к шести различным уровням процессов.

image

Начиная с просты инстинктивных реакций, каждый последующий уровень строится на предыдущем уровне до тех пор, пока они не будут охватывать процессы, которые задействуют наши самые высокие идеи и личные цели. Для того, чтобы понять зачем нам нужно столь много уровней, давайте вновь рассмотрим пример, который был введён в §4-2.

Джоан прошла половину пути по дороге, спеша на встречу занести финальный отчет о работе. Пока она размышляет, что говорить на встрече она слышит звук, который заставляет её повернуть голову и она видит быстро приближающуюся машину. Находясь в нерешительности по поводу того, что ей делать дальше – бежать вперёд или назад, но находясь под влиянием страха опоздания, Джоан решает быстро перебежать остаток дороги. Позже она вспоминает свою рану колена и размышляет над своим импульсивным поступком. «Если бы моё колено не смогло выдержать и я бы не перебежала дорогу и была бы убита – что бы мои друзья подумали обо мне?»

Первая глава этой главы покажет, как каждый уровень вышеприведённой диаграммы может объяснить что происходило в уме Джоан в тот момент. Мы постоянно реагируем на различные события «без размышлений», как будто мы управляемся лишь правилами «Если –> То», которые были описаны в главе §1-4. Но подобная простая схема реагирования может объяснить лишь несколько первых событий, которые разворачивались в вышеприведённом рассказе, остальные же события могут быть объяснены различной активностью, которая протекала на других уровнях мышления Джоан.

Врождённые, инстинктивные реакции: Джоан услышала звук и повернула свою голову. Все животные имеют подобные инстинкты, которые помогают им выжить.
Изученные реакции: Она увидела быстро приближающуюся машину. Джоан должна была знать, что на подобные условия следует реагировать определённым специфическим путём.
Коллегиальный разум: Чтобы решить, что говорить на встрече, она рассматривает несколько альтернатив, и пытается решить какая из альтернатив лучшая.
Рефлективное мышление: Джоан размышляет над тем, что она сделала. Она реагирует не только на недавние события окружающего мира, но и на недавнюю активность своего мозга.
Саморефлективное мышление: Нахождение в состоянии «беспокойства поздним приходом» требует от неё следить за планами, которые она установила для себя.
Эмоции осознания себя: Спрашивая, что бы её друзья подумали о ней, Джоан также спрашивала себя, как её действия согласуются с её установленными идеалами.


Вторая часть этой главы покажет, как подобные системы могут «представлять» вещи. Всякий раз, когда вы спрашиваете: «Что случится если», или же выражаете какую-либо надежду, желание или страх, вы пытаетесь предположить возможное развитие дальнейших событий. Всякий раз, когда вы взаимодействуйте с вашими друзьями, вы предполагаете, как ваши действия могут повлиять на них. Всякий раз, когда вы видите что-то, вы предполагаете, что данный объект может сделать в будущем. Как наши умственные ресурсы понимают идеи, которые пока не существуют, а затем используют эти несуществующие идеи для собственного целенаправленного изменения и расширения?

§5-1. Инстинктивные реакции


«… Это показывает, что все хвалебные отзывы о знании, как о великолепной вещи, приукрашены и лишь 1 из 40 может быть настоящим»
— Марк Твен в «Том Сойер за границей».
Джоан услышала звук и повернула её голову.

Хотя мы и живём в густонаселённых городах, вокруг есть множество птиц и белок, а иногда можно увидеть скунса или даже енота. Хотя, многие жабы и змеи исчезли в последние годы, но бесчисленные мелкие существа всё ещё остаются.

Как эти животные всё ещё остались в живых? Сперва, они должны были найти достаточно еды для пропитания. Затем, они должны уметь защитить себя, потому что другие животные тоже ищут еду. Для регуляции своей температуры они должны строить различные укрытия и гнёзда. У них есть стремление к размножению (а если и нет – значит их предки не развили таких механизмов), следовательно им надо искать себе пару и воспитывать молодняк. Таким образом, каждый вид должен был развить определённую машинерию, которая бы позволяла их молодняку делать различные действия и вещи, без какого0либо предыдущего знания о них.

Таким образом, это говорит о том, что они должны пользоваться некоторыми выбранными правилами «Если -> То», наподобие нижеописанных:

image

  • Если что-то прикоснулось к коже, То смахни это
  • Если это не сработало, То перемести своё тело
  • Если свет слишком яркий, То отверни лицо от источника света

Тем не менее, лишь немногие из правил «Если –> То» являются такими же простыми, как и вышеописанные, потому что большинство правил человеческого поведения зависит от ментального контекста, в котором мы сейчас находимся. Например, такое правило, как «Если ты видишь еду, То съешь её» будет заставлять съедать всю еду, которую вы видите, вне зависимости от того голодны ли вы или нужна ли она вам. Таким образом, подобные «Если» должны включать в себя отсылку к некоторым целям, например «Если ты голоден, и ты видишь еду …». В противном случае, вы будете сидеть на каждом стуле, который видите, или постоянно переключать переключатель перед которым стоите.

image

Как же вышеизложенное относится к эмоциям и чувствам? Если вы быстро шевельнёте рукой в сторону мухи, то эта муха быстро улетит, и это действие может соблазнить нас приписать определённые чувства этой мухе, например страх. Тем не менее, мы знаем достаточно о нервной системе насекомых, чтобы уверенно говорить, что насекомые не могут поддерживать сложные каскады нервной деятельности, которые мы определяем как эмоции.

В любом случае, подобна модель «стимула-реакции» или «условного рефлекса» была довольна популярна в первые годы психологии. Некоторые исследователи предполагали, что эта теория может описать всю деятельность человека. Однако, в этой теории есть некоторые проблемы, которые не позволили этого сделать.

Первая проблема в том, что у большинства правил есть исключения. Например, Если вы роняете какой-либо объект, он может не упасть, если что-то сможет помешает ему сделать это. Ваши наручные часы будут показывать вам время, но не в тогда, когда они не работают. Мы сможем разрешить эти проблемы только в том случае, если введём некоторые исключения для вышеизложенных правил – однако, в некоторых случая, будут существовать исключения для самих исключений.

Что произойдёт, если ситуация будет соответствовать нескольким различным правилам Если? В таком случае, у нас должен быть способ выбрать одну из этих реакций. Один из способов – начать упорядочивать эти правила в соответствии с некой очередью приоритетов. Другой способ – выбирать такой Если, которым вы пользуетесь чаще всего. Ещё один способ – выбирать используемое Если правило абсолютно случайно.

Тем не менее, когда мы сталкиваемся с наиболее сложными проблемами, простые правила «Если –> То» работать не будут, потому что нам нужно определить, как ситуация будет развиваться в дальнейшем и какой результат в итоге мы можем получить. Итак, сейчас мы кратко поговорим о трёхсоставных правилах, которые служат для предсказания каждого нашего действия.

image

Если у нас есть адекватный набор «Если –> То -> В таком случае» правил, тогда мы можем отвечать на вопрос: «Что будет если…» до того, как мы сделаем какое-либо действие. Затем, делая эту операцию циклично, мы можем представить гораздо сложное дерево решений. Мы вскоре вернёмся к обсуждению данной темы, но пока мы обсудим, как именно системы могут изучать простейшие правила «Если –> То».

§5-2. Изученные Реакции


image

Все животные рождаются с «инстинктами», такими как «отойти от быстро приближающегося объекта». Подобные встроенные реакции, как правило, хорошо служат до тех пор, пока животные остаются в окружающей среде, схожей с той, в которой эти инстинкты были приобретены. Но когда окружающая среда изменяется, эти же существа должны выработать совершенной другой способ реагировать на окружающие опасности. К примеру, когда Джоан услышала приближающуюся машину, она частично действует на основании инстинктов, но она также реагирует на основании своего знания о природе этой опасности. Но как она учится и что конкретно она изучила? Мы вернёмся к этому вопросу в конце этой книги, потому что обучение людей невероятно сложно, и здесь мы лишь вскользь упомянем, как обучение может протекать у некоторых животных. В течение 20 века, многие известные психологи имели следующие убеждения, как животные изучают новые правила «Если –> То»:

Когда животное сталкивается с новой ситуацией, оно пробует случайную последовательность действий. Затем, если какое-либо действие даёт какую-либо «награду» это действие «закрепляется». Это заставляет животное использовать данное действие в любых подобных ситуациях.

Эта теория «обучения посредство подкрепления» может быть использована для описания абсолютного большинства действий, которые делают животные. В самом деле, эта теория основывается на экспериментах проведённых на мышах, крысах, попугаях, собаках, кошках и улитках. Однако, эта теория не помогает объяснить, как люди учатся решать сложные проблемы, решения которых требует серию сложных действий. В самом деле, решить, что стоит усвоить после решения сложной ситуации может быть гораздо сложнее, чем непосредственно решить сложную проблему, и слова «случай», «вознаграждение» и «закрепление» не помогают нам ответить на следующий два сложных вопроса:

Как возникают успешные реакции? Для решения сложной проблемы, обычно требуется запутанная последовательность действий, в которой каждый последующий шаг строится на предыдущем. Удачное предположение может привести к удачному шагу, но случайное происхождение этого шага приводит к тому, что для создания цепочки успешных шагов потребовалось бы слишком много времени. Мы обсудим эту проблему более подробно ниже, в Поиске и Планировании.

Какие аспекты последних событий нужно запоминать? Для того, чтобы «То» работало хорошо, необходимо чтобы это правило содержало только релевантные функции, потому что оно может быть сбито нерелевантными функциями. (Если вы узнали новый способ завязать узелок, то вы не должны запоминать что вы его завязали в какой-то определённый день или неделю). Как мы увидим далее в главе §8 Находчивость, если ваше описание «То» слишком специфично, то оно очень редко будет соответствовать реальным ситуациям. Но если ваше описание «То» будет слишком абстрактно, то оно будет подходить под слишком большое количество ситуаций, и в любом случае вы не сможете многому обучиться из различных ситуаций.

Например, предположим, вы хотите создать робота, который распознавал бы визуальный образ человеческой руки. Это довольно сложная задача – потому что мы никогда не видим одну и ту же картинку дважды, даже одной и той же руки, потому что каждый палец может менять его позицию и форму, мы можем рассматривать руку с разных углов зрения, и каждая часть может захватывать разное количество света. Это значит, что мы будем нуждаться в использовании триллионов правил «Если –> То», пока не сможем начать использовать некоторые трюки, которые помогут выделять только самые важные функции, или же, как мы увидим в §6-2, мы сможем формулировать высокоуровневые описания, например: «объект в виде ладони с прикреплёнными к ней пальцами».

Конечно, многие вещи которые мы делаем основаны на реакции на внешние события с использованием правил «Если –> То». Тем не менее, наряду с этими низкоуровневыми реакциями, мы всегда составляем новые планы и думаем о том, что мы сделали в прошлом – и именно эти внутренняя ментальная активность и ответственна за проявления наших уникальных способностей.

К примеру, когда Джоан среагировала на движущуюся машину, её реакция была наполовину инстинктивной и наполовину изученной. Однако, она не могла научится «на собственном опыте», что машины, передвигающиеся на высокой скорости, опасны – потому что, если бы она изучала этот факт с помощью метода проб и ошибок, она, вероятнее всего, уже была бы мертва. Обучаясь на основании «подкрепления» успешных действий является действительно плохим способом научения выживанию. Вместо этого, она «поняла это» самостоятельно, или же услышала это знание от кого-то другого, и оба должны были задействовать более высокие формы умственной деятельности для получения знаний. Итак, давайте теперь обратимся к тому, что мы называем «мышлением», то есть к технике, которую мы используем для реагирования не только на вещи окружающего мира, но и на вещи, происходящие у нас в голове.



За перевод спасибо Станиславу Суханицкому. Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru


Об авторе


image

Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]

Интересные факты:

  • Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
  • Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
  • Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
  • Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
  • В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]



Про #philtech
image

#philtech (технологии + филантропия) — это открытые публично описанные технологии, выравнивающие уровень жизни максимально возможного количества людей за счёт создания прозрачных платформ для взаимодействия и доступа к данным и знаниям. И удовлетворяющие принципам филтеха:

1. Открытые и копируемые, а не конкурентно-проприетарные.
2. Построенные на принципах самоорганизации и горизонтального взаимодействия.
3. Устойчивые и перспективо-ориентированные, а не преследующие локальную выгоду.
4. Построенные на [открытых] данных, а не традициях и убеждениях
5. Ненасильственные и неманипуляционные.
6. Инклюзивные, и не работающие на одну группу людей за счёт других.

Акселератор социальных технологических стартапов PhilTech — программа интенсивного развития проектов ранних стадий, направленных на выравнивание доступа к информации, ресурсам и возможностям. Второй поток: март–июнь 2018.

Чат в Telegram
Сообщество людей, развивающих филтех-проекты или просто заинтересованных в теме технологий для социального сектора.

#philtech news
Телеграм-канал с новостями о проектах в идеологии #philtech и ссылками на полезные материалы.

Подписаться на еженедельную рассылку
Philtech-акселератор 139,68
Цифровая трансформация филантропии и соц.проектов
Поделиться публикацией
Комментарии 0

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Самое читаемое