Марвин Мински «The Emotion Machine»: Глава 3 «Как пользоваться эмоциями»

http://web.media.mit.edu/~minsky/E3/eb3.html
  • Перевод
Отец искусственного интеллекта размышляет о том, как сделать машину, которая бы гордилась нами. Марвин Мински был довольно жестким ученым и то, что он своим «скальпелем познания» исследует тему чувств и эмоций, что же делает нас людьми, довольно интересно и полезно. Книга — отличный образец того, как «ИТишным подходом» попробовать осмыслить «человеческое»: ценности, идеалы, любовь, боль, здравый смысл.

image


§3-8. Эксплуатация Эмоций


Что бы вы ни пытались предпринять самостоятельно, у вашего мозга могут быть совершенно другие планы.

Я пытался работать над технической теорией, но постоянно засыпал. Затем я представил, что мой соперник, профессор Челенджер, собирается разработать точно такую же технику. Это вызвало всплеск злобного разочарования, которое блокировало на пару мгновений желание спать, позволяя мне дальше работать.

Фактически, Челенджер не делал ничего похожего: он работал в совершенно другой области. Но он также был моим близким другом, и мы недавно спорили. Таким образом, он был отличным кандидатом, когда мне был необходим какой-нибудь объект, на который нужно было разозлиться. Теперь составим теорию, почему вышеописанный трюк сработал.

Ресурс под названием Работа представлял одну из моих основных целей.
Другой ресурс под названием Сон пытался перехватить контроль, но затем появилась Фантазия.
Она вызвала смесь Злобы, Раздражения, Разочарования и Страха.
Каким-то образом, это возымело эффект на нарушение процесса засыпания.


Эта последовательность шагов создала состояние, которое противодействовало желанию спать, и, таким образом, возвращала мой разум к его «рабочему» состоянию. Мы можем заметить, что подобное использование фантазии имеет «двойной негативный» эффект: с помощью использования одной системы мы можем отключить другую систему.

Каждый использует подобные трюки для противодействия разочарованию, скуке, боли или сну. В данном примере я использовал злость для поддержания рабочего состояния, однако подобная же техника могла быть использована если кто-то отставал бы в гонке, или же пытался поднять слишком тяжелый груз. Вызывая у себя злобу и раздражение, мы порой можем сопротивляться слабости и боли.

Следует учесть, что подобный «самоконтроль» требует крайне осторожного применения. Короткого раздражения может хватить для остановки Сна – это раздражение может быть мимолётным и вы не сможете даже обнаружить, что что-то произошло. Однако, если вы недостаточно сильно разозлитесь – это не возымеет никакого эффекта, а если разозлитесь слишком сильно – то вы полностью забудете то, что хотели бы сделать, отдавшись злобе.
Вот другой пример того как разум «эксплуатирует» одну эмоцию для подавления другой, таким образом позволяя вам достичь желаемой цели, которую бы вы не смогли достичь непосредственно.

Селия пытается следовать диете. Когда она видит большой, вкусный шоколадный торт, её переполняет желание съесть его. Но когда она вспоминает свою подругу Мисс Идеальное-Тело, которая выглядит великолепно в новом купальном костюме – желание Селии быть похожей на неё удерживает Селию от поедания пирога.

В чем состоит роль фантазии? Процедура Селии для поддержания диеты не имеет непосредственного влияния на подавление её неуёмного аппетита. Тем не менее, эмоцию, которую мы называем Отвращение и предназначена для осуществления подобного контроля и, каким-то образом, Селия научилась вызывать эту эмоцию подобным образом, когда она начинает думать о её формах. Когда эта эмоция вызывает её образ в её же голове, у Селии уменьшает желание есть торт. Но в этой стратегии есть большие риски: если зависть Селии станет слишком сильной и вызовет у неё депрессию, она может начать поглощать торты в огромных количествах.

Почему фантазии проявляют подобные эффекты на нас, хотя мы знаем, что они не являются реальными? Несомненно, это может быть результатом того, что каждый участок нашего разума может видеть только небольшое количество других участков разума, каждая из которых живёт в своей реальности. Мы никогда не видим мир напрямую – это ещё одно заблуждение, которое поддерживается Внутренним Я. Вместо этого, хоть и некоторые части вашего разума непосредственно реагируют на сигналы, передаваемые вашими сенсорами, большее количество частей разума основывают свои решения на информации, которую они получают от других внутренних структур мозга.

К примеру, когда вы сидите за столом напротив друга, вы предполагаете, что у него всё ещё имеется спина и ноги, потому что вы используете для представления этой информации ваши старые воспоминания и модели. Ни одна из этих частей тела не находится в вашем непосредственном поле видения, однако вы всё ещё можете «видеть», что они там есть. Именно фантазия и обеспечивает эту связь с реальностью. В главе Воображение и Симулирование мы увидим, как машины могут использовать похожие вещи.

Студент: Я знаю, что у всех нас есть фантазия, но почему возникла столь странная форма мышления? Почему мы не можем понимать что-либо используя совершенно рациональные подходы?

Мой ответ будет достаточно прост – рационального подхода не существует. Сама концепция «рационального» является очередной фантазией – той, что наше мышление всегда основано на чистых, обособленных логических рассуждениях. Порой кажется «иррациональным» что при решении какой-либо проблемы вовлекаются эмоции. Наша культура учит нас, что эмоции и мышление две разные вещи. Но эта концепция совершенно не имеет смысла, если рассматривать её с точки зрения Работы: когда какой-то процесс не может контролировать ресурс, который необходим для работы этого процесса, это будет выглядеть как появление препятствия с точки зрения Работы. Что же касается использования других агентов для совершения Работы, использование Гнева для отключения Сна схоже с использованием палки для доступа к предмету, до которого вы не можете дотянуться рукой. Независимо от наблюдателя, извне всем будет казаться, что использование подобной стратегии вовлекает «эмоции»: однако для Работы это действие будет ничем иным, как другим способом достижения своей цели. Мы постоянно используем фантазию в ходе нашей повседневной жизни, и все мы, в той или иной степени, используем подобные трюки для «самоконтроля».

Чтобы не спать вы можете использовать точно выверенное количество какого-либо стимулятора. Вы можете ущипнуть себя, чтобы вызвать боль; можете принять неудобное положение, или начать глубоко дышать, или сидеть с открытым ртом. Вы можете переместиться в более шумное место или начать делать какие-либо упражнения. Вы можете заставить себя ощущать злобу или страх представив, что вы потерпели неудачу.

Большая часть нашей повседневной жизни основана на подобно роде деятельности. Обычно принято считать, что именно вы выбираете, что они будут делать. Но зачастую эти деятельности проистекают из небольших участков вашего разума, которые пытаются в какой-то степени изменить окружающую вас среду. Мы должны представлять вымышленные вещи каждый раз, когда мы решаем какую-либо геометрическую задачу или планируем будущий отпуск. Мы используем фантазию всякий раз, когда пытаемся предвидеть какие вещи нам могут понадобиться в ближайшем будущем. И для того, чтобы изменить какую-либо ситуацию, нам нужно представить, что с ней будет после внесённых изменений.

Студент: Вновь, я согласен, что мы постоянно проделываем подобные вещи, но опять же, не могу понять почему мы это делаем. Почему Работа попросту не может отключить Сон, но должна использовать различные непрямые методы влияния на него? Почему мы должны лгать самому себе, вводя иллюзии и фантазии вместо того, чтобы заставить наш разум напрямую делать то, что мы хотим? Почему у Работы нет других улучшенных соединений?

Один из ответов на этот вопрос кажется совершенно очевидным: прямое выполнение Работы будет слишком опасной. Если Работа могла бы попросту выключить Голод, мы были бы в опасности умереть от голода. Если бы Работа могла прямо активировать Гнев, мы бы могли обнаруживать себя постоянно с кем-то сражающимися. Если Работа попросту могла отключить Сон, мы бы крайне быстро износили имеющееся у нас тело. Вот почему нам так страшно задерживать дыхание и так сложно не уснуть – или взять под контроль количество еды, которое вы съедаете. Немногие животные, которые могут так делать, живут достаточно долго, чтобы принести в мир своих потомков. Следовательно, наш мозг эволюционировал таким образом, что наш разум не мог бы вмешаться в работу критически важных систем, которые помогают нам выживать. Следовательно, мы можем вмешиваться в эти процессы, только благодаря уловка и различным трюкам. Мы не можем напрямую подавить желание спать, однако мы изобрели трюки, которые могут оттянуть время сна, используя различные косвенные методы.

Например, в вышеописанном примере, Работа не имели прямого влияния на Сон, но она поняла, что Гнев может оттягивать Сон. И хотя у Работы нет никакого прямого способа активировать Гнев, она знает, что имеется некоторые фантазии, которые могут пробудить Гнев. Таким образом, Работа может каким-то образом активировать фантазию, которая активирует Гнев, который подавляет Сон, и Работа вновь может занять необходимые ресурсы и приступить к работе.

Студент: Ваша теория плодит гораздо больше вопросов, чем даёт ответов. Как удалось Работе усвоить подобный трюк? Как именно она заставляет проявиться эти фантазии? Как воспоминания подтягиваются фантазией? Как фантазия может заставить вас разозлиться? Как Гнев подавляет Сон? И зачем нам вообще нужно спать? Учитывая сколько времени затрачивается на сон, и все те неудобства, которые он приносит, почему он вообще развился?

В главе §5-8 «Симулирование» будет рассказано о том, как машины могут обладать фантазиями.
В главе §6-2.2. «Вспоминание», как будет обсуждаться как мы можем вспоминать воспоминания, и в главе §9-2.1 «Самоконтроль» будет обсуждаться, как «Работа» может научиться использовать вышеописанный трюк. Что касается вопроса, почему нам нужно спать, очень странно, что мы так мало об этом знаем. Недавние исследования показывают, что сон играет крайне важную роль в том, как мы учимся, однако совершенно ясно, что сон служит другим целям. В эволюции распространён следующий принцип: как только появляется какая-то новая функция, другие системы также начинают развивать способы использования этой новой функции. Таким образом, когда появилась первая форма сна, для неё сразу же нашлись многие функции, возможно сон использовался для восстановления потраченных ресурсов, починки повреждённых органов, или, возможно, для представления различных вещей без наличия какого-либо риска извне. Таким образом мы не сможем найти лишь одну причину возникновения сна – также как и для любой другой умственной деятельности.

Студент: А как же тогда Гнев подавляет Сон?

Это действие должно вовлекать древнюю машинерию. Мы рождаемся с наличием огромного числа встроенных систем, которые помогают нам опознавать опасность, неудачи и многие другие виды чрезвычайных ситуаций. Эти «сигналы тревоги» имеют свои связи с другими ресурсами, например «Эмоционально-Вызываемыми», которые обсуждались ранее в главе §1-6, которые, в свою очередь, могут порождать огромные каскады задействования внутренних ресурсов – что вызывает гнев, беспокойство, страх или боль, которые могут быть важнее всех существующих ныне приоритетов.

Студент: Вы не говорили, как работает Гнев.

Одна из теорий гласит, что состояние, которое мы называем «Гнев» подавляет большинство наших ресурсов, связанных с мышлением – таким образом мы становимся менее «разумными». Из-за этого мы делаем поспешные решения, и, таким образом, становимся подвержены воспринимать более высокие риски. Заманчиво думать о человеке в гневе как о неустойчивом и непредсказуемым. Однако парадоксально, люди в гневе становятся более предсказуемыми, чем в норме, и это может дать положительные эффекты: если вы стали злым и выражается угрозу, ваш оппонент может почувствовать, что вы не измените своей позиции, потому что перестали быть «разумны». Эффективность кажущихся угроз зависят от наличия противников, которые действительно могут на вас напасть. Если вы заставите себя поверить в то, что вам угрожает опасность, это поможет вам начать выражать это посредством эмоций, что заставит вашего оппонента начать ощущать тоже самое чувство!

Критик: Не все виды гнева могут вызывать поспешные решения. Когда Чарльз внезапно впал в ярость и ударил кого-то, кто насмехался над ним, его решения были быстрые и он принимал высокий риск. Но когда Джоан находилась в хроническом гневе из-за разрушения тропических лесов, она стала гораздо продуманнее и последовательнее при сборе денег на их спасение.

Наши взрослые эмоции продолжают развиваться во всё более запутанные механизмы. По мере роста, мы можем тренировать наши эмоциональные состояния и модифицировать их внешние проявления, до такой степени, что они более будут иметь ничего схожего с эмоциями детей.

Физиолог: Гнев – не просто состояние разума. Он также повышает ваш мышечный тонус, наполняет вас энергией, и ускоряет ваше время реакции. Это состояние вовлекает в работу не только мозг, но и тело.

Определённо, Гнев задействует множество физиологических функций. Он может повлиять на ваше сердцебиение, кровяное давление, дыхание и потение. Однако, если мы будем придерживать концепции Облака Ресурсов, то в этих проявлениях нет ничего особенного – тело всего лишь представляет собой ещё один ресурс, который можно использовать. (И довольно много однотипных эффектов произойдёт, если вы попросту задержите ваше дыхание). Легко понять, почему эти системы развились: Гнев помогает нам подготовиться к определённым чрезвычайным ситуациям, таким как борьба, защита и запугивание. Однако, мы не должны связывать эти эффекты с тем, как Гнев меняет наш образ мышления. Совершенно верно, что Гнев ассоциирован с вышеописанными соматическими эффектами, однако они очень далеки от аналогичных проявлений других эмоций. [Смотрите §§Воплощение]

За перевод спасибо Станиславу Суханицкому


Об авторе


image

Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]

Интересные факты:

  • Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
  • Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
  • Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
  • Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
  • В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]



Про #philtech
image

#philtech (технологии + филантропия) — это открытые публично описанные технологии, выравнивающие уровень жизни максимально возможного количества людей за счёт создания прозрачных платформ для взаимодействия и доступа к данным и знаниям. И удовлетворяющие принципам филтеха:

1. Открытые и копируемые, а не конкурентно-проприетарные.
2. Построенные на принципах самоорганизации и горизонтального взаимодействия.
3. Устойчивые и перспективо-ориентированные, а не преследующие локальную выгоду.
4. Построенные на [открытых] данных, а не традициях и убеждениях
5. Ненасильственные и неманипуляционные.
6. Инклюзивные, и не работающие на одну группу людей за счёт других.

Акселератор социальных технологических стартапов PhilTech — программа интенсивного развития проектов ранних стадий, направленных на выравнивание доступа к информации, ресурсам и возможностям. Второй поток: март–июнь 2018.

Чат в Telegram
Сообщество людей, развивающих филтех-проекты или просто заинтересованных в теме технологий для социального сектора.

#philtech news
Телеграм-канал с новостями о проектах в идеологии #philtech и ссылками на полезные материалы.

Подписаться на еженедельную рассылку

Philtech Initiative

180,20

Общественное благо через цифровые технологии

Поделиться публикацией
Комментарии 2
    +1
    Ну не знаю, по-моему всё это просто называется Сила Воли.
    И приводите как бы хаки для тех, у кого её нет, ну или почти нет, вот и весь секрет статьи.
      0
      В принципе, всё было бы очень просто, если бы было так, что есть люди с «Силой Воли», а есть без неё — и это некое неизменное свойство человека. В реальности, судя по всему, сила силы воли ( :) ) зависит от многих факторов: от наличия или отсутствия различных внешних стимулов (а-ля, нужно работать или помру с голоду; есть красивая девушка, хочу её впечатлить; нужно помочь семье), до состояния здоровья и гормонального фона в данный момент.
      В общем, хорошо если хаки не нужны. Тем не менее, даже в этом случае, думаю, стоит о них почитать, ибо если есть возможность не зависеть в критических вещах (работоспособность, в данном случае) от каких-либо внешних факторов и состояния своей тушки, то стоит этой возможностью пользоваться.

    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

    Самое читаемое