Марвин Мински «The Emotion Machine»: Глава 1 «Представление разума как облака ресурсов»

http://web.media.mit.edu/~minsky/E1/eb1.html
  • Перевод
Отец искусственного интеллекта размышляет о том, как сделать машину, которая бы гордилась нами. Марвин Мински был довольно жестким ученым и то, что он своим «скальпелем познания» исследует тему чувств и эмоций, что же делает нас людьми, довольно интересно и полезно. Книга — отличный образец того, как «ИТишным подходом» попробовать осмыслить «человеческое»: ценности, идеалы, любовь, боль, здравый смысл.

image


§1-5. Представление Разума Как Облака Ресурсов


В настоящее время есть много мыслителей, которые утверждают, что всё что делает человеческий разум проистекает из процессов, которые работают в мозге, а мозг, в свою очередь, является лишь достаточно сложной машиной. Однако, другие мыслители всё ещё настаивают на том, что машины не могут иметь такие мистические вещи, которые мы называем чувствами.

Обыватель: Машины могут делать лишь то, что заложено в их программе, и делают это без каких-либо мыслей и чувств. Машина не может устать или иметь какие-либо эмоции. Её не волнует, когда что-то идёт не так, она не чувствует ни удовольствия, ни гордости, ни наслаждения от достижения поставленных целей.

Виталист: Это всё происходит из-за того, что машины не имеют духа или души, и не имеют никаких желаний, амбиций, желаний или целей. Именно поэтому машина попросту перестаёт реагировать, когда она застревает перед какой-либо задачей, тогда как человек пытается как-то разрешить её. Конечно, так оно и должно происходить, потому что люди сделаны из другого вида вещей; мы являемся живыми, а машины – нет.

В древние времена, эти взгляды были возможными, потому что у нас не было никаких идей о том, как работают биологические организмы. Живые организмы казались полностью отличаются от машин, до того, как мы разработали современные инструменты. Но сейчас мы создали новые инструменты – и разработали новые концепции физики и химии – которые показали, что даже самая простая клетка представляет собой набор сотен разнообразных машин. Затем, в 20 веке, мы открыли удивительный факт: «материал» из которого построена машина, может быть скомпонован таким образом, что его свойства практически не влияли на то, что делает машина!

Таким образом, для того чтобы построить любую машину, мы можем использовать любые вещества, которые являются достаточно прочными и стабильными во времени: единственное, что имеет критическое значение – это, что делает каждая отдельная часть машины, и как эти отдельные части могут соединяться. Например, мы можем создавать различные компьютеры, которые будут делать одни и те же вещи, используя новейшие электрические чипы, либо используя скрепки из дерева, металла или бумаги, комбинируя их таким образом, что наблюдая извне, каждый из этих механизмов выполнял бы одинаковую работу. [См. Раздел «Универсальные машины».]

Вышеописанное относится к вопросу о том, как машины могут иметь эмоции и чувства. Раньше нам казалось, что эмоции и чувства отличаются от физических вещей, потому что у нас не было хороших способов представить, как может существовать нечто связывающее эти две сферы. Тем не менее, сегодня у нас есть множество передовых идей о том, как машины могут поддерживать сложные процессы. В оставшейся части книги будут даны способы, позволяющие рассматривать эмоции и чувства как процессы.

Этот вид на эмоции и чувства преобразует ранее поставленные вопросы в менее загадочные: «Какие процессы связаны с эмоциями?», и «Как машины могут поддерживать эти процессы?». Таким образом, мы сможем приблизиться к ответу на вопрос о том, как мозг может поддерживать подобный процесс – и сейчас мы знаем, что каждый мозг имеет в своём составе огромное количество различных частей, каждая из которых делает определённую специализированную задачу. Некоторые части могут распознавать различные паттерны, другие – могут контролировать различные действия, другие могут формулировать цели и планы, а другие могут участвовать в обработке огромного количества знаний. Это позволяет представить разум (или мозг) как набор из сотен или тысяч различных ресурсов.

image


Изначально это представление может показаться слишком размытым, но даже в этой простой форме оно даёт представление о том, как ум может менять своё состояние. К примеру, в случае увлеченности Чарльза, можно предположить, что некоторые процессы отключили ресурсы, которые обычно используются для распознавания недостатков. Эти же процессы задействуют другие ресурсы, которые заменяют его обыденные цели на цели, которые, как он считает, хотела бы видеть в нём Силия.

Точно также, состояние, которое мы называем Гнев выбирает необходимый набор ресурсов, которые позволяют вам реагировать с большей силой и скоростью, а также подавляет другие ресурсы, которые заставляют вас действовать с осторожностью; Гнев замещает осторожность агрессивностью, делает выбор в пользу враждебности, вместо сопереживания, и заставляет вас меньше планировать последующую ситуацию.

Говоря более общо, изображение показывает, что в нашем мозге есть набор из «селекторов», которые используются для возбуждения и подавления определённых ресурсов.

image


Тезис: Каждое из наших основных «эмоциональных состояний» проистекает из набора включенных и выключенных ресурсов. Каждый выбранный ресурс определяет как мы думаем, благодаря изменению деятельности нашего мозга.

Почему наш мозг оснащён подобными механизмами? Каждый из них мог бы развиться для выполнения некоторых специальных, важных функций: злость и страх эволюционировали для защиты организма, а возбуждение эволюционировало для содействия процессу размножения (которое, порой, связано с довольно рискованным поведением).

Если несколько селекторов становятся активными единовременно, тогда некоторые ресурсы могут одновременно и вызываться, и подавляться. Это может привести к некоторым видам состояния разума, при которых мы говорим, что «наши чувства смешаны». Таким образом, когда какой-либо «критический ресурс» обнаруживает какую-либо угрозу, это может активировать Селектор, который может заставить вас как бежать, так и драться, путём включения обоих наборов ресурсов, отвечающих за Гнев и Страх.

image


Студент: Я бы мог лучше уловить вашу мысль, если бы вы были более точны и смогли бы дать определение понятию «ресурс». Вы говорите о том, что каждый ресурс имеет отдельное, вполне определённое место в мозге?

Я использую слово ресурс в несколько туманном виде, для того чтобы его можно было отнести к любому виду структур и процессов, которые варьируют от восприятия и действий до способов представления наборов знаний. Некоторые ресурс используют функции, которые работают во вполне определённых частях мозга, в то время как другие части используют различные механизмы, разбросанные по мозгу. (Мы поговорим об этом больше в разделе «Ресурсы»)

Как было сказано, эта идея о облаке ресурсов может быть слишком размытой – но в продолжении книги мы разработаем более детальные идеи о том, что наши ментальные ресурсы могут делать – и как их деятельность может приводить к тому, как люди думают и действуют. Затем, когда мы углубимся в разработку этих схем, мы заменим эту расплывчатую идею об Облаке Ресурсов более продуманными теориями о том, как организованы наши ресурсы.

Романтист: Вы говорите об эмоциональных состояниях человека, как будто они представляют собой лишь способ мышления, это слышится слишком холодно и абстрактно, слишком интеллектуально, скучно и механично. В вашей теории ничего не говориться о том, где возникают чувства со всеми их цветами и интенсивностью, или где возникают наши амбиции и цели. Эта теория не объясняет откуда берётся радость и боль которые проистекают из нашего успеха или неудачи, или как наше тело взаимодействует с разумом, когда мы возбуждаемся, смотря на произведения искусства.

Ребекка Уэст: «Оно переполняет пределы разума и становится важным физическим событием. Кровь отливает от рук и ног, и течет обратно к сердцу, которое на какое-то время превращается в необычайно высокий храм, колонны которого сияют несколькими видами света, и затем возвращаясь к онемевшей плоти, разбавленная каким-то веществом, которое быстрее и легче и энергичнее, чем есть на самом деле».

В обыденном, каждодневном наблюдении самих себя, некоторые из наших чувств кажутся находятся внутри наших тел – в особенности когда мы подвергаемся мышечному напряжению. Тем не менее, наш мозг не может непосредственно определять эти напряжения самостоятельно; вместо этого, мы ощущаем сигналы, которые приходят к нашему мозгу по нервным волокнам от мышц и сухожилий. Это означает, что мы также можем представлять наши тела как набор определённых ресурсов, которые наш мозг может использовать.

Итак, вместо того, чтобы обсуждать эмоции, как если бы они были каким-то отличным явлением, остальная часть книги будет рассказывать, почему нам лучше сосредоточится на том, какие есть ментальные ресурсы, какие вещи могут эти ресурсы могут делать, и как каждый из них влияет на те объекты, с которыми он связан. И в особенности, мы будем развивать идеи о том что их включает и выключает.

Студент: Зачем вообще нужно отключать ресурсы? Почему бы не заставлять их работать всё время?

Действительно, некоторые ресурсы, никогда не выключаются – например те, которые связаны с такими жизненно важными функциями, как дыхание, балансировка и держание позы, а также те, которые постоянно смотрят за определёнными типами опасностей. Тем не менее, если бы все наши ресурсы были активными одновременно, то они постоянно бы вовлекались в конфликты. Вы не можете заставить ваше тело и бежать и идти, или двигаться в двух разных направлением одновременно. Как мы должны разрешать подобные внутренние конфликты? В человеческом обществе, самым простым способом разрешением подобных конфликтов является конкуренция. Но когда конкуренция приводит к чрезмерной трате ресурсов, мы находим пути в организации нескольких уровней управления, в которой каждый вышестоящий менеджер выбирает какое действие произвести на основании данных от менеджеров, стоящих ниже в должности.

image


Однако, человеческий ум не может иметь подобную иерархию. Это связано с тем, что, в общем случае, никакой одиночный ресурс более низкого уровня не может разрешить какую-либо сложную проблему самостоятельно. Таким образом, когда «критический» ресурс более низкого уровня сталкивается с проблемой, которую он должен разрешить, ему временно может потребоваться контроль над одним или несколькими вышележащими ресурсами, например для того, чтобы разбить проблему на более мелкие части; или вспомнить, как аналогичная проблема была разрешена в прошлом; или попытаться сделать пару различных попыток разрешить проблему, а затем сравнить и оценить полученный результат. Таким образом «критический компонент» может задействовать несколько «селекторов», каждый из которых может привести к различным способам размышления над проблемой.

image


Теперь, каждая из высокоуровневых стратегий вынуждено использовать сотни низкоуровневых процессов, таким образом, если мы попытаемся использовать несколько «способов мыслить» одновременно, они будут мешать друг другу – таким образом нам всё равно необходим высший уровень менеджмента. Это может быть одной из причин, почему наши «размышления» всегда кажутся нам серийным, пошаговым процессом, чем тем, который мгновенно выдаёт свой результат. Тем не менее, каждый подобный высокоуровневый «шаг» должен вовлекать множество низкоуровневых процессов, которые должны работать одновременно. Таким образом, ощущение, что наши мысли подобны последовательному потоку является иллюзией, так как высокоуровневые части нашего мозга имеют слабое представление о низкоуровневых подпроцессах. (Мы обсудим это подробнее в § 4 и §7).

Критик: В любом случае, мне кажется ваш подход, связанный с переключением ресурсов, слишком радикальный. Возможно, этот подход может быть использован для предсказания поведения насекомых или рыб, но Чарльз не переключился, если следовать вашим описаниям, в совершенно другое состояние разума. Он поменял некоторые аспекты своего поведения, но он всё ещё помнит своё имя и остаётся таким же как и был в большинстве других случаях.

Совершенно верно, то что мы представили сейчас – является лишь карикатурой. Для развитии идеи Облака Ресурсов, мы начали с упрощённой модели, в которой каждый из ресурсов мог быть включён или выключен. В какой-то степени она может быть применена для описания действий насекомых и рыб, и к некоторым вещам, которые делают дети людей, поскольку они склонны к сильным и быстрым изменениям своего состояния. Однако, в процессе взросления мы разрабатываем способы «самоконтроля», и наши ресурсы становятся гораздо менее «реакционноспособными». Вместо этого мы учимся включать и выключать их в той или иной степени, для того чтобы мы могли слушать и говорить, и получать доступ к областям знаний и навыков, хотя мы и будем их использовать с различными приоритетами. И со временем мы разрабатываем более сложные способы управления как старыми инстинктами, так и новыми процессами, а также для создания новых видов их компоновки, благодаря которым задействуются сразу несколько активных процессов – и тогда мы говорим, что испытываем смешанные чувства.



За перевод спасибо Станиславу Суханицкому, который откликнулся на мой призыв в «предыдущей главе». Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru

Кстати, мы запустили перевод еще одной крутейшей книги — «The Dream Machine: История компьютерной революции».

Оглавление книги The Emotion Machine
Введение
Chapter 3. FROM PAIN TO SUFFERING
Chapter 4. CONSCIOUSNESS
Chapter 5. LEVELS OF MENTAL ACTIVITIES
Chapter 6. COMMON SENSE
Chapter 7. Thinking.
Chapter 8. Resourcefulness.
Chapter 9. The Self.

Об авторе


image

Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]

Интересные факты:

  • Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
  • Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
  • Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
  • Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
  • В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]

Philtech Initiative

177,79

Общественное благо через цифровые технологии

Поделиться публикацией
Комментарии 0

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Самое читаемое