Отец искусственного интеллекта размышляет о том, как сделать машину, которая бы гордилась нами. Марвин Мински был довольно жестким ученым и то, что он своим «скальпелем познания» исследует тему чувств и эмоций, что же делает нас людьми, довольно интересно и полезно. Книга — отличный образец того, как «ИТишным подходом» попробовать осмыслить «человеческое»: ценности, идеалы, любовь, боль, здравый смысл.
Определённый младенец не мог перенести фрустрацию, и реагировал на каждую неудачу мгновенно бросаясь в истерику. Он задерживал дыхание и сжимал мышцы на спине до такой степени, что падал затылком на пол.
Простая теория, которая описывает как может работать подобный механизм, заключается в том, что есть какие-то отдельные «инстинкты», которые конкурируют до того момента, пока один из них не возьмёт над другими контроль. Однако, эта модель не может объяснить как через некоторое время ребёнок находит новые пути для борьбы с фрустрацией:
Несколько недель спустя, поведение этого младенца изменилось; он уже не контролировался исключительно яростью, но он также приобрёл новые способности защиты, таким образом, когда он ощущал, что что-то плохое может произойти, он бежал укрыться в какое-либо мягкое, укромное место.
Из этой ситуации можно сделать предположение, что в мозге младенца может работать только один Селектор в конкретный промежуток времени; это позволяет резко менять систему, и благодаря этому избежать большинства конфликтов. Однако, подобные младенческие системы не могут решить сложные проблемы, с которыми сталкиваются дети по мере взросления. Это заставило наши человеческие мозги развить некоторые высокоуровневые системы, в которых ранее неперекрывающиеся инстинкты могли бы сильно смешиваться. Но поскольку эти системы получили больше возможностей, они также получили новые способы совершения ошибок, поэтому им также пришлось развить новые способы контроля над собой, что и привело к огромному каскаду новых видов психических активностей.
Мы склонны характеризовать проблему как «трудную», когда мы попробовали разрешить её несколькими известными нам способами, но не достигли успехов. Но недостаточно просто знать, что мы застряли в решении задачи: было бы гораздо лучше, если бы мы могли распознавать различные типы барьеров, тупиков и препятствий, с которыми мы сталкиваемся. Ибо, если вы сможете определить тип проблемы, с которой вы сталкиваетесь, это может помочь вам определить более подходящий «способ размышлений» связанный с данной ситуацией. Таким образом, в последующих главах этой книги мы предположим, что для того чтобы справлять с подобными задачами, наш мозг заместил некоторые «Реакционные Машины Основанные на Знании Правил» на «Машины Основанные на Критическом Выборе».
Простейшая версия этой машины была бы почти такой же как и «Если -> То» машина, описанная в § 1-4. Там, каждое «Если» обнаруживает определённую проблему реального мира, что заставляет систему реагировать некоторыми заранее определёнными, действиями в реальном мире. Таким образом, поведение простейших «Если -> То» машин является крайне ограниченным и негибким.
Тем не менее, в машинах основанных на критическом выборе эти «Если» и «То» являются более общими, потому что критические ресурсы могут распознавать не только проблемы, возникающие в окружающем мире, но и проблемы и препятствия внутри разума. Затем, эти «Селекторы» также не ограничиваются реагированием на вещи, находящиеся в окружающем мире, но также могут реагировать на ментальные преграды отключая и включая определённые ресурсы. Это означает, что машины основанные на критическом выборе должны не только реагировать на события извне, но также направлять нас самих к другому способу мышления. Например, они могут рассмотреть несколько реакций на ситуацию, прежде чем решат какую реакцию следует использовать.
Конечно, нам необходимы более конкретные идеи о том как каждый из этих способов думать может работать и о том, как мы их разрабатываем. Мы знаем, что в течение нашего детства, наш мозг проходилчерез несколько стадий роста, и в Главе 5 будет высказано предположение, что этот рост приводит к, по меньшей мере, шести уровням психических процедур.
Таким образом, взрослый человек столкнувшийся с угрозой должен действовать не столько инстинктивно, сколько должен рассуждать что следует сделать в данной ситуации: бежать или драться. – для этого необходимо использовать высокоуровневые системы для выбора стратегии, которой стоит придерживаться. Таким образом, можно сделать продуманный выбор между Гневом и Страхом – и если будет казаться более уместным запугать противника, можно заставить себя разозлиться преднамеренно (хотя, возможно, это будет происходить бессознательно)
Мы знаем, что подобные интеллектуальные способности растут в течение нескольких лет детской жизни. В таком случае почему мы не можем ничего вспомнить из того периода жизни? Одной из причин может быть то, что в эти годы мы только разрабатываем способы создания воспоминаний, и когда мы переходим использованию этих способов, это может затруднять извлечение и интерпретацию воспоминаний, которые у нас были до этого процесса. Возможно, эти старые воспоминания всё ещё существуют, но в форме, которую мы больше не можем понять, и именно поэтому мы не можем вспомнить как мы росли и менялись, применяя новые, взрослые способности к размышлению. Мы слишком много времени перестраивали наш разум чтобы помнить как мы ощущали себя в детстве!
Одни привычки гораздо труднее вылечить или изменить чем другие. Следовательно, борьба между различными инстинктами, или между инстинктом и некоторыми привычками, может часто наблюдаться у животного; например, когда собака бросается за зайцем, она может упрекать, останавливать, колебаться, снова преследовать зайца или вернуться к хозяину пристыженной; или же, например, любовь собаки к своим щенкам и к хозяину, что можно наблюдать, когда собака покидает щенков, из-за стыда, что она не находится рядом со своим хозяином. – Чарльз Дарвин в «Происхождение Человека» (The Descent of Man).
Эта глава обсуждает некоторые вопросы о том, как люди могут сильно изменять своё внутреннее состояние. Когда кто-то кого вы знаете влюбляется, возникает ощущение, что у человека сработал переключатель и он начал исполнять совершенно другую программу, нежели раньше.
Изображение Облака Ресурсов предполагает, что такое изменение может быть результатом работы «Селекторов», которые начали возбуждать (или подавлять) определённый большой набор ресурсов. Таким образом, влечение Чарльза к Силии усиливается, когда все его ищущие ошибки внутренние «Критики» отключаются.
Психолог: Действительно, порой слепое влечение начинается неожиданно. Но другие эмоции могут протекать и угасать гораздо медленнее – и обычно, в более поздние годы наши смены настроения становятся менее резкими. Таким образом, взрослый человек может медленно реагировать на оскорбление, но затем будет размышлять в течение нескольких месяцев даже о малейшем нанесённом или даже воображаемом оскорблении.
Наш двадцатилетний полосатый кот имеет мало признаков человеческой зрелости. В один момент он будет ласковым и искать человеческую компанию. Но через некоторое время, в мгновении ока, он встаёт на ноги и уходит, без какого-либо намёка на прощание, в то время как наша двенадцатилетняя собака редко уходит от нас без оглядывания назад – как будто он выражает некоторое сожаление по поводу своего ухода. Кажется, что настроение кошки описывается каким-то одним переключателем, но поведение собаки является более смешанным, и кажется, что она не контролируется обычным переключателем.
В любом случае, любое крупное изменение в наборе активных ресурсов вызывает значительно изменение в психическом состоянии. Одним из способов, которым можно описать подобное состояние – это то, что один определённый ресурс может непосредственно вызывать многие другие:
Таким образом, Селекторы упомянутые в главе 1-5 могут непосредственно иметь существенные эффекты на мозг. Кроме того, если набор пробуждённых ресурсов включает в себя один или более Селекторов, они могут включить ещё больше ресурсов, что вызывает очередное большое изменение. Затем это изменение, в свою очередь, может также включить другие ресурсы, которые им нужны – и если каждое такое изменение приводит к ещё нескольким изменениям, это распространение может перерасти в эффект, который мы называем «каскадом».
Чем больше ресурсов задействует этот каскад, тем сильнее меняется ваша способность мыслить – и ваше поведение может измениться настолько, что у ваших друзей может создаться впечатление, что вы превратились в другого человека.
Критик: Ваши слова явно преувеличены – ведь Чарльз всё ещё остался прежним человеком. Они всё равно будет говорить на прежнем языке и пользоваться теми же знаниями. У него лишь поменяется видение окружения.
Конечно, эти каскады не меняют всю систему. Когда Чарльз принимает новый Способ Мыслить, во многом он останется таким же, потому что не все его ресурсы будут замещены. Он также будет способен видеть и слышать – но сейчас он будет воспринимать вещи немного иначе. И именно потому что он теперь представляет вещи иначе, он будет получать совершенно другие представления о том, что эти вещи и события означают.
Чарльз также знает как нужно говорить – но, возможно, теперь он будет использовать другой стиль речи и будет находить другие темы для обсуждения, потому что, хоть он и имеет доступ к таким же знаниям, навыкам и воспоминаниям, сейчас он будет выбирать другую информацию для использования. Он по-прежнему будет иметь такие же планы и цели, но теперь у него будут другие приоритеты. Он также будет одеваться и ходить на работу, но в некоторых случаях он не будет очень хорошо одеваться. И что касается самого Чарльза – он, конечно же, будет таким же индивидуальным.
В таком случае, до какой степени Чарльз будет знать об изменениях в своём психическом состоянии? Иногда он совсем не будет замечать каких-либо изменений, но в других случаях он будет замечать, что делает некоторые другие ремарки о себе, например: «Я сейчас злюсь». Чтобы он мог это сделать, его мозг должен иметь способы «отразить» некоторые из своих недавних действий (например, признать распространение некоторых масштабных каскадов). В главе §4, будет обсуждаться, какие процессы могут привести к некоторым аспектам, которые мы можем назвать «сознанием».
За перевод спасибо Станиславу Суханицкому, который откликнулся на мой призыв в «предыдущей главе». Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru
Кстати, мы запустили перевод еще одной крутейшей книги — «The Dream Machine: История компьютерной революции».
Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]
Интересные факты:
§1-6. Взрослые Эмоции
Взгляните на ребенка, по любезному закону природы,Частенько, когда ребёнок становится злым, эта перемена настроения кажется такой же быстрой, как и переключение переключателя.
Он удовлетворяется погремушкой, и веселится из-за соломы:
И оживлённая игра ему придает ребяческий восторг,
Она немного громкая, но пуста внутри;
Шарфы, подвязки, золото, развлекают его в более зрелом возрасте,
А бусы и молитвенники представляют собой игрушки этого возраста;
— Александр Попе в «Эссе о человеке».
Определённый младенец не мог перенести фрустрацию, и реагировал на каждую неудачу мгновенно бросаясь в истерику. Он задерживал дыхание и сжимал мышцы на спине до такой степени, что падал затылком на пол.
Простая теория, которая описывает как может работать подобный механизм, заключается в том, что есть какие-то отдельные «инстинкты», которые конкурируют до того момента, пока один из них не возьмёт над другими контроль. Однако, эта модель не может объяснить как через некоторое время ребёнок находит новые пути для борьбы с фрустрацией:
Несколько недель спустя, поведение этого младенца изменилось; он уже не контролировался исключительно яростью, но он также приобрёл новые способности защиты, таким образом, когда он ощущал, что что-то плохое может произойти, он бежал укрыться в какое-либо мягкое, укромное место.
Из этой ситуации можно сделать предположение, что в мозге младенца может работать только один Селектор в конкретный промежуток времени; это позволяет резко менять систему, и благодаря этому избежать большинства конфликтов. Однако, подобные младенческие системы не могут решить сложные проблемы, с которыми сталкиваются дети по мере взросления. Это заставило наши человеческие мозги развить некоторые высокоуровневые системы, в которых ранее неперекрывающиеся инстинкты могли бы сильно смешиваться. Но поскольку эти системы получили больше возможностей, они также получили новые способы совершения ошибок, поэтому им также пришлось развить новые способы контроля над собой, что и привело к огромному каскаду новых видов психических активностей.
Мы склонны характеризовать проблему как «трудную», когда мы попробовали разрешить её несколькими известными нам способами, но не достигли успехов. Но недостаточно просто знать, что мы застряли в решении задачи: было бы гораздо лучше, если бы мы могли распознавать различные типы барьеров, тупиков и препятствий, с которыми мы сталкиваемся. Ибо, если вы сможете определить тип проблемы, с которой вы сталкиваетесь, это может помочь вам определить более подходящий «способ размышлений» связанный с данной ситуацией. Таким образом, в последующих главах этой книги мы предположим, что для того чтобы справлять с подобными задачами, наш мозг заместил некоторые «Реакционные Машины Основанные на Знании Правил» на «Машины Основанные на Критическом Выборе».
Простейшая версия этой машины была бы почти такой же как и «Если -> То» машина, описанная в § 1-4. Там, каждое «Если» обнаруживает определённую проблему реального мира, что заставляет систему реагировать некоторыми заранее определёнными, действиями в реальном мире. Таким образом, поведение простейших «Если -> То» машин является крайне ограниченным и негибким.
Тем не менее, в машинах основанных на критическом выборе эти «Если» и «То» являются более общими, потому что критические ресурсы могут распознавать не только проблемы, возникающие в окружающем мире, но и проблемы и препятствия внутри разума. Затем, эти «Селекторы» также не ограничиваются реагированием на вещи, находящиеся в окружающем мире, но также могут реагировать на ментальные преграды отключая и включая определённые ресурсы. Это означает, что машины основанные на критическом выборе должны не только реагировать на события извне, но также направлять нас самих к другому способу мышления. Например, они могут рассмотреть несколько реакций на ситуацию, прежде чем решат какую реакцию следует использовать.
Конечно, нам необходимы более конкретные идеи о том как каждый из этих способов думать может работать и о том, как мы их разрабатываем. Мы знаем, что в течение нашего детства, наш мозг проходилчерез несколько стадий роста, и в Главе 5 будет высказано предположение, что этот рост приводит к, по меньшей мере, шести уровням психических процедур.
Таким образом, взрослый человек столкнувшийся с угрозой должен действовать не столько инстинктивно, сколько должен рассуждать что следует сделать в данной ситуации: бежать или драться. – для этого необходимо использовать высокоуровневые системы для выбора стратегии, которой стоит придерживаться. Таким образом, можно сделать продуманный выбор между Гневом и Страхом – и если будет казаться более уместным запугать противника, можно заставить себя разозлиться преднамеренно (хотя, возможно, это будет происходить бессознательно)
Мы знаем, что подобные интеллектуальные способности растут в течение нескольких лет детской жизни. В таком случае почему мы не можем ничего вспомнить из того периода жизни? Одной из причин может быть то, что в эти годы мы только разрабатываем способы создания воспоминаний, и когда мы переходим использованию этих способов, это может затруднять извлечение и интерпретацию воспоминаний, которые у нас были до этого процесса. Возможно, эти старые воспоминания всё ещё существуют, но в форме, которую мы больше не можем понять, и именно поэтому мы не можем вспомнить как мы росли и менялись, применяя новые, взрослые способности к размышлению. Мы слишком много времени перестраивали наш разум чтобы помнить как мы ощущали себя в детстве!
§1-7 Эмоциональные Каскады
Одни привычки гораздо труднее вылечить или изменить чем другие. Следовательно, борьба между различными инстинктами, или между инстинктом и некоторыми привычками, может часто наблюдаться у животного; например, когда собака бросается за зайцем, она может упрекать, останавливать, колебаться, снова преследовать зайца или вернуться к хозяину пристыженной; или же, например, любовь собаки к своим щенкам и к хозяину, что можно наблюдать, когда собака покидает щенков, из-за стыда, что она не находится рядом со своим хозяином. – Чарльз Дарвин в «Происхождение Человека» (The Descent of Man).
Эта глава обсуждает некоторые вопросы о том, как люди могут сильно изменять своё внутреннее состояние. Когда кто-то кого вы знаете влюбляется, возникает ощущение, что у человека сработал переключатель и он начал исполнять совершенно другую программу, нежели раньше.
Изображение Облака Ресурсов предполагает, что такое изменение может быть результатом работы «Селекторов», которые начали возбуждать (или подавлять) определённый большой набор ресурсов. Таким образом, влечение Чарльза к Силии усиливается, когда все его ищущие ошибки внутренние «Критики» отключаются.
Психолог: Действительно, порой слепое влечение начинается неожиданно. Но другие эмоции могут протекать и угасать гораздо медленнее – и обычно, в более поздние годы наши смены настроения становятся менее резкими. Таким образом, взрослый человек может медленно реагировать на оскорбление, но затем будет размышлять в течение нескольких месяцев даже о малейшем нанесённом или даже воображаемом оскорблении.
Наш двадцатилетний полосатый кот имеет мало признаков человеческой зрелости. В один момент он будет ласковым и искать человеческую компанию. Но через некоторое время, в мгновении ока, он встаёт на ноги и уходит, без какого-либо намёка на прощание, в то время как наша двенадцатилетняя собака редко уходит от нас без оглядывания назад – как будто он выражает некоторое сожаление по поводу своего ухода. Кажется, что настроение кошки описывается каким-то одним переключателем, но поведение собаки является более смешанным, и кажется, что она не контролируется обычным переключателем.
В любом случае, любое крупное изменение в наборе активных ресурсов вызывает значительно изменение в психическом состоянии. Одним из способов, которым можно описать подобное состояние – это то, что один определённый ресурс может непосредственно вызывать многие другие:
Таким образом, Селекторы упомянутые в главе 1-5 могут непосредственно иметь существенные эффекты на мозг. Кроме того, если набор пробуждённых ресурсов включает в себя один или более Селекторов, они могут включить ещё больше ресурсов, что вызывает очередное большое изменение. Затем это изменение, в свою очередь, может также включить другие ресурсы, которые им нужны – и если каждое такое изменение приводит к ещё нескольким изменениям, это распространение может перерасти в эффект, который мы называем «каскадом».
Чем больше ресурсов задействует этот каскад, тем сильнее меняется ваша способность мыслить – и ваше поведение может измениться настолько, что у ваших друзей может создаться впечатление, что вы превратились в другого человека.
Критик: Ваши слова явно преувеличены – ведь Чарльз всё ещё остался прежним человеком. Они всё равно будет говорить на прежнем языке и пользоваться теми же знаниями. У него лишь поменяется видение окружения.
Конечно, эти каскады не меняют всю систему. Когда Чарльз принимает новый Способ Мыслить, во многом он останется таким же, потому что не все его ресурсы будут замещены. Он также будет способен видеть и слышать – но сейчас он будет воспринимать вещи немного иначе. И именно потому что он теперь представляет вещи иначе, он будет получать совершенно другие представления о том, что эти вещи и события означают.
Чарльз также знает как нужно говорить – но, возможно, теперь он будет использовать другой стиль речи и будет находить другие темы для обсуждения, потому что, хоть он и имеет доступ к таким же знаниям, навыкам и воспоминаниям, сейчас он будет выбирать другую информацию для использования. Он по-прежнему будет иметь такие же планы и цели, но теперь у него будут другие приоритеты. Он также будет одеваться и ходить на работу, но в некоторых случаях он не будет очень хорошо одеваться. И что касается самого Чарльза – он, конечно же, будет таким же индивидуальным.
В таком случае, до какой степени Чарльз будет знать об изменениях в своём психическом состоянии? Иногда он совсем не будет замечать каких-либо изменений, но в других случаях он будет замечать, что делает некоторые другие ремарки о себе, например: «Я сейчас злюсь». Чтобы он мог это сделать, его мозг должен иметь способы «отразить» некоторые из своих недавних действий (например, признать распространение некоторых масштабных каскадов). В главе §4, будет обсуждаться, какие процессы могут привести к некоторым аспектам, которые мы можем назвать «сознанием».
За перевод спасибо Станиславу Суханицкому, который откликнулся на мой призыв в «предыдущей главе». Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru
Кстати, мы запустили перевод еще одной крутейшей книги — «The Dream Machine: История компьютерной революции».
Оглавление книги The Emotion Machine
Введение
Chapter 4. CONSCIOUSNESS
Chapter 5. LEVELS OF MENTAL ACTIVITIES
Chapter 6. COMMON SENSE
Chapter 7. Thinking.
Chapter 8. Resourcefulness.
Chapter 9. The Self.
Chapter 1. Falling in Love
Влюбленность
The Sea Of Mental Mysteries
Moods and Emotions
Infant Emotions
Seeing a Mind as a Cloud of Resources
Adult Emotions
Emotion Cascades
Questions
The Sea Of Mental Mysteries
Moods and Emotions
Infant Emotions
Seeing a Mind as a Cloud of Resources
Adult Emotions
Emotion Cascades
Questions
Chapter 2. ATTACHMENTS AND GOALS
Chapter 3. FROM PAIN TO SUFFERINGChapter 4. CONSCIOUSNESS
Chapter 5. LEVELS OF MENTAL ACTIVITIES
Chapter 6. COMMON SENSE
Chapter 7. Thinking.
Chapter 8. Resourcefulness.
Chapter 9. The Self.
Об авторе
Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]
Интересные факты:
- Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
- Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
- Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
- Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
- В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]
