Марвин Мински «The Emotion Machine»: Глава 5 «Симуляции и предсказывающие машины»

http://web.media.mit.edu/~minsky/E5/eb5.html
  • Перевод
Как привнести «человеческое» в технологии и как технологии помогают понять и улучшить и масштабировать «человеческое»?

В этом нам поможет суровый Марвин Мински, который своим беспощадным разумом анализирует чувства, эмоции, боль, влюбленность и сознание.

image

§5-8. Понятие «Симуляции»


«Реальность оставляет очень многое на откуп воображению»
– Джон Ленон
Все из нас могут узнать арку, составленную из прямоугольных блоков.

image

Но также мы все сможем вообразить себе арку, верхний прямоугольный блок которой будет заменён на блок с тремя сторонами.

image

Как может программа или разум «представлять» вещи, которых нет в области видимости? Мы могли бы сделать это, путём «воображения» изменений объекта на любом этапе восприятия!

Внесение изменений на низком уровне: В принципе, мы могли бы создавать новую картинку изменяя каждую точку на сетчатке – но на практике, такие изменения требовали бы огромных вычислений. Также, если вы захотите сместить свою точку видения, вам необходимо было бы «вычислять» всё изображение вновь. Что ещё хуже, до того как вы сможете сделать подобные вычисления, определённые части мозга должны точно знать, какую картинку следует описать. Но для того чтобы это сделать вам сперва необходимо представить эту картинку на каком-либо верхнем уровне, но если картинка описана – тогда зачем её следует вычислять?

Внесение изменений на промежуточных уровнях: Что может изменяться – так это не само изображение картинки, а части высокоуровневого описания картинки. Например, на уровне систем Нахождения Областей, можно было бы изменить название переднего края верхнего блока арки с «прямоугольный край» на «треугольный край». Однако, это может вызвать проблемы на других уровнях, потому что края треугольника не будут иметь такие же соотношения, как и края областей по соседству с ним.

image

Позже мы увидим, что лучше заменять целый блок на высшем уровне системы Нахождения Объектов.

Визуализатор: У меня возникают проблемы подобные вышеописанным. Когда я пытаюсь представить себе треугольную форму, я знаю где три линии фигуры должны появиться, но я вижу их как туманные, светящиеся полоски чьи нечеткие концы зачастую не встречаются. Когда я пытаюсь скорректировать это, «проталкивая» линию – она резко перемещается с некоторой постоянной скоростью которую я не могу изменить, и когда я говорю этой линии застыть, она всё равно продолжает двигаться (хотя, как ни странно, она никогда не уходит далеко)

Вы попытались изменить описание объекта, но у вас не получилось сохранить необходимы отношения между частями объекта. Воображение подчас похоже на видение, за исключением того, что когда вы меняете внутреннее представление объекта, оно не может поддержать свою согласованность. Настоящий объект не может двигаться с двумя разными скоростями в один момент времени, также, как и две реальные линии не могут пересекаться и не встречаться, однако воображение может допустить подобные вещи.

Внесение изменений на высших семантических уровнях: Вы можете представить себе изменение верхнего блока арки, изменив название самой формы верхнего блока, в точности изменив «прямоугольник» на «треугольник» в самом определении арки: «Треугольный блок, поддерживаемый двумя вертикальными блоками».

Теперь подумайте насколько это эффективно! Чтобы сделать подобное изменение на сенсорном уровне вам необходимо будет изменить поведение тысяч «пикселей» (единиц данных из которых состоят картинки), в то время как вам нужно изменить лишь одно слово, когда вы работаете на абстрактном языковом уровне, для представления какой-либо вещи используя лишь один или несколько компактных символов. Конечно, эти символы бесполезны пока они не связаны с структурами, которые дают больше деталей или «смысл» тому, что вы видите.

Наша система Строитель могла делать подобные трюки делая изменения, в так называемых «Семантических Сетях». Например, она могла представить арку из трёх блоков путём описания отношений между этими тремя блоками.[13] Затем, для того, чтобы Строитель представил треугольный блок на вершине арки, ему необходимо изменить лишь одну связь:

image

Проведение подобных изменений на более ранних уровнях вовлекало бы слишком много деталей. Если бы вы использовали замену записанных изображений похожие на картинки, то вам было бы сложно изменить любую часть уже записанного изображения. Но на высшем «семантическом» уровне, вы можете более просто делать осмысленные изменения. Например, когда вы описываете «лежащий блок, поддерживаемый двумя вертикальными блоками» вам не надо описывать видение этого блока с перспективы наблюдателя. Следовательно, подобное описание одинаково применимо к следующему набору картинок:

image

Если мы заменим слово «блок» на слово «объект», тогда наша сеть сможет описать ещё больше ситуаций.

Это показывает насколько удобны «абстрактные» описания. Иногда слово «абстрактный» используется для обозначения «интеллектуально сложной» задачи, но в данном случае слово «абстрактный» имеет совершенно противоположное значение: абстрактное описание проще, потому что оно подавляет различные детали описания, которые не имеют отношения к делу. Конечно, описания не должны быть слишком абстрактными: когда вы спрашиваете совет у кого-нибудь, и он даёт ответ наподобие «Если ты хочешь чего-либо, то сделай то, что даст тебе это».

Мы обсудили как мы можем представлять визуальные картины, путём построения «симуляций» в нашем уме. Мы также делаем похожие вещи и в других сферах. Возможно, некоторые повара представляют новые вкусы напрямую изменяя состояния сенсорных систем низких уровней, и, возможно, некоторые композиторы точно также представляют звуки новых инструментов; однако подобные мыслители также могут достигать схожих результатов делая небольшие изменения в высших уровнях представления, таким образом вызывая восторг или отвращения без построения низкоуровневых деталей представленных блюд или музыки.

Драматический критик: Я могу ясно вспомнить как я чувствовал себя после участия в определённом спектакле, но я не могу вспомнить никаких деталей, о чём была эта ужасная игра.

Чтобы обсудить это, мы должны использовать новое слово, объединив слова «симуляция» и «стимул». Симуляция – это модельное восприятие объекта, которое вызывается изменением ментального представления объекта. Таким образом, при обсуждении «Челенджера» в §4-7, мы видели, как можно использовать симуляцию поражения для вызова чувства гнева. Для того чтобы сделать это, достаточно было представить насмешку на лице нашего врага без каких-либо особенностей этого лица, поскольку мы в состоянии самые простые описания явлений, используя абстракции высокого уровня.

Визуализатор: Когда я думаю о своей кошке, её изображение представляется с таким количеством деталей, что я могу представить каждый волос на её теле. Разве не было бы нашим преимуществом создание настоящего образа неотличимого от оригинала?[14]

Возможно, когда вы впервые вспоминаете свою кошку, её поверхность имеет лишь «шерстистую» структуру, и только когда вы рассматриваете картинку более чётко вы начинаете добавлять больше деталей в ваше умственное представление. Однако, это может происходить настолько быстро, что вы попросту не успеваете заметить этот переход, и вам начинает казаться, что вы изначально так всё и видели. Ваш опыт может быть одним из описаний иллюзий, которые мы ввели в §4:

Иллюзия имманентности: Когда на ваши вопросы находятся ответы до того, как вы успели их задать, вам кажется, что уже знали об этих ответах.

Иллюзия Имманентности проявляется не только тогда, когда мы что-то представляем; мы никогда не видим «настоящие образы», потому что мы не воспринимаем большинство мелких деталей до того момента, пока наш разум не запросит эти детали. В самом деле, недавние эксперименты предположили, что наше внутреннее представление визуальных образов редко обновляются в режиме реального времени.[15] В главах §6 и §8 мы опишем схему, которая называет «Паналогия», которая поможет объяснить как наш мозг может выделять и прорабатывать запрашиваемые детали образом невероятно быстро.

§5-9. Предсказывающие Машины


Уильям Джеймс: «Попытайтесь представить, как вы сгибаете палец, и одновременно с этим держите его ровно. Спустя некоторое время он начнёт покалывать и будет ощущаться мнимое изменение положения; однако палец будет оставаться на месте, потому что мысль «палец остаётся прямым» также держится в вашем уме. Затем отбросьте эти идеи и подумайте лишь о каком-нибудь чистом движении и вуаля! Ваш палец займёт необходимое место без каких-либо усилий с вашей стороны.» — Принципы Психологии, 1890, стр.527 [The Principles of Psychology, 1890, p527.]
Каждый может думать о вещах без совершения последующих действий, так же как и Кэрол, которая воображала перемещение блоков. Но как она умудряется делать это? Вы сейчас можете закрыть глаза, откинуться на спинку стула и побаловать себя мечтами и фантазиями, или попытаться предсказать, что может произойти в дальнейшем.

Сейчас мы можем создать машину, которая сможет делать аналогичные вещи, предсказывая различные исходы конкретных ситуаций. Давайте предположим, что она имеет правила наподобие следующим:

image

Затем мы дадим нашей машине, давайте назовём её Провидец, способ заменить то что она видит в конкретный момент времени, который реализуется благодаря прогнозам, сделанным исходя из вышеописанного правила. В таком случае, когда Провидец находится в ситуации А, а затем рассматривает действие Х, это заставит «представить» провидца что он находится в ситуации В.

image

Я включил группу «Подавляющих Полос» по двум причинам. Первая – когда Провидец представляет будущее состояние В, мы не хотим чтобы оно быстро заменило существующее состояние А. Вторая – мы всё же не хотим, чтобы Провидец выполнял действие Х, потому что он всё ещё может рассмотреть некоторые другие варианты будущего, перед принятием окончательного решения. Таким образом, Провидец может использовать эти подавляющие полосы, чтобы абстрагироваться от внешнего мира, что позволит ему «остановиться и подумать» какое действие ему лучше всего стоит сделать. [16]

Повторяя подобную операцию, Провидец может использовать предсказательные цепи для симуляции действий, происходящих в «виртуальном мире». Конечно, для того чтобы Провидец мог делать подобные предсказания, он должен использовать виды поиска, описанные в §5-3 для симулирования (а затем и сравнивания) эффектов различных действий прежде чем принимать одно из них. Это потребует от него дополнительной памяти, а также большого количества других механизмов. Тем не менее, любой кто играл в современные компьютерные игры может убедиться на личном опыте как сильно продвинулось искусство создания виртуальных миров внутри машин.

Я ожидаю, что в ближайшие несколько лет мы найдём структуры, описанные на верхней диаграмме, внутри нашего мозга. Как наш мозг развил подобные способности? У видов приматов, которые предшествовали нам, должны были иметь подобные структуры, благодаря которым они могли бы продумывать несколько будущих шагов. Но затем, несколько миллионов лет назад, эта система, кажется, начала быстро развиваться, поскольку лобные доли нашего мозга развили их нынешний размер и архитектурную сложность; видимо это был ключевым этапом в развитии человеческого интеллекта.

Резюме


Эта глава описывала некоторые структуры и процессы, которые могут делать те же вещи, что и человек. Мы отметили набор уровней, которые мы можем использовать для последовательного увеличения способов мышления.

image

Однако, мы предположили много деталей о том, что происходит на каждом из этих уровней. Далее, я предположу как эта система работает на каждом конкретном уровне, постоянно реагируя на возникающие конкретные проблемы путём переключения на более подходящие Способы Размышления. Мы представим эту Модель Разума используя простейшую диаграмму:

image

Модель разума «Критик-Селектор»


В оставшейся части этой книги мы зачастую будем переключаться между этими двумя моделями разума, потому что каждая модель даёт лучшие ответы на определённые вопросы о нас самих. Модель Шести даёт лучшее различение различных уровней ментального поведения, а модель «Критик-Селектор» даёт лучшее понимание того, как мы можем разрешать сложные задачи.

Глава §7 объединит эти две модели, потому что мы зачастую используем различных Критиков и Селекторов на каждом когнитивном уровне.

image


Однако, независимо от того как построена эта система, она никогда не будет казаться законченной, пока она не будет знать мир, в котором находится. В частности, она должна уметь предвидеть некоторые возможные исходы действий, и она не сможет этого сделать до тех пор, пока не будет обладать соответствующими видами знаний. У людей это знание называется «здравым смыслом» и рассуждением. И хотя в повседневности эта фраза означает «вещи, которые большинство людей находят очевидными», следующая глава продемонстрирует, что «здравый смысл» является на удивление крайне сложным.



За перевод спасибо Станиславу Суханицкому. Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru


Об авторе


image

Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]

Интересные факты:

  • Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
  • Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
  • Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
  • Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
  • В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]



Про #philtech
image

#philtech (технологии + филантропия) — это открытые публично описанные технологии, выравнивающие уровень жизни максимально возможного количества людей за счёт создания прозрачных платформ для взаимодействия и доступа к данным и знаниям. И удовлетворяющие принципам филтеха:

1. Открытые и копируемые, а не конкурентно-проприетарные.
2. Построенные на принципах самоорганизации и горизонтального взаимодействия.
3. Устойчивые и перспективо-ориентированные, а не преследующие локальную выгоду.
4. Построенные на [открытых] данных, а не традициях и убеждениях
5. Ненасильственные и неманипуляционные.
6. Инклюзивные, и не работающие на одну группу людей за счёт других.

Акселератор социальных технологических стартапов PhilTech — программа интенсивного развития проектов ранних стадий, направленных на выравнивание доступа к информации, ресурсам и возможностям. Второй поток: март–июнь 2018.

Чат в Telegram
Сообщество людей, развивающих филтех-проекты или просто заинтересованных в теме технологий для социального сектора.

#philtech news
Телеграм-канал с новостями о проектах в идеологии #philtech и ссылками на полезные материалы.

Подписаться на еженедельную рассылку
Philtech-акселератор 150,51
Цифровая трансформация филантропии и соц.проектов
Поделиться публикацией
Комментарии 0

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Самое читаемое