Примерно неделю назад я прочитал эссе The Empty Brain («Пустой мозг») Роберта Эпштейна, доктора наук Гарвардского Университета и ведущего психолога-исследователя в Американском Институте Поведенческих Исследований и Технологий в Калифорнии. Несмотря на то, что мне это не свойственно, я решил написать ответ и утверждаю, что оригинальное эссе вовсе не отражает реального положения вещей.
В своём эссе Роберт Эпштейн утверждает, что ментальная модель человеческого мозга и процессы мышления не могут быть сравнены с ИП — информационным процессингом — происходящим внутри компьютера.
Кажется, что автор описывает ИП всего лишь как набор предопределённых алгоритмов, заложенных программистами, или как процесс записи фотографий на жёсткий диск. Поэтому, утверждает он, мы ошибаемся, когда используем эту абстракцию для описания нашего мозга.
Роберт Эпштейн также приводит примеры, которые поначалу выглядят весьма убедительно, но, на самом деле, вводят читателя в заблуждение, поскольку трудно представить, чтобы человек думал таким образом (и я не знаю ни одного учёного, чьё мнение напоминало бы это):
Ну, нет. Это так не работает.
У человеческого мозга нет научной степени по физике. Он развивается на основе того, что человек воспринимает, использует входные данные, получаемые от органов чувств, и совершенствуется посредством бесчисленных попыток делать что-то, получая позитивную или негативную обратную связь.
Очевидно, что физические и математические алгоритмы не предназначены для использования внутри мозга, поскольку они изобретены для моделирования мира в очень точной манере, тогда как мы очень хороши в приблизительных вычислениях.
Однако, тот факт, что в голове игрока в бейсбол — не математические формулы, не значит, что алгоритмы не участвуют в принятии решений.
Но почему стандартные компьютерные алгоритмы? Ведь у нас есть собственные, растящие сами себя внутри нашего мозга, те, что опираются на широкий спектр воспринятой информации, а не на физико-математическую модель мира.
За этим термином — много разных технологий, и, что важно, работа мозга не ограничивается работой нейронных сетей, однако я кратко опишу их. Базируясь на обычной низкоуровневой компьютерной логике, нейронные сети создают абстракцию, которая совершенно отличается от сохранения фотографий или создания презентаций в PowerPoint.
В общем, нейронные сети пытаются найти решение сложной функции, не зная самой этой функции. Например, функция — ответить Да, если объект присутствует на фотографии, и Нет, если его там нет.
Поскольку нейронная сеть не знает, какова функция, единственный способ заставить её работать — обучить с помощью набора подписанных фотографий. Каждый раз, когда нейронная сеть получает фотографию, она отвечает Да или Нет с некоторой степенью уверенности, а мы — подтверждаем или отвергаем ответ. Если сеть ответила правильно — всё ОК, в ином случае — она изменяет себя, чтобы найти способ давать верные ответы.
Если мы взглянем на нейронную сеть поближе, мы увидим множество простых математических уравнений, каждое из которых отвечает определённым образом на полученную часть входных данных. Каждый отдельный нейрон не имеет представления о том, что происходит в целой сети.
В очень упрощённом виде, вот как эта метафора работает. Видите? Это далеко от точки зрения автора. Никаких заранее заложенных алгоритмов, только те, что были сгенерированы естественным образом, и которые, кстати, по большей части, уникальны…
Дальше в своей статье Роберт Эпштейн говорит, что "нет никаких причин верить, что двое из нас изменятся одинаково, получив одинаковый опыт". Я полностью согласен с этим утверждением, правда. Но здесь же кроется и то, что поразило меня так сильно, что я начал писать этот пост:
Если мы запустим две идентичные нейронные сети на двух идентичных компьютерах, а затем дадим им разные входные данные (в качестве их «жизней»), в итоге мы получим две разные нейронные сети. После этого, если мы дадим им ещё входных данных, идентичных в этот раз, они отреагируют по-разному, и изменения, произошедшие с ними, также буду различаться.
Ошибочно думать, что компьютеры не способны работать с нечёткой логикой и зашумлёнными данными. Это всего лишь вопрос размера и организации, и широко известно, сколько нейронов в человеческом мозге, и как много связей между ними.
И, хотя весь пост был неагрессивным, теперь я немного взбешусь. Последний абзац возбудил во мне почти святой гнев. Только посмотрите на это:
Мало озарений, если они вообще были? Неужели? Добрая часть машинного обучения опирается на эту метафору, огромное количество исследований ИИ основываются на исследования человеческого мозга, и это что — мало озарений?
Это последнее утверждение выглядит для меня как предложение сдаться в исследованиях мозга. Зачем беспокоиться? Мы же не компьютеры, что там!
Это правда, что человеческий мозг намного сложнее и загадочнее, чем самые совершенные современные компьютеры. Его структура и процессы ещё не познаны, но — как и многие другие феномены — не непознаваемы.
И даже если наш мозг — компьютер, он красивый. Смиритесь с этим, пожалуйста. Нет ничего уродливого или плохого в том, чтобы быть одновременно компьютером и организмом.
PS. Я знал о нейронных сетях, но не о том, как они работают. Поэтому, спасибо Алану за объяснения и исправление ошибок.
Краткое введение
В своём эссе Роберт Эпштейн утверждает, что ментальная модель человеческого мозга и процессы мышления не могут быть сравнены с ИП — информационным процессингом — происходящим внутри компьютера.
Кажется, что автор описывает ИП всего лишь как набор предопределённых алгоритмов, заложенных программистами, или как процесс записи фотографий на жёсткий диск. Поэтому, утверждает он, мы ошибаемся, когда используем эту абстракцию для описания нашего мозга.
Роберт Эпштейн также приводит примеры, которые поначалу выглядят весьма убедительно, но, на самом деле, вводят читателя в заблуждение, поскольку трудно представить, чтобы человек думал таким образом (и я не знаю ни одного учёного, чьё мнение напоминало бы это):
Взгляд со стороны ИП требует от игрока в бейсбол прикидывать множество начальных условий полёта мяча: силу удара, угол траектории, такого рода вещи — чтобы затем создать и проанализировать внутреннюю модель пути, по которому мяч будет двигаться, и затем использовать эту модель, постоянно корректируя свои движения, чтобы поймать мяч.
Ну, нет. Это так не работает.
Примитивные алгоритмы
У человеческого мозга нет научной степени по физике. Он развивается на основе того, что человек воспринимает, использует входные данные, получаемые от органов чувств, и совершенствуется посредством бесчисленных попыток делать что-то, получая позитивную или негативную обратную связь.
Очевидно, что физические и математические алгоритмы не предназначены для использования внутри мозга, поскольку они изобретены для моделирования мира в очень точной манере, тогда как мы очень хороши в приблизительных вычислениях.
Однако, тот факт, что в голове игрока в бейсбол — не математические формулы, не значит, что алгоритмы не участвуют в принятии решений.
Но почему стандартные компьютерные алгоритмы? Ведь у нас есть собственные, растящие сами себя внутри нашего мозга, те, что опираются на широкий спектр воспринятой информации, а не на физико-математическую модель мира.
Нейронные сети
За этим термином — много разных технологий, и, что важно, работа мозга не ограничивается работой нейронных сетей, однако я кратко опишу их. Базируясь на обычной низкоуровневой компьютерной логике, нейронные сети создают абстракцию, которая совершенно отличается от сохранения фотографий или создания презентаций в PowerPoint.
В общем, нейронные сети пытаются найти решение сложной функции, не зная самой этой функции. Например, функция — ответить Да, если объект присутствует на фотографии, и Нет, если его там нет.
Поскольку нейронная сеть не знает, какова функция, единственный способ заставить её работать — обучить с помощью набора подписанных фотографий. Каждый раз, когда нейронная сеть получает фотографию, она отвечает Да или Нет с некоторой степенью уверенности, а мы — подтверждаем или отвергаем ответ. Если сеть ответила правильно — всё ОК, в ином случае — она изменяет себя, чтобы найти способ давать верные ответы.
Если мы взглянем на нейронную сеть поближе, мы увидим множество простых математических уравнений, каждое из которых отвечает определённым образом на полученную часть входных данных. Каждый отдельный нейрон не имеет представления о том, что происходит в целой сети.
В очень упрощённом виде, вот как эта метафора работает. Видите? Это далеко от точки зрения автора. Никаких заранее заложенных алгоритмов, только те, что были сгенерированы естественным образом, и которые, кстати, по большей части, уникальны…
Уникальность опыта
Дальше в своей статье Роберт Эпштейн говорит, что "нет никаких причин верить, что двое из нас изменятся одинаково, получив одинаковый опыт". Я полностью согласен с этим утверждением, правда. Но здесь же кроется и то, что поразило меня так сильно, что я начал писать этот пост:
Если вы и я присутвуем на одном концерте, изменения, происходящие в моём мозге, когда я слушаю 5-ю симфонию Бетховена, будут почти наверняка полностью отличаться от изменений в вашем. Эти изменения, какими бы они ни были, опираются на уникальную нейронную структуру, которая уже существует, и каждая из структур развивалась в течение целой жизни, состоящей из уникального опыта.
Если мы запустим две идентичные нейронные сети на двух идентичных компьютерах, а затем дадим им разные входные данные (в качестве их «жизней»), в итоге мы получим две разные нейронные сети. После этого, если мы дадим им ещё входных данных, идентичных в этот раз, они отреагируют по-разному, и изменения, произошедшие с ними, также буду различаться.
Ошибочно думать, что компьютеры не способны работать с нечёткой логикой и зашумлёнными данными. Это всего лишь вопрос размера и организации, и широко известно, сколько нейронов в человеческом мозге, и как много связей между ними.
Озарения
И, хотя весь пост был неагрессивным, теперь я немного взбешусь. Последний абзац возбудил во мне почти святой гнев. Только посмотрите на это:
Мы организмы, не компьютеры. Смиритесь с этим. Давайте продолжим попытки понять себя, но не будучи обременёнными ненужным интеллектуальным грузом. Метафоре ИП вот уже полвека, и она спровоцировала мало озарений, если они вообще были. Пришло время нажать на клавишу DELETE.
Мало озарений, если они вообще были? Неужели? Добрая часть машинного обучения опирается на эту метафору, огромное количество исследований ИИ основываются на исследования человеческого мозга, и это что — мало озарений?
Это последнее утверждение выглядит для меня как предложение сдаться в исследованиях мозга. Зачем беспокоиться? Мы же не компьютеры, что там!
Это правда, что человеческий мозг намного сложнее и загадочнее, чем самые совершенные современные компьютеры. Его структура и процессы ещё не познаны, но — как и многие другие феномены — не непознаваемы.
И даже если наш мозг — компьютер, он красивый. Смиритесь с этим, пожалуйста. Нет ничего уродливого или плохого в том, чтобы быть одновременно компьютером и организмом.
PS. Я знал о нейронных сетях, но не о том, как они работают. Поэтому, спасибо Алану за объяснения и исправление ошибок.
