Как найти алгоритм работы интеллекта

    В нашем блоге мы рассказываем о виртуализации инфраструктуры и соответствующих технологиях. Почерпнуть что-то интересное можно не только из опыта работы с инфраструктурными проектами, но и из теоретических работ, направленных далеко в будущее. Сегодня мы решили взглянуть на книгу Майкла Нилсена, рассуждающего на тему алгоритмизации интеллекта.


    / фото Sean Davis CC

    Как отмечает автор, основная причина исследования нейронных сетей кроется в надежде, что однажды с их помощью мы сможем выйти далеко за рамки таких базовых задач распознавания образов. Возможно, тот или иной подход приведет нас к разработке искусственного интеллекта, который сравнится или превзойдет возможности человека.

    Но существует ли простой набор принципов, с помощью которых можно объяснить, что такое интеллект? А еще лучше найти алгоритм работы интеллекта. Уж слишком оптимистично это звучит, чтобы быть правдой, но тут есть надежда на то, что в итоге все можно будет объяснить набором простых, но фундаментальных идей.

    Рассмотрим, к примеру, астрономию на ранних этапах или бесчисленное множество химических веществ, из которых состоит наш мир, так прекрасно упорядоченных Менделеевым в его периодической таблице. Даже если отойти от этого в сторону, то вполне допустимо существование форм интеллекта, которые не обладают человеческим образом мышления, но, тем не менее, превосходят его в том или иной направлении.

    Количественный подход к оценке работы человеческого мозга можно рассмотреть с позиций коннектомики, которая занимается вопросами построения связей: сколько нейронов существует в мозге, сколько глиальных клеток и сколько соединений наблюдается между нейронами. С учетом наличия миллиардов нейронов, клеток и связей мы явно не придем к простому алгоритму работы интеллекта.

    При втором, более оптимистичном подходе, мозг рассматривается с точки зрения молекулярной биологии. Смысл подхода в том, чтобы выяснить, какое количество генетической информации необходимо для описания архитектуры мозга. Тут можно заметить, что геномы человека и шимпанзе отличаются примерно на 125 миллионов пар оснований ДНК, а сходство человека с шимпанзе составляет около 96 процентов.

    Каждую пару оснований можно описать двумя битами информации – этого достаточно, чтобы указать один из четырех типов оснований. Таким образом, 125 миллионов пар оснований равны 250 млн бит информации. Даже если половина приходится на отличия между мозгом человека и шимпанзе – это в общей сложности 125 млн бит или (условно говоря) 125 млн букв (или примерно 25 миллионам слов на английском). Ну а если вспомнить, что мы говорим только о части мозга, то становится понятно, что наш геном скорее должен определять общую архитектуру и основные принципы, лежащие в основе работы мозга.

    Представление о мозге с точки зрения молекулярной биологии упрощает сложность нашего описания примерно на девять порядков. Хотя это и вдохновляет, мы всё равно не получаем ответа на вопрос о возможности существования по-настоящему простого алгоритма работы интеллекта. Можем ли мы сделать это описание еще более простым?

    Эксперимент, опубликованный в апреле 2000 года в журнале Nature, описывающий «перенастройку» мозга новорожденных хорьков, показал, что в основе разных зон мозга могут быть заложены общие принципы восприятия сенсорной информации. Такая общность, в свою очередь, является аргументом в пользу идеи о существовании набора простых принципов в основе работы интеллекта.

    С другой стороны мы знаем, что эволюционными психологами был открыт широкий спектр человеческих универсалий, общих норм поведения для всех людей, независимо от их культурной принадлежности или воспитания. Было выяснено, что за многие человеческие нормы поведения отвечают конкретные зоны мозга, которые схожи у всех людей.

    Исходя из вышесказанного, некоторые люди делают выводы о том, что мозговая функция обладает нечленимой сложностью, которая, в свою очередь, исключает простое объяснение работы мозга (и, возможно, простой алгоритм работы интеллекта). Такой точки зрения придерживается исследователь искусственного интеллекта Марвин Минский (Marvin Minsky).

    В 1970-1980-х годах Минский разрабатывал теорию под названием «Общество разума», в основе которой лежит идея о том, что человеческий разум – это результат взаимодействия индивидуально простых (но очень разных) вычислительных процессов, которые Минский назвал агентами. Изложив свою теорию в одноименной книге, Минский приходит к следующему выводу:

    В чем заключается секрет нашего интеллекта? Секрет в том, что никакого секрета нет. Сила нашего интеллекта исходит не из одного совершенного принципа, а из их [принципов] совокупности.

    Конечно, сложно поверить в то, что мы найдем действительно короткую программу на языке Python (или С, или Lisp, не суть важно) – скажем, где-то до тысячи строк кода – которая будет реализовывать искусственный интеллект, но действовать нужно так, словно чрезвычайно простой алгоритм работы интеллекта существует. Ключ к искусственному интеллекту – в простых, фундаментальных идеях, и мы можем и должны с оптимизмом относиться к их поиску, заключает Нилсен.

    P.S. Мы делимся не только собственным опытом работы над сервисом по предоставлению виртуальной инфраструктуры 1cloud, но и опытом западных экспертов в нашем блоге на Хабре. Не забывайте подписываться на обновления, друзья!
    1cloud.ru
    IaaS, VPS, VDS, Частное и публичное облако, SSL

    Comments 60

      +2
      Исходя из вышесказанного, некоторые люди делают выводы, что для каждой из мозговых функций нужно отдельное объяснение, и как результат, что мозговая функция

      Здесь не понятно, что автор имеет под термином «мозговая функция», видимо только чтение оригинала может это разяснить.
      Так которая из двух точек зрения правильна?
      Не понятно почему должно быть две крайности…
      Эксперименты подтверждающие пластичность мозга были проведены уже достаточно давно, хотя в 60-х не казалось глупо утверждать что в мозге есть специальные отделы для каждой человеческие нормы поведения. Они конечно есть, но не следует путать причину и следствие. То есть автор придумывает два варианта, один из которых очевидно проигрышный, а потом на основе этого делает выводы.
      При этом подсчет битов в ДНК и выражение в интересных величинах заставляет сомневаться в квалификации ученного.
        +1
        Более того, даже если не брать во внимание, подсчеты бит в ДНК, сама идея, что разница между человеком и шимпанзе включает в себя искомый интеллект в корне неверна. Я далек от биологии, но что-то мне подсказывает, что нету никакой принципиальной разницы между мозгом человека и шимпанзе. У человека просто более большой «каток» и немного по-другому настроенный.
          0
          Если бы разницы не было вообще, то шимпанзе которые воспитывались с детьми не останавливались бы в развитии. Хотя здесь я не уверен, нужно больше почитать, возможно, отличия минимальны и шимпанзе сильно мешает тот факт, что она не может произносить слова, и в результате её обратная связь речи и слуха не дает такого же эффекта для обучения как в случае с человеческим детенышем.
          http://cribs.me/zoopsikhologiya-i-sravnitelnaya-psikhologiya/sravnitelnye-aspekty-ontogeneza-rebenka-i-shimpanze
            0
            Есть другое направление исследований — коррекционная психология. Интересна она тем, что есть люди, которым также становится тяжело/невозможно преодолеть определённый порог в развитии из-за относительно небольших генетических или физиологических отклонений.
            В книге «Цветы для Элджернона» Дэниса Киза описывается подобное отклонение, а также последствия его лечения. К сожалению, не знаю, насколько оно соответствует реальности, но небольшие генетические отклонения действительно приводят к серьёзным последствиям в развитии человека — вероятнее всего, из-за изменений в функционировании головного мозга.
            0
            Тут подробнее про эксперименты expert.ru/russian_reporter/2007/24/pochti_chelovek
            0
            А что не так в подсчете количества информации и измерении его в битах?
              0
              А что не так в оценке будущих свойств и характеристик растения по размеру его семечки?
              Я не говорил что нельзя информацию измерять в битах.
            0
            Что понимается в статье под интеллектом?
              –2
              «Поэтому под вопросом: «Существует ли простой алгоритм работы интеллекта?» я подразумеваю: «Существует ли простой алгоритм, который способен «думать» так же, как человеческий мозг?» Видимо это.
                +1
                Присоеденяюсь к вопросу — есть вообще 4 понятия, которые люди путают и называют интеллектом )
                Мозг, Интеллект, Ум, Разум
                  0
                  Мозг с интеллектом вроде как не путают. Мозг — это вроде мяса, только мягкое и вкус специфический.
                    –1
                    Для меня мозг — это не кусок мяса )
                    Для меня мозг — это инструмент для анализа данных, в котором я могу сопостовлять любые условия и получать ответ.
                      +2
                      Вы просто не видели, какие вкусняшки из него можно сделать. Анализ данных по сравнению с ними такая ерунда, уж поверьте.
                        –1
                        Да, очень интересно будет взглянуть на эволюцию ваших взглядов, куда она вас приведет.
                          +1
                          Этап, когда я писал слова «разум» или «интеллект» с большой буквы, прошёл лет пятнадцать назад. В юности вообще ко многому серьёзно относишься, а потом разбираешься в сути, и оказывается, что это то ли мясо, то ли цепочка химических реакций, то ли усложнённая версия обычных животных инстинктов.
                            –1
                            С какой стати вы решили, что мне интересно знать о вашем прошлом и о том какие решения вы приняли, чтобы взять информацию из более авторитетных источников, не разбираясь в вопросе?
                              +3
                              Судя по вашему ответу, я невзначай запустил в вашем мясе цепочку химических реакций, которые возбуждают нейроны, ответственные за эмоцию раздражения. Запускайте тормозящие нейроны. Я ничего не решал на этот счёт, и никакого интереса о моем прошлом в вас вызывать не собирался.
                                –2
                                Я просто спросил, с чего вы решили, что то, что вы мне предлагаете — мне интересно? (ноль раздражения)
                                  –1
                                  А он ничего не решил. Это вы решили, что он решил :)
                                    0
                                    В момент, когда он мне написал комментарий о своей жизни в навязчивой форме.
                                      0
                                      Я вас насильно заставил его прочитать? О_о
                0
                Пока вы строите теории, кое-кто уже собирается пускать ИИ на поток, хе-хе: 1st Ever Artificial Consciousness to be Written in D Language
                  0
                  Это какой то ушлый тип из Нигерии. Его там на смех подняли.
                    0
                    Да, я и сам там выразил своё фи. Чудак, впрочем, скорее из Японии, судя по имени и названии компании. Конец сентября близко, посмотрим, что этот японутый накодит к своим обещаниям.
                  0
                  Да так ли уж человек умен? Каких то 300 лет назад, до Ньютоновской механики, кормчий не способен был направить судно в открытом океане. И многие не способны сделать это сейчас с компасом или без. Может все дело в накоплении и систематизации знаний, которыми люди занимаются веками, а не на протяженности одной жизни(как экспериментальный шимпензе). В таком свете сеть и распределенные вычисления прямехонькая дорога к ИИ. К примеру бытовой «OK Google» наверняка потряс бы А. Тьюринга и кстати вполне способен направить пресловутое судно.
                  • UFO just landed and posted this here
                      0
                      Согласно единственному на сегодня общепринятому формальному определению, Тесту Тьюринга, ИИ это —
                      способность ввести человека в заблуждение, заставив сделать неверный выбор.
                      Мне лично способность править судно кажется более востребованной.
                      • UFO just landed and posted this here
                      +2
                      Чего???
                      300 лет назад — это, эскьюз муа 1715 год. Океанское плавание уже давно во весь рост.
                        0
                        habrahabr.ru/company/1cloud/blog/266641/#comment_8570877
                        То есть у животных это тоже есть, но в недостаточном количестве.
                        –1
                        Чем плох принцип правильно организованной кучки гомеостатов?
                        У. Эшби. Конструкция мозга, 1962 г.
                          0
                          > «Такова разница между геномами человека и шимпанзе!»
                          250 млн бит = 29,8 МБ. Большой PDF…
                            0
                            Это объем данных, а количество ЦЕННОЙ информации в PDF намного меньше. Сохраните книгу в текстовом формате, а после заархивируйте. Это и будет примерное значение количества информации.
                              +1
                              А в геноме разве вся информация ценная?
                                0
                                Автор же пишет об этом — да, в геному тоже избыточность, но не учтя ее, мы просто получаем верхнюю оценку. Т.е. учет избыточности как бы еще больше в пользу доводов автора.
                                0
                                Во-первых, в PDF (если там нормальный текст, конечно, а не сканы) текстовые данные и так уже пожаты GZip. Если на небольших документах из-за встроенных шрифтов PDF выходит больше, то на объёмистых уже разница меняется. Ну и прочая встроенная информация (например, схемы, изображения) тоже может являться ценной, но при этом не будет перенесена в текстовик.
                              0
                              Мне кажется, большинство таких статей и исследований двигаются немного не в том направлении. Для создания ИИ нет большого смысла изучать, чем отличается интеллект шимпанзе от интеллекта человека. Даже не нужно стремиться создать интеллект, близкий к человеческому. Дикие животные вполне самостоятельно живут в лесах, добывают пропитание, причем обучаются этому тоже самостоятельно. Ни одна нейронная сеть на данный момент на такое не способна.

                              На мой взгляд, в статье много воды, но в ней высказана правильная мысль — у нервных клеток должны быть простые общие принципы обучения и взаимодействия. Никакой жестко заданной программой нельзя заставить электронную собаку научиться понимать новые команды на любом языке и гавкать на чужих. Или даже просто двигаться на четырех лапах и прыгать через препятствия. Когда будут разработаны такие принципы, можно будет говорить, что мы приблизились к пониманию того, как устроен интеллект.
                                0
                                Точно подметили, об отличиях тут говорить не уместно, как будто сейчас, например, могут запрограммировать работу мозга мыши. Если бы это было так, то даже мышь можно научить чему-нибудь.
                                +1
                                Поэтому под вопросом: «Существует ли простой алгоритм работы интеллекта?» я подразумеваю: «Существует ли простой алгоритм, который способен «думать» так же, как человеческий мозг?»

                                Человеческий мозг не думает. Без всего остального окружаещего этот мозг, он не будет «думать». Например, человек выросший в лесу и воспитываемый животными не будет обладать высокими мыслительными способностями, и даже когда он попадет в общество людей это изменить уже не получалось. Это не означает что мозг конкретного человека физически неудовлетворяет условиям необходимым для развития интеллекта подобного интеллекту среднего человека.
                                Нельзя сказать что горилла Коко не умеет думать, она обладает каким-то примитивным интеллектом, её смогли научить говорить на языке жестов. Она может абстрагировать, например, она использует знак «открыть» чтобы сказать открыть дверь, открыть коробку или открыть кран. Но возможно ли научить её осознанию абстрагирования? Если возможно научить, то её разум не будет отличаться от разума человека по Коржибскому.
                                Человек и горилла физически отличаются очень сильно чем человек от другого человека, поэтому человеку труднее общаться с гориллой, труднее обучать её.
                                  0
                                  Конечно существует простой алгоритм, просто он требует очень большой вычислительной мощности!
                                  Как известно, любую решаемую задачу можно решить простых перебором. Это первый путь. Шахматные алгоритмы ближе к этому варианту.
                                  А вот чтобы реализовать решение, требующее меньшей вычислительной мощности, работающее на имеющемся десктопном/серверном/облачном железе, пользуясь современными приёмами разработки, требуется разработать и соединить воедино сотни тысяч быстрых и экономных «простых алгоритмов». Именно поэтому данная задача сложна. Это второй путь. IBM Watson и ABBYY Compreno — продукты, следующие по данному пути.
                                  Есть и относительно новый третий путь — натренировать нейросети на эти сотни тысяч алгоритмов, чтобы их не программировать. Для ускорения решений, полученных этим способом, их можно трансформировать в алгоритмы для второго способа. Пример компании, предпочитающей данный путь — Metamind.
                                  Кто победит? Покажет время.
                                  Для первого пути мощности компьютеров не хватит даже через 10 лет, второй путь не даёт быстрого прогресса, третий путь тоже упирается в ограничения мощности и, к сожалению, пока не позволяет добиться высокого качества отдельных алгоритмов.
                                    +2
                                    Ах, прям вдохновили на работу сутра. Завтра же начну разработку «простого» ИИ. Скайнет вперёд!
                                      0
                                      Известно, что текст на английском языке содержит oколо 1 бита информации на букву.

                                      Вообще-то около 8 бит или 1 байта. Так что все оценки делим на 8 и получаем не 30 а всего около 4 книг.
                                        +3
                                        Вообще-то около 8 бит или 1 байта. Так что все оценки делим на 8 и получаем не 30 а всего около 4 книг.


                                        Это не верное утверждение. Измеряется информационная емкость текста целиком, а не каждый буквы. И, поскольку, буквы не могут идти в любом случайном порядке, а слова иногда очень длинные и закодированы не оптимальным образом, то информационная емкость текста в целом ниже.

                                        Взять, например, этот документ English Literature Its History and Its Significance for the Life of the English Speaking World. Сохранив все символы этой страницы я получил 1 188 475 символов, а заархивировав, получил 420 487 байт. То есть, один байт кодирует в среднем три символа, и это еще не все.
                                          0
                                          Если следовать вашей логике, то в английском языке 26 букв + знаки препинания, т.е. максимум 6 бит (64 символа). Но, как написали выше, количество бит на букву рассчитывается исходя из размера в сжатом виде.
                                            –1
                                            даже если так, то откуда 1 бит? как одним битом можно описать несколько различных вариантов (больше двух)?
                                              0
                                              Одним битом — нельзя. Но это и не утверждалось в статье. Утверждалось, что, грубо говоря, англоязычный текст длиной 1024 символа, может быть закодирован в 1024 бита информации.
                                          0
                                          Оценивать количество связей, конечно, не правильно. Если проводить аналогии с электроникой, то транзисторов в современном процессоре очень очень много, но он имеет определенную структуру, топологию, которая все это описывает. И если увеличение объема кэш памяти вдвое хотя и увеличило бы количество транзисторов и связей существенно — в целом не повлияло бы на устройство и принцип работы. С мозгом, пожалуй, тоже самое. Нужно не копировать и считать связи, а пытаться понять алгоритм работы и принцип устройства.
                                            0
                                            А разве «Vital»-исты не были теми самыми оптимистами, предлагающими простой и интуитивный алгоритм функционирования «жизни»? А в итоге выросла сложная и многогранная наука — Биология. Которая хорошо объясняет, и раскладывает по полочкам, но «простой» её в общем-то не назвать.
                                              0
                                              Касательно эксперимента на хорьках: вспомнил очень хорошую лекцию в TED, там описывался специальный жилет, который надевали на глухих людей, и все звуки с микрофонов трансформировались в тактильные ощущения. Через несколько дней люди начинали «слышать» спиной.
                                                0
                                                Смысл подхода в том, чтобы выяснить, какое количество генетической информации необходимо для описания архитектуры мозга.


                                                «Генетическая информация» не описывает никакую архитектуру в принципе.

                                                Остальные рассуждения примерно такие же. Очень веско и на полметра мимо.
                                                  +1
                                                  Вы не совсем правы — учёные считают, что из почти 30000 человеческих генов до половины (т.е. почти 15000) описывают как раз особенности формирования и работы нервных клеток в разных областях мозга.
                                                  Или вы считаете случайностью то, что, грубо говоря, в мозжечке есть клетки Пуркинье, а в лобной доле их нет?
                                                  Просто проблема в том, что zip-архив со схемой расположения транзисторов в компьютере без распаковки очень мало говорит про механизм вычислений, используемый этим компьютером — да и даже после распаковки мало что скажет. И тем более, нужна отдельная дисциплина — Computer science, чтобы научиться более-менее эффективно пользоваться данным компьютером и понимать его особенности работы с информацией.
                                                  Но вы безусловно правы в том, что «computer science» человеческого мозга не кодируется «схемой расположения нейронов».
                                                    0
                                                    Я вообще не об этом говорю.

                                                    Гены определяют механизм развития каждой клетки отдельно, а не описывают итоговый результат. Это принципиально разные вещи. Игру Life Конуэя знаете? У нее есть система правил, описывающих жизнь «клетки». Если взять некоторое количество клеток и запустить их в некотором окружении, то на основе этих правил через некоторое время будет построена фиксированная или динамическая «картинка». Но правила напрямую не описывают картинку. И каждый раз в постоянной среде эта картинка будет одной и той же. Это, конечно, очень упрощенно, но гораздо ближе к правде. Хотите подробностей, почитайте Маркова, например.

                                                    И вот потом начинается в статье по ссылке сравнение информации генома человека и обезьяны. Мало того, что там может быть до черта лысого мусорной информации. Но и сам по себе объем (и тем более разница в объеме) этой информации не имеет прямой корреляции с тем, насколько сложным будет именно мозг.

                                                      0
                                                      Да, согласен, что рассуждения в статье базирующиеся на оценке дельты количества генетической информации и остальные — немного наивны и неправомерны.

                                                      Просто Ваше утверждение правильнее было бы сформулировать так: количество «Генетической информации» на прямую не соответствует количеству информации необходимой для описания архитектуры мозга.
                                                      Утверждение же "«Генетическая информация» не описывает никакую архитектуру в принципе." ложно в принципе.
                                                      Отсюда и реакция buriy

                                                      Аналогия: размер листинга программы в байтах не имеет прямой корреляции с количеством данных на выходе программы, измеренным в байтах. Но программа может описывать выходные данные (особенно если исключить входные данные включая данные с датчика случайных чисел — тогда описание будет однозначным)
                                                      В общем-то это очевидно, но счёл нужным обратить внимание.

                                                        0
                                                        Мое утверждение правильно формулируется так, как оно и было сформулировано.

                                                        А вот попытка проводить аналогии в различных областях знаний, будучи знакомым только с одной из них, как раз и приводит к ложным результатам.

                                                  0
                                                  Для интересующихся могу рекомендовать книгу Томаса Метцингера «Туннель Эго».
                                                  Написано сложновато, лично мне порой нужно остановиться, подумать, а то и перечитать отрывок заново.
                                                  Множество интересных открытий. К примеру, чувство «это мое личное решение, я так решил» можно вызвать искусственно, что позволяет взглянуть на давний вопрос свободы воли иначе.
                                                    0
                                                    Думаю создать искусственный интеллект (ИИ), в том виде, в каком его на самом деле хочет человечество, невозможно логически.
                                                    Ведь мы хотим создать не соперника человека (только умнее и сильнее), а умную коробочку, которая сможет мыслить абстрактно и анализировать как человек, но при этом с определенными ограничениями, иначе машина вполне справедливо может прийти к выводу, что больше всего несчастий у человечества было от него же самого (нет, это не фантастика, посмотрите на историю мира через призму холодного логического анализа).
                                                    А теперь давайте подумаем можно ли создать абстрактное мышление с какими-либо ограничениями?
                                                    Нет, нельзя, потому что абстрактное мышление — это по определению открытый граф, со множеством пересечений, параллельных ветвей и обратными циклами (иногда зацикливанием), когда мы ищем решение неизвестной задачи, мы знаем только стартовую точку (и та в ходе решения тоже может смещаться), но где кончится граф, какой путь при этом будет создан — не знаем, в противном случае — это уже алгоритм решения известной задачи.
                                                    Получается мы хотим создать ИИ, который будет умный — но не очень, абстрактный — но по нашему алгоритму. Не получится.
                                                      0
                                                      Ошибка в тексте:
                                                      Известно, что текст на английском языке содержит oколо 1 бита информации на букву.

                                                      Наверное тут 1 байт.
                                                      0
                                                      По поводу «ориентационной карты».
                                                      Нечто похожее получается у ЛеКуна (http://www.frontiersincomputervision.com/slides/FCV_Learn_LeCun.pdf) при обучении свёрточных нейронных сетей на массиве изображений.
                                                      image

                                                      И алгоритм свёрточных сетей не сказать что бы уж очень сложен

                                                        +1
                                                        Вообще-то культура и накопление знаний есть и у животных. Вот тут, например, описание двух конкурирующих технологических культур у шимпанзе elementy.ru/news/430954 причём они на столько устойчивы, что археологи находят камни с соответствующими расколами возрастом в 1000 лет на том же самом месте.

                                                        Что более интересно, точно также культура обнаружена у птиц. Вот на примере синиц: elementy.ru/news/432371 Это на самом деле потрясающий результат, потому что природа культуры та же самая, не смотря на то, что у птиц развиты совсем другие отделы мозга. Те отделы, из которых у человека выросла кора больших полушарий у птиц остаётся милипипического размера.

                                                        В первой статье предлагается ещё и очень убедительное предположение о том, каким именно количественным а не качественным параметром в первую очередь отличается мозг обезьяны от мозга человека.

                                                        Only users with full accounts can post comments. Log in, please.