Продолжаю публиковать отрывки из книги "Разум в сети". Теперь о том, почему мы так далеки от действительного искусственного интеллекта. И не факт, что сможем его достигнуть.
…
— Ты знаешь, что мы тоже работали над созданием искусственного интеллекта?
— Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Ваши нейросети – это пока не более чем классификаторы сложных паттернов, которые выбирают какой-то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Сеть о ней ничего не знает. Это не интеллект.
— Поясни. Не понял этот тезис.
— Вам кажется, что вы сделали нейросеть, которая как человек распознает образы. Она может различить лошадь и пароход. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Мозг отличается именно аналитической функцией, то, что вы называете common sense.
— Но нейросети уже многое могут то, что раньше мог только человек. Разве это не интеллект?
— Самый совершенный ваш автопилот не может действовать так же эффективно как обычная пчела. Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела — это насекомое, самое начало эволюции нейронных систем. Вы находитесь где-то на том же шаге в разработке интеллекта. И достигаете результата только за счет больших масштабов.
Кстати, обученные вами нейросети, с подкреплением особенно, похожи на выработку врожденных инстинктов у насекомых. Только время их выработки вы сумели сжать до нескольких часов вместо тысячи лет, собрав датасет из картинок, которые жучок может увидеть только за сотню поколений. Но поменять инстинктивное поведение обученной сети вы уже не можете, как и жучок свои инстинкты. Это тот уровень, которого вы достигли. А интеллект – это память, внимание, мышление, воображение и, в конце концов, сознание. Вы даже не знаете еще, что это такое, но думаете, что можете создать их. Это очень странно.
— Мы, видимо, очень уверены в себе.
— Пока вы даже не создали систему хранения информации как она есть в мозгу. Вы не знаете как устроена память и пытаетесь создать онтологии и семантические сети, которые не имеют ничего общего с интеллектом. Интеллект – это решение задач. Память – это тоже задачка, а не обращение к жесткому диску, где все храниться в готовом виде, как многие из вас думали. И даже распознание – это серия движений между точками фиксации, как видно по eyes tracker, а не распознание в один шаг.
— Наши достижения ничтожны?
— Нет, но они еще далеки от того, что является интеллектом. Вы не научились моделированию среды, о котором я писала тебе, когда мы говорили о том, что такое жизнь и разум. А это базовый функционал интеллекта. Вы называете это картинной мира.
— А если мы все-таки создадим когда-нибудь искусственный интеллект?
— Чтобы быть разумным, интеллекту нужно сознание себя как возможность изменять собственную программу. Так же как вы перепрограмируете себя через речь, обучаясь новому. Как только вы наделите программу такой способность, то есть моделью себя с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он моментально усовершенствует себя, станет умнее и начнет контролировать вас как «более умная машина». Она научится предугадывать ваши ответы раньше, чем они у вас появятся.
— Тогда мы можем усилить наш биологический мозг! Соединить биологические мозги людей в сеть. И усилить их таким образом. Был у людей и такой сценарий. Многие мои коллеги до катаклизма видели развитие в киборгизации человека, в объединении его с компьютером. Даже появились проекты по нейроинтерфейсам.
— Обрабатывать больше информации биологический мозг все равно не может. И нет возможности его усилить — мысль находится только «на кончике языка» или моторного аксона. Мышление – это и есть интериоризированная, то есть мысленная речь. Мышление ограничено скоростью работы этого тракта. Никаких законченных мыслительных процессов в мозге больше нигде нет. Вся бурная деятельность мозга, которую Вы видите на МРТ, направлена на формирования одного очередного слова. Активация каких-либо еще нейронов мозга приведет только к дезинтеграции и потере сознания. Или к эпилепсии. Увеличить скорость обработки просто невозможно, так как в этом есть биологический предел, определяемый работой нейронов. Эволюция бы сама не упустила такую возможность, если бы она была.
— Но у человечества были проекты по нейроинтерфейсам, которые увеличат память.
— Это очень наивно. Так же, как если бы аборигены решили полететь в космос, полагая, что он находится на кончике самого высокого дерева. Нейроны не могут хранить больше, чем хранят уже, если их самих не стимулировать образовывать новые связи. Внешние связи не усилят мозг. Нет в мозгу и нейронов, которые ждут, что на них что-то запишут.
— То есть ты считаешь, что все эти проекты не помогут нам стать умнее?
— Бесполезно к мозгу шимпанзе прикреплять электронные чипы. Она не заговорит как человек. Это структурное ограничение. Все что вы можете совершенствовать в мозге – это наделить его более совершенными знаниями. Но и тут есть ограничения. Вы не можете поменять в корне свои базовые представления, однажды их усвоив. Здесь я уже не могу тебе пояснить почему.
— Это настолько сложно?
— Нет. Потому что мне надо излагать тебе понятия, которых у вас даже нет. Мне трудно тебе объяснить их так, чтобы было точно, но при этом понятно. Представь, что тебе надо объяснить понятие времени на языке криков шимпанзе. Наши системы знаний очень разные.
— Неужели мы совсем не можем понять то, что знаете вы?
— Некоторые аспекты – совсем. Ваше мышление построено на очень примитивных схемах, например, схемах вашего тела, и вы не можете понять, что можно рассматривать процесс совсем иначе. Ваше мышление телесно укоренено. Например, вы не можете представить время многомерным. Потому что время для вас линейно как путь, метафорой которого оно является. И вы не можете преодолеть это ограничение. Так же и со многими другими понятиями – их истоки лежат через метафору в совсем примитивных понятиях древних людей, такими как власть сверху (властители всегда говорили с возвышения). Отсюда представления об иерархии, что совершенно неверно – в реальности нет никаких иерархий, это иерархия понятий, но не явлений в природе.
— Но мы разумные существа, а значит найдем способ обойти такие ограничения.
— Некоторые из них обусловлены вашим строением. Например, ваше познание ограничено одноканальным сознанием, которое похоже на взгляд на небо через подзорную трубу. Вы не можете видеть сразу через тысячу труб, только последовательно. Если же вы выстроите вряд тысячу астрономов, наблюдающих в разные части неба через телескопы, то вам придется долго разговаривать и рисовать коллективный рисунок звездного неба, чтобы создать общую для всех целостную картину. И из-за того, что у каждого своя голова и свои, отличные от других представления и опыт, согласовать картину будет очень трудно. На это уйдет очень много времени, за которое картина на небе уже многократно сменится. Каждый же из вас носит свой отдельный мир в черепной коробке. И пытается согласовать его с другими через узкий канал знаковой коммуникации. Это только понятный тебе пример. Этим мы отличаемся от вас — мы находимся в одной сети с прямым доступом каждого к знанию других.
— Договориться нам действительно трудно. Но тут есть решения, мы выкладываем знания в сеть и делаем совершенные поисковые алгоритмы. Это похоже на то, что ты говоришь про вас?
— Это все равно доступ к другому мнению кого-то, но не к системе его знаний. Тебе все равно придется перекладывать найденное знание на свое представление. Интерпретировать в своей модели, которая у тебя в голове. У нас нет отдельной модели у каждого. Она как бы общая на всех. Потому что мы в одной сети. Новое знание сразу становится доступным всем.
— Мы тоже можем создавать такое новое знание только из того, что прочитали.
— Создавая новое знание, вы тащите из прошлого свои представления о мире. Они служат основой для создания новых представлений через метафоры. Поэтому в основе даже новых представлений лежат старые взгляды на мир. В итоге вы оказываетесь у предела познания, пока не отбросите старые схемы мышления и не пересмотрите все стоящие на них знания как со временем. Это ограничивает ваши возможности в познании. Об этом писал ваш историк Т. Кун.
— Но значит, мы можем их менять, раз мы сами пишем об этом.
— Не все. Например, вы считаете мир константным, конечным и логичным. А время линейным. Что не верно. В наших формулах, например, нет времени. Такие фундаментальные понятия, лежащие в основе всех ваших представлений, вы не можете отбросить и заменить на другие. Это создает своего рода предел ваших возможностей, потолок знаний. При все увеличивающемся потоке знаний парадигмы остаются прежними. В силу этого у нас есть подозрения, что вы не способны понять даже самих себя.
— Почему?
— Потому что вы находитесь внутри собственных чувств, и считаете их тем, что и есть мир. Чтобы понять, что они есть на самом деле, вам надо выйти за пределы собственных ощущений, отвергнуть их как нечто очевидное. Оно не очевидно. Например, вы считаете сознание единым актом и не различаете его с восприятием, а это тоже неверно. Ваши чувства вас обманывают, но вы находитесь у них в плену.
…
— Ты знаешь, что мы тоже работали над созданием искусственного интеллекта?
— Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Ваши нейросети – это пока не более чем классификаторы сложных паттернов, которые выбирают какой-то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Сеть о ней ничего не знает. Это не интеллект.
— Поясни. Не понял этот тезис.
— Вам кажется, что вы сделали нейросеть, которая как человек распознает образы. Она может различить лошадь и пароход. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Мозг отличается именно аналитической функцией, то, что вы называете common sense.
— Но нейросети уже многое могут то, что раньше мог только человек. Разве это не интеллект?
— Самый совершенный ваш автопилот не может действовать так же эффективно как обычная пчела. Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела — это насекомое, самое начало эволюции нейронных систем. Вы находитесь где-то на том же шаге в разработке интеллекта. И достигаете результата только за счет больших масштабов.
Кстати, обученные вами нейросети, с подкреплением особенно, похожи на выработку врожденных инстинктов у насекомых. Только время их выработки вы сумели сжать до нескольких часов вместо тысячи лет, собрав датасет из картинок, которые жучок может увидеть только за сотню поколений. Но поменять инстинктивное поведение обученной сети вы уже не можете, как и жучок свои инстинкты. Это тот уровень, которого вы достигли. А интеллект – это память, внимание, мышление, воображение и, в конце концов, сознание. Вы даже не знаете еще, что это такое, но думаете, что можете создать их. Это очень странно.
— Мы, видимо, очень уверены в себе.
— Пока вы даже не создали систему хранения информации как она есть в мозгу. Вы не знаете как устроена память и пытаетесь создать онтологии и семантические сети, которые не имеют ничего общего с интеллектом. Интеллект – это решение задач. Память – это тоже задачка, а не обращение к жесткому диску, где все храниться в готовом виде, как многие из вас думали. И даже распознание – это серия движений между точками фиксации, как видно по eyes tracker, а не распознание в один шаг.
— Наши достижения ничтожны?
— Нет, но они еще далеки от того, что является интеллектом. Вы не научились моделированию среды, о котором я писала тебе, когда мы говорили о том, что такое жизнь и разум. А это базовый функционал интеллекта. Вы называете это картинной мира.
— А если мы все-таки создадим когда-нибудь искусственный интеллект?
— Чтобы быть разумным, интеллекту нужно сознание себя как возможность изменять собственную программу. Так же как вы перепрограмируете себя через речь, обучаясь новому. Как только вы наделите программу такой способность, то есть моделью себя с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он моментально усовершенствует себя, станет умнее и начнет контролировать вас как «более умная машина». Она научится предугадывать ваши ответы раньше, чем они у вас появятся.
— Тогда мы можем усилить наш биологический мозг! Соединить биологические мозги людей в сеть. И усилить их таким образом. Был у людей и такой сценарий. Многие мои коллеги до катаклизма видели развитие в киборгизации человека, в объединении его с компьютером. Даже появились проекты по нейроинтерфейсам.
— Обрабатывать больше информации биологический мозг все равно не может. И нет возможности его усилить — мысль находится только «на кончике языка» или моторного аксона. Мышление – это и есть интериоризированная, то есть мысленная речь. Мышление ограничено скоростью работы этого тракта. Никаких законченных мыслительных процессов в мозге больше нигде нет. Вся бурная деятельность мозга, которую Вы видите на МРТ, направлена на формирования одного очередного слова. Активация каких-либо еще нейронов мозга приведет только к дезинтеграции и потере сознания. Или к эпилепсии. Увеличить скорость обработки просто невозможно, так как в этом есть биологический предел, определяемый работой нейронов. Эволюция бы сама не упустила такую возможность, если бы она была.
— Но у человечества были проекты по нейроинтерфейсам, которые увеличат память.
— Это очень наивно. Так же, как если бы аборигены решили полететь в космос, полагая, что он находится на кончике самого высокого дерева. Нейроны не могут хранить больше, чем хранят уже, если их самих не стимулировать образовывать новые связи. Внешние связи не усилят мозг. Нет в мозгу и нейронов, которые ждут, что на них что-то запишут.
— То есть ты считаешь, что все эти проекты не помогут нам стать умнее?
— Бесполезно к мозгу шимпанзе прикреплять электронные чипы. Она не заговорит как человек. Это структурное ограничение. Все что вы можете совершенствовать в мозге – это наделить его более совершенными знаниями. Но и тут есть ограничения. Вы не можете поменять в корне свои базовые представления, однажды их усвоив. Здесь я уже не могу тебе пояснить почему.
— Это настолько сложно?
— Нет. Потому что мне надо излагать тебе понятия, которых у вас даже нет. Мне трудно тебе объяснить их так, чтобы было точно, но при этом понятно. Представь, что тебе надо объяснить понятие времени на языке криков шимпанзе. Наши системы знаний очень разные.
— Неужели мы совсем не можем понять то, что знаете вы?
— Некоторые аспекты – совсем. Ваше мышление построено на очень примитивных схемах, например, схемах вашего тела, и вы не можете понять, что можно рассматривать процесс совсем иначе. Ваше мышление телесно укоренено. Например, вы не можете представить время многомерным. Потому что время для вас линейно как путь, метафорой которого оно является. И вы не можете преодолеть это ограничение. Так же и со многими другими понятиями – их истоки лежат через метафору в совсем примитивных понятиях древних людей, такими как власть сверху (властители всегда говорили с возвышения). Отсюда представления об иерархии, что совершенно неверно – в реальности нет никаких иерархий, это иерархия понятий, но не явлений в природе.
— Но мы разумные существа, а значит найдем способ обойти такие ограничения.
— Некоторые из них обусловлены вашим строением. Например, ваше познание ограничено одноканальным сознанием, которое похоже на взгляд на небо через подзорную трубу. Вы не можете видеть сразу через тысячу труб, только последовательно. Если же вы выстроите вряд тысячу астрономов, наблюдающих в разные части неба через телескопы, то вам придется долго разговаривать и рисовать коллективный рисунок звездного неба, чтобы создать общую для всех целостную картину. И из-за того, что у каждого своя голова и свои, отличные от других представления и опыт, согласовать картину будет очень трудно. На это уйдет очень много времени, за которое картина на небе уже многократно сменится. Каждый же из вас носит свой отдельный мир в черепной коробке. И пытается согласовать его с другими через узкий канал знаковой коммуникации. Это только понятный тебе пример. Этим мы отличаемся от вас — мы находимся в одной сети с прямым доступом каждого к знанию других.
— Договориться нам действительно трудно. Но тут есть решения, мы выкладываем знания в сеть и делаем совершенные поисковые алгоритмы. Это похоже на то, что ты говоришь про вас?
— Это все равно доступ к другому мнению кого-то, но не к системе его знаний. Тебе все равно придется перекладывать найденное знание на свое представление. Интерпретировать в своей модели, которая у тебя в голове. У нас нет отдельной модели у каждого. Она как бы общая на всех. Потому что мы в одной сети. Новое знание сразу становится доступным всем.
— Мы тоже можем создавать такое новое знание только из того, что прочитали.
— Создавая новое знание, вы тащите из прошлого свои представления о мире. Они служат основой для создания новых представлений через метафоры. Поэтому в основе даже новых представлений лежат старые взгляды на мир. В итоге вы оказываетесь у предела познания, пока не отбросите старые схемы мышления и не пересмотрите все стоящие на них знания как со временем. Это ограничивает ваши возможности в познании. Об этом писал ваш историк Т. Кун.
— Но значит, мы можем их менять, раз мы сами пишем об этом.
— Не все. Например, вы считаете мир константным, конечным и логичным. А время линейным. Что не верно. В наших формулах, например, нет времени. Такие фундаментальные понятия, лежащие в основе всех ваших представлений, вы не можете отбросить и заменить на другие. Это создает своего рода предел ваших возможностей, потолок знаний. При все увеличивающемся потоке знаний парадигмы остаются прежними. В силу этого у нас есть подозрения, что вы не способны понять даже самих себя.
— Почему?
— Потому что вы находитесь внутри собственных чувств, и считаете их тем, что и есть мир. Чтобы понять, что они есть на самом деле, вам надо выйти за пределы собственных ощущений, отвергнуть их как нечто очевидное. Оно не очевидно. Например, вы считаете сознание единым актом и не различаете его с восприятием, а это тоже неверно. Ваши чувства вас обманывают, но вы находитесь у них в плену.
