Вторая часть перевода эссе Рэймонда Курцвейла «Закон ускоряющейся отдачи».
(Первая часть здесь)
Мысленный эксперимент
Давайте чуть более детально рассмотрим вопрос о том, кто такой я, и кто — новый Рэй. Прежде всего, моё тело и мой мозг — это я?
Учтите, что частицы, составляющие моё тело и мозг, постоянно меняются. Мы вовсе не неизменная коллекция частиц. Клетки в нашем теле меняются с разной скоростью, но частицы (например, атомы и молекулы), которые составляют наши клетки, меняются очень быстро. Я вовсе не тот же набор частиц, что был даже месяц назад. Я — структура материи и энергии, которые полупостоянны (в том смысле, что изменяются только постепенно), тогда как наше материальное содержание меняется постоянно, и очень быстро. Мы скорее похожи на узоры, которые создаёт бегущий поток воды. Проносясь по камням, вода формирует особый, уникальный рисунок. Он может оставаться относительно неизменным в течение нескольких часов, или даже лет. Естественно, само вещество, образующее узор — вода, заменяется каждую миллисекунду. То же самое верно и для Рэя Курцвейла. Как вода в потоке, мои частицы постоянно меняются, но узор, который люди распознают как Рэя Курцвейла, имеет определённый уровень непрерывности. Это приводит нас к идее о том, что мы должны связывать нашу фундаментальную идентичность не с конкретным набором частиц, а, скорее, со структурой энергии и материи, которую мы представляем. Многие современные философы, кажется, неравнодушны к этому аргументу «идентичности по структуре».
Погодите-ка (опять)!
Если бы вы сосканировали мой мозг и воссоздали нового Рэя, пока я спал, я бы не обязательно даже узнал об этом (с наноботами это будет вполне выполнимым сценарием). Если затем вы придёте ко мне и скажете: «Хорошие новости, Рэй, мы успешно восстановили файл вашего разума, так что вам больше не понадобится ваш старый мозг», я могу внезапно обнаружить изъян в этом аргументе «идентичности по структуре». Я бы мог пожелать новому Рэю успехов и осознать, что он использует мою «структуру», но всё-таки я бы пришёл к выводу, что он не я, потому что я всё ещё здесь. Как он мог бы быть мной? Но, в конце концов, я бы даже не обязательно знал, что он вообще существовал.
Давайте рассмотрим другой запутанный сценарий. Предположим, я заменяю небольшое количество биологических нейронов функционально эквивалентными небиологическими (они могут обеспечить определённые преимущества, такие как большая надёжность и долговечность, но это не существенно для данного мысленного эксперимента). После того, как я выполнил эту процедуру, я всё ещё тот же человек? Мои друзья конечно думают именно так. Ведь у меня всё тот же самоуничижительный юмор, та же глупая да-улыбка, я всё ещё тот же парень.
Должно быть ясно, куда я клоню. Постепенно, регион за регионом, я, в конечном итоге, заменяю весь свой мозг практически идентичными (возможно, улучшенными) небиологическими эквивалентами (сохраняя все концентрации нейротрансмиттеров и другие детали, которые представляют моё обучение, навыки и воспоминания). В каждый момент я чувствую, что процедуры были успешными. В каждый момент я чувствую, что я — тот же самый парень. После каждой процедуры я утверждаю, что я тот же самый парень. Мои друзья согласны. Нет старого Рэя и нового Рэя, есть только один Рэй, который выглядит, по сути, неизменным.
Однако, примите во внимание следующее. Эта постепенная замена моего мозга его небиологическим эквивалентом по существу идентична следующей последовательности:
- сосканируйте Рэя и воссоздайте разум Рэя в нового (небиологического) Рэя, а затем
- удалите старого Рэя
Но выше мы пришли к выводу, что в таком сценарии новый Рэй это не то же самое, что старый Рэй. И если старого Рэя удаляют, то Рэй прекращает существовать. Таким образом, сценарий постепенной замены по сути заканчивается тем же результатом: создан Новый Рэй, а старый Рэй был уничтожен, даже если мы никогда не видели, как он пропадает. То, что кажется продолжающимся существованием только одного Рэя, на самом деле является созданием нового Рэя и уничтожением старого Рэя.
С третьей стороны, сценарий постепенной замены практически не отличается от того, что обычно происходит с нашей биологической сущностью, в том смысле, что наши частицы всегда быстро заменяются. Так что же, я действительно постоянно заменяюсь кем-то, кто, по стечению обстоятельств, очень похож на меня старого?
Я пытаюсь проиллюстрировать, почему сознание — это не такая лёгкая тема. Если мы говорим о сознании как об определённом типе интеллектуального навыка: например, о способности размышлять над собой и ситуацией, тогда проблема вообще не является сложной, поскольку любой навык, способность или форма интеллекта, которые потребуется определить, будут воспроизведены в небиологических объектах (то есть машинах) в течение нескольких десятилетий. При таком типе объективного взгляда на сознание загадки исчезают. Но полностью объективный взгляд не проникает в суть проблемы, потому что сущность сознания — это субъективный опыт, а не объективные корреляты этого опыта.
Будут ли эти машины будущего способны иметь духовный опыт?
Они, безусловно, будут претендовать на это. Они будут претендовать на то, чтобы быть людьми, и иметь весь спектр эмоциональных и духовных переживаний, на которые претендуют люди. И это не будет пустыми претензиями; они будут демонстрировать весь спектр богатого, сложного и тонкого поведения, которое ассоциируется с этими чувствами. Как эти, несомненно убедительные, претензии и поведение, относятся к субъективному опыту таких воссозданных людей? Мы продолжаем возвращаться к объективно существующей, но, в конечном итоге, неизмеримой проблеме сознания.
Люди часто говорят о сознании, как если бы оно было явным свойством сущности, которое можно легко обнаружить, идентифицировать и измерить. Если существует одно важное предположение, которое мы можем сделать относительно того, почему проблема сознания так спорна, то оно таково:
Не существует объективного теста, который мог бы окончательно определить его наличие.
Наука — это объективные измерения и логические заключения на их основе, но сама природа объективности заключается в том, что вы не можете измерить субъективный опыт — вы можете измерить только его проявления, такие как поведение (и в поведение я включаю действия составных компонентов сущности, таких, как нейроны). Это ограничение связано с самой природой понятий «объективное» и «субъективное». По сути, мы не можем проникнуть в субъективный опыт другого субъекта с помощью прямого объективного измерения. Мы, безусловно, можем привести какие-либо аргументы в эту пользу, например, «загляните внутрь мозга этого нечеловеческого существа, посмотрите, как методы его работы похожи на методы человеческого мозга». Или «посмотрите, как его поведение похоже на поведение человека.» Но, в конце концов, это просто аргументы. Независимо от того, насколько убедительным является поведение воссозданного человека, некоторые наблюдатели откажутся принимать сознание данной сущности, если оно не выбрасывает нейротрансмиттеры, не основано на синтезе белка под контролем ДНК, или не обладает каким-то другим специфическим биологическим человеческим атрибутом.
Мы предполагаем, что другие люди сознательны, но это всё ещё предположение, и среди людей нет единого мнения о сознании нечеловеческих сущностей, таких как другие высшие животные. Вопрос будет ещё более спорным в отношении будущих небиологических образований с человеческим поведением и интеллектом.
Итак, как мы ответим на заявление о сознании от небиологического интеллекта (заявление машин)? С практической точки зрения мы примем их претензии. Имейте в виду, что небиологические сущности в двадцать первом веке будут чрезвычайно умны, они смогут убедить нас в том, что они сознательны. У них будут все тонкие и эмоциональные сигналы, которые убеждают нас сегодня в том, что люди сознательны. Они смогут заставить нас смеяться и плакать. И они разозлятся, если мы не примем их требования. Хотя это, по сути, политическое прогнозирование, а не философский аргумент.
Про трубочки и квантовые вычисления
Несколько лет назад, Роджер Пенроуз, известный физик и философ, предположил, что тонкие структуры в нейронах, называемые трубочками, выполняют экзотическую форму вычислений под названием «квантовые вычисления». Квантовые вычисления — это вычисления с использованием так называемых «кубитов», которые принимают все возможные комбинации решений одновременно. Это можно рассматривать как крайнюю форму параллельной обработки (потому, что все комбинации значений кубитов проверяются одновременно). Пенроуз предполагает, что трубочки и их квантовые вычислительные возможности усложняют концепцию воссоздания нейронов и воссоздания состояния сознания.
Однако мало что говорит о том, что трубочки способствуют мыслительному процессу. Даже пространные модели человеческого знания и способностей более чем объясняются текущими оценками размера мозга, основанными на современных моделях функционирования нейронов, которые не включают трубочки. Фактически, даже с этими моделями без трубочек, похоже, что мозг консервативно спроектирован с гораздо большим (на несколько порядков) количеством соединений, чем ему необходимо для его возможностей и производительности. Недавние эксперименты (например, эксперименты в Институте Нелинейной Науки в Сан-Диего), показывающие, что гибридные биологические и небиологические сети работают аналогично полностью биологическим сетям, хотя и не являются окончательными, убедительно свидетельствуют о том, что наши модели функционирования нейронов без трубочек являются адекватными. Компьютерная модель обработки слуховой информации Лойда Уоттса использует на порядок меньше вычислений, чем сети нейронов, которые она моделирует, и нет никаких намёков на необходимость для этого квантовых вычислений.
Однако, даже если трубочки важны, это не меняет прогнозы, которые я обсуждал выше, в какой-либо значительной степени. Согласно моей модели вычислительного роста, если трубочки увеличили сложность нейронов в тысячу раз (и имейте в виду, что наши современные модели нейронов без трубочек уже достаточно сложны, включая порядка тысячи соединений на нейрон, множественные нелинейности и другие детали), это задержало бы наше достижение производительности человеческого мозга всего приблизительно на 9 лет. При увеличении сложности в миллион раз, задержка будет всего лишь на 17 лет. Миллиард даст около 24 лет (имейте в виду, что производительность вычислений растёт по двойной экспоненте).
Что касается квантовых вычислений — опять же, ничего не заставляет предположить, что мозг выполняет квантовые вычисления. То, что квантовая технология возможна, отнюдь не означает, что мозг её реализует. В конце концов, у нас в мозгу нет лазеров или хотя бы радио. Хотя некоторые учёные утверждают, что обнаруживают коллапс квантовой волны в мозге, никто не предложил человеческие возможности, которые действительно требуют способности для проведения квантовых вычислений.
Однако, даже если мозг выполняет квантовые вычисления, это существенно не меняет перспективы достижения мощности компьютерных вычислений уровня человеческого мозга (и выше) и не делает невозможной загрузку модели мозга. Прежде всего, если мозг выполняет квантовые вычисления, это только подтвердит, что квантовые вычисления осуществимы. В таком открытии не будет ничего, чтобы предполагать, что квантовые вычисления ограничены биологическими механизмами. Биологические механизмы квантовых вычислений, если они существуют, могут быть воспроизведены. Действительно, недавние эксперименты с небольшими квантовыми компьютерами оказались успешными. Даже обычный транзистор основан на квантовом эффекте туннелирования электронов.
Пенроуз предполагает, что невозможно абсолютно точно воспроизвести набор квантовых состояний, поэтому абсолютно точное копирование невозможно. Ладно, а насколько точной должна быть копия? В данный момент я нахожусь в совершенно другом квантовом состоянии (и, соответственно, со множеством других, не квантовых отличий), чем был минуту назад (и конечно, в совершенно другом состоянии, чем я был до того, как написал этот абзац). Если мы проработаем технологию загрузки сознания до такой степени, что «копии» будут настолько близки к оригиналу, насколько оригинал всё равно меняется в течение одной минуты, этого будет достаточно для любой мыслимой цели, и не потребует копирования квантовых состояний. По мере совершенствования технологии точность копии может стать настолько высокой, насколько оригинал изменяется в течение более коротких периодов времени (например, одна секунда, одна миллисекунда, одна микросекунда).
Когда Пенроузу было указано, что нейроны (и даже нейронные связи) слишком велики для квантовых вычислений, он предложил теорию трубочек в качестве возможного механизма нейронных квантовых вычислений. Таким образом, концепции квантовых вычислений и трубочек были введены вместе. Если кто-то ищет препятствия для воспроизведения функций мозга, это занимательная теория, но она не в состоянии возвести какие-либо реальные препятствия. Пока этому нет никаких доказательств, но даже если они появятся, процесс только затянется на десятилетие или два. Нет оснований полагать, что биологические механизмы (включая квантовые вычисления) по своей сути невозможно воспроизвести с использованием небиологических материалов и механизмов. Десятки современных экспериментов успешно выполняют именно такие репликации.
Неинвазивный безоперационный обратимый программируемый распределённый мозговой имплант, общая среда виртуальной реальности с полным погружением, опытные трансляторы и расширение мозга.
Как мы будем применять технологию, которая более разумна, чем её создатели? Может возникнуть соблазн ответить «Осторожно!» Но давайте взглянем на некоторые примеры.
Рассмотрим несколько примеров технологии наноботов, которая, основываясь на тенденциях миниатюризации и снижения затрат, будет возможна в течение следующих 30 лет. В дополнение к сканированию вашего мозга наноботы также смогут расширить наш опыт и наши возможности.
Технология наноботов обеспечит полное погружение, полностью убедительную виртуальную реальность следующим образом. Наноботы занимают позиции в непосредственной физической близости от каждой межнейрональной связи, исходящей от всех наших органов чувств (например, глаз, ушей, кожи). У нас уже есть технологии электронных устройств, позволяющие взаимодействовать с нейронами в обоих направлениях, и не требующая прямого физического контакта с нейронами. Например, учёные из Института Макса Планка (Max Planck Institute) разработали «нейронные транзисторы», которые могут обнаруживать срабатывание близлежащего нейрона или, наоборот, могут вызывать срабатывание нейрона или подавлять его. Это означает двустороннюю связь между нейронами и электронными нейронными транзисторами. Учёные института продемонстрировали своё изобретение, управляя движением живой пиявки со своего компьютера. Опять же, основным аспектом виртуальной реальности на основе наноботов является то, что она пока ещё не осуществима по причинам размера и стоимости.
Когда мы хотим ощутить реальную реальность, наноботы просто остаются на своих местах (в капиллярах) и ничего не делают. Если мы хотим войти в виртуальную реальность, они подавляют все входные сигналы, исходящие от реальных чувств, и заменяют их сигналами, которые будут исходить из виртуальной среды. Вы (то есть ваш мозг) могли бы решить заставить ваши мышцы и конечности двигаться как обычно, но наноботы снова перехватывают эти межнейрональные сигналы, подавляют движение ваших реальных конечностей, и вместо этого заставляют ваши виртуальные конечности двигаться, и обеспечивать соответствующие движение и переориентацию в виртуальной среде.
Сеть предоставит множество виртуальных сред для исследования. Некоторые будут воссозданием реальных мест, другие — причудливой средой, у которой нет «настоящего» аналога. Некоторые были бы совершенно невозможны в физическом мире (например, потому, что они нарушают законы физики). Мы сможем «перейти» в эти виртуальные среды сами, или мы встретимся там с другими людьми, как с реальными, так и с симулированными. Конечно, в итоге между ними не будет чёткого различия.
К 2030 году посещение веб-сайта будет означать полное погружение в виртуальную реальность. В дополнение к охвату всех чувств эти общие среды могут включать в себя эмоциональные наложения, поскольку наноботы будут способны вызывать неврологические корреляты эмоций, сексуального удовольствия и других производных нашего сенсорного опыта и психических реакций.
Точно так же, как люди сегодня транслируют свою жизнь через веб-камеры в своих спальнях, «опытные трансляторы» 2030 года будут транслировать весь свой поток ощущений, а при желании — свои эмоции и другие вторичные реакции. Мы сможем подключиться (перейдя на соответствующий веб-сайт) и ощутить жизнь других людей, как в сюжетной концепции «Быть Джоном Малковичем». Особенно интересные ощущения могут быть заархивированы и заново пережиты в любое время.
Нам не нужно ждать 2030 года, чтобы испытать среду виртуальной реальности, по крайней мере, для визуальных и слуховых ощущений. Полное погружение с моделированием визуально-слуховой среды будет доступно к концу этого десятилетия с изображениями, передаваемым непосредственно на наши сетчатки очками и контактными линзами. Вся электроника для вычислений, воспроизведения образов и беспроводного подключения к Интернету с очень высокой пропускной способностью будет встроена в наши очки и вплетена в нашу одежду, поэтому компьютеры как отдельные объекты исчезнут.
На мой взгляд, наиболее значимым следствием Сингулярности будет слияние биологического и небиологического интеллекта. Во-первых, важно отметить, что задолго до конца XXI века мышление на основе небиологических субстратов будет доминировать. Биологическое мышление застряло на скорости 1026 вычислений в секунду (для всех биологических мозгов человечества), и эта цифра заметно не изменится, даже с достижениями биоинженерии в нашем геноме. Небиологический интеллект, с другой стороны, растёт с двойной экспоненциальной скоростью и будет значительно превосходить биологический интеллект задолго до середины этого века. Однако, на мой взгляд, этот небиологический интеллект всё же следует считать человеком, поскольку он полностью является производным от нашей человеко-машинной цивилизации. Слияние этих двух миров интеллекта — это не просто слияние биологического и небиологического мышления, но, что более важно, это новый метод и организация мышления.
Одним из ключевых способов, которым эти два мира смогут взаимодействовать — посредством нанороботов. Технология наноботов сможет расширить наш разум практически любым мыслимым способом. Наш мозг сегодня относительно постоянен в своей конструкции. Хотя мы добавляем новые схемы межнейрональных связей и концентраций нейротрансмиттеров в ходе обычного процесса обучения, текущая общая ёмкость человеческого мозга сильно ограничена, и составляет всего лишь сотню триллионов соединений. Мозговые импланты, основанные на широко распределённой сети интеллектуальных наноботов, в конечном итоге расширят нашу память в триллион раз, и в остальном значительно улучшат все наши сенсорные, распознавательные и когнитивные способности. Поскольку наноботы обмениваются данными друг с другом по беспроводной локальной сети, они могут создавать любой набор новых нейронных соединений, могут разрывать существующие соединения (подавляя срабатывание нейронов), могут создавать новые гибридные биолого-небиологические сети, а также добавлять новые обширные небиологические сети.
Использование наноботов в качестве расширителей возможностей головного мозга является значительным улучшением по сравнению с идеей хирургически установленных нейронных имплантов, которые начинают использоваться сегодня (например, нейроимпланты в вентральное заднее ядро, субталамическое ядро и вентрально латеральный таламус для противодействия болезни Паркинсона, треморам от других неврологических заболеваний, кохлеарные импланты и др.) Наноботы будут вводиться без хирургического вмешательства, по сути, просто путём инъекции или даже проглатывания их. Все они могут быть проинструктированы, чтобы выйти из организма, поэтому процесс легко обратим. Они являются программируемыми, в том смысле, что одну минуту они могут обеспечивать виртуальную реальность, а другую — различные расширения мозга. Они могут изменить свою конфигурацию и, очевидно, могут изменить своё программное обеспечение. Возможно, наиболее важно то, что их очень много, и поэтому они могут занимать миллиарды или триллионы позиций по всему мозгу, в то время как хирургически введённый нейронный имплант может быть размещён только в одном или не более чем в нескольких местах.
Двойной экспоненциальный рост экономики в 90-е годы не был пузырём
Ещё одно проявление закона ускоряющейся отдачи по мере его приближения к Сингулярности можно найти в мире экономики, мире, жизненно важном как для возникновения закона ускоряющейся отдачи, так и для его последствий. Это экономический императив конкурентного рынка, который продвигает технологии вперёд и подпитывает закон ускоряющейся отдачи. В свою очередь, закон ускоряющейся отдачи, особенно по мере приближения к Сингулярности, трансформирует экономические отношения.
Практически все экономические модели, преподаваемые на уроках экономики, используемые Советом Управляющих Федеральной Резервной Системы для определения денежно-кредитной политики, правительственными учреждениями для определения экономической политики и всевозможными экономическими прогнозистами, в корне ошибочны, поскольку основаны на интуитивном линейном представлении об истории, а не на исторически обоснованном экспоненциальном представлении. Причина, по которой эти линейные модели работают некоторое время, та же, по какой люди в большинстве своём имеют интуитивно линейный взгляд: экспоненциальные тренды кажутся (и, приближённо являются) линейными в течение короткого периода времени, особенно на ранних стадиях экспоненциального тренда, когда мало что происходит. Но как только достигается «перелом кривой» и начинается экспоненциальный рост, линейные модели разрушаются. Экспоненциальные тенденции, лежащие в основе роста производительности, только входят в эту взрывную фазу.
Экономика (рассматриваемая как в целом, так и на душу населения) экспоненциально росла в течение этого столетия:
Существует также второй уровень экспоненциального роста, но до недавнего времени вторая экспонента находилась на ранней стадии, поэтому рост скорости роста не был заметен. Однако ситуация изменилось за последнее десятилетие, в течение которого темпы роста были заметно экспоненциальными.
Производительность (экономическая отдача на одного работника) также растёт в геометрической прогрессии. Даже эти статистические данные сильно занижены, поскольку они не в полной мере отражают существенные улучшения качества и характеристик продуктов и услуг. Это не та ситуация, что «автомобиль — он и есть автомобиль», произошли значительные улучшения в области безопасности, надёжности и других характеристик. Таких примеров множество. Фармацевтические препараты становятся всё более эффективными. Продукты, заказанные за пять минут в интернете и доставленные к вашей двери, гораздо ценнее, чем продукты на полке супермаркета, которые вы сами ещё должны забрать. Одежда, изготовленная на заказ по скану вашего уникального тела, ценнее, чем одежда, которую вы случайно нашли на полке магазина. Подобные улучшения имеют место для большинства категорий продуктов, и ни одна из них не отражена в статистике производительности.
Статистические методы, лежащие в основе измерения производительности, как правило, учитывают прибыль, по сути делая вывод, что мы по-прежнему получаем только один доллар продуктов и услуг за доллар, несмотря на тот факт, что мы получаем гораздо больше за доллар (например, сравните компьютер за 1000 долларов сегодня с таким же десять лет назад). Профессор Чикагского Университета Пит Кленов (Pete Klenow) и профессор Рочестерского Университета Марк Билс (Mark Bils) считают, что стоимость существующих товаров росла на 1,5% в год в течение последних 20 лет из-за качественных улучшений. Это по-прежнему не учитывает появление совершенно новых продуктов и категорий продуктов. Бюро Статистики Труда (BLS), которое отвечает за расчёт инфляции, использует модель, которая включает оценку роста качества всего лишь на 0,5% в год, что отражает систематическую недооценку улучшения качества и, как следствие, завышенную оценку инфляции, по крайней мере, на 1% в год.
Несмотря на эти недостатки статистических методов оценки производительности, прирост производительности в настоящее время достигает переломной части экспоненциальной кривой. Производительность труда росла на 1,6% в год до 1994 года, затем росла на 2,4% в год, и в настоящее время растёт ещё более быстрыми темпами. В квартале, заканчивающемся 30 июля 2000 года, производительность труда выросла на 5,3%. Производительность труда в производственной сфере росла на 4,4% в год в период с 1995 по 1999 год, производство товаров длительного пользования на уровне 6,5% в год.
1990-е годы стали свидетелями самых мощных дефляционных сил в истории. Вот почему мы не видим инфляции. Да, это правда, что низкий уровень безработицы, высокая стоимость активов, экономический рост и другие подобные факторы являются инфляционными, но эти факторы компенсируются двойными экспоненциальными тенденциями соотношения цены и качества всех информационных технологий: вычисления, память, связь, биотехнологии, миниатюризация и даже общий темп технического прогресса. Эти технологии глубоко влияют на все отрасли.
Мы также переживаем массовую дезинтермедиацию (уменьшение числа и роли посредников) в каналах распространения через Интернет и других новых коммуникационных технологиях, а также повышение эффективности всех операций и администрирования.
Все графики технологических тенденций в этом эссе отражают огромную дефляцию. Есть множество примеров влияния этих возрастающих показателей эффективности. Затраты BP Amoco на добычу нефти в настоящее время составляют менее 1 доллара за баррель по сравнению с почти 10 долларами в 1991 году. Обработка интернет-транзакции обходится банку в один цент, по сравнению с более чем долларом, в который обходилась работа клерка десять лет назад. По оценкам исследования Роланда Бергера (Roland Berger) из Deutsche Bank, снижение затрат составит 1200 долларов на автомобиль в Северной Америке в течение следующих пяти лет. В более оптимистичном исследовании Morgan Stanley говорится, что закупки через Интернет позволят Ford, GM и DaimlerChrysler сэкономить около 2700 долларов на автомобиль. Цены на программное обеспечение снижаются даже быстрее, чем на компьютерное оборудование.
Соотношение цена-производительность для программного обеспечения также выросло по экспоненте
| (Пример: Программы автоматического распознавания речи) | |||
| 1985 | 1995 | 2000 | |
| Цена | 5000$ | 500$ | 50$ |
| Размер словарного запаса (# слов) | 1000 | 10000 | 100000 |
| Обработка слитной речи? | Нет | Нет | Да |
| Необходимость обучения пользователем (минуты) | 180 | 60 | 5 |
| Точность | Плохая | Средняя | Хорошая |
Текущая экономическая политика основана на устаревших моделях, которые включают цены на энергоносители, цены на сырьевые товары и капитальные вложения в основные средства в качестве ключевых движущих факторов, но не позволяют адекватно моделировать пропускную способность, инструкции в секунду, мегабайты, интеллектуальную собственность, знания и прочие, становящиеся всё более важными (и со всё увеличивающимся весом) составляющие, которые подстёгивают экономику.
Экономика «хочет» расти более чем на 3,5% в год, что составляет текущий «предел скорости», который Федеральный Резервный Банк и другие лица, определяющие политику, установили как «безопасный», то есть неинфляционный. Но в соответствии с законом ускоряющейся отдачи, экономика способна «безопасно» выйти на такой уровень роста менее чем за год, что предполагает годовые темпы роста больше, чем 3,5%. В последнее время темп роста превысил 5%.
Ничто из этого не означает, что циклы рецессии исчезнут незамедлительно. В экономике всё ещё есть значительные факторы, которые исторически вызывали циклы рецессии, например, чрезмерные обязательства, такие как капиталоёмкие проекты и затоваривание запасов. Однако быстрое распространение информации, изощрённые формы онлайн-закупок и всё более прозрачные рынки во всех отраслях уменьшили воздействие этого цикла. Таким образом, «спады», вероятно, будут поверхностными и краткими. Базовый долгосрочный темп роста будет продолжаться с двойной экспоненциальной скоростью.
Общий рост экономики отражает совершенно новые формы и уровни благосостояния и стоимости, которые ранее не существовали или, по крайней мере, ранее не составляли значительную часть экономики (но составляют сейчас): интеллектуальная собственность, коммуникационные порталы, веб-сайты, пропускная способность сети, программное обеспечение, базы данных и многие другие категории, основанные на новых технологиях.
Нет необходимости в высоких процентных ставках для противодействия инфляции, которой не существует. Существующее инфляционное давление уравновешивается всеми упомянутыми мною дефляционными силами. Нынешние высокие процентные ставки, взлелеянные Федеральным Резервным Банком, являются разрушительными, вызывают потери триллионов долларов богатства, носят регрессивный характер, угнетают бизнес и средний класс, и совершенно не нужны.
Денежно-кредитная политика ФРС значима только потому, что люди верят в неё. На самом деле у неё мало реальной силы. Сегодня экономика в значительной степени поддерживается частным капиталом в форме растущего разнообразия долевых инструментов. Доля доступной ликвидности в экономике, которую фактически контролирует ФРС, относительно незначительна. Резервы, которые банки и финансовые учреждения поддерживают в Федеральной резервной системе, составляют менее 50 млрд. Долл. США, что составляет всего 0,6% ВВП и 0,25% ликвидности, доступной в акциях.
Ограничение темпов роста экономики до произвольного предела имеет столько же смысла, сколько ограничение скорости, с которой компания может увеличить свои доходы или рыночную капитализацию. Спекулятивная лихорадка, безусловно, будет иметь место, и обязательно будут существенные провалы и коррекции рынка. Однако способность технологических компаний быстро создавать новое реальное богатство является лишь одним из факторов, которые будут и впредь стимулировать продолжающийся двойной экспоненциальный рост экономики. Эта политика привела к ситуации «Алисы в стране чудес», в которой рынок растёт на плохих экономических новостях (потому что это означает, что будут меньше применяться ограничительные меры) и снижается на хороших экономических новостях.
Говоря о рыночных спекулятивных лихорадках и рыночных коррекциях, биржевые индексы для так называемых «B2B» (бизнес для бизнеса) и «B2C» (бизнес для потребителя) веб-порталов и соответствующих обеспечивающих технологий, склонны быстро «отрастать» обратно, поскольку становится ясно, что экономические транзакции действительно перерастают в электронную коммерцию и что (выжившие) претенденты способны демонстрировать прибыльные бизнес-модели.
Интуитивное линейное предположение, лежащее в основе экономического мышления, приводит к самым нелепым выводам в политических дебатах о долгосрочном будущем системы социального обеспечения. Экономические модели, используемые для прогнозов социального обеспечения, являются полностью линейными, то есть они отражают фиксированный экономический рост. Это может рассматриваться как консервативное планирование, если бы речь шла о прогнозах всего на несколько лет, но они становятся совершенно нереальными на обсуждаемых интервалах в три-четыре десятилетия. Эти прогнозы фактически предполагают фиксированный темп роста в 3,5% в год в течение следующих пятидесяти лет! Есть невероятно наивные предположения, которые касаются обоих сторон данного аргумента. С одной стороны, произойдёт радикальное продление продолжительности жизни человека, а с другой стороны, мы выиграем от гораздо большего экономического роста. Однако, эти факторы не исключают друг друга, и как позитивно сильные, они, в конечном итоге, будут доминировать. Кроме того, мы наверняка переосмыслим социальное обеспечение, когда у нас появятся долгожители, которые выглядят и ведут себя как 30-летние (но которые будут думать намного быстрее, чем 30-летние в 2000 году).
Ещё одним следствием закона ускоряющейся отдачи является экспоненциальный рост в сфере образования и обучения. За последние 120 лет мы увеличили наши инвестиции в среднее образование (на одного учащегося и в постоянных долларах) в десять раз. У нас в сто раз увеличилось количество студентов. Автоматизация началась с увеличения силы наших мышц, а в последнее время увеличивает силу нашего разума. Таким образом, в течение последних двух столетий автоматизация устраняла рабочие места в нижней части лестницы навыков, создавая новые (и более высокооплачиваемые) рабочие места на вершине лестницы навыков. То есть, лестница движется вверх, и, таким образом, мы экспоненциально увеличиваем инвестиции в образование на всех уровнях.
Кстати, по поводу моего «предложения» в начале этого эссе, имейте в виду, что нынешняя стоимость акций основана на будущих ожиданиях. Учитывая, что близорукий (буквально) интуитивно линейный взгляд является общепринятым, здравый смысл серьёзно занижает экономические ожидания. Хотя цены на акции отражают консенсус рынка покупателя и продавца, они, тем не менее, отражают основополагающее линейное предположение относительно будущего экономического роста. Но закон ускоряющейся отдачи явно подразумевает, что темп роста будет продолжать расти в геометрической прогрессии, потому что скорость роста будет продолжать увеличиваться. Хотя (ослабевающие) рецессионные циклы будут продолжать вызывать колебания текущих темпов роста, базовые темпы роста будут удваиваться примерно каждые десять лет.
Погодите секундочку! Вы сказали, что я получу 40 триллионов долларов, если прочитаю и пойму это эссе.
Верно. Согласно моим моделям, если мы заменим линейный прогноз на более подходящий экспоненциальный, текущие цены на акции должны утроиться. Поскольку общая капитализация фондового рынка около 20 триллионов долларов, это даст дополнительно 40 триллионов долларов.
Но вы сказали, что я получу эти деньги.
Нет, я сказал, что «вы» получите деньги, и именно поэтому я рекомендовал читать предложение внимательно. В английском (и русском (прим. перев.)) языке слово «вы» может быть единственного или множественного числа. Я имел в виду вы в смысле «все вы».
Все мы, во всём мире. Но не все будут читать это эссе.
Хотя, каждый может. Так что, если вы все прочитаете это эссе и поймёте его, тогда экономические ожидания будут основаны на исторической экспоненциальной модели, и, следовательно, стоимость акций возрастёт.
Вы имеете в виду, если все это поймут, и согласятся с этим.
Ладно, полагаю, я это и имел в виду.
Это то, что, как вы ожидаете, произойдёт?
Ну, на самом деле нет. Снова надевая свою футурологическую шляпу, я предсказываю, что эти взгляды действительно возобладают, но только со временем, поскольку становится всё больше и больше свидетельств экспоненциальной природы технологий и их влияния на экономику. Это будет происходить постепенно в течение следующих нескольких лет, и будет выражено в сильном продолжающемся восходящем тренде на рынке.
Очевидная опасность для будущего
Технологии всегда были обоюдоострым мечом, принося нам более продолжительную и здоровую жизнь, свободу от монотонного физического и умственного труда и множество новых творческих возможностей, с одной стороны, и создавая новые и существенные опасности, с другой. Мы всё ещё живём сегодня с запасами ядерного оружия (не все из которых, кажется, хорошо учтены), достаточными, чтобы положить конец жизни всех млекопитающих на планете. Биоинженерия находится на ранних стадиях огромных успехов в борьбе с болезнями и процессами старения. Однако, в обычной лаборатории биоинженерии колледжа скоро будут иметься знания и средства (а в более оснащённых лабораториях они имеются уже сейчас) для создания вредоносных патогенов, более опасных, чем ядерное оружие. По мере того, как технологии ускоряются, приближаясь к Сингулярности, мы будем видеть те же взаимосвязанные потенциалы: праздник творчества, основанный на человеческом интеллекте, расцветающий в триллион раз, будет сопряжён со многими серьёзными новыми опасностями.
Рассмотрим неограниченную репликацию наноботов. Технология наноботов требует миллиарды или триллионы таких интеллектуальных устройств, чтобы быть полезной. Наиболее экономически эффективным способом масштабирования до таких уровней является самовоспроизведение, по сути тот же подход, который используется в биологическом мире. И точно так же, как биологическое самовоспроизведение, дающее сбой (т.е. рак) приводит к биологическому разрушению, дефект в механизме, ограничивающем саморепликацию наноботов, может поставить под угрозу все физические объекты, биологические или иные.
Другая важная проблема состоит в том, «кто контролирует наноботов?» и «перед кем наноботы отчитываются?» Организации (например, правительства, экстремистские группы) или просто умные люди могут поместить триллионы необнаруживаемых наноботов в воду или продукты питания человека или всего населения. Эти «шпионские» нанороботы смогут отслеживать, влиять на, и даже контролировать наши мысли и действия. В дополнение к введению действительно шпионских наноботов, существующие наноботы могут подвергаться воздействию программных вирусов и других программных методов «взлома». Когда программы работают в нашем мозгу, вопросы конфиденциальности и безопасности приобретают новую актуальность.
Я рассчитываю, что творческие и конструктивные применения этой технологии будут доминировать, как, я верю, и происходит сегодня. Однако, будет играть свою роль и существенное (и всё более заметное) обеспокоенное и конструктивное луддитское движение (т.е. противники технологий, вдохновлённые ткачами начала XIX века, которые в знак протеста уничтожали ткацкие станки).
Если бы мы представили описание опасностей, которые существуют сегодня, людям, которые жили пару сотен лет назад, они бы сочли безумием идти на такой риск. С другой стороны, сколько людей в 2000 году действительно хотели бы вернуться к коротким, жестоким, наполненным болезнями, бедностью, подверженным стихийным бедствиям жизням, которые 99 процентов человечества проживали пару веков назад? Мы можем романтизировать прошлое, но вплоть до недавнего времени большая часть человечества жила чрезвычайно хрупкой жизнью, где одно вполне заурядное невезенье могло означать полную катастрофу. Значительная часть нашего вида всё ещё живёт в подобных условиях, что является по крайней мере одной из причин для продолжения технического прогресса и сопутствующего ему экономического роста.
Люди часто проходят три этапа в изучении влияния будущей технологии: благоговение и удивление по поводу её способности преодолеть вековые проблемы, затем чувство страха перед новым набором серьёзных опасностей, которые сопровождают эти новые технологии, а затем, наконец, надежду и осознание того, что единственный жизнеспособный и ответственный путь состоит в том, чтобы выбрать осторожный курс, следуя которому можно будет воспользоваться всеми ожидаемыми возможностями и постараться избежать опасностей.
В своей статье в WIRED "Почему мы не нужны будущему", Билл Джой красноречиво описал нашествие чумы в прошлые века и то, как новые самовоспроизводящиеся технологии, такие как мутантные биоинженерные патогены и «наноботы», могут, выйдя из-под контроля, принести давно забытые эпидемии. Эти опасности на самом деле реальны. С другой стороны, признаёт Джой, благодаря технологическим достижениям, таким как антибиотики и улучшенная санитария, мы избавились от распространённости подобных эпидемий. Страдание в мире продолжается и требует нашего пристального внимания. Должны ли мы сказать миллионам людей, страдающих от рака и других разрушительных состояний, что мы отменяем разработку всех биоинженерных методов лечения, потому что существует риск того, что эти же технологии когда-нибудь могут быть использованы в злонамеренных целях? Задав риторический вопрос, я понимаю, что есть желающие сделать именно это, но думаю, что большинство людей согласятся с тем, что такой широкомасштабный отказ не является ответом.
Сохраняющаяся возможность облегчить человеческие страдания является одной из важных причин дальнейшего технического прогресса. Настолько же убедительными являются и очевидные экономические выгоды, о которых я говорил выше, и которые будут продолжать ускоряться в предстоящие десятилетия. Постоянное ускорение многих взаимосвязанных технологий — это дороги, вымощенные золотом (здесь я использую множественное число, потому что технологии явно не являются единственным путём). В условиях конкуренции идти по этим дорогам — экономический императив. Отказ от технического прогресса был бы экономическим самоубийством для отдельных лиц, компаний и стран.
Всё это подводит нас к проблеме отказа, которая является самой противоречивой рекомендацией Билла Джоя и его личным выбором. Я чувствую, что отказ на определённом уровне является частью ответственного и конструктивного ответа на эти реальные опасности. Однако проблема заключается именно в том, на каком уровне мы должны отказаться от технологии?
Тед Казински (Ted Kaczynski) заставил бы нас отказаться вообще от всего. Это, на мой взгляд, не является ни желательным, ни осуществимым, и тщетность такой позиции только подчёркивается бессмысленностью плачевной тактики Казинского.
Другим подходом было бы отказаться от определённых направлений; например, нанотехнологии можно посчитать слишком опасными. Но такой отказ «широкими мазками» также несостоятелен. Нанотехнологии — это просто неизбежный конечный результат постоянной тенденции к миниатюризации, которая пронизывает все наши технологии. Это отнюдь не единый централизованный заказ, это направление развития множества проектов с огромным разнообразием целей.
Один наблюдатель писал:
«Ещё одной причиной, по которой индустриальное общество не может быть реформировано… является то, что современные технологии представляют собой единую систему, в которой все части зависят друг от друга. Вы не можете избавиться от „плохих“ частей технологии и сохранить только „хорошие“ части. Возьмите, к примеру, современную медицину. Прогресс в медицине зависит от прогресса в области химии, физики, биологии, информатики и других областях. Современное лечение требует дорогого высокотехнологичного оборудования, которое может быть создано только технологически прогрессивным, экономически богатым обществом. Очевидно, что без всего комплекса технологий и того, что с ним связано, не может быть и большого прогресса в медицине».
Наблюдатель, которого я цитирую, всё тот же Тед Казински. Хотя можно было бы должным образом оппонировать Казинскому как авторитету, я считаю, что он прав в отношении сильно взаимосвязанной природы выгод и рисков. Тем не менее, мы с Казинским явно расходимся в общей оценке относительного баланса между ними. С Биллом Джоем мы обсуждали этот вопрос как публично, так и в частном порядке, и мы оба считаем, что технологии будут и должны развиваться, и что мы должны активно заниматься их тёмной стороной. Если мы с Биллом в чём-то не согласны, то это конкретные случаи отказа от технологий, которые и возможны, и желательны.
Широкий отказ от технологий только загонит их в подполье, где развитие будет продолжаться без этических ограничений и регулирования. В такой ситуации опыт использования технологий приобретут только мало надёжные, мало ответственные пользователи (например, террористы).
Я действительно считаю, что отказ на определённом уровне должен быть частью нашей этической реакции на опасность технологий двадцать первого века. Одним из конструктивных примеров этого является предлагаемая этическая норма Института Форсайта (Foresight Institute), основанного пионером нанотехнологий Эриком Дрекслером (Eric Drexler), о том, что нанотехнологи соглашаются отказаться от разработки физических объектов, которые могут самовоспроизводиться в естественной среде. Другим примером является запрет на самореплицирующиеся физические объекты, которые содержат свои собственные коды для саморепликации. В том, что нанотехнолог Ральф Меркл (Ralph Merkle) называет «Широковещательной Архитектурой», таким объектам придётся получать подобные коды с централизованного защищённого сервера, который будет гарантировать отсутствие нежелательной репликации. Широковещательная Архитектура невозможна в биологическом мире, так что тут у нас есть по крайней мере один механизм, который может сделать нанотехнологию более безопасной, чем биотехнология. С другой стороны, нанотехнологии потенциально более опасны, потому что наноботы могут быть физически сильнее, чем сущности на основе белка, и более умны. В конечном итоге станет возможно объединить их, используя нанотехнологии для предоставления кодов биологическим объектам (заменяя ДНК), и в этом случае биологические объекты могут использовать гораздо более безопасную Широковещательную Архитектуру.
Наша этика, как этика ответственных технологов, помимо прочих профессиональных этических принципов, должна включать в себя подобные узконаправленные ограничения. Другие меры защиты должны включать контроль со стороны регулирующих органов, разработку «иммунных» ответных мер для конкретных технологий, а также надзор с помощью компьютеров со стороны правоохранительных организаций. Многие люди не знают, что наши спецслужбы уже используют передовые технологии, такие как автоматическое определение слов, для мониторинга значительного потока телефонных разговоров. По мере продвижения вперёд, баланс наших неотъемлемых прав на неприкосновенность частной жизни с нашей необходимостью защиты от злонамеренного использования мощных технологий двадцать первого века будет одной из многих серьёзных проблем. Это одна из причин того, что проблемы, подобные «закладкам» в системах шифрования (благодаря которым правоохранительные органы имели бы доступ к информации, в противном случае недоступной), или системе отслеживания электронной почты ФБР «Carnivore» оказались настолько спорными.
В качестве позитивного примера мы можем рассмотреть один недавний технологический вызов. Сегодня существует новая форма полностью не биологической самовоспроизводящейся сущности, которой не было всего несколько десятилетий назад: компьютерный вирус. Когда эта форма деструктивного вторжения впервые появилась, высказывались серьёзные опасения, что, по мере того, как она будет становиться всё более изощрённой, программные патогены смогут разрушить саму среду компьютерной сети, в которой они живут. Однако «иммунная система», которая возникла в ответ на эту проблему, оказалась весьма эффективной. Хотя разрушительные самореплицирующиеся программные объекты время от времени наносят ущерб, подобный ущерб — это лишь малая часть выгоды, которую мы получаем от компьютеров и каналов связи, которые их связывают. Никто не предложил бы нам покончить с компьютерами, локальными сетями и Интернетом из-за программных вирусов.
Можно было бы возразить, что компьютерные вирусы не имеют смертельного потенциала биологических вирусов или разрушительности нанотехнологий. Хотя это и правда, она только подтверждает мои наблюдения. Тот факт, что компьютерные вирусы обычно не смертельны для людей, означает лишь то, что всё больше людей хотят их создавать и выпускать. Это также означает, что наш ответ на опасность гораздо менее интенсивен. И наоборот, когда речь идёт о самовоспроизводящихся объектах, которые потенциально смертельны в больших масштабах, наша реакция на всех уровнях будет гораздо более серьёзной.
Технологии останутся обоюдоострым мечом, а история двадцать первого века ещё не написана. Они представляют огромную силу, которая будет использована для достижения целей всего человечества. У нас нет иного выбора, кроме как усердно работать над применением этих ускоряющих технологий для продвижения наших человеческих ценностей, несмотря на то, что зачастую кажется, что отсутствует консенсус относительно того, какими должны быть эти ценности.
Жизнь навсегда
Как только технология переноса сознания будет усовершенствована и полностью проработана, позволит ли это нам жить вечно? Ответ зависит от того, что мы подразумеваем под жизнью и смертью. Рассмотрим, что мы делаем сегодня с файлами нашего персонального компьютера. Когда мы переходим со старого персонального компьютера на более новую модель, мы не выбрасываем все наши файлы; скорее мы копируем их на новое оборудование. Хотя наши файлы не обязательно продолжают своё существование вечно, долговечность нашего программного обеспечения для персонального компьютера полностью отделена и не связана с аппаратным обеспечением, на котором оно работает. Однако, когда дело доходит до нашего личного файла разума, когда наше человеческое оборудование выходит из строя, программное обеспечение нашей жизни умирает вместе с ним. Однако, этого не будет происходить в том случае, если у нас есть средства для сохранения и восстановления тысяч триллионов байтов информации, представляющих схему, которую мы называем нашим мозгом.
Следовательно, долговечность файла с сознанием не будет зависеть от продолжительной жизнеспособности какого-либо конкретного аппаратного средства. В конечном счёте, люди, основанные на программном обеспечении, хотя они и значительно выходят за жёсткие рамки представления о людях, какими мы их знаем сегодня, будут жить в Интернете, проецируя тела, когда они им нужны, или когда захочется, включая виртуальные тела в различных сферах виртуальной реальности, тела — голографические проекции, физические тела, состоящие из роёв наноботов или другие нанотехнологии.
Следовательно, человек, основанный на программном обеспечении, будет свободен от ограничений какой-либо конкретной мыслительной среды. Сегодня каждый из нас ограничен лишь сотней триллионов связей, но люди в конце двадцать первого столетия смогут развивать своё мышление и мыслить без ограничений. Мы можем рассматривать это как форму бессмертия, хотя стоит отметить, что данные и информация не обязательно будут существовать вечно. Хотя долговечность информации не зависит от жизнеспособности оборудования, на котором она обрабатывается, долговечность зависит от её актуальности, полезности и доступности. Если вы когда-либо пытались извлечь информацию из устройства хранения данных устаревшей формы в старом малоизвестном формате (например, с катушки магнитной ленты из мини-компьютера 1970-х годов), вы поймёте проблемы, связанные с поддержанием жизнеспособности программного обеспечения. Однако, если мы будем усердно поддерживать наши файлы разума, хранить актуальные резервные копии и переносить их на текущие форматы и носители, тогда можно достичь формы бессмертия, по крайней мере, для людей, основанных на программном обеспечении. Наш файл разума — наша личность, навыки, воспоминания — всё это теряется сегодня, когда наше биологическое оборудование выходит из строя. Когда мы сможем получить доступ, сохранять и восстанавливать эту информацию, её долговечность больше не будет зависеть от нашего аппаратного обеспечения.
Является ли эта форма бессмертия концептуально тем же, чем и физический человек, каким мы его знаем сегодня, живущий вечно? В каком-то смысле это так, потому что, как я указывал ранее, наше современное Я также не является неизменной совокупностью материи. Сохраняются только наши структуры материи и энергии, да и они склонны постепенно изменяться. Аналогично, сохраняться, развиваться и постепенно изменяться будет сама структура человека-программы.
Но разве этот человек, основанный на моём файле разума, который мигрирует по множеству вычислительных субстратов и переживает любую конкретную мыслительную среду, на самом деле я? Мы возвращаемся к тем же вопросам сознания и идентичности, которые обсуждались со времён диалогов Платона. По мере того, как мы будем проживать двадцать первый век, они не останутся предметом утончённых философских дебатов, но станут вопросами жизненно важными, практическими, политическими и юридическими.
Смежный вопрос: «Желательна ли смерть?» Значительная часть наших усилий направлена на то, чтобы её избежать. Мы прилагаем чрезвычайные усилия, чтобы отсрочить её приход, и он действительно зачастую считается нежданным и трагическим событием. Тем не менее, нам может быть трудно жить без неё. Мы считаем, что смерть придаёт смысл нашей жизни. Это придаёт важность и ценность времени. Время может стать бессмысленным, если его будет слишком много.
Следующий шаг в эволюции и цель жизни
Всё-таки я рассматриваю освобождение человеческого разума от его серьёзных физических ограничений по объёму и времени жизни как необходимый следующий шаг в эволюции. Эволюция, на мой взгляд, и представляет собой цель жизни. То есть цель жизни вообще, и наших жизней, в частности — развиваться. Значит, Сингулярность не является серьёзной опасностью, которой следует избегать. На мой взгляд, следующая смена парадигмы представляет собой цель нашей цивилизации.
Что значит развиваться? Эволюция движется к большей сложности, большей элегантности, большему количеству знания, более высокому уровню интеллекта, большей красоте, большей креативности и большему количеству других абстрактных и тонких атрибутов, таких как любовь. И все эти вещи, только в бесконечной форме, мы считаем присущими Богу: бесконечное знание, бесконечная мудрость, бесконечная красота, бесконечное творчество, бесконечная любовь и так далее. Конечно, даже ускоряющийся прогресс в эволюции никогда не позволит достичь бесконечности, но, поскольку он растёт экспоненциально, то, безусловно, быстро движется в этом направлении. То есть, эволюция неумолимо движется к нашей концепции Бога, хотя никогда и не достигает этого идеала. Таким образом, освобождение нашего мышления от суровых ограничений его биологической формы может рассматриваться как важный духовный поиск.
Делая это утверждение, важно подчеркнуть, что такие термины, как эволюция, судьба и духовный поиск, являются наблюдениями за конечным результатом, а не основой для предсказаний. Я не утверждаю, что технологии будут развиваться до уровня человека и дальше за его пределы просто потому, что это наша судьба и результат духовного поиска. Скорее мои прогнозы являются результатом методологии, основанной на динамике, лежащей в основе (двойного) экспоненциального роста технологических процессов. Основной движущей силой технологии является экономический императив. Мы движемся к машинам с интеллектом уровня человека (и выше) в результате миллионов небольших достижений, каждое из которых имеет своё собственное экономическое обоснование.
На примере из моего собственного опыта в одной из моих компаний (Kurzweil Applied Intelligence): всякий раз, когда мы придумывали немного более интеллектуальную версию распознавания речи, новая версия неизменно имела большую ценность, чем предыдущее поколение, и, как результат, увеличивались продажи. Интересно отметить, что в примере с программным обеспечением для распознавания речи, три основных выживших конкурента были очень близки друг другу в уровне интеллекта своего программного обеспечения. Несколько других компаний, которые не смогли достичь такого уровня (например, Speech Systems), ушли из этого бизнеса. В любой конкретный момент времени мы могли бы продавать предпоследнюю версию нашей программы за, возможно, всего четверть цены текущей версии. Что касается версий нашей технологии, которые были два поколения назад, мы бы не смогли их даже просто подарить. Это явление относится не только к распознаванию образов и другому программному обеспечению «ИИ», но и ко всем продуктам, от хлебопечек до автомобилей. И если сам продукт не демонстрирует некоторый уровень интеллекта, то интеллект в методах производства и маркетинга оказывает большое влияние на успех и прибыльность предприятия.
Существует жизненно важный экономический императив для создания более интеллектуальных технологий. Интеллектуальные машины имеют огромное значение. Именно поэтому они создаются. Существуют десятки тысяч проектов, которые постепенно совершенствуют интеллектуальные машины различными способами. Поддержка «высоких технологий» в бизнес-сообществе (в основном по разработке программного обеспечения) чрезвычайно возросла. Когда в 1974 году я основал свою компанию по оптическому распознаванию символов (OCR) и синтезу речи (Kurzweil Computer Products, Inc.), в том году было проведено всего полдюжины высокотехнологичных IPO. Количество таких сделок увеличилось в сто раз, а количество вложенных долларов увеличилось более чем в тысячу раз за последние 25 лет. Только за четыре года, с 1995 по 1999 год, количество сделок с венчурным капиталом в сфере высоких технологий увеличилось с чуть более 1 миллиарда долларов США до примерно 15 миллиардов долларов США.
Мы будем продолжать создавать более мощные вычислительные механизмы, потому что это создаёт огромную ценность. Мы будем реконструировать человеческий мозг не просто потому, что это наша судьба, а потому, что там есть ценная информация, которая поможет понять, как построить более интеллектуальные (и более ценные) машины. Нам пришлось бы отменить капитализм и любое проявление экономической конкуренции, чтобы остановить эту прогрессию.
Ко второй половине этого столетия не будет чёткого различия между человеческим и машинным интеллектом. С одной стороны, у нас будет биологический мозг, значительно расширенный за счёт распределённых имплантов на основе наноботов. С другой стороны, у нас будет полностью небиологический мозг, который является копией человеческого мозга, хотя и значительно улучшенной. Вдобавок, у нас будет множество других разновидностей тесной связи между человеческим мышлением и технологиями, которые оно выпестовало.
В конечном счёте, небиологический интеллект будет доминировать, потому что он растёт с двойной экспоненциальной скоростью, тогда как биологический интеллект практически замер в своём развитии. Человеческое мышление застряло на скорости 1026 вычислений в секунду (для всех биологических людей), и эта цифра никогда заметно не изменится (за исключением небольшого увеличения в результате генной инженерии). Сегодня небиологическое мышление по-прежнему в миллионы раз медленнее, но к 2030 году всё переменится. К концу XXI века небиологическое мышление хотя и будет человеческого происхождения, превзойдёт его в триллионы триллионов раз. Следующий шаг в эволюции будет делать по-прежнему человеко-машинная цивилизация.
Большинство прогнозов на будущее, похоже, игнорируют революционное влияние Сингулярности на судьбу человечества: неизбежное появление компьютеров, которые соответствуют и, в конечном итоге, значительно превзойдут возможности человеческого мозга, будет не менее значительным, чем эволюция самого человеческого разума несколько тысяч веков назад. И основная причина подобной недальновидности заключается в том, что прогнозы основываются на интуитивном, но близоруко линейном взгляде на историю.
До того, как закончится нынешнее столетие, виды, создающие земные технологии, сольются с порождёнными ими вычислительными технологиями. Тогда не будет существовать чёткого различия между человеком и машиной. В конце концов, в чём разница между человеческим мозгом, увеличенным в триллион раз с помощью имплантов на основе наноботов, и компьютером, дизайн которого основан на сканировании человеческого мозга с высоким разрешением, а затем увеличен в триллионе раз?
Почему SETI потерпит неудачу (и почему мы одиноки во Вселенной)
Закон ускоряющейся отдачи подразумевает, что к 2099 году интеллект, который возникнет из человеко-машинной цивилизации, будет в триллионы триллионов раз более могущественным, чем сегодня, с доминированием, естественно, его небиологической формы.
Так какое это имеет отношение к SETI (поиску внеземного разума)? Наивная точка зрения, восходящая к до Коперниковским временам, заключалась в том, что Земля была в центре Вселенной, а человеческий разум был величайшим (божественным) даром. Сегодняшнее, более информированное, мнение состоит в том, что даже если вероятность того, что у звезды есть планета с технологией, создающей виды, очень мала (например, одна на миллион), существует так много звёзд (т.е. их миллиарды триллионов), что вообще количество планет с передовыми технологиями должно быть достаточно велико.
Это точка зрения, лежащая в основе SETI, была и моей точкой зрения до недавнего времени, и сегодня она является основной точкой зрения информированной аудитории. Хотя SETI ещё не посмотрел всюду, он уже охватил значительную часть Вселенной.
Диаграмма из Scientific American
На приведённой выше диаграмме (любезно предоставленной Scientific American) мы видим, что SETI уже тщательно проверил все звёздные системы в пределах 107 световых лет от Земли на предмет существования инопланетных цивилизаций, способных (и желающих) передавать с мощностью по меньшей мере 1025 Вт — так называемая цивилизация типа II (и все звёздные системы в пределах 106 световых лет для передачи по меньшей мере 1018 Вт и т. д.). Никаких признаков интеллекта пока не найдено.
В недавнем электронном письме моему научному сотруднику д-р Сет Шостак (Seth Shostak) из Института SETI отмечает, что новый комплексный целевой поиск, получивший название Project Phoenix, обладающий в 100 раз большей чувствительностью, и охватывающий большую дальность радиосвязи по сравнению с предыдущими поисками, был применён только к 500 звёздным системам, что, конечно, является лишь малой долей от полутриллиона звёздных систем только в нашей собственной галактике.
Однако, согласно моей модели, когда цивилизация достигает нашего собственного («Земного») уровня радиопередачи, для достижения того, что SETI называет цивилизацией типа II, требуется не более одного столетия, максимум двух. Если допустить, что существует как минимум миллионы цивилизаций, способных к радиосвязи, и что эти цивилизации распространяются на миллионы (а на самом деле — миллиарды) лет развития, то наверняка должны быть миллионы, которые достигли статуса типа II.
В данном случае, это не аргумент против проекта SETI, который, на мой взгляд, должен иметь наивысший возможный приоритет, поскольку отрицательный результат не менее значим, чем положительный результат.
Странно, что мы находим космос таким молчаливым. Куда же все подевались? Должны существовать миллионы цивилизаций, намного более развитых, чем наша, поэтому мы должны видеть их трансляции. Достаточно развитая цивилизация вряд ли будет ограничивать свои трансляции слабыми сигналами на потаённых частотах. Почему они такие тихие и такие стеснительные?
По мере того, как я изучал последствия закона ускоряющейся отдачи, я пришёл к другому взгляду.
Из-за стремительности экспоненциального роста, любой вид имеет всего пару сотен лет от момента, когда он создаёт компьютерные технологии, до момента, когда небиологическая форма его интеллекта претерпевает экспоненциальный взрыв. Она пронизывает практически всё вещество в их окрестностях, а затем неизбежно расширяется наружу, приближаясь к максимальной скорости, с которой может распространяться информация. Как только небиологический интеллект, возникающий из технологий этого вида, насыщает его окрестности (и природа этого насыщения — ещё одна сложная проблема, с которой я не буду иметь дела в этом эссе), у него не будет другого способа продолжать развиваться, кроме как расширяться вовне. Расширение не начинается с максимальной скорости, но быстро достигает скорости, исчезающе мало отличающейся от максимальной.
Какова максимальная скорость? В настоящее время мы понимаем, что это скорость света, но уже есть дразнящие намёки на то, что это может не быть абсолютным пределом. Недавно были проведены эксперименты, в ходе которых измеренное время полёта фотонов давало почти двукратное превышение скорости света, в результате квантовой неопределённости их положения. Однако этот результат на самом деле бесполезен для настоящего анализа, потому что он фактически не позволяет передавать информацию со скоростью, превышающей скорость света, а мы фундаментально заинтересованы в скорости передачи данных.
Квантовое распутывание даёт значения во много раз быстрее скорости света, но это только передача случайности (глубокой квантовой случайности) на скоростях, намного превышающих скорость света; опять же, это не передача информации (но оно представляет большой интерес для восстановления шифрования после того, как квантовые вычисления разрушат его). Существует вероятность существования червоточин (или складок Вселенной в измерениях за пределами трёх видимых), но на самом деле это не движение быстрее скорости света, это просто означает, что топология Вселенной — отнюдь не обычное трёхмерное пространство, которое подразумевает наивная физика. Но мы уже знали это. Однако, если червоточины или складки во Вселенной повсеместны, то, возможно, эти короткие пути позволят нам быстро добираться куда угодно. Будет ли кто-нибудь шокирован, если обнаружатся какие-либо тонкие способы обойти это ограничение скорости? И неважно, насколько тонкие, достаточно тонкие технологии найдут способы их применения. Дело в том, что если есть способы обойти этот предел (или любой другой понимаемый в настоящее время предел), то экстраординарный уровень интеллекта, которого достигнет наша человеко-машинная цивилизация, найдёт эти пути и использует их.
Итак, на данный момент мы можем сказать, что сверхвысокие уровни интеллекта будут расширяться наружу со скоростью света, но признаём, что это может не являться фактическим пределом скорости расширения, или даже, если скорость света является пределом, этот предел может не ограничивать быстрое достижение других мест.
Учтите, что время существования биологической эволюции измеряется миллионами и миллиардами лет, поэтому, если другие цивилизации существуют, они будут распределены по огромным интервалам времени. Если их так много, как предполагает современная наука, то маловероятно, что хотя бы некоторые из них не будут впереди нас. По крайней мере, это предположение SETI. И если они впереди нас, они, вероятно, будут впереди нас на огромные промежутки времени. Вероятность того, что любая цивилизация, которая впереди нас, опережает нас всего на несколько десятилетий, чрезвычайно мала.
Если предположение SETI о том, что существует много (например, миллионы) технологических (по крайней мере, способных к радиообмену) цивилизаций, то, по крайней мере, некоторые из них (то есть миллионы из них) будут намного опережать нас. Но с момента появления вычислений для развития этой цивилизации требуется, по крайней мере, всего несколько веков. Учитывая это, как может случиться так, что мы их не заметили?
Я прихожу к выводу, что, скорее всего, таких цивилизаций не существует. Другими словами, мы в лидерах. Да, верно, наша скромная цивилизация с её пикапами Dodge, фаст-фудом из куриных крылышек и этническими чистками (и вычислениями!) лидирует.
Однако, как такое может быть? Разве это не невероятно, учитывая миллиарды триллионов вероятных планет? На самом деле это очень маловероятно. Но столь же маловероятно существование нашей Вселенной с набором законов физики, настолько изысканно точно делающими возможной эволюцию жизни. Но, согласно антропному принципу, если бы Вселенная не позволяла жизни эволюционировать, нас бы сейчас не было, и мы не смогли этого заметить. Но мы же есть. Таким образом, по тому же антропному принципу, мы здесь, во главе Вселенной. Опять же, если бы нас не было, мы бы этого не заметили.
Давайте рассмотрим некоторые аргументы против этой точки зрения.
Возможно, существуют чрезвычайно продвинутые технологические цивилизации, но мы находимся вне их световой сферы интеллекта. То есть они ещё не попали сюда. Ладно, в этом случае, SETI будет по-прежнему терпеть неудачу, потому что мы не сможем увидеть (или услышать) их, по крайней мере, до тех пор, пока мы не достигнем Сингулярности.
Возможно, они среди нас, но решили остаться для нас невидимыми. Между прочим, я всегда считал идею больших космических кораблей с большими хлипкими существами, подобными нам, из фантастических рассказов, очень маловероятной. Любая цивилизация, достаточно продвинутая, чтобы совершить путешествие сюда, давно бы прошла точку слияния со своими технологиями и не нуждалась бы в отправке таких физически громоздких организмов и оборудования. У такой цивилизации вряд ли будут какие-либо неудовлетворённые материальные потребности, которые потребуют, чтобы она завладела нашими физическими ресурсами. Они будут здесь только для наблюдения, для сбора знаний, которые и являются единственным ценным ресурсом для такой цивилизации. Интеллект и оборудование, необходимые для такого наблюдения, будут крайне малы. В этом случае SETI всё равно потерпит неудачу, потому, что, если эта цивилизация решит, что она не хочет, чтобы мы её заметили, она этого добьётся. Имейте в виду, что они будут намного умнее, чем мы сегодня. Возможно, они откроются нам, когда мы достигнем следующего уровня нашей эволюции, в частности, слияния нашего биологического мозга с нашей технологией, то есть после Сингулярности. Более того, учитывая, что SETI исходит из предположения, что существуют миллионы таких высокоразвитых цивилизаций, кажется странным, что все они приняли одно и то же решение оставаться в стороне от нас.
Почему интеллект сильнее, чем физика
Разум насыщает доступную ему материю и энергию, он превращает глупую материю в умную. Хотя умная материя всё ещё номинально следует законам физики, она настолько сообразительная, что может использовать самые тонкие аспекты физических законов, чтобы манипулировать материей и энергией по своей воле. Так что интеллект, по крайней мере выглядит сильнее, чем физика.
Возможно, я должен сказать, что интеллект более могущественен, чем космология. То есть, как только материя превращается в разумную материю (материю, полностью насыщенную разумом), она может манипулировать материей и энергией, чтобы делать всё, что она хочет. Эта перспектива не рассматривалась в дискуссиях о будущей космологии. Предполагается, что интеллект не имеет отношения к событиям и процессам в космологическом масштабе. Звёзды рождаются и умирают; галактики проходят свои циклы создания и разрушения. Сама Вселенная родилась в результате большого взрыва и закончится скрипом или всхлипом, мы ещё не уверены, чем именно. Но интеллект имеет с этим мало общего. Интеллект — это всего лишь пена, бурление маленьких существ, снующих туда-сюда в поле неумолимых сил вселенной. Неразумный механизм Вселенной разворачивается или уходит в далёкое будущее, и разум ничего не может с этим поделать.
Это соответствует здравому смыслу, но я с этим не согласен. Разум будет сильнее, чем эти безличные силы. Как только планета получает технологию, создающую виды, и эти виды создают вычисления (как всё и произошло здесь, на Земле), всего за несколько столетий их разум насыщает материю и энергию в её окрестностях, и начинает расширяться наружу со скоростью света или быстрее. Затем он преодолеет гравитацию (с помощью совершенных и всеобъемлющих технологий) и другие космологические силы (или, точнее, будет использовать эти силы и управлять ими) и создаст ту Вселенную, которую хочет. Это цель Сингулярности.
Какой будет эта Вселенная? Что ж, давайте просто подождём и посмотрим.
План сохраниться
Большинство из вас (я опять использую форму слова во множественном числе), вероятно, застанут Сингулярность. Увеличение продолжительности жизни человека — ещё одна экспоненциальная тенденция. В восемнадцатом веке мы добавляли несколько дней в год к человеческому долголетию; в течение девятнадцатого века мы добавляли пару недель каждый год; и теперь мы добавляем почти полгода каждый год. С революциями в геномике, протеомике, рациональном дизайне лекарств, терапевтическом клонировании наших собственных органов и тканей и связанных с ними разработках в области биоинформатики мы будем добавлять больше года в год в течение десяти лет. Поэтому позаботьтесь о себе ещё немного старыми добрыми способами, и вы действительно сможете испытать следующий фундаментальный сдвиг парадигмы на своей судьбе.
Copyright © Рэймонд Курцвейл 2001
Графики выполнены Brett Rampata/Digital Organism
Перевод MaxWolf 2019
Ну и поскольку «Текст до ката не может быть больше 2 000 символов» даже с использованием спойлера, Предисловие переводчика превратилось в
Я несколько раз «подходил к снаряду», но каждый раз меня что-то останавливало… Начиная с масштабности предприятия, а 150 килобайт текста — это отнюдь не тот объём, который можно перевести с налёта, и заканчивая фактом, что исходный текст был опубликован аж в 2001 году. То есть с тех пор прошло уже почти двадцать лет, а это сейчас колоссальный период времени, особенно в свете идей, которые продвигает автор. Но чем больше времени проходило с последней попытки, тем очевиднее становилась мысль, что этот текст должен быть на русском языке. Последней каплей стала «чёрная метка», которую прислала «корпорация добра»: Google Translation Toolkit, в котором я последние два года спорадически переводил этот «Закон…», когда выдавалось время, по одному, реже по два, абзаца, закрывается 4 декабря 2019 года… нужно поторопиться.
Некоторое время назад, кажется, у Сергея Хапрова, мне попалось интересное соображение относительно того, что русский (в основном, конечно, в силу особенностей развития советского проекта) является вторым после английского, и, судя по всему, последним на обозримую перспективу, онтологически полным языком, то есть языком, на котором представлены знания из всех областей человеческой деятельности.
Увы, в силу как объективных, так и субъективных причин, ткань этой полноты за последние тридцать с лишним лет изрядно обветшала, и в ней образовалось множество зияющих прорех, особенно заметных в тех областях научного знания, где развитие идёт быстрее среднебольничного (я сам, кстати, хорошо почувствовал это при переводе раздела про пять параллельных путей звука: «высокоуровневые» русскоязычные термины для описываемых структур мозга существуют, но начиная с определённого уровня детализации (предположу, что с того, который открывался учёным как раз в последние десятилетия) – пустота, лишь немного разбавляемая переводами самого последнего времени, зачастую между собой терминологически слабо совместимыми). Периодически наблюдая, как в разных местах общественного пространства то и дело возникают дискуссии, сам предмет которых участники не вполне осознают, хотя по-английски на эту тему стали много писать аж с середины 90-х годов прошлого века, я решил внести свою скромную лепту в народное просвещение переводом на русский одного из основополагающих материалов по теме перспектив технологической и гуманитарной эволюции человечества на ближайшие несколько десятков лет.
Вообще, Рэй Курцвейл написал уже десяток книг, и все они, так или иначе, посвящены этой проблеме (на русский переведены, к сожалению, только две). А «Закон ускоряющейся отдачи» рассматривается или затрагивается в каждой, начиная с «The Age of Spiritual Machines», где он впервые был упомянут. Самая подробная книга на эту тему, пожалуй, «The Singularity Is Near», изданная в 2005 году, но она по объёму почти на порядок больше настоящего эссе, так что для любительского развлечения переводами слишком велика. Кстати, во второй (и последней) вышедшей на русском языке книге Курцвейла «Эволюция разума» (она же «How to create a mind») Закону ускоряющейся отдачи, в его приложении к мозгу, посвящена отдельная глава, где можно найти практически те же самые графики, что и в настоящем эссе, дополненные данными за прошедшие с момента его написания годы. Как это не удивительно, но тенденции, на которые автор обратил внимание ещё в 80-е годы прошлого века, до сих пор прекрасно работают. Впрочем, если Вас интересует именно фактологическая сторона достоверности его прогнозов (и Вы читаете по-английски), сам Рэй в 2010 году написал отдельное эссе «How my predictions are faring», где сводит воедино и довольно подробно разбирает сбычу основных своих прогнозов (спойлер: сбылось почти всё).
Сама тема постепенно проникает в русскоязычное общественное сознание, у неё появляются и энергичные сторонники, и категорические противники, и просто практики, которые пытаются вдумчиво использовать практические аспекты идей экспоненциального роста. В любом случае, я думаю, что ознакомиться с одной из первых работ по теме ускоряющегося развития будет полезно всем интересующимся, независимо от личного отношения.
Наконец, последнее замечание и так довольно затянутого предисловия. При переводе я предпочитал благозвучность дословности (надеюсь, не в ущерб смыслу), и само русское название «Закон ускоряющейся отдачи» меня до сих пор немного коробит. Однако, автор рассматривал название своего эссе как аллюзию на экономический Закон Убывающей Отдачи, так что я взял за образец устоявшееся русское название именно этого явления.
