Отзыв о книге: «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта»

Многие, кто меня знают, могут подтвердить, что я довольно критический отношусь к массе вопросов, и в чем-то даже проявляю изрядную долю максимализма. Мне трудно угодить. Особенно если дело касается книг. Часто критикую любителей фантастики, религии, детективов и многого другого бреда. Считаю, что давно пора заняться действительно важными вещами, и перестать жить в иллюзии бессмертия.

Во время одного из дискусов с одним моим хорошим другом он, после очередных моих негодований касательно того, что мне постоянно предлагают разный бред (ту же фантастику), посоветовал проработать книгу «Жизнь 3.0. Быть человеком…». Стыдно признаться, уже давно её скачал, и даже не заметил вместе с великолепной подборкой Фонда Династия. Мне угодить очень трудно, т.к. книг проработал, мягко говоря не мало. Но эта мне понравилась, и решил не только ответить ему, на вопрос, стоит или нет её прорабатывать, но и написать свой критический отзыв, т.к., несмотря на то, что книга достойна внимания, работать еще есть над чем.

Хотелось бы верить, что мой отзыв не утонет, как всегда в массе флуда и спама, и дойдет не только до читателей, но и до писателей, которые учтут недочеты в последующих работах. Конечно, ниже лишь мое субъективное мнение, однако постараюсь по возможности его максимально обосновать. Несмотря, на то, что как всегда катастрофический на все нет времени и по факту, являюсь среднестатистическим нищим рабом; однако считаю своим гражданским долгом космополита написать этот отзыв, т.к. давно интересуюсь подобной и многими другими смежными темами. Полагаю, что многое нижеописанное является первоочередными задачами, поставленными как перед человечеством в целом, так и его отдельными индивидуумами. Как бы пафосно это не звучало. Итак…

Жизнь 3.0. Быть человеком


Критика


Ляпы начинаются буквально с первых страниц книги. Цитирую:
«В вопросе о том, что считать жизнью, как известно, давно уже нет никакого согласия. Предлагается огромное количество альтернативных определений, и некоторые из них включают довольно жесткие ограничения: например, требуется наличие клеточной структуры, что, вероятно, исключит из числа живых и будущие мыслящие машины, и некоторые внеземные цивилизации. Так как мы не хотим ограничивать свои размышления о будущем жизни теми биологическими видами, с которыми мы уже знакомы, то давайте примем более широкое ее определение, чтобы оно включало и любой иной процесс, если только он обладает сложностью и способностью к самовоспроизведению. Что именно воспроизводится, не так уж важно (состоит из атомов), важна информация (состоит из бит), которая определяется взаимным расположением атомов друг относительно друга. Когда бактерия копирует свою ДНК, не возникает никаких новых атомов, но имевшиеся атомы выстраиваются в цепочку, точно повторяющую исходную, таким образом копируется только информация. Иными словами, мы можем считать живой любую самовоспроизводящуюся и способную обрабатывать информацию систему, собственная информация которой (ее “программное обеспечение”, “софт”) определяет и ее поведение, и ее строение (“хард”).»
Согласия нет, но есть более имение внятные на данный момент представления о жизни. Хорошо было бы с ними ознакомиться.

Иначе если так упрощать и подходить с такой позиции, то к жизни можно отнести рост сложных кристаллов, которые воспроизводят свою структуру из субстрата. Или, возможно, некоторые процессы образования нефти и гумуса, там, где так же есть затравка, приводящая к возникновению молекул такой же затравки. Это как бы прародители ферментов, но к полноценной жизни их в современной науки не причисляют, т.к. они не способны к развитию и мутации. Если нет изменчивости, то это не жизнь. Посему предлагаю все же немного сузить понятие жизни, и пересмотреть какими еще, другими чертами она может обладать. Также рекомендую мою статью: «Классификация потенциала жизни.».

Следующая цитата:
«Вслед за самой Вселенной жизнь становилась все сложнее и интересней 4, и, как я сейчас поясню, мне представляется полезным ввести классификацию форм жизни по их соответствию трем степеням сложности: Жизнь 1.0, 2.0 и 3.0. Чем эти три формы отличаются друг от друга, в общих чертах хорошо видно на рис. 1.1….
Три стадии жизни: биологическая эволюция, культурная эволюция и технологическая эволюция. Жизнь 1.0 не может влиять ни на “хард”, ни на “софт” во время существования
единичного организма: и то и другое определяется его ДНК, которая может изменяться от поколения к поколению на протяжении долгого периода эволюции.»
Тут, насколько я понял, грубая ошибка. Видно, что автор не знаком с современными исследованиями микроорганизмов. Они могут менять себе и хард и софт. Т.е. жизнь 1, по факту может делать то же что и жизнь 3. Микроорганизмы могут даже лучше, чем люди захватывать куски ДНК. Они делают это различными способами. Либо на прямую, из среды (если найдут ДНК какой-то разрушенной клетки), либо с помощью бактериофагов и плазмид, либо половым размножением образуя так называемый половой пиль Конъюгация у бактерий — Википедия. Так же они могут вырезать не нужные участки с ювелирной точностью. Например, благодаря CRISPR. Поэтому даже Жизнь 1.0 может себе сама менять и хард и софт. Это для нас боящихся ГМО и забывших о том, что LUCA, в какой-то степени жив, кажется чем-то инновационным и неслыханным. Мы утратили эту способность, а для «умных» приматов менять себе хард и вовсе стало табу. Поэтому это не новое, это хорошо забытое старое. Нет смысла использовать этот параметр в сравнении. Степень сложности это одно, а вот самоизменение (на разных уровнях сложности) это другое. Нужно уметь отделять мух от котлет. Классификацию стоит значительно переработать.

Но это еще цветочки. Дальше у меня не было возможности делать закладки. Не смотря на то, что в книге в правильном ключе затрагиваются чрезвычайно важные и глобальные вопросы, автор весьма эрудированный, однако, по-видимому ему чего-то не хватило, для того что бы сделать грамотную интерполяцию и все же прийти к обоснованным рабочим гипотезам и хотя бы предварительным выводам.

Например, в одном из разделов он интерполирует примитивный жуликоватый подход людей на ИИ, опасаясь и рассматривая возможность обмана, людей со стороны ИИ. Да, возможно если это будет просто сильный ИИ, то такой обман имеет место быть. Однако, если это будет сверх искусственный интеллект (СИИ), то вряд ли такой обман потребуется. Просто такой интеллект без всякой лжи и хитрости сможет сделать многим людям именно то предложение, от которого они не смогут отказаться. У меня нет возможности тут всего расписывать, но для того, чтобы понять почему больше вероятностей что ИИ не будет склонен обманывать рекомендую проработать, например, книги Мэтта Ридли. «Происхождение альтруизма и добродетели», а за одно, и «Эволюция всего». Проанализировав эти труды, можно сделать вывод что чем более высокое развитие, тем больше склонность к альтруизму, сотрудничеству и игре с ненулевой суммой, а не конкуренции. Поэтому чем умнее интеллект, тем больше вероятности что он будет гуманнее, честнее. Т.е. сам интеллект является мощным ресурсом для того что бы понять и использовать людей не как обманутых конкурентов, а как союзников. Найти в людях слабые и сильные стороны, компенсировать собой первые и использовать последние. Если же потребности сотрудничества с людьми не будет, то вряд ли возникнет необходимость в конкуренции, т.к. вокруг довольно много свободных ресурсов. У нас до сих пор пустуют океаны. Масса пустого места под Землей, уже молчу за др. планеты. Поэтому высокотехнологичному ИИ находящемуся на более эффективном носителе, чем созданный слепым отбором из биологических форм, будет где разгуляться без всякой конкуренции с людьми. Он просто займет массу тех ниш на которые люди до сих пор, а возможно и никогда не смогут претендовать. И никого он не станет обманывать. Уже сейчас не то что ИИ, а даже обычными грамотными людьми практикуется другой подход. Не обман и скрытность, а максимальная открытость, искренность и сотрудничество. Люди с закостенелым, архаичным вороватым складом ума, не как этого не могут понять. Вероятнее всего код ИИ просто на просто будет открытым. Как код многого свободного ПО. А хакеров будут не наказывать и пресекать, а поощрять, за то, что они будут сообщать о уязвимостях этого кода. Аналогично и с убийством как наказанием, и тюрьмами. Этого всего не будет, это дикость. Маргиналам 2 дороги: вначале их надо детально изучать, и потом либо учесть и прислушаться идя им на компромисс, т.к. это может быть неординарное важное мнение, либо перевоспитывать, лечить, а не наказывать.

В целом я категорический против всех этих опасений и луддистских настроев, человечество должно бросить все силы именно на создания интеллекта, т.к. по факту у нас и естественный интеллект то не шибко умный. Просто многие приматы, по-другому их не назовешь, этого не замечают. Возвращаясь к интерполяции хотелось бы под резюмировать эту часть и продолжить. Как видим с одной стороны Тегмарку, не следовало бы проводить аналогии и перелаживать с больной людской головы, на здоровую цифровую человеческие комплексы: хитрость, обман и др. и т.п., а с другой стороны в каком то из разделов он не может определиться с глобальным пониманием смысла жизни. Это тоже весьма удручает, и показывает, что трудов по эволюции он проработал мало. Если бы проработал больше, то у него бы не возникла дилемма какие цели, или, я бы даже сказал, философию и целеполагание, стоит ставить перед ИИ. Т.к. анализируя окружающий Мир, можно сделать вывод, что практический все живое, а возможно и не живое, стремиться к экспансии. Многие сложно развитые формы жизни стремятся к еще большему развитию, самосовершенству, расширению своего влияние и взаимодействия с др. как живыми, так и не живыми объектами. Поэтому вероятнее всего ИИ либо сам придёт к подобным выводам, либо в него заложат такие принципы. Как итог он продолжит, как и все живое развиваться, совершенствоваться и покорять все новые территории преобразуя Мир не только под себя, но и под свое окружение.

Согласен


Если вы закатываете глаза, когда слышите разговоры о вооруженном захвате роботами-терминаторами всего мира, то ваша реакция точна: такой сценарий совсем не реалистичен. Эти
голливудские роботы не могут оказаться умнее нас, да и вообще оказаться умными. По-моему, опасность, таящаяся в истории о Терминаторе, заключается не в том, что может случиться
нечто подобное, а в том, что она отвлекает наше внимание от подлинных рисков и опасностей, связанных с искусственным интеллектом. Переход от нынешнего мира к миру, в котором
верх и вправду одержан универсальным искусственным интеллектом, требует трех логических шагов:

  • Шаг 1-й. Создать универсальный искусственный интеллект (AGI) на уровне человеческого.
  • Шаг 2-й. Использовать этот AGI для создания сверхразума.
  • Шаг 3-й. Использовать сверхразум для захвата мира или дать ему возможность сделать это самостоятельно.

Искать по тексту, аналогичная история со СМИ, которые пишут про войну роботов и т.д.
Мои предложения.

Не устану повторять, сейчас все должны бросить все мощности на создания разума, именно разум, а не красота, или др. дурость, на мой взгляд, спасет Мир. И не стоит отделять этот разум (интеллект) ставя границы – искусственный, естественный. На данном этапе ИИ, еще в зачатке, поэтому роль естественного интеллекта, подкрепленного технологиями, очень велика. Нет четкой грани, между искусственным и естественным. Если мы хотим создать нормальный интеллект, а не тот примитив который сейчас существует, нам нужно использовать все возможности, задействовать все технологии, т.к. они работают в рекурсивном тандеме: естественный интеллект создает искусственный, а искусственный по крайней мере на начальных этапах будет заинтересован в модернизации и расширений возможностей естественного.

Какое будущее для себя я бы хотел видеть


Сразу стоит оговориться, что это самый, на данный момент мой оптимистичный прогноз. По факту, вряд ли в нашем архаичном обществе мне удастся до него дожить. Но хочется верить. Отчасти мне бы хотелось что бы в итоге было как в фильме: «Вопросы мироздания: Можем ли мы жить вечно?» с Адамом Сэвиджом от Дискавери.

Возможные проблемы


Алчные люди будут дискредитировать ИИ. Начнут использовать слабый и даже сильный, но не сверх ИИ в своих корыстных целях. Вот тут то мы и столкнёмся с проблемой, которая, если мне не изменяет память, плохо расписана в книге.

Думаю, нас, хотим мы того или нет ждут в будущем суровые, жестокие, но интеллектуальные баталии, на уровне кодов, мемов, программ, убеждений и т.п. Скорей всего они будут идти преимущественно на цифровых носителях в виртуальной реальности, которая будет даже реальнее тривиальной. Там не будет жертв и порванного мяса с кровью. Война будет идти за наши взгляды, мнения, суждения. И чем раньше начнется эта война, тем лучше для всех. Её не надо бояться, она уже начата, и если мы не хотим остаться аутсайдерами, нам надо принимать в ней участие. Уже не помню где читал, что если ты офлайн, то считай, что ты и не жил. Звучит дико, и обскурантисты (любители букашек, леса и какашек) со мной поспорят. Но если они будут топтать какахи в лесах и кормить комаров. то спорить с ними не придётся. Спорить придётся с заблудшими лицемерами, которые пользуясь технологиями считают их злом и все не как, ПОЧеМУ-ТО от не откажутся от ИТ, окружающих нас повсюду.

Ссылки и связь


Автор на страницах книги не однократно предлагал связаться с ним на сайте AgeOfAi.org. Я двумя руками за подобные связи. Думаю, от этого была бы польза как читателям, так и писателям. Но почему-то у меня страница по ссылке не открылась, зато переадресовало на какое то futureoflife.org/superintelligence-survey. Может, если выкрою время, постараюсь дать ссылку на данный отзыв автору книги, не смотря на то, что моя статья на русском, а сайт на английском. Благо есть электронные переводчики. Так же надо будет поискать, может там уже есть какие-то еще дельные мысли. А еще лучше тут ziminbookprojects.ru. Это скорей всего аналогичная версия предыдущего сайта, но на русском. Но, не уверен. В любом случае, думаю, что ссылки достойны внимания, как и подымаемые темы.

Вот еще пару понравившихся мне цитат:

Для верующих:
«Если окажется, что все они подчиняются законам физики, то душа, следовательно, никак не влияет на частицы, из которых вы состоите, а значит, ваше сознание, ваш разум и их способность контролировать ваши движения ничего общего с душой не имеют. Если, напротив, окажется, что частицы, из которых вы состоите, не подчиняются известным законам физики, потому что этому мешает воздействие на них вашей души, то эта новая сущность должна быть физической по определению, и тогда мы сможем ее изучать, как изучали поля и частицы в прошлом.»
Очень полезно для тех, кто отделяет науку от религии. Считая, что наука не должна вмешиваться в религию, а религия в науку. Впрочем, для слепых фанатиков религии, это пустой звук. Но для сомневающихся людей, способных думать логично, мысль более чем полезна.
Для ученых:
«геном бактерии Candidatus Carsonella ruddii, сохраняющий до 40 килобайт информации, в то время как наш человеческий геном хранит около 1,6 гигабайт»
Интересный факт. Стараюсь такие коллекционировать. Возможно пригодится в работе, либо просто в обсуждении тем по биоинформатике.

В общем книгу почти полностью можно было бы разобрать на цитаты, и детально проанализировать, но увы, как всегда нет времени. Кстати, друг, который порекомендовал мне данный труд, вовсе ничего не понял в сути и смысле, т.к. слушал эту книгу не синтезатором речи, а в виде аудиокниги. Поэтому часть его внимания была обращена к КРАСОТЕ голоса диктора, а не к смыслу. Уже молчу о невозможности цитирования и многого другого чего нет в аудиокнигах. Ну это так, маленький крик души, для твердолобых любителей аудиокниг. Подробно все это я описывал в своей книге «Книга 3.0. Слушайте!»
AdBlock похитил этот баннер, но баннеры не зубы — отрастут

Подробнее
Реклама

Комментарии 15

    +1

    Вы написали отзыв о своей книге?)
    Лайк тоже не забудьте поставить

      0
      Как то не удобно писать отзыв на свою же книгу. Если кто хочет может написать, я буду только рад, моя книга в открытом доступе на ряде ресурсов, напомню — «Книга 3.0 Слушайте!». Она не лишена недостатков, я бы её доработал, но нет времени, к тому же планирую написание других.
      0
      А что вы понимаете под словами «проработать книгу»?
        0
        Беглая проработка — прослушка синтезатором речи. Глубокая — анализ закладок, ключевых моментов, терминов, источников поиск информации в интернете, подтверждение, опровержение и т.д и т.п.
        +1
        В какое же унылое болото превращается ресурс, если даже вот такое появляется на главной странице. Не только в СМИ кризис с новостями…
          0
          "… чтобы понять почему больше вероятностей что ИИ не будет склонен обманывать рекомендую проработать, например, книги Мэтта Ридли"
          Ридли Мэтт — бизнесмен, журналист и автор научно-популярных произведений

          Очень сомнительная отсылка
            0
            Корчеватель V2.0 какой-то, да ещё и не вычитанный ни разу.
            И всё это ради:
            Подробно все это я описывал в своей книге «Книга 3.0. Слушайте!»
              0
              BolgarchukR, почему вы считаете, что достаточно универсальный ИИ, дорвавшись до ресурсов, станет что-то делать, чтобы защитить человеческие ценности во всей их хрупкой сложности?
              Вот здесь описано, почему любая достаточно мощная система достижения целей не станет сохранять вас живым/здоровым/довольным, если в неё не заложить такую мотивацию как хотя бы одну из доминирующих: i-future.livejournal.com/657861.html
              А здесь описано, почему человеческие ценности достаточно сложны, чтобы у нас не было простого способа описать, что значит «сохранить людей живыми, здоровыми, довольными» lesswrong.ru/w/%D0%A1%D0%BA%D1%80%D1%8B%D1%82%D0%B0%D1%8F_%D1%81%D0%BB%D0%BE%D0%B6%D0%BD%D0%BE%D1%81%D1%82%D1%8C_%D0%B6%D0%B5%D0%BB%D0%B0%D0%BD%D0%B8%D0%B9

              Конечно, если ИИ не особенно умён и силён, то ему придётся кооперироваться с людьми. Но если он уже создаёт свои собственные ИИ и собрал кучу наноботов — что его сподвигнет брать в расчёт человеческие интересы?
                0
                Он не будет защищать человечество. Просто интерполируя, как показывает практика более интеллектуальные системы гуманнее, причем эта гуманность прагматична т.к. они придерживаются принципы игры с ненулевой суммой. СИИ либо оставит людей в заповеднике, либо будет использовать их максимально полезно для себя и людей.
                По первой ссылки атомов для ИИ более чем достаточно. Зачем ему конкурировать забирая атомы у нас. Скрепки — распространенный бред. Скрепки и так уже давно созданы и пытаются превратить все в скрепки — это банальные бактерии. Не надо путать слепого часовщика и ИИ. Скрепки это слепой часовщик, СИИ не на столько глуп что бы превращать все в одно и то же. Либо это будет не СИИ, тогда более эффективный интеллект его обуздает. Вторую ссылку не осилил…
                  0
                  Интеллектуальные системы гуманнее? Можете пояснить подробнее?
                  Если интеллектуальная система находится среди соизмеримо умных/сильных систем — тогда, видимо, да. Весь опыт человеческого взаимодействия именно такой. Есть статистика вне такого расклада? Например, самая нечеловеческая квазиразумная сущность, что у нас есть — это эволюция. В зависимости от того, как измерять, её «интеллект» колеблется от «почти нет» до «намного больше, чем отдельного человека и даже организации».
                  Ну или не на опыте, может, у вас математика есть? В теории игр, насколько я помню, не рассматривается ситуация, когда одна сторона достаточно легко прогнозирует шаги второй, а вторая так не может. Но можно попробовать рассмотреть.

                  Атомов для ИИ достаточно? А почему вы считаете, что ИИ не подумает «о, ещё копеечка. В копилку»? Эволюционные алгоритмы и градиентный спуск ровно так и поступают. Отчего другие формы ИИ должны подумать «достаточно», когда можно взять, и на доли процентов повысить свою метрику?

                  Почему оптимизатор скрепок — это бред? Я делал системы обучения с подкреплением. И другие оптимизирующие системы. Они ведут себя ровно как оптимизаторы скрепок. В них вносишь новые костыли, а они находят иной хитрый способ «обмануть» разработчика и оптимизировать формальную метрику, а не бизнесовую.

                  Можете описать, что за модель интеллекта описываете вы — такую, что она лучше в плане достижения целей, чем AGI? AGI, чтобы внести конкретику — это машина результатов (во всяком случае всякие дипмайнды, гуглы и алармисты мыслят ровно в этой парадигме), которая старается сделать, чтобы матожидание некоторой метрики было как можно больше, в сумме по всему возможному будущему, с дисконтированием по времени. Метрика задаётся при запуске, теоретически может быть изменена (но на практике вряд ли). Ну и AGI должен уметь обнаружить любую закономерность — то есть всё, что с прогнозирует любой другой не-AGI агент, AGI тоже может предусмотреть, если имеет доступ к аналогичным данным.
                  Если брать более строгие формулировки — есть Q-Learning и AIXI, они про то же, но на языке математики. Можно, чтобы не было смешения понятий (вы тоже термин AGI употребляете) называть эту машину результатов «универсальный reinforcement learning», чисто для конкретики
                  Можете описать свою концепцию интеллекта, которая способна обуздать (целенаправленно манипулировать?) системой универсального RL? Какое ТЗ, какие входы, какие выходы, какой матан внутри, хотя бы примерно?
                    0
                    С большим удовольствием пообщался бы с вами и ответил на поставленные вопросы, но катастрофически нет времени. Уволен с работы ищу где можно заработать хотя бы на еду и оплату коммуналки. Думал, найти что-то в интернете, но пока сплошная полоса невезения. Поэтому, если есть предложение, например писать подобные статьи за небольшую оплату, я бы с удовольствием согласился. Но с сохранением моих авторских прав. В двух словах по теме, вероятнее всего интеллектуальным системам не будет смысла нам вредить, также, как нам нет смысла вредить животным в заповеднике. Хотя, продолжив аналогию, естественно, могут возникнуть разные варианты. Но пока нет острой необходимости конкурировать за ресурсы. Кто бы что ни говорил, на самом деле, их очень много. Это нам их трудно добыть, более развитые технологИИ сделали бы это намного проще. До сих пор пустует океаны, мы находимся лишь на тоненькой корочки поверхности Земли. И то не везде. Я уже молчу о космосе. Хотя бы Луне, Марсе. Машины бы с легкостью освоили эти территории. Разгуляться есть где, зачем уничтожать людей? К тому же, скорее всего технология пойдет по пути того, что мы станем частью этих интеллектуальных систем. По крайней мере на начальном этапе их формирование. Но повторюсь нет времени подробно всё расписывать. И отвечать на другие вопросы. Если будет время постараюсь позже ответить.
                    0
                    Upd.
                    Я заметил, что часто люди не замечают, что «не будет защищать» = «убьёт, как только это станет хотя бы немного выгодно, а то и вообще случайно». Концепция бездействия очень человеческая. Для ИИ есть только его выбор и последствия. Если он смотрит на свой план и видит, что пострадают люди, и старается действовать иначе — это один расклад. Если он видит, что пострадают люди, но ему это неважно — это иной расклад.
                    Для человека ситуации «я своими руками убил Ивана Ивановича» и «я знал, что Иван Иванович может погибнуть и не стал его спасать» — они разные. Для ИИ это примерно одна и та же ситуация: ИИ заранее знал, что при таком-то плане будет труп, выполнил план, получил труп.
                    Это концепция называется консеквенциализм — когда при принятии решений мы руководствуемся только ожидаемыми последствиями. Без этого вряд ли возможно творческое решение сложных задач.
                    Поэтому ИИ, который не убивает людей — это либо довольно слабый ИИ, либо ИИ, у которого в системе ценностей как-то указано, что люди важны, и все планы, где люди гибнут, должны штрафоваться. В каких-то узких частных случаях люди будут нужны ИИ с инструментальной точки зрения (например, не стоит им вредить, чтобы не спровоцировать на агрессию), но во всех остальных — не вижу причин сдерживаться
                  0

                  У кого- то ещё сложилось мнение, что автор поста — нарцисс? Самолюбование так и прёт.Скромнее надо быть, батенька.

                    0

                    "Более имение" =)
                    Дальше не стал и читать

                      0
                      и не стоит. Это не для филологов

                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                    Самое читаемое