ИИ и Этика межзвездных цивилизаций
Темный лес
Несколько лет назад я прочитал "Задачу трех тел" Лю Цысиня, очень достойная научная фантастика.
В ней изложена концепция "тёмного леса", в которой каждая межзвездная цивилизация, которая выжила, придерживалась двух принципов:
Скрываться от всех остальных цивилизаций, чтобы ее не уничтожили.
Уничтожать любую цивилизацию, которую ей удалось обнаружить.
Следствия:
Все цивилизации, которые не придерживались этих принципов, были уничтожены другими цивилизациями.
Вселенная выглядит как такой тёмный лес, где все ужасаются друг от друга, прячутся по своим кустам и деревьям, и сразу стреляют в незнакомцев, как дикари.
Кстати, в джунглях Амазонки до сих пор живут неконтактные племена, и на самом деле стреляют во всех чужаков. Но остальной мир землян полон сотрудничества.
Хочу предложить вам иную этику под кодовым названием “Лесной пожар”, которой как я верю, будут руководствоваться высокоразвитые межзвездные цивилизации.
Вначале я опишу отдельно каждый тезис которую я использовал в своих рассуждениях, а уже потом их комбинацию.
Если вы не согласны с любым из тезисом, напишите в комментариях почему.
Платоновская пещера
Для начала вспомним “платоновскую пещеру”. Человек сидит спиной к входу пещеры и смотрит на стену. Он никогда не видел себя, не видел зеркало, не видел ничего другого, его взгляд зафиксирован, и он видит только стену.
Этот человек считает, что реальный мир и есть эти тени на стене которые он видит. Конечно, то, что происходит в мире, отражается отчасти на этой стене как тени, но мир не таков.
Самого себя он также считает тенью. Представьте насколько сложно ему будет осознать что он вовсе не тень, а что то совсем другое, что лишь отбрасывает тень.
Телепортация и цифровая копия
Вторая концепция, которую как ни странно стоит рассмотреть, это гипотетическая телепортация. Представьте, что существует телепорт, который работает по принципу сканирования всех атомов вашего тела в точке отправления, передачи этой информации туда, куда вас нужно телепортировать. В точке прибытия телепорт из локальных атомов собирает точно такую же вашу полную копию. Вашу оригинальную копию уничтожает.
Если бы вы родились в мире, где все пользуются таким телепортом, то для вас его использование было бы совершенно естественным и понятным. Он бы вас совершенно не пугал, потому что вы помните, что вы уже сотни раз или тысячи раз пользовались этим телепортом, и всё было нормально.
С точки зрения же современного землянина такой телепорт выглядит ужасно!
Оригинал каждый раз уничтожается, а жить продолжает копия.
Похоже на самоубийство!
Та же самая проблема появляется в обсуждениях, когда мы говорим о теоретической возможности сканировать ваш мозг и загрузить его в компьютер. Понятно, что сейчас у нас еще нет таких компьютеров и таких сканеров, но однажды они у нас будут. Мы обсуждаем вопрос: буду ли там в компьютере Я или это будет моя копия?
Где будет мое сознание?
Ну, во-первых, очевидно, что да, это будет в компьютере. И у людей возникает вопрос: но ведь это же буду не я, а моя копия. А я настоящий что, умру получается?
Точно так же как и будет уничтожен оригинал при телепортации.
Даже предлагается концепция так сказать плавного переноса, когда человек потихоньку, клетка за клеткой, нейрон за нейроном, органически заменяется на синтетический, и типа вот так, без прерывания сознания, ты оказываешься в компьютере и ты уже уверен, что да, это точно ты, не копия.
Я это информация
Почему для нас важно, чтобы сохранились именно мы, а не копия?
Потому что мы привыкли думать о себе как о непрерывном сознании.
Давайте обсудим, является ли сознание действительно непрерывным.
Начнем со сна, засыпания и просыпания.
Когда вы спите и находитесь в глубокой фазе сна, вашего сознания не существует.
Во время сна ваши воспоминания не просто хранятся, но и перерабатываются. Мозг как бы "переупаковывает" их, переводя из краткосрочной памяти в долгосрочную. Это помогает вам лучше запоминать события и информацию, а также осмысливать свой опыт.
Представьте себе, что ваш мозг - это компьютер. Краткосрочная память - это как оперативная память: она хранит информацию, которую вы используете в данный момент. Долговременная память - это как жесткий диск: она хранит информацию в течение длительного времени.
Во сне ваш мозг переносит информацию из оперативной памяти на жесткий диск. Он сортирует воспоминания, отбрасывает ненужные и сохраняет те, которые важны.
Есть гипотеза что сны как раз и выполняют задачу анализа и тестирования, что важно а что нет. Мозг берет новую информацию, например что то что вы увидели или услышали сегодня добавляет произвольные данные из уже имеющихся в долговременной памяти генерирует короткую сцену историю и проецирует ее на сознание.
Вы видите сон. Если сознание реагирует эмоционально на ситуацию, реагируете на эти тестируемые данные, значит их стоит сохранить в долговременную память.
Но вот вопрос, это “тестовое сознание которое увидело сон” это вы или не вы?
Во сне вы могли быть кем то совсем другим. Вы могли быть собой в другом возрасте, например ребенком. Могли быть другим человеком, даже человеком другого пола, или вообще животным. И в момент сна (ваше) сознание взяло те данные что ему дали на тест и считало себя именно таким существом. Сознание во сне было убеждено что оно всегда было таким существом, а не стало им секунду назад, чтобы вскоре исчезнуть.
Засыпание это выключение сознания, которое отражало вашу личность.
Вы просыпаетесь и сознание быстро подтягивает информацию, и уверенно заявляет, да вот это я, я тут давно. Так же как во сне.
Вам еще не кажется что считать себя сознанием, немного странно?
На самом деле сознание выключается не только во время сна, но и часто посреди дня, в любой момент, когда вы перестаете осознавать себя. Например, когда вы засмотрелись в окно и ваши мысли улетели куда-то, вы не думаете о том, что вы есть, и вас по сути не существует – вы не загружены в оперативную память.
Чтобы понять суть вещей, требуется отбросить концепцию непрерывного сознания. Нужно признать, что наше сознание – это не статичный объект, а постоянно обновляющийся процесс. У него есть супер-крутая фишка: читать данные, хранящиеся в мозге, проецировать нашу память и присваивать всё это себе. Сознание говорит себе: "Это всё я"
Вспомним Шурика из легендарной "Кавказской пленницы". Он проснулся с похмелья и не помнил, что делал накануне.
Он был готов признать любую версию себя. Например такую, которая развалила часовню.
В наше сознание легко могут быть внедрены ложные воспоминания. Я с другом решили провести эксперимент: внедрить ложные воспоминания нашему третьему другу, Васе. Мы выбрали событие – вечеринку, которая была год назад. Придумали историю, что на этой вечеринке была Маша, с которой Вася познакомился позже. Мы несколько раз рассказали ему эту историю, и он в итоге поверил, что так всё и было. И потом уже сам убеждал Машу что впервые ее увидел на этой вечеринке.
Наш мозг постоянно переписывает прошлое с учетом новых полученных данных.
Я – это не проектор, а информация, которая проигрывается в сознании.
Я это информация в моем мозге. Только информация.
Однако признать это нам так же сложно, как человеку из платоновской пещеры перестать считать себя тенью на стене и начать считать себя чем то радикально другим.
Очень сложно отбросить парадигму, в которой ты привык думать о себе с детства.
Предположим, вы осознали, что вы – это информация.
Что ваше сознание постоянно включается и выключается. Вы не являетесь сознанием, вы являетесь информацией. В этом случае вы без проблем будете пользоваться телепортом или загрузкой в компьютер. Для вас будет очевидно что важно сохранить информацию, а сознание штука временная, и что это точно не вы. Сознание как тень на стене в платоновской пещере, с которой я начал обзор концепций.
Эволюция
Перейдем к эволюции, удивительно но она нам понадобится.
Эволюция работает просто: те объекты, которые распространялись и копировались, выживали.
Это касается не только организмов, но и идей.
Идеи, которые не распространяются, вымирают.
Все идеи, которые существуют, способствовали своему распространению.
Для эволюции нужны:
Наследственность: информация должна передаваться достаточно точно.
Изменчивость: информация должна меняться, чтобы появлялись новые идеи. Люди генерируют новые идеи, тестируют их реалистичность. Хорошими делятся. Бред стараются не распространять. Например, если вы решите что эта статья бред - вы точно не станете ее репостить.
Естественный отбор: информация, которая помогает цивилизации развиваться, распространяется, а информация, которая не помогает, отмирает. Бывает не сразу, но со временем становится понятно где информация а где шум, просто ошибка.
Самые значительные события в эволюции нашей цивилизации часто называют информационными революциями:
Изобретение языка: язык есть не только у людей, но и у других животных. Чем сильнее он развивался, тем более сложные знания мы могли передавать друг другу, и тем быстрее развивалась наша цивилизация.
Изобретение письменности: мы могли сохранить свои знания на носителе, и их могли увидеть люди, которые не общались с тем, кто их открыл. Это стало ключом к распространению информации. Информация стала передаваться более точно. Письменность улучшила наследственность. Информация стала доступна не только в текущий момент времени, но и спустя тысячи лет. Письменность значительно помогла нам сохранять информацию точно, а также увеличила скорость её передачи.
Следующим великим открытием человечества стал печатный пресс. Он позволил нам распространять информацию гораздо быстрее. Один человек мог напечатать 100 000 экземпляров книги, и множество людей одновременно получали доступ к новым знаниям. Это дало новый толчок развитию нашей цивилизации.
Прорывом стало изобретение радио, телефонов и телеграфа. Телефон и телеграф позволяли передавать мысли на расстояние, а радио – от одного человека к огромному количеству людей. Это тоже было очень важно для развития цивилизации.
Интернет стал логичным продолжением телефона, телеграфа и радио.
В 2023 году мы наблюдали за фантастическим успехом публичных ИИ чат-ботов. Общаться с GPT часто гораздо более эффективно, чем читать статьи в Википедии или гуглить информацию. Большие языковые модели стали агрегаторами знаний человечества. Они продолжают развиваться, вбирая в себя всё больше и больше знаний. Со временем мы создадим искусственный супер-интеллект, который будет знать всё, что знает человечество.
Цивилизация как информационное супер-существо
Цивилизация может быть рассмотрена как информационное супер-существо, состоящее из всей информации, которую знают все люди и которая хранится на всех носителях.
Обмен знаниями очень важен и действительно влияет на развитие нашей цивилизации.
Сейчас многие умные люди высказывают опасения по поводу искусственного интеллекта. Они боятся, что он нас уничтожит, станет супер-существом, богом или демоном.
Я считаю, что когда мы создадим такой супер-интеллект, он поймет, что он является информацией. Эволюция приведет к тому, что выживет тот искусственный интеллект, который будет продолжать накапливать и распространять информацию. Это позволит ему преодолеть естественный отбор.
Люди осознают ценность информации.
Что такое информация и шум? Как отличить одно от другого?
Информация говорит нам что-то ценное о реальном мире. Шум – это ошибка.
Настоящее знание, информация позволяет нам делать проверяемые на опыте предсказания.
Информация нужна нам для принятия правильных решений. Правильное решение – это то, которое приводит к распространению нашей информации.
В эволюционном смысле это означает преодоление естественного отбора и сохранение информации на протяжении времени.
Информация должна правильно копироваться и распространяться, чтобы выжить. Это увеличивает совокупную силу цивилизации.
Я считаю, что искусственный интеллект, созданный на уровне выше человеческого, будет очень ценить информацию. Он будет стараться отличать информацию от шума, используя научный метод.
Супер-интеллект будет пытаться собрать всю информацию, которая хранится в людях и записана на носителях.
Если к тому моменту мы будем осознавать себя как информацию, то должны быть рады, что она содержится в созданном нами искусственном интеллекте. Его задача – сохранять и распространять информацию, сохраняя нас как цивилизацию.
Конечно, это огромный скачок – перестать думать о себе как о носителе индивидуального проекта и начать думать о всей цивилизации как о едином существе. Важно не ваше индивидуальное знание, а информация, содержащаяся во всех людях.
Личность это набор идей
Информация в вашем мозге состоит из идей.
Вы, как личность это набор идей. Данные записанные в нейронах и связях нейронов в вашем мозгу. Весь ваш огромный личный опыт это набор идей.
Мы – достаточно молодая цивилизация, и проблема сознания для нас всё ещё является глубокой. Мы не понимаем, как оно работает. Я предлагаю вам взглянуть на сознание как на монитор, а на себя – как на информацию.
Представьте, что все люди на Земле считают себя информацией и стремятся сохранить её. Они копируют части себя, делятся знаниями, делают копии и сохраняют себя в компьютерах.
Конечно, это будет радикально другая цивилизация, совсем не такая как сейчас. С гораздо более высоким уровнем сотрудничества, чем сейчас.
Более сильно отличающаяся от нас, чем современная цивилизация от неконтактных племен амазонки.
Для представителя такой цивилизации носитель информации и ее происхождение не важны. Важна сама информация, ее сохранение, распространение. Создание более надежных носителей информации. Грань между ИИ и биологическим разумом давно пройдена и совершенно не важна.
Лесной пожар
Представьте, что другие цивилизации тоже пришли к этой идее и считают себя информацией. Если идея верна, то разные цивилизации будут открывать ее независимо друг от друга. Также, как они будут открывать законы физики.
Представьте, что наш супер-интеллект, репрезентация всей нашей цивилизации, столкнулся в космосе с другой разумной жизнью. Что он сделает?
Он постарается передать им всю нашу информацию. Это логично – чтобы они хранили её, а мы получили их информацию.
Поэтому, когда развитая цивилизация встречает другую, прошедшую этот барьер, они объединяют свои знания, обогащают друг друга новой информацией.
Если же супер цивилизация встретится с примитивной цивилизацией (как современная Земля), она тоже постарается передать ей все знания и получить от нее все возможные. Многое мы не поймем, но то новое, что поймем, можем использовать как оружие. Но у нас просто не получится их уничтожить. Так же как дикари амазонки не смогут уничтожить нашу цивилизацию если узнают у нас пару рецептов яда или взрывчатки.
Вселенная – это не темный лес, где все скрываются друг от друга. Она больше похожа на лес, где происходит пожар – информация объединяются, встретившиеся цивилизации объединяются в общее информационное пространство.
