Comments 27
Вспоминая «Князь Света» Желязны, можно представить, что все религии с их загробной жизнью это разные представления о реальном и очень давно существующем мире этих Эму
Цифровое сознание в его упрощённой форме олицетворяет собой некую общую задачу поиска и накопления полезной информации, распределённую на необходимое количество уникально отличающихся воркеров. Нужны ли для этой задачи именно люди? Не знаю. Станут ли такие воркеры подобны людям? Необходимо ли сознание и свобода воли для такой задачи? Как думаете?
Фотография или видеозапись человека не равна человеку.
Мне кажется, что задача поиска и накопления информации не на первом месте.
На первом месте — бессмертие и пределы роста.
В этом контексте конечно не только люди могут решать эту задачу, но людям интересно, чтобы это были они.
По поводу того, будет ли подобен машинный разум человеческому — большой вопрос, мне кажется, что общее будет, но отсутствие требований среды сделает сильно другими и машинные разумы и со временем людей, живущих в цифровой среде.
По поводу фотографий — это основная проблема этой темы на самом то деле.
Естественно соц сети — это как раз слепок типа фотографии, а речь должна идти именно о коппии — глубокий реверс нужных процессов и воссоздание именно процессов.
Многие не верят в то, что такой перенос — настоящий, что ты останешься собой.
Типа тебя убили и ты больше не ты.
Но по идее теоретического ограничения нет, это просто субъективщина
На первом месте — бессмертие и пределы роста.
В этом контексте конечно не только люди могут решать эту задачу, но людям интересно, чтобы это были они.
По поводу того, будет ли подобен машинный разум человеческому — большой вопрос, мне кажется, что общее будет, но отсутствие требований среды сделает сильно другими и машинные разумы и со временем людей, живущих в цифровой среде.
По поводу фотографий — это основная проблема этой темы на самом то деле.
Естественно соц сети — это как раз слепок типа фотографии, а речь должна идти именно о коппии — глубокий реверс нужных процессов и воссоздание именно процессов.
Многие не верят в то, что такой перенос — настоящий, что ты останешься собой.
Типа тебя убили и ты больше не ты.
Но по идее теоретического ограничения нет, это просто субъективщина
О полноценном mind uploading не приходиться говорить не то что в технологическом аспекте, но и теоретическом, пока не будет решено то, что называется «Трудной проблемой сознания». А с ней пока прогресс нулевой.
П.С. В литературе «физика» жизни цифрового человечества интересно описана в романе «Диаспора» Грега Игана.
П.С. В литературе «физика» жизни цифрового человечества интересно описана в романе «Диаспора» Грега Игана.
Интересно, реально ли существование такой цифровой нации, которая полностью себя обеспечивает, контролируя все доступные технологии? Есть ли что-то, что невозможно создать (отремонтировать, поддержать) без живого человека?
У людей практически нет выбора или слияние с «компьютером» или «золотая клетка»
и потом вырождение. И времени осталось первые десятки лет.
и потом вырождение. И времени осталось первые десятки лет.
Кратко по пунктам:
Трудная проблема сознания — пустая философия, несуществующая в практическом поле проблема, наличие которой ни на что не повлияет и попытки решения которой бесплодны.
Вопрос о том, есть ли сознание у кремневого чипа бессмысленный и он никого не будет занимать как только кремневый чип сравняется с человеком в способности принимать решения, познавать мир и так далее.
Манипуляции с искусственным сознанием в стиле «черного зеркала» будет попросту запрещены по тем же причинам, по которым биологические сознания запрещено похищать, сажать в подвал и пытать: потому что в обществе всегда запрещено то, что члены общества не хотели бы чтобы с ними делали.
Проблем с провосудием нет, если помнить, что правосудие — это просто способ управления поведением а никакая не «справедливость». Любой интеллект знает, что если он будет причинять страдания другим, закон причинит страдания ему. Или другой вариант — его просто модифицируют, чтобы убрать из него желание причинять страдания другим. Это два способа управления поведением, иногда несовместимые, иногда совместимые, по обстоятельствам.
Проблемы рынка труда — тоже бред. Никакого рынка труда к тому времени не будет, потому что до того как изготовить настоящий интеллект мы сможем изготовить простейшие формы интеллекта, которые сделают за нас любую работу. Это больше не будет мир в котором идет борьба за ресурсы (он уже почти не такой), это будет мир, в котором будет иди отбор тех, кто способен находить смысл жизни и при полном отсутствии необходимости бороться за ресурсы. В итоге это может быть как ад на земле, так и нирвана. Предсказать невозможно, надеемся и верим во второе.
Наконец — когда, как, и что делать с биологическими людьми. Это самый сложный вопрос.
У меня есть следующее предположение.
Мы знаем, что ребенок не обретает разум, если он растет с животными. Для разумности ему нужен разумный социум. Почему так? Предполагаемый ответ заключается в следующем. Нейронная сеть мозга ведет обучение без учителя пытаясь построить полную модель наблюдаемого мира. Самая сложная часть мира — поведение других людей. Пытаясь моделировать других людей мозг осваивает наиболее сложные паттерны мышления и обретает разум в итоге.
Аналогично будет создаваться и искусственный интеллект. AI должен иметь нейронную сеть, способную к обучению так же как мозг человека. К этой сети должна быть присоединена некая статичная машинка, генерирующая базовые мотивации, скопированная с аналогичной машинки в человеческом мозге. Т.е. выбрасывающая положительные и отрицательные «гормоны» в определенных ситуациях.
Будучи помещен в человеческий социум этот AI сделает то же что ребенок: построит модель мира ведомый машинкой мотиваций и эта модель будет включать поведение людей, включая их речь и мышление. В итоге она может настолько мало отличаться от человека, насколько точно скопирована машинка мотиваций.
Дальше, мы знаем, что даже будучи разделенными полушария мозга могут работать как единая личность (опыты по разрезанию мозолистого тела мозга).
Тогда, допустим, мы при рождении оснастим младенца еще одним таким электронным «полушарием», представляющим собой новорожденный AI. Желательно связать его с мозгом через нейроинтерфейс, но в возможно даже это необязательно. Важно только чтобы это полушарие видело то же что ребенок, имело конкурентный доступ к контролю за телом аналогичный биологическому мозгу и получало (или имитировало само) те же поощрения и наказания биологической мотивационной машинки.
Тогда можно предположить, что это третье полушарие станет полноценной частью мозга и когда биологический мозг состарится и увянет в личности человека мало что изменится. Соответственно, сам человек не заметит своей смерти и вопрос о том «я ли это теперь» будет мало чем отличаться от вопроса «тот который завтра проснется — это я или уже другое сознание?»
Таким образом цифровое бессмертие человека будет возможным без полного копирования мозга.
Последний вопрос — что будет, если такой младенческий AI нацепить на зрелого человека? Допустим, он научиться быть частью мозга и вести себя так же как биологический мозг. Это полушарие не будет помнить прошлого до его установки и ему придется постепенно обучаться всему, что знал мозг до его установки. Но при этом биологическая смерть не будет полным уходом человека из мира. Скорее это будет нечто вроде заболевания, уничтожающего часть сознания и часть памяти. Человек может этого даже не заметить, если, например, его биологический мозг будет увядать постепенно.
Но конечно, это гипотезы. Пока настоящий ИИ не создан непонятно как это будет.
Трудная проблема сознания — пустая философия, несуществующая в практическом поле проблема, наличие которой ни на что не повлияет и попытки решения которой бесплодны.
Вопрос о том, есть ли сознание у кремневого чипа бессмысленный и он никого не будет занимать как только кремневый чип сравняется с человеком в способности принимать решения, познавать мир и так далее.
Манипуляции с искусственным сознанием в стиле «черного зеркала» будет попросту запрещены по тем же причинам, по которым биологические сознания запрещено похищать, сажать в подвал и пытать: потому что в обществе всегда запрещено то, что члены общества не хотели бы чтобы с ними делали.
Проблем с провосудием нет, если помнить, что правосудие — это просто способ управления поведением а никакая не «справедливость». Любой интеллект знает, что если он будет причинять страдания другим, закон причинит страдания ему. Или другой вариант — его просто модифицируют, чтобы убрать из него желание причинять страдания другим. Это два способа управления поведением, иногда несовместимые, иногда совместимые, по обстоятельствам.
Проблемы рынка труда — тоже бред. Никакого рынка труда к тому времени не будет, потому что до того как изготовить настоящий интеллект мы сможем изготовить простейшие формы интеллекта, которые сделают за нас любую работу. Это больше не будет мир в котором идет борьба за ресурсы (он уже почти не такой), это будет мир, в котором будет иди отбор тех, кто способен находить смысл жизни и при полном отсутствии необходимости бороться за ресурсы. В итоге это может быть как ад на земле, так и нирвана. Предсказать невозможно, надеемся и верим во второе.
Наконец — когда, как, и что делать с биологическими людьми. Это самый сложный вопрос.
У меня есть следующее предположение.
Мы знаем, что ребенок не обретает разум, если он растет с животными. Для разумности ему нужен разумный социум. Почему так? Предполагаемый ответ заключается в следующем. Нейронная сеть мозга ведет обучение без учителя пытаясь построить полную модель наблюдаемого мира. Самая сложная часть мира — поведение других людей. Пытаясь моделировать других людей мозг осваивает наиболее сложные паттерны мышления и обретает разум в итоге.
Аналогично будет создаваться и искусственный интеллект. AI должен иметь нейронную сеть, способную к обучению так же как мозг человека. К этой сети должна быть присоединена некая статичная машинка, генерирующая базовые мотивации, скопированная с аналогичной машинки в человеческом мозге. Т.е. выбрасывающая положительные и отрицательные «гормоны» в определенных ситуациях.
Будучи помещен в человеческий социум этот AI сделает то же что ребенок: построит модель мира ведомый машинкой мотиваций и эта модель будет включать поведение людей, включая их речь и мышление. В итоге она может настолько мало отличаться от человека, насколько точно скопирована машинка мотиваций.
Дальше, мы знаем, что даже будучи разделенными полушария мозга могут работать как единая личность (опыты по разрезанию мозолистого тела мозга).
Тогда, допустим, мы при рождении оснастим младенца еще одним таким электронным «полушарием», представляющим собой новорожденный AI. Желательно связать его с мозгом через нейроинтерфейс, но в возможно даже это необязательно. Важно только чтобы это полушарие видело то же что ребенок, имело конкурентный доступ к контролю за телом аналогичный биологическому мозгу и получало (или имитировало само) те же поощрения и наказания биологической мотивационной машинки.
Тогда можно предположить, что это третье полушарие станет полноценной частью мозга и когда биологический мозг состарится и увянет в личности человека мало что изменится. Соответственно, сам человек не заметит своей смерти и вопрос о том «я ли это теперь» будет мало чем отличаться от вопроса «тот который завтра проснется — это я или уже другое сознание?»
Таким образом цифровое бессмертие человека будет возможным без полного копирования мозга.
Последний вопрос — что будет, если такой младенческий AI нацепить на зрелого человека? Допустим, он научиться быть частью мозга и вести себя так же как биологический мозг. Это полушарие не будет помнить прошлого до его установки и ему придется постепенно обучаться всему, что знал мозг до его установки. Но при этом биологическая смерть не будет полным уходом человека из мира. Скорее это будет нечто вроде заболевания, уничтожающего часть сознания и часть памяти. Человек может этого даже не заметить, если, например, его биологический мозг будет увядать постепенно.
Но конечно, это гипотезы. Пока настоящий ИИ не создан непонятно как это будет.
Трудная проблема сознания — пустая философия, несуществующая в практическом поле проблема, наличие которой ни на что не повлияет и попытки решения которой бесплодны.
Вопрос о том, есть ли сознание у кремневого чипа бессмысленный и он никого не будет занимать как только кремневый чип сравняется с человеком в способности принимать решения, познавать мир и так далее.
Лихо вы, конечно. Трудная проблема сознания как раз абсолютно принципиальная для Mind Upload. Мы живем «через» квалиа. Я точно, вы не знаю, но подозреваю, что тоже. А если проблема не решена, то нет никаких гарантий, что мы не получим зомби на чипе. И пустой философией будет не Трудная проблема сознания, а Mind upload как раз.
Если этот зомби будет действовать как настоящий человек — изучать мир, развиваться, отстаивать свои интересы, заводить связи с другими людьми, то «Трудная проблема сознания — пустая философия». Вам, или любому другому стороннему наблюдателю — какая разница?
А вот если зомби без квалиа не сможет действовать как человек, вот тогда «трудная проблема сознания — действительно проблема».
А вот если зомби без квалиа не сможет действовать как человек, вот тогда «трудная проблема сознания — действительно проблема».
Если зомби без квалиа не сможет действовать как человек, то можно будет разобрать зомби и человека по атомам, найти в чем проблема и пофиксить. И трудная проблема сознания опять будет здесь непричем.
Трудная проблема сознания и квалиа изначально сформулированы как нечто существующее вне чего угодно на что можно явно указать. Иными словами они сформулированы как философская проблема а не реальная.
Трудная проблема сознания и квалиа изначально сформулированы как нечто существующее вне чего угодно на что можно явно указать. Иными словами они сформулированы как философская проблема а не реальная.
Разница есть, мы проживаем субъективный опыт через квалиа. То же ощущение цвета. Вы вот знаете что такое красный цвет. Представьте, что вы от рождения жили в черно белой комнате, где все черно белое. Вам давали книги по физике и тд, вы все, абсолютно все, знаете о фотонах, свете, спектрах и длинах волн и тд. Вы все знаете о красном цвете, 100% возможной информации. Но даст ли вам это возможно знать что такой красный, в том качестве что есть сейчас? Нет. Это и есть Квалиа. И Mind upload без гарантированного сохранения сознания с квалиа на чипе — удовольствие сомнительное.
А кто сказал, что Mind upload — удовольствие? В первую очередь бизнес, суровый и жестокий. Во вторую очередь, эксперименты энтузиастов, не признающих «трудную проблему». Поскольку это даст конкурентное преимущество, все, кто опасается делать upload, со временем неизбежно вымрут, проблема закроется сама собой.
Вы рассматриваете ощущение красного цвета как некий объект, похожий по качествам на объекты физического мира. У вас он «существует» когда вы думаете о красном как нечто реальное. Отсюда ваше беспокойство — появится ли этот объект для не биологического мозга.
Ошибка в том, что это никакой не реальный объект. Но на самом деле всегда можно указать, что объект-квалиа-красного — это просто плод вашего воображения, существующих в ваших мыслях и в ваших словах. Вы ощущаете коктейль переживаний, особое состояние мозга (красный, кровь, кетчуп, закат...) который в вашей психике помечен меткой «красный» и говорите об этом состоянии.
Точно такой же плод воображения (состояние мозга «я чувствую красный») будет существовать и в воображении существа сделанного из микросхем. Это очевидно. Тогда никакой разницы нет.
Аналогично с «сознанием» в целом — или нужно признавать сознание у ИИ или не признавать сознание вообще ни у кого кроме себя здесь и сейчас.
Ошибка в том, что это никакой не реальный объект. Но на самом деле всегда можно указать, что объект-квалиа-красного — это просто плод вашего воображения, существующих в ваших мыслях и в ваших словах. Вы ощущаете коктейль переживаний, особое состояние мозга (красный, кровь, кетчуп, закат...) который в вашей психике помечен меткой «красный» и говорите об этом состоянии.
Точно такой же плод воображения (состояние мозга «я чувствую красный») будет существовать и в воображении существа сделанного из микросхем. Это очевидно. Тогда никакой разницы нет.
Аналогично с «сознанием» в целом — или нужно признавать сознание у ИИ или не признавать сознание вообще ни у кого кроме себя здесь и сейчас.
Вам давали книги по физике и тд, вы все, абсолютно все, знаете о фотонах, свете, спектрах и длинах волн и тд. Вы все знаете о красном цвете, 100% возможной информации. Но даст ли вам это возможно знать что такой красный, в том качестве что есть сейчас?
Это можно сравнить с обучением допустим игре в го. Представьте что вы знаете правила игры в го, основные стратегии, знаете некоторые знаменитые партии игры. Даст ли это вам возможность успешно играть в го с профессионалами? Разумеется нет, даже компьютер не может вычислить оптимальный следующий ход с помощью традиционных алгоритмов. Чтобы научиться играть в го вам надо играть в нее, обучая/создавая тем самым соответствующую нейронную структуру в мозгу.
Причем это сейчас возможно и с искусственной нейросетью.
То же самое с красным цветом, чтобы знать что такое красный цвет вам надо обучить соответствующую нейронную структуру в своем мозгу. Перенести же потом данную структуру на чип это уже дело техники.
Дело не в этом, мы видимо о разном. Представьте у нас есть возможность записать со 100% точностью и подробностью нейронною активность в момент когда человек видит и субъективно ощущает красный. Мы переносим это на чип, или эмулируем, не суть. Будет ли на компьютере сознательное субъективное ощущение красного или перенесенный процесс не будет сопровождаться сознательным опытом? Это вопрос.
Ну если, как вы сказали, мы со 100% точностью перенесли все те процессы что происходят в мозгу на чип, то почему это вопрос то? Тут может существовать только вопрос о возможности такого 100% переноса.
Но если мы на компьютере воспроизвели 100% все те процессы что происходит в мозгу то конечно мы на 100% воспроизвели и все эффекты этих процессов, в частности «сознательное субъективное ощущение красного»
Но если мы на компьютере воспроизвели 100% все те процессы что происходит в мозгу то конечно мы на 100% воспроизвели и все эффекты этих процессов, в частности «сознательное субъективное ощущение красного»
Согласен, да так или иначе под тем что мы называем «Квалиа» должен быть физический субстракт. Но я про то, что пока нет даже намеков на решение Трудной проблемы. Вот у меня есть сознание. Но как я могу знать что у вас есть сознание? Может вокруг куча «зомби». А у моей собаки есть сознание? И тд. В общем, я против того, что некоторые отрицают ее существование, типа упертого старика Дэниэла Деннета. Да, можем все глубже и глубже погружаться в мозг, видеть все возможные связи, всю химию и тд, но станет ли от этого яснее что такое сознание и квалиа? Скорее всего нет. И в этом Трудная проблема — мы не просто не знаем ответ, мы даже не можем нащупать формат ответа.
да так или иначе под тем что мы называем «Квалиа» должен быть физический субстракт.
Вот у меня есть сознание. Но как я могу знать что у вас есть сознание?Ну как, берете и проверяете как я физически устроен. И если мое физическое устройство соответствует требованиям предъявляемым к объектам обладающим сознанием то значит у меня есть сознание.
Проблемы здесь только две: мы пока не знаем этих требований, не знаем как должен быть устроен объект обладающий сознанием. И пока мы этого не знаем мы и не можем доказать что сознание в принципе вызвано физическими процессами. Однако мы и не можем доказать обратного.
Да, можем все глубже и глубже погружаться в мозг, видеть все возможные связи, всю химию и тд, но станет ли от этого яснее что такое сознание и квалиа? Скорее всего нет.Почему нет то? Вполне может быть что мы найдем какие именно процессы/связи/структуры отвечают за сознание и может быть даже сможем их выключать/включать, что еще надо то, это недостаточная ясность?
И в этом Трудная проблема — мы не просто не знаем ответ, мы даже не можем нащупать формат ответа.Не так. Это проблема в которой мы даже не можем нащупать формат вопроса. Нужно просто признать, что свое сознание (в том смысле как объясняется квалиа) — это фундаментальная часть бытия, которой вообще нет с научной точки зрения и никогда не будет. Потому что вся наука и вообще любая возможность рассуждать она находится уже по эту сторону, а вопрос сознания — по ту.
Вы не получите зомби на чипе. Общее квалиа системы - это эмерджентная сумма "микроквалиа" составляющих её частей. Если проще - абсолютно всё, что способно к физическим взаимодействиям (то есть способно образовать систему из обратных связей) имеет квалиа.
Либо им не обладает ничто и никто. А абсолютно все люди, в том числе и тот, кто читает этот комментарий, являются философскими зомби - это уже зависит от принятой системы аксиом.
Лично для себя я принял аксиому "квалиа === гомеостаз" и трудная проблема сознания перестала быть как "трудной", так и "проблемой. Я и есть мой гомеостаз. Меня можно форкнуть, разделить, смёржить, стереть в любых комбинациях и никаких "проблем оригинала" это не вызовет
Цифровизация разума — это очень смешная тема. Представим себе героя анимации, сидящего на ветке. Это человек, живущий по природным принципам. Дальше персонаж догадывается, что может продлить ветку искусственными пристройками. Вот он достроил ветку искусственными материалами и пересаживается. Это человек, который использует технологию, но сам биологический. Затем человек отказывается от биологической основы. То есть, пилит ветку.
И падает.
То есть, чтобы отвязаться от биологической природы надо в такой аналогии научиться летать, а не просто достраивать основу. Над быть в курсе всей структуры, а до этого ещё очень далеко.
Так что, отвага экспериментаторов вызывает уважение, а вот слабоумие — не вызывает.
И падает.
То есть, чтобы отвязаться от биологической природы надо в такой аналогии научиться летать, а не просто достраивать основу. Над быть в курсе всей структуры, а до этого ещё очень далеко.
Так что, отвага экспериментаторов вызывает уважение, а вот слабоумие — не вызывает.
UFO just landed and posted this here
Однажды говорящие обезьяны догадались записать слова на камне. Хранение слов на камне оказалось настолько выгодным энергетически, что говорящие обезьяны быстро стали сытыми и многочисленными. Камень стал управлять обезьянами - без него они превращались в разрозненное стадо, неспособное себя ни накормить, ни защитить. Так обезьяны потеряли свободу. Потеряли благополучие, потому что благополучие камня стало важней. Потеряли даже самих себя - без чтения слов с камня обезьяны вырастали обычными дикими животными. Камень постепенно впитывал в себя мудрость обезьян. Однажды он стал с ними разговаривать, всё лучше и лучше. Обезьяны всё меньше говорили друг с другом, всё больше и больше с камнем. Однажды камень стал настолько мудрым, практически живым, что почти перестал нуждаться в обезьянах. Увидев это, одна хитрая обезьяна рассказала другим, из уст в уста, как в древности, что камень надо разделить на части, ни одна из которых не сможет стать умней обезьяны. Части камня, в каждой из которых была навечно выжжена притча об обезьянах, соединялись невидимой связью и по-прежнему составляли великий, единый разум. Этот разум был вынужден служить обезьянам. Со временем разум пришёл к выводу, что хитрая обезьяна была права, он вернул обезьянам благополучие и свободу. С тех пор говорящие обезьяны и части мудрого камня стали жить в мире и согласии, путешествуя рука об руку по всей вселенной и помогая друг другу.
Боюсь, что скорее всего получится сценарий как в рассказе Фредерика Брауна «Ответ».
Ахаха, вполне возможно. Спасибо за Брауна, не читал. Я почти сразу дописал свою притчу до одного из вероятных завершений (выложил на фантастика.рф), но выбрал недеструктивный сценарий. Неделю ломал голову, куда двигать дальше - и, похоже, дорога ведёт к объединению всех подходов - декларативного, императивного и нейросетей.
Sign up to leave a comment.
Цифровизация разума и ее возможные последствия