Comments 36
Допустим, биологизм верен и только "мясные" нейроны дают сознание. Возьмем живой мозг и будем заменять нейроны по одному на их силиконовые аналоги. Тогда возможно одно из двух: либо сознание постепенно будет меркнуть (при этом сам испытуемый это будет отрицать, так как все аналоги нейронов отвечают точно также на все входящие импульсы), либо после замены очередного нейрона сознание резко пропадет (опять-таки, испытуемый будет вести себя как обычно).
Очень похоже на парадокс Гиббса из термодинамики.
Говорят, Эйнштейн не мог поверить, что бог играет в кости. Но утверждается, что он не только играет, но и выбрасывает одновременно все грани кубика, а потом ловко прячет от нас все лишние результаты. Если так, то кто на это сопособен, как не он? ;)
В данной статье я не пытаюсь дать ответ на вопрос "что такое сознание". Сложная проблема сознания слишком сложна, и неизвестно, получим ли мы когда-либо ответ.
Все что на текущий момент сложно для хомо через какое то ремя оказывается простым, первоочередная задача пояишегося хомо осознать кто он, он выбирает из набора звуков часто повторяющийся и запоминает, условно заносит в переменную String myName = ''Vasya"; так и с окружающим миром, только это уже база знаний, это горячо, это колется, а тут приятно, происходит некоторая классификация. Нейросеть обучается.
Рассмотрим модель, где душа
Всё, дальше можно не читать, началась схоластика с попыткой протащить в научное поле христианскую концепцию богоданной человеку души.
Не, там дальше гораздо хуже. Там солянка из ошибочных наивных псевдонаучных штампов.
Приведите примеры
Делая из ДНК ребенка вы забыли включить в модель социум без взаимодействия с которым сознания у него не сформируется.
Ещё, вы не можете предсказать LLM иначе как выполнив ее алгоритм в определенных входных условиях. Возможность моделирования и предсказания это не одно и то же. В мультивселенной вы не можете знать состояние нейронки до байта (не можете помнить столько информации своим мозгом) и нейронка не может знать всех состояний своих байт. Значит в одной ветке вы моделируете одну нейронку а в другой чуть другую. И результат непредсказуем ни для кого.
А где я сказал что взаимодействие не нужно? Мне по умолчанию было очевидно что надо имитировать внешний мир, подавая в виртуальную копию сигналы. И тем не менее это проще чем сканировать мозг
В мультивселенной нейрона при данном seed и промпте всегда даёт один ответ, за исключением ветвей где сбойнуло железо
Во второй раз он даёт тот же ответ. Но откуда вы знаете что в первый раз ответ тоже предрешён? Нет никакой модели как работает мультивселенная.
Если идти от квантовой механики, то мир описывается суперпозицией множества состояний и при каждом эксперименте это множество сужается. Если ответ LLM это эксперимент, то откуда вам известно, что каждый вес нейронов находится в определенном состоянии а не в смешанном и выбирается в момент эксперимента?
Ваш мультиверс это ваша выдумка. Нет никакой теории указывающей именно на такой мультиверс. Попробуйте пообсуждать с chatgpt в чем разница между суперпозицией и смешанным состоянием, а так же обязано ли смешанное состояние быть определенным до измерения в многомировой интерпретации.
Какой дремучий лес вместо статьи.
Нет никаких оснований утверждать, что на принятие решений влияют квантовые неопределённости. Там всё со всем постоянно взаимодействует и декогерирует постоянно на уровне гораздо меньше нейрона. На порядки меньше, а не в несколько раз.
Однако даже квантовые случайности вовсе не означают свободы воли, ведь свобода воли — это осознанный выбор, а не случайность. Случайности, это, наоборот несвбода воли. Отсутствие случайностей тоже не свобода воли. Свобода воли в классическом понимании в принципе противоречит научной картине мира сегодняшнего дня.
Мозг сосканировать вовсе несложно, можно заморозить и разрезать на тонкие пластинки, где всё видно. Да и по МРТ с разрешением в мм3 можно сделать много-много сканов и получить гораздо более высокое разрешение.
А вот взять эмбриона с заданной ДНК (некодирующие гены тоже так-то влияют) и просимулировать развитие это во много раз более сложная задача. У нас просто дофига ещё неизвестно о человеческом метаболизме, да и то, что известно, настолько сложное, что это невозможно посчитать с удовлетворительной скоростью.
Очень раздражает, что автор скачет с темы на тему и базируется на сомнительных постулатах, а также, что совершенно непонятно, что автор пытался доказать.
Щас закину в Клода, может он мне объяснит.
Вот пообсуждайте с кодом о mind upload, я обсуждал перед написанием)
А что там обсуждать? Ну будет у вас цифровой брат-близнец с такими же воспоминаниями, вам-то от этого какая польза?
Мне - конечно никакого. Но речь о цивилизации
Ну вы прикалываетесь что-ли? Ок, спрошу и в таком виде.
Ну будет у каждого представителя цивилизации цифровой брат-близнец с такими же воспоминаниями, этим представителям цивилизации-то от этого какая польза?
Крупным политикам, которые мечтают жить вечно - никакого.
Цивилизации - делают цифровых детей а потом кожаные мешки вымирают. Цифровые люди спокойно переносят полеты куда угодно, не требуют таланта, кислорода, можно передавать по радио итд
Так где польза-то? Что изменилось для представителей цивилизации? Ничего не изменилось, они тут исчезают в обоих вариантах, что с виртуальными существами, что без. Какая им разница, что какие-то другие существа будут летать в космосе? Если предполагать, что инопланетяне скорее всего существуют, это получается то же самое. Или вот животные - цивилизация исчезла, а животные остались. Это абсолютно то же самое, остались какие-то существа, не являющиеся исходной цивилизацией.
Обычные камни тоже спокойно переносят полеты куда угодно. Почему этого недостаточно, и нужные какие-то другие умные камни с процессорами и программами? В чем и для кого конкретно от этого польза?
Эти существа могут считать виртуалов своими улучшенными последователями.
Представьте что в результате мутации возникли люди v2.0, "людены". По вашей логике людям от этого не жарко и не холодно
Если люди исчезают, то да. Это то же самое, что остались животные, и через миллион лет развились в “люденов”.
Не говоря уже о том, что если появятся такие улучшенные люди, то отношение к ним у большинства обычных людей будет негативное.
Эти существа могут считать виртуалов своими улучшенными последователями.
Ну и главное. А mind upload-то для этого зачем? Можно сделать просто обычный сильный ИИ и обучить его всему.
А почему важно, чтобы предыдущее звено эволюции исчезло? Вот обезьяны не исчезли, и это никак не мешает нам считать себя максимумом развития на текущий момент
По второму, mind upload не обязателен, можно обучать LLM на своих переписках (такие прецеденты уже есть)
Непонятно. Где я писал, что важно, предыдущее звено эволюции исчезло? Вы написали собеседнику “Пообсуждайте с клодом о mind upload”, как будто это какая-то очень важная вещь. Я спросил, что там такого важного, чтобы это надо было обсуждать.
можно обучать LLM на своих переписках
А при чем тут именно свои переписки? Вы уже несколько комментариев подряд уходите от ответа. Почему нельзя обучать ИИ на нормальных научных данных?
Так вы сами писали: "Если люди исчезают, то да." Поэтому я и спросил, почему вам важно, чтобы предыдущее звено эволюции исчезло
Что касается ИИ, то я предлагал "виртуальных" людей воспитанных в виртуальной реальности, но с (виртуальной) структурой мозга как у нас. Вы предлагаете вообще заменить людей супер мозгом? Это возможно. Но это более экстрим вариант
А ничего что вы первым задали контекст “а потом кожаные мешки вымирают”? Это вас надо спросить, зачем это вам. Я писал комментарий в вашем контексте.
Но это более экстрим вариант
Это абсолютно тот же вариант. Если у вас возможен mind upload, то у вас по определению возможен сильный ИИ. Сильный ИИ это не “супер мозг”, а ИИ со способностями обычного человека.
Тогда сильный ИИ достигнут. Просто когда об этом думали, не ожидали что тест Тьюринга будет пройден так легко, и тем не менее чего то будет не хватать.
Сейчас ИИ куда умнее среднестатистической муклы в вакууме (или скуфа с пивком и футболом). И тем не менее нет удовлетворения, согласны? Гениальности нет
P.S. Уверен будут кидать камни за непереведенное слово eigenstate.
Нет, за неопределённое слово "душа" и то как она может влиять на физический мир, не подчиняясь при этом его законам. Ну и там дальше столько всего, мельком выскакивало при мотании. ДНК каким-то образом привязывается к полному состоянию личности и якобы по ней можно это состояние восстановить. Набор всего в общем.
неопределённое слово "душа"
синтетическое понятие, сгенерироанное физической нейросетью хомо для его собственного удовольствия, своего рода виртуальная реальность:-)
Во многих психологических экспериментах (например по обнаружению слабых сигналов) единственный испытуемый принимает множество однотипных решений. Так что усреднение по людям не обязательно. Там конечно нестационарность и динамика в полный рост, но их успешно моделируют.
Непонятно почему свободный выбор должен проявляться только в "судьбоносных" решениях. Там ReLU на прогнозируемую величину последствий? Это само по себе может быть интересным модельным предположением.
У него не будет свободы воли (мы можем его предсказать)
Если в составе не будет генератора случайных сигналов или систем с динамическим хаосом.
«Сознание системы — та часть управляющего информационного центра, посредством которой она воспринимает себя как некоторую целостность, отделенную от окружающего мира, и это восприятие существует в виде ощущения-представления «Я».» [Ильясов Ф. Н. Разум искусственный и естественный // Известия АНТ, серия общественных наук. 1986. №6]
"Воля – способность субъекта создавать иерархизированную систему ценностей и прикладывать усилия для достижения ценностей более высокого порядка, пренебрегая ценностями низкого порядка.
Свобода воли – выбор субъектом одного варианта из нескольких равноценных для него, в этом смысле равновозможных, т.е. это своеобразный генератор случайных чисел.
Если выбор производится не из равноценных вариантов, то такое поведение детерминировано." [Ильясов Ф. Н. Словарь социальных исследований]
Тут важно понять, в какой научной и философской парадигме происходит описание "сознания". Строго говоря, оно не является "продуктом мозга", мозг может существовать у субъекта, а сознания при этом может не быть (сон, травма). То есть это не объект, а процесс, который можно нарушить, настроить и пр. Второе, относительно физики, сознание это процесс, который возникает при обмене сигналами, знаками, образами и пр. Для него характерны и необходимы память, как место и способ хранения воспринятых сигналов, кодификация сигналов в знаки для передачи другим субъектам. Ну и непосредственно транспорт, связь для обмена. В свое время про это хорошо рассказал Нооберт Винер, а также русские физиологи Бехтерев, Павлов, ну и Кнорозов в своей статье о сигнализации.. Грубо говоря обмен информацией между субъектами живого может происходить и без наличия мозга, как некоего отдельного органа для восприятия и "сборки реальности"...
Я тоже думаю, что MWI – единственная интерпретация КМ, допускающая свободу воли. Но только при условии, что субъект этой воли является мультивёрсным объектом, а не абстрактной «душой». И только если сузить свободу воли до ситуаций, когда у вас есть выбор из нескольких вариантов действий, ни один из которых не является для вас заведомо предпочтительным, и вы принимаете решение спонтанно, понимая, что с таким же успехом могли поступить иначе. Только в такой ситуации возможна чувствительность макросостояния мозга к слабым квантовым эффектам, которые можно использовать как источник случайности. Возможно, в процессе декогеренции (расщепления) мозга срабатывает рекурсивная нисходящая причинность: макроконфигурация нейросети определяет вероятности квантовых микрофлуктуаций, к которым она чувствительна, и тем самым «выбирает», в какой ветви вы с большей вероятностью себя осознаете. Но это не распространяется на независимые от наших действий исходы квантовых измерений, поэтому экспериментально такую свободу воли обнаружить нельзя. Все остальные варианты выбора ветвей а-ля Менский и Зеланд приводят либо к солипсизму, либо к нарушению правила Борна и «пустым» ветвям с философскими зомби, в которых я не верю, как и в загрузку сознания.
Свобода воли, сознание, физика