Ну вот так вот получилось, эволюция причудливая штука.
Причем тут эволюция. Если вам нужно сделать самолет - вы будете изучать эволюцию (ведь птицы летают) или аэродинамику?
Мы видим что в мозге кроме нейросети - есть и другие элементы, которые не являются нейросетью. Тот же упомянутый эпифиз и амигдалы. Причем феномен сознания возникает вот как раз в этих древних областях, которые не являются целиком нейросетью. А кора больших полушарий, которые 100% нейросеть или мозжечок, который тоже 100% нейросеть - не производят сознания.
Вот взять мозжечок (51% нейронов) и кору больших полушарий (48% нейронов) - их функции целиком и полностью удается воссоздать на основе искусственной нейросети. Речь - можем, воображение - можем, распознание звуков - можем. Все воссоздается. Мозжечок - движение - можем. Но это не имеет отношения к феномену сознания. А вот те древние области - там ж не только нейросети - возможно что для их воссоздания нужно раскрыть другие феномены.
предположение что нейросеть мозга это и есть то что обеспечивает сознание вполне достаточное
Тогда почему 99% этой нейросети не нужно для возникновения сознания? И если нет главной 1% - то в 99% сознание не возникнет. Причем та 1% - довольно причудлива, с амигдалами, эпифизом и пр. интересными штуками, которые даже НЕ нейросеть.
у нашей нейросети есть некая необнаруженная нами пока что способность обеспечивать абсолютно всё наше поведение не через сознательное управление этим поведением
Вы попробуйте на основе знаний биологии и устройства мозга определить где именно находится т.н. сознание, в каких частях мозга. Будете удивлены. До сих пор нет ответа.
Даже проще - какие части мозга достаточны для существования феномена сознания. Так же нет единого мнения и точного ответа.
Так же в искусственных нейросетях никаких признаков сознания нет - ни в какой степени.
нет необходимости считать что мы что то не учитываем, все такие гипотезы можно смело "отрезать" бритвой окама
Есть необходимость - ее обуславливает аргумент бихевиорального философского зомби.
В том то и фишка - ценность представляет не внешнее поведение - оно нам не нужно - а внутреннее страдание или наслаждение, которые могут не иметь внешних признаков.
Впрочем, уверен что как-то это себя проявит, т.е. этот 1% разницы в поведении можно будет увидеть, пусть и не сразу.
Из-за неполноты модели, неучтенного некого феномена. К примеру, этим феноменом могут быть квантовые эффекты. Причем эти эффекты могут оказывать незначительное влияние на работу системы, т.е. если их не учтем - все будет работать на 99% как и задумано. А почему в 1% не совпадает - мы можем не сразу понять.
мне кажется в биохимической реализации нет каких то особых скоростей недостижимых в кремниевой или еще какой то реализации
Да кто его знает. Ощущение наслаждения может быть побочным эффектом на уровне устройства нейрона. Т.е. при внешнем одинаковом функционале - одна реализация нейронов приводит к возникновению данного феномена, а другая не приводит. Хотя внешнее поведение совпадает (или отличается в неких мелочах - каких?).
Неплохо бы выстроить гипотезу сначала, а уже потом пытаться что-то копировать.
Ну и что вы знаете? Вот, выше чел. предположил, что феномен наслаждения и страдания зависит от аппаратной реализации - если собрать не на биохимических элементах а на транзисторах - то феномены наслаждения и страдания не сохранятся.
Нет, не аналогично. Делается допущение об уровне абстракции, на котором воссоздание процессов необходимо и достаточно.
Если необходимо и достаточно воссоздать процессы на уровне сумматоров (не важно на какой основе) - то покажите какие именно процессы.
Если необходимо и достаточно воссоздать процессы на уровне химии, молекул и пр. - то покажите почему не достаточно более высокого уровня.
И т.д. Если необходимо и достаточно воссоздать процессы на квантовом уровне - тот же вопрос.
Красный цвет это наслаждение или страдание?
Красный вызывает большой эмоциональный отклик. В качестве квалиа обычно приводят "красность", а не "бежевость" или "серость". Не думали почему?
Меня удивляют что люди сами не понимают что хотят передать.
Отвечая на ваш вопрос. Красный - цвет крови, цвет цветов. У разных людей отклик может быть разным - как и одновременно и положительным и отрицательным (от этого он еще сильнее). Но всегда сильным плюсом и/или сильным минусом.
Желательность и нежелательность ощущений в компьютере задается просто знаком
Это не делает наслаждением и страданием. Вот вы поставили себе плюс - нужно доделать какую-то работу. Не значит что вы наслаждаетесь - может быть ситуация вас заставила. Отношение может быть совсем разным.
На этапе смены платформы.
Ну вот это вам и нужно доказать. Какая именно платформа необходима и достаточна.
Не только, они отличаются и аппаратным устройством, типами нейронов и их соединений.
Тут у вас перемешалось несколько аспектов.
Когда мы говорим о копии сознания на базе транзисторов (как сейчас строят современные нейросети) - это значит, что все нейроны и все связи будут воссозданы. Только будет другой тип сумматоров, на других феноменах (p-n -переход вместо биохимических процессах).
А вы говорите о другой архитектуре - но на уровне соединений.
Будет ли разница, если соединения, веса, функцияонал нейронов будут идентичными.
Оно будет хотя бы в виде "с этого датчика приходит сигнал". В моем представлении в компьютере только такие квалиа и будут.
Ну это уж не квалиа. Квалиа подразумевает эмоциональную окраску - наслаждение и страдание. Как то "пришел сигнал и мне больно, я не хочу это ощущать".
На каком этапе будет потеряно наслаждение и страдание?
в одной происходит один из феноменов которые мы называем собирательным термином "страдание", в другой один из феноменов которые мы называем собирательным термином "наслаждение"
А как вы это будете определять, не понимая сути явлений?
Тут даже вопрос - с чего вы взяли, что вычислительная платформа имеет значение в вопросах наслаждения/страдания или т.н. субъективного опыта/квалиа?
Это будут не такие ощущения, как у нас, но их все равно можно назвать ощущениями.
С чего вы взяли, что не такие как у нас? Вы знаете как возникает хотя бы какое-то минимальное наслаждение и страдание? Не видимость (кричащая кукла) а именно само страдание и наслаждение.
Коль вы взялись утверждать что они будут, но другие - обоснуйте. Может быть будут такие точно. Или же вообще не будет.
С того, что вычисления не могут выполняться сами по себе, они могут выполняться только на физическом исполнителе.
Вот у меня ранее был процессор x86. Сейчас ARM на десктопе. Совсем разное железо, разный набор команд. Но все программы практически те же самые. Какая разница на какой аппаратной платформе выполняется?
Вы считаете, что если процесс сознания запустить на ЭВМ, то будет только видимость страдания, а не само страдание?
Нет, у полной копии - процессы не отличаются. Можно сказать что спустя несколько секунд процессы пойдут разными путями, это возможно - но отклонения будут не значительны.
И мозгов тоже. Они росли в одном доме, у них были одни родители, они помнят одинаковые события.
Даже отпечатки пальцев разные.
Есть вещи, которые не определяются строго ДНК-кодом.
Есть только незначительные различия, наподобие один сидел за столом слева, другой справа.
Это не соответствует действительности. Мозг развивается во многом схоластично, там нет четкой программы. Как и отпечатки пальцев.
Как вы объясните - ДНК одинаковое, а отпечатки пальцев совсем разные?
В тамагочи только информационная.
Т.е. вы считаете, что информационно-вычислительная копия сознания человека - не будет ничего ощущать? Не будет ощущать боли и радости - только делать нужные действия для внешнего наблюдателя?
Он сам по себе не обретает способность к ощущениям.
А что обретает способность к ощущениям?
Если информационный процесс не обретает способность к ощущениям и вы скопировали сознание на базе информационных процессов - то, получается, вы сделали то что мы называем бихевиоральный философский зомби?
Ребенок лишь воображает, исполняет программу, для него ранение только информационная сущность.
Когда актер делает вид боли - происходят совсем другие процессы в ЦНС, нежели при настоящей боли. А вот с чего вы решили что есть что-то другое, кроме вычислительных процессов? Просто в одном случае одни вычислительные процессы а в другом случае другие.
Не тождественны, у них разные процессы, разные характеры - только внешнее сходство тел, но не мозгов.
Я уже ответил, это связано с аппаратными особенностями
Если что-то связано с аппаратными особенностями - это уже не чисто информационно-вычислительный процесс. Для информационно-вычислительного процесса платформа реализации не имеет значения.
в тамагочи появляется сигнал в определенной ячейке, и она издает звук, который означает "Хочу есть"
Видимость страдания не есть само страдание. Если актер на сцене как бы кричит от боли - все понимают, что на самом деле он боли не испытывает.
Какие аппаратные особенности нужны, это интересный вопрос, но для вопроса изобретения ИИ это значения не имеет
Этот вопрос имеет ключевое значение для нравственных и религиозных вопросов. Если эта особенность - есть свойства некой фундаментальной частицы (т.е. то что в быту называют "душа") - это многое меняет. Это значит что после смерти мозга сохранится ваша способность страдать и наслаждаться, ведь фундаментальную частицу разрушить невозможно.
Там говорят максимум о тождественности разных сущностей
Этого достаточно.
Опять приходим к вопросу - как так получается, что у некого процесса возникают феномены личного наслаждения и страдания и, как следствие, желания.
Есть некоторые физические элементы, в них происходят некоторые процессы. Разные элементы - разные процессы.
И что? Вопрос ведь в том, какая нам печаль что эти процессы прекратятся. А вот в этом случае какие-то особенные процессы, что у них самих возникает желание.
В этом случае оно не будет работать в компьютере, и вопроса нет.
Так оно и так не работает. Все феномены, как-то распознание изображений, звука, формирование предложений, ориентация в пространстве, электронное обнаружение запахов и т.д. - были продемонстрированы в той или иной мере на компьютерах 40 и более лет назад. В современном мире это лишь доведено до совершенства - но ничего нового не добавлено. А вот феномены наслаждения и страдания не были продемонстрированы ни в каком виде, даже в самом простом.
Для полного принятия личной ответственности - придется принять и концепцию переселения душ. Родился неполноценным, инвалидом и страдаешь от этого - значит всего лишь делал много несправедливости по отношению к другим людям в прошлой жизни, может какого-то ребенка искалечил.
Иногда можно убедить себя, что если кто-то родился инвалидом то в чем-то другом он более одарен - но это обман, так не работает.
что копия не имеет значения и всегда считается исходной сущностью
В информационном смысле - именно так. Стоимостью железа обычно можно пренебречь. Разве что для вопроса дублирования, на случай повреждения - но это совсем другой вопрос (там можно и холодный бекап данных - без процесса).
В случае, когда сам информационный процесс обретает свойства наделять ценностью - т.е. становится субъектом/одушевленным - то все меняется. Но у нас нет никаких гипотез, как некий вычислительный процесс может перейти в категорию одушевленного.
может меняться независимо от оригинала, то есть иметь свое поведение
Вот когда изменилась - можно сказать что стала чуть другой. Но т.к. речь о коротком промежутке времени и изоляции в больничных условиях (или условиях биореактора) - то ничего ценного из изменений не будет, т.е. никакого полезного опыта не будет.
Дело вообще не в этом - вы уводите в ненужное русло.
просто факт, в результате эволюции на Земле появились некие вычислительные процессы, которые сами для себя что-то решают
Вовсе не факт. Не доказано что сознание имеет вычислительную природу. Возможно его природа фундаментальна и просачивается через некие квантовые эффекты на уровне молекул Познера.
Причем тут эволюция. Если вам нужно сделать самолет - вы будете изучать эволюцию (ведь птицы летают) или аэродинамику?
Мы видим что в мозге кроме нейросети - есть и другие элементы, которые не являются нейросетью. Тот же упомянутый эпифиз и амигдалы. Причем феномен сознания возникает вот как раз в этих древних областях, которые не являются целиком нейросетью. А кора больших полушарий, которые 100% нейросеть или мозжечок, который тоже 100% нейросеть - не производят сознания.
Вот взять мозжечок (51% нейронов) и кору больших полушарий (48% нейронов) - их функции целиком и полностью удается воссоздать на основе искусственной нейросети. Речь - можем, воображение - можем, распознание звуков - можем. Все воссоздается. Мозжечок - движение - можем. Но это не имеет отношения к феномену сознания. А вот те древние области - там ж не только нейросети - возможно что для их воссоздания нужно раскрыть другие феномены.
Тогда почему 99% этой нейросети не нужно для возникновения сознания? И если нет главной 1% - то в 99% сознание не возникнет. Причем та 1% - довольно причудлива, с амигдалами, эпифизом и пр. интересными штуками, которые даже НЕ нейросеть.
Вы попробуйте на основе знаний биологии и устройства мозга определить где именно находится т.н. сознание, в каких частях мозга. Будете удивлены. До сих пор нет ответа.
Даже проще - какие части мозга достаточны для существования феномена сознания. Так же нет единого мнения и точного ответа.
Так же в искусственных нейросетях никаких признаков сознания нет - ни в какой степени.
Есть необходимость - ее обуславливает аргумент бихевиорального философского зомби.
В том то и фишка - ценность представляет не внешнее поведение - оно нам не нужно - а внутреннее страдание или наслаждение, которые могут не иметь внешних признаков.
Впрочем, уверен что как-то это себя проявит, т.е. этот 1% разницы в поведении можно будет увидеть, пусть и не сразу.
Из-за неполноты модели, неучтенного некого феномена. К примеру, этим феноменом могут быть квантовые эффекты. Причем эти эффекты могут оказывать незначительное влияние на работу системы, т.е. если их не учтем - все будет работать на 99% как и задумано. А почему в 1% не совпадает - мы можем не сразу понять.
Да кто его знает. Ощущение наслаждения может быть побочным эффектом на уровне устройства нейрона. Т.е. при внешнем одинаковом функционале - одна реализация нейронов приводит к возникновению данного феномена, а другая не приводит. Хотя внешнее поведение совпадает (или отличается в неких мелочах - каких?).
Неплохо бы выстроить гипотезу сначала, а уже потом пытаться что-то копировать.
Ну и что вы знаете? Вот, выше чел. предположил, что феномен наслаждения и страдания зависит от аппаратной реализации - если собрать не на биохимических элементах а на транзисторах - то феномены наслаждения и страдания не сохранятся.
Нет, не аналогично. Делается допущение об уровне абстракции, на котором воссоздание процессов необходимо и достаточно.
Если необходимо и достаточно воссоздать процессы на уровне сумматоров (не важно на какой основе) - то покажите какие именно процессы.
Если необходимо и достаточно воссоздать процессы на уровне химии, молекул и пр. - то покажите почему не достаточно более высокого уровня.
И т.д. Если необходимо и достаточно воссоздать процессы на квантовом уровне - тот же вопрос.
Красный вызывает большой эмоциональный отклик. В качестве квалиа обычно приводят "красность", а не "бежевость" или "серость". Не думали почему?
Меня удивляют что люди сами не понимают что хотят передать.
Отвечая на ваш вопрос. Красный - цвет крови, цвет цветов. У разных людей отклик может быть разным - как и одновременно и положительным и отрицательным (от этого он еще сильнее). Но всегда сильным плюсом и/или сильным минусом.
Это не делает наслаждением и страданием. Вот вы поставили себе плюс - нужно доделать какую-то работу. Не значит что вы наслаждаетесь - может быть ситуация вас заставила. Отношение может быть совсем разным.
Ну вот это вам и нужно доказать. Какая именно платформа необходима и достаточна.
Тут у вас перемешалось несколько аспектов.
Когда мы говорим о копии сознания на базе транзисторов (как сейчас строят современные нейросети) - это значит, что все нейроны и все связи будут воссозданы. Только будет другой тип сумматоров, на других феноменах (p-n -переход вместо биохимических процессах).
А вы говорите о другой архитектуре - но на уровне соединений.
Будет ли разница, если соединения, веса, функцияонал нейронов будут идентичными.
Ну это уж не квалиа. Квалиа подразумевает эмоциональную окраску - наслаждение и страдание. Как то "пришел сигнал и мне больно, я не хочу это ощущать".
На каком этапе будет потеряно наслаждение и страдание?
А как вы это будете определять, не понимая сути явлений?
Погодьте. А какие платформы, кроме мозга? Разве нам известна хотя бы одна платформа, кроме мозга, в которой еще возникают квалиа?
А вот мозги отличаются - программами, которые на них реализованы.
Как на счет того, что вообще не будет квалиа, если другая платформа?
Тут даже вопрос - с чего вы взяли, что вычислительная платформа имеет значение в вопросах наслаждения/страдания или т.н. субъективного опыта/квалиа?
С чего вы взяли, что не такие как у нас? Вы знаете как возникает хотя бы какое-то минимальное наслаждение и страдание? Не видимость (кричащая кукла) а именно само страдание и наслаждение.
Коль вы взялись утверждать что они будут, но другие - обоснуйте. Может быть будут такие точно. Или же вообще не будет.
Какие именно?
Вот у меня ранее был процессор x86. Сейчас ARM на десктопе. Совсем разное железо, разный набор команд. Но все программы практически те же самые. Какая разница на какой аппаратной платформе выполняется?
Вы считаете, что если процесс сознания запустить на ЭВМ, то будет только видимость страдания, а не само страдание?
Нет, у полной копии - процессы не отличаются. Можно сказать что спустя несколько секунд процессы пойдут разными путями, это возможно - но отклонения будут не значительны.
Даже отпечатки пальцев разные.
Есть вещи, которые не определяются строго ДНК-кодом.
Это не соответствует действительности. Мозг развивается во многом схоластично, там нет четкой программы. Как и отпечатки пальцев.
Как вы объясните - ДНК одинаковое, а отпечатки пальцев совсем разные?
Т.е. вы считаете, что информационно-вычислительная копия сознания человека - не будет ничего ощущать? Не будет ощущать боли и радости - только делать нужные действия для внешнего наблюдателя?
А что обретает способность к ощущениям?
Если информационный процесс не обретает способность к ощущениям и вы скопировали сознание на базе информационных процессов - то, получается, вы сделали то что мы называем бихевиоральный философский зомби?
Когда актер делает вид боли - происходят совсем другие процессы в ЦНС, нежели при настоящей боли. А вот с чего вы решили что есть что-то другое, кроме вычислительных процессов? Просто в одном случае одни вычислительные процессы а в другом случае другие.
Не тождественны, у них разные процессы, разные характеры - только внешнее сходство тел, но не мозгов.
Если что-то связано с аппаратными особенностями - это уже не чисто информационно-вычислительный процесс. Для информационно-вычислительного процесса платформа реализации не имеет значения.
Вы имеете в виду этот ответ: https://habr.com/ru/articles/818693/comments/#comment_26912501
Видимость страдания не есть само страдание. Если актер на сцене как бы кричит от боли - все понимают, что на самом деле он боли не испытывает.
Этот вопрос имеет ключевое значение для нравственных и религиозных вопросов. Если эта особенность - есть свойства некой фундаментальной частицы (т.е. то что в быту называют "душа") - это многое меняет. Это значит что после смерти мозга сохранится ваша способность страдать и наслаждаться, ведь фундаментальную частицу разрушить невозможно.
Этого достаточно.
Опять приходим к вопросу - как так получается, что у некого процесса возникают феномены личного наслаждения и страдания и, как следствие, желания.
И что? Вопрос ведь в том, какая нам печаль что эти процессы прекратятся. А вот в этом случае какие-то особенные процессы, что у них самих возникает желание.
Так оно и так не работает. Все феномены, как-то распознание изображений, звука, формирование предложений, ориентация в пространстве, электронное обнаружение запахов и т.д. - были продемонстрированы в той или иной мере на компьютерах 40 и более лет назад. В современном мире это лишь доведено до совершенства - но ничего нового не добавлено. А вот феномены наслаждения и страдания не были продемонстрированы ни в каком виде, даже в самом простом.
Для полного принятия личной ответственности - придется принять и концепцию переселения душ. Родился неполноценным, инвалидом и страдаешь от этого - значит всего лишь делал много несправедливости по отношению к другим людям в прошлой жизни, может какого-то ребенка искалечил.
Иногда можно убедить себя, что если кто-то родился инвалидом то в чем-то другом он более одарен - но это обман, так не работает.
В информационном смысле - именно так. Стоимостью железа обычно можно пренебречь. Разве что для вопроса дублирования, на случай повреждения - но это совсем другой вопрос (там можно и холодный бекап данных - без процесса).
В случае, когда сам информационный процесс обретает свойства наделять ценностью - т.е. становится субъектом/одушевленным - то все меняется. Но у нас нет никаких гипотез, как некий вычислительный процесс может перейти в категорию одушевленного.
Вот когда изменилась - можно сказать что стала чуть другой. Но т.к. речь о коротком промежутке времени и изоляции в больничных условиях (или условиях биореактора) - то ничего ценного из изменений не будет, т.е. никакого полезного опыта не будет.
Дело вообще не в этом - вы уводите в ненужное русло.
Вовсе не факт. Не доказано что сознание имеет вычислительную природу. Возможно его природа фундаментальна и просачивается через некие квантовые эффекты на уровне молекул Познера.
... была