Особенное в том, что если данный девайс сможет страдать как существо с развитой ЦНС — то это имеет юридические и нравственные последствия. А это меняет саму основу нашего общества и отношений — начиная от религии, заканчивая правом.
Вы же понимаете — что в общем случае — нейросеть, это не только и не столько архитектура, а именно веса?
Нужно создавать копию участка с учетом веса всех нейронов данного участка. Никто не говорит что это просто. Может быть досаточно заменить 1 нейрон для неких проверок.
Если это не получится — искать другие способы.
Цель ясна: создать девайс, который страдает и наслаждается как человек (или хотя бы как животное с развитой ЦНС). Как создать и как доказать что оно на самом деле страдает — это вопрос исследований. Никто ведь не знал, как именно доказать Великую Теорему — однако доказательство нашли.
Сказать что страданий не существует в принципе, по этому девайс является не возможным — никто не может. Значит создать его можно, остается вопрос — как и как потом доказать что он реально страдает.
что бы проводить какие-то параллели, нужна весьма высокая степень подобия систем
Особый интерес представляет феномен наслаждения и страдания. Это многое изменяет — начиная от религий и заканчивая гос. законами/отношениями в обществе. Последствия сложно представить.
Парадокс в том, что умеющий страдать девайс — будет обладать некими правами как существо — придется добавлять правовые нормы для защиты этого девайса от страданий, если эти страдания такие же, как у существа с развитой ЦНС. Это все меняет.
Т.е. железки строго разделятся на 2 категории: бесправные просто железки и субъекты, которые обладают некими правами.
В действительности мы не знаем даже, что такое жизнь, не говоря уже о сознании, и составляющих его квалиа). Можем давать различные физические, химические, функциональные, и тд определения, но они кажутся всегда неполными...
Дело не в определениях. Чтобы уйти от философии, словоблудия и пространных бесплодных рассуждений — мной была придумана конкретная задача — создать девайс, который испытывает наслаждение и страдание как человек или, допустим, как собака.
Пока нет ни одного человека, который готов заявить что задачу выполнил. Ни одного. Тут нет места философии — мы имеем результат, что задача есть а решения нет.
Создатель девайса так же должен доказать, что девайс действительно страдает, что повторена суть процессов страдания существа с развитой ЦНС. Далее — придется менять УК — добавлять статью, которая запрещает вызывать страдания данного девайса, ведь эти страдания такие же как у высших животных — разницы нет.
Пока имеем четкое нет: девайс не создан, никто не заявил, что это смог сделать.
Замена с сохранением весов нейронов, связей и т.д. Причем замена временная, чтобы можно было гарантированно откатить все назад.
Для начала научиться на время отключать те или иные части мозга, чтобы интроспективно пронаблюдать за изменениями. Причем отключать точечно — нужна высокая точность.
Избыточным или нет — можно долго философствовать. А вот когда есть задание — создать девайс, способный ощущать наслаждение и страдание — тут либо мы знаем как его сделать либо не знаем. Философсвовать уже негде.
Как доказать, что девайс реально ощущает — не знаю. Это как доказательство Великой Теоремы — никто не знал как доказать, но все же доказательство нашли. Думаю что, в первую очередь, важна идентичность процессов в ЦНС и процессов в девайсе. Или даже кратковременное замещение отдельных частей мозга на искусственные аналоги.
Последствия для общества — сложно представить.
Во-первых, сей девайс уже будет подлежать защите от издевательств, т.к. способен их испытать. А значит даже если кто-то тайно у себя дома соберет данный девайс или просто запустит процессы страдания — уже нарушит закон. Причем силу страданий уже можно будет выразить численно — а чем выше страдания — тем хуже статья.
Во-вторых, получится что сей девайс имеет душу. А это уже влияет на практически все религии, т.к. в той или иной степени вера связана с понятием бессмертной субстанции, которая сохраняется после смерти.
осьминоги в твоей картине мира обладают квалиа или лишь биоавтоматы
Могу сказать только о себе. Может быть даже не все люди обладают.
Тебе ранее уже предлагали схему из лампочки и батарейки
Читайте внимательнее. Временное замещение реальных процессов ЦНС. Т.е. отключаете часть мозга, лично ощущаете что после этого случилось. На время, на несколько секунд. Нужно научиться это делать. Далее, замещаете часть мозга искусственным аналогом (опять же на время, т.е. процесс должен быть обратимым). Примерно такое вижу доказательство, что процессы поняты и воспроизведены правильно.
и вот так постоянно, дает дырявое кривое ТЗ
Это не Т.З. Вот, как доказательство великой теоремы — не было Т.З. как именно доказать — как хочешь так и доказывай. Так и тут. Создай девайс и докажи, что он может испытывать страдания и к нему применимы вопросы нравственности — т.е. его нужно защищать от издевательств, к примеру.
Отличается лишь силой воздействия. Видимо как и сложность ЦНС — не любой сложности достаточно, чтобы издевательство имело нравственные последствия (вряд ли кого осудят, если будет рвать на кусочки медузу, без развитой ЦНС).
если вы понимаете, что и не могли знать этого — то это легкое раздражение, от того, что ваша интуиция не столь хороша, как хотелось бы
Зависит от вашего отношения — точно что нет обязательности страдания. Если это экзамен и результат важен для ваших целей — могут быть страдания. Если просто по приколу — обучение произойдет вообще без страданий. Т.е. есть что-то еще, может и связанное с системой обратной связи при обучении, но не являющееся ей.
Давай те с азов: сайт, который при нажатии на одну кнопку условно «орет от боли!», а на вторую — млеет от удовольствия почему не проходит?
По той же причине, по которой не подходит кричащий от боли актер. Он просто симулирует боль — на самом деле ее не испытывая. Важно внутреннее ощущение а не внешнее проявление.
Критерий проверки — временное замещение реальных процессов ЦНС их искусственными аналогами. Желающий убедиться в правильности гипотезы должен «ощутить» доказательство. Но и, возможно, когда будет схема девайса — мы как бы интуитивно почувствуем, что примерно так оно и есть.
Я не вполне понимаю критерии вашего «создал/не создал».
На данный момент точных критериев мы не знаем. Понятно что вопрос исследовательский — нужно исследовать все процессы в ЦНС, которые происходят при ощущении страдания, выделить из них главные и т.д. Когда будет доказательство, что девайс реально работает и не упущено ничего важного — можно будет заняться проверкой данного доказательства, найти в нем ошибки или неточности.
Основа — это изучение реальных процессов ЦНС человека, моделирование, замещение и т.д. Т.е. данная задача не сколько философская, сколько практическая.
Сейчас можно точно сказать, что процесс обучения с наградой/штрафом — не обязательно вызывает квалиа наслаждения/страдания даже у человека.
Это уже вопрос юристов и политиков. Пусть они мучаются с определением ТПС и квалия.
Это до момента появления искусственного девайса, который воссоздает данный эффект. Появился девайс — уже создатель девайса должен пояснить какие именно процессы позволяют ощутить страдание. После чего умышленный запуск данных процессов должен быть запрещен, как запрещено любое издевательство.
Данный девайс — лишь конкретно поясняет суть проблемы. Но последствия сложно себе представить.
вы награждаете за правильный ответ/действие и штрафуете за неправильный — аналог такого контура. Страдает ли при этом нейросеть? ;)
Точно возможен вариант, когда не страдает, но обучается. К примеру, когда я изучаю что-то и прохожу тесты — неправильный ответ не вызывает у меня страдания — наоборот с интересом смотрю в чем был не прав. Но выводы делаю.
Т.е. одно лишь обучение с обратной связью — точно не достаточно для возникновения страдания и наслаждения.
В общем, если искусственная система способна испытывать некую форму страдания от воображаемого негативного сценария — это по факту и есть «квалиа» боли.
Вот задание и состоит в этом — создать систему, которая сможет испытать боль.
Другой вопрос — нужно ли это?
Нужно, это ключевой вопрос — это и есть смысл. Остальное не так интересно.
Данный девайс и является квинтессенцией ТПС. Если вы создали данный девайс — значит вы разрешили ТПС. Данный девайс можно создать? Однозначно да. Вот и работайте.
Но учтите, что после создания данного девайса — придется менять УК — вам просто запретять запускать процесс страдания, как запрещают истязать высших животных, к примеру.
Не грузитесь особенно, это стандартный прикол codecity
Это не прикол — все серьезно. Данное задание переводит вопрос ТПС из неясного философствования в практическую плоскость.
он всем это техзадание выписывает, кто занимается проблемами сознания
Рад что это заметили. Кто-то придумал концепцию философского зомби. Мне удобнее использовать концепцию анти-зомби — девайс, который все ощущает — но никак не проявляет данные ощущения во внешнем мире.
Возможно вас заинтересует некоторая литература
Кое что из этого уже смотрел, будет время — еще гляну. Хотя общая ситуация по теме мне известна — пока никаких подвижек.
Обозначил вам практическую проблему: создать девайс, который сможет испытать наслаждение и страдание. Вы знаете как это сделать? Хотя бы примерно? Нет, ни у кого нет ни одной гипотезы.
Это достаточно конкретное задание?
Хотя бы процитируйте Чалмерса
Мне не нужно никого цитировать, т.к. понятна суть. Мое практическое задание сразу отображает суть проблемы. Если вы девайс смогли создать — покажите его, объясните как он работает и докажите, что он на самом деле испытывает страдание. Если не смогли создать — то думайте над тем как его сделать — это и есть проблема.
Проблема — создать девайс, который сможет испытывать страдание и наслаждение. Создали девайс — значит решили ТПС.
Но еще раз повторюсь: нужно не создать иллюзию в голове наблюдателя, как это делают актеры в кино. А именно повторить все процессы ЦНС, которые возникают в момент страдания и наслаждения.
Почему именно страдание выбрал? Потому что редко кто скажет, что страдания вообще не существует. Т.е. как бы аксиома — страдание есть, на это многое завязано в нашем мире. А раз есть — то каким должен быть минимальный механизм/девайс, чтобы он смог испытать страдание.
вы можете сформулировать ТПС своими словами так, что бы сразу стало понятно: почему это проблема, а главное — почему
Попробую.
Проще всего на практическом задании: создать девайс, который сможет ощущать наслаждение и страдание в полной мере (как человек или более простые существа). Но важно отличать, что испытать страдание и сделать видимость страдания (как делает актер в кино) — вещи разные. Нужна не видимость а именно настоящее испытание.
Это повлияет на наше понимание добра и зла. К примеру, сейчас запрещено истязать животных, причинять им необоснованные страдания. Почему? Потому что необоснованное страдание само по себе зло. Но! Если будет девайс, который точно так сможет страдать — то придется вводить статью в УК, которая запрещает запускать некие процессы и сам по себе запуск этих процессов даже в замкнутом пространстве — будет злом.
Особенное в том, что если данный девайс сможет страдать как существо с развитой ЦНС — то это имеет юридические и нравственные последствия. А это меняет саму основу нашего общества и отношений — начиная от религии, заканчивая правом.
Нужно создавать копию участка с учетом веса всех нейронов данного участка. Никто не говорит что это просто. Может быть досаточно заменить 1 нейрон для неких проверок.
Если это не получится — искать другие способы.
Цель ясна: создать девайс, который страдает и наслаждается как человек (или хотя бы как животное с развитой ЦНС). Как создать и как доказать что оно на самом деле страдает — это вопрос исследований. Никто ведь не знал, как именно доказать Великую Теорему — однако доказательство нашли.
Сказать что страданий не существует в принципе, по этому девайс является не возможным — никто не может. Значит создать его можно, остается вопрос — как и как потом доказать что он реально страдает.
Особый интерес представляет феномен наслаждения и страдания. Это многое изменяет — начиная от религий и заканчивая гос. законами/отношениями в обществе. Последствия сложно представить.
Парадокс в том, что умеющий страдать девайс — будет обладать некими правами как существо — придется добавлять правовые нормы для защиты этого девайса от страданий, если эти страдания такие же, как у существа с развитой ЦНС. Это все меняет.
Т.е. железки строго разделятся на 2 категории: бесправные просто железки и субъекты, которые обладают некими правами.
Не просто любая сложность подходит — нужна определенная схема, которой никто не знает.
Дело не в определениях. Чтобы уйти от философии, словоблудия и пространных бесплодных рассуждений — мной была придумана конкретная задача — создать девайс, который испытывает наслаждение и страдание как человек или, допустим, как собака.
Пока нет ни одного человека, который готов заявить что задачу выполнил. Ни одного. Тут нет места философии — мы имеем результат, что задача есть а решения нет.
Создатель девайса так же должен доказать, что девайс действительно страдает, что повторена суть процессов страдания существа с развитой ЦНС. Далее — придется менять УК — добавлять статью, которая запрещает вызывать страдания данного девайса, ведь эти страдания такие же как у высших животных — разницы нет.
Пока имеем четкое нет: девайс не создан, никто не заявил, что это смог сделать.
Замена с сохранением весов нейронов, связей и т.д. Причем замена временная, чтобы можно было гарантированно откатить все назад.
Для начала научиться на время отключать те или иные части мозга, чтобы интроспективно пронаблюдать за изменениями. Причем отключать точечно — нужна высокая точность.
Никто не говорит, что это просто.
Избыточным или нет — можно долго философствовать. А вот когда есть задание — создать девайс, способный ощущать наслаждение и страдание — тут либо мы знаем как его сделать либо не знаем. Философсвовать уже негде.
Как доказать, что девайс реально ощущает — не знаю. Это как доказательство Великой Теоремы — никто не знал как доказать, но все же доказательство нашли. Думаю что, в первую очередь, важна идентичность процессов в ЦНС и процессов в девайсе. Или даже кратковременное замещение отдельных частей мозга на искусственные аналоги.
Последствия для общества — сложно представить.
Во-первых, сей девайс уже будет подлежать защите от издевательств, т.к. способен их испытать. А значит даже если кто-то тайно у себя дома соберет данный девайс или просто запустит процессы страдания — уже нарушит закон. Причем силу страданий уже можно будет выразить численно — а чем выше страдания — тем хуже статья.
Во-вторых, получится что сей девайс имеет душу. А это уже влияет на практически все религии, т.к. в той или иной степени вера связана с понятием бессмертной субстанции, которая сохраняется после смерти.
Могу сказать только о себе. Может быть даже не все люди обладают.
Читайте внимательнее. Временное замещение реальных процессов ЦНС. Т.е. отключаете часть мозга, лично ощущаете что после этого случилось. На время, на несколько секунд. Нужно научиться это делать. Далее, замещаете часть мозга искусственным аналогом (опять же на время, т.е. процесс должен быть обратимым). Примерно такое вижу доказательство, что процессы поняты и воспроизведены правильно.
Это не Т.З. Вот, как доказательство великой теоремы — не было Т.З. как именно доказать — как хочешь так и доказывай. Так и тут. Создай девайс и докажи, что он может испытывать страдания и к нему применимы вопросы нравственности — т.е. его нужно защищать от издевательств, к примеру.
Зависит от вашего отношения — точно что нет обязательности страдания. Если это экзамен и результат важен для ваших целей — могут быть страдания. Если просто по приколу — обучение произойдет вообще без страданий. Т.е. есть что-то еще, может и связанное с системой обратной связи при обучении, но не являющееся ей.
По той же причине, по которой не подходит кричащий от боли актер. Он просто симулирует боль — на самом деле ее не испытывая. Важно внутреннее ощущение а не внешнее проявление.
Критерий проверки — временное замещение реальных процессов ЦНС их искусственными аналогами. Желающий убедиться в правильности гипотезы должен «ощутить» доказательство. Но и, возможно, когда будет схема девайса — мы как бы интуитивно почувствуем, что примерно так оно и есть.
На данный момент точных критериев мы не знаем. Понятно что вопрос исследовательский — нужно исследовать все процессы в ЦНС, которые происходят при ощущении страдания, выделить из них главные и т.д. Когда будет доказательство, что девайс реально работает и не упущено ничего важного — можно будет заняться проверкой данного доказательства, найти в нем ошибки или неточности.
Основа — это изучение реальных процессов ЦНС человека, моделирование, замещение и т.д. Т.е. данная задача не сколько философская, сколько практическая.
Сейчас можно точно сказать, что процесс обучения с наградой/штрафом — не обязательно вызывает квалиа наслаждения/страдания даже у человека.
Это до момента появления искусственного девайса, который воссоздает данный эффект. Появился девайс — уже создатель девайса должен пояснить какие именно процессы позволяют ощутить страдание. После чего умышленный запуск данных процессов должен быть запрещен, как запрещено любое издевательство.
Данный девайс — лишь конкретно поясняет суть проблемы. Но последствия сложно себе представить.
Точно возможен вариант, когда не страдает, но обучается. К примеру, когда я изучаю что-то и прохожу тесты — неправильный ответ не вызывает у меня страдания — наоборот с интересом смотрю в чем был не прав. Но выводы делаю.
Т.е. одно лишь обучение с обратной связью — точно не достаточно для возникновения страдания и наслаждения.
Вот задание и состоит в этом — создать систему, которая сможет испытать боль.
Нужно, это ключевой вопрос — это и есть смысл. Остальное не так интересно.
Но учтите, что после создания данного девайса — придется менять УК — вам просто запретять запускать процесс страдания, как запрещают истязать высших животных, к примеру.
Это не прикол — все серьезно. Данное задание переводит вопрос ТПС из неясного философствования в практическую плоскость.
Рад что это заметили. Кто-то придумал концепцию философского зомби. Мне удобнее использовать концепцию анти-зомби — девайс, который все ощущает — но никак не проявляет данные ощущения во внешнем мире.
Кое что из этого уже смотрел, будет время — еще гляну. Хотя общая ситуация по теме мне известна — пока никаких подвижек.
Обозначил вам практическую проблему: создать девайс, который сможет испытать наслаждение и страдание. Вы знаете как это сделать? Хотя бы примерно? Нет, ни у кого нет ни одной гипотезы.
Это достаточно конкретное задание?
Мне не нужно никого цитировать, т.к. понятна суть. Мое практическое задание сразу отображает суть проблемы. Если вы девайс смогли создать — покажите его, объясните как он работает и докажите, что он на самом деле испытывает страдание. Если не смогли создать — то думайте над тем как его сделать — это и есть проблема.
Проблема — создать девайс, который сможет испытывать страдание и наслаждение. Создали девайс — значит решили ТПС.
Но еще раз повторюсь: нужно не создать иллюзию в голове наблюдателя, как это делают актеры в кино. А именно повторить все процессы ЦНС, которые возникают в момент страдания и наслаждения.
Почему именно страдание выбрал? Потому что редко кто скажет, что страдания вообще не существует. Т.е. как бы аксиома — страдание есть, на это многое завязано в нашем мире. А раз есть — то каким должен быть минимальный механизм/девайс, чтобы он смог испытать страдание.
Попробую.
Проще всего на практическом задании: создать девайс, который сможет ощущать наслаждение и страдание в полной мере (как человек или более простые существа). Но важно отличать, что испытать страдание и сделать видимость страдания (как делает актер в кино) — вещи разные. Нужна не видимость а именно настоящее испытание.
Это повлияет на наше понимание добра и зла. К примеру, сейчас запрещено истязать животных, причинять им необоснованные страдания. Почему? Потому что необоснованное страдание само по себе зло. Но! Если будет девайс, который точно так сможет страдать — то придется вводить статью в УК, которая запрещает запускать некие процессы и сам по себе запуск этих процессов даже в замкнутом пространстве — будет злом.
Надеюсь на этом примере понятно.