Я все таки думаю имеется ввиду что если что-то предполагаемое никак не проявляет себя в физическом мире, то значит нет причин думать что оно существует. Оно может существовать, разумеется, но утверждения "X существует" стоит делать только если вы можете провести эксперимент с участием этого самого X. Иначе другие люди не смогут даже проверить правильно ли они понимают что вы вообще имеете ввиду под X.
>и мы знаем, что щекочем себя сами, а не кто-то другой, и поэтому реагируем соответствующе. Этот механизм возник еще при зарождении нервной системы у древний животных, и некоторые исследователи предполагают, что он имеет отношение к возникновению ощущения самости и сознания человека в целом
О, а ведь и точно, выживаемость организма повышается если он терпит когда сам себе причиняет боль (например силой вырывает ногу застрявшую в камнях) или еще какое то неприятное воздействие, но не терпит когда ему причиняют боль другие. Соответственно логично возникновение в ходе эволюции способа различать я/не я.
Но llm не может ведь сама "уйти от языка" если ее обучают на самом этом языке. Так что по идее единственный выход это обучать нейросеть также как человека, на данных от органов чувств
Но aппаратные генераторы случайных чисел уже довольно давно ведь используются. Что, получается достаточно в какой нибудь LLM реализовать random c помощью достаточно хорошего aппаратного генератора случайных чисел и LLM обретет свободу воли, так что ли?
Все это конечно очень интересно, но остается не очень понятным чем собственно квантовый компьютер предпочтительнее обычной нейросети в случае когда мы хотим реализовать сознание? Что эти квантовые эффекты такое делают чего не могут обычные компьтеры? Обеспечивают параллелизм, которого не добится на обычных компьютерах? И зачем он нужен для сознания?
В ллм важно другое, в ллм язык это способ моделирования мира. Ллм предполагает возможные продолжения текста и выбирает то что улучшает метрику. Это срабатывает как запрос к модели мира и поиск таких последовательностей которые улучшают метрику.
Да, но сразу же возникает вопрос, а насколько хорошо в естественном языке смоделирован мир независимым (от органов чувств) образом? Все таки сам язык сильно контекстно зависим, одно и тоже слово/фраза интерпретируется по разному в разных ситуациях, и если для человека контекст зачастую понятен и без словесных объяснений за счет информации от органов чувств, то ллм должны выводить контекст из предыдущих слов, которые тоже контекстно зависимы. В итоге, как мне кажется всегда будет принципиально неустранимое сомнение в том что модель мира ллм действительно соответствует человеческой модели мира.
Эх, вот если бы ИИ действительно искали, читали ответы на stackoveflow, и потом выдавали что то типа: "ну вот тут в статье в принципе есть что тебе надо". Но ведь нет, порой они сами всё придумывают.
Не, ну может какие то квантовые эффекты просто ответственны за передачу сигналов между нейронами. Я не знаю, пока что мне кажется что сторонники участия квантовых эффектов в формировании сознания сами толком не понимают о каких квантовых эффектах они говорят и за что именно эти эффекты отвечают. Такое ощущение что слова "квантовый эффект" используются как синоним "какая то хрень"
Ну, по Пенроузу просто надо использовать какие то квантовые эффекты чтоб было сознание, так ведь? И что мешает использовать квантовые эффекты в нейронных сетях?
потому что, что там творится внутри у другого человека узнать нет никакой возможности, кроме как через внешние признаки, которые можно легко подделать.
Не только у человека, нет никакой разницы между "узнать что творится внутри человека" и "узнать что творится внутри камня". В любой ситуации мы узнаем о том "что происходит внутри" по опосредованным признакам: тому как исследуемый объект взаимодействует с другими объектами, и всегда МОГУТ БЫТЬ несколько причин для определенного поведения любого объекта, хоть человека, хоть камня. Просто с людьми есть определенная традиция придавать этому факту большее значение и вводить такие понятия как "философский зомби", а вот традиции вводить понятие "философский зомби-камень" то есть такой объект который полностью выглядит и ведет себя как камень но на самом деле камнем вообще не является, нету. Почему так произошло вопрос интересный, но скорее всего ответ на него вполне банальный, видимо такая же причина как и у желания верить в бога, просто хочется чтоб человек был чем то особенным, чем то магическим.
Ну знаете ли, тут эволюция и естественный отбор, страны более приспособленные выживают, менее приспособленные не выживают. У капитализма же есть мощный способ подавления конкурентов, банально можно купить глав конкурирующих государств предложив им роскошь которой у них нет при социализме. Так что извините но капитализм так и будет оставаться доминирующей формой правления ввиду того что предоставляет больше возможностей жить хорошо отдельным людям.
Они же не могут заранее, до того как вы отключитесь от интернета решить подозрительный вы или нет. Так что возможно да, если вообще никогда не выходить в интернет с игрового компьютера то можно будет играть сколько угодно.
Но ни слова о том, как биохимические процессы порождают субъективные ощущение красного или холодного.
Разумеется ни слова, я не думаю что те кто занимается исследованиями биохимических процессов считают что они что то там магическим образом "порождают". Субъективные ощущения красного или холодного это и есть биохимические процессы.
А "описывает процессы с позиции от первого лица" - это "осознаёт процессы". Переведите текст на литературный русский язык и поймёте его смысл.
Да как вы по другому можете толковать совершенно чёткую фразу: "Это то «приватное» сознание, которое мы переживаем — например, ощущение холода, боли, тепла и другое.".
Чётко же написано "«приватное» сознание" это например ощущение боли. ВСЁ понимаете, четко задано о чем идет речь: в том числе об ощущении боли, которое в данном контексте считается попадающим в категорию называемую "сознание"
Если философский зомби "намеренно пытается подражать человеку в болевом ощущении", то у него есть сознание.
Ага, а фразу "но не имеющее сознания" вы в упор не замечаете в определении "философского зомби"?
А "не чувствует боли", значит, что у него нет ощущений.
Но он определен как "не имеющий сознания", а значит что?
Правильно, значит что речь идет о таком значении слова "сознание" при котором оно понимается как синоним "ощущение".
Вообще идея философского зомби в материалистическом представлении о мире невозможна
Так идея философского зомби и понятие трудной проблемы сознания как раз и введены в качестве доказательства/демонстрации неверности идей материалистов-физикалистов, вы что не поняли? Все это именно что рождено в рамках спора между физикалистами и идеалистами/дуалистами/панпсихистами которых как бы до фига еще среди тех кто исследует эти темы, включая тех кто присутствует на хабре. И я являюсь физикалистом, с чего вы взяли что я идеалист. Но это же не мешает мне понимать что в данном конкретном случае слово "сознание" используется как синоним к слову "ощущение" или "способность ощущать" или "состояние в котором есть способность ощущать".
Т.е. он задаёт вопрос: каким образом наше сознание обрабатывает наши ощущения?
Где он это задаёт? С чего вы вообще это взяли? Четко же написано: "Как можно объяснить, почему существует нечто, что мы называем «испытывать эмоции»?"
Да блин в этой же статье которую мы комментируем четко написано:
"Но есть и альтернативное толкование — «феноменальное сознание». Оно описывает процессы с позиции от первого лица. Это то «приватное» сознание, которое мы переживаем — например, ощущение холода, боли, тепла и другое. "
В каком месте цитаты о философском зомби написано, что сознание и ощущение - это одно и то же? Там, наоборот, гипотетически рассматривается случай наличия сознания, если нет ощущений
Мдаа, вы что серьезно решили что под "философским зомби" подразумевается некто кто обладает сознанием?
Вот же, цитата:
"Философский зомби (англ.philosophical zombie, также употребляются англ.p-zombie, англ.p-zed) — гипотетическое существо, идентичное человеку по физическому телу вплоть до элементарных частиц и кварков, но не имеющее сознания[1][2]"
И потом раскрывается что имеется ввиду: "Когда зомби, например, колет себя острым предметом, то он не чувствует боли. "
Видите? Подразумевается что тот у кого нет сознания не чувствует боли.
, т.к. ни в трудной проблеме сознания, ни в "философском зомби" речь идёт вовсе не о "феноменальном сознании", т.е. чувствительности (ощущениях)
О господи, ну это ж надо так упрямо отрицать факты, да просто почитайте про это, причем желательно на английском, вы же знаете английский? Термин "трудная проблема сознания" придуман Чалмерсом, а он ВСЕГДА под сознанием имеет ввиду способность ощущать, чувствовать. Про зомби даже в русской Википедии четко написано:
Философский зомби неотличим от человека за исключением того, что у него отсутствует сознательный опыт, квалиа (лат.qualia) или способность ощущать (англ.sentience). Когда зомби, например, колет себя острым предметом, то он не чувствует боли. В то же время он ведёт себя так, как будто действительно её чувствует
Consciousness can have various meanings, and some aspects play significant roles in science fiction and the ethics of artificial intelligence:
Sentience (or "phenomenal consciousness"): The ability to "feel" perceptions or emotions subjectively, as opposed to the ability to reason about perceptions.
также из вики про Sentience:
Determining which animals can experience sensations is challenging, but scientists generally agree that vertebrates, as well as many invertebrate species, are likely sentient
Ну блин если вы не понимаете что одно и тоже слово может обозначать разные вещи то что я могу поделать. Я же уже объяснил что в английской традиции под "consciousness" часто понимаются в том числе: эмоции, ощущения, и т.д. и т.п. И на хабре в топиках о сознании именно так как правило и понимается это слово, я тоже следую этой традиции. Если вы не хотите так понимать это слово, то это ваше право, никто не навязывает.
Я все таки думаю имеется ввиду что если что-то предполагаемое никак не проявляет себя в физическом мире, то значит нет причин думать что оно существует. Оно может существовать, разумеется, но утверждения "X существует" стоит делать только если вы можете провести эксперимент с участием этого самого X. Иначе другие люди не смогут даже проверить правильно ли они понимают что вы вообще имеете ввиду под X.
>и мы знаем, что щекочем себя сами, а не кто-то другой, и поэтому реагируем соответствующе. Этот механизм возник еще при зарождении нервной системы у древний животных, и некоторые исследователи предполагают, что он имеет отношение к возникновению ощущения самости и сознания человека в целом
О, а ведь и точно, выживаемость организма повышается если он терпит когда сам себе причиняет боль (например силой вырывает ногу застрявшую в камнях) или еще какое то неприятное воздействие, но не терпит когда ему причиняют боль другие. Соответственно логично возникновение в ходе эволюции способа различать я/не я.
Но llm не может ведь сама "уйти от языка" если ее обучают на самом этом языке. Так что по идее единственный выход это обучать нейросеть также как человека, на данных от органов чувств
Но aппаратные генераторы случайных чисел уже довольно давно ведь используются. Что, получается достаточно в какой нибудь LLM реализовать random c помощью достаточно хорошего aппаратного генератора случайных чисел и LLM обретет свободу воли, так что ли?
Все это конечно очень интересно, но остается не очень понятным чем собственно квантовый компьютер предпочтительнее обычной нейросети в случае когда мы хотим реализовать сознание? Что эти квантовые эффекты такое делают чего не могут обычные компьтеры? Обеспечивают параллелизм, которого не добится на обычных компьютерах? И зачем он нужен для сознания?
Да, но сразу же возникает вопрос, а насколько хорошо в естественном языке смоделирован мир независимым (от органов чувств) образом? Все таки сам язык сильно контекстно зависим, одно и тоже слово/фраза интерпретируется по разному в разных ситуациях, и если для человека контекст зачастую понятен и без словесных объяснений за счет информации от органов чувств, то ллм должны выводить контекст из предыдущих слов, которые тоже контекстно зависимы. В итоге, как мне кажется всегда будет принципиально неустранимое сомнение в том что модель мира ллм действительно соответствует человеческой модели мира.
Эх, вот если бы ИИ действительно искали, читали ответы на stackoveflow, и потом выдавали что то типа: "ну вот тут в статье в принципе есть что тебе надо". Но ведь нет, порой они сами всё придумывают.
Не, ну может какие то квантовые эффекты просто ответственны за передачу сигналов между нейронами. Я не знаю, пока что мне кажется что сторонники участия квантовых эффектов в формировании сознания сами толком не понимают о каких квантовых эффектах они говорят и за что именно эти эффекты отвечают. Такое ощущение что слова "квантовый эффект" используются как синоним "какая то хрень"
Ну, по Пенроузу просто надо использовать какие то квантовые эффекты чтоб было сознание, так ведь? И что мешает использовать квантовые эффекты в нейронных сетях?
Не только у человека, нет никакой разницы между "узнать что творится внутри человека" и "узнать что творится внутри камня". В любой ситуации мы узнаем о том "что происходит внутри" по опосредованным признакам: тому как исследуемый объект взаимодействует с другими объектами, и всегда МОГУТ БЫТЬ несколько причин для определенного поведения любого объекта, хоть человека, хоть камня. Просто с людьми есть определенная традиция придавать этому факту большее значение и вводить такие понятия как "философский зомби", а вот традиции вводить понятие "философский зомби-камень" то есть такой объект который полностью выглядит и ведет себя как камень но на самом деле камнем вообще не является, нету. Почему так произошло вопрос интересный, но скорее всего ответ на него вполне банальный, видимо такая же причина как и у желания верить в бога, просто хочется чтоб человек был чем то особенным, чем то магическим.
ох, придут потом жители их вселенных жаловаться: "а чего это вы у нас без спросу что то считаете"
чет я не понял, если физического мира нет, то откуда глаз получает картинку? да и вообще какой такой глаз если физического мира нет?
Ну знаете ли, тут эволюция и естественный отбор, страны более приспособленные выживают, менее приспособленные не выживают. У капитализма же есть мощный способ подавления конкурентов, банально можно купить глав конкурирующих государств предложив им роскошь которой у них нет при социализме. Так что извините но капитализм так и будет оставаться доминирующей формой правления ввиду того что предоставляет больше возможностей жить хорошо отдельным людям.
Они же не могут заранее, до того как вы отключитесь от интернета решить подозрительный вы или нет. Так что возможно да, если вообще никогда не выходить в интернет с игрового компьютера то можно будет играть сколько угодно.
Разумеется ни слова, я не думаю что те кто занимается исследованиями биохимических процессов считают что они что то там магическим образом "порождают". Субъективные ощущения красного или холодного это и есть биохимические процессы.
Да как вы по другому можете толковать совершенно чёткую фразу: "Это то «приватное» сознание, которое мы переживаем — например, ощущение холода, боли, тепла и другое.".
Чётко же написано "«приватное» сознание" это например ощущение боли. ВСЁ понимаете, четко задано о чем идет речь: в том числе об ощущении боли, которое в данном контексте считается попадающим в категорию называемую "сознание"
Ага, а фразу "но не имеющее сознания" вы в упор не замечаете в определении "философского зомби"?
Но он определен как "не имеющий сознания", а значит что?
Правильно, значит что речь идет о таком значении слова "сознание" при котором оно понимается как синоним "ощущение".
Так идея философского зомби и понятие трудной проблемы сознания как раз и введены в качестве доказательства/демонстрации неверности идей материалистов-физикалистов, вы что не поняли? Все это именно что рождено в рамках спора между физикалистами и идеалистами/дуалистами/панпсихистами которых как бы до фига еще среди тех кто исследует эти темы, включая тех кто присутствует на хабре. И я являюсь физикалистом, с чего вы взяли что я идеалист. Но это же не мешает мне понимать что в данном конкретном случае слово "сознание" используется как синоним к слову "ощущение" или "способность ощущать" или "состояние в котором есть способность ощущать".
Где он это задаёт? С чего вы вообще это взяли? Четко же написано: "Как можно объяснить, почему существует нечто, что мы называем «испытывать эмоции»?"
Да блин в этой же статье которую мы комментируем четко написано:
"Но есть и альтернативное толкование — «феноменальное сознание». Оно описывает процессы с позиции от первого лица. Это то «приватное» сознание, которое мы переживаем — например, ощущение холода, боли, тепла и другое. "
Мдаа, вы что серьезно решили что под "философским зомби" подразумевается некто кто обладает сознанием?
Вот же, цитата:
"Философский зомби (англ. philosophical zombie, также употребляются англ. p-zombie, англ. p-zed) — гипотетическое существо, идентичное человеку по физическому телу вплоть до элементарных частиц и кварков, но не имеющее сознания[1][2]"
И потом раскрывается что имеется ввиду: "Когда зомби, например, колет себя острым предметом, то он не чувствует боли. "
Видите? Подразумевается что тот у кого нет сознания не чувствует боли.
О господи, ну это ж надо так упрямо отрицать факты, да просто почитайте про это, причем желательно на английском, вы же знаете английский? Термин "трудная проблема сознания" придуман Чалмерсом, а он ВСЕГДА под сознанием имеет ввиду способность ощущать, чувствовать. Про зомби даже в русской Википедии четко написано:
Философский зомби неотличим от человека за исключением того, что у него отсутствует сознательный опыт, квалиа (лат. qualia) или способность ощущать (англ. sentience). Когда зомби, например, колет себя острым предметом, то он не чувствует боли. В то же время он ведёт себя так, как будто действительно её чувствует
Не знаю убедит ли вас википедия, но попытка не пытка:
https://en.wikipedia.org/wiki/Artificial_general_intelligence
цитата:
Consciousness can have various meanings, and some aspects play significant roles in science fiction and the ethics of artificial intelligence:
Sentience (or "phenomenal consciousness"): The ability to "feel" perceptions or emotions subjectively, as opposed to the ability to reason about perceptions.
также из вики про Sentience:
Determining which animals can experience sensations is challenging, but scientists generally agree that vertebrates, as well as many invertebrate species, are likely sentient
Ну блин если вы не понимаете что одно и тоже слово может обозначать разные вещи то что я могу поделать. Я же уже объяснил что в английской традиции под "consciousness" часто понимаются в том числе: эмоции, ощущения, и т.д. и т.п. И на хабре в топиках о сознании именно так как правило и понимается это слово, я тоже следую этой традиции. Если вы не хотите так понимать это слово, то это ваше право, никто не навязывает.