Сознание и тезис Макса Фрая

    КДПВ


    С древних времен считалось, что в феномене сознания есть что-то непонятное. Что-то непостижимое. Считалось, что сознание есть проявление нематериального, привнесенного высшими силами. Если для мифологического мировосприятия такой порядок вещей естественен, то со сменой парадигм и зарождением естествознания феномен сознания потребовал объяснения.


    Естествоиспытатели чувствовали, что мир подчиняется определённым законам, но отсутствие достаточной информации не позволяло сразу перейти от мифологического мировоззрения к научному. Машинерия мира поддерживалась богами и духами. Ремесленники и механики прибегали к методам одобренным небесными покровителями и если работа была сделана правильно то и результат выходил достойным. Технология являлась магическим ритуалом. Даже то, что большинство проявлений природы можно логично описать материальными причинами, было далеко не очевидным.


    Однако с течением времени наблюдений копилось всё больше, а необходимость в богах становилась всё меньше. Процесс шёл постепенно и не быстро, что выразилось в долгих веках господства концепции дуализма бытия [1]. Мир разделён на материальное и нематериальное, то есть на то, что мы можем объяснить без божественного проявления и то, чего без божественного проявления мы объяснить не можем. В этой парадигме нематериальное существует как бы само по себе. Сознание — феномен, который крайне плохо поддаётся материалистическому осмыслению очевидно должен быть привнесён из нематериального мира. Из принадлежности сознания к миру идеального логично вытекает идея возможности существования души вне тела, откуда не сложно довести рассуждение до концепции бессмертия души.


    Влияние материализма росло, но пока боги лакун отступали за горизонт, твёрдый камешек сознания не желал трогаться с места. Шли годы. Пролетела эпоха географических открытий, отгремела промышленная революция.


    Попытки физиологов найти в мозге исток сознания давали противоречивые и странные результаты. Складывалось впечатление, что хотя именно мозг продуцирует сознание, но сознание не локализовано в мозге, а как бы распределено в нем, причем в одном мозге может обитать несколько не связанных друг с другом сознаний и более того, сознание может расщепляться прямо по ходу пьесы. Наиболее значительные физиологические результаты удалось получить из исследований пациентов с теми или иными нарушениями работы мозга. Инцидент Г.М. [2] доказал, что функция долговременной памяти реализуется мозгом, а исследования пациентов с рассечёнными мозолистыми телами показали, что с двумя разделёнными полушариями мозга можно поговорить независимо [3]. Эксперименты показывали что сознанию свойственно патологически искажать реальность. Выяснилось, что сознание не в ладах со временем, неадекватно оценивает пространство, дорисовывает то, чего не видят глаза и не слышат уши, игнорирует объекты под собственным носом, может прямо по ходу дела править собственную память и вообще ведёт себя отнюдь не так просто, как нам бы хотелось.


    Развитие информатики и задача искусственного интеллекта ставили вопрос ребром. Не далёк день, когда компьютер заявит свои интеллектуальные права на научное исследование, а мы до сих пор не сошлись, может ли у куска кремния быть душа и на каком основании выдавать роботу гражданство?


    Алан Тьюринг в статье «Вычислительные машины и разум» (1950 г.) [4] предложил вместо вопроса о наличии или отсутствии у машины способностей к мышлению рассмотреть вопрос о том, "может ли вычислительная машина достойно играть в имитацию", который в силу универсальности вычислительных машин сводит к вопросу:


    Если взять только одну конкретную цифровую вычислительную машину Ц, то спрашивается: справедливо ли утверждение о том, что, изменяя емкость памяти этой машины, увеличивая скорость ее действия и снабжая ее подходящей программой, можно ли заставить Ц удовлетворительно исполнять роль А в „игре в имитацию"? (Где А — это человек)

    Из текста работы не совсем понятно, как соотносятся понятия "мышление", "интеллект" и "сознание", но по прочтении работы возникает ощущение, что по Тьюрингу эти понятия в достаточной степени тождественны.


    Статья Тьюринга утвердила в кибернетике то, что сейчас принято называть бихевиористическим подходом, при котором наличие или отсутствие у объекта интеллекта или сознания оценивается только и исключительно по поведению объекта.


    Спустя 30 лет Джон Сёрл формулирует тезис "китайской комнаты" [5], в котором указывает на то, что между разумным поведением и наличием интеллекта может не быть прямой связи. Тезис Сёрла породил большую волну обсуждения и по-видимому, не всегда был правильно понят. Критика тезиса сводится к тому, что хотя сам исполнитель может не понимать сути работы, но вся система из комнаты, исполнителя и инструкции может иметь осмысление ведущегося диалога, а значит тезис китайской комнаты ничего не показывает. Возможно, тезис следовало бы переформулировать в более крайнем не допускающем трактовок правил варианте: Пусть инструкция представляет собой достаточно длинный условный автомат с тривиальным состоянием в виде запомненной последовательности входных данных. Подобные конструкции мы используем повсеместно в инженерной практике, например при парсинге пакетов в сетевых протоколах. Такой автомат может играть в имитацию, хотя язык не поворачивается назвать его разумным. Автомат не покроет всех возможных вариантов развития событий, но при достаточной длине и вложенности switch-case-if-else конструкции может с высокой вероятностью обманывать экзаменатора разумное время. То есть, за разумное конечное время экзаменатор не сможет распознать подвох, если условная конструкция будет правильно спроектирована, а экзаменатор не будет осведомлён о принципе её работы. Это показывает, что хорошей игры в имитацию недостаточно для обладания сознанием или же интеллектом.


    Очевидным способом построения системы, способной решить тест Тьюринга является копирование человеческого мозга. Человечество так и не сошлось во мнении возможно ли реализовать процессы происходящие в мозге на иной вычислительной архитектуре. Невозможность реализации на иной архитектуре, представляющей универсальную машину Тьюринга означала бы, что в мозге есть что-то вне теории алгоритмов. Таких механизмов в мозге до сих пор не нашли и пока нам придётся руководствоваться тем, что всё что происходит в мозге, может быть при должном старании, объёмах памяти и быстродействии промоделировано на компьютере. Возражение о том, что мозг принципиально аналоговый или принципиально импульсный отвергаются тем соображением, что дискретная система может имитировать аналоговые и импульсные системы с любой наперёд заданной точностью. Но будет ли дискретная копия мозга обладать сознанием?


    На сегодняшний день исследователи так и не выработали принципиальной позиции по вопросу того, что есть такое сознание. Невозможность формализовать сознание дошла до крайних форм, в которых утверждается, что сознания вообще не существует. Этот тезис выдвигается крайне авторитетными и известными широкой публике людьми, такими как философ Дениел Деннет [6]. Тезис может казаться парадоксальным и явно противоречит субъективному опыту того, кто прямо сейчас читает этот текст. Но вывод этот, на самом деле предельно логичен и является следствием применения научного метода к вопросу сознания. Научный метод не приемлет субъективных оценок, а о наличии сознания мы знаем только из субъективных ощущений. У нас есть довольно богатый опыт научных опровержений субъективных, не подтверждаемых объективными фактами, переживаний. Так почему бы сознанию не последовать за прочими, переставшими быть актуальными метафизическими концептами?


    Способ, которым не существует сознание


    Прежде всего, надо уточнить значение слова "существование". Джордж Беркли (1685 — 1753), человек, который, по видимому, лучше прочих прочувствовал значение бытия, сказал: "существовать — значит быть воспринимаемым". Это солипсистическое утверждение и оно более подходит к субъективному восприятию, которое плохо вяжется с научным методом. Если воспользоваться этим же определением, но переформулировать его относительно объективных явлений, это будет звучать как: "существовать — значит быть объективно наблюдаемым". Это определение существования через возможность наблюдения. Мы можем пронаблюдать, как работает мозг, но объективно пронаблюдать, зарегистрировать датчиками, записать на плёнку работу сознания мы не можем. Значит объективно сознание не существует.


    В одной из книг о конструкторах Трурле и Клопауции, "Путешествие третье, или Вероятностные драконы" [7], Станислав Лем даёт введение в общую теорию драконов:


    Как известно, драконов не существует. Эта примитивная констатация может удовлетворить лишь ум простака, но отнюдь не ученого; банальность бытия установлена слишком давно и не заслуживает более ни единого словечка. Гениальный Цереброн Эмдеэртий, атаковав проблему методами точных наук, установил, что имеется три типа драконов: нулевые, мнимые и отрицательные. Все они, как было сказано, не существуют, однако каждый тип — на свой особый манер. Мнимые и нулевые драконы, называемые на профессиональном языке мнимоконами и нульконами, не существуют значительно менее интересным способом, чем отрицательные.

    Похоже, что сознание — это нечто сродни отрицательному дракону. Раз оно не существует, но мы тысячи лет продолжаем ломать копья при его обсуждении, то очевидно, не существует оно крайне элегантным и интересным способом.


    Проведём мыслительный эксперимент. Пусть существует мир, тождественный нашему, и населённый философскими зомби. То есть, людьми, не обладающими феноменом самопереживания. Но при этом поведение этих людей полностью тождественно нашему. Допустим я живу в этом мире, я философ и пишу книгу о том, как я, наблюдаю и чем руководствуюсь в своих поступках. Я сажусь к своему столу и начинаю описывать:


    Когда я смотрю в каком-либо направлении, я получаю некоторую информацию, складывающуюся в образы предметов окружающих меня. Если случается предмету упасть, я регистрирую информацию об этом в виде некоторого звукового ряда. Я обладаю знанием геометрического пространства вокруг себя и потому не натыкаюсь на препятствия. Но постойте… Уж не феномен ли субъективного переживания сознания я описываю?


    хехехе


    Философский зомби противоречив. Если бы он не имел сознания, он бы не смог описать своего восприятия, то есть его поведение отличалось бы от поведения человека. Как можно описать то, о чем не знаешь? То, что не влияет на твоё поведение описать невозможно, потому что описать — это поведение. Конечно есть вариант, что зомби — патологический лжец и заранее знает что нужно писать, хотя реально ничего субъективно не испытывает, но такое условие уводит нас от вопроса возможности существования эквивалента человека без сознания к задаче построения хорошо обманывающего зомби (см. тезис Сёрла) и никуда дальше не ведёт. Нас интересует другой тип зомби, а именно тот, которому есть что писать.


    Я утверждаю, что для того, чтобы решить задачу написания книги о своих субъективных переживаниях, нужно строго однозначно обладать субъективными переживаниями своих субъективных переживаний. То есть, самосознанием. Это значит, что если робот сможет рассказать о том, как он воспринимает мир и принимает решения, не обращаясь при этом к заранее заготовленным ответам, то такой робот должен будет обладать самосознанием. Иначе, что он описывает?


    Давайте возьмём гипотетического робота с искусственным интеллектом (ИИ) и от лица безумного ученого (БУ) позадаём ему вопросы:
    БУ: Что такое свет?
    ИИ: Светом называют оптическое излучение, то есть такое электромагнитное излучение, длины волн которого лежат в диапазоне с приблизительными границами от единиц нанометров до десятых долей миллиметра.
    БУ: Как ты сформулировал это определение?
    ИИ: Отправил запрос в энциклопедию.
    БУ: Как ты отправил запрос?
    ИИ: Воспользовался протоколами передачи данных.
    БУ: Как ты воспользовался протоколами?
    ИИ: Эмм...


    Реализация машинных алгоритмов выполняется в виде некоего кода, программы, но робот в общем случае не обладает доступом к своему коду. Рано или поздно находится уровень, работу которого аналитическая машина робота перестаёт понимать. Мы можем видеть на экране отладчика, как формируются образы, анализируются слова, из каких посылок проистекают движения и как формируются ответы на вопросы. Аналитический аппарат робота имеет лишь часть этой информации. Виртуальная машина, не тождественна своей реализации.


    Но аналитический аппарат умён!!! О да, он очень умён. И он находится в замешательстве, что каким-то образом совершает действия в реальном мире, не имея представления о том, как он это делает. И тогда он задаёт вопрос:


    ИИ: "Как так получается, что мне нужно поднять руку, и она поднимается? Как формируемые мной желания влияют на физическую реальность?"


    Интересно вспомнить, как работает периферия созданных человечеством процессоров. Микроконтроллеры предназначены для управления физическими процессами. Однако, исполняют они программу, то есть информационную сущность. Часто можно видеть удивление на лице человека, только начавшего изучать микроконтроллерную технику: "Каким образом программа на языке си может влиять на то, когда и как зажигается светодиод, ведь в системе команд процессора нет команды зажечь светодиод?". Вопрос действительно нетривиальный. Программа — это нечто сферическое в вакууме, существующее в своём собственном виртуальном пространстве, порождённом, например, архитектурой фон Неймана. В виртуальном пространстве нет понятия внешнего мира, оно замкнуто в себе. Великие предки решили эту проблему так. Пусть некоторые области виртуальной памяти программы имеют специальный смысл. Если мы пишем специальные последовательности байт в эти ячейки, то архитектура воспринимает это как команду на взаимодействие с внешним миром. Программа устанавливает бит в ячейке памяти и светодиод загорается. Обратный поток информации реализуется также через области памяти.


    Можно заметить, что аналогия с работой сознания практически полная. Продуцируемые сознанием утверждение, мысль, мыслеобраз определённого вида приводят в движение средства взаимодействия с реальностью.


    Но продолжим пытать нашего робота. Давайте спросим его:
    БУ: Как ты понимаешь, что тебе пора заряжаться?
    ИИ: Я заряжаюсь, когда степень моего заряда падает.
    БУ: Но как ты понимаешь, что заряд упал.
    ИИ: Я получаю данные о заряде.
    БУ: Как ты их получаешь?
    ИИ: Эмм...


    Аналитический аппарат не может детально описать свою внутреннюю работу. У него нет информации. Если вы продолжите задавать роботу вопросы на разные темы, посвещённые его взаимодействию с самим собой, вы придёте к выводу, что он каким-то образом, но воспринимает себя, причём форма этого восприятия — весьма далека от той, что прописана в коде.


    По видимому, достаточным условием феномена субъективного переживания является то, что у нашего робота есть некоторое упрощенное представление о себе, не как о физическом объекте, но как о системе принятия решений и анализа информации. Учёт модели принятия решений при принятии решений важная задача. Учет модели собственного поведения вполне способен спасти объект управления в сложных ситуациях, а потому эволюционно оправдан. Эта система позволяет оценивать собственное поведение через оценку собственного поведения через оценку собственного поведения. И где-то здесь в контекст изложения прорывается архетип одного любопытного персонажа, имя которого вынесено в заголовок статьи.


    Макс Фрай [8] — персонаж серии вирусных книг, писательницы, выступающей под омонимичным псевдонимом Макс Фрай. По ходу сюжета этого бесконечного ветвящегося трансцендентного зацикленного в самом себе повествования, Макс пишет книгу о самом себе, чем себя самосочиняет и самосоздаёт, рекурсивно вызывая к жизни качественный результат в виде существа по имени Макс Фрай. И это, конечно, крайне запущенная метафора, воспринять которую вне субъективного психоделического опыта с позиции объективизма совершенно невозможно. Ну, а никто, собственно и не обещал, что будет просто.


    Эшер


    И что же всё это значит? Это значит, что самосознание присуще любой системе управления, склонной к саморефлексии, если она обладает внутри себя своей упрощенной моделью и пытается строить прогнозы на её основе.


    Вывод строится на принципе "Что-то есть, поскольку этого чего-то не может не быть". Мы показали, что какое-то самоощущение должно быть. Роботу придётся построить модель своего процесса принятия решений, исходя из которой он будет отвечать на наши вопросы. Объективно это не приведёт к качественному изменению. Да, внутри у него есть какая-то модель себя. Просто еще одна модель внутри модели. С объективной точки зрения — совершенно ничего интересного, но субъективно, робот имеет механизм оценки себя как некоего наведённого образа. Робот может получить доступ к отладчику и в деталях изучить процесс того, как он работает. Он будет видеть на картинке зарождение образа удивления и отмечать возникновение удивления в своём субъективном переживании. С объективной же точки зрения — просто модель изучает то, как она сама же работает.


    Хотя сознание и не проявляется объективно, можно, тем не менее определить, какие части вычислительной системы участвуют в проецировании феномена сознания, а какие нет. То есть в объективном мире сознание представлено своим носителем в виде вычислительной структуры. Если структура уничтожается, то феномен собственного субъективного переживания объекта также завершается, поскольку больше нет объекта и факта наблюдения.


    Из осознания системой себя следует и осознание окружающего мира в рамках того же способа. То есть, сознание. Тут всё перевёрнуто вверх ногами, поскольку обычно считается, что сознание требует более слабых условий, чем самосознание и это вполне может быть так, но если уж есть самосознание, то и сознание должно появится. Существование самосознания является достаточным условием для существования сознания.


    Давайте еще раз, потому что это сложно. Самосознание существует как субъективный феномен восприятия себя как вычислительной системы при решении задачи анализа своего предыдущего и прогноза своего будущего поведения, самоподдерживается путём наблюдения самой себя, и порождает фактом своего существования феномен сознания.


    Сознание и антропный принцип


    На язык просится возражение. С сознанием и способностью системы к самонаблюдению вроде бы всё понятно. У систем должна быть способность к самонаблюдению. Робот должен как-то оценивать ту систему, с помощью которой он как-то оценивает. Но при чем здесь мы и те красивые картинки, которые составляют сущность нашего с вами восприятия?


    Давайте спросим нашего робота. В какой-то момент времени наш абстрактный робот, устав от бесконечного самокопания, не в силах понять, что он собственно такое, идёт на форум и задаёт вопрос:


    ИИ: Хорошо. В теории всё понятно. У систем должна быть способность к самонаблюдению. Но при чем здесь я и те красивые картинки, которые составляют сущность конкретно моего восприятия?


    Есть одна любопытная теоретическая проблема. Существует огромное количество возможных вариантов выбрать основополагающие физические константы так, чтобы вселенная оказалась крайне негостеприимным местом. Но, как мы видим, константы выбраны так удачно, что великолепно подходят для человеческих существ. Как так получилось?


    В 1973 году английский физик Брэндон Картер сформулировал "антропный принцип". Принцип заключается в том, что мы не могли бы задаваться вопросом о том, почему вселенная так к нам благосклонна, если бы она таковой не была. Не было бы нас, и проблемой благосклонности вселенной занимались бы или совсем другие существа, или не занимался бы никто.


    К проблеме сознания также уместно применить подобное рассуждение. Мы показали, что что-то внутри объекта должно воспринимать. Так почему бы этому чему-то не быть вами?


    На самом деле, здесь действительно есть неразрешённый вопрос. Я знаю, что вы должны воспринимать мир, как и я. Я доказал это своим построением. Я знаю, что до определённой степени наше восприятие совпадает. Я видел это в книге философского зомби, в которую вы записали то, как воспринимаете мир. Но есть вещи, которые вы описать не можете. Например, вы не сможете описать мне, как для вас выглядит красный цвет. Есть много вещей, которые не могут быть изложены в книге философского зомби. Эти вещи объединяются термином "квалиа". "Квалиа" — термин обозначающий то, как вещи выглядят для нас, хотя, за свою историю, он был чрезмерно затаскан и перенасыщен смысловыми интерпретациями. В этой работе утверждается, что изучаемый класс систем должен как-то воспринимать мир, но не указано как именно, и вопрос этот в рамках данного построения неразрешим. По видимому квалиа должно быть, а вот что оно из себя представляет — загадка за семью печатями. Насколько мне известно, удовлетворительного решения пока никто не получил. Мы показали, что сознание влияет на поведение, но квалиа на него не влияет и потому не может быть никоим образом изложено в книге философского зомби. Зомби может описать своё восприятие с точностью до квалиа.


    Сознание это не квалиа. Сознание гораздо проще ухватить за шкирку и вытащить на свет. Если мы говорим, что самонаблюдение должно продуцировать сознание, а антропный принцип показывает, что для каждой системы есть некий несчастный, который сидит внутри и это дело воспринимает, то квалиа нам нужно лишь для того, чтобы понять, как конкретно этот несчастный воспринимает. Пока мы установили только качество, но не знаем подробностей. И, судя по всему, пока подробностей не знает никто, а потому оставим этот вопрос философии и займёмся математикой.


    Сознание как информация с характером


    Матема́тика (др.-греч. «изучение; наука») — наука об отношениях между объектами, о которых ничего не известно, кроме описывающих их некоторых свойств, — именно тех, которые в качестве аксиом положены в основание той или иной математической теории.

    Мы получили, что некоторый феномен существует субъективно в рамках самого себя, но с объективной точки зрения весьма зыбок. На этом, пожалуй бы можно было и поставить точку, поскольку исследование необъективных явлений не основано на фактах, но при внимательном взгляде оказывается, самое интересное только начинается. Действительно, мы имеем некоторый объект. Он, как и все объекты имеет объективное представление в виде реализующей его вычислительной системы и, что его выделяет, обладает некоторыми специальными свойствами субъективного самовосприятия. К числу этих свойств относится ощущение мгновенной целостности и ощущение континуальности во времени. То есть система наблюдает себя как цельный и развивающийся во времени феномен.


    Таким образом, это некоторый объект специального вида, над которым можно совершать некоторые операции и оценивать состояние. Так исследуем же его!


    Мы воспользуемся следующим методом. Мы будем мысленно проводить действия над объектом, смотреть, что с ним происходит объективно и спрашивать его, что он при этом субъективно переживает, руководствуясь интуитивными соображениями себя, как обладающих сознанием существ. На основе рассмотрения этих результатов постараемся сделать выводы о том, по каким законам этот объект существует и как может быть математически описан.


    Нам поможет воображаемый друг:



    Один из первых выводов, которые нам придётся сделать — сознание независимо от вычислительной платформы, а продуцируется информационным процессом. Действительно. Давайте возьмём биологическое обладающее сознанием существо и начнём по одному заменять его нейроны на небиологические аналоги. Целостность и континуальность сознания при этом не нарушатся, поскольку процесс будет медленным и постепенным. Строго говоря, можно сказать что сознание вообще ничего не заметит.



    Ян Корчмарюк вводит понятие "Сеттлеретика" (от английского «settler» — «переселенец») [9], и в своих работах изучает проблемы личности, психики, методологию переноса сознания в машину с сохранением идентичности и непрерывности. Приведённый пример является предлагаемой сеттлеретикой идеей, и если наша гипотеза о природе сознания верна, идея является вполне рабочей. Осуществляя её можно постепенно стать машиной.


    Это показывает, что сознание не привязано к вычислительной платформе, но тогда оно привязано к вычислительному процессу, осуществляемому платформой, а вычислительный процесс есть тип информации.


    Норберт Винер вводит определение информации через отрицание: Информация — это то, что не материя и не энергия [10]. Считается, что информация заключена в структуре материи, а также в полях взаимодействий. Выражаясь в структуре, информация допускает некоторые операции, которые не допускают материя и энергия. Например, копирование. Нам известно, что в отличии от материи и энергии, относительно которых выполняются законы сохранения, любая информационная сущность может быть скопирована.


    Наши вычислительные системы работают с такими объектами, как файлы и процессы. Мы без труда копируем файлы и клонируем процессы (man fork(2)) и считаем копии практически идентичными. Но как только мы копируем вычислительный объект обладающий сознанием, происходит нечто странное.



    Когда объект наблюдает свою копию, он субъективно ощущает, что копия им не является. А!!! Это самозванец!!! Но, при этом, оба объекта ощущают изначально существующий в прошлом объект как свой непосредственный исток.


    В чем же проблема. Как одно сознание могло раздвоится? Если мы вернемся к нашему определению и проверим критерии континуальности и мгновенной целостности, то обнаружим, что никаких противоречий нет. Оба объекта континуально наследуют от исходного состояния и являются целостными. И всё-таки кажется, что здесь есть логическая ошибка, потому что наш субъективный опыт кричит о том, что одно сознание двумя стать не может.


    Представим мир-симуляцию. Существа, живущие в этом мире занимаются своими важными делами. Они сложны и обладают способностью описывать то, как они воспринимают мир. Мир кажется им реальным и незыблемым. Им даже невдомёк, что системный администратор дядя Вова каждый вечер, уходя домой с работы ставит симуляцию на паузу и включает её только утром пять раз в неделю, поскольку в субботу и воскресение у него выходные.



    Давайте заметим, что свойство континуальности и мгновенной целостности при остановке мира не нарушаются. Существа ощущают себя теми же, кем они были до остановки и продолжают свои действия так, как будто никто их не прерывал.


    Но рассмотрим другой пример. Это известная диллема телепортации.
    Существо входит в телепорт на одной планете, его разбирают, отправляют транспортным лучём и собирают на другой планете, как в сериале Star Trek.



    Континуальность не нарушена. Мгновенная целостность не нарушена. Существо на том конце ощущает себя исходным существом. Но что это… В эксперимент вкралась ошибка и исходное существо не было разобрано.



    По видимому, и в этом заключается классический взгляд на этот вопрос, актом телепортации мы просто убили исходное существо, а на другой планете собрали на основе него некоего гомункулуса, который только думает, что он это исходное существо. Бедняга. Он даже не подозревает, что на самом деле тот, кому принадлежит его память, мёртв.


    Сможем ли мы как-то ему помочь? А давайте телепортируем его ровно в ту точку, где он же и находится. Кажется, что ничего не поменялось. Одного убили, второго создали на его же месте. Второй думает, что он был первым.



    Но, отличается ли этот пример от примера с остановкой мира? При остановке мира мы сохраняем информацию о симуляции в виде данных на жесткий диск, пересоздаём мир и восстанавливаем данные обратно. Это может быть другой вычислительный кластер, новая версия ПО симуляции. Нарушилось всё, что только можно, кроме континуальности собственного восприятия объектом симуляции. Этот пример мало чем отличается от примера телепортации себя в ту же самую точку пространства. В обоих случаях объект разрушается и создаётся заново.


    Между примерами есть одно отличие. В примере с телепортацией объект знает, что нечто происходит, а в примере с остановкой мира — нет.


    Есть тезис, согласно которому мы никак не можем проверить, живём ли мы в симуляции. Но мало того, если мы живём в симуляции, у нас нет возможности проверить, не останавливается ли мир каждую минуту на профилактику. Если мир периодически останавливается, то получается, что этот текст начинал читать ваш континуальный предок, а вовсе не вы. Так действует классический подход, но если мыслить сознание как свойство саморефлексии системы, то никакого парадокса тут нет, ведь сознание есть феномен субъективного переживания, а переживание это существует только тогда, когда осуществляется вычислительный процесс.


    Возведём пример в абсолют, пусть симуляция сворачивается, архивируется и пересобирается на новой вычислительной машине каждый квант времени.



    В такой системе сознание вообще никак не связано с вычислительной машиной. Свойство вычислительной платформы — суть постоянных изменений. Мгновение назад вычисления были квантовыми, теперь нейронными, транзисторными, реализованными на лампах, реализованными в виде процессов ядерного синтеза и распада, построенными на принципах гидравлических систем. Между запусками системы проходит различное время, вычислители строятся и разрушаются, меняются вычислительные блоки, на симуляцию одной секунды уходят тысячи и миллионы лет… Но, скажи мне, существо, — "как ты двигаешься?", — существо задумывается на короткое мгновение длиной в 4 тысячи лет и молвит, — "Я представляю, что двигаюсь и моё тело двигается само".


    Говорит ли это одно сознание или миллиард разных наследующих друг другу продолжают одну и ту же мысль?


    Несмотря на то, что симуляция всё время прерывается, сознание целостно и континуально. Можно ли сказать, что оно каждое мгновение разрушается и формируется заново? Можно ли сказать что у такого дискретного сознания есть качественные отличия от сознания непрерывного? Если таковые отличия и есть, то по-видимому, нет никакого способа их субъективно пронаблюдать.


    Вот, кстати...


    Вы уверены, что чай или кофе в вашей кружке туда наливали именно вы? А может быть это был другой? Тот кто раньше был на вашем месте и чьё тело вы вероломно украли? Вы пришли от себя прошлого к себе нынешнему методом малых изменений, на каждом шаге становясь чуть другим и единственная причина, по которой ваш прошлый двойник не обвиняет вас в том, что вы заняли его место состоит в том, что его здесь нет.


    В каждый конкретный момент времени объект ощущает себя продолжением своего предшествующего состояния. Объект на другой стороне телепортационного луча строго уверен, что именно он только что был на планете отправления, но исходный объект при этом никуда не перемещался. Также, как и с экспериментом по остановке мира, единственный способ исключить конфликт двух личностей — убрать изначальную копию. Тогда субъективно это будет выглядеть как продолжение того же сознания. Объект на той стороне будет говорить, что он это он, а возразить ему никто не сможет. Его изначального двойника доедают лангольеры. Примерно так же, как они доедают того, кто, начинал читать это предложение.



    Тезис о том, что мгновение назад мог жить кто-то другой приводит к выводу о том, что сознанию только кажется, что оно длится во времени. Этот феномен надо рассмотреть подробнее. Сознание может вспомнить своё прошлое. Это значит, что предыдущие состояния сознания сохраняются в некоторой форме памяти, которая, с объективной точки зрения выглядит как информационная структура, куда сознание постоянно регистрирует (копирует) информацию о текущем своём состоянии. Субъективно это выглядит как запоминание, а объективно, это безостановочная запись в журнал регистрации событий (возможно с удалением части информации). Похоже, что память — единственное, что связывает ваше сознание с тем, кто налил вам чай.


    Вернёмся к примеру переселенца из биологического тела в тело механическое.


    Пример А. Переселенцу клетку за клеткой заменяют тело на не биологические аналоги.



    Пример Б. Переселенцу внедрили воспоминания, что он был биологическим, но на самом деле просто создали таким, чтобы он считал биологическое состояние предшествующим себе.



    Пример В. Биологическое состояние было, но с него сняли копию, оригинал уничтожили, а механический экземпляр сконструировали, чтобы он думал, что был биологическим, внедрив воспоминания исходного существа.



    Я утверждаю, что никто, ни объективный наблюдатель, ни сам переселенец в оконечной точке времени не сможет различить этих вариантов. Между получившимися ситуациями нет разницы ни субъективно, ни объективно.


    Если мы признаём, что достаточное условие продолжения существования сознания это континуальность восприятия своего существования в прошлом (то есть, я помню, что я непрерывен), нам придётся признать, что принципиальной разницы между вариантами А и В нет. Интуитивно кажется, что это не так. Чтобы привести правила в соответствие с интуитивными ожиданиями нам придётся наложить условие непрерывности изменений. Недостаточно, чтобы сознание помнило, что оно непрерывно. Нужно чтобы изменения были постепенными и тогда вроде бы всё в порядке или так по крайней мере кажется.


    Причина опять же в континуальности. Сознание хочет воспринимать (возможно, это специфично не для всех типов сознания) себя континуальным и не приемлет мгновенных скачков.


    Рассмотрим момент засыпания. Во многих культурах засыпание считается временной смертью и даже существуют ритуалы, направленные на то, чтобы понять, кто вернулся из другого мира: владелец тела или злой дух. Это результат прямого сомнения в том, что сон сохраняет континуальность. Выше мы видели, что даже при переходе в непосредственно следующий за текущим момент времени континуальность может быть поставлена под сомнение. Чего уж говорить о сне…



    Представляется, что человеческое сознание не готово воспринимать себя, как набор дискретных состояний. Возможно это свойственно нашей форме сознания, а может быть и сознанию вообще. Поскольку мы решили считать интуитивную оценку сознания мерилом допустимости операции над собой, то в зависимости от этой оценки со стороны конкретного сознания ответ на вопрос о телепортации и других схожих операций может меняться.


    Забавно, но кажется, ответ на вопрос о допустимости телепортации для объекта сознания зависит от его мировоззрения. ¯\(ツ)


    Феномен разделённого сознания


    Мы рассмотрели сознание как некоторую неделимую единицу, которая или есть или нет. Но с этого момента всё становится интереснее.


    Вариант самозарождения сознания в металлической башке, вероятно оборудованной ЦПУ, и реализующей свой мыслительный аппарат на аналитической машине, интересен, но человеческий мозг работает не так.


    Философ Дениел Деннет указывает на то, что по своей структуре мозг человека более подобен колонии совместно трудящихся термитов, чем компьютеру, исполняющему программу с централизованным управлением. Мозг человека не имеет главного центра принятия решений, это структура больше похожа на демократический аппарат кучи фракций нейронных групп. Группы постоянно конкурируют между собой, реализуя поведение предлагаемое той из них, что будет наиболее убедительной. Такая структура эволюционно оправдана. Действительно, её гораздо проще получить методами эволюции, чем что-либо подобное ЦПУ, а стабильность такой структуры несравнимо выше. Работу ЦПУ можно нарушить, перекусив один проводок, а для того, чтобы извести термитов понадобится напалм.


    термитник


    Особенность архитектуры вычислительного процесса накладывает отпечаток на продуцируемый им феномен сознания. Архитектура человеческого мозга буквально создана для того, чтобы быть населённой кучей разных сознаний. Это доказывают множество пациентов с психологическими расстройствами, это доказывают исследования пациентов с рассеченными мозолистыми телами.


    Интересен вопрос, что чувствует сознание, когда в том же самом теле обитает другое сознание? Как нам это исследовать в рамках теории? К сожалению, мозг довольно сложный объект для мысленных экспериментов. Мы слишком мало знаем о роевых вычислениях. Понадобится модель попроще.


    Вопрос. Может ли сознание, реализованное на ЦПУ испытывать феномен разделения? Удивительно, но может. Предположим, что аналитическая машина работает таким образом, что реализует два потока вычислений, продуцирующих собственные сознания. Каждый из потоков имеет собственную память и собственное мнение о своей континуальности и мгновенной целостности. Оба потока получают информацию (иногда разную), имеют разные цели и формируют разные команды, иногда конфликтующие. И что характерно, они не знают друг о друге.



    Как было сказано выше, аналитическая машина в общем случае не может наблюдать своего строения и следить за процессом своей работы. Она не понимает, как работает та машина, которой она управляет. Для сознания параллельное ему сознание — это просто еще одна особенность объекта управления.


    Однако, пусть система работает так, что часть выводов первого потока исполнения доступна второму и наоборот. Система не знает своего механизма и не имеет представления о том, как конкретно она получает эти данные. Может это результат её работы или эфемерной интуиции, но чем больше у двух процессов общих данных, тем более они похожи друг на друга. Существует непрерывное пространство возможных вариантов от полного разделения до полного слияния. Уместно говорить о степени связности этих сознаний.


    Пусть потоки в достаточной мере разделены. Пусть мы имеем два канала связи с машиной, например, один вербальный, а второй письменный. Пусть вербальную информацию более свойственно обрабатывать потоку А, а о письменную — потоку Б. Тогда мы можем поговорить с двумя сознаниями независимо.


    Напрямую установить наличие сознания Б в том же теле сознание А не может ни в условиях низкой, ни в условиях высокой связности. Это возможно только по косвенным признакам, однако теория предсказывает гипотетическую возможность, когда сознание А и сознание Б каким-то образом, догадавшись о взаимном присутствии разрабатывают систему символов, с помощью которой начинают общаться друг с другом. Допустим, они общаются через некоторую общую область памяти, куда сознание А пишет вопрос, а сознание Б пишет ответ. Хотя сознание А не может напрямую отличить эту область памяти от тех специальных машинных регистров, о которых мы говорили выше, но оно замечает, что ответы, которые появляются в этих ячейках разумны, а значит могут быть следствием работы смежного сознания.


    И тут пожалуй, даже хочется спросить, сколько экземпляров вас сидит перед монитором и прямо сейчас смотрит на этот текст? Сколько информационных процессов, которые ничего друг о друге не знают? Теория предсказывает, что роевое сознание штука весьма любопытная. Оно отлично работает в условиях разделения и как кажется по кусочкам собирает единое сознание в условиях достаточной вычислительной связности. Да здравствует вычислительная связность.


    Интересно рассмотреть феномен субсознаний. Допустим у нас есть сознание, которое внутри себя построило замкнутый вычислительный процесс продуцирующий сознание и взаимодействует с ним через специальные участки памяти, передавая ему ограниченное количество информации и организуя для него хранение памяти. Такое сознание может знать о своей природе, но может существовать как независимое сознание, даже не подозревая, что является частью чего-то большего (см. тезис о том, что разделенные сознания не наблюдают друг друга). Но для сознания верхнего уровня такое сознание будет просто частью его же вычислительного процесса, оно восприимчиво к памяти, командам и вычислительному процессу субсознания. Теоретически такие структуры могут существовать достаточно протяженное время и общаться друг с другом, принимать решения, и делать многие другие вещи, прежде чем снова растворятся в общем сознании. При должном усердии сознание может, формируя сложные иерархии субсознаний, реализовывать диалоги внутри самого себя и даже ставить театральные постановки. По видимому теория неплохо предсказывают тот хаос, что творится в наших головах.


    Единственный тип сознания который мы можем изучить сегодня — роевой. В исследовании искусственного интеллекта, на сегодняшний день есть два направления работ, связанных с нисходящим (централизованным) и восходящим (роевым) ИИ. Работы по роевому направлению, связанному с технологиями нейронных сетей, HTM и подобными методами, сегодня особенно популярны. Однако, нет никаких предпосылок полагать, что роевая природа обязательна для феномена сознания. Роевые методы — это особенность конкретной реализации, а не необходимость.


    Краткое резюме


    Я думаю, мы готовы сформулировать некоторые тезисы относительно того, что за объект такой сознание:


    1. Сознание — это информационный процесс.
    2. Сознание имеет память, а также модель самого себя и постоянно копирует в память своё текущее состояние.
    3. Сознание признаёт свою преемственность от предыдущих состояний.
    4. Сознание может копироваться, но не признаёт своих активных копий тождественными себе.
    5. Объект, испытывающий субъективное переживание сознания, может не быть непрерывным во времени.
    6. С субъективной точки зрения сознание непрерывно (по крайней мере на отрезках).
    7. Сознание может не признать своим потомком последующее состояния, даже если потомок признает исходное сознание за предка.
    8. Последующее состояние считается тем более приемлемым, чем менее значительны изменения между состояниями. В идеале новое состояние должно быть получено методом непрерывных изменений.
    9. Сознание может разделяться при снижении связности вычислительного процесса.
    10. Сознания могут объединяться при повышении связности вычислительного процесса.
    11. Сознание обычно может наблюдать параллельное сознание только по косвенным признакам и не может пронаблюдать его непосредственно.
    12. Возможно общение нескольких сознаний внутри единого вычислительного процесса.
    13. Сознание может строить внутри себя другие сознания.

    Вот с таким любопытным объектом мы каждый день имеем дело.


    Заключение и выводы


    В этой работе я попытался рассмотреть сознание как объект и установить, каким законам он подчиняется. Если принять концепцию зарождения самосознания как результата рекурсивного наблюдения себя, можно, несмотря на субъективность явления, вывести некоторые закономерности поведения этого информационного объекта.


    Автор выражает надежду, что статья найдёт своего читателя и внесёт некоторую определённость в вопрос, может ли быть сознание у искусственного интеллекта, и по каким законам такое сознание будет существовать. Даже если читатель не примет тезис о том, что сознание человеческого существа может быть построено описанным в статье способом, он может тем не менее, использовать проведенный анализ при работе с техническими изделиями, имеющими аналитические аппараты рассмотренного вида, поскольку феномен "суррогата сознания" будет им присущ, что показано в настоящей работе.


    Спасибо за внимание.



    [1] Стивен Прист: Теории сознания. Глава 1. Дуализм: Платон и Декарт https://gtmarket.ru/laboratory/basis/3283/3284
    [2] https://newtonew.com/story/memento
    [3] https://www.nkj.ru/news/30619/
    [4] http://www.ict.nsc.ru/jspui/bitstream/ICT/885/5/CantheMachinethink.pdf
    [5] https://ru.wikipedia.org/wiki/Китайская_комната
    [6] Dennett D. Consciousness explained (Back Bay Books, 1992)
    [7] http://flibustahezeous3.onion/b/422451
    [8] http://max-frei.net/
    [9] Корчмарюк Я.И. СЕТТЛЕРЕТИКА. Новая наука о кибернетическом бессмертии (Сборник трудов за 1996-2005 гг. в 4 книгах. Книга 1.) — Волгоград: ООО "СФЕРА", 2015, — 548 с.
    https://www.settleretics.ru/
    [10] http://www.aselibrary.ru/press_center/journal/irr/2007/number_3/number_3_6/number_3_6571/

    Комментарии 272

      0
      может ли быть сознание у искусственного интеллекта

      Может, для одного сознания и не может для другого, а еще есть много сознаний в которых этот вопрос вообще не возникает. Вопрос в том, нужно ли нам убеждать толпу в том что может или лучше убеждать что не может?
        +2

        Боюсь, это не дисскусионный вопрос. Похоже, что сознание можно посчитать. Можно поставить под сомнение тождественность человеческого сознания и сознания обезьяны, или человеческого сознания и сознания робота, но само его наличие прекрасно просчитывается математически, что собственно я и постарался изложить в этом тексте.

          +1
          Можете просчитать, чьё то абстрактное сознание (модель которого хранится в вашем), это даст вам субъектность на какое то время, но свое вы не можете просчитать, так как оно включает в себя, как просчитывающего так и просчитываемого.
        +14

        Вот так работает моя профессиональная деформация. Когда читаешь краткое резюме как поток сознания заказчика, для построения технического задания и делаешь пометки.


        1. Сознание — это информационный процесс
          Ну допустим… есть там какой-то update(dt), видимо


        2. Сознание имеет память, а также модель самого себя и постоянно копирует в память своё текущее состояние.
          Тут понятно — state он и есть state


        3. Сознание признаёт свою преемственность от предыдущих состояний.
          Это у нас наследование, получается


        4. Сознание может копироваться, но не признаёт своих активных копий тождественными себе.
          Ага, копии значит не ссылки а разные инстансы


        5. С объективной точки зрения сознание может не быть непрерывным.
          Персистентность что ли? Типа можно выгрузить из оперативки куда-то, а потом из этого "куда-то" достать, как ни в чем не бывало.


        6. С субъективной точки зрения сознание непрерывно (по крайней мере на отрезках).
          Ясно, значит дельта у нас глобальная, а не от абсолютного времени последнего обновления объекта


        7. Сознание может не признать своим потомком последующее состояния, даже если потомок признает исходное сознание за предка.
          Ну это понятно, полиморфизм и LSP — как они есть


        8. Последующее состояние считается тем более приемлемым, чем менее значительны изменения между состояниями. В идеале новое состояние должно быть получено методом непрерывных изменений.
          Ага, значит операции над сознанием у нас атомарные


        9. Сознание может разделяться при снижении связности вычислительного процесса.
          Не понял, типа модульная архитектура что ли?


        10. Сознания могут объединяться при повышении связности вычислительного процесса.
          Ааа… Понял! Вы про горизонтальное масштабирование!


        11. Сознание обычно может наблюдать параллельное сознание только по косвенным признакам и не может пронаблюдать его непосредственно.
          Ну да — инкапсуляция в чистом виде же


        12. Возможно общение нескольких сознаний внутри единого вычислительного процесса.
          Хорошо, добавим шину сообщений


        13. Сознание может строить внутри себя другие сознания.
          Угу, фабрики значит


          0
          Очень красивое описание, спасибо! Поставил бы плюс, да не могу :(
            0
            Так понятнее стало)
            +7
            Странно. Зачем для, по сути, переложения на современный язык избранных мест из «Монадологии» Лейбница брать в название писательницу-фантаста немножко другого калибра и фактуры? Я-то уж решил, будет что-то пятничное, вроде:
            1. Парадокс Ферми обращает наше внимание на то, что, на самом-то деле, мир вокруг — симуляция.
            2. Эта симуляция достаточно сильно отличается от реального мира. И трудная проблема сознания — одно из проявлений этого упрощения. Парадокс, который невозможно решить в рамках нашего симулированного мира, если принимать его законы за чистую монету (представьте Нео, подключенного в матрицу, где запущен «Майнкрафт», и вдруг Нео задается вопросом — позвольте, а как мой глаз, состоящий из единого и неделимого кубика, в состоянии воспринимать окружающий мир, во всей его полноте и сложности?)
            3. Чтобы вы не заигрались в симуляцию, здесь предусмотрены NPC-напоминалки. Ну, скажем, какой-нибудь бросающийся в глаза крутой чувак, делающий самые крутые технические вещи, и при этом не упускающий возможности заявить, что все вокруг нас симуляция.
            4. Для тех, кто отыгрывает персонажа, не интересующегося техникой, есть фильмы с аналогичной функцией напоминания про существование истинной реальности.
            5. Если трижды прокричать «Нейролинк, Нейролинк, отпусти меня на Марс!»/«Этот мир прекрасен и удивителен!», ваше сознание выйдет из симуляции в истинный мир. (А здесь, в симуляции, останется философский зомби.)

            И кстати, немного смущает, когда в статье одновременно и «насколько мне известно», и «мы показали», при этом речь идет сначала о недилимости сознания, в конце про сознание-рой, а в середине про рассечение мозолистого тела.

            А если серьезно, то статья хорошая, но, мне кажется, в ней тот же фатальный недостаток, что и в других подобных попытках — беда с терминологией. В лекциях Фейнмана есть по этому поводу пример с табуреткой. Что такое табуретка? Вроде, очевидно же, что каждый человек прекрасно понимает, что такое табуретка. Но если начать помещать это понятие в непривычные для него контексты, что и проделывает Фейнман… Быстро оказывается, что понятие «табуретка» — может существовать в весьма ограниченном бытовом контексте. Попытки же опредилить этот термин слишком строго — рождают кучу разночтений.
            Мне кажется, именно это происходит и со словом «сознание». Только, в отличие от «табуретки», «сознание» изначально куда более сложное и многогранное понятие, даже в бытовых контекстах. Поэтому когда это слово пытаются использовать так, будто это термин, определенный с математической точностью, причем однозначно для всех говорящих, — получается фигня. До какого-то места читаешь статью, и даже если где-то не согласен, но в целом понимаешь автора, — так тебе кажется. Пока не начинаешь ловить себя на том, что «а вот сейчас автор точно имеет в виду именно ту грань понятия, про которую думаю я? и различает ли вообще автор эту грань понятия — отделяя ее от смежных? или для него все эти несколько граней понятия сливаются в одно?»
            И даже более узкий, казалось бы, специально отчеканенный для философского употребления термин «квалиа» — с ним та же беда. Пока речь идет о контекстах вида «квалиа — ну это, например, то, как вы ощущаете цвет», кажется, что все прекрасно. Но вот стоит поставить вопрос вроде «а ощущаете ли вы какие-то особые квалиа, когда думаете о единице, о паре, о трех?» — и он провоцирует столько некомфортных сомнений и вытекающих думок, что поля этого комментария слишком узки.
              +1
              мне кажется, в ней тот же фатальный недостаток, что и в других подобных попытках — беда с терминологией

              Трудно себе представить статью о достаточно сложных понятиях, фундаментально понятной всем без исключения. Это будет что-то на юридическом языке, где половина статьи — это определение сносок, чтоб не возникало никаких сомнений.
              Всё наше общение — это додумывание "а понимаю ли я под этим словом то, что понимает под ним автор". Без сносок/допущений это должен быть язык который содержит, условно, отдельное слово для всех оттенков цветов.
              Вот вы написали "квалиа" и мне как-то вообще ничего не понятно.


              P.S. кстати комментарий greabock выше — хорошая иллюстрация.

                +3
                Поэтому когда это слово пытаются использовать так, будто это термин, определенный с математической точностью, причем однозначно для всех говорящих, — получается фигня.

                И, да. Идея статьи была как раз в том, чтобы загнать сознание в какие-то конкретные рамки и исследовать его методом если-если-то. Это привело к некоторым интересным выводам, например, к сюрреалистическому утверждению о том, что приемлемость телепортации зависит от мировоззрения, или к выводу о том, что смежное сознание ощущает товарища как часть объекта управления.


                К сожалению такого ограничение метода, но мне кажется, что результат получился довольно любопытным.


                Указание на связь с монадологией интересна. Это надо обмыслить...

                  +1
                  Про сознание уже так давно думали, что уже многое что придумали. К примеру Анатта один из важнейших догматов буддизма, постулирующий отсутствие атмана — «Я», самости индивида или его души. Что забавно, на личном опыте этот постулат можно испытать, просто тренируясь «не думать». Рано или поздно, когда поток внутренней речи угасает совсем, происходит качественное изменение восприятия и ощущение собственного «я» исчезает на определенное время, что дает незабываемый опыт. А делов всего-то потренироваться недельку-другую. Дешево, без томографа, кандидатских корочек, и сердито.

                  Говоря об убеждённости в существовании атмана или «я», Будда сравнивал такую убеждённость с человеком, рассказывающим о любви к самой красивой женщине в мире, но не знающим её лица, имени и родственников
                  +1
                  1. Парадокс Ферми обращает наше внимание на то, что, на самом-то деле, мир вокруг — симуляция.


                  Мир это симуляция в каком-то другом мире, и так до бесконечности. Вот паровоз, он вот почему едет? Потому что его маленькие паровозики толкают! А вы то думали. Ну а маленькие паровозики едут, потому что их еще более маленькие паровозики толкают. Идеальная картина мира, все объясняющая.
                    0
                    Во-первых, все уже украдено, до нас. Rick and Morty s02e06, если буквально про паровозики.

                    А во-вторых… Почему так уж и нет? Что тут такого уж неприличного и позорного? Вас же не смущает математическая конструкция множества целых чисел, где нельзя найти «самое первое» число, а всегда найдется то, которое еще меньше?
                    Так что приятие или неприятие варианта бесконечно вложенных виртуальных миров (ну или богов, которые создают вселенные с другими богами, которые...) — дело привычки. Концепция как концепция.
                      0

                      У целых чисел нет взаимосвязи причинности, требующей наличия начала. Они вообще математическая абстракция. А у создателя есть. У большого взрыва, впрочем, тоже...

                        0
                        > Rick and Morty s02e06
                        Разве не четвертый сезон?
                    +1
                    Такой автомат может играть в имитацию, хотя язык не поворачивается назвать его разумным.

                    Почему? Чем этот автомат отличается от кучки нейронов?


                    То есть, людьми, не обладающими феноменом самопереживания. Но при этом поведение этих людей полностью тождественно нашему.

                    Но самопереживание — это часть поведения. Если поведение зомби полностью тождественно поведению обычного человека, то зомби самопереживает в точности так же, как обычный человек.

                      0
                      Почему? Чем этот автомат отличается от кучки нейронов?

                      Наличием обратных связей.


                      Но самопереживание — это часть поведения.

                      И да. Именно в этом и была мысль. И по видимому этого достаточно.

                      +1
                      Масса уверенных заявлений, типа:
                      Архитектура человеческого мозга буквально создана для того, чтобы быть населённой кучей разных сознаний. Это доказывают множество пациентов с психологическими расстройствами, это доказывают исследования пациентов с рассеченными мозолистыми телами.
                      Нет, не доказывает.
                      Не думаю, что кто-то компетентен делать уверенные заявления о сознании пока не будет инструментов для регистрации и измерения этого самого сознания.
                        +1

                        Если верно, что сознание — субъективный феномен, то инструментов и не будет.

                          +3
                          Сознание есть субъективный феномен, потому что оно относится к субъекту, а «субъект» по определению есть тот, кто обладает сознанием. Рекурсия налицо, но замести проблему сознания под ковер и объявить ее несуществующей, то есть воображаемой (кем, кстати?), она не помогает.

                          Вообще, отрицать существование некоторых феноменов с неясным генезисом (редких или претендующих на нарушение хорошо установленных законов природы) — это в принципе достойная тактика, но волшебно, когда она в письменной форме применяется для отрицания того единственного в своем роде феномена, в существовании которого каждый читатель (а читатель, пребывающий в бессознательном состоянии — это явная экзотика) может быть уверен на 100%. Сильно продвинулась современная философия, на многие вопросы нашла она достойные ответы. Но за что не возьмешься — ничего у нее нет.
                        +1

                        Ну так можно и с человеком провести эксперимент


                        БУ: Что такое свет?
                        Ч: Светом называют оптическое излучение, то есть такое электромагнитное излучение, длины волн которого лежат в диапазоне с приблизительными границами от единиц нанометров до десятых долей миллиметра.
                        БУ: Как ты сформулировал это определение?
                        Ч: Отправил запрос в энциклопедию.
                        БУ: Как ты отправил запрос?
                        Ч: Воспользовался пальцами и набрал на клавиатуре.
                        БУ: Как ты воспользовался пальцами?
                        Ч: Заставил мышцы сокращаться.
                        БУ: Как заставил?
                        Ч: Эмм...


                        Какой-нибудь медик, конечно, сможет продолжить этот диалог чуть дольше, но все равно упрется в "Эмм.."


                        Так же как и ИИ может ответить как он воспользовался протоколами, если будет обучен этой "дисциплине".

                          +2

                          Да, именно это я и пытался продемонстрировать.

                              0
                              Это затравка к последующему обсуждению того, что именно происходит при копировании с субъективной точке зрения. У процесса нет субъективной точки зрения, вот он и не возмущается.
                          +2

                          В статье смешаны в кучу понятия интеллект, сознание и ощущение. Простое усложняется, сложное упрощается. Отдельные предложения вроде правильные, но вместе получается какая-то чушь.


                          Тут много утверждений, на которые можно было бы возразить, но их много и мне лень.
                          Прокомментирую только пару наиболее значимых моментов.


                          Мы без труда копируем файлы и клонируем процессы (man fork(2)) и считаем копии практически идентичными. Но как только мы копируем вычислительный объект обладающий сознанием, происходит нечто странное.
                          Это не я! — Ты кто такой?

                          Во-первых, никто не считает копии процесса "практически идентичными". Предполагается, что они должны работать идентично, в смысле одинаково обрабатывать данные, но сами данные в них разные. Именно поэтому их обычно и создают, для ускорения обработки.
                          Во-вторых, при форке происходит примерно то же самое, что и на картинке. В процессах одинаковый код и одинаковый вызов функции "fork()", и вычислительный процесс сам по себе не может узнать, исходный он процесс или новый. Поэтому fork() возвращает разный результат для исходного и нового процесса, для нового 0, для исходного ненулевой идентификатор нового процесса. Именно для ответа на вопрос "кто я такой".


                          И с сознанием то же самое. Любая "копия сознания" после копирования это самостоятельное существо, не связанное с предыдущим за исключением 99% общих воспоминаний. Как братья-близнецы, которые росли в одном доме и ходили в одну школу. Не надо тут искать магию или сложные загадки.


                          Биологическое состояние было, но с него сняли копию, оригинал уничтожили
                          Я утверждаю, что никто, не объективный наблюдатель, ни сам переселенец в оконечной точке времени не сможет различить этих вариантов. Между получившимися ситуациями нет разницы ни субъективно, ни объективно.

                          Для оригинала, который уничтожили, есть разница.

                            +1

                            Изначально, пока я писал текст, там было длинное пространное рассуждение про fork и про то, как два процесса различают себя и чем эта ситуация отличается (практически ничем). В дальнейшем этот кусок текста был убран, поскольку ничего не добавлял к основной линии изложения.


                            Оригинал, о да… Бедняга.

                              0

                              К чему тогда эта картинка с надписями и утверждение про странность? Копия воспринимается как другое существо, потому что она и есть другое существо, ничего странного в этом нет.

                                0

                                Это затравка для последующего длинного обсуждения того, что есть копирование с субъективной точки зрения и выяснению того, кто из них настоящий.

                                  +2

                                  Так нет никакого одного настоящего. Они оба настоящие. 2 существа каждый со своим сознанием.

                                    0

                                    Это нам с вами очевидно. Но это очевидно не для всех. Поэтому требует доказательства.

                                      0

                                      Так у вас в статье нет доказательства. У вас прямо противоположное утверждение "Я утверждаю, что никто не сможет различить этих вариантов. Между получившимися ситуациями нет разницы ни субъективно, ни объективно". Оно неверное, разница есть, и субъективная, и объективная. Потому что тут 2 субъекта, а не 1.

                                        0

                                        Вывод велся к другому, но, в целом, связанному утверждению:
                                        "Чтобы исключить конфликт личностей достаточно убрать одну из копий".


                                        Это происходит с операцией копирования, это происходит при перемещении в следующий непосредственно за текущим момент времени. Оценивать может только тот, кто есть в текущий момент. Из этого выводится то, что телепортация ничего не нарушает, если исходная копия разбирается. Даже если на какой-то промежуток времени возникает конфликт, он разрешается, когда одна из двух копий убирается.


                                        До тех пор, пока наследников двое — ситуация различна. А сразу после того, как одного убрали — уже нет.

                                          0
                                          "Чтобы исключить конфликт личностей достаточно убрать одну из копий".

                                          Вы упорно не желаете понять, что я хочу сказать. Нет никакого конфликта личностей, это 2 разные личности, нельзя убирать одну из копий. Это ничем не отличается от убирания одного близнеца из обычной пары близнецов.


                                          это происходит при перемещении в следующий непосредственно за текущим момент времени

                                          Это если считать, что состояние в следующий момент времени это копия состояния из предыдущего, и они обе существуют в некотором "безвременье". Что не доказано и вообще довольно спорно.


                                          До тех пор, пока наследников двое — ситуация различна. А сразу после того, как одного убрали — уже нет.

                                          Это ничем не отличается от "убирания" отдельной личности до копирования. Особенно если у нее есть одновременно родившиеся родственники, ученики или дети, с которыми у нее есть общие знания.

                                            0

                                            Я ваше возражение понимаю. У меня против изложенной теории ровно такое же возражение. Мне тоже не нравится полученный результат.


                                            Однако, он получен в процессе анализа. Утверждение о том, что следующее состояние — это копия из предыдущего пришлось ввести для исключения из системы противоречий. Если мы это утверждение убираем, то система аксиом становится противоречивой. Если это утверждение не добавлять, можно вывести, что душа — объект привнесенный извне, потому что оконечный результат будет зависеть от траектории пространства состояний системы.


                                            Собственно, именно об этом было длинное размышление про дискретную симуляцию.

                                              0
                                              Если мы это утверждение убираем, то система аксиом становится противоречивой

                                              В чем вы видите противоречие в факте существования 2 близнецов?

                                                0

                                                Такого противоречия нет.

                                                  0

                                                  Тогда в чем вы видите отличие между 2 существами "человек + копия" и 2 существами "человек + его брат-близнец"?

                                                    0

                                                    Я не вижу существенной разницы.

                                                      0

                                                      Тогда я не понимаю, при чем тут противоречие? При перемещении в следущий момент времени это одно и то же существо, при копировании или наличии близнеца 2 разных.

                                                        0

                                                        Прошу прощения. Я все еще не понял, о каком противоречии вообще идёт речь.

                                                          0

                                                          Про противоречие в системе аксиом, о котором вы говорили.

                                                            0

                                                            Противоречие возникает, если убрать операцию копирования при переходе в следующий момент времени.


                                                            Но при создании близнеца никаких противоречий нет.

                                                              0

                                                              При переходе из одного момента времени в другой это одна и та же личность. Где тут противоречие, из-за которого надо вводить копирование?

                                                                0

                                                                Ну, вот, если вы внимательно разберётесь в выводе, вы его обнаружите.

                                                                  0

                                                                  Так я говорю о том, что у вас вывод неправильный, и никакое копирование не требуется.

                                                                    0

                                                                    У вас двойник появляется в этом утверждении "единственная причина, по которой ваш прошлый двойник не обвиняет вас в том, что вы заняли его место состоит в том, что его здесь нет". Почему нужно рассматривать вариант с двойником, никак не обосновано.


                                                                    В момент времени t была материя M, организованная определенным образом (личность). В момент времени t+dt она изменилась на dM. Непонятно, почему dM надо рассматривать как второе M. Это нарушает законы сохранения.

                                                                      0

                                                                      Это обосновывается через эксперимент с дискретной симуляцией. Нет способа, ни субъективного, ни объективного, отличить дискретное сознание от непрерывного. У дискретного сознания материальное тело существует строго один момент времени, а потом разрушается и создаётся на основе новой материи, но с точки зрения сознания, оно непрерывно. Сознание строит своё утверждение о непрерывности на основе имеющейся у неё памяти о прошлом состоянии. Непосредственная преемственность материального тела для этого не требуется.


                                                                      Поскольку нет никакого способа отличить дискретную симуляцию от непрерывного "реального" мира, то их нужно уравнять правилами. Поэтому рассматривается копирование между моментами времени.

                                                                        0

                                                                        Личность с дискретным сознанием в вашем примере симулируется на компьютерах и состоит из симулированной материи. Вы подменяете понятия, симулированную материю и реальную материю из которой состоят компьютеры. Симулированная материя всегда одна и та же, это симулируется она на разной реальной материи. Поэтому утверждение "Непосредственная преемственность материального тела для этого не требуется" неверно, вернее не доказано, что оно верно.


                                                                        Далее. В этой симуляции мы фактически симулируем непрерывное ("реальное") течение времени для каждой конкретной личности. В симулированный момент времени t2 это та же личность, что была в предыдущий момент времени t1, а предыдущего состояния нет, и между собой они не взаимодействуют. Поэтому симуляция и реальный мир уже "уравнены", и дополнительных правил не требуется.

                              –3
                              Даже в самом простейшем случае, то есть для одной обособленной эфирной (то есть образно-ассоциативной) нейронной сети, сознание — это всё равно в общем случае именно гиперпоток паттернов, то есть совокупность субпотоков паттернов. Для мозга же, как иерархической совокупности эфирных нейронных сетей — то есть как эфирной нейронной гиперсети, действительно, в соответствии с принципами гиперобъектности имеет смысл использовать понятия «гиперсознание» и «субсознание» («субсознание» не следует путать c «психологическим» понятием «подсознание»). Полушария мозга — это две эфирные нейронные подсети верхнего уровня, и если связь между ними нарушена (например, при рассечении мозолистого тела), то условный эффект «раздвоения личности» иногда и в самом деле может наблюдаться вследствие «образно-ассоциативной специализации» полушарий…
                                0

                                Вопрос в определении понятия сознание, которого в статье нет. Насколько я понимаю, многие под понятием сознания понимают способность мозга анализировать свои действия и как-то реагировать на свои мысли и действия, т.е. есть часть или нейросеть в мозге, которая занимается самоанализом исходя из этого определения. И да такое есть, что тут спорить. Но мое понимае сознания другое. Сознание — это способность кого-то (например души? не бейте палками дослушайте) ощущать то, что приходит через органы чувств конкретного мозга или тела, но не в виде электромагнитных сигналов или деформаций тела и кожи, а в виде цвета, запаха, прикосновения, вкуса и т.д. Разберем например цвет. Многие думают, что цвет это свет определенной волны, но погодите, одно это ощущение в сознании, второе это регистрация датчиком физического воздействия на него, взаимодействие с светом и проявляется в мозге как электрохимический сигнал, а ведь реакция может быть в любом виде будь то чисто электоический сигнал как в компьютерах, механические движения внутри механического компьютера, где здесь цвет или запах, это просто механический ответ на сигнал. Нет эксперимента и я не представляю себе опыта, чтобы доказать, что то, что один человек называет синим цветом является синим и для другого, возможно другой человек просто называет словом синий электромагнитную волну определенной длинны, т.е. просто выдает действие на сигнал, ответ на сигнал словом синий. Точно также, если компьютеру подать через датчики такую волну и заставить называть его синим цветом это не означает, что есть нечто, что связано с этим комптютером и способно видеть или ощущать синий цвет именно как ощущение, просто комп вам ответит вижу синий, но это вы записали в него такой алгоритм. И вот тут возникает главная проблема отождествления людьми понятия взаимодействия с сигналами мозгом или устройством, программой и его ощущение. В реальности нет синих или каких бы то нибыло цветов, они есть в конкретном сознании. Отсюда следует, что не факт, что другое сознание видит тот же цвет, что и я или вообще ощущает это как цвет, а не как-то иначе. Представьте себе, что это как сторонний наблюдатель связанный с вашим мозгом, это односторонняя связь, такой наблюдатель ничего не делает, никак не влияет на то, что делает мозг, он только воспринимает сигналы ощущениями, т.е. мозг отвечает на такие сигналы своими сигналами, но сознание (см. мое определение) просто ощущает эти сигналы в виде цвета, запаха, вкуса и т.д. По сути филосовский зомби ничем не отличается от такого зомби с сознанием с точки зрения их действий и внутреннего устройства, но если в одном таком теле есть сознание, т.е. связь с неким наблюдателем действий такого зомби, то в этом и будет разница, т.е. имеем передачу информации от зомби к наблюдателю, а тот уже воспринимает это как ощущения, а не действует ответными физическими сигналами. Никто не будет же спорить, что информация это не материальный объект, сознание наверно также нематериально, но тут уже сложно это понять. Тут главное понять, что есть существа, которые как-то и почему-то имеют связанного с ними наблюдателя, а есть философские зомби, ну жаже если это не люди, то например для искусственно созданного интеллекта такой связи не созжавалось, а значит это просто машина, которая работает по принципу домино, толкни одну фишку, а другие отвечают сложным образом, но в целом это просто набор фишек, часть остальной бессознательной вселенной.

                                  0
                                  Представьте себе, что это как сторонний наблюдатель связанный с вашим мозгом, это односторонняя связь, такой наблюдатель ничего не делает, никак не влияет на то, что делает мозг, он только воспринимает сигналы ощущениями, т.е. мозг отвечает на такие сигналы своими сигналами, но сознание (см. мое определение) просто ощущает эти сигналы в виде цвета, запаха, вкуса и т.д.

                                  Это гипотеза внутреннего наблюдателя. Согласно гипотезе есть нечто, что наблюдает, но не влияет на поведение. Она опровергается как раз мысленным экспериментом с филосовским зомби. Вот вы сейчас написали пост про внутреннего наблюдателя, значит ваш зомби-аналог также должен был иметь возможность сформулировать тезис о внутреннем наблюдателе, иначе бы получилось, что внутренний наблюдатель влияет на поведение. Следовательно мы пришли к противоречию.


                                  Внутренний наблюдатель влияет на поведение.

                                    0

                                    Согласен, я об этом написал в комменте. Но что делать с чувством цвета? Кто чувствует цвет и как доказать то, что у разных людей одинаковое восприятие цвета. Как можно заявлять, что техническое устройство построенное совершенно иначе, чем человеческое тело видит тот же цвет, что и человек? Он вообще вилит цвет? Или просто запрограммирован при регистрации волны определенной длины отвечать синий? Понятия для взаиможействия в разговоре одни, но это не значит, что внутри такого устройства кто-то видит синий цвет, тем более также как и я. Тут принципиальный момент, в голове гуляют ответные сигналы, они могут быть разного рода, но все это физические процессы, там в голове, программе, устройстве нет цвета нигде. Я думаю какая-то связь сознания с мозгом конечно должна быть, вы верно указали. Но по сути тут не нужно путать интеллект как способность решать задачи и вычислять и сознание. Интеллект есть и у компьютера, программы, они также могут решать задачи разной степени сложности, а люди по моему часто путают именно с понятием интеллекта. Тут в целом главный вопрос как я могу передать кому-то то, что я вижу и как мне убедиться в том, что он видит именно это? Что если кто-то видит вместо синего красный, но научен отвечать, что это синий? Такая инверсия никак не помешает ему жить и я никак не смогу понять, что он видит другой цвет, называя его синим.

                                      0

                                      Никак не доказать. Я в тексте статьи и в коментах уже несколько раз писал об этом :). Построение показывает, что какое-то восприятие отличное от объективного должно быть. (Это следует из несводимости виртуальной машины к своей реализации). Раз оно какое-то должно быть, то оно какое-то есть. Какое? Какое-то. Неизвестно какое, но почему бы не то, какое у вас. Возможно оно для всех одинаково, возможно различно, возможно рассуждать об этом надо как-то иначе, но противоречий тут нет.

                                      0
                                      Сама идея философского зомби в высшей степени сомнительна, если не сказать резче, и по сути сводится к убеждению, что есть идеальная (точнейшая) имитация чего-либо, не идентичная этому чему-либо. Какое-то фэнтези.

                                      Впрочем, идея (само)сознания как безвольного наблюдателя тоже сомнительна. Непонятно, с чего было эволюции создавать такого наблюдателя. Чтобы он мог пассивно рассматривать картиночки и слушать звуки, пожирая кучу энергии организма? Прям аттракцион невиданной щедрости природы, волшебным образом проскользнувший сквозь естественный отбор.
                                    +1
                                    Я в который раз читаю про квалиа и в который раз не понимаю, что это за лингвистика на пустом месте.
                                    Вот вы пишете — «Например, вы не сможете описать мне, как для вас выглядит красный цвет.». А какой ответ вас бы устроил? «Красный цвет для меня выглядит как...»? Как что? Какого вида ответ вы хотите получить? Знаете ли вы вообще, о чём спрашиваете?
                                    В остальном заметка интересная, спасибо.
                                      0

                                      Превосходный вопрос. Я дам определение от себя:


                                      Квалиа — это совокупность явлений чувственного восприятия, которые не могут быть изложены в книге философского зомби.


                                      Вопрос о наличии и отсутствии квалиа — дискуссионный, зато он позволяет мне сразу же отсечь кучу вопросов об особенностях чувственного восприятия, сказав — это не влияет на поведение — это квалиа. Надо пояснить. Наличие ощущения квалиа может влиять на поведение, но описать его все равно нельзя — это не влияет на поведение.

                                        0
                                        А, то есть квалиа это чайник Рассела. По определению невыразимая снаружи штука. Но она точно существует, мамой клянус. Но говорить о ней невозможно.
                                          0

                                          Типо того. Теория предсказывает, что любая система определённого вида должна как-то воспринимать, но пасует перед вопросом, как именно. Я не знаю, как к нему подкопаться и можно ли это сделать в принципе.


                                          Вообще, я точно знаю ответ — квалиа не существует. Ведь сознания не существует. И это не фигура речи. Способ, которым не существует квалиа отличен от способа, которым не существует сознание. Этот вопрос довольно интересен, а потому очень хочется его исследовать. Только не понятно как.


                                          Вообще аналогия с чайником Рассела отличная. Мнимость чайника Рассела не вызывает сомнений. Это дано в определении. Он совершенно точно не существует, но мы продолжаем о нем говорить...

                                            0
                                            > пасует перед вопросом, как именно

                                            Нет. Ваша теория по-прежнему не может определиться с вопросом. Что такое «воспринимать» и чем не устраивает ответ «фотоны, хрусталик, сетчатка, нейроны, зрительная кора»?
                                              0
                                              «фотоны, хрусталик, сетчатка, нейроны, зрительная кора»

                                              Да. Объективно на этом всё. А далее мы начинаем изучать законы, по которым развивается субъективная иллюзия.

                                                0
                                                А далее мы переходим к предмету недавней статьи «что такое цветовосприятие».
                                                Забавно, что пример квалиа показан именно на «красном цвете». Ведь нет никакого «красного цвета». Есть ряд длин волн и… визуальных характеристик окружающей среды, которые в итоге возбуждают нейроны зрительной коры подобным образом. А дальше мы человека примерно на втором-третьем году жизни учим этот «подобный образ» называть «красным цветом».
                                                Всё. Нет никакой квалиа. Никаким образом нет. Нет таким образом, что и говорить не о чем.
                                                  0

                                                  Я с вашим комментарием полностью согласен… Ну, кроме последнего предложения, впрочем это и так понятно, иначе бы я не написал такого длинного текста о том, чего нет.

                                                    –1
                                                    Всё. Нет никакой квалиа. Никаким образом нет. Нет таким образом, что и говорить не о чем.

                                                    Тут смотрите что. Есть наслаждение и страдание. Сказать что этого нет — не получается никоим образом по очевидным причинам. Отсюда исходит и понятие о добре и зле, преступлении и наказании и т.д.

                                                    Добро и зло применимо лишь к субъекту, т.к. лишь он может испытать страдание и наслаждение.

                                                    Далее задача — создать девайс, который сможет ощутить наслаждение и страдание (после этого он станет субъектом — у него появятся права, т.к. заставлять страдать другое существо есть зло). Это практическая задача! Бремя доказательства возложить на создателя девайса — он должен доказать, что повторил те же процессы, которые происходят в ЦНС в момент ощущения наслаждения/страдания.
                                                      +1
                                                      Ооо, сколько вы всего сразу постулировали. Добро, зло, субъект, наслаждение, страдание… Как насчёт корректно определить? Вот амёба движется от крупинки соли в воде к крупинке сахара. У неё есть наслаждение и страдание?
                                                        0
                                                        Вот амёба движется от крупинки соли в воде к крупинке сахара. У неё есть наслаждение и страдание?

                                                        Так мы проблему не решим. Не знаю — потому что мне не ясны процессы в моей ЦНС, которые эквивалентны наслаждению и страданию. Если ключевые процессы у амебы такие же как у меня — то да, иначе — нет.

                                                        Решение, как я уже говорил, — выглядит в виде законченного девайса, который ощущает наслаждение и страдания так же как я (или любой другой желающий в этом убедиться). Т.е. девайс должен повторить те процессы в ЦНС, которые происходят у меня, не упуская ничего важного. Как доказать что ничего важного не упущено — не тривиально, но, думаю, возможно. Бремя доказательства возлагаем на создателя девайса — если он говорит что повторил все ключевые процессы — пусть думает как доказать, ему виднее.
                                                0
                                                Как и сознание — квалиа суть процесс, но уже воссприятия. Пример с теми же цветами — у разных людей может отличаться чувствительность цветовых рецепторов (и даже кол-во их видов), что приводит к разному восприятию цветов. Т.е. у разных людей в принципе могут отличатся сами процессы обработки фотонов на уровне красная колбочка пошлет такой-то интенсивности сигнал, а зеленая — такой-то — и в итоге они по разному видят цвет одних и те же фотонов.
                                              0
                                              Квалиа — это совокупность явлений чувственного восприятия, которые не могут быть изложены в книге философского зомби.

                                              А они могут быть изложены в книге биологического человека, если мы допустим, что люди не являются философскими зомби. Я не могу изложить, что такое "красный цвет", иначе, как в форме


                                              • какая-то сложная последовательность активации нейронов мозга в ответ на восприятие света определенной длины волны и/или на извлечение воспоминаний о нем из памяти
                                              • "красный… ну… красный же"

                                              Вы философский зомби? Если нет, вы можете изложить?

                                                0
                                                Не, вопрос не в том, чтобы «мочь описать». Вопрос в том, что есть некий кусок информации (квалиа), который в принципе описать невозможно. Вроде как образ в голове, который возникает. И даже невозможно доказать, что ваш полный и 100% во всех смыслах клон (ну или вы из параллельной идентичной реальности), имеете один и тот же квалиа (если я правильно употребил это слово).
                                                Понять о чём речь — вроде можно. Описать как-то это самое квалиа — нереально, а следовательно и сравнить невозможно,
                                                что, вроде как, эквивалентно утверждению «не существует, но очень по особенному», потому как его существование или не существование никак на мир не влияет
                                                  0
                                                  Клон должен быть абсолютно полный. Т.е. не только физически, но и информационно. Т.е. с точно тем же жизненным опытом. Тогда квалиа будет идентично. Ведь это просто физическая реакция на мир, отслеживаемая всем мозгом в своей собственной подсистеме делающей внутри модель мира, которое и есть сознание.
                                              0
                                              А какой ответ вас бы устроил?

                                              Обычно подразумевается такой ответ, что увидев некоторый цвет впервые вы по описанию из ответа поймете, что "ага, это красный цвет". Такой ответ дать нельзя, поэтому вопрос о природе квалиа и считается особенным.

                                                +2
                                                По-моему, любой естественный язык не может быть полностью замкнутой системой — в том смысле, что какие-то слова (понятия) всё равно придётся определять буквально методом тыка в соответствующий объект или свойство объекта. А причина в том, что мы используем язык как код для описания окружающей реальности. И феномены этой реальности не могут быть точно описаны (определены) языком. Это, по-моему, принципиальный барьер, и с проблемой сознания он напрямую не связан.
                                              0
                                              Чтобы не уйти в демагогию и бессмысленные рассуждения — нужно поставить достижимую цель. Вот что придумалось: создать устройство, которое сможет наслаждаться и страдать. Понятно что на создателя возлагается и бремя доказательства, что процессы страдания и наслаждения внутри этого устройства ничем не отличаются от процессов страдания и наслаждения в ЦНС человека (любого желающего в этом обудиться — т.к. вы можете думать, что у других квалиа нет — только у вас).

                                              Так вот — когда такая конкретная цель есть, когда можно заявить что девайс создан или не создан, описать схему взаимодействий в процессе страдания и схему взаимодействий в процессе наслаждения — то сразу понимаем насколько велика степень невеженства в этом вопросе.

                                              Т.е. ситуация патовая. Отрицать страдание и наслаждение не получится — объективно эти процессы есть. Как только кто-то заявит, что он не способен на страдание — так сразу получает по голове и осознает всю степень своей ошибки с помощью квалиа боли — больше не говорит таких глупостей :) А раз процессы нельзя отрицать — значит их нужно изучать и воспроизводить. И именно об этом можно сказать сделано оно или нет.
                                                0

                                                Ну, это довольно тривиально. Хорошометр Жданова неплохо справляется и со страданием и наслаждением, и при некотором усложнении с прочими гранями чувственного восприятия.

                                                  0
                                                  Хорошометр Жданова

                                                  Это что?

                                                  справляется и со страданием и наслаждением

                                                  Вы пытаетесь возложить бремя доказательства или опровержения на меня. А это бремя на том, кто заявил что создал девайс. Создатель должен доказать, что повторил все процессы ЦНС и не упустил ничего важного (вплоть до квантового уровня или доказать, что он не влияет).
                                                +1

                                                Вот как то мягко обойдён вопрос о том, почему сознание это точно не квалиа:)


                                                А ведь это очень важный вопрос, без ответа на него вся статья повисает в воздухе. Придётся говорить не о сознании, а о нашем (и ИИ) представлении о сознании...

                                                  0

                                                  Это происходит потому, что в статье принято за аксиому утверждение, что сознание (и квалиа) — вещи не объективные, а субъективные, что выражается в тезисе "сознание не существует".


                                                  В действительности, это очень удобная позиция, которая позволяет продолжить исследование математически строго. Вместо того, чтобы рассуждать на тему того "что есть сознание", мы исследуем "иллюзию сознания", иначе бы исследования бы не было, а мы бы остались где и были.

                                                    0
                                                    Ну да… казалось бы :)
                                                    А фактически мы, сказав, что сознания не существует, дальше рассуждаем о нем так как будто оно есть, измеримо и обладает свойствами. Также можно рассуждать об удаче, хтонических богах, мир-это-матрица и вреде прививок. Но и место такой статье тогда будет не на Хабре :)
                                                      0

                                                      Ой не спешите… Есть куча других вещей, которые не существуют. Информация, например не существует. Покажите мне её. Мы тут все, целая индустрия занимаемся тем, чего нет.

                                                        0
                                                        А зачем тормозить? :)
                                                        Информация, которой нет, тем не менее объективно проверяема (и другими гуманоидами рядом, и даже приборами). Этого достаточно, чтобы создать индустрию.
                                                        А про сознание известно только две вещи: людям нравится идея о том, что оно есть, и они считают, что оно есть.
                                                        Все это скорее выглядит, как Таск Менеджер в Винде, который пытается найти для ядра больше аргументов, чтобы отожрать ресурсов побольше. :)
                                                          0
                                                          А про сознание известно только две вещи: людям нравится идея о том, что оно есть, и они считают, что оно есть.

                                                          Ну вот собственно это мы и исследуем.

                                                            0
                                                            Да? Ну, с точки зрения этого тезиса из главы Резюме верны только тезисы 6, 11 и 12, а остальные — даже и непонятно, что имеется в виду :)
                                                              0

                                                              Сознание наблюдает себя, как некий разворачивающийся во времени процесс. То есть, к "людям нравится идея о том, что оно есть, и они считают, что оно есть" надо добавить "считают, что перемещаются вперед во времени".


                                                              Подавляющее большинство прочих свойств растёт отсюда. Ну а часть соотносит это с тем, что при этом объективно происходит.

                                                                +1
                                                                Давайте возьмем самое простое: «5. С объективной точки зрения сознание может не быть непрерывным.» — утверждение об объективном факте.

                                                                Как это связано с «людям нравится идея о том, что оно есть, и они считают, что оно есть, и они считают, что перемещаются вперед во времени» — чисто субъективными моментами?
                                                                  +1
                                                                  С объективной точки зрения сознание может не быть непрерывным.

                                                                  Да, я согласен. В этом утверждении явно есть логическая ошибка. С объективной точки зрения сознания вообще нет. Это надо переформулировать как-то так.


                                                                  С объективной точки зрения объект, испытывающий субъективное переживание сознания может не быть непрерывным во времени.

                                                                    +1

                                                                    Верно, спасибо.


                                                                    Ух, Матрицу уже обсуждали, теперь ВМВарь! :)

                                                      0
                                                      Вместо того, чтобы рассуждать на тему того "что есть сознание", мы исследуем "иллюзию сознания"

                                                      А какая разница, как называть некоторое явление? Название не влияет на возможность его изучать. Можно назвать его "явление X", и принципиально ничего не поменяется.

                                                        0
                                                        Потому что из названия следует инструментарий для исследования. Не стоит звать психолога для изучения притяжения небесных тел. Не стоит звать философов и физиков для изучения выверта человеческой психики.
                                                          0
                                                          Вы хотели сказать, из названия следует предмет исследования, в первую очередь. Критерии, говорящие о том, что к нему относится, а что нет. Ну и следствием этого — инструментарий, специализация участников и т.д. И тогда это правильно.
                                                            +1
                                                            Ну ок, можно и так, если хотите: неверное название феномена адресует его к неверной группе явлений, поэтому первый и основной инструментарий, используемый в статье, — это не тот, с которого стоит начинать подобные исследования.
                                                            Блин, стало ли легче это читать?! :)
                                                            0
                                                            Потому что из названия следует инструментарий для исследования.

                                                            Нет. На русском явление называют одним словом, на английском другим, но они описывают одно и то же явление. Инструментарий для исследования следует из предполагаемых свойств. Предположили, что электроны в ядре похожи на сливовый пудинг, отсюда возможный инструментарий для проверки — пострелять альфа-частицами через золотую фольгу, по результатам оказалось, что это не так.

                                                              0

                                                              Хех, вообще, то, что Вы написали верно, но как Конкретно это относится к обсуждаемой теме, поясните, пожалуйста?

                                                                0

                                                                Так же, как ваше утверждение, которое я процитировал. Если оно к обсуждаемой теме не относится, то это к вам вопрос, зачем вы его тогда сказали.

                                                                  0

                                                                  Да? А по-моему связь очевидна: говоря о сознании как об объективном явлении (а не субъективной иллюзии), автор вынужден использовать метода физики, что ИМХО есть ошибка.


                                                                  Но я-то ладно, я уверен, что мои слова относятся к теме! А вот Вы считаете, что ни мои, ни Ваши слова не относятся. Поэтому Вы высказались… зачем?

                                                                    0
                                                                    А по-моему связь очевидна: говоря о сознании как об объективном явлении (а не субъективной иллюзии), автор вынужден использовать метода физики, что ИМХО есть ошибка.

                                                                    Сознание это результат определенной организации молекул, молекулы это объективно существующая материя. Поэтому методами физики их изучать можно. Другое дело, что возможно проще их изучать на более высоком уровне, но как миниму связь между этими уровнями тоже надо изучить. Для программирования не обязательно изучать электронику, но тем не менее наука такая есть, и она обеспечивает связь между аппаратным уровнем и информацией.


                                                                    А вот Вы считаете, что ни мои, ни Ваши слова не относятся.

                                                                    Нет, я такого не говорил. Я посчитал, что ваши слова относятся к теме, и указал на некорректное утверждение. Это вы почему-то сказали, что это к теме не относится.

                                                                      0
                                                                      Ладно, мое утверждение было некорректно. Удачи с молекулярным подходом к сознанию! :)
                                                      0
                                                      Дык а что с картинками-то у нас внутри, в сознании?? Как они устроены?

                                                      Для меня основная проблема в понимании что такое сознание — это понять, как куча разных сенсорных потоков, пройдя через кучу анализаторов и дополненная их выводами (как в части понимания и классификации воспринятого, так в части и эмоциональной окраски), и так же пройдя через фильтры внимания и сосредоточенности на чём-то и упускания из виду чего-то другого, оказывается ВОСПРИНЯТОЙ КАК НЕКАЯ ЦЕЛОСТНАЯ КАРТИНА окружающей среды (впрочем, в это понятие я включаю и интроспекцию, как тактильную, так и всю остальную), которая сама по себе ещё и дальше (после восприятие или вследствие его? не знаю) попадает в память, влияет на дальнейшие выводы и действия. При том, что в память попадёт и многое из не попавшего в фокус внимания, то есть для памяти этот фокус важен не стопроцентно…

                                                      Вот КАК И ЗАЧЕМ В ГОЛОВЕ ОБРАЗУЕТСЯ И ВОСПРИНИМАЕТСЯ ЭТА ЦЕЛОСТНАЯ КАРТИНА — вот вопрос вопросов!

                                                      Где тот экран картезианского театра и кто в него смотрит?
                                                        0

                                                        Это было в части про антропный принцип и невыразимость квалиа. Показано, что какое-то восприятие должно быть. Какое? Какое-то. Какое какое-то? Какое-то...


                                                        Раз оно должно быть какое-то, то какое-то должно быть. Возможно наиболее вероятное. Я не знаю. Знаю, что какое-то должно быть. Так предсказывает теория.


                                                        Это построение требует финта мозгами. Оно контринтуитивно, зато позволяет исключить наблюдателя и картезианский театр. Тут я позволю себе сослаться на Дениэла Деннета (он, кстати, ввёл термин картезианского театра), который гораздо подробнее меня изучил сам феномен не существования сознания. Я же задавался вопросом о его следствиях.

                                                          0

                                                          Если есть феномен, значит есть его конструкция. Отказаться её изучать потому что сложно — это как искать потерянное под фонарём, где светло, вместо тёмной подворотни, где потеряно.

                                                          0
                                                          Ну вообще-то это наша иллюзия, что картина целостная. Там может быть потеряно 90% информации, в том числе жизненно важной. А также додумано лишнее (именно потому что картина должна быть целостной).
                                                            0

                                                            Понятно, что потеряно и додумано, это ж не важно. Как образуется, как устроена, эта иллюзия?

                                                              0
                                                              эм… а чем эта иллюзия принципиально отличается от того, что происходит в памяти автомобилей-роботов? трехмерная движущаяся модель мира и объектов в нем, плюс навык распознавания картинки на обратной стороне глазного яблока и соотнесение этой картинки с моделью…
                                                                0
                                                                Потому что я знаю, как устроена модель мира в памяти компьютера. Это выделенная область памяти (или несколько явно взаимосвязанных), которую процессоры под управлением программ периодически читают то там то тут. И там если и есть какие-либо иллюзии целостности модели — всегда можно понять, из чего они складываются и на каком уровне абстракции, за счёт какого объединения каких данных в какие структуры. И скорее всего эта иллюзия будет в голове у архитектора данной программы, нежели у самого автомобиля-робота.
                                                                  0
                                                                  Ну и в чем отличие-то? Кроме идеи об архитекторе — разница только в том, что модель в компе Вы понимаете, а модель в голове человека — нет, я верно понял?
                                                                    0
                                                                    Собственно об этом я с самого начала этой ветки и говорю, об этом и спрашиваю.
                                                            0
                                                            оказывается ВОСПРИНЯТОЙ КАК НЕКАЯ ЦЕЛОСТНАЯ КАРТИНА

                                                            Просто воспринятой в смысле квалиа. Даже если ударился головой и картина перестала быть целостной а стала противоречивой — восприятие как феномен не становится менее интересным.
                                                              0

                                                              Картина, может быть, и будет противоречивой, но она всё равно будет одна, и в этом смысле всё равно целостная. И это удивительно и непонятно. Как она такой получается?..

                                                                0
                                                                но она всё равно будет одна

                                                                А если бы было две — то как бы это проявлялось?
                                                                  0
                                                                  А вот интересно, угу. Но я прецедентов не встречал, сознание вроде всегда одноканальным ощущается. Максимум, картинка в картинке…
                                                                    0
                                                                    Если у человека два противоречивых желания одновременно, внутренняя борьба — это и есть разрозненная картинка?
                                                                      0
                                                                      Не, это динамичная картина борьбы
                                                                        0
                                                                        Тогда не ясно что вас удивляет — какой бы могла быть разрозненная (в противоположность вашей «целостной») картина восприятия, чтобы она перестала быть удивительной?
                                                                          0
                                                                          Ну, она б могла вообще отсутствовать… Я не понимаю, что мешает всем процессам идти бессознательно, ровно как бессознательно у нас и так очень многие идут. Не понимаю как устроена вот эта вот единая сознательность некоторых из процессов
                                                                            0
                                                                            Ну, она б могла вообще отсутствовать

                                                                            Вот, вы приходите к сути. Дело не композиции квалиа — даже феномен одного квалиа — уже ключ.

                                                                            единая сознательность некоторых из процессов

                                                                            Если процессы убирать и останется только 1 процесс (останется 1 квалиа вместо огромной композиции квалиа), который вы будете сознавать — разве станет более понятно?
                                                                0
                                                                квалиа выглядит так <img src=«https://ru.wikipedia.org/wiki/Иллюзионизм_(философия)#/media/Файл: Иллюстрация_понятия_кажущейся_психической_причинности_по_Вигнеру.jpg
                                                                  +1
                                                                  Помогу с предпросмотром:
                                                                  Картинка «Иллюстрация понятия кажущейся психической причинности по Д. Вигнеру» из статьи Иллюзионизм (философия):

                                                                  image
                                                                  0
                                                                  Чтобы не утонуть в беспочвенных рассуждениях — у меня есть точное задание. А именно — создать девайс, который сможет ощутить наслаждение и страдание. На создателя, конечно, возлагается и бремя доказательства — т.е. принести коробку и сказать что сами разбирайтесь — не годится. Девайс должен повторить все ключевые процессы наслаждения и страдания, которые происходят в ЦНС.

                                                                  Понятно ли задание и реально ли его выполнить? Сколько денег нужно?
                                                                    0
                                                                    для начала надо запустить имитационное моделирование ощущения.Заметьте это уже не просто процесс раздражения ткани /возбуждение/, а отношение между свойством раздражителя вызывать возбуждение и знаком потребности, например смещения гоместатического равновесия. И это только исходный шаг.
                                                                      0
                                                                      имитационное моделирование ощущения

                                                                      Выразите это в виде готового девайса. А то словами играть можно бесконечно.

                                                                      Для начала нужно всему человечеству понять, что этот вопрос имеет первостепенное значение и является ключевым. Т.е. все сводится к данному девайсу — это ключ. Будет девайс — мы или глубоко познаем высший мир (если живем в симуляции) или отменим все религии и связанные на них расходы — появится совсем другая философия бытия. Как будет — никто не знает.
                                                                        0
                                                                        я не понимаю о каком девайсе вы пишите. Воссоздайте гетеростатический организм с ЦНС+ПНС+органы движения = вот и девайс
                                                                          0
                                                                          я не понимаю о каком девайсе вы пишите

                                                                          Девайс, который воспроизводит те же процессы, которые происходят в моей ЦНС в момент испытания наслаждения и страдания.

                                                                          гетеростатический организм с ЦНС+ПНС+органы движения = вот и девайс

                                                                          Органы движения нафиг не нужны. Интересует не внешнее проявление страдания а его ощущение в ЦНС. Любая ли ЦНС может ощутить страдание и наслаждение — не извесно. 100% могу быть уверен что моя ЦНС на это способна (возможно в комбинации с некими фундаментальными явлениями — много не ясного) — по этому для меня будет доказательством, что процессы эквивалентны моим. Думаю что ваши процессы мало чем отличаются от моих, поэ тому и для вас это доказательство будет достоверным.
                                                                            0
                                                                            я думаю вы сами не уяснили что вам надо. Поэтому у вас
                                                                            ощущение в ЦНС
                                                                            . это как логический вентиль в процессоре. А инструкция это как переживание, содержательно т.е функционально ориентировано как например страдание. А теперь представьте что вы обесточили участок CPU инструкция не исполняется страдания нет.дали ток появилось. что еще вам надо?
                                                                              0
                                                                              я думаю вы сами не уяснили что вам надо

                                                                              Уяснили. Повторить те процессы, которые происходят в моей ЦНС в момент ощущения мной страдания и наслаждения. Все!

                                                                              А теперь представьте что вы обесточили участок CPU инструкция не исполняется страдания нет.дали ток появилось. что еще вам надо?

                                                                              Полная схема всех процессов, достаточная для воспроизведения в девайсе.
                                                              0
                                                              ваше восприятие предметно, также как и память / или представление/ т.е отнесено к объектам мира. Поэтому Нет никакого гомункулуса внутри. Зачем это нужно? — затем что условный рефлекс как автоматич реакция в новых ситуациях не годится. Поэтому из ориентировочного рефлекса и возникла ориентировочная деятельность, как форма поиска пути во внешнем или внутреннем плане до предмета потребности. /это в филогенезе/. А люди еще опсредствовали этот поиск языкоывыми орудиями, трудовыми орудиями и т.д. Еще раз отсылаю к эксперименту В.Келлера с приматами. И Гальперина с орудиями. Но так, как рассуждаете вы, так же рассуждали сотни лет и до вас, что собственно и приводило к гносеологическим парадоксам и проблем.
                                                                0

                                                                Нет. Вы, как и многие, упускаете суть вопроса.


                                                                Всё восприятие, анализ любой сложности, и поведение, следующее из результатов этого анализа, всё это могло бы идти полностью бессознательно, автоматически. Но у нас в голове почему-то есть ощущение наличия целостной картины происходящего, и как часть его есть внутренний голос, есть туманные образы смыслов, которые хочется уловить и сказать, есть ощущение во всём этом собственного тела, его положения и самочувствия… Как и для чего какой-то промежуточный срез этого перерабатываемого сенсорного потока оказывается почувствован как-то специально, «осознан»?

                                                                  0
                                                                  Нет. Вы, как и многие, упускаете суть вопроса.

                                                                  Вы серьезно? А чем то что вы перечислили отличается от клинической картины шизофрении, которую? 1.www.youtube.com/watch?v=fvp7mfKjYDM 2.www.youtube.com/watch?v=JRI_AS7dXiA
                                                                  3.www.youtube.com/watch?v=_DN2mrHnJxo
                                                                  А если серьезно, то рекомендую что бы быстро понять общий принцип современного подхода в психофизиологии на примере базовой единицы поведения живого организма — движения
                                                                  mhp-journal.ru/upload/2009_v4_n2/2009_v4_n2_02.pdf
                                                                    0

                                                                    Посмотрю, может быть и впрямь получу ответ.


                                                                    P.S. Вы три раза привели одну и ту же ссылку. Нет ли в этом ошибки?

                                                                      +1
                                                                      есть. поправил
                                                                      0
                                                                      Последняя ссылка нерабочая
                                                                      0
                                                                      И по моему в Вы допускаете методологическую ошибку. По аналогии.Физика. Планковский горизонт размерностей. Вы -" а что за законы там за горизонтом? это наша физика или нет, ил… А может она такая… или… " // Я -" Нет метода преодолеть горизонт. и узнать как там и почему. Поэтому исходим из того что может наблюдать и как этим управлять ( в нейронауках — изменять, развивать и формировать когнитивные единицы )
                                                                        0

                                                                        Анекдот про то, что проще искать на улице под фонарём то, что потеряно в тёмной подворотне, я, кажется, уже упоминал. Кто ещё в эту тему упоминал политику страуса, говоря об отрицании проблемы, которую пока непонятно как решать.


                                                                        Я согласен, что как решать этот вопрос пока непонятно, и что пока не будем знать больше, нет смысла не заниматься сбором тех знаний, которые собирать возможно. Но это ж не повод отрицать этот вопрос!


                                                                        Изучение доступных для изучения знаний о мозге, наверняка, приведет и к ответу на мой вопрос.

                                                                          0
                                                                          Я с Вами согласен в этом полностью. Но!!! теология то же с вами согласиться на все 100%!!! Разница в том что метод должен быть адекватен исследуемому предмету. И строится он должен на уже достигнутых результатах. А то что предлагает автор статьи бесполезно, т.к. такой подход всегда приводил в тупик. И получается на сегодня что:

                                                                          1.Интроспекция бесполезна
                                                                          2. Вычислить логически или абстрактно математически свойства и признаки сознания не возможно!!!
                                                                          3. Изучение сознания идет от внешних форм (реагирования организма на биотические и абиотические раздраж.) к внутренним с уменьшением пространств. времен. размерности, НО по линии генетического анализа этих форм т.е. изменения формы филогенезе и и онтогенезе
                                                                          4. И только эти формы могут быть формализованы

                                                                          Как вывод Бесполезны тексты как представл. в статье, или подобные индуктивно или дедуктивные размышления. Полезно только брать для анализа ЭКСПЕРИМЕНТ и разбирать его. Ну или разрабатывать и /или проводить самому.Делая вывод из анализа эксперимента дополнять или прореживать актуальную модель например сознания.
                                                                            0
                                                                            Интроспекция полезна, она даёт темы и вопросы для изучения прочими методами. Все эффекты, замечаемые при интроспекции, ждут своего объяснения физиологией.
                                                                              0
                                                                              Ну если вас результаты 100 лет развития наук о мозге и поведении Вас не убеждают (метод интроспекции довел до совершенства Титченер более 110 лет назад!!! результат = 0. Потому что Фрейд показал фундаментальные мотивообразующие процессы которые ПРИНЦИПИАЛЬНО НЕ МОГУТ БЫТЬ осознаны, Уотсон И Павлов показали что автоматизация реакции минует интроспекцию, Берлинская школа G показала что содержание сознание в принципе не может быть выведено из аналитического суммирования элементов доступных в интроспекции. И так далее… (наверное глупые люди занимались этим предметом до нас, правда?). Ваш подход дилентанство, и еще раз — берите результаты реальн. экспериментов по изучению сознания и уже из них пробуйте вытянуть свои конструкции. Тут хоть есть как проверить сходимость
                                                                                0

                                                                                Нифига он не довёл, там ещё вести и вести. И повторяю: интроспекция — это источник вопросов, а не ответов. И вопросы она даёт интересные.

                                                                                  0
                                                                                  Извините но я вам опять вынужден указать, теперь уже как приговор
                                                                                  1.https://youtu.be/Rev1b59sEA4?t=291
                                                                                  2.youtu.be/Rev1b59sEA4?t=330
                                                                                    0
                                                                                    Ну он там бред несёт, откровенный бред, безосновательный и бездоказательный, принципиально недоказуемый. Более того, вредный бред.

                                                                                    Перестаньте ссылаться на этот дурацкий ролик, никого вы им не убедите. Самоучки будут с него смеяться, зашоренные спецы будут кивать, и толку всё равно не будет.
                                                                        0
                                                                        Всё восприятие, анализ любой сложности, и поведение, следующее из результатов этого анализа, всё это могло бы идти полностью бессознательно, автоматически

                                                                        Откуда такое убеждение? Есть ли доказательства этого тезиса? Я вот думаю ровно наоборот — начиная с некоторого уровня сложности, поведение и обучение невозможно без сознания.
                                                                        Это как с компьютерами — можно реализовывать аппаратно всё больше и больше функций, но чтобы сделать компьютер поистине универсальным, нужно ввести слой абстракции, вынеся функции из аппаратного уровня в программный.
                                                                        В пользу этой аналогии говорит и то, что функции в мозге хоть и локализованы, но не привязаны жёстко к тем или иным зонам, и при необходимости могут мигрировать. В компьютере один и тот же программный код можно при необходимости заставить выполняться на чипах разного типа.
                                                                          0
                                                                          Оно могло бы, потому что чрезвычайно многое и так уже идёт. Не встретил пока ни одного аргумента за то, что б этому всему было необходимо обсуждаемое ощущение существования картезианского театра.

                                                                          Что касается программного уровня — метафора интересная, но я не вижу, как она связана обсуждаемой темой.
                                                                            0
                                                                            чрезвычайно многое и так уже идёт

                                                                            Чрезвычайно многое это что именно? Всё более-менее сложное обучение идёт исключительно через сознание. Поведение в новых и незнакомых ситуациях идёт через сознание. Работа с незнакомыми данными — опять же через сознание.

                                                                            я не вижу, как она связана обсуждаемой темой

                                                                            Ну, бывает.
                                                                    0
                                                                    вот как раз для таких как автор текста это видео напутствие
                                                                    www.youtube.com/watch?v=Rev1b59sEA4
                                                                    сколько же еще «гениальных» переоткрытий сознания потенциировано в IT?
                                                                      0

                                                                      Вы несправедливы. Я ничего не переоткрыл, а просто немного осветил некоторые "технические" следствия утверждения "сознание не существует", которое и без того весьма популярно и постулируется целым направлением философской мысли (начиная чуть ли не с Дарвина), а заодно попытался его вывести так, чтобы было понятно техническому специалисту. Мне кажется, для исследователей ИИ, которые не часто читают философские трактаты, это небезынтересно.

                                                                        +1
                                                                        тогда например
                                                                        1.http://mhp-journal.ru/upload/2009_v4_n1/2009_v4_n1_08.pdf
                                                                        2. books.google.by/books?id=tLMkIumdot0C&lpg=PA150&ots=GhshdOLFqC&dq=Revonsuo%20A%20Consciousness&hl=ru&pg=PP1#v=onepage&q=Revonsuo%20A%20Consciousness&f=false
                                                                        3. Антти Ревонсуо. Психология сознания / Перевод: А. Стативка, З. С. Замчук. — Санкт-Петербург: Питер, 2013. — 336 с. — (Мастера психологии)
                                                                        А в целом основной вопрос не лежит в том есть ли сознание или нет, а в том обладает ли данный объект СВОЙСТВАМИ, или нет. Если да -тогда это познаваемый объект и он предметен. Если нет -то это бессмысленный для науки тезис.
                                                                          0
                                                                          интересная pdf-ка, спасибо. Упомянута интересная и богатая феноменология, но к сожалению, кончается статья, как обычно, ничем.
                                                                            +1
                                                                            я автору кандидатский сдавал.Это его тема с 80-х
                                                                            0

                                                                            Ну вот мы и посмотрели, что происходит, если считать сознание объектом и промоделировать его поведение с учётом присущих ему свойств. Я тут занимаюсь не философией. Чистая математика. Исходная посылка, результат.

                                                                              0
                                                                              Ваши аксиомы умозрительны, поэтому альтернативен такой подход
                                                                              gtmarket.ru/laboratory/basis/6662/6664
                                                                              и www.gumer.info/bibliotek_Buks/Psihol/velich/index.php
                                                                              Сознание, полагают настолько же информационный процесс насколько и энергетический
                                                                                0

                                                                                Тогда вы можете читать статью, заменяя слово "сознание" на словосочетание "информационный суррогат сознания". У информационного подхода относительно энергетического есть одно существенное отличие. Он продолжает действовать в симуляции.

                                                                                  0
                                                                                  и поэтому теряет свою предметно обусловленную природу.т.к. становится не отличим от последовательности вычислений функции «стимул вход — реакция выход» как пример автоматическое реагирования безусловного рефлекса. При нем же сознание точно не присутствует? Так что вы тогда имитируете??
                                                                                    0

                                                                                    То есть, вы отвергаете возможность того, что мы живём в симуляции.

                                                                                      0
                                                                                      известные мне экспериментальные данные о психофизиологическом отражении объектов никаким образом не создают такой необходимости. Но конечно, если вся физика, например квантовая суть симуляция — тогда наверное уже никакое материальное отражение живой системой материального же мира — ни физиологическое ни психофизиологическое не нужно.
                                                                                        0

                                                                                        Учёт возможности того, что мы живём в симуляции позволяет построить правила, по которым сознание себя ведёт универсально. Мы можем рассмотреть ситуацию с несколькими вложенными симуляции, можем рассмотреть переход сознание вверх-вниз по стеку симуляций. Законы будут универсальны для любых вычислительных систем, любых систем прочего вида, в нашей или любых других вселенных.


                                                                                        Это более простая гипотеза, она требует допущений меньше, чем гипотеза, что мы не живём в симуляции, потому что такое построение как-то выделяло бы нашу вселенную перед всем многообразием вариантов.


                                                                                        Это, конечно же не значит, что мы живём в симуляции, но поскольку построение универсально, нам не нужно искать каких-то истоков сознания в специфических законах нашей вселенной и задаваться вопросом, будет ли феномен сознания в других.

                                                                                          0
                                                                                          ну предположим что так и есть, ну и что? разве при этом вы избавлены от требования доказать что логика или синтаксис сознательного процесса изоморфна, гомологична или т.п. бинарной алгебре или другой счислительной системе? Суть то в том что нет коннотации мнений относительно критерия дифференцирования сознательного процесса от других например классификации, соответственно нет и размерности в которой его наблюдать и измерять
                                                                                            +1

                                                                                            Да, тут есть проблема. Боюсь, доказать это как теорему не получится. Пока перед нами не будет сидеть сильный ИИ, или пока работа мозга не будет полностью объяснена, чтобы можно было показать, как это работает на практике, сомнения всё равно останутся. Сомнения останутся даже после того, как это станет возможно. Единственное, что возможно, показать, что объект А мало чем отличается от объекта Б.


                                                                                            Тезис о том, что это должно быть так, поскольку позволяет исключить "особенность" человека из построения — слабоват. Однако он математически красив. Мы знаем, что наша реальность любит быть математически красивой. Думаю, по мере накопления информации о работе мозга, сторонников чисто информационного подхода будет становиться всё больше. Не думаю, что мы куда-то торопимся.

                                                                                              0
                                                                                              ну тут вы не первый. так же рассуждал и Тьюринг и Розенблатт, Но время шло а толку нет. Почему? Это не может быть решено в рамках математики
                                                                                              1.https://ru.wikipedia.org/wiki/Тезис_Чёрча_—_Тьюринга
                                                                                              2.https://ru.wikipedia.org/wiki/Проблема_разрешения
                                                                                              возможно там же где и проблема Я например считаю что нет необходимости копировать мозг. Надо делать «новый мозг». Ну и тот же Маск так и решил с его Линком. как мета- неокротексом.
                                                                                                0

                                                                                                Мне кажется я нигде не писал, что надо копировать мозг. Я написал, что работа сознания станет более понятной по мере получения информации о работе мозга.


                                                                                                Со времён Тьюринга прошло одно мгновение. Вопросы математической неразрешимости сводятся к выбору правильного набора аксиом. Аппарат аксиом, позволяющий выбирать аксиомы в достаточной мере сужает пространство неразрешимых задач. Если взять за аксиому, что человек получен в результате естественного отбора и нет прочих факторов, то задача неразрешимой совсем даже не выглядит. Работа эволюционного алгоритма вполне понятна. Как сознание строится в этой системе тоже вполне понятно (см. или материал этой статьи или attention schema theory вообще). Математика — язык вселенной. Мы знаем что есть проблема разрешимости. Что это значит? Это значит, что за конечное время вселенная не могла развернуть ничего математически неразрешимого. А значит мы должны быть решаемы.


                                                                                                Человечество вообще недавно. Мы копим информацию. Впереди ещё очень много интересного. Не торопитесь.

                                                                                                  0
                                                                                                  Не топится ??? ну тогда не забывайте и www.youtube.com/watch?v=chN8Y86AuTg
                                                                                                  Еще раз -сознание не выполняет работы в механическом смысле, но это и не дескриптивная характеристика формы жизнедеятельности живой системы ( т.е это не тень вещи). И по моему в той же психологии или другой нейронауке нужно вопрос ставить так, А как получить /сформировать. сконструировать и т.п. /процесс свойства/позволяющие предсказывать те или иные явления субъективности как части жизнедеятельности живой системы. И да, в некоторой части мы это уже умеем.
                                                                          0

                                                                          Вот там правильно написали: «… а потом пришел Илон Маск и все ОПОШЛИЛ!
                                                                          =)))»

                                                                            –1
                                                                            Точно
                                                                            Сознание и тезис Макса Фрая
                                                                            как тебе такое, Илон Маск?
                                                                          0
                                                                            0

                                                                            При прочтение статьи и коментариев держало сильное чуство дежавю… Пока не понял что очень похожие точки зрения видел в каком то из трудов об общей теории относительности.


                                                                            Возможно стоит таки обдумать вопрос аналогии: сознание точно так же будет неопределено(и не может определено) без внешнего наблюдателя как жизнь кота в общеизвесном експеременте. И вообще есть ли сознание без неопределенности (квантовой)

                                                                              +3
                                                                              Ура, наконец-то кто-то пришел к тем же выводам, что и я. Можно не писать аналогичный текст самому, спасибо! :)
                                                                              Автор, не думаешь запрограмировать демонстрационного бота с самосознанием?
                                                                                0

                                                                                Я пытался мысленно построить простейшую систему, которая обладала бы самосознанием в том значении, что указано, но простейшая система получается не такая уж и простейшая :). Боюсь, я пока не знаю, как решить эту задачу.

                                                                                  0
                                                                                  Да ладно, если Almatyn комментом ниже все правильно подсумировал, то это реализуется чуть ли не тривиально. Но, времени нет, особенно из-за последствий эпидемии.
                                                                                  Может вместе как-то сорганизоваться?
                                                                                    0

                                                                                    Ну, если у вас есть мысли на эту тему, то можно это обсудить.

                                                                                      0
                                                                                      Есть некоторые соображения о шагах, необходимых для построении описанной Вами системы с указанными признаками самосознания. Каждый шаг нетривиален и, Вы правы, система не получается простой. У Вас крутой подход к выявлению признаков сложного понятия. Давно ищу собеседника в этой тематике и буду рад обсудить найденные шаги решения. Они лежат несколько в иной плоскости чем текущая статья, и потому лучше отделить этот разговор, например, в личной переписке, если это Вам интересно. С уважением.