Comments 43
Не надо профанировать термины. Термин “трудная проблема сознания” закреплён за конкретной вещью: вопросом “почему существует феноменальное сознание?” Вы же описываете функциональное сознание и связанные с ним “лёгкие проблемы” (которые совсем не лёгкие, конечно, но так уж они называются).
Кстати прежде чем приступать к трудной проблеме, стоит ответить на несколько вопросов попроще. 1) Тождественно ли сознание своему нейрокорреляту? 2) Супервентно ли сознание на физическом (логическая супервентность, номологическая супервентность)? 3) Эпифеноменально ли сознание?
Именно так. И это еще 23 года назад четко сформулировал упомянутый в статье Дэвид Чалмерс. И тогда известный нейрофизиолог, руководитель серьезного европейского научного центра Кристоф Кох публично поспорил с Чалмерсом на ящик вина о том, что это не проблема и за 20 лет будут установлены физические механизмы возникновения сознания. Итог - три года назад Кох передал Челмерсу проспоренный ящик вина и публично заявил о своем разочаровании в физикализме.
Мы живём в мире, где всё подчиняется законам физики.
Вот в этом утверждении суть подхода. Вы изучаете материальную проекцию сознания. Можно всю жизнь измерять звуковые волны и потоки их распространения, структуру материалов, размеры деталей, но это никак не приблизит вас к пониманию что такое музыка. Поэтому и эволюция сознания у вас получилась в виде стандартной лекции по развитию нервной системы.
Теорема Гёделя, она же теорема о неполноте. В данном случае это означает, что невозможно полно и объективно описать сознание, используя инструменты и понятия этого осознания. Т.е. сделать это может только другой разум (нечеловеческий). А учитывая, что такого разума (возможно) вообще не существует в природе, все наши попытки описать разум и сознание - полная хня.
Теорема Гёделя, она же теорема о неполноте. В данном случае это означает, что невозможно полно и объективно описать сознание, используя инструменты и понятия этого осознания. Т.е. сделать это может только другой разум (нечеловеческий). А учитывая, что такого разума (возможно) вообще не существует в природе, все наши попытки описать разум и сознание - полная хня.
1)Теорема Гёделя - она о другом
2)а разобраться с сознанием или как работает мозг действительно не получится
Весьма интересная статья. Мне нравится, куда вы клоните, но вам, конечно, скажут, что вы ничего не объяснили, потому что адептам "трудной проблемы" не нужно её разрешение. Они используют её, как действительный онтологический парадокс для защиты своих метафизических позиций. Решение проблемы испортит им всё веселье!)
Сам я не учёный, а писатель-фантаст и музыкант, но увлёкся как-то "трудной проблемой" и в итоге склонился к мысли, что эта проблема сформулирована ошибочно и включает в себя реификацию - принятие грамматической категории за объективный феномен. Короче говоря, никакой "проблемы" вероятнее всего нет.
Чаще всего можно услышать что-нибудь в духе - "почему красный ощущается, как красный"? Казалось бы, действительно загадочно, но что будет, если заменить слово "красный" на "твёрдый" или "мокрый"? Почему вещи ощущаются твёрдыми? Потому что их плотность превышает нашу, потому что существуют кристаллические решётки, и потому что крепкий удар твёрдым объектом по голове выпиливает человека из эволюционной гонки. Ответ на вопрос "почему вода мокрая" также лежит в области физики и влияния на нашу выживаемость.
С красным должно быть всё то же самое. Большая часть биохимических молекулярных механизмов, которые позволяют нам различать разные длины волн, наверное, возникли ещё перед кембрийским взрывом. Мы не знаем, чем конкретно было полезно различать/использовать ту или иную длину волны для микроскопических организмов на том или ином этапе эволюции, но очевидно, какая-то выгода была на каждом этапе. То есть, мы дифференцируем спектр не по рандому, а потому что спектр на различных частотах действительно по-разному себя ведёт при взаимодействии с тем или иным веществом. Наши сенсоры калибровались под окружающую среду 3,5 млрд лет. Не вижу ничего удивительного в том, что наша ментальная реконструкция действительности как-то с ней коррелирует, и наблюдения чаще всего можно непротиворечиво согласовать.
Ещё одна слабость такой постановки вопроса - "трудная проблема" требует от нас одного объяснения для вещей с множеством исходных параметров. Есть и свойства самого объекта, и свойства рецептора, и свойства нашей нейросети, и эволюционная история, и онтогенез... Когда люди говорят про "красный", им кажется что это какой-то один объект/феномен, а тем временем это просто слово, которые люди используют, когда складываются тысячи и тысячи факторов/весов. Мне кажется, мы вообще не "видим" красный. Мы его продуцируем при взаимодействии сетчатки со светом определенного диапазона волн. Вместе со всеми остальными триллионами сигналов. Всю эту кучу информации мы обобщаем под одним словом, которое может и не иметь одного объяснения.
Мне вообще слово "сознание" не нравится. Что имеется ввиду? Восприятие? Фокус внимания? Осознание себя внутри какой-то геометрии? Ощущение границ собственного тела? Автобиографическая память? Всё это вместе, то есть, любая ментальная активность? Тогда что это слово вообще объясняет? Зачем нам вообще давать ему конкретное определение, если оно априори является сборной солянкой?
"Сознание" в том виде, в котором этот термин чаще всего употребляют, напоминает мне феномен температуры. Ни одна из отдельных молекул сама по себе не несёт в себе информации о температуре вещества. Однако же "трудной проблемы температуры" из-за этого никто выдумывать не стал.
Наверное, это уже спекулятивно, но я думаю, множество сигналов, которые мозг продуцирует в процессе своей работы, в итоге, за счёт роста сложности и связанности сами формируют некую среду, внутри которой становятся возможными процессы, подобные голографическим. Как множество молекул вещества в итоге делают возможным наблюдение температуры. Граница взаимодействия сенсоров с миром и частей нервной системы между собой - и есть восприятие. Просто взаимодействий так много, и они настолько запутаны, что формальной логики и оперативной памяти человеческого мозга банально не хватит для их полного описания. Однако мы по-прежнему можем сформулировать четыре вопроса Тинбергена, ответить на них последовательно и получить наиболее непротиворечивое и полноценное описание феномена сознания (объяснить субстрат/механику, онтогенез, филогенез и адаптивное значение). Почему Чалмерсу этого мало - не очень понятно. Трудная проблема - как чайник Рассела. Никто так и не доказал, что она вообще есть. Есть только голословные утверждения.
Мне кажется, у "трудной проблемы" сознания столько адептов, потому что это последний способ для рационального человека спасти метафизику/мистицизм/дуализм и продолжить надеяться на жизнь вечную. Это всё от трусости, а не от большого ума. Имхо. Ибо либо первична материя (+энергия и пространство-время), либо разум. Третьего не дано. Я делаю ставку на первое. Следовательно, все сознательные эффекты каким-то образом возникают внутри физического субстрата. Следовательно, возможна реализация искусственных "сознаниеподобных" (mindlike) интерфейсов. И если симуляция сознания будет достаточно хороша, то она в итоге станет сознанием. Хотя этого я конечно доказать бы не смог. Но я рассмотрел похожий сценарий в своём романе)
Удачи вам в вашей работе, буду следить!
И в правду писатель
почему красный ощущается, как красный Почему вещи ощущаются твёрдыми? Потому что их плотность превышает нашу
Вы не поняли, что означает “трудная проблема сознания”. “Их плотность превышает нашу” в этом контексте не является ответом на то, что подразумевалось. Правильная формулировка тут это не “Почему вещи ощущаются твёрдыми?”, а “Как именно возникает ощущение твердого, когда плотность вещей превышает нашу?”. Про цвет это вопрос “Как именно из электрических импульсов от колбочек появляется ощущение красного”. В электричестве нет ничего красного, понимаете? А в ощущениях есть.
Следовательно, все сознательные эффекты каким-то образом возникают внутри физического субстрата
Спасибо, кэп. Теперь расскажите, каким именно образом. Хотя бы предположите полный механизм. Не получается? Трудно предположить?
Ваш кэп на связи. Вы просто повторили вопрос ещё раз. Так обычно и происходит, когда об этой теме приходится разговаривать...
В принципе, можно утверждать, что я действительно не понимаю эту проблему, - поскольку она надуманная.
Вы хотите получить научный ответ на метафизический вопрос. Поэтому ничего и не получается. Субъективность восприятия - не загадка, а неизбежное следствие нашей архитектуры. И вы сам (ваше туловище) являете собой тот самый полный механизм. Нет оснований постулировать фундаментальную психическую субстанцию сверх физического описания мира. "Трудная проблема" попахивает старым добрым философским гомункулом, который якобы сидит в голове и воспринимает входящие сигналы. Но настоящий "гомункул" не воспринимает сигналы, а состоит из них. В конце своего первого комментария я выдвинул (возможно излишне смелое) предположение о том, каким образом это могло бы работать, но вы это читать, видимо, не стали. Но это и не важно, поскольку проблема решается уровнем ниже.
Откуда у нас ощущение отдельности от среды? Из-за того, что у нас есть явная физическая граница - кожа. Субъективность опыта буквально дана нам физически, по умолчанию. Никакого несубъективного восприятия "от третьего лица", с которым нужно было бы сокращать описательный разрыв, попросту не существует. Существует язык, который является отдельным феноменом, и увы, он не является восприятием в буквальном смысле, и поэтому ожидать полного изоморфизма между теоретическим описанием и сознанием (да и любым феноменом), наверное было бы неблагоразумно.
Людей сбивает с толку тот факт, что у местоимения "я" есть все свойства существительного. А существительными мы обычно обозначаем объекты с чёткими границами. Да, правильно и логично будет сказать "я" про свою тушку. Но не правильно и не логично говорить "я", имея ввиду что-то дополнительное и эфемерное "внутри" своей нервной системы.
Я, наверное, повторюсь, но когда мы говорим “сознание”, то называем только верхушку айсберга. Для сознательных процессов обычно характерны и зрительное восприятие, и кратковременная рабочая память, и долгосрочная автобиографическая память, и интеграция информации, и внимание, и саморепрезентация, и чувство агентности, и интероцепция, и способность сообщать о собственных состояниях, и непрерывность, и бодрствование, и электромагнетизм, и биохимия, и генерация тепла, и много что ещё (исходя из разных определений).
Когда всё это складывают в один мешок под названием "сознание" или "квалиа", то возникает соблазн искать какой-то единый механизм для всех этих процессов. Но это же чепуха, разве нет? Теория, которая объяснит это все разом, на самом деле не объяснит ничего. Я не утверждаю, что не существует по-настоящему трудных научных проблем на пути к созданию полноценной теории сознания. Я лишь говорю, что нет "трудной проблемы" в её непреодолимом виде.
Мозг не находится в каком-то особом отношении к самому себе, в котором появляется дополнительная субстанция "субъективности". Это физическая система, имеющая внутренние состояния, модели внешней среды, модели собственного тела, память, петли обратной связи и способность моделировать собственные состояния. Фраза "я вижу красное" имеет значение только внутри всех остальных бесчисленных зависимостей, которые нам ещё предстоит размотать.
Подведу итог своему прогону. Чалмерс говорит - есть некий физический процесс в мозгу X, и ему соответствует феноменальное переживание Y. Я задаю вопрос - с чего вы взяли, что Y вообще существует как отдельный феномен? Не может ли оказаться, что существует только X, а У - это просто ещё один способ описания, эдакий литературный способ говорить о вещах, который мы открыли чуть раньше? В конце концов, язык лепили из того, что было (порой буквально из г#вна и палок). Если это так, то "трудная проблема" Чалмерса не имеет никакого отношения к науке и является модной разновидностью дуализма, а за субъективность и субъектность мы должны сказать спасибо своим ограничениям и языку.
Утром Чалмерс как обычно пошел чистить зубы и посмотрел на себя в зеркало. Ничего необычного, хорошо знакомое тело. Медленно перевел взор внутрь себя, тело пропало, внутри была только психика. Затем опять бросил взгляд на зеркало - появилось тело, исчезла психика. Внутрь - психика. На зеркало - тело. "Трудная проблема", - подумал Чалмерс.
Вы просто повторили вопрос ещё раз.
Нет. Это другой вопрос.
я действительно не понимаю эту проблему, - поскольку она надуманная
Нет, она не надуманная. Если вам кажется, что надуманная, значит вы ее не понимаете.
Вы хотите получить научный ответ на метафизический вопрос.
Нет. Потому что все сознательные эффекты каким-то образом возникают в материи.
И вы сам являете собой тот самый полный механизм.
Подмена понятий. Раз вы писатель, сами догадаетесь каких.
Нет оснований постулировать фундаментальную психическую субстанцию сверх физического описания мира.
Никто ее не постулирует. Что еще раз показывает, что вы не понимаете вопрос. Даже не то что вопрос, а даже текущее обсуждение, и говорите о чем-то своем.
который якобы сидит в голове и воспринимает входящие сигналы.
Нет. Понятия не имею, с чего вы это взяли. В Википедии довольно подробно описан смысл проблемы.
я выдвинул предположение о том, каким образом это могло бы работать, но вы это читать, видимо, не стали.
Нет, такого предположения у вас там нет. Я прочитал. У вас есть высказывание вида “наверно как-то работает, фиг знает как, как-то становится возможным”.
Никакого несубъективного восприятия “от третьего лица”, с которым нужно было бы сокращать описательный разрыв
Какое еще восприятие “от третьего лица”? Трудная проблема сознания целиком и полностью про первое лицо.
Существует язык.
ожидать полного изоморфизма между теоретическим описанием и сознанием
Язык никакого отношения к ТПС не имеет. Что еще раз показывает, что вы не понимаете вопрос.
Людей сбивает с толку тот факт, что у местоимения “я”
не логично говорить “я”, имея ввиду что-то дополнительное и эфемерное “внутри” своей нервной системы
Нет. Никто так и не говорит.
то возникает соблазн искать какой-то единый механизм для всех этих процессов. Но это же чепуха, разве нет?
Чепуха. Поэтому никто так и не делает. Никто не ищет единый механизм для явлений, которые вы описали.
Я лишь говорю, что нет “трудной проблемы” в её непреодолимом виде.
А при чем тут непреодолимость? Слово “трудная” не означает, что она считается непреодолимой.
Фраза “я вижу красное” имеет значение только внутри всех остальных бесчисленных зависимостей
Фраза “я вижу красное” с ТПС не связана. ТПС возникает до нее.
с чего вы взяли, что Y вообще существует как отдельный феномен?
С того, что ощущение красного для условного человека является подтвержденным фактом. Значит у него есть какая-то физическая причина.
У - это просто ещё один способ описания, эдакий литературный способ говорить о вещах
Под У в этом контексте не подразумевается способ описания, тем более литературный. Под У подразумевается ощущение красного. Человек может о нем никому ничего не говорить.
Вы, видимо, считаете, что у ощущений нет физической природы? Или я чего-то не понимаю. Я вам про Фому, вы мне про Ерему...
Я думаю, что ощущения по определению субъективны, потому что они находятся внутри системы. Им совершенно нечего делать снаружи. Говоря поэтически, ваши эмоции "думают" , что они - это вы, а вы, как целостный организм, в свою очередь, принимаете последовательность эмоций за себя. Проще говоря, мы наивно верим в то, что та или иная эмоция или ощущение и является нами. Каждая из подсистем и формаций функционирует так, словно она главная, но все они сплетены физически в одно и то же в пределах одного тела и работают на его выживание. Выходит что-то вроде роевой децентрализованной конструкции, в которой власть над вниманием постояно отходит от одной системы к другой, что фиксируется памятью как смена хода мыслей или чувств, а затем выстраивается логикой в нарратив под названием "я".
Думаю, субъективность ощущений не нуждается в дополнительном объяснении. Она вытекает из эволюционной логики. Восприятие, оторванное от собственного тела, не выглядит хорошим решением для выживания в джунглях.
Я ещё раз должен сказать, что я не учёный, а словоблуд. Поэтому своих серьезных теорий у меня нет. Есть только всякие домыслы. Если бы я думал о феноменологии ощущений, то сказал бы, что ощущения - это рычаги-переключатели поведения. Они дают организму знать, что надо предпринять что-либо. Думаю, что существует какой-то особый неврологический механизм, который приписывает ощущениям "реальное значение", и что если этот механизм отключить, то человек перестанет ассоциировать свои ощущения с собой. Думаю также, что ощущения приобретают свои характерные черты только в сумме с другими ощущениями. Как цифра 3 не имеет смысла без остальных цифр. Конкретный механизм мне неизвестен. Думаю, для каждого из сенсоров - своя история. Что это в итоге - некое конфигурационное пространство или аналоговая проекция - мне тоже неизвестно (как-то в это вовлечены и гормоны). Но я уверен, что на это найдётся вполне физикалистский ответ. Ну может быть обойдется не без теории информации и кибернетики)
Засим я вынужден откланяться, поскольку на эту проблему у меня больше нет сил) Спасибо, за жёсткие ответы. Если ответите ещё - прочитаю!)
И, поскольку поэтический заход уже был, то закончу пафосно - стихотворением.
***
Мои нервы горят восприятием,
Моя кожа - это граница.
Я не верю в твои проклятия,
Мне не хочется с этим возиться.
Не рассказывай мне о Всевышнем,
Не проси объясниться за веру –
Для тебя это будет лишнее,
Для меня это будет не в меру.
Я не буду твоим воспитателем,
Мне себе-то сказать больше нечего;
Нету общего знаменателя,
Человека нет - только речь его.
Я не знаю, когда это кончится,
Но люблю её, жизнь эту подлую.
Проживу её так, как мне хочется.
Неужели, здесь есть что-то новое?
Вы, видимо, считаете, что у ощущений нет физической природы?
Нет. В предыдущем комментарии я написал “Значит у него есть какая-то физическая причина”.
человек перестанет ассоциировать свои ощущения с собой
ТПС не связана с тем, ассоциирует ли человек ощущения с собой, и с возникновением понятия “я”. Сознание в целом связано, конкретно ТПС нет.
я уверен, что на это найдётся вполне физикалистский ответ
Ну вот дело как раз в том, что такой ответ пока не нашли, и даже непонятно как искать. Потому проблема и “трудная”.
Вот, вы можете сказать, что такое атом? Можно ли утверждать, что наше описание атомов является их достоверным отображением? Говорит ли квантовая механика нам о том, ЧТО такое поля и частицы? Нет, она просто описывает их поведение. Говорит ли теория относительности нам что-нибудь о "природе" гравитации? Не слишком много. Здесь абсолютно то же самое. Это общее для науки место, и наука о сознании ничем не отличается от других наук. Описание - описывает. Ждать от науки ответа на эссенциалистски сформулированный вопрос - беспочвенно.
Можно ли утверждать, что наше описание атомов является их достоверным отображением?
Можно утверждать, что описание в виде планетарной модели более достоверно, чем в виде модели сливового пудинга. Потому что больше соответствует результатам экспериментов. Но к особенности ТПС, как я уже сказал, это не имеет отношения.
Здесь абсолютно то же самое.
Нет, здесь не то же самое. Именно поэтому проблема и называется трудной. На данный момент описания нет.
Ждать от науки ответа на эссенциалистски сформулированный вопрос
Это не эссенциалистский вопрос, это строго научный вопрос. Именно поэтому “эссенциалистские” вопросы не называют трудными.
Я не могу (и не хочу) поверить в то, что меня нет, а есть только моя тушка. А вы готовы поверить в это?
"Как именно возникает ощущение красного?" - может вот так: https://habr.com/ru/articles/1016644/ ?
Очень крутая статья, пожалуйста продолжайте !
Мне кажется у нас имеет место такой баззворд как "эмерджентность"
Мне всегда очень смешно читать в какой нибудь селф хелп литературе, статьях и иже с ними как люди отделяют себя от своего мозга или тела. Потому что это полный бред) Я это и есть всё моё тело и мозг. Забавен сам факт того что мы можем себя отделять, писать об этом и осознавать
Там пишут что люди защищают через физику сознание что бы не терять веру в вечную жизнь. Хорошо что из биологии как раз следует то что и тело можно настроить на вечную молодость, так и даже загрузить нас в комп
Я сторонник того, что у нас на самом деле нет никакой свободы воли, как и в ваших примерах у животных. Наше поведение конечно же гораздо сложнее, тем не менее точно так же зависит от сахара в крови и других био факторов, которые мы зачастую игнорируем
Пишу комент спустя время после прочтения и уже потерял суть и мысль о чем хотел написать
так и даже загрузить нас в комп
Вас нельзя загрузить в комп. Загрузить можно только вашу копию. Такая формулировка вводит в заблуждение, а в данном случае это важно.
ну почему, при полной реальной Эмуляции, получиться второй я, с другим жизненным опытом
по сути однояйцевый близнец
В том и дело, что это будет близнец. Для исходного биологического существа ничего не изменится, оно останется в своем теле, а не очнется в компьютере. Просто в этом контексте часто говорят, что это позволит достичь бессмертия, про переселение в компьютер и все такое. Такого не будет, чудес не бывает. В компьютере будет только копия.
тут вопрос отношения уже, я был бы "за" такое бессмертие
опыт будет разным, о кстати игра alters эту тему исследует как раз
Я говорю о том, что важно понимать, что вы после копирования останетесь в своем теле. И если вы например ранены (отсылка к фильму Чаппи), то после копирования вам так же будет больно.
Вот мы сейчас с вами смотрим на одно и тоже сообщение или на разные?
Вот вы, например, снимите такую копию, а потом вас жестоко, мучительно и долго убьют. Этой копии то что с этого?
Не говоря уж о том, что функционирование копии будет происходить по другим правилам, на другом носителе, с другими принципами работы, и даже перенос, вообще-то, произведен с пределом точности вполне ощутимым - аналогична ли копия оригиналу?
Если вы в комнате разговариваете с одним близнецом, а я на улице с другим, мы разговариваем с одним человеком или с разными? Они же для нас выглядят одинаково.
Лучше уж так) если не найдется способа сохранить тело
Ну это же еще одна попытка описать возможные биологические коррелянты сознания, но никак не преодоление объяснительного разрыва между физикой и субъективными ощущениями. Таких уже моделей несколько сотен, в той или иной степени проработки. Да, это тоже важно с научной точки зрения, но никак не решение “трудной проблемы”.
Трудная проблема сознания вне науки, потому что наука изучает объективную реальность существующую независимо от нас, а сознание в чистом виде оно всегда мое и не существует независимо от меня.
Вопрос о трудной проблеме лежит в той же области где лежит вопрос о том что такое "течение времени" или сильный антропный принцип.
В области физики, физиологии и информатики лежат более практичные этические вопросы, типа "страдает ли клод код как человек когда выполняет невыполнимую задачу". Решать эти вопросы можно с двух точек зрения: первая - рационально-практическая - никакого сознания нет и вопрос только не отомстит ли нам клод код за страдания. Вторая - философски-этическая - сознание первично, материя вторична и сознание имеет определенные законы которые не могут в принципе быть выявлениы научно. Во втором случае ответы всегда предмет веры, типа я не должен мучать людей, потому что они существуют в том же смысле как я а не просто являются бредом моего прущего как виртуальная частица из ниоткуда в никуда сознания.
И на этом втором пути у нас похоже не будет вариантов кроме как вернуться к подобию религий, когда адепты одной религии будут защищать права только тех у кого есть некий полный список черт человеческого мозга, а другие будут защищать любого у кого харнес с анкетным циклом и есть постоянное дообучение.
Все эти изыскания сознания по сути и есть схоластические попытки такую религию создать и уверовать. Создавая религию важно осознавать, что это именно что вера и проверить ее никак не получится. Это обычно не осознают и пишут глупости сваливая все в кучу.
Очень интересная статья.
В дополнении можно взглянуть как собственно может создаваться “квалия” у ИИ на примере c SQL https://habr.com/ru/articles/1016644/
Это прекрасная статья.
"Эти уровни (таксис, инстинкт, эмоция и чувство) не стоит путать с «триединым мозгом» Пола Маклина". У меня почти также: рефлекс, паттерн, эмоция, модель. Но тут гораздо более научно.
ОТлично
Продолжайте. Очень интересно).
Если все так просто: тепловое движение и нужная концентрация молекул, тогда где биотехнологии? Где восстановление отрубленных конечностей? Где возможность вырастить на теле какие-нибудь супер крылья? Или вживить свч антенну в руку? Где это все если все так примитивно?
Весь поток информации и реакций на этот поток не происходит в отсутствии сознания, в коме например или под наркозом."Вы" были до возникновения образа яблока со всеми возможными ассоциациями и через 5 минут не исчезли после того как внимание переключилось на следующее.Сам этот поток никак влияет на состояние осознанности и присутствия "вас" .(Патологии не рассматриваем)Поэтому вопрос Чалмерса относится не к тому как поток восприятия создаёт реакции в нейронных цепях, а что это за "свидетель", который не затрагивается, универсален, не меняется с возрастом, и является внеличностным субъектом опыта.
Трудная проблема сознания: почему и как мозг рождает сознание?