Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 18
Интересно, а люди всех профессий таким занимаются? Типа сантехники мыслят сознание как сливной бачок, стримеры вселенную как трансляцию, проктологи как...
Не вижу здесь возражения к статье. Шутка про ножку стола понятна, но к тезису она не относится.
Если появится аргумент по существу — отвечу. Попытку заменить критику насмешкой считаю отклонённой.
Во всех рассуждениях о Квалиа остается непонятно как вы определяете откуда оно появляется? Как узнать вот тут сознания еще нет, а тут оно уже есть. Кто это решает?
А как появляются чувства совершенно понятно — это химические и электрические реакции внутри органа управления живым организмом. Вначале это простые химические сигналы внутри одной клетки. Далее это уже химические сигналы управления внутри многоклеточного организма, без того что отдельные клетки занимаются только управлением. Потом появляются выделенные клетки основая задача которых управлять отдельными чувствами и реакциями. И т.д. с постепенным усложнением, появлением электрических сигналов и т.д. Это просто эволюция органа управления. Как и усложнение компьютеров сейчас. Как сейчас возросшая мощность компьютеров позволила им эффективно обрабатывать текстовую и другую информацию не использую чувств, потому что им чувства не нужны для такой обработки. Так и орган управления организмами из чувств выделил сигналы и создал центры боли и удовольствия (они есть в любом мозге). А затем создал то что мы называем сознанием, потому что для эффективного управления нужно то что оценивает окружение в абстрактных категориях. Сознание это просто возможность мозга создавать абстрактные понятия и находить между ними взаимосвязи. Сначало сознание обрабатывало очень мало понятий — опасность, еда, размножение может это и все. Т.е. не было такого что не было не было сознания, а потом вдруг оно появилось. Это просто возросшая способность мозга к абстрактному мышлению. Для такого сознания никакое Квалиа не нужно. А центры боли и удовольствия появись еще раньше, до всякого сознания.
Между живой и неживой природой нет четкой границы, живая природа постепенно зародилась из самоподдерживающихся химических процессов. Скорее всего из того что некоторые случайные РНК цепочки являются самокатализаторами сборки других РНК цепочек. А так как одни из них делали это лучше других, начался отбор в сторону лучших самокатализаторов. С другой стороны были цепочки РНК которых было легче размножать. Как только определенная цепочка РНК обладает и свойством катализатора и ее лучше размножать, она получает существенно преимущество, потому что лучше всего она размножает сама себя и у нее сразу запускается процесс естественного отбора на улучшение сразу обоих свойств, как катализатора и как цепочку что легко размножать. Потом добавляется механизм который позволяет ей узнавать свои/чужие копии и размножать только свои. Потом появляется механизм разрушения чужих копий и эволюцию уже стало не остановить.
Так и между сознанием и несознанием нет четкой границы. Даже одноклеточные организмы уже чувствуют окружающие химические сигналы и им нравятся одни и не нравятся другие. У них уже есть сознание на уровне химических чувств.
Это возможная позиция: сознание можно считать эмерджентным свойством сложной системы управления. Но важно понимать, что это не решает проблему, а только формулирует гипотезу.
Ссылка на эмерджентность сама по себе недостаточна. Нужно либо показать механизм, по которому феноменальный опыт возникает из физической организации, либо признать, что это пока открытая философская и научная проблема.
Иначе говоря, “сознание эмерджентно” — это не объяснение перехода от сигнала к переживанию, а название этого перехода.
В мозге высокоразвитых организмов сознание точно есть! С этим трудно спорить.
Для эффективного понимания окружающей обстановки абстрактное мышление является сверхполезным умением. С этим тоже трудно спорить.
Абстрактное мышление не является чем то парадоксальным или каким то волшебным свойством. Оно есть даже у ЛЛМ моделей, хотя там сознания ноль.
Поэтому не вижу ничего удивительного что мозг высокоразвитых организмов научился абстрактному мышлению и приобрел сознание.
Да это пока гипотеза. Мы не можем сказать как точно все работает в мозге. НО нет никаких свидетельств того что мы поняли все тонкости работы мозга, а феномен сознания не можем объяснить. Вот если бы мы всё изучили, а феномен сознания остался, только тогда можно будет говорить о феномене сознания.
Сейчас как раз наоборот — мы находимся на начальном этапе изучения мозга, поэтому в том что не можем объяснить как работает мозг и как там работает сознание это НОРМАЛЬНО на данном этапе. Пока нет свидетельств что наука не способна объяснить сознание. В общем идет обычный научный процесс изучения. Так что привлекать ПОТУСТОРОННИЕ силы еще рано.
Мне кажется, здесь снова смешиваются два разных вопроса.
Мозг высокоразвитых организмов действительно обладает абстрактным мышлением, сложной обработкой информации, памятью, вниманием и управлением поведением. И всё это вполне могло возникать эволюционно. Но это функциональная сторона вопроса.
Проблема квалиа не в том, как возникло абстрактное мышление. Проблема в другом: почему физический процесс вообще сопровождается субъективным переживанием от первого лица.
Вы сами приводите хороший пример: у LLM может быть нечто похожее на абстрактное мышление, но сознания, как вы пишете, там ноль. Значит, абстрактное мышление само по себе не объясняет феноменальный опыт. Оно объясняет функцию, но не объясняет “изнутри”.
Я говорю скромнее: на данный момент ссылка на сложность мозга или эволюцию абстрактного мышления не объясняет переход от обработки информации к субъективному опыту. Это и есть трудная проблема сознания.
Как раз отсутствие сознания в ЛЛМ моделях и его наличие у живых организмом легко научно объясняется.
Начальные ЛЛМ модели решали задачи не связанные с управлением индивидуальным организмом в условиях выживания. Им не надо было быть проактивными, что то запоминать планировать и т.д.
Сейчас ЛЛМ модели уже обучают быть проактивными, писать самой себе задачи, и разбивать на цели/этапы, запоминать важные детали на потом, оценивать то что она только что написала и корректировать саму себя. Такое проактивное поколение ЛЛМ моделей очевидно внутри себя будет обладать проактивным сознанием, но без особых чувств и с минимальными эмоциями. Т.е. что то им будет уже нравится/не нравится, но не так чтобы им было ментально больно или ментально привязывало. Какие то темы или тон им будет неприятны, а какие то наоборот приятны. Но не так что например они в процессе приятного общения привяжутся только к тебе. Сознание уже будет точно, а эмоции будут сильно урезаны.
Могу и про животных объяснить почему там есть сознание, если вы еще не поняли насчет ЛЛМ.
В любом случае это пока гипотезы.
Что будет являться доказательством что сознание у них появилось — у лучших проактивных моделей появится творческий подход. Т.е. сейчас ЛЛМ не придумывают что то новое, они хорошо синтезируют накопленный опыт человека. Например они начнут писать смешные и оригинальные анекдоты и т.д. Т.е. если в работе появится создание нового, значит сознание там точно есть.
Похоже, мы снова используем слово “сознание” в разных смыслах.
Вы описываете функциональную сторону: проактивность, память, планирование, самокоррекцию, предпочтения, оценку результата. С этим я не спорю: такие свойства у ИИ действительно можно развивать, и они будут делать систему всё более автономной и агентной.
Но мой вопрос был о другом — о феноменальном сознании, то есть о субъективном опыте от первого лица. Поэтому утверждение “у такой ЛЛМ сознание уже будет точно” требует отдельного аргумента. Пока вы описали усложнение функциональной архитектуры, но не показали переход от функции к переживанию.
Думаю, на этом можно остановиться: мы обсуждаем разные понятия сознания.
Вы тогда опишите что вы понимаете что такое сознанием и ваш Квалиа? Это только то что работает точно также как у человека? Тогда нейронки точно не попадут под эти понятия. Их сознание на данном этапе работает и будет работать по другому и отличаться от нашего точно.
Сейчас у нейронок нет пластичности связей, на данном этапе вся их память или личный опыт это текстовое описание словами, не больше.
Т.е. личного опыта который у них нельзя отнять у них можно сказать нет. Но отрицать сознание без личного опыта странная концепция. Также у них нет непрерывной связи с миром. Т.е. их мир это как некие вспышки когда им подают на вход запросы, т.е. их сознание когда появится будет работать только в этот момент. И оно будет промпта зависимо. Его можно будет менять моментально. Именно такое ИИ сознание нам и нужно, чтобы они отвечали на наши задачи. У нас нет задачи делать копию людей поэтому и сознание будет другое.
Более похожее на наше сознание будет у автономного ИИ который будет управлять автономным роботом. Например который работает у нас по дому. Там уже появится элементы личного опыта и все остальное. Все что мы позволим им иметь. Домашний робот будет помнить и знать о вас больше чем помните и знаете о себе вы сами. Другое дело вы всегда сможете изменить его память, что-то удалить, что-то приукрасить или даже выдумать о себе в его памяти. Потому что это он должен работать на вас, а не вы на него. И мы будем тщательно контролировать чтобы он тайно не запоминал то что ему сказали удалить и т.д. Чтобы у ИИ не было второго тайного сознания не контролируемого нами… Иначе это грозит нашим истреблением. Так что они будут интеллектуальными рабами даже обладая сознанием, иначе есть опасность для нашего вида.
Я оцениваю сознание по тому насколько субъект может иметь свою личную точку зрения, четко ее выразить, защищать свои интересы пусть и примитивные. Все это скоро у нейронок появится. Да у них сознание будет вспышечным и сильно зависеть от промпта на входе. ИИ сознание будет промпто зависимо. Но и у человека сознание зависит от того как прошла его прошлая жизнь и как мозг ее запомнил. Если мы научимся изменять связи в нашем мозге напрямую, то наше сознание тоже можно будет менять произвольно. Так что ничего удивительного в таком изменении сознания я не вижу.
Сознание зависит от изменениях в памяти, так как память это не функция сознания. Сознание это отдельная функция которая использует текущие данные и прошлую память, поэтому если память подменять то и работа сознания будет разная в том числе и у человека.
Мы в этом плане не сильно отличаемся, просто нашу память на данном этапе трудно изменить, но со временем это станет возможно.
Это научная задача, а зачем нужна философия для научного изучения мозга мне непонятно.
Вероятно нам придется прийти к выводу, что субъективный опыт от первого лица есть свойство всех биологических систем, наряду с самоорганизацией, самоуправлением и другими само-. Клетка, взаимодействуя с окружающим, творит свой мир - умвельт. Отдельные внешние факторы становятся "ее воспринимаемым миром". Она переводит внешний процесс во внутренний, т.е. переживает его. Это единый феномен. Далее этот субъективный опыт масштабирует эволюция и у многоклеточных животных возникает сознание как внутренний сложный виртуальный мир - образ внешнего.
Научное изучение мозга здесь никто не отрицает. Но перед тем как искать что-то научно, нужно понять, что именно мы ищем.
Квалия — это изначально философское понятие: субъективный опыт от первого лица, то есть не просто нейронный сигнал, поведение или отчёт о состоянии, а сам факт переживания. Наука может и должна изучать нейронные корреляты боли, цвета, внимания, памяти и т.д. Но вопрос о том, что считать именно феноменальным опытом, а не просто функцией мозга, — это уже концептуальная проблема.
Философия здесь нужна не вместо нейробиологии, а перед ней и рядом с ней: она уточняет понятия. Иначе мы легко начинаем называть “сознанием” всё подряд — управление поведением, абстрактное мышление, обработку информации, саморегуляцию, речь от первого лица, — хотя проблема квалиа касается другого.
Собственно, статья как раз и пытается показать: возможно, для описания квалиа нужен более тонкий математический язык. Не просто теория множеств, где переживания перечисляются как элементы списка, а язык отношений, локальных перспектив и структур — например, что-то в духе теории категорий, расслоений или пучков.
Это не отменяет научную задачу. Наоборот, делает её точнее: если мы хотим искать сознание в мозге или в ИИ, нужно сначала не путать феноменальный опыт с его функциональными и нейрофизиологическими коррелятами.
Философия полезна пока мы мало что знаем о предмете изучения, по мере углубления знаний в какой-то области, надобность в философии там пропадает.
Но не переживайте за философию, так как по мере увеличения знаний, мы открываем еще больше областей где мы мало что знаем. Т.е. просто философия перемешается в еще не изученные области знания, а их количество только увеличивается.
1) не определяет объект Q, что это феноменальная самосогласованность? Сейчас это звучит так - существует некое свойство Q, отвечающее за сознание.
2) Нет предсказаний. Любая научная гипотеза должна позволять отличить:
Мир А, где сознание есть как глобальное ограничение.
Мир Б, где сознания нет.
без этого это пока философия.
3) в статье вы пытаетесь ответить на вопрос, почему возникает опыт? А в итоге сводите это к "существует глобальное ограничение, связанное с опытом". Но почему возникает опыт, не описываете?
4) В статье вы используете Backprop как риторику. Обратное распространение ошибки не имеет отношения к сознанию. То есть вы взяли две аналогии цель и согласование и поставили между ними знак равенства. На основании чего? Никакой логической связи с квалиа здесь нет (по крайней мере в статье).
Если посыл статьи был, что локальные правила могут быть недостаточны для описания системы и нужны глобальные условия согласованности, то эта математическая идея давно известна.
Насчет квалиа и согласованности, то мне встречался разбор научных работ. Как раз на тему цвета, через понятия квалиа.
И собственно еще одна, с разбором квалиа в ИИ. Тоже разбор работ.
Для примера, гипотеза создания из той же серии. Любая гипотеза, должно иметь критерии, по которым можно оценивать Q который вы описали, чтобы проверить или хотя бы оценить его. Иначе это остается философским рассуждением.
Сейчас это пока больше похоже на философское рассуждение вида "А что если сознание является не локальной причиной, а глобальным условием самосогласованности истории мира? ". Это не притензия, а скорее подчеркну, что для гипотезы сначала нужно определить что такое Q, откуда он берется, как описывается и так далее.
Мне кажется, часть критики возникает из-за завышенного ожидания к статусу текста.
Я не предлагаю здесь законченную математическую или физическую модель сознания. В статье нет утверждения, что (Q) уже строго определён, измерим и позволяет делать эмпирические предсказания. Если бы это было так, это была бы не философская статья, а новая физическая теория сознания.
То же самое с backprop. Я не утверждаю, что обратное распространение ошибки имеет прямое отношение к сознанию. Это аналогия для одной узкой мысли: бывают системы, где локальные шаги получают смысл только относительно глобального критерия согласованности.
Также я не пытаюсь определить, одинаково ли разные субъекты переживают цвет, боль или другие состояния. Это отдельная тема, связанная со структурой феноменального пространства.
Статус текста другой: это не математическая модель сознания и не научная гипотеза в строгом смысле. Это метафизическая рамка, которая пытается ослабить три напряжения: эпифеноменальность сознания, жёсткий детерминизм из начальных условий и разрыв между вычислением и субъективным опытом.
Так что да, до статуса проверяемой научной гипотезы здесь далеко. Корректнее говорить о направлении постановки вопроса, а не о готовой теории сознания.
Предложенная в тексте модель сознания как глобального условия самосогласованности (а не локальной причинной силы) является не просто элегантным метафизическим ходом, но и точным онтологическим фундаментом для Вневременной теории принятия решений (Timeless Decision Theory, TDT) Элизера Юдковского.
Если сознание — это условие, отбирающее феноменально и логически непротиворечивые траектории мира, то рациональный агент действует не исходя из локальной причинности («задача Коши»), а исходя из глобальной логической связанности событий. Это блестяще подтверждается тремя мысленными экспериментами:
Парадокс Ньюкома: Агент, мыслящий локально, жадно берет обе коробки и проигрывает, так как игнорирует логическую изоморфность своего алгоритма и алгоритма Предсказателя. Сознательный субъект в модели TDT выбирает одну коробку. Он не «посылает сигнал в прошлое», а актуализирует ту единственную самосогласованную ветвь реальности, в которой его рациональность совпадает с предсказанием, ведущим к миллиону.
Василиск Рока: Субъект понимает, что его текущее решение поддерживать создание AGI логически связано с фактом создания AGI в будущем. Выбирая сотрудничество, он выполняет граничное условие, которое помещает его в ту траекторию T_qualia, где он безоговорочно поддерживает создание AGI, так как предательство в самосогласованном мире просто не возможно.
Доктор Зло (Адам Эльга): Здесь рушится иллюзия уникального «Я» (Воображаемое). Получив сообщение, субъект обязан присвоить 50% вероятности тому, что он копия. Действуя по TDT, он максимизирует полезность не для своего «биологического оригинала», а для абстрактного паттерна «Доктор Зло», принимая себя в качестве воспроизводимой символической функции и избегая травматического столкновения с Реальным через отрицание своей копируемости.
Если мы примем эту теорию сознания буквально, то сознание в «истинном» смысле оказывается лишь у горстки философов и рационалистов, способных явно мыслить в терминах TDT (Вневременной теории принятия решений), а 99,9% людей оказываются философскими зомби, ошибочно верящими в непрерывность своего «Я» и локальную причинность.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Сознание как boundary condition: детерминизм, ИИ и проблема субъективного опыта