В данном случае я говорю об аналоге тьюринговской полноты. Безусловно, у животных есть ощущения и даже своего рода «самосознание». И тут можно попробовать выразить иерархию, аналогичную линии «конечный автомат — стековый автомат — машина Тьюринга». Вот предположим, что теория разума — это и есть машина Тьюринга, а там можно дойти вниз к собакам, крысам и до мидий каких-нибудь дойти, у которых, скорее всего, конечный автомат и есть.
Ну вот один из водоразделов — это secondary theory of mind, то есть я не просто могу предсказывать действия коллеги, но и понимать, что он при этом действуя исходя из предсказаний моих действий тоже. Были опыты, которые доказывают, что даже для высших обезьян это уже за пределами их умения.
То есть в данном случае речь идет не о «сознании/без сознания» в снах, а о том, что мы можем вычленить вполне чётко определённые элементы когнитивного аппарата и указать, у каких животных что есть. При этом secondary theory of mind очевидным образом нужен, если нельзя поставить себя на место другого, при этом имея в виду, что он может поставить себя на место меня, полноценный образ реальности не конструируется.
Я думаю, что тут всё-таки есть некая штука, аналогичная полноте по Тьюрингу. Да, есть вычислительные системы разного уровня мощности, но в какой-то момент появляется «ultimate machine», за которой уже не просматривается принципиально новых горизонтов. А у предыдущих машин они есть. Скажем, у животных проблемы с secondary theory of mind.
А пёс его знает. Если вы захотите передать мне мысленный образ «яблока» или «автомобиля Феррари», возможно, я и так пойму. А если что-то более абстрактное типа «патриотизм» или «любовь к булочкам», может оказаться, что у нас совершенно разные образы этого всего. А уж передать нарратив/историю без слов вообще непонятно как. А это и есть самое интересное, просто «образ» можно на картинке нарисовать, но так далеко мы не уйдём, нужно развитие событий.
Просто если вы определяете сознание как «способность моделировать», то вам придётся наделить «сознанием» практически любое животное, а то и насекомое, а то и даже растение. И если в соответствии с этим определением окажется, что одуванчик «имеет сознание», как-то общепринятый смысл слова окажется потерян.
Дело в том, что любое животное способно моделировать будущее так или иначе. Если снаружи волк, заяц не будет высовываться из норки, понимая, чем это пахнет.
Да. Я бы, может, ещё глубже копнул и спросил, где начинается субъективное и кончается объективное. Вот есть такая штука как «температура». У молекулы нет температуры, температура — это интегральный показатель усреднённой скорости молекул вещества. Но у нас есть отдельное слово, отдельное понятие и целые теории вокруг него.
А вот есть «средняя скорость потока» машин на автостраде. И мы не придумываем никаких новых терминов: средняя скорость она и есть средняя скорость. Можно объяснить появление «температуры» 1) банальным терминологическим удобством, 2) объективной реальностью, 3) наличием у нас органа чувств, который умеет температуру оценивать.
И может так оказаться, что масса вопросов крутится вокруг терминов и понятий, возникающих только как побочный продукт работы нашего мышления.
Соглашусь с mrtux — фразу типа «самосознание это социальный конструкт» трудно переварить, но можно попробовать приблизиться к этой картине.
Проблема в том, что сущностно говорить о сознании и самосознании «со стороны» почти невозможно. Вот природе нужно, чтобы я умел распознавать боль от пореза и боль от ожога, и отличать одно от другого. Так сложилось, что эти сигналы отображаются субъективно неким образом, и мы оба с вами знаем, как они нами ощущаются. Но можно вообразить себе, что эволюция бы решила задачу наоборот, и ожог бы ощущался как порез, а порез — как ожог.
То есть объективно есть сигнал, у сигнала есть задача (сообщить о проблеме), а как для системы принятия решений выглядит этот сигнал — лампочка, звуковой индикатор или виброотклик — это… ну как бы «так сложились звёзды», и не факт, что копание в самой системе индикации нас к чему-то приведёт.
Сознание и самосознание — это элементы системы принятия решений мозга, которые помогают мозгу оценивать происходящее вокруг и формулировать сложный мир в виде достаточно простых понятий («друзья», «враги», «еда», «вруны», «опасность») и их отношений. То есть своего рода свёрточная нейросеть на входе. Обсуждая (само)сознание, мы фактически пытаемся понять, почему сигнал на входе воспринимается мозгом субъективно вот так, а не иначе. Но даже если мы это в теории поймём, много ли нам это понимание даст? Не исключено, что мы в лучшем случае сделаем заключение: ага, вот поэтому тут прикрутили лампочку, а тут звонок, хотя можно было бы и наоборот.
Если «атнропный принцип» — это «a-word», то есть ещё и «e-word» — «эмерджентность», которая тоже всё объясняет, но ничего не значит (или наоборот). Можно ведь не забираться для начала в голову человека, а рассмотреть такой простой организм как муравей или термит. Его можно изучить вдоль и поперёк, и ничего такого там нет; наверно, на нашей жизни будет уже «симулятор муравья», как есть уже симулятор червя. Однако же структура и поведение муравейника в целом — это сложнейшее явление с массой поразительных умений.
Я бы сказал так, что «эмерджентность», она ж переход количество в качество, она же синергия (когда целое больше частей) — это некое фундаментальное свойство систем. А «магия» сознания берётся оттого, что мы своё собственное сознание воспринимаем как магию, а в реальности это фокус. Тут надо отдавать себе отчёт, что наше восприятие себя необъективно: это некая модель, создаваемая мозгом для внутреннего употребления, по видимому, с целью более качественного принятия решений. А со стороны, да, просто нейроны и связи. Вас же не удивляет, что на экране «просто пиксели», а картинки можно формировать самые разные.
Проблема в том, что ради этого и огорода городить не надо, и без Поппера человечество бы обошлось, если задача состоит лишь в том, чтобы аккуратно описать то, что было проделано. Я просто предлагаю разделять философские критерии и просто чистоплотное описание некоей процедуры.
в другой сводки цен на акции за прошлый год. Я объяснил, почему нельзя писать про одно и другое «с тем же успехом», т.е. что их научная ценность не эквивалентна.
Ну потому что нас разговор увёл немного не туда. Когда я сказал, что эксперимент с рассветом плох, потому что надо ждать 100 или 1000 лет, чтобы убедиться, что рассвет и через 1000 лет наступит, мне было отвечено, что это неважно, потому что «в теории» можно и тысячу лет подождать. Но если аргумент «в теории можно» прокатывает, то «в теории можно» и в прошлое вернуться. Вот видите, демона Максвелла создали, а там, того и гляди, машину времени тоже создадут. Это как раз я пытаюсь стоять на позиции что теоретический эксперимент, который займёт 1000 лет — это так себе счастье.
Да почему, доказать существование можно. Дождаться Страшного Суда, например.
Нет. Откуда вы знаете, что то, что вы увидели, это и есть Страшный суд? Может, вам соврали, а может, вы просто в делирии находитесь. Так что обе гипотезы ненаучны.
Имеет значение, что она принципиально опровергаема.
Проблема в том, что это так Поппер считает, но это по сути его частное мнение. Я признаю, что это хорошая попытка, но не будем её абсолютизировать.
Каким образом это доказательство? Доказательство — это то, что я могу проверить.
Ну это тоже самообман своего рода. Вы ничего не можете проверить, потому что в конечном итоге абсолютно любая ваша проверка кончается утверждением вида: «меня это убедило». А на входе может быть стрелка прибора, логическое умозаключение, вообще что угодно. То есть всё равно мы исходим из некоторой посылки: термометр нам не врёт, глаза нам не врут (когда мы смотрим на термометр), мозг нам не врёт. Я понимаю, что совсем без аксиом никуда, но надо отдавать себе отчёт, как их на самом деле уже много, и упираться в духе «больше ни одной аксиомы не впущу» довольно странно. Новые аксиомы ничть не хуже старых.
Т.е. вы признаете, что в текущей формулировке как в статье она нефальсифицируема?
Ну а чего бы не признать? Проблема в том, что из этого не следует её «шлаковость». Она может быть даже верна, просто мы (а) не придумали, как её переформулировать в фальсифицируемом виде и (б) как её доказать/опровергнуть. Однако же даже с существующими теориями (см. выше) есть масса аксиом, которые просто по сути голосованием большинства приняты как «пригодные». И если завтра таким же голосованием большинства будет принята ещё какая-нибудь аксиома, то идея «симулятора Бострома» уже может оказаться фальсифицируемой (с помощью новой аксиомы).
Ну вот о том и речь — можно назвать это «теорией», но по сути то издевательство, потому что описывая эксперименты as is, можно вообще не заморачиваться вопросами метода, фальсификации и т.п. Вот я сделал, смотрите, а дальше что хотите, то и делайте.
Вернуться в прошлое и вложиться в Эппл я не могу.
А вот это, кстати, интересная тема. Почему, например, мысленный эксперимент типа «демона Максвелла» — это ОК, а эксперимент «давайте вернёмся в прошлое» — не ОК? Мы ни того, ни другого сделать на практике не можем.
Вы можете исходить из теории о существовании или несуществовании Бога — обе эти теории принципиально невозможно доказать или опровергнуть. Тем не менее, каждый конкретный человек исходит из одной из них (ну либо агностик, коих меньшинство). Таким образом, по факту люди исходят именно из «фантазий», если угодно.
Более того, абсолютно фэнтезийными являются методы решения задачи — то есть надо вложить кучу сил, чтобы убедиться, что идея нейросети или, скажем, байесовского классификатора — рабочая. Соответственно, надо сначала каким-то способом выдвинуть эту идею, а потом ещё вложить ресурсы в её доказательство или опровержение, что само по себе вряд ли можно считать формализированной процедурой.
Что касается теории о закате и рассвете — ну, скажем так, я понимаю, что мои конкретные формулировки страдают, и мне стоило бы их продумать получше. Но я думаю, что вполне можно сформулировать теорию рассвета так, что она будет нефальсифицируемой, а теория о симуляции фальсифицируемой. Даже в простейшей постановке теория «следующие 100 лет рассветы будут» является фальсифицируемой, но на эксперимент потребуется 100 лет, так что конкретно для вас или для меня она не то что бы фальсифицируема, мы результатов не дождёмся никак, и ускорить процесс тоже не можем.
Что касается теории симуляции — это всегда вопрос о том, какое доказательство вас устроит. Например, можно сказать, что скорость света ограничена ровно потому, что на неё залочен фреймрейт нашей симуляции, а иначе этому нет никакого разумного объяснения.
Мне эта позиция представляется крайне наивной.
Люди так делали не потому, что были дикими, а потому что имели дело с неизведанным. Фронтир всегда непонятен и вероятностен. Легко иметь дело «с лучшими практиками», когда решается известная задача. А когда вы ступаете на новую территорию, приходится идти наощупь, что, собственно, и делается, причём учёными в первую очередь. Поиск метода решения новой задачи — это догадки/эвристика/вера/удача. Когда метод уже есть — да пожалуйста, подключайте надёжные проверки, кто ж против.
Не понимаю, почему меня тут постоянно пытаются записать к торсионщикам. Я ведь всего лишь замечаю совершенно очевидную вещь: разумные люди на протяжении всей истории человечества пользовались непроверяемыми или фактически непроверяемыми теориями. Между полюсом «торсионщиков» и полюсом «абсолютных рационалистов» лежит континуум более или менее надёжных методов, более или менее правдоподобных гипотез и более или менее реалистичных экспериментов. В идеале хорошо иметь такой критерий, но если эвристика говорит, что некая теория «правдоподобна», то лучше иметь её, чем не иметь вообще ничего.
Ну в примере с рыбой в аквариуме мы имели в виду конкретный аквариум, а не любой произвольно взятый. Я полагаю, вы вполне уверены, что лично у вас пять пальцев на каждой руке и два глаза? Я вот насчёт себя вполне уверен. А может, плохо искал.
Ну вот он предлагался, но по факту я говорю, что средняя статья выглядит так как она выглядит. Можно обзывать этих людей «грантоедами» или как угодно, но от этого суть не меняется — они и составляют «научное сообщество», его большинство и ядро.
Да ради бога, в университетах нет штатной позиции «учёный». Есть «профессор», «научный сотрудник» и т.п., и по факту ценятся навыки прокачки Хирша и выигрыша грантов, а соответствие представлениям о прекрасном — как-то не очень.
Есть два способа определения смысла слова. Можно заглянуть в словарь и прочитать, что такое «мем», например, или проверить ударение в слове «творог». А можно послушать, как люди по факту слова/ударения употребляют и поправить словарь.
Я понимаю, что можно дать строгое определение «научному знанию», «научной процедуре» и т.п. Но можно и пойти «в поле», а именно заглянуть в научные журналы и сборники конференций, и вот что там печатается — научные работы и есть. Это ведь тоже вполне себе подход. Я же совершенно не критикую вашу позицию, а всего лишь подмечаю, что это не есть истина высеченная в камне и поддерживаемая «научным сообществом». Если бы это было так, то и контент журналов выглядел бы иначе.
То есть в данном случае речь идет не о «сознании/без сознания» в снах, а о том, что мы можем вычленить вполне чётко определённые элементы когнитивного аппарата и указать, у каких животных что есть. При этом secondary theory of mind очевидным образом нужен, если нельзя поставить себя на место другого, при этом имея в виду, что он может поставить себя на место меня, полноценный образ реальности не конструируется.
А вот есть «средняя скорость потока» машин на автостраде. И мы не придумываем никаких новых терминов: средняя скорость она и есть средняя скорость. Можно объяснить появление «температуры» 1) банальным терминологическим удобством, 2) объективной реальностью, 3) наличием у нас органа чувств, который умеет температуру оценивать.
И может так оказаться, что масса вопросов крутится вокруг терминов и понятий, возникающих только как побочный продукт работы нашего мышления.
Проблема в том, что сущностно говорить о сознании и самосознании «со стороны» почти невозможно. Вот природе нужно, чтобы я умел распознавать боль от пореза и боль от ожога, и отличать одно от другого. Так сложилось, что эти сигналы отображаются субъективно неким образом, и мы оба с вами знаем, как они нами ощущаются. Но можно вообразить себе, что эволюция бы решила задачу наоборот, и ожог бы ощущался как порез, а порез — как ожог.
То есть объективно есть сигнал, у сигнала есть задача (сообщить о проблеме), а как для системы принятия решений выглядит этот сигнал — лампочка, звуковой индикатор или виброотклик — это… ну как бы «так сложились звёзды», и не факт, что копание в самой системе индикации нас к чему-то приведёт.
Сознание и самосознание — это элементы системы принятия решений мозга, которые помогают мозгу оценивать происходящее вокруг и формулировать сложный мир в виде достаточно простых понятий («друзья», «враги», «еда», «вруны», «опасность») и их отношений. То есть своего рода свёрточная нейросеть на входе. Обсуждая (само)сознание, мы фактически пытаемся понять, почему сигнал на входе воспринимается мозгом субъективно вот так, а не иначе. Но даже если мы это в теории поймём, много ли нам это понимание даст? Не исключено, что мы в лучшем случае сделаем заключение: ага, вот поэтому тут прикрутили лампочку, а тут звонок, хотя можно было бы и наоборот.
Я бы сказал так, что «эмерджентность», она ж переход количество в качество, она же синергия (когда целое больше частей) — это некое фундаментальное свойство систем. А «магия» сознания берётся оттого, что мы своё собственное сознание воспринимаем как магию, а в реальности это фокус. Тут надо отдавать себе отчёт, что наше восприятие себя необъективно: это некая модель, создаваемая мозгом для внутреннего употребления, по видимому, с целью более качественного принятия решений. А со стороны, да, просто нейроны и связи. Вас же не удивляет, что на экране «просто пиксели», а картинки можно формировать самые разные.
Проблема в том, что ради этого и огорода городить не надо, и без Поппера человечество бы обошлось, если задача состоит лишь в том, чтобы аккуратно описать то, что было проделано. Я просто предлагаю разделять философские критерии и просто чистоплотное описание некоей процедуры.
Ну потому что нас разговор увёл немного не туда. Когда я сказал, что эксперимент с рассветом плох, потому что надо ждать 100 или 1000 лет, чтобы убедиться, что рассвет и через 1000 лет наступит, мне было отвечено, что это неважно, потому что «в теории» можно и тысячу лет подождать. Но если аргумент «в теории можно» прокатывает, то «в теории можно» и в прошлое вернуться. Вот видите, демона Максвелла создали, а там, того и гляди, машину времени тоже создадут. Это как раз я пытаюсь стоять на позиции что теоретический эксперимент, который займёт 1000 лет — это так себе счастье.
Нет. Откуда вы знаете, что то, что вы увидели, это и есть Страшный суд? Может, вам соврали, а может, вы просто в делирии находитесь. Так что обе гипотезы ненаучны.
Проблема в том, что это так Поппер считает, но это по сути его частное мнение. Я признаю, что это хорошая попытка, но не будем её абсолютизировать.
Ну это тоже самообман своего рода. Вы ничего не можете проверить, потому что в конечном итоге абсолютно любая ваша проверка кончается утверждением вида: «меня это убедило». А на входе может быть стрелка прибора, логическое умозаключение, вообще что угодно. То есть всё равно мы исходим из некоторой посылки: термометр нам не врёт, глаза нам не врут (когда мы смотрим на термометр), мозг нам не врёт. Я понимаю, что совсем без аксиом никуда, но надо отдавать себе отчёт, как их на самом деле уже много, и упираться в духе «больше ни одной аксиомы не впущу» довольно странно. Новые аксиомы ничть не хуже старых.
Ну а чего бы не признать? Проблема в том, что из этого не следует её «шлаковость». Она может быть даже верна, просто мы (а) не придумали, как её переформулировать в фальсифицируемом виде и (б) как её доказать/опровергнуть. Однако же даже с существующими теориями (см. выше) есть масса аксиом, которые просто по сути голосованием большинства приняты как «пригодные». И если завтра таким же голосованием большинства будет принята ещё какая-нибудь аксиома, то идея «симулятора Бострома» уже может оказаться фальсифицируемой (с помощью новой аксиомы).
Ну вот о том и речь — можно назвать это «теорией», но по сути то издевательство, потому что описывая эксперименты as is, можно вообще не заморачиваться вопросами метода, фальсификации и т.п. Вот я сделал, смотрите, а дальше что хотите, то и делайте.
А вот это, кстати, интересная тема. Почему, например, мысленный эксперимент типа «демона Максвелла» — это ОК, а эксперимент «давайте вернёмся в прошлое» — не ОК? Мы ни того, ни другого сделать на практике не можем.
Более того, абсолютно фэнтезийными являются методы решения задачи — то есть надо вложить кучу сил, чтобы убедиться, что идея нейросети или, скажем, байесовского классификатора — рабочая. Соответственно, надо сначала каким-то способом выдвинуть эту идею, а потом ещё вложить ресурсы в её доказательство или опровержение, что само по себе вряд ли можно считать формализированной процедурой.
Что касается теории о закате и рассвете — ну, скажем так, я понимаю, что мои конкретные формулировки страдают, и мне стоило бы их продумать получше. Но я думаю, что вполне можно сформулировать теорию рассвета так, что она будет нефальсифицируемой, а теория о симуляции фальсифицируемой. Даже в простейшей постановке теория «следующие 100 лет рассветы будут» является фальсифицируемой, но на эксперимент потребуется 100 лет, так что конкретно для вас или для меня она не то что бы фальсифицируема, мы результатов не дождёмся никак, и ускорить процесс тоже не можем.
Что касается теории симуляции — это всегда вопрос о том, какое доказательство вас устроит. Например, можно сказать, что скорость света ограничена ровно потому, что на неё залочен фреймрейт нашей симуляции, а иначе этому нет никакого разумного объяснения.
Люди так делали не потому, что были дикими, а потому что имели дело с неизведанным. Фронтир всегда непонятен и вероятностен. Легко иметь дело «с лучшими практиками», когда решается известная задача. А когда вы ступаете на новую территорию, приходится идти наощупь, что, собственно, и делается, причём учёными в первую очередь. Поиск метода решения новой задачи — это догадки/эвристика/вера/удача. Когда метод уже есть — да пожалуйста, подключайте надёжные проверки, кто ж против.
Есть два способа определения смысла слова. Можно заглянуть в словарь и прочитать, что такое «мем», например, или проверить ударение в слове «творог». А можно послушать, как люди по факту слова/ударения употребляют и поправить словарь.
Я понимаю, что можно дать строгое определение «научному знанию», «научной процедуре» и т.п. Но можно и пойти «в поле», а именно заглянуть в научные журналы и сборники конференций, и вот что там печатается — научные работы и есть. Это ведь тоже вполне себе подход. Я же совершенно не критикую вашу позицию, а всего лишь подмечаю, что это не есть истина высеченная в камне и поддерживаемая «научным сообществом». Если бы это было так, то и контент журналов выглядел бы иначе.