Pull to refresh

Comments 50

Спасибо что написали и разложили "по полочкам".

А почему вы относитесь к этой так называемой эпистемической безответственности исключительно как к проблеме, которую надо решать? Если человечество живёт с этим, судя по всему, на протяжении всего своего существования, вам не приходила мысль, что, может быть, это не просто так? Что если это один из фундаментальных механизмов человеческого мировосприятия, выполняющий какие-то важные функции? До сих пор ведь не известно досконально, как работает человеческое сознание. При этом однобокое рассмотрение эпистемической безответственности исключительно как проблемы, без всяких "а что если?...", разве само по себе не является эпистемической безответственностью?

Вот например, исключительно как одно из предположений, и самое очевидное и простое. Что если эта ваша эпистемическая безответственность является своеобразным предохранителем от перегрузок? Ведь очевидно, что в любой более-менее непростой ситуации вычислительных способностей человеческого мозга может не хватить на анализ всех возможных факторов и исходов. Поэтому мы наименее вероятное округляем до невероятного, доверяемся чужому мнению, принимая его за компетентное, при любой возможности экстраполируем имеющийся опыт на новые ситуации, и т.п... Да и что говорить о сложных ситуациях? Уже, ведь, общеизвестно, что человеческое мышление заточено на максимальное сохранение энергии. В этом свете эта ваша эпистемическая безответственность уже выглядит вполне уместной. Особенно учитывая, что её последствия, на самом деле, далеко не всегда бывают вредоносными.

А почему вы совершенно не рассматриваете психологический фактор? (или я это упустил...) Ведь очевидно, что с психологической точки зрения эпистемическая безответственность - прекрасный механизм защиты от нервного срыва (который, в свою очередь, может привести к гораздо более нерациональным поступкам и серьёзным последствиям, вплоть до серьёзного вреда здоровью). Опять же, очевидно, что в таком случае уровень эпистемической безответственности каждого человека будет напрямую зависеть от его психического здоровья и стрессоустойчивости. Кстати, ярчайший тому пример - текущая ситуация в мире. Думаю каждый уже успел поразиться, какие порой невероятные аргументы находят люди чтобы занять ту или иную сторону, напрочь отметая при этом любую противоречащую им информацию. Конечно, так было всегда, но сейчас это особенно заметно. Тут уже можно поразмышлять и о природе холиваров, и в целом о том, почему человек испытывает такой дискомфорт, когда кто-то думает "не правильно". Мне кажется, тут ноги растут всё оттуда же - это всё посягательства на психологическое равновесие и состояние покоя, на что срабатывают защитные реакции...

Конечно, эти все мои гипотезы могут быть и ошибочными. Но в чём я уверен, так это в том, что не мог бы такой грандиозный баг сохраняться на протяжении тысячелетий, не будь от него какой-то пользы (и это я ещё не сторонник теории эволюции). Да и в целом, человек - сложнейшее существо во вселенной (по крайней мере, из всех нам известных). Не будем же его упрощать до "палка-палка-огуречик". Тем более, с учётом того, что мы, наверное, и на половину не постигли, как он устроен, у нас и нет для этого объективных оснований... ну разве что эта ваша эпистемическая безответственность))

А почему вы относитесь к этой так называемой эпистемической безответственности исключительно как к проблеме, которую надо решать? Если человечество живёт с этим, судя по всему, на протяжении всего своего существования, вам не приходила мысль, что, может быть, это не просто так?

Это рассуждение по индукции, которое не имеет смысла. Точно также можно было сказать про письмо. Когда Кирилл и Мефодий пришли к славянам, они могли бы возразить: вы не задумывались, почему мы жили до этого без письменности? Может быть, это не просто так? Эпистемическая ответственность -- это (под)дисциплина интеллекта, часть логики, сравнимая с письмом и счетом (John Vervaeke называет их "psycho-technologies").

До сих пор ведь не известно досконально, как работает человеческое сознание. При этом однобокое рассмотрение эпистемической безответственности исключительно как проблемы без всяких "а что если?..." разве само по себе не является эпистемической безответственностью?

Непонятный совершенно прыжок. При этом, из этой цитаты становится понятно, что вы сами не знакомы с попперианской эпистемологией. Об этом даже есть прямо в этом посте, в цитате Дойча: пока теория активного познания (Active Inference) и объяснение эпистемической безответственности, предложенное мной на ее основе, не опровергнуты, их или надо воспринимать всерьез, или искать опровержения (а не "доказательства"!), или предложить другую теорию и другое объяснение, которые еще лучше.

Вот например, исключительно как одно из предположений, и самое очевидное и простое. Что если эта ваша эпистемическая безответственность является своеобразным предохранителем от перегрузок? Ведь очевидно, что в любой более-менее непростой ситуации вычислительных способностей человеческого мозга может не хватить на анализ всех возможных факторов и исходов. Поэтому мы наименее вероятное округляем до невероятного, доверяемся чужому мнению, принимая его за компетентное, при любой возможности экстраполируем имеющийся опыт на новые ситуации, и т.п... Да и что говорить о сложных ситуациях? Уже, ведь, общеизвестно, что человеческое мышление заточено на максимальное сохранение энергии. В этом свете эта ваша эпистемическая безответственность уже выглядит вполне уместной. Особенно учитывая, что её последствия, на самом деле, далеко не всегда бывают вредоносными.

Вы тут пересказали один из разделов поста. К чему тогда вопрос "что если"?

А почему вы совершенно не рассматриваете психологический фактор? (или я это упустил...) Ведь очевидно, что с психологической точки зрения эпистемическая безответственность - прекрасный механизм защиты от нервного срыва (который, в свою очередь, может привести к гораздо более нерациональным поступкам). Опять же, очевидно, что в таком случае уровень эпистемической безответственности каждого человека будет напрямую зависеть от его психического здоровья и стрессоустойчивости. Кстати, ярчайший тому пример - текущая ситуация в мире. Думаю каждый уже успел поразиться, какие порой невероятные аргументы находят люди чтобы занять ту или иную сторону, напрочь отметая при этом любую противоречащую им информацию.

С одной стороны, хочется ответить, что "психологический срыв" (а точнее, "крушение картины мира", вряд ли речь идет именно о "срыве") -- это вариант "цены обновления модели", про которую я писал в посте. С другой стороны, вы поднимаете интересный вопрос -- а почему люди настолько сильно отождествляются с представлениями о стране, о президенте, почему это становится частью их идентичности, хотя ясно, что это не сильно или вообще никак не влияет на их каждодневное выживание, и даже карьеру? Ответ мне неизвестен, но мне было бы интересно узнать мнение профессиональных психологов и социологов на этот счет. Также, этот ответ, в принципе, может поставить под сомнение теорию активного сознания, если его будет очень сложно объяснить в рамках этой теории.

Конечно, эти все мои гипотезы могут быть и ошибочными. Но в чём я уверен, так это в том, что не мог бы такой грандиозный баг сохраняться на протяжении тысячелетий, не будь от него какой-то пользы (и это я ещё не сторонник теории эволюции). Да и в целом, человек - сложнейшее существо во вселенной (по крайней мере, из всех нам известных).

Этот аргумент, "эволюция не может ошибаться", хорошо обсуждают (и опровергают) Бостром со товарищи тут: https://nickbostrom.com/evolutionary-optimality.pdf. Хотя, как я написал выше, он тут в любом случае не применим, потому что человечество вообще что-то начало понимать про логику очень недавно, по эволюционным меркам.

и это я ещё не сторонник теории эволюции

Это тоже зря.

Это рассуждение по индукции, которое не имеет смысла. Точно также можно было сказать про письмо. Когда Кирилл и Мефодий пришли к славянам, они могли бы возразить: вы не задумывались, почему мы жили до этого без письменности? Может быть, это не просто так? Эпистемическая ответственность -- это (под)дисциплина интеллекта, часть логики, сравнимая с письмом и счетом (John Vervaeke называет их "psycho-technologies").

Что если сверх-разумное существо подберёт такой набор аргументов (аналог вируса для рационально-мыслящих), который приведёт к самоуничтожению или извращению рационального человечества?

Ну, плохо будет. Как это связано с постом? Рассуждение не меняется: люди должны анализировать дисциплины/psycho-technologies, которые они применяют, в том числе на долгосрочные риски (не приведет ли использование этих дисциплин/psycho-technologies к "самоуничтожению и развращению"). Такие дисциплины/psycho-technologies не обязательно должны быть изобретены сверхразумом: уже сейчас, разные люди считают, что есть идеи и практики, которые приведут к самоуничтожению: от капитализма и финансовой системы (см. https://slatestarcodex.com/2014/07/30/meditations-on-moloch/) до собственно, самого рационализма и следующего из него агностицизма/атеизма: религиозные фундаменталисты уверены, что это самые вредные из идей.

Каждому человеку по отдельности, компаниям, сообществам, обществам, и человечеству в любом случае всегда надо будет "жить своей головой", плюс компьютерами, которым они доверяют.

Рисками того, что сильный ИИ будет особо заинтересован извести человечество занимаются в сфере AGI safety/AI alignment.

Точно также можно было сказать про письмо

Только пользу от безграмотности найти будет посложнее) Мой то вопрос в том, действительно ли рассматриваемое явление является вредным...

пока теория активного познания (Active Inference) и объяснение эпистемической безответственности, предложенное мной на ее основе, не опровергнуты, их или надо воспринимать всерьез, или искать опровержения (а не "доказательства"!), или предложить другую теорию и другое объяснение, которые еще лучше.

Ну так я и предложил целых две теории)

Вы тут пересказали один из разделов поста. К чему тогда вопрос "что если"?

Возможно я что-то не так понял, или недоуловил в том разделе. Но если в нём действительно написано то же самое, что я имел в виду, то как он у вас вяжется с теорией о том, что эпистемическая безответственность - это плохо? По моей логике, он, как раз, должен доказывать, что она необходима.

точнее, "крушение картины мира", вряд ли речь идет именно о "срыве"

Я не имел в виду конкретно не того, ни другого. Я имел в виду в целом психические состояния, характеризуемые определёнными последствиями для человека - от совершения необдуманных и нерациональных поступков до сердечного приступа или лишения рассудка. Это ключевой момент, потому что мой вопрос в том, что на самом деле рациональнее: довести себя до одного из этих состояний, делая всё правильно и по логике, либо абстрагироваться от раздражителей, и (возможно) понести за это закономерное возмездие (к которому, кстати, человек будет подсознательно более готов, и поэтому перенесёт его легче). А тут ещё, кстати, неплохо бы порассуждать на тему, что в принципе для человека представляет наибольшую ценность - психическое здоровье (душевное состояние), физическое здоровье, или материальные ценности. Ведь в неблагоприятных ситуациях человек бывает вынужден жертвовать именно одной из этих вещей. И от того будет ли он эпистемически ответственен или безответственен зависит, чем именно он пожертвует. Соответственно, если он пожертвует не самым ценным, используемую стратегию можно считать верной.

почему люди настолько сильно отождествляются с представлениями о стране, о президенте, почему это становится частью их идентичности, хотя ясно, что это не сильно или вообще никак не влияет на их каждодневное выживание, и даже карьеру? Ответ мне неизвестен, но мне было бы интересно узнать мнение профессиональных психологов и социологов на этот счет

Ну я не психолог и не социолог. Поэтому могу лишь поделиться своим скромным мнением на этот счёт. Это, кстати, перекликается с моим отношением к предмету вашей статьи, поэтому, я думаю, будет уместно. Говорят, у человека помимо базовых потребностей, таких как выжить, есть ещё и духовные. Вот, видимо, перечисленные вами явления и удовлетворяют часть этих духовных потребностей. Лично я считаю, что существовать человеку ради удовлетворения своих базовых потребностей абсолютно бессмысленно. Ну а чтобы удовлетворить духовные потребности (читай - наполнить жизнь смыслом), такие как, например, быть нужным, полезным, любимым, неизбежно придётся отождествиться с определённой частью общества, их понятиями, ценностями, и т.д... Вообще, говорят, человек - существо социальное... Наверное не просто так говорят))

человечество вообще что-то начало понимать про логику очень недавно, по эволюционным меркам

Возможно. Но если так, то про психологию человечество понимает и того меньше. И я, опять же, не понимаю, как можно уделять этому так мало внимания в вопросе, который, по сути, является именно психологическим. Зачем в принципе психологию пытаться объяснить с точки зрения логики, не зная при этом досконально ни того не другого? Это, извините меня, получается какой-то ералаш...

Это тоже зря

Отнюдь, у меня на это есть веские причины. Но это, как говорится, уже совсем другая история...

Мой то вопрос в том, действительно ли рассматриваемое явление является вредным..

Я сделал в посте несколько спекулятивное предположение, что проблемы с изменением климата - во многом, результат эпистемической безответственности на цивилизационном уровне. Засилие по всему миру политиков-популистов - тоже. Фейк ньюс, манипуляция мнением - тоже (если бы большинство населения было бы эпистемически ответственны в той же мере, в которой они грамотны, никакие фейк ньюс бы не выжили). Войны - тоже.

Так что вред от эпистемической безответственности огромен, хотя его и сложно сопоставить с вредом от безграмотности: при тотально безграмотном населении, у нас была бы примитивная экономика с ВВП от силы 1000$ в год.

Ну так я и предложил целых две теории)

А я ответил, что ваши объяснения являются частными случаями или следствиями моего объяснения.

Возможно я что-то не так понял, или недоуловил в том разделе. Но если в нём действительно написано то же самое, что я имел в виду, то как он у вас вяжется с теорией о том, что эпистемическая безответственность - это плохо? По моей логике, он, как раз, должен доказывать, что она необходима.

Мое объяснение представляет кажущуюся иррациональность как рациональность, если учитывать соображения из активного познания. И нужна дисциплина, чтобы такие "псевдо-иррациональности" жестко у себя отслеживать и исправлять их в нужные моменты. В посте же речь о проблеме научения людей хотя бы этому. Потому что интуитивное поведение очень сильно сбоит. Примеры выше: климатический кризис, популисты, фейк-ньюс, войны.

Я не имел в виду конкретно не того, ни другого. Я имел в виду в целом психические состояния, характеризуемые определёнными последствиями для человека - от совершения необдуманных и нерациональных поступков до сердечного приступа или лишения рассудка.

Говорите, что не имели ввиду, но продолжаете писать про сердечный приступ и лишение рассудка. Я сильно сомневаюсь, что люди, которые сейчас поддерживают российскую власть, реально рискуют тем или другим, если они изменят свое мнение. И если да, то ничтожный процент. Собственно, таких людей, меняющих мнение сейчас -- хватает. Вопрос, почему их не сильно больше, почему это, грубо говоря, не все население, кроме силовиков и представителей власти - про последних понятно, они слишком сильно встроены в систему. Да и то, там тоже есть варианты.

Ну а чтобы удовлетворить духовные потребности (читай - наполнить жизнь смыслом), такие как, например, быть нужным, полезным, любимым, неизбежно придётся отождествиться с определённой частью общества, их понятиями, ценностями, и т.д... Вообще, говорят, человек - существо социальное...

Нелогичный переход: чтобы быть нужным, полезным, и любимым, не нужно ни с кем отождествляться, тем более, со властью и курсом страны. Но про смысл - согласен, вероятно, это идея в нужном направлении. Помнится, социологи и психологи говорили об идее величия страны, которая хорошо продается, потому что маскирует собственную плохую жизнь.

Зачем в принципе психологию пытаться объяснить с точки зрения логики, не зная при этом досконально ни того не другого? Это, извините меня, получается какой-то ералаш...

Я не пытаюсь "объяснить психологию с точки зрения логики". Вы все еще поняли достаточно мало из поста. И ералаш получается как раз в ваших комментариях из-за этого.

>Войны - тоже
⇒Вы имеете в виду, что люди отказались бы становиться солдатами, поняв, что их используют? Или что войны не логичны?

Имею ввиду, что войны не рациональны (и не этичны) как способ решения проблем, какими бы эти проблемы не были.

а почему люди настолько сильно отождествляются с представлениями о стране, о президенте, почему это становится частью их идентичности, хотя ясно, что это не сильно или вообще никак не влияет на их каждодневное выживание, и даже карьеру?

Как это не влияет на выживание? Государства во главе с диктаторами тысячелетиями убивали и гнобили тех людей, кто не хотел отождествляться с ними, быть с ними заодно. За такой большой промежуток времени селекции желание "быть частью стаи" могло закрепиться буквально в генах, так же как страх высоты имеет явно генетическую природу.

Я пишу о сегодняшнем дне, естественно. Сейчас, поддерживает бабушка-пенсионерка Путина, или она ярая либералка - на ее выживание никак не влияет абсолютно, она будет получать одинаковую пенсию. То же самое, в принципе, касается всей массы населения, кроме тех, кто встроен во властно-силовую систему: силовиков и чиновников.

Я пишу о сегодняшнем дне, естественно.

Как будто сегодня какое-то особенно дно :)


Сейчас, поддерживает бабушка-пенсионерка Путина, или она ярая либералка — на ее выживание никак не влияет абсолютно, она будет получать одинаковую пенсию.

Вы смотрите на "сейчас", а надо рассматривать и "завтра". Пока бабке платят пенсию, статистически более вероятно, что она будет конформисткой и будет топить за сохранение статус-кво, яростно выступая за текущую власть и против любых перемен, потому что она подкоркой чует, что изменения несут ей риски, справиться с которыми у неё может не хватить ресурсов.

Можно же держать фигу в кармане. Как в советском союзе. Никак на стабильность режима твоя фига не может провлиять даже теоретически. Но нет, топят за власть искренне.

Считаю, что статья больше ориентирована на поддержку единомышленниками. Типа "как здорово, что мы все такие тут просветленные и знаем, что другие не такие". То есть эзотерика.
Если же не разделять точку мнения автора, то вовлечься в "круг истины" достаточно сложно.
И немного своего ИМХО, на истину не претендую. Даже не "психолог", а риэлтор с 10+ стажем сделок, где люди принимают СЛОЖНЫЕ решения. Как говорил незыблемый Карл Маркс "Критерий истины - практика". В статье достаточно мало практики - и ее много в жизни вокруг!
Итак:
Я считаю, что большинство решений людьми принимаются иррационально. А те, которые "рациональные" на какой-то итерации "Зачем?" упираются в нерациональное верование "А потому что!". В основном верования агрегируют сложные размышления в простую конструкцию - функцию/процедуру. И здорово экономят время. Когда функция перестает решать задачу - наступаешь на старые грабли - то внутриличностный кризис (или просто стресс) и перелопачивание опыта.
В статье решения направлены в будущее - априори неизвестное! Потому они изначально не могут быть рациональными - есть неизвестные, которые похерят любой план. Это булгаковское "все смертны, причем внезапно!" и мой многочисленный опыт развалившихся сделок. Мой коммент именно о том, что решения о будущем не могут быть рациональными априори!
И о книгах. Почему-то из статьи сложилось впечатление, что если авторы умные, то и внутри книги обязательно что-то умное. Книга - просто работа, и выражает не то, что автор думает, а то что он хотел написать! Нужно всегда критически оценивать содержимое. Например, я вообще не согласен, что "развитие" и "добро" тождественны. Да, мне нравится учиться, а другому нет - и он не становится человеком "хуже"!

решения направлены в будущее — априори неизвестное! Потому они изначально не могут быть рациональными — есть неизвестные, которые похерят любой план.

Вполне могут. Вы путаетете рациональность с детерминизмом. Рациональный план — это не обязательно тот, который непременно выполнится. Рациональный план — это план, имеющий наилучшее соотношение бенефитов к рискам, в сравнении со всеми доступными альтернативными планами, с учётом всей информации, доступной на момент анализа, сделанного с использованием наилучших доступных моделей.


В слове "доступный" учитывается и то, что у вас просто нет всей информации о будущем, и то, что у вас может не быть достаточно ресурсов (сил, времени, умений), чтобы проанализировать всю уже имеющуюся информацию и продумать все альтернативные планы, и что вы даже ограничены в том, чтобы окончательно разобраться, что для вас является бенефитом, а что — риском. Что сумели проанализировать, то сумели — но из того, что сумели, рационально выбрать лучшее, а не абы как наобум, или бросанием монетки, или следованием традициям и проч.

Согласен с вами в уточнениях. Разумеется, я также стремлюсь действовать "разумно" и строю разные "рациональные планы". И, разумеется, строить рациональные планы нужно с учетом того, что информация о будущем всегда неполная - и все равно строим!
В принципе, эта данность есть всегда - и не требует обоснования!
Но далее мы разворачиваемся в разные стороны. Вы обосновываете приведенную бытовую данность "необходимостью развития" и ваш выбор - "рациональность". А мое утверждение - "выбор направления сам по себе не рационален!". Типа я настаиваю (ИМХО, канеш), что сам мир не требует рациональности, и любой выбор может быть любым. И, соответственно, развитие как и энтропия - неизбежны. Но если кто-то выбирает "хтонь и забвение" - то такой выбор ничем не хуже предложенного вами, а просто вкусовщина!
Потому мои слова первого коммента о эзотерическом знании - вы предлагаете "рациональность действий" как истину, а это уже очень сильное допущение. И те, кто разделяет вашу позицию - им статья как приятное поглаживание. А не разделяющим - ересь!

вы предлагаете "рациональность действий" как истину

Рациональность — это не истина, это метод попытаться по-возможности прожить подольше и поприятнее, и оставить потомство получше. Если кому-то этого не надо, то я не настаиваю :) Но, когда я последний раз проверял, мир хоть и не требует рациональности, но более благосклонен к ней.

Ага. И я вот об этом. Один из методов прожить. И вкусовщина в выборе метода. Тут у нас нет расхождений.
И я о том, что сам выбор метода проживания - иррациональный! Если за каждым решением позадавать себе рефлексивные "Зачем?", то обнаруживается иррациональное "А хочу!". И вся рациональность жизни опирается на наборе ресурсов и в задачи их оптимизации. То есть ваши тезисы однозначно истинны на каком-то наборе ресурсов и временных рамках. А чуть выйдешь за рамки условий, то сплошная нерациональность. Как-то так...

Один из методов прожить. И вкусовщина в выборе метода. Тут у нас нет расхождений.

Я думаю расхождение есть. Вкусовщина — это когда, по большому счёту, все альтернативы более-менее одинаковы, и нету особой разницы, что выбрать. Шоколадное мороженое или пломбир. Чёрные туфли или коричневые.


Но в выборе между рациональностью и нерациональностью разница есть и довольно существенная: менее рациональные особи живут в среднем меньше, беднее и хуже, а более рациональные используют их слабости, эмоции, незнание, верования для своих целей, не всегда благопристойных. Т.е. это не просто волюнтаристское "я хочу" — это "я хочу жить, и жить хорошо, и примерно понимаю, как этого добиться". Жизнь — наивысшая ценность, тяга к жизни в нас прописана генетически, так что рациональность — это механизм, помогающий достичь этой цели, а не просто какая-то прихоть, от которой можно легко отказаться.

Думаю, что вкусовщина именно в том, что при "типа равны" кто-то выберет что-то свое. Кто-то выберет только черные туфли, при этом коричневые - ничуть не хуже.
Далее вы просто рационализируете свой личный выбор - "живут меньше, беднее и хуже". Это имеет значение в системе ваших ценностей. Да, это общепринятые современные ценности, но они действуют в каких-то заданных условиях и в конкретном обществе. Я тоже разделяю их. Но помню, что бывают ситуации, где ценности нивелируются. И даже добавлю, что общая формула звучит так: "Быть молодым, богатым и здоровым лучше чем старым, нищим и больным".
Моя претензия к статье в том, что она манипулирует. Превозносит эту бытовую мудрость в ранг единственной - типа "абсолют же". И далее приведены штрихи "праведной жизни". То есть уже нерациональное верование. Ок, верьте, но не называйте это единственной истиной.
Добавлю, что ваша рациональная система верований станет нерациональной в других условиях. Вы сами называете ее только методом. И кто-то другой, действуя с вашей точки зрения нерационально, будет рационален в своей системе ценностей. Про последний абзац - это также только часть ценностей + оценочное суждение. Вы оцениваете количественно - больше дней, больше денег... Но любое "как?" в другой системе ценностей перевернет все с головы на ноги. И ваше ИМХО будет аннулировано другим ИМХО. Жизнь - высшая ценность, потому тратят ее иррационально - кто-то на себя, кто-то на детей, кто-то на науку, кто-то на путешествия, а некоторые вообще ложатся на гранату во имя собственных ценностей.
По теме "более успешных vs нерациональных" - я в восторге от треугольника Карпмана. Весь мир всю жизнь играет в эту игру. А отдельный цимес в том, что каждый - по своим правилам!

вы просто рационализируете свой личный выбор — "живут меньше, беднее и хуже". Это имеет значение в системе ваших ценностей.

Без жизни никакие другие ценности не имеют смысла, потому что мёртвые ценностей не имеют. Желание жить дольше и лучше других, давая потомство, которое также будет способно продолжить это цепочку жизни лучше других — это базовая ценность, фундаментальная и объективная, диктуемая нам эволюцией. Все остальные ценности — вторичны по отношению к ней.

Так, а вот в тут мы приходим к интересному моменту:
давая потомство, которое также будет способно продолжить это цепочку жизни лучше других — это базовая ценность, фундаментальная и объективная, диктуемая нам эволюцией.
Во-первых эволюция сама по себе не рациональна, это понятие к ней не применимо. Откуда напрашивается вывод, что критерий поведения исходя из логики эволюции рациональным тоже не является.
Во-вторых. Вкладывание своих ресурсов, сил и времени в воспитание потомства в современном обществе НЕ рационально, так как существуют более выгодные стратегии обеспечения своей поддержки в старости.
эволюция сама по себе не рациональна

Читайте внимательнее: я нигде не утверждал, что эволюция рациональна. Рациональность — это способ нашего выживания, отличающийся от других способов усиленным использованием мозгов и абстрактных моделей.


Вкладывание своих ресурсов, сил и времени в воспитание потомства в современном обществе НЕ рационально, так как существуют более выгодные стратегии обеспечения своей поддержки в старости.

Ещё раз: читайте внимательнее. Я пишу о стратегиях полного воспроизводства жизни. Стратегии, максимизирующие исключительно ваше благополучие и игнорирующие благополучие вашего потомства — это эволюционно тупиковые стратегии. Вы вольны их выбрать, но это не будет самым рациональным выбором.

Все зависит исключительно с вашей точки зрения. Если с точки зрения эволюции рода - не рационально. С точки зрения отдельной биологической особи - зависит, конечно, от персональной этики, психологии, условий жизни, и т. д., но, в общем случае, это может быть вполне рациональным. Конфликт "рациональностей" между системными уровнями - это нормальная ситуация, не случайно книга Докинза названа The Selfish Gene. Более современное перечисление подобных конфликтов я встречал у Сапольского.

Рациональность - это нормативная дисциплина, а не научное описание людей или эволюции. Поэтому бесмысленно говорить, что эволюция (лучше сказать - род, который можно рассматривать в очень узком смысле, как "род моего деда", так и в очень широком, как "род биологической жизни на земле". Можно представить, что род - это физическая система, и наделить его степенью агентности. А абстрактную эволюцию - нельзя) "рациональна" или нет, как и бесмысленно говорить, рационален ли конкретный человек или нет. Но есть смысл говорить, что род или отдельный человек должны делать, по сравнению с тем, что они делают по факту сейчас (нормативность).

Я не очень силен в философской терминологии, но имхо рациональность имеет смысл рассматривать только в том случае если есть какая-то цель. Тогда некоторый набор моделей поведения будет способствовать достижению этой цели и его можно считать в этом случае рациональным.
Если человеку в принципе не интересно оставить потомство в силу своих каких-то убеждений, то нельзя рассматривать эти убеждения и соответствующую модель поведения с позиции рациональности.
Вот если человек потомство хочет, но при этом категорически избегает общения с противоположным полом — вот это уже иррационально, так как модель поведения противоречит поставленным целям.

Рациональность - это про критику любых теорий, а не только планов (хотя план можно считать частным случаем теории, или, если точнее, производным продуктом от какой-то предсказательной теории развития событий).

Поэтому если есть "цель" создать модель чего бы то ни было, какую угодно, то нужна рациональность. Так как человек создает и обновляет модели почти все время, рациональность тоже нужна почти все время.

Убеждение не иметь детей должно как-то соответствовать всем другим моделям, которыми оперирует человек, в том числе, его этикой (которая - тоже модель). И вот этот весь набор моделей может быть прокритикован с точки зрения рациональности, в нем могут быть найдены логические ошибки.

Без жизни никакие другие ценности не имеют смысла

Ок, но это современный культурный контекст общества. В религиозном мировоззрении основная жизнь по другую сторону смерти только начинается. У кого-то - кармические круги перерождения. То есть ваши утверждения истинны в каких-то рамках.

В религиозном мировоззрении основная жизнь по другую сторону смерти только начинается.

Какое отношение религия имеет к рациональности? Это дурацкая модель мира, и следование ей — иррационально. Я понимаю, если человек не имеет доступа к лучшим моделям мира (не умеет читать, рос в религиозной среде без доступа к научным знаниям) — в условиях "информационного пузыря" его действия могут считаться рациональными, ибо это единственная доступная модель. Скажем, "пари Паскаля" можно считать рациональной стратегией в условиях средневековья (хотя тоже не очень). Но в современном культурном контексте общества это просто та самая "эпистемическая безответственность".

"Рационализм лучше религии" - только в вашем наборе ценностей. Субъективное оценочное суждение. У религиозного человека ваш набор ценностей будет непривлекательным. При этом религиозный человек есть в современном обществе, потому ваша позиция - лишь одна из возможных.
Субъективна и иррациональна сама оценка мира. И "лучше/хуже" - только ваше личное мнение.

Субъективное оценочное суждение.

Перечитайте тред, я не хочу повторять то, что я уже написал насчёт объективной ценности жизни.


ваша позиция — лишь одна из возможных.

Да-да, а гравитация — это просто мнение.

Рациональность и религия - это ложное противопоставление. Религия - это больше про этику, чем про модели мира (да, изначально они пытались и в то, и в другое, но не вышло). Рациональность, в общем случае, ортогональна этике - можно прицепить рациональность к любой этике. Просто по факту, многие религии еще и очень догматичны, и в "цельном" виде просто не проходят элементарную проверку рациональностью. Но в Америке, например, много ученых, философов, и просто серьезных людей, которых нельзя обвинить в завзятой иррациональности, и которые все-таки считают себя христианами и следуют некому варианту христианской этики, но выкидывают по пути креационизм, воскрешение, плоть и кровь господню, и т. д.

Религиозное мировоззрение - тоже не окончательная истина. Их вокруг много.
Конкретно в нашей дискуссии рациональность - это одно из религиозных мировоззрений, где вычеркнута загробная жизнь. Это даже не "воинствующий атеизм", а "приспособленчество". Я его частично разделяю, но...
...решения люди принимают не головой, как вы утверждаете, а жопой!
И даже на бытовом уровне. Сначала принимают иррациональное решение, а потом рационализируют его - потому что так принято в культуре.

Конкретно в нашей дискуссии рациональность — одно из религиозных мировоззрений

Может в вашей так, а в моей дискуссии рациональность — это метод мышления и планирования, использующий логические и математические модели вместо эмоций, а вместо веры — оценки правдоподобия разных моделей.


где вычеркнута загробная жизнь.

"Лысый — это цвет волос". Не бывает веры в отсутствие чего-то, что не наблюдалось. Иначе придётся утверждать, что я верю в отсутствие бесконечного количества чепухи, каждой по отдельности. У меня нет столько нейронов, чтобы выделять особое верование для каждой их них.

Ладушки. Спасибо за беседу. И закончим, а то по терминам придется договариваться. Ваша позиция мне близка на бытовом уровне, потому и не планирую ожесточенно спорить. Но жить без иррационального мне представляется слишком скучным.

Дык, разве я запрещаю иррациональное? :) Я всего лишь выступаю против утверждений вроде "любой выбор — иррационален" (или близкородственного ему "атеизм — это тоже религия").

Желание жить "хорошо" (= иметь позитивный сознательный опыт) не диктуется эволюцией - многие виды фактически всю свою жизнь страдают, чтобы оставить потомство. Да и люди, зачастую, тоже. Вот желание дать потомство - да, "диктуется" эволюцией, но это даже сомнительная ценность (разве что в религиозных этиках) - в других этиках, ценностью скорее является позитивный сознательный опыт. Дать потомство - это лишь способ приумножить количество этой ценности. В будущем, это может замениться на что-то типа инженерию и репликацию "идеальных" агентов с сознанием, не являющихся, в генетическом смысле, "потомством" своих создателей. Просто сейчас человечество крайне ограничено в дизайнерских возможностях.

Наконец, никакая ценность не является "объективной", ценность всегда субъективна (ethical anti-realism).

многие виды фактически всю свою жизнь страдают, чтобы оставить потомство.

Мы не знаем, страдают ли они, или наслаждаются :) Некоторые даже считают, что животные не испытывают особых страданий, хотя конечно чувствуют боль.


Вот желание дать потомство — да, "диктуется" эволюцией, но это даже сомнительная ценность

По-моему, это ультимативная ценность, так как именно что диктуется и не существует никакой стратегии это обойти. Но у людей есть ещё и меметическая эволюция и расширенный фенотип, так что и понятие "оставить потомство" можно иногда расширить до "максимально распространить свои мемы". Т.е. всякие активисты, проповедники и миссионеры в этом смысле действуют вполне рационально даже в условиях целибата — пока целью их учений не является прекратить род человеческий, уничтожив ресурсную базу меметической эволюции.

По-моему, это ультимативная ценность, так как именно что диктуется и не существует никакой стратегии это обойти.

Ваше право определять ценность для себя таким образом, но замечу, что это очень странный подход к аксиологии. Иначе мы должны принимать за ценность то, что диктуется диктатором страны. "Существование стратегии обхода диктата" - тоже странный дополнительный критерий для определения того, что является ценностью, а что нет. Даже не беря в рассчет то, что биологическую эволюцию человека уже можно "обойти" - CRISPR, потом будут (ну или принципиально могут быть, если законодательство позволит) всякие дети в пробирке и mind upload.

Но у людей есть ещё и меметическая эволюция и расширенный фенотип, так что и понятие "оставить потомство" можно иногда расширить до "максимально распространить свои мемы". Т.е. всякие активисты, проповедники и миссионеры в этом смысле действуют вполне рационально даже в условиях целибата — пока целью их учений не является прекратить род человеческий, уничтожив ресурсную базу меметической эволюции.

У вас тут в голове каша. Расширенный фенотип (мой телефон, мое жилье, моя машина) - это одно. А мемы "есть у" сообществ и обществ, а не отдельных людей. Отдельные люди - это преносчики, а не "владельцы" мемов. Возводить репликацию мемов как таковую в ранг ценности - тоже странная идея, если репликация этих мемов не ведет к росту каких-то конечных (intrinsic) ценностей - положительного опыта, гармонии, разнообразия, и т. д. И надо очень внимательно считать, принесло ли распространение авраамических религий больше мира/счастья (меньше убийств, грабежей, изнасилований в сообществах) или страданий (крестовые походы и прочие идеологически мотивированные войны). Сапольски в "Behave" это очень подробно обсуждает.

это очень странный подход к аксиологии. Иначе мы должны принимать за ценность то, что диктуется диктатором страны.

Это бузина в огороде.


Я уже писал: жизнь и её воспроизводство является ультимативной ценностью, потому что без жизни никаких ценностей, никакой аксиологии, никаких подходов не существует. Вообще. Вы просто не можете о них рассуждать, не живя, принципиально. Всё бессмысленно без жизни, даже после-жизнь. Это объективный факт, а не какая-то аксиология. Не мы его определяем для себя, это он определяет нас. И если какая-то ценность идёт против воспроизводства жизни (хоть традиционного, хоть через CRISPR, хоть через переселение в бессмертных киборгов), то это аксиоматическое зло. Я не знаю, как ещё яснее донести эту мысль, поэтому больше повторять не буду. Если это не понятно, то говорить просто не о чем.


Возводить репликацию мемов как таковую в ранг ценности — тоже странная идея

Я разве писал, что это ценность сама по себе, безусловно? Я как раз написал "пока целью их учений не является прекратить род человеческий, уничтожив ресурсную базу меметической эволюции"

Вы не замечаете простой логической ошибки в своих рассуждениях: "воспроизводство жизни - аксиоматическая ценность, потому что без жизни никакой ценности нет", "переселение киборгов против воспроизводства жизни, поэтому это аксиоматическое зло". Так переселение киборгов позволяет тоже поддерживать жизнь, причем условно-бесконечно! И позволяет дизайнить опыт, который может на порядки превосходить по "количеству" и "качеству" опыт одного человека с его несовершенством и ограниченным мозгом (где как много и гениальных изобретений, так и много проблемных костылей и "технического долга", существенно омрачающего жизнь людей в среднем)

переселение киборгов против воспроизводства жизни

Нет, переселение в киборгов — это продолжение жизни на другом субстрате. Никакого противоречия нет.

С опозданием родилось немного букофф к обоснованию моего первого коммента.
Обычно сначала идёт "я хочу жить лучше", а потом "поэтому я буду делать так". То есть оценочное суждение идет впереди плана действий. Таким образом ваше "рациональное поведение" становится рациональным только после вашей одобрительной оценки. Оценочное суждение "лучше" является первичным. И "правильный метод жизни" уже подбирается к оценке.
Думаю, что можно выделить отдельно "рациональную оценку", которая именно про оптимизацию ресурсов. Оценка "хочу жить лучше, и не хочу хуже" основана на культурном контексте общества и большой части зависит от нервной и гормональной деятельности организма (пусть будет ИМХО). Потому такая оценка не может быть рациональной. А зависит от набора ценностей общества, которые вариабельны и зависят в том числе от климата проживания.
Потому я родил свой первый коммент именно в том, что "рациональная оценка" является минимум третьей по рангу. И относится к уровню оценки оптимального распределения ресурсов.
А оценка "эпистемической безответственности" в статье взывает к первичной нерациональной оценке "я - хороший". Такая вот подмена понятий. Именно в этом я вижу манипуляцию.
Мой тезис о том, что можно как-то оценивать себя и испытывать угрызения совести из-за безответственности. Можно оценить себя по-другому, и взвалить на себя бремя ответственности за мир вокруг (и избирательно игнорировать другие виды ответственности - такое обычное поведение!). Можно вообще себя не оценивать, вести себя нерационально - и при этом быть хорошим для мира человеком!
Так как оценка в базе своей иррациональна, то можно игнорировать рациональность и поступать себя... как хочешь!

Спасибо, очень интересная статья.
Давно задумывался о процессе получения знаний как некотором "дополнении" ментальной модели.
Как и о нерациональных действиях людей, которые знают факты, но не могут принять качественные решения из-за неких установок или слишком большой радикальности выводов.
Типичный пример - поддержка убыточных проектов и боязнь закрыть их из-за страха потерь.
Ваша статья увязывает эти случаи.

Поддержка убыточных проектов - типичный случай sunk cost fallacy.

В принципе, все ментальные искажения (cognitive biases) - это шорткаты для экономии когнитивных ресурсов, поэтому полезны в каких-то случаях. Но для отслеживания моментов, когда шорткат или интуитивную реакцию надо заменить на честную рефлексию и осознанное рассуждение, людям обычно не хватает собранности/самоконтроля/само-надзора (self-governance).

Спасибо за интересные ссылки по энергетической цене принятия решений и активному выводу.

На мой взгляд неплохо написано в разделе Five objections в этой публикации.

Неплохо написаны опровержения? Или примерно те же идеи, но другими словами? (за ссылку спасибо, но прочитать ту статью - это большая работа для читателей, было бы полезно, если бы вы чуть-чуть развернули аннотацию)

А как бы выглядела "ответственная" теория познания, на что бы она опиралась?
То есть я в курсе современной рациональности (lesswrong, байесианство, теория принятия решений, теория алгоритмов), и мне кажется, подход в целом рабочий.

Но правда ли он эпистемологически ответственен? Если мы его обосновываем через математические теории (теорвер, теория алгоритмов), то идём от аксиом, которые вообще-то в реальности не факт, что выполняются. Я не подвергаю сейчас сомнению какую-то конкретную аксиому, я ставлю под сомнение сам подход - а нормально ли начинать с математических аксиом?
Если же мы идём от эмпирики, то для перехода от частного к общему требуется индукция. А насколько она обоснована? В смысле считаем ли мы индукцию чем-то вроде аксиомы?

Наконец, мы можем пойти дальше, и проверять, какая теория лучше, через прямые соренования. Провести прямолинейный эксперимент, в котором множество команд будет решать кучу разнородных практических задач, и в итоге (видимо) победят те, кто отталкивается от байесианства. Но если для нас это будет аргументов, то значит, что мы индукцию считаем аргументом (если много раз победил, следовательно, стратегия наилучшая), а правильно ли так подходить?

Мне пока видится, что теория байесианства наиболее поработанная и обоснованная, но её основания не выглядят чем-то настолько же твёрдым, как выводы самого байесианства об окружающей среде.

Sign up to leave a comment.

Articles