Постановка проблемы
Проблема эпистемической безответственности, как я назову ее в этом посте, состоит в том, что люди иногда соглашаются, что их рассуждения (и, следовательно, модели, которых они придерживаются и используют в качестве основы для своих действий) иррациональны или нелогичны. Например, люди сознательно используют уже опровергнутые теории, например, астрологию. Тем не менее, люди не действуют в соответствии с этим знанием и не обновляют свои модели и планы действий.
Более «мягкая» версия этой проблемы возникает, когда люди соглашаются, что они не знают, рациональны ли их рассуждения: например, потому, что они не искали никаких фактов, опровергающих теории, которыми они пользуются, или не пытались придумать какие-либо аргументы, опровергающие их рассуждения или модели. Также, люди могут не знать, как проверить, верна их теория или нет, т. е. не владеют необходимым эпистемологическим аппаратом (хотя эти люди едва ли будут мыслить такими категориями). Затем, люди не действуют в соответствии с этим "знанием о своем незнании". Примерами этой версии проблемы эпистемической безответсвенности могут служить некритическое восприятие людьми новостей в СМИ или заявлений, сделанных политиками, и, в некоторой степени, плохие научные практики, например описанные в эссе Ричарда Фейнмана "Cargo Cult Science".
Анатолий Левенчук называет эту пробему "А чо такова?" и обсуждает этом посте, а также по ссылкам из него.
Проблема эпистемической безответственности, или, скорее, ее антипод - эпистемическая ответственность, - принадлежит к дисциплине нормативной логики, т. е. «дофрегевской» логики, как подчеркивал здесь Джон Сова (John Sowa):
Три вида оценочных суждений — это Красота, Доброта и Истина. Они определяют три вида нормативной науки: эстетику, этику и нормативную логику. Пирс (Pierce) отождествлял нормативную логику с логикой семиотической. Но все науки, включая нормативные науки, зависят от математики и математической логики (она же формальная логика).
Все эмпирические науки, включая нормативные науки, зависят от феноменологии для анализа и интерпретации восприятия. Три части нормативной логики (также известной как семиотическая логика): (1) критическая логика, которая является формальной логикой; (2) грамматика; и (3) методевтика, так Пирс называет методологию науки.
Все эти вопросы подробно обсуждались и анализировались Аристотелем, веками обсуждались греками, римлянами и арабами, а средневековые схоласты довели их до высокого уровня сложности. В книгах под названием «логика» с 13 по 19 века обсуждались все эти вопросы. Но логики 20 века игнорировали все, кроме формальной логики. Они проделали много хорошей работы по логике, но и многое потеряли.
Вот почему я сказал, что они потратили слишком много времени на изучение Фреге (Frege), который игнорировал все, кроме формальной части.
Порочный круг эпистемической безответственности: людей, которые не владеют логикой, сложно убедить выучить логику
В контексте обучения логике, рациональности, и другим "правильным" дисциплинам, например, в Центре прикладной рациональности или других программах, эпистемическая безответственность мешает людям принять решение изначально научиться чему-то из логики и эпистемологии, пойти на какие-то курсы.
Здесь возникает порочный круг, или "проблема курицы и яйца", потому что действовать на основании того факта, что я не владею нормативной логикой (а именно, пойти на курс по нормативной логике) - это все равно, что уже использовать нормативную логику!
В результате, сложно убедить большинство людей прочитать что-нибудь о нормативной логике и рациональности: в лучшем случае они будут очень глубоко в их списках тем для изучения (например, ниже астрологии). Люди отвечают что-то вроде «Я уже успешный человек, почему я должен тратить на это время?» или «У меня нет на это времени, я лучше сразу пойду на курс по программированию или маркетингу». Короткая версия, объединяющая все подобные ответы: "А чо такова?".
Таким образом, эпистемическая безответственность - серьезная преграда для просвещения населения в логике, рациональности, и хорошей науке (например, физики) вместо плохой науки (например, астрологии) в целом.
Признание проблемы в литературе и связанные идеи
Во-первых, я взял название для проблемы «эпистемической безответственности» из этой цитаты Ричарда Хэмминга в «Искусстве заниматься наукой и инженерией»:
Очевидно, что роль людей будет сильно отличаться от традиционной, но многие из вас будут настаивать на старых теориях, которые вы преподавали давно, как будто при этом они будут автоматически верны в будущем. Это может встретиться и в бизнесе, многое из того, чему сейчас обучают, основывается на прошлом и игнорирует компьютерную революцию и наши ответы на некоторые из пороков, которые принесла революция; выгоды, как правило, понятны руководству, а проблемы – в меньшей степени.
Сколько трендов, предсказанных в части 6 выше, в направлении микроменеджмента и вне его, будет широко применяться и снова станет самой подходящей для вас темой? Неизвестно, но вы будете дураком, если не будете уделять этому свое и постоянное внимание. Я предлагаю вам переосмыслить все, что вы когда-либо узнали по этому вопросу, задать вопрос о каждой успешной доктрине из прошлого и, наконец, решить для себя свою будущую применимость. Будда сказал своим ученикам: «Не верьте ничему, независимо от того, где вы это прочитали, или кто это сказал, даже если это сказал я, если это не согласуется с вашим собственным рассудком и вашим собственным здравым смыслом». Я говорю то же самое — вы должны взять на себя ответственность за то, во что верите.
Во-вторых, Мортимер Адлер (Mortimer Adler) пишет в книге «Как читать книгу»:
Суть активного чтения: четыре основных вопроса, которые задает читатель
[…]
1. О чем книга в целом? […]
2. О чем говорится в деталях и как? [...]
3. Сказанное верно полностью или частично? […]
4. Что из этого следует? (What of it?) Если книга дала вам информацию, вы должны спросить о ее важности. Почему автор считает важным знать эти вещи? И если книга не только сообщила вам что-то, но и просветила вас, необходимо продолжать образование, спрашивая, что еще следует, что далее подразумевается или предполагается из этого знания. […]
[…] Последний вопрос — "Что из этого следует?" — вероятно, самый важный в синтопическом чтении (syntopical reading). Естественно, вам придется ответить на первые три вопроса, прежде чем пытаться ответить на последний.
Просто знать эти четыре вопроса недостаточно. Вы должны помнить их и задавать их себе во время чтения. Привычка делать это — признак требовательного читателя. Более того, вы должны знать, как точно ответить на эти вопросы. Натренированная способность делать это и есть искусство чтения.
И затем, в другом месте книги:
Четвертый вопрос, "Что из этого следует?", меняется больше всего. Если после прочтения теоретической книги ваш взгляд на ее предмет более или менее изменился, то вам необходимо внести некоторые коррективы в свой общий взгляд на вещи, "модель мира". (Если никаких корректировок не требуется, то вы вряд ли многому научились из книги.) Но эти корректировки не обязательно должны быть существенными, и они не обязательно подразумевают действия с вашей стороны.
Однако согласие с практической книгой подразумевает действия с вашей стороны. Если вы убеждены автором в том, что цели, которые он предлагает, достойны, и если вы также убеждены в том, что рекомендуемые им средства, вероятно, достигнут этих целей, то трудно понять, как вы можете отказаться действовать так, как предлагает автор.
Конечно, так бывает не всегда. Но в этот момент важно понимать, что, несмотря на его кажущееся согласие с целями автора и принятие его средств, читатель на самом деле с ними не согласен или не принимает их. Если бы он и согласился, и принял цели и средства, предложенные автором, он не может рационально не действовать в соотсветствии с этими целями и средствами. Приведем пример. Если после прочтения второй части этой книги вы (1) согласились с тем, что полезно читать книги аналитически (analytical reading), и (2) приняли правила чтения, изложенные в этой части книги как важные для достижения этой цели, то вы, должно быть, начали пытаться читать так, как мы описали. Если вы этого не сделали, то это не только потому, что вы были ленивы или устали. Это потому, что вы на самом деле не сделали или (1), или (2). […]
Это, конечно, в первую очередь не проблема чтения, а психологическая проблема. Тем не менее психологический факт имеет отношение к тому, насколько эффективно мы читаем практическую книгу, и поэтому мы обсудили этот вопрос здесь.
В-третьих, идея Дэвида Дойча «принимать всерьез теории, которые еще не были опровергнуты» - важный лейтмотив в его книге «Структура реальности». Вот самое начало книги:
Посвящается памяти Карла Поппера, Хью Эверетта и Алана Тьюринга, а также Ричарду Докинзу. В этой книге их идеи восприняты всерьез.
Предисловие
Если и существует единая мотивация для взгляда на мир, изложенного в этой книге, она заключена в том, что главным образом благодаря ряду экстраординарных научных открытий мы обладаем сейчас некоторыми чрезвычайно глубокими теориями о структуре реальности. Если мы хотим понять мир не поверхностно, а более глубоко, нам помогут эти теории и разум, а не наши предрассудки, приобретенные мнения, и даже не здравый смысл. Наши лучшие теории не только истиннее здравого смысла, но в них гораздо больше смысла, чем в здравом смысле. Мы должны воспринимать их серьезно [выделение мое - Роман Левентов]: не просто как практическую основу соответствующих областей, а как объяснение мира.
В-четвертых, связанная идея - "эпистемология принятия рисков" Нассима Талеба. В «Антихрупкости» он написал: «Ты должен делать то, о чем имеешь мнение и говоришь. Отвечай за базар» (оригинал: "You gotta do so if you have an opinion. Live what you say."). Он также говорит, что «истинная добродетель — это взятие рисков». Идея состоит в том, что акторы с плохими идеями «умрут», метафорически или буквально, и, таким образом, хорошее знание и теории будут отобраны параллельно с эволюционным отбором акторов - "переносчиков" этих идей (мемов): людей, компаний и стран.
Корень проблемы — энергетические затраты на обновление ментальных и расширенных моделей
В этом разделе я предлагаю объяснение эпистемической безответственности в терминах активного познания (Active Inference).
Основная формула ожидаемой свободной энергии (expected free energy) включает только «прирост информации» (information gain), связанный с базовой дискриминационной моделью (discriminative model) агента, и «прагматическую ценность» (pragmatic value), связанную с базовой генеративной моделью (generative model) агента. Познающий агент (Active Inference agent) стремится свести к минимуму ожидаемую свободную энергию "c двух сторон": и обновлением своих моделей, и действиями, "подгоняющими реальность под модели".
Однако, если в формуле ожидаемой свободной энергии расписать иерархию модели и попытаться явно описать модельное обучение (model learning) (также известное как метаобучение, meta-learning), в формулу добавляются дополнительные члены. Во-первых, она должен включать прирост информации (information gain) на обновлениях параметров модели (или структуры модели): см. главу 7, раздел 7.5 «Обучение и новизна» в книге "Active Inference". Во-вторых, следует учитывать энергетические затраты на само обновление моделей агента, а они могут быть большими. Есть нейробиологическая цена "перепрошивки" мозга: всем известно, что «забыть» (unlearn) что-то, чтобы выучить вместо этого другое знание, может быть даже сложнее, чем научиться изначально. Также есть энергетические и финансовые затраты во внешнем мире, связанные с тем, что человек что-то устроил в своей жизни (это можно рассматривать как его расширенный фенотип, extended phenotype) в соответствии со своими моделями: например, он начал бизнес, веря в перспективность определенной идеи, или переехал в определенное место, полагая, что климат этого места поможет поправить его здоровье. Закрыть бизнес и уехать обратно - не бесплатно, ни энергетически, ни финансово.
Я думаю, что более формальные варианты этого объяснения эпистемической безответственности можно найти в работах “An information-theoretic perspective on the costs of cognition” (Zenon et al. 2019) and “Resource-rational analysis: Understanding human cognition as the optimal use of limited computational resources” (Lieder and Griffiths 2019). Хотя, признаться, я читал в них только абстракты.
Есть также объяснения эпистемической безответственности с точки зрения когнитивных искажений или психологии, например, что эпистемическая безответственность является своего рода защитной реакцией людей на вопрос типа «Ты не думал пройти курс по рациональности?», который может быть воспринят человеком как предположение, что он нерационален (что, в общем-то, правда, за подобным вопросом действительно обычно скрывается такое предположение). Однако я думаю, что эти объяснения - лишь следствие объяснения через высокую энергетическую цену обновления ментальных и расширенных моделей в реальном мире.
Преодоление эпистемической безответственности у себя требует собранности
Таким образом, если объяснение выше близко к истине, агент должен замечать у себя нарушения "формальной" нормативной логики (не учитывающей цену обновления моделей). Иногда рационально продолжать действовать, руководствуясь устаревшими моделями, которые могут периодически давать неверные предсказания, потому что энергетические затраты на немедленное обновление моделей могут быть выше, чем цена, которую агент заплатит из-за неверных прогнозов старых моделей. По крайней мере, до времени.
Например, если человек, который только что выучился астрологии (прошел платный тренинг для учителей астрологии), внезапно осознает, что астрология — это лженаука, он может решить, что разумно, по крайней мере, завершить семинар по астрологии, который он прямо сейчас проводит. Если он объявит об отмене семинара немедленно, ему нужно будет вернуть все деньги, уже собранные с участников семинара, а также понести разные дополнительные издержки, от юридических до репутационных и жесткого психологического дискомфорта, через который ему придется пройти, объясняясь перед участниками семинара. Тут я замечу, что мы можем считать решение учителя астрологии [продолжить семинар] рациональным, но неэтичным. Включение или невключение этики "внутрь" рациональности - скорее терминологический, чем сущностный вопрос.
Знать корень эпистемической безответственности и рефлексировать о местах в моих моделях мира, где я придерживаюсь «временно иррациональных» убеждений - недостаточно для преодоления в себе этой проблемы. Нужно также иметь дисциплину (собранность), чтобы регулярно возвращаться к этим "нерациональным" местам в своих моделях и решать, когда издержки от применения устаревшей модели начинают перевешивать затраты на обновление модели. Такая дисциплина напоминает «привычку задавать вопросы (в том числе "Что из этого следует?" ) во время чтения», а также «натренированную способность точно отвечать на эти вопросы», о которых писал Адлер в книге «Как читать книгу» .
Этот «рецепт» преодоления эпистемической безответственности в себе не помогает разорвать связанный с ней порочный круг в контексте просвещения, о котором я писал выше, потому что сами объяснения, изложенные в двух предыдущих разделах и по ссылкам в них, требуют некоторого понимания логики, онтологии, эпистемологии и науки о мозге. А порочный круг как раз состоит в том, что людей с эпистемической безответственностью сложно убедить приобрести даже эти знания. Собственно, если бы люди в массе были заинтересованы в приобретении этих знаний, никакой проблемы бы не было.
Эпистемическая безответственность компаний, сообществ, обществ и цивилизации
Можно поставить проблему эпистемической безответственности не только на личностном уровне, но и на более высоких системных уровнях. Независимо от того, можно ли считать компании, сообщества, общества и цивилизацию агентами, кажется осмысленным, по крайней мере, считать их "когнитивными сущностями" или «единицами обработки информации», которые, таким образом, тоже должны использовать нормативную логику и рациональность в своей деятельности.
Например, я думаю, можно рассматривать социальное и политическое противодействие решению проблемы глобального изменения климата (например, отрицание изменения климата), которое началось 40-50 лет назад и продолжается до сих пор, как пример эпистемической безответственности общества и всей цивилизации.
Как разорвать порочный круг эпистемической безответственности?
Я не думал серьезно на эту тему, и у меня нет никаких идей, как мотивировать людей изучать нормативную логику и рациональность, если они отвечают "А чо такова?" на вежливые предложение изучить эти дисциплины.
Буду благодарен, если читатели поделятся своим опытом или идеями о стратегии преодоления этой проблемы на уровне просвещения общества.
