Не от физики, не от типологии не стоит ожидать абсолютной точности. Однако это две разные неточности. Сейчас я стараюсь подтягивать уровень уверенности в модели к балансу свидетельств. Но на одном и том же соотношении свидетельств и наблюдений, уверенность в модели отклоняется в результате когнитивных искажений. Если их скомпенсировать, можно выяснить, что монетка делает предсказания не сильно хуже. Или выяснить, что модель предсказывает некоторые события с точностью до 16 знака после запятой, как в случае с некоторыми физическими моделями.
«Когда люди думали, что Земля плоская, они ошибались. Когда люди думали, что Земля была сферической, они ошибались. Но если вы считаете, что первые и вторые одинаково ошибались, то Вы ошибаетесь больше, чем они все вместе взятые»
Айзек Азимов
Насчёт «слишком серьёзно», вы абсолютно правы. Но насчёт полезной модели стоит вопрос баланса свидетельств. Полезными сегодня я стараюсь признавать модели, имеющие критическую массу доказательств своей эффективности.
Если мы оптимизируем согласованную функцию полезности (то есть принимаем решения последовательно и целенаправленно), то тактическая/ситуативная «проходка по головам» портит нам стратегию. А оптимизация то нам нужна не на уровне конкретного решения («урвать»), а на уровне стратегической цели. Поэтому я и сделал акцент на «дальновидности» рациональности в с статье.
Приведу пример. Раньше достаточно часто играли в настольные игры с друзьями. В настольных играх зачастую создаётся ощущение, что есть «рациональное решение» дать обещание и не выполнить его, ведь оно фактически ведёт к победе. Но рациональность это именно про систематическое выигрывание. А оно будет закрыто в случае «кидка», так как создаст репутацию ненадежного партнера.
Я правильно понимаю, что вы предлагаете вставить определение в статью? Если да, то мне нужно немного покрутить в голове как бы это покороче и поточнее сформулировать. В голове есть пока только ясная, но длинная формулировка с кучей оговорок.
У меня очень скромный литературный бэкграунд по теме (прям вот чтобы выбрать лучшее). Могу только перечислить, что прочитал я и порекомендовать посмотреть вот этот пост (я его как раз с этой же целью создавал).
Что читал (именно по теме):
«Думай медленно, решай быстро» Даниэль Каннеман
«Защита от темных искусств» Александр Панчин (scinquisitor)
«Мир полный демонов, наука как свеча во тьме» Карл Саган
«Рациональность: от ИИ до Зомби» Элиезер Юдковский
«Объясняя религию» Паскаль Буайе
Хм, кажется конформность и кооперативность всё же не одно и то же. Возможно я ошибаюсь, но я вообще не вижу ограничений кооперации напрямую проистекающих из критического мышления.
сама ошибка — это не проблема, важно отношение к ней
Когнитивные искажения свойственны для всех. Спасибо Эволюции. Вопрос признаём ли мы свои прошлые ошибки. А с ними и вероятность того, что ошибаемся прямо сейчас.
Я хотел показать, что помимо намеренного обмана (отлично описанного например в фильме Бориса Соболева «Идущие к чёрту»), очень часто у людей нет злого умысла. Я ведь абсолютно искренне заблуждался и вовсе не извлекал из этого коммерческой выгоды.
Про список мошенников и сект. Я на этапе написания решил, что лучше промолчать про них и не пиарить лишний раз. Поэтому я и пытаюсь объяснить общие для них всех принципы, а не вникнуть в частности.
про эффективность и про наиболее разумный подход к делу
В этом то и соль. Я попробовал задать чуть более конкретные определения словам «эффективность» и «наиболее разумный подход».
100% рациональное поведение для человека невозможно
Однозначно люди не могут быть идеальными байесовскими агентами. Тому есть причины. Но, кажется, стать даже немного рациональнее будет однозначно полезно.
А, так вот о чём речь. Нет, отрицание не является в данном случае определением само по себе. Определение содержится в пункте причины рациональности. Но данное определение покрывает чуть большее пространство, и разбор стереотипов был призван его заузить.
Вполне можно применить. У путешественника есть карта, которая рисует две дороги: одна дорога называется путь рациональности, другая называется тракт иррациональности. Путешественник получает надежную информацию о том, что первая дорога идёт в ад. А ему туда как бы не надо. Поэтому он выбирает ту дорогу, которая ведёт туда, куда ему надо.
То есть он выбирает произвольную цель (не попасть в ад) и двигает к ней исходя из текущей информации о мире. А информация ограничена аксиоматикой задачи.
Вы как будто пытаетесь мне рассказать, как следует решать задачу, не решая ее
Именно этим я и занимаюсь. Я даю общее решение, ведь задача сформулирована без определения какие действия являются рациональными, а какие иррациональными. Что бы вы теперь не назвали иррациональными действиями (ведущими не в ад) я выбираю их в рамках задачи.
Если же по условиям задачи я неизбежно попадаю в ад вне зависимости ни от чего, то у задачи просто нет решения.
Приведу пример. Раньше достаточно часто играли в настольные игры с друзьями. В настольных играх зачастую создаётся ощущение, что есть «рациональное решение» дать обещание и не выполнить его, ведь оно фактически ведёт к победе. Но рациональность это именно про систематическое выигрывание. А оно будет закрыто в случае «кидка», так как создаст репутацию ненадежного партнера.
Что читал (именно по теме):
«Думай медленно, решай быстро» Даниэль Каннеман
«Защита от темных искусств» Александр Панчин (scinquisitor)
«Мир полный демонов, наука как свеча во тьме» Карл Саган
«Рациональность: от ИИ до Зомби» Элиезер Юдковский
«Объясняя религию» Паскаль Буайе
Что касается посмотреть, тут все получше. Я отобрал вручную видео и рассортировал по плейлистам. Можно посмотреть эту подборку здесь. Например, плейлисты про Нейрофизиологию и когнитивные психологию, про когнитивные искажения, про ошибки мышления.
Когнитивные искажения свойственны для всех. Спасибо Эволюции. Вопрос признаём ли мы свои прошлые ошибки. А с ними и вероятность того, что ошибаемся прямо сейчас.
Про список мошенников и сект. Я на этапе написания решил, что лучше промолчать про них и не пиарить лишний раз. Поэтому я и пытаюсь объяснить общие для них всех принципы, а не вникнуть в частности.
Однозначно люди не могут быть идеальными байесовскими агентами. Тому есть причины. Но, кажется, стать даже немного рациональнее будет однозначно полезно.
То есть он выбирает произвольную цель (не попасть в ад) и двигает к ней исходя из текущей информации о мире. А информация ограничена аксиоматикой задачи.
Если же по условиям задачи я неизбежно попадаю в ад вне зависимости ни от чего, то у задачи просто нет решения.