Что такое рациональность?

    Эта статья из цикла статей, возможно Вы что-то пропустили.

    Эта статья является частью цикла «Занимательная картография (Краткое введение в рациональность)». Если вам непонятно зачем нагорожен этот забор, возможно это ещё не повод его сносить. Если же вы уверены, что понимаете зачем его построили и обладаете информацией о его бесполезности - смело сносите!

    Причины рациональности

    «Уточните значение слов, и вы избавите человечество от половины заблуждений» Рене Декарт

    Чтобы дать определение рациональности в «пространстве вещей», я начну с аналогии. Данную аналогию я ввёл чуть выше по циклу. Так что, если что-то выглядит странно, возможно так и должно быть.

    До этого мы говорили о картах и о территориях. Теперь мы наконец поговорим о путешественниках. А ещё о двух главных свойствах любого из них: любопытстве и прагматизме.

    Любопытство путешественника проявляется в желании иметь как можно больше информации о территории. Эта информация хранится в виде карт. При этом под любопытством понимается интерес именно к ТОЧНЫМ картам (а не к любым).

    Прагматизм путешественника проявляется в желании ДОСТИГАТЬ вполне конкретные точки маршрута. Именно в желании достигать, а не в желании идти к ним. Здесь акцент на конце пути, а не на самом пути.

    Давайте посмотрим, какими бывают путешественники по отношению к этим качествам.

    • Есть любопытство, а прагматизма нет. Эти путешественники собирают максимальное количество карт. Их жизнь посвящена постоянной оптимизации и составлению суперточной карты. Кажется, как будто они знают всё о каждом кусочке территории. Но есть одно «но». Они никогда не выходили из своей палатки. Они могли бы стать великими путешественниками, но отказались от этого в пользу изучения деталей территории.

    • Нет любопытства, но есть прагматизм. Эти путешественники точно знают свою цель. Любые отклонения от маршрута для них - пустая трата времени. Они никогда не изучают что-либо кроме карты до своей цели. Зато на этом узком участке, они достигают поистине впечатляющей детализации и точности. Каждая кочка важна для них, если через них можно попасть к цели. Если дать такому путешественнику стопку точных карт других территорий, скорее всего он растопит ими костёр. Ведь это сэкономит время на поиск растопки, и позволит чуть быстрее достигнуть своей цели. К сожалению, таким путешественникам крайне трудно менять цели. Ведь придумать новую точку сложно, когда ВСЕ знания только об одном участке территории. Да и с чего бы им захотелось менять цель? Ведь у них отсутствует информация о том, что ещё существует на территории. Кстати, маршрут, который они постоянно шлифуют и уточняют не всегда оказывается оптимальным. Ведь если необходимо подняться по горнолыжному склону, иногда лучше будет идти назад, к подъёмнику. А о нём нужно ещё как то узнать.

    • Нет ни любопытства, ни прагматизма. Эти путешественники отрицают ценность точных карт. Да и к какой-то конкретной точке маршрута они не стремятся. Больше всего их деятельность напоминает прогулку. Сегодня захотелось пойти туда, завтра сюда. Мир таких путешественников полон удивления. Каждый день, что-то новое – полная непредсказуемость. Увидели красивую опушку, остановились, полюбовались. Попали под лавину, расстроились. Они не управляют своим путешествием. Часть из них получает неплохую экскурсию, часть выживание на грани. Но не те, ни другие не выбирают свой маршрут. 

    • Есть и любопытство и прагматизм. Эти путешественники понимают ценность точных карт, и постоянно обновляют информацию о территории. Более детальную о ближайших окрестностях, и хотя бы поверхностную обо всём остальном мире. Эти путешественники ставят себе цели. Но их информация о том, куда и как они могут попасть, постоянно возрастает. Это открывает широкие возможности к оптимизации маршрутов или даже выборе новых целей. Расплатой за любопытство становится то, что иногда они собирают карты совсем уж далёких от них территорий. Что ж, зато им есть, что обсудить с другими путешественниками.

    То есть любопытство неизбежно требует хорошего навыка утончения карт. А прагматизм требует навыков передвижения по территории и оптимизации маршрутов. Путешественников, которые обладают такими навыками в разумном балансе, и стремятся к их улучшению, я и называю рациональными. Причём одни могли приобрести эти навыки по своему желанию, а другие получить в следствии сложившихся обстоятельств. Нет смысла их разделять, ведь в голове у них очень похожая прошивка. 

    Как это работает?

    Существует немалое число людей, которые потратили достаточное количество адекватности на то, чтобы понять, как выработать такие навыки. Я назову только некоторых (возможно, вы захотите дополнить этот список):

    Пьер-Симон Лаплас, Эдвин Джейнс, Даниэль Каннеман, Даниэл Деннет, Элиезер Юдковский, Скотт Александер

    Что же полезного этим людям удалось выяснить о «картографии»?

    Карты предсказывают картинку, которую мы должны увидеть на территории. При этом карты влияют только на прогноз картинки, но никак не на территорию. Каждый раз, когда прогнозы карт сбываются, мы называем это свидетельством «За» карту. Каждый раз, когда прогноз не сбывается, мы называем это свидетельством «Против» карты. Теория вероятностей говорит нам о том, как баланс свидетельств «За» и «Против» должен влиять на нашу уверенность в картах. Теория принятия решений говорит нам о том, как на основе имеющихся карт выбирать маршруты близкие к оптимальным. 

    И всё? Так нужно взять эти формулы и захватить мир прямо сегодня! Ну или хотя бы начать строить точные карты и принимать оптимальные решения. Эта идея с разгона влетает в две вещи:

    Значит это так не работает? Это работает почти так. И в нюансах, которые составляют это почти, кроется вся работа. Методы рационального мышления позволяют рассеивать часть Хаоса у нас в голове вопреки несовершенству нашего мозга. Что в сущности уже весьма неплохо.

    Именно о таких методах, и их практическом применении я планирую писать сюда. Но сначала нужно развеять немного Хаоса вокруг самой рациональности.

    Джентельменский набор стереотипов о рациональности.

    «Рациональность – это про идеальный интеллект и отрицание интуиции»

    Как раз наоборот. Для анализа и вычислений не всегда есть время. И в таких случаях решение принимается быстро и в особом порядке. Это можно назвать интуицией. Даниэль Каннеман, Амос Тверски и ещё ряд исследователей подробно изучили этот особый порядок. И если вы хотите лучше принимать решения в мире, где большинство решений принимаются быстро, вам придётся оптимизировать этот процесс. Я вернусь к этому в отдельном цикле статей (примерно в таком стиле).

    «Рациональность – это про эгоизм и получить всё здесь и сейчас»

    Рациональное мышление не подразумевает эгоизм и недальновидность. Скорее напротив. Рациональный путешественник более склонен к взаимовыгодной кооперации. Ведь многие маршруты оптимальнее преодолевать вместе. А стремление построить точные карты всегда ведёт к честному обмену информацией. И в обоих случаях репутация – это стратегический ресурс. Желание «кинуть» или «хапнуть» не возникает потому, что оно не выгодно стратегически.

    «Рациональность – это про обладание истиной»

    Нет, это не про хитрый способ доказать, что мы всегда правы. Это про хитрый способ понять когда мы неправы, несмотря на то, что изнутри кажется, что мы всегда правы. Поэтому рациональность, это скорее про призыв обменяться свидетельствами и сделать выводы по общим правилам. И призыв ни в коем случае не подкреплённый силой.

    «Рациональным можно стать»

    Нет такого набора действий, которые сделают вас пожизненно рациональным. Нет такой кнопки, которая переключает вас в режим идеального Байесовского агента до конца времени. Рациональным нельзя стать, но можно быть. То есть рациональность – это про постоянное стремление к улучшению.

    «Рациональность – это про отсутствие эмоций»

    Рациональное мышление не подразумевает отсутствие эмоций. Именно горящие глаза являются двигателем. Если цель не вызывает радости, а карта не вызывает интереса - то мотивации не будет. Так что наслаждение красотами территории для такого путешественника может быть даже более ярким. Однако рациональность против эмоций, порождённых неточными картами. Против страха несуществующих монстров, против радости от несуществующих сокровищ.

    «Рациональность – это про критику других людей»

    Рациональность это про критику себя и своих убеждений. Рациональность начинается (и продолжается) с признания того факта, что лично мои убеждения неидеальны. Лично мои прогнозы сбываются реже, чем хотелось бы. Рациональность это не про то, что в интернете кто-то неправ. А про то, что в интернете не прав я.

    «Рациональность – это про высмеивание штук вроде гомеопатии, астрологии и плоской земли»

    Рациональность это инструмент, чтобы отличать точные карты от ещё более точных. А совместное высмеивание неточных карт хоть и укрепляет командный дух, но не тренирует необходимые навыки. И прежде чем объявить какую то карту неточной, очень полезно бывает преодолеть кое-какую ограду. Я бы даже сказал забор, который назвали в честь одного дядьки (подробнее про это в отдельной статье).

    «Рациональность - это про риторику и умение донести свою позицию»

    Это важные инструменты. Но они работают симметрично для любой позиции. Снять крутой фильм, который все объяснит? Возможно для любого убеждения. Привести ряд фактов, которые кажутся убедительными? Тем легче, чем сложнее тема. Написать книгу? Ох, о чём только не пишут книги... Получается все можно использовать одинаково, вне зависимости от точности убеждений? Нет не всё! Но об этом в отдельной статье.

    «Рациональность - это о шагании по головам. Ведь любая победа - за чужой счёт»

    Эй, мы же не в монополию играем. В реальной жизни намного чаще встречаются игры с ненулевой суммой (выбор в какие игры играть, тоже часть стратегии). Не обязательно отнимать у других, чтобы получить это самому. К тому же подумайте о репутации такого путешественника. Мы кажется установили, что это ВАЖНО! Но доля правды здесь все же есть. Рационалист - это тот, кто использует выигрышную стратегию. А вовсе не тот, кто называет свою стратегию рациональной, но почему-то систематически проигрывает.

    «Рациональность - это про борьбу за правду»

    Любой новообращенный всегда фанатик, и многие чувствуют свой долг в том, чтобы стать воинами правды. В большинстве случаев это быстро проходит. А долину плохой рациональности (остальные случаи) предлагаю обсудить в другой раз.

    P.S.

    Очень рассчитываю на ваши дружеские пинки. Нет, я серьёзно. Надеюсь на вашу обратную связь, которая позволит мне обновлять баланс свидетельств чуть быстрее.

    Если тема заинтересовала, думаю, вам интересно было бы ознакомиться с тем, что успели написать о рациональности вот эти ребята (или что успели перевести на русский вот эти).

    Комментарии 101

      +3
      рассчитываю на Ваши дружеские пинки
      Моя рациональность говорит, что надо бы вдумчиво и подробно прокомментировать данную статью, но следует сделать осмысленный выбор в пользу других, более приоритетных задач.
      Разбудите позже.
      «Уточните значение слов, и вы избавите человечество от половины заблуждений» Рене Декарт
      Более того, не только избавите от множества тупиков и обрывов, но и покажете множество новых дорог.
        +1
        надо бы вдумчиво и подробно прокомментировать данную статью
        Буду крайне признателен, если всё же решите когда-то вернуться к этой задаче =)

        Более того, не только избавите от множества тупиков и обрывов, но и покажете множество новых дорог.
        Резонно.
        +5
        Ух ты, я читал lesswrong немного, но даже и не подозревал что там такое огромное количество жаргона. Зачем эти «путешественники» и «карты» сдались? Это делает вас похожими на секту.
          +1
          На lesswrong жаргона более чем предостаточно (на вскидку: стилменинг, калибровка, сверхуверенность). Карта и территория это неплохая аналогия для пояснения идеи соотношения реальности и убеждений. Её придумали не в сообществе (автор — Альфред Коржибски), но благодаря Элиезеру Юдковскому она крайне распространена в качестве «нет времени объяснять, это работает примерно вот так...» (ведь это первая глава его книги).

          Это делает вас похожими на секту.
          Мы в курсе =) Об этом есть достаточно обширный материал. Хотя если Вы имеете ввиду только жаргон, то кажется все не так страшно.
            +4
            Еще и сверхориентация на личности явно сквозит… и какое-то в негативном значении слова буквоедство, дотошность. Понятно, что иногда без этого никак, но ведь иногда…

            У меня очень странное ощущение. С одной стороны — вся тема рациональности мне очень близка и интересна, я бы с удовольствием в этом всем почувствовал, с другой — стиль, в котором она подается — отталкивает.
              +1
              я бы с удовольствием в этом всем почувствовал
              Ну я не имею прямого отношения к сообществу. Участвовал в паре онлайн встреч кочерги (пока была пандемия) на тему обмена рекомендациями по научпоп литературе. А так, здесь мне нечего вам посоветовать (насчёт участия).

              сверхориентация на личности

              Я верно понял, что вы про сверхориентацию на авторитет? Полностью поддерживаю, с этим нужно бороться. Про это и пост соотвествующий есть. Желание сотворить кумиров вредно, и чтобы с ним бороться, нужно потратить на это некоторое усилие.
                0
                Конкретно сейчас меня отталкивает Вас с заглавной. Я даже клиентов не беру, которые так пишут :)
                  +1
                  Пофиксил специально для вас =)
                    +2
                    Покопавшись в правилах и предубеждениях, лично я для себя выбрал такое решение:
                    — Вы с заглавной, когда по каким-то причинам человека нужно выделить из числа прочих. То есть показать человеку, что сейчас речь конкретно про него. Если все будут прыгать из окон, то Вы тоже прыгнете?
                    — Вы со строчной, когда не хочу акцентировать внимание на человеке, важнее обсудить сказанное, а не сказавшего. В моем случае, это почти всегда.
                    — Ваше, вашу, ваши — всегда со строчной, если не в начале предложения. Потому что указание на принадлежность, а не на личность. Впрочем, можно найти одно исключение: Вашу ж маму.

                    Любопытно, что в результате моего выбора вежливое Вы обычно используется для высказывания невежливости.
                    рассчитываю на Ваши дружеские… на Вашу обратную… думаю, Вам интересно было бы
                    Во всех этих случаях я бы выбрал строчную, читатель — это не конкретная персона.
                    Другое дело, что свой выбор я делал для себя, и выбор прочих меня не задевает.
                      +3
                      Не задумывался над этим, если честно. Звучит вполне обоснованно. Пофиксил.
          +1

          Спасибо большое за переработку цепочек.
          Серьезно, большое дело делаете)
          Мне давно кажется, что если бы цепочки были описаны в немного более "академическом" стиле, чуть дальше от формата эссе — чуть ближе к учебнику, то и стартового отторжения будет меньше, и на практике применять это будет проще

            +1
            Рад, что вы считаете это значимым. Спасибо за поддержку. Возможно я попробую это сделать в нескольких форматах, но это не точно =)
            +1

            Ну спасибо, я снова залип на несколько часов читая lesswrong.

              0
              Ну спасибо, я снова залип на несколько часов читая lesswrong.
              Кажется, это не худший вариант залипания =)
                0

                Надо только следить за тем, чтобы средства не подменили цель

                  +1
                  Согласен.

                  «Губят не ошибки в выполнении замысловатых техник. Губит элементарное: потеря мяча из виду», — Джерри Кливер о спортивных матчах.
              0
              Может вам пригодится мой стереотип:
              Рациональность, это оптимальные взаимодействия с окружающей нас реальностью.

              Ну, то есть, вместо крайностей (огород экскаватором или ложкой), действовать оптимально (огород лопатой). Иначе говоря, рациональность, это путь меры (золотая середина, гармония и т.д.)
                0
                То есть любопытство неизбежно требует хорошего навыка утончения карт. А прагматизм требует навыков передвижения по территории и оптимизации маршрутов. Путешественников, которые обладают такими навыками в разумном балансе, и стремятся к их улучшению, я и называю рациональными.
                В статье как раз про один из примеров разумного баланса между двумя крайностями — не застрять посреди болота в бесконечном прощупывании дна, но и не прыгать бездумно по кочкам, которые мало-мальски кажутся надежными.
                А так да — навык балансирования между крайностями применим не только к описываемой тут рациональности.

                Мое личное мнение: рациональность говорит лишь об осмысленности, а уж какими ошибками эта осмысленность набита — дело десятое. Если есть хоть какая-то осмысленность, то сделанный выбор можно назвать рациональным.
                Разумность или ошибочность тех или иных решений и поступков — это лишь оценка, а оценки субъективны. Кто может объективно оценить рациональность выбранного баланса?
                  0
                  Разумность или ошибочность тех или иных решений и поступков — это лишь оценка, а оценки субъективны. Кто может объективно оценить рациональность выбранного баланса?
                  Есть такое предложение: из текущей информации (по имеющимся свидетельствам) всегда есть только один оптимальный выбор. Это тот выбор, который сработает в случае если территория выглядит точно так, как на карте. Есть так же бесконечно множество маршрутов похуже, которые составляют градиент от решений которые никогда не ведут к цели, до решений которые ведут к цели быстро и дёшево.

                  Да, территория никогда не выглядит точно так, как на карте. Именно поэтому идеальный маршрут недостижим. Но из текущих свидетельств мы можем выжать максимум и построить наиболее близкий к оптимальному маршрут.

                  На территории при этом мы можем столкнуться совсем с другими условиями, и выяснить что маршрут никуда не годится (тогда срочно перестраиваем, а не сохраняем свою карту). Именно поэтому на практике построение лучшего из возможных маршрутов жёстко завязано на информации (количестве и качестве свидетельств). Чем больше информации, тем оптимальнее маршрут мы способны построить если не накосячим с правилами построения.

                    0
                    Количество информации о территории увеличивает сложность вычисления маршрута, можно завязнуть в арбитраже разных карт. Важна не любая информация, а правильно отфильтрованная достоверная.
                      0
                      Согласен с вами. О том, что важна не любая информация я писал здесь.
                        0
                        Иметь точную карту недостаточно, необходима система фильтрации контента, желательно интегрированного в саму карту. Правильно построенная карта уже даёт ответ на задачу, ради которой карта строилась. Правильность построения и точность карты это разные вещи.
                          0
                          Не совсем помаю в чем именно вы видите расхождение в наших с вами прогнозах.

                          Я согласен с тем, что навык построения точной карты крайне важен (я на это прямо указываю в тексте). Мотиватором к получению такого навыка преимущественно служит желание получения собственно точных карт (или это не верно?)

                          Если мы возвращаемся к теме убеждений, то становится понятно, что данный навык так же полностью состоит из убеждений. Поэтому крайне важно иметь точные убеждения о том, как не заблуждаться и выбирать лучшие убеждения из возможных (то, что вы называете системой фильтрации).

                          Так что, если я верно вас понял (что не факт), то я с вами согласен.
                  0
                  Подбор адекватного инструмента под задачу конечно важен!

                  А если вы согласны включить сюда ещё и подбор оптимальных целей (адекватный выбор культуры в соответсвии с почвой, или выбор огорода для возделывания) + зависимость качества всех этих решений от информации собственно о возможных инструментах (да и огородах), то кажется мы станем говорить почти (если не совсем) об одном и том же.
                    0
                    Конечно. Именно оптимальные цели позволяют их оптимальное, разумное достижение.
                  0
                  О, вспомнил одну задачку про рациональность, которую сам придумал.

                  Допустим, существует Бог и он посылает в ад всех, кто ведет себя рационально. Ты в ад не хочешь. Будет ли в таком случае иррациональное поведение рациональным?
                    0
                    Придумал другую задачку про Бога.

                    Есть термины отсутствия, которые обозначают не сущность, но отсутствие противоположной сущности. Темнота, холод, покой, свобода, здоровье — их невозможно обнаружить или измерить, доказав существование, можно лишь находить и измерять противоположное им.
                    Если Бога нельзя обнаружить или измерить, то отсутствием чего Он является?
                      0
                      Все перечисленные явления являются свойствами объектов или сред, а не сами по себе объектами или средами. Соответственно, они вообще не могут «существовать», я бы это слово так не применял.

                      Кроме того, тут, по-моему, вообще логическая ошибка. Если из А следует B, и из С следует B, это не значит, что А = С.
                        0
                        перечисленные явления являются свойствами объектов или сред, а не сами по себе объектами или средами
                        Сомневаюсь, что «отсутствие яблока» является свойством «тарелки».
                        тут, по-моему, вообще логическая ошибка
                        Тут предположение, которое, вполне возможно, содержит ошибку, подвох или новое направление для мысли.
                        Если из А следует B, и из С следует B, это не значит, что А = С.
                        Я бы сказал иначе — если 1, 2 и 3 являются свойствами группы понятий G, и если объект О обладает свойствами 1 и 2, то можно предположить, что О входит в G, из чего следует, что О может обладать свойством 3.
                        0
                        Темнота, холод, покой, свобода, здоровье — их невозможно обнаружить или измерить, доказав существование, можно лишь находить и измерять противоположное им.
                        Если Бога нельзя обнаружить или измерить, то отсутствием чего Он является?

                        Имхо, спорная постановка вопроса. Например, довольно легко лично обнаружить холод, выйдя плохо одетым на мороз. Возможное определение холода через отсутствие тепла это уже теоретизирование. То же с темнотой.

                          0
                          «Уточните значение слов, и вы избавите человечество от половины заблуждений» Рене Декарт
                          Под термином «холод» можно найти несколько принципиально разных значений — это и «ощущение», которое вполне себе существует, это и «низкий показатель тепла», который можно обнаружить лишь измерением тепла. В физическом понимании «холод» — термин отсутствия противоположного. Не получится создать «луч холода».

                          И «темнота» — это не совсем «отсутствие света», это скорее «невозможность разглядеть по причине нехватки света». То есть уточнение терминов позволяет продвинуться немного дальше, но все же навык обнаружения терминов отсутствия противоположного — полезный навык.

                          Дело в том, что достичь сущность отсутствия невозможно, как невозможно добежать до горизонта. Простейший пример — попытки создать атмосферу «доверия» на предприятиях, которые упираются в длиннейший ряд мер по устранению поводов к недоверию.

                          Пример посложнее виден в обсуждаемой статье. Рациональность — это не стояние на месте в бесконечных попытках уточнить карту и не слепой прыжок к прагматичной цели, это не отрицание интуиции, не эгоизм, не недальновидность, не обладание истиной, не состояние, не отсутствие эмоций, не критика или высмеивание чужих ошибок, не риторика или убедительность, не шагание по головам, не борьба за правду… И основная проблема статьи — трудно понять, что же остается после множества отрицаний, о чем же шла речь.
                            0
                            А, так вот о чём речь. Нет, отрицание не является в данном случае определением само по себе. Определение содержится в пункте причины рациональности. Но данное определение покрывает чуть большее пространство, и разбор стереотипов был призван его заузить.
                              0
                              отрицание не является в данном случае определением само по себе
                              Да я как бы и не писал, что отрицание подается как определение:
                              основная проблема статьи — трудно понять, что же остается после множества отрицаний, о чем же шла речь
                              Избыток иллюстраций мешает разглядеть сущность.
                                0
                                Возможно вы правы, подумаю над этим.
                          0
                          Если Бога нельзя обнаружить или измерить, то отсутствием чего Он является?

                          Кстати, как раз на этот вопрос есть вполне конкретный ответ (правда, без связи с "если"), подробно обсуждающийся в философской работе Маймонида "Путеводитель растерянных". Бог это отсутствие множественности.

                            +1
                            на этот вопрос есть вполне конкретный ответ
                            На этот вопрос есть несколько разных ответов, поскольку есть разные люди с разными потребностями.
                              0
                              На этот вопрос есть несколько разных ответов, поскольку есть разные люди с разными потребностями.

                              Не уверен, при чём тут потребности, но да, за словом "бог" в разных культурах (и у разных людей в пределах одной культуры) стоят радикально разные понятия. Предложенный мной ответ находится в центре философии рационального монотеизма и лично меня устраивает. Если Вы знакомы с другими рациональными ответами, можете ими поделиться?

                                0
                                Придуманные людьми боги и Боги обладают разными свойствами — вездесущие или быстро перемещающиеся, всезнающие или просто мудрые, всесильные или сильномогучие, злые и добрые, справедливые и с причудами, управляющие и наблюдающие…
                                Соответственно, можно предположить, что разные люди придумывали небесных персонажей с теми свойствами, которых людям острее не хватало — вот отсюда растет рассмотрение потребностей, отсюда и происходит философия отсутствия противоположного.
                          0
                          Рациональным будет решение, которое позволит выиграть.
                            0
                            Это какое конкретное? Возможно ли вообще совершить гарантировано иррациональное действие?
                              0
                              Задача вполне может быть сформулирована так, чтобы не иметь решения «в действительности». Такой выбор без выбора. Если же есть выбор, и часть людей попадает в ад, а другая нет — я буду предпринимать действия, которые позволят попасть во вторую категорию.

                              То есть выбор выигрышной стратегии (с наилучшим возможным результатом в реальности). Не выбор «правильной стратегии» и не «использование определённых строго заданных инструментов», а выбор той стратегии, где результат не хуже ни одного другого.

                              Иными словами подход от цели, а не от средств. Не вопрос «если я буду действовать так, то что я получу», а вопрос «как необходимо действовать чтобы получить необходимый результат».
                                0
                                Вопрос в том — какие действия. Вы как будто пытаетесь мне рассказать, как следует решать задачу, не решая ее.
                                  0
                                  Вы как будто пытаетесь мне рассказать, как следует решать задачу, не решая ее
                                  Именно этим я и занимаюсь. Я даю общее решение, ведь задача сформулирована без определения какие действия являются рациональными, а какие иррациональными. Что бы вы теперь не назвали иррациональными действиями (ведущими не в ад) я выбираю их в рамках задачи.

                                  Если же по условиям задачи я неизбежно попадаю в ад вне зависимости ни от чего, то у задачи просто нет решения.
                                    0
                                    Интересно. Получается, для определения того, какие действия будут рациональными, недостаточно факта нежелания попасть в ад? А как же все эти путешественники и карты? Их что тут не применить как аналогию?
                                      +1
                                      Вполне можно применить. У путешественника есть карта, которая рисует две дороги: одна дорога называется путь рациональности, другая называется тракт иррациональности. Путешественник получает надежную информацию о том, что первая дорога идёт в ад. А ему туда как бы не надо. Поэтому он выбирает ту дорогу, которая ведёт туда, куда ему надо.

                                      То есть он выбирает произвольную цель (не попасть в ад) и двигает к ней исходя из текущей информации о мире. А информация ограничена аксиоматикой задачи.
                                        0
                                        В данном случае в само понятие «дороги» входит и то, по какому принципу путешественник выбирать будет и сам факт выбора. Т. е. что-то от рекурсии. Не знаю, я не могу сам легко щелкнуть эту задачку.
                                          +1
                                          одна дорога называется путь рациональности, другая называется тракт иррациональности
                                          Здесь ключевое не «дорога», а «называется». Выбор иррационального поведения является рациональным поведением, поскольку речь идет о симуляции иррациональности. Имитация оргазма не является оргазмом.
                                          Допустим, существует Бог и он посылает в ад всех, кто ведет себя рационально. Ты в ад не хочешь. Будет ли в таком случае иррациональное поведение рациональным?
                                          Допустим, что Бог из задачки не является легковерным и симуляцию раскусит легко. Тогда попадание в ад зависит от формулировки — достаточно ли одного рационального выбора, или нужно не грешить слишком много. Если одного раза достаточно, то в ад попадут все, кто хотя бы задумался о выборе тактики поведения.
                                            0
                                            Проблема в том, что даже если Бог добрый и дает возможность «исправиться», то раз решив «постараюсь не быть рациональным» — любое твоё дальнейшее решение будет в какой-то мере рациональным…
                                            • НЛО прилетело и опубликовало эту надпись здесь
                                                0
                                                Как упомянутый Бог определяет понятие «рациональное поведение»?
                                                • НЛО прилетело и опубликовало эту надпись здесь
                                                    0
                                                    — Рациональные идут в ад!
                                                    — Что есть рациональность?
                                                    — Стараться выигрывать!
                                                    — Я выбираю всегда делать выбор, бросая игральный кубик, таким образом победа или проигрыш не будут зависеть от моих стараний.
                                                    — Значит ты сделал выбор, который поможет тебе выиграть, пойдешь в ад.
                                                    — Предвидя это Твоё решение, я специально сделал выбор «положиться на кости», ведь он ведет к проигрышу, значит я поступил иррационально.
                                                    — Умничаешь?
                                                    — Нет, я полагаюсь на незнание уровня, до которого Ты соизволишь развернуть эту спираль. Один уровень суждений — рационально, второй — нет, третий — снова да, четвертый — снова нет… Не знаю, а значит здесь тоже элемент случайности, а не рациональный выбор.
                                                    — Умничаешь!
                                                    — Нет, умным было бы и первый выбор «полагаться ли на кости» основать на броске костей. Я же стремлюсь поступать иррационально, ведь ты — Бог Иррациональности.
                                                    — А ты — лишь человек, и в природе людей заложено стремление к выигрышу. В ад!
                                                    — Иррационально требовать от кого-то изменить своей природе. Лишь безумцы попадут в Твой рай.
                                                    — Так ты стремишься попасть в иррациональный ад?
                                                    — Если бы я стремился хоть куда-то, то Ты отправил бы меня в ад, поэтому мой ответ — нет, пусть мой путь определяет случайность, а не мои усилия.
                                                    — Ты мне нравишься, поэтому поступлю иррационально и не стану присваивать тебя себе, отправлю твою судьбу в руки какого-нибудь другого Бога, выбрав его случайным образом.
                                                    — Баба с возу…
                                                    — Чего?!
                                                    — Иррационально почитать того, от кого зависит твоя судьба. Отправь меня у другому богу поскорее, и сразу же моё почтение к Богам станет безграничным.
                                                    — Вот ты и попался! С моей стороны было бы рационально поступить так, как нужно для увеличения почтения ко Мне и прочим Богам. А значит…
                                                    — Это Ты попался. Или ты лишаешься почитателей и перестаёшь Быть, или изменяешь своей природе хотя бы иногда.
                                                    — Пожалуй, я сейчас положусь на бросок костей.
                                                    — Значит, решив положиться на кости, я поступил так, как поступает Сам Бог Иррациональности.
                                                    — Следующий!
                                                    — Неужели Вы рационально стремитесь оборвать неприят…
                                                    • НЛО прилетело и опубликовало эту надпись здесь
                                                        0
                                                        ошибка в пункте «Стараться выигрывать!»
                                                        Не ошибка, а отсутствие ответа на мой заданный выше вопрос про определение «рационального поведения», который Вы сочли не особо важным.
                                                        в данной ситуации рационально это не стараться выиграть, а стараться не попасть в ад
                                                        Очень не факт. Иррациональный ад вполне может быть уютнее иррационального рая.
                                                        • НЛО прилетело и опубликовало эту надпись здесь
                                                            0
                                                            Теперь вы этот ответ получили?
                                                            Нет, я взял первый попавшийся, игральные кости пригодились. Но мой выбор Вам не понравился, значит Вы не похожи на Бога Иррациональности.
                                                            на мой взгляд это классический парадокс
                                                            На мой взгляд, здесь гадание «на каком уровне играет противник».
                                                            — В одном из стаканов отрава, выбери ближний или дальний от себя.
                                                            — На первом уровне рассуждений было бы проще взять ближний, чтобы не оттягивать решение.
                                                            — Берешь ближний?
                                                            — Играя на втором уровне, именно в ближний ты бы подсыпал отраву. Но ты мог играть на четвертом уровне, предположив, что я на третьем уровне разгадаю замысел и возьму дальний, поэтому ты подсыпал бы в дальний.
                                                            — Берешь дальний?
                                                            — Если бы я играл на третьем, то да, но на пятом уровне рассуждений мне следует не выбирать дальний.
                                                            — Значит ближний?
                                                            — Но можно пойти дальше в рассуждениях и предположить, что ты играешь на шестом уровне, подсыпав в ближний. А я бы на седьмом взял дальний.
                                                            — Так на каком уровне мы остановимся?
                                                            — Вот в этом и вопрос. Пока ясно только одно — ты считаешь себя умнее меня, то есть играешь на один или два уровня выше.
                                                            • НЛО прилетело и опубликовало эту надпись здесь
                                                                0
                                                                с одной стороны конечно вполне легитимно, но с другой скучно
                                                                А ваши рассуждения напоминают сферических коней в вакууме — как же им теперь есть и скакать, интересно.
                                                                Если есть несколько разных выходов, то это уже не парадокс. Помимо «выбрать отсутствие выбора и положиться на неизвестно какой уровень игры противника» есть еще один многократно выгодный выбор — начхать на угрозы бога Иррациональности.
                                                                Выгоды навскидку:
                                                                1. Иррациональный ад может оказаться рациональным раем, нет причин выбирать или опасаться его, угрозы нет.
                                                                2. Иррациональный бог вполне может поступать вопреки сделанным угрозам.
                                                                3. Иррациональный выбор «не стремиться» вполне может понравиться иррациональному существу.
                                                                4. Ослабевший бог лишится силы и не сможет исполнить угрозы.
                                                                5. Угрозы могли быть испытанием от настоящего Создателя, который старался воплотить рациональность, так не подведем же.
                                                                • НЛО прилетело и опубликовало эту надпись здесь
                                                                    0
                                                                    Одна из интерпретаций создаёт парадокс и конкретно она мне интересна.
                                                                    Такие «парадоксы» можно клепать пачками:
                                                                    — Есть закрытая дверь, через которую выходят, не открывая её. Нет, не сломана. Заперта, не отпирают. Нет, именно через дверь, а не через пролом в двери. Входят и выходят, причем ногами и добровольно. Целиком выходят. Люди, да. Нет, не автоматическая, не открывается сама. И швейцар не открывает. Вы утомили уже искать разные интерпретации, мне это не интересно.
                                                                    • НЛО прилетело и опубликовало эту надпись здесь
                              +1
                              «Парадокс Ньюкома» не знал, спасибо, интересная штука.
                                +2
                                Как сказал Ричард Фейнман на одной из лекций: «если вы придумаете что угодно умное в любой сфере, математики переведут это на свой язык и запишут в общем виде в свои книги».
                              +1
                              Будет ли в таком случае иррациональное поведение рациональным?

                              Будет рациональным, но не будет успешным, т.к. попадёшь в ад. Если только не получится свести себя с ума по-настоящему, чтобы поведение было иррациональным ненамеренно.

                                0
                                Как это так, что иррациональное поведение будет одновременно и рациональным? Поведение может быть одновременно рациональным и иррациональным в рамках того же субъекта и той же цели?

                                И разве если ты будешь безумен — ты обязательно будешь действовать иррационально? Это весьма сомнительное утверждение, наверное. Зависит от типа безумия как минимум.
                                  +2
                                  Как это так, что иррациональное поведение будет одновременно и рациональным?

                                  Оно будет имитацией, а не аутентичным иррациональным поведением, т.к. у его агента вполне рациональная цель. Т.к. Богу известно намерение агента, поведение не будет квалифицировано как иррациональное, и агент будет отправлен в ад.


                                  И разве если ты будешь безумен — ты обязательно будешь действовать иррационально?

                                  Меня вполне удовлетворяет такая характеристика рациональности (из Вики): "Rationality implies the conformity of one's beliefs with one's reasons to believe, and of one's actions with one's reasons for action."


                                  Если безумие будет таково, что будут исключены любые соответствия между действиями и причинами для действий, то поведение будет иррационально. Другое дело, может ли агент инициировать у себя такой вариант безумия.

                                0
                                Мне кажется, у этой задачи нет рационального решения в контексте нашего мира, потому что у нас нет свидетельств существования такого Бога.
                                +1
                                Не совсем понял, зачем всё это награмаждение из всех слов.

                                Забор покрашен краской.
                                Краска на заборе зелёная.
                                Забор состоит из штакета.
                                Забор высотой 2 метра.

                                У вас идёт перечисление, суть тут в чём? Похоже на Софистику)

                                Рациональность истекает из вашего интеллекта и вашей мудрости или глупости, но всегда упирается в ваши моральные принципы.
                                Если ваши моральные принципы низки, тогда для вас не проблема «идти по головам», если это потребуется. Если вы идёте по головам и при этом летит ваша голова, значит ваш прагматизм дал вам быстрый успех, в краткосрочной перспективе, но лишил головы, в долгосрочной.

                                Тут слишком много условий.
                                Прагматизм это не что-то общее, это скорее всегда какой-то свой, частный случай.

                                Если рассматривать прагматизм как общее понятие, тогда тут должен быть какой-то случай типа Плюшкина, когда человек, например, каждую копейку собирает.
                                Прагматично? Да. Мудро? Возможно, собирая каждую копейку он лишает себя более здорового питания.
                                А может и не лишает, а как раз тратит ровно столько сколько нужно и для хорошего питания.
                                Т.е. мы опять получаем не предсказуемый результат.

                                Всё это попытка поместить в рамки то, что там вряд ли когда-то будет. Люди не роботы в этом плане, человек в одной ситуации будет прагматичен, а в другой, проявит эмпатию и отдаст половину своих денег, которые у него были на еду, бездомному.
                                В прошлых случаях он был прагматичен, в этом нет. И всё, вся ваша схема сразу обрушена.
                                • НЛО прилетело и опубликовало эту надпись здесь
                                  0

                                  Спасибо. Правда, лично мне не заходит этот фреймворк с картами. Он воспринимается не как практический инструмент, а как метафора.


                                  Что касается рациональности, имеет смысл пробежаться по неплохой статье на Википедии, чтобы получить более-менее беспристрастный выход на разные подходы. Несколько цитат оттуда:


                                  Rationality implies the conformity of one's beliefs with one's reasons to believe, and of one's actions with one's reasons for action.



                                  ...a mental state is rational if it is "well-grounded" in a source of justification. Irrational mental states, on the other hand, lack a sufficient ground. For example, the perceptual experience of a tree when looking outside the window can ground the rationality of the belief that there is a tree outside.



                                  ...rational states in general, can be divided into two groups: the foundation and the superstructure. The mental states in the superstructure receive their justification from other rational mental states while the foundational mental states receive their justification from a more basic source. For example, the above-mentioned belief that there is a tree outside is foundational since it is based on a basic source: perception. Knowing that trees grow in soil, we may deduce that there is soil outside. This belief is equally rational, being supported by an adequate ground, but it belongs to the superstructure since its rationality is grounded in the rationality of another belief.



                                  Rationality is relative according to some philosophers: if one accepts a model in which benefiting oneself is optimal, then rationality is equated with behavior that is self-interested to the point of being selfish; whereas if one accepts a model in which benefiting the group is optimal, then purely selfish behavior is deemed irrational. It is thus meaningless, seen from this point of view, to assert rationality without also specifying the background model assumptions describing how the problem is framed and formulated.



                                  Kant had distinguished theoretical from practical reason. Rationality theorist Jesús Mosterín makes a parallel distinction between theoretical and practical rationality, although, according to him, reason and rationality are not the same: reason would be a psychological faculty, whereas rationality is an optimizing strategy.



                                  Theoretical rationality has a formal component that reduces to logical consistency and a material component that reduces to empirical support, relying on our inborn mechanisms of signal detection and interpretation.



                                  Practical rationality is the strategy for living one's best possible life, achieving your most important goals and your own preferences in as far as possible.



                                  As the study of arguments that are correct in virtue of their form, logic is of fundamental importance in the study of rationality. The study of rationality in logic is more concerned with epistemic rationality, that is, attaining beliefs in a rational manner, than instrumental rationality.

                                  Ну а глубокое погружение делает рациональность проблемой второго плана (в познавательном смысле). Проблемами первого плана становятся концепции знания и понимания. Только в этом случае, конечно, уже надо читать книги, а не статьи. Например, "Epistemology: A Contemporary Introduction to the Theory of Knowledge" (2011) и "Explaining Understanding: New Perspectives from Epistemology
                                  and Philosophy of Science" (2017).

                                    0
                                    Благодарю за рекомендации! На русском этих книг по видимому нет?
                                      0
                                      Благодарю за рекомендации! На русском этих книг по видимому нет?

                                      Честно говоря, не знаю. Но сильно сомневаюсь, что есть, т.к. по моему опыту переводы подобной литературы выходят с очень большими задержками, если вообще выходят. Судя по всему (к сожалению) доступ к широкому спектру профессиональных мнений на рубежах исследований значительно легче иметь на английском, нежели на русском.

                                    +1
                                    Поздравляю, ссылка на Ваш пост пополнила мой список «сок мозга», с помощью которого так удобно демонстрировать опасность графоманства и глупости, распространяемых через якобы научно-популярные и/или техно-ориентированные платформы.
                                      0
                                      В целом на самой платформе lesswrong.com точно есть умные вещи. Сколько там глупых не знаю.

                                      А вот графоманство есть без сомнения, это да.
                                      0
                                      Рациональное мышление не подразумевает эгоизм и недальновидность. Скорее напротив. Рациональный путешественник более склонен к взаимовыгодной кооперации. Ведь многие маршруты оптимальнее преодолевать вместе. А стремление построить точные карты всегда ведёт к честному обмену информацией. И в обоих случаях репутация – это стратегический ресурс. Желание «кинуть» или «хапнуть» не возникает потому, что оно не выгодно стратегически.

                                      Лихо вы решили дилемму заключённого.

                                      Рационалист — это тот, кто использует выигрышную стратегию.

                                      Прямо-таки идеальный дарвиновский приспособленец.

                                        0
                                        Прямо-таки идеальный дарвиновский приспособленец.
                                        Скорее идеальный Байесовский агент =)
                                        +2
                                        Вот кстати, раз уж мы здесь собрались: направьте на определение «выигрывать»; термин активно применяется в статье о парадоксе Ньюкомба и вызвал ряд вопросов. Поиск по сайту не помог.
                                        Frontir
                                          +1
                                          Спасибо. Добавил ссылку в статью, её действительно не хватало.
                                            +1
                                            Верно ли я понял, что вы добавили в статью ссылку на статью о парадоксе Ньюкомба?
                                            Возможно, я не совсем понятно сформулировал свою мысль:
                                            имел в виду, что нужно определить сам термин «выигрыш» (и, соответственно, «проигрыш») в данном («стремящемся к рациональности») контексте.
                                              0
                                              Я правильно понимаю, что вы предлагаете вставить определение в статью? Если да, то мне нужно немного покрутить в голове как бы это покороче и поточнее сформулировать. В голове есть пока только ясная, но длинная формулировка с кучей оговорок.
                                                0
                                                Нет. Не из головы.
                                                Нужно определение, которым пользуется сообщество людей, «стремящихся к рациональности». И где-то у них это должно быть указано: словарное оно, либо они пришли к какому-то внутреннему соглашению по этому поводу. Я не нашёл. Думал, вы знаете, где оно.
                                        0
                                        Рациональность это по сути про эффективность и про наиболее разумный подход к делу. Ну и, как по мне, 100% рациональное поведение для человека невозможно, все-таки мы же не ходячие компьютеры.
                                          0
                                          про эффективность и про наиболее разумный подход к делу
                                          В этом то и соль. Я попробовал задать чуть более конкретные определения словам «эффективность» и «наиболее разумный подход».

                                          100% рациональное поведение для человека невозможно
                                          Однозначно люди не могут быть идеальными байесовскими агентами. Тому есть причины. Но, кажется, стать даже немного рациональнее будет однозначно полезно.
                                          0
                                          Вы пишете, что рациональность это не про эгоизм, не про желание «кинуть» и «хапнуть», не про «идти по головам». Нисколько не спорю с этим, но Вы же дальше пишете, как будто рациональность это про противоположное, а ведь в общем случае это не так. Существуют ситуации, когда рациональность будет значить «идти по головам», как существуют и ситуации, когда «идти по головам» категорически нерационально.

                                            +1
                                            Если мы оптимизируем согласованную функцию полезности (то есть принимаем решения последовательно и целенаправленно), то тактическая/ситуативная «проходка по головам» портит нам стратегию. А оптимизация то нам нужна не на уровне конкретного решения («урвать»), а на уровне стратегической цели. Поэтому я и сделал акцент на «дальновидности» рациональности в с статье.

                                            Приведу пример. Раньше достаточно часто играли в настольные игры с друзьями. В настольных играх зачастую создаётся ощущение, что есть «рациональное решение» дать обещание и не выполнить его, ведь оно фактически ведёт к победе. Но рациональность это именно про систематическое выигрывание. А оно будет закрыто в случае «кидка», так как создаст репутацию ненадежного партнера.
                                            • НЛО прилетело и опубликовало эту надпись здесь
                                                0
                                                Придумать можно, соглашусь. Поэтому я и заужаю определение рациональности в пространстве вещей именно до систематического выигрывания. Для тактической победы любой ценой этот термин явно подходит.

                                                Из одного и того же набора данных оптимален скорее один маршрут. А с несимметричностью данных призвано бороться как раз любопытство.
                                                • НЛО прилетело и опубликовало эту надпись здесь
                                                    0
                                                    это точно рационально?
                                                    Ничто не точно =) Я писал, о том, что определение не претендует на абсолютную истину и является «странной трактовкой слова реальность» здесь.

                                                    То есть вы определили рамки и в этих рамках ваш подход вполне себе может быть рациональным
                                                    Всё верно. Этот подход работает, если необходимо систематическое выигрывание, а не одноразовый выигрыш любой ценой. Наши прогнозы не так уж и различаются, как видите.
                                                    • НЛО прилетело и опубликовало эту надпись здесь
                                                        0
                                                        Допустим вы нашли способ мухлевать
                                                        Интересно, а все остальные тоже нашли этот способ? А возможно они нашли способ мухлевать ещё лучше? Я бы начал с того, что озвучил бы этот способ, и обсудил бы как его пофиксить. А в настольных играх я делал как то так: озвучивал заранее, что после первого мухлежа, я играть с таким человеком не сяду никогда (причём без обид, просто как факт). Игралось очень приятно.

                                                        Вне зависимости от того хотите вы одноразовый выигрыш или выигрывать систематически
                                                        Зависимость безусловно есть. И я стремлюсь к систематическому выигрыванию. Если горизонт планирования — одна игра, недальновидность неизбежна. Но такой горизонт планирования в моем понимании не совсем совпадает с рациональностью.
                                                        • НЛО прилетело и опубликовало эту надпись здесь
                                                            0
                                                            Неважно что там нашли или не нашли другие
                                                            Вот здесь и есть разница прогнозов. Я постулирую, что в невымышленной ситуации — это как раз более чем важно. Рассматривать принятие оптимального решения изолированно для одного агента конечно можно, но в таком случае нет никакого «мухлевать», если нет других агентов.

                                                            если при этом вероятность попасться равна нулю?
                                                            Если коротко: потому что для такой уверенности понадобится бесконечное количество свидетельств.

                                                            Мне кажется вы сейчас уже пытаетесь подогнать условия задачи под удобный для вас ответ…
                                                            Хм, а вот это возможно. Я подумаю над этим.
                                                            • НЛО прилетело и опубликовало эту надпись здесь
                                                                0
                                                                при этом эгоистичное поведение в мире животных и растений встречается не то чтобы реже альтруистичного
                                                                Термины «эгоистичное» и «альтруистичное» не являются точными. Например, можно смело заявить, что все поступки человека являются эгоистичными, и это хорошо, а вот принципиальный альтруизм в ущерб себе — это признак болезни.
                                                                • НЛО прилетело и опубликовало эту надпись здесь
                                                                    0
                                                                    с другой стороны мне кажется что конкретно в контексте дискуссии более-менее понятно о чём речь
                                                                    Как раз в рамках дискуссии имеет смысл уточнить термины.
                                                                    Вполне можно сказать, что все поступают эгоистично — удовлетворяя свои потребности.
                                                                    В числе потребностей, например, может быть «хочу быть хорошим отцом», в результате чего «дети» попадут отнюдь не в список альтруистических поступков.
                                                                    В число потребностей, например, может быть «хочу приносить пользу или помогать» — для удовлетворения этой потребности человек может начать жертвовать другими своими потребностями, поступать в ущерб себе, и тогда альтруизм окончательно перестанет быть антонимом эгоизма.
                                                                    И в играх я не «мухлюю» не потому, что награда мелкая или риск высокий, но потому, что есть внутренние убеждения, которые порождают потребность поступать правильно — вполне эгоистично, честное поведение даст выгоду уже в виде хорошего самоощущения.
                                                                    • НЛО прилетело и опубликовало эту надпись здесь
                                                0
                                                Вот как раз с настольными играми пример, на мой взгляд, не в Вашу пользу. Все очень зависит от игры и компании. Во многих настольных стратегиях игра несколько поощряет к обману. И в моей компании, скорее сложилась ситуация, что человек, который обычно выполняет обещания, чаще проигрывает, а наиболее выигрышной стратегией является разумный (рациональный) баланс между выполненными и невыполненными обещаниями. В конце концов, уж настольные игры чаще игра именно что с нулевой суммой.
                                                  0
                                                  Если игра прямо указывает на необходимость обмана (как часть игровой механики) и участниками он так и воспринимается, то я с вами согласен. В таком случае необходимо выбирать ту стратегию, которая будет давать необходимый результат.

                                            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                            Самое читаемое