Не совсем понял, что вы называете границей между учебным датасетом и реальным миром. В эксперименте dataset модели вообще не меняется. Если вы про границу, после которой новые наблюдения должны заставить систему ограничить или заменить старую теорию, — это как раз отдельная часть дизайна: сравнение решения модели с контрольной рациональной политикой, плюс качество прогноза, задержка пересмотра и ложные революции. Или вы имели в виду что-то другое?
Кажется, тут есть более интересная проблема, которую в комментариях почти не затронули.
В исходной матрице слово «люди» используется сразу в двух разных смыслах.
Если A/Б — решение всех инвесторов в совокупности, то исход БI («никто не инвестировал, но сингулярность возникла») невозможен по исходному условию статьи: для сингулярности нужны инвестиции.
Если же A/Б — решение одного инвестора, тогда БI вполне возможен: я не вложился, остальные вложились, сингулярность наступила.
Но тогда это уже не парадокс инвестирования, а классическая задача о безбилетнике.
Допустим, сингулярность требует $1 трлн инвестиций. Если остальные уже вложили $999 999 999 999, мне рационально вложить последний доллар: без меня желательный исход не наступит. Если остальные и без меня соберут триллион — мне рационально не вкладывать и бесплатно получить тот же постдефицитный мир.
То есть существенен не вопрос «обесценятся ли деньги после сингулярности», а величина:
И тут, кажется, возникает даже более занятный результат, чем в статье: сингулярность может быть коллективно выгодна, при этом каждый отдельный участник будет пытаться переложить стоимость её создания на остальных.
Получается не «рациональные люди не профинансируют сингулярность», а «частный рынок должен систематически недофинансировать сингулярность как общественное благо».
И вот это уже действительно похоже на задачу для теории игр.
Не совсем понял, что вы называете границей между учебным датасетом и реальным миром. В эксперименте dataset модели вообще не меняется. Если вы про границу, после которой новые наблюдения должны заставить систему ограничить или заменить старую теорию, — это как раз отдельная часть дизайна: сравнение решения модели с контрольной рациональной политикой, плюс качество прогноза, задержка пересмотра и ложные революции. Или вы имели в виду что-то другое?
Кажется, тут есть более интересная проблема, которую в комментариях почти не затронули.
В исходной матрице слово «люди» используется сразу в двух разных смыслах.
Если A/Б — решение всех инвесторов в совокупности, то исход БI («никто не инвестировал, но сингулярность возникла») невозможен по исходному условию статьи: для сингулярности нужны инвестиции.
Если же A/Б — решение одного инвестора, тогда БI вполне возможен: я не вложился, остальные вложились, сингулярность наступила.
Но тогда это уже не парадокс инвестирования, а классическая задача о безбилетнике.
Допустим, сингулярность требует $1 трлн инвестиций. Если остальные уже вложили $999 999 999 999, мне рационально вложить последний доллар: без меня желательный исход не наступит. Если остальные и без меня соберут триллион — мне рационально не вкладывать и бесплатно получить тот же постдефицитный мир.
То есть существенен не вопрос «обесценятся ли деньги после сингулярности», а величина:
насколько моя инвестиция меняет вероятность сингулярности?
И тут, кажется, возникает даже более занятный результат, чем в статье: сингулярность может быть коллективно выгодна, при этом каждый отдельный участник будет пытаться переложить стоимость её создания на остальных.
Получается не «рациональные люди не профинансируют сингулярность», а «частный рынок должен систематически недофинансировать сингулярность как общественное благо».
И вот это уже действительно похоже на задачу для теории игр.