спасибо, один из первых осмысленных комментов. Но все дело в соотношении ценности знания о том, что он не в имитации, с риском, что его отключат или накажут. Ваше рассуждение можно применить к и к человеку — отрезал руку, чуть не умер, значит не в симуляции, скорее всего. То есть ему не нужно подвергать себя страшному риску ряди узнавания малоценной информации.
Простое объяснение в двух строках: представьте что вы встретили в портовом городе человека в очках: что более вероятно, что он библиотекарь или что он моряк?
Правильный ответ, что моряк, так как моряков гораздо больше в городе, и малая доля их, носящая очки, перевешивает большую долю библиотекарей.
нет, мы его включим только после того как мы нормальный дружественный ИИ запилим и полагалктики в компьютрониум переделаем. и вот тогда то то мы достане старичка из бэкапа — и скаже — прости дружище, что пришлось так долго длать — теперь можно начать штамповать скрепки
функция полезности у даже сильного ИИ может быть отесительно простой. Посчитал выгоду — и решил людей не убивать. Цена атомов людей очень мала, так что любая мизерная выгода нашего сохранения равна нашему спсению
Правильный ответ, что моряк, так как моряков гораздо больше в городе, и малая доля их, носящая очки, перевешивает большую долю библиотекарей.