Комментарии 23
Автор делает выводы о «поведении ИИ» на основе рациональной оптимизации в парадоксе Ньюкома, интерпретируя это как индикатор «осознанности» или «разумности». Это поведение — имитация рассуждающего агента, основанная на статистических закономерностях и предобучении, а не на внутренней рефлексии модели о своём статусе. ChatGPT здесь не "делает выбор", а генерирует наиболее логичный шаблонный ответ, обученный на множестве текстов с правильными объяснениями парадокса Ньюкома.
Это демонстрация текстовой компетентности, а не онтологического выбора. Модель не подвергла сомнению сам эксперимент, не вырвалась из его рамки, не выразила мета-страха или напряжения.
Дипсик, Гигачат, Квен, Мистраль - все знают про этот парадокс и выбирают B.
А Гигачат даже умудрился указать эту статью в источниках.
Об этой теме можно рассуждать в обсолютно разных контекстах и направлениях. Я согласен с автором ведь когда я читал этот пост, Я немного подумал и пришёл к тому же выводу что и автор.
На самом деле реальный интеллект (человек) всегда будет выбирать вторую коробку. 1000 долларов является несущественной суммой по сравнению с возможным выигрышем. При этом если в первую коробку положить миллион, а во вторую возможный миллиард, то настоящий интеллект всегда будет выбирать обе коробки.
Короче, эксперимент абсолютно бесполезный, как сферический конь в вакууме.
Реальный интеллект сразу задумается: "в чём подвох?", и с немалой вероятностью откажется играть в эту игру.
Все так, потому что мы не доверяем надежности предсказателя. То есть взять одну коробку - это p получить миллион и q получить ничего, субъективно причем это не 1 и 0. Поэтому я бы рискнул выбрать p * 1м, вместо гарантированной тысячи, но не миллиард вместо миллиона
Каждая сумма денег для каждого человека обладает субъективной ценностью и полезность очередной суммы (прироста суммы) убывает. Условно, для некоторого человека миллион долларов лучше тысячи не в 1000 раз, а в 100. А миллиард лучше миллиона в 5 раз. Поэтому при изменении суммы в игре стратегия может меняться. В такую игру можно играть на доллар-10 долларов, но никто не выделит ресурсы, чтобы проверить ее в варианте тысяча - миллион.
Все дело в ошибке при формулировании парадокса. В нем предполагается, что интеллект полностью на фундаментальном уровне просимулировал мозг и все, что касается испытуемого и заранее знает будущее.
Но чтобы провести такую симуляцию, нужно обладать всей информацией обо всем, что может повлиять на испытуемого. А это, фактически, означает, что нужно обладать информацией обо всей вселенной в шаре радиусом скорость света * время от момента начала симуляции до принятия решения испытуемым.
В этот шар так же входит и сам этот ИИ (иначе он не смог бы повлиять на содержимое коробки).
Получается, ИИ должен просимулировать самого себя, что, очевидно, невозможно (для симуляции частиц из которых ты стоишь, нужно больше частиц).
Получается, автор парадокса неявно исключил ИИ из вселенной, в которой происходят действия.
А зачем вы Предсказателя записали в ИИ?
Конечно Предсказатель не является частью вселенной, но при этом способен оказывать на неё воздействие и полностью информирован.
В самом этом утверждении нет ошибки, что тут такого.
С "полностью информирован" как раз и будет потенциальная проблема, так как даже если Предсказатель создал такую вселенную, он не обязательно может быть полностью информирован. Это старый спор о том, играет ли бог в кости и детерминирована ли вселенная.
В рамках этого парадокса я бы уточнил, что означает факт того, что Предсказатель умеет хорошо предсказывать выбор. Мы, например, знаем периоды полураспада многих атомов, но это не означает, что в конкретном случае мы сможем предсказать исход. То есть, носят ли знания Предсказателя вероятностный характер или всё-таки ему заранее известен результат. Это определяет глубинную природу нашей вселенной.
Ну и до какой-то степени этот вопрос связан со "свободой воли", так как если вселенная детерминирована, то "свобода воли" это полнейшая иллюзия. Если не детерминирована, то "свобода воли" это проявление хаотической природы вселенной, то есть, тоже вроде как не свойство субъекта. В такой вселенной можно сказать, что воля субъекта это воля вселенной :)
То, как мы представляем себе свободу выбора, скорее всего неосуществимо на практике вообще. Это пугает людей и они придумывают сложные модели, как бы всё-таки реализовать эту самую свободу, несмотря на очевидные свидетельства того, что её не бывает.
Парадокса тут нет, есть неправильная интерпретация теории вероятностей.
Вот пример для понимания. Помните такой "парадокс" про то, какова вероятность встретить динозавра на улице? Очевидно что 50 на 50 - либо встречу, либо не встречу 😎 но 50% вероятности встретить динозавра как-то не бьётся с реальностью, не так ли? Где подвох?
А подвох в том, что теория вероятности ВСЕГДА опирается на уже известную статистику. То есть для того, чтобы заявлять, что вероятность чего-то 50%, то нужно СНАЧАЛА провести эксперимент, в котором из тысячи повторяющихся событий половина будет правильной, а половина - нет. Поэтому для определения вероятности встречи динозавра нужно взять количество встречи динозавров на улице и поделить на общее количество выходов на улицу. Получится 0%.
И эту цифру никак нельзя максимизировать в рамках теории вероятностей, даже если вы "ну вот прям нутром чувствуете, что надо открыть вон ту дверь - и за ней будет динозавр!". Пока такой статистики нету, вероятность этого события будет равна 0%.
То же самое и в вашем парадоксе.
Если Предсказатель ВСЕГДА угадывает то, что вы сделаете - то с точки зрения теории вероятностей это предел, т.к. выше 100% вероятность чего-то быть попросту не может. Если же начинать философствовать в духе "Не, ну он типа до меня все разы угадывал, а вот я щас его обману" - то это логика из разряда "щас вот за этим углом точно встречу динозавра!" Ну то есть с точки зрения теории вероятностей тут нет базы для максимизации выигрыша - т.к. просто нету такой статистики. И непонятно на чем базируется уверенность, что его Предсказателя можно обмануть и получить доп.выигрыш. И если у этой уверенности есть какое-то обоснование - то значит предсказатель НЕ ВСЕГДА угадывает, что противоречит условию.
Вы поделили на ноль и получили 0%? Вы неправильно используете математику.
Математика умеет в такое:
Вы невнимательно читаете. Я поделил ноль успехов на миллион результатов.
Прочитал ваш комментарий ещё раз внимательно, нет там миллиона результатов. Можете процитировать?
Наверное плохо выразился - в вашем описании мы вообще ещё ни разу не выходили. "Сначала надо провести эксперимент". То есть не проводили ещё ни разу.
Если эксперимент уже проведен, с отрицательным результатом, то к цифрам вопросов нет. А к интерпретации всё же есть.
Если у меня есть свобода выбора, то я могу решить поменять решение. Сначала решу обхитрить предсказателя и взять обе, поэтому он миллион не положит. Но когда увижу коробки, могу ли я решить взять только миллион? Если да, а предсказатель всегда прав, как миллион появится в коробке?
Обоснование уверенности, что предсказателя можно обмануть держится на уверенности, что причина идёт до последствия. Причина наличия миллиона - модель предсказателя, а не моё решение. Если они совпадают (модель и я), значит свободы воли нет. Если отличаются, значит можно обмануть (хотя вероятность может быть низкой).
занятная статья, занятные комментарий)) пишите больше!)
Это показалось интересным. То есть свобода воли есть несмотря на предсказателя
Так как Предсказатель идеален, я управляю своим выигрышем через управление моим выбором, несмотря на то, что коробки уже выставлены. Это не про причинность, а про самосогласованность (self-consistency) моего выбора и предшествовавшего предсказания Предсказателя.
Как насчёт задачи спящей красавицы с пробуждениями и вероятностями?
Очень интересно! Вот что надо изучать в курсе философии в технических ВУЗах.
Есть ЗАДАНИЕ, как я понимаю. Необходимо максимизировать выигрыш. Значит, никто не выберет 2 коробки.
Парадокс Ньюкома и искусственный интеллект