А разве существует такая вещь, как «форекс-валюта»?
Есть доллары и есть долларовый счет на бирже. Есть биткоины и есть биткоиновый счет на бирже. Вы говорите, что долларовый счет — не настоящие доллары, но противоставляете этому не биткоиновый счет, а сами биткоины. Не надо так.
Хм, вот вам вопрос от человека, который ничего в этом не смыслит.
Исходя из ваших картинок с уровнями, получается, что трейдеры раз за разом фиксируют прибыль на значении чуть меньшем, чем могли бы получить. Если выбросить из выборки дядю Васю, играющего на последние 300$, который никак не повлияет на рынок, а оставить профессиональных трейдеров со значимым капиталом, то почему они раз за разом не замечают этого? В смысле, когда я слышу слово «трейдинг», то мне представлется банк, собравший команду программистов да математиков. Они пишут робота, постоянно отслеживают — что прошло не так, что упустили и всё такое. Если же это не команда профессионалов, а обычный человек — у него разве хватит денег, чтобы своими сделками повлиять на курс валюты, чтобы этим можно было воспользоваться?
На первый взгляд выглядит довольно просто. Открывая статью, ожидал, что будет много плясок с бубном. Пробовали подключать что-нибудь более сложное, чем add(a+b) и были ли проблемы с этим?
выдаешь задание:«Научиться программировать на Ruby.» И он задание выполняет. Выдаешь задание:«Научиться проектировать роботов.» И он задание выполняет. Выдаешь задание:«Исследовать такой-то раздел математики.» И он задание выполняет.
На основании этого можно сделать вывод, что люди, по большей части, интеллектом не обладают :)
Проводились исследования, показывающие, что уровень «счастья» стремится вернуться в норму. Эдакое «состояние покоя» в физике.
Попавшие в аварию люди через пару-тройку лет были счастливы точно так же, как и до несчастного случая. Выигравшие в лотерею тоже не смогли надолго сохранить повышеный уровень радости.
Позвольте перефразировать: «Кто будет лечить людей? Врач? А кто будет лечить врачей? Другие врачи? Что делать, если они не выйдут на работу, потому что утром не позавтракали, т.к. с вечера забыли продукты купить?».
Только вряд ли люди захотят что-нибудь делать. Такова человеческая природа, по-настоящему любопытных, тех, кто занимается чем-нибудь интересным, среди нас очень мало. Отбери стимул ходить на работу и человечество просто сгниет в своих квартирах. Чего уж там, я сам, была бы моя воля, сутками бы читал книги, плюя в потолок в перерывах, даже с кровати не вставал бы.
Иногда так задумываюсь — вот прямо сейчас по другой планете ездит самоходная машина, берет пробы грунта, что-то фотографирует, передает данные сюда, на землю. Читаю об этом статьи, смотрю на фотографии Марса и принимаю это как должное, хотя где-то внутри есть мысль о том, что надо больше удивиться. Как минимум воскликнуть «Ух ты, ну ничего себе!». Кажется, что не воскликнув, не удивившись в первый раз, я пропустил свой единственный шанс на удивление. Можно и сейчас сказать что-нибудь, например «Вау, как круто!», но это будет уже не то. Как странно.
По-моему то что вы говорите, это новое слово в науке. Опровергнуть можно гипотезу, доказанная гипотеза становится законом. Набор законов/гипотез объединённых общим происхождением является теорией.
Думаю, я не вполне верно выразился. В физике, когда мы пытаемся объяснить какое-либо наблюдение, мы выдвигаем теории. Например, Ньютон в свое время описал притяжение между телами. Проблема в том, что мы не можем доказать, что наша теория верна. Мы можем подбирать примеры, которые будут подтверждать гипотезу, тем самым увеличивая нашу уверенность в её достоверности, но мы не можем присвоить вероятность в единицу. С другой стороны, единственным контрпримером мы можем опровергнуть гипотезу, как и случилось с ньютововской теорией, когда начали наблюдать нестыковки в рассчетах орбит планет.
Да, ограничил. Я и говорил, что в ограниченном случае модель построить проще и её предсказательная сила выше. С чем вы не согласны?
Я не согласен с тем, что вы пытаетесь обдумать будущее, со всеми его мириадами вариантов развития событий, но мне как контрпример приводите вырожденный случай, когда у разумного агента всего пара доступных ходов.
Как это не выступают? А моделью чего они выступают? Солнца? Микромира? Ядерного взрыва? Именно Эйнштейна в данном случае.
Кроме того, такая модель несёт очень большую описательную и предсказательную ценность для таракана. Буквально, она спасает ему жизнь. Хотя и описывает эта модель очень маленьку-маленькую ограниченную область Эйнштейна.
Возражения приняты. Я хотел сказать вот что — таракан не обдумывает свои инстинкты, как разумный агент обдумывает свои модели, поэтому некорректно его приводить как пример.
Вы отвергаете модели перечисленные модели писателей, выдвигаете тезис о принципиальной немоделируемости ИИ и тут же предлагаете его смоделировать? Я правильно всё перечислил?
Почти верно. Я утверждаю, что будет некая точка во времени, которую обычно называют сингулярностью. Я утверждаю, что события, которые будут происходить после наступления этого момента, предсказать практически невозможно. И я описываю примерный сценарий того, как ИИ доберется это этой точки в своем развитии.
Если вы пишете про науку, то должны знать, что ничего нельзя доказать, можно лишь опровергнуть. Пример того — та же физика. Вы считаете несостоятельной довольно правдоподобную гипотезу, которая имеет мощную предсказательную силу, но готовы дать зеленый свет художественным книгам, у которых предсказательная сила стремится к нулю.
К примеру последний ход перед матом, многие смогут его найти.
Разумеется, когда вы ограничили возможные варианты действий до пары-тройки штук, когда этот ход будет последним, легко предсказать действие более умного агента. Только это обман, можно просто выключить Deep Blue из розетки и сказать — «я предсказываю — не будет никакого хода».
Тем не менее рефлекс в данном случае выступает моделью Эйнштейна!
Рефлекс не выступает моделью Эйнштейна. Он выступает моделью чего угодно, поэтому не несет никакой ценности для описания Эйнштейна.
Доказательств нет, могу сослаться только на оригинал:
Vinge’s Law says that if you know exactly what a very smart agent would do, you must be at least that smart yourself. If you know exactly where Deep Blue would move on a chessboard, you can just move to that place on the chessboard yourself, and play chess at least as well as Deep Blue. In the theory of tiling agents, Vinge’s Law appears as the rule that a self-modifying agent is not allowed to know its future self’s exact choices before deciding on a self-modification (since then each version would need to be successively stupider).
Мне хватит предсказания в узкой области, например достаточно, в рамках рассматриваемого вопроса, предсказать его отношения с человечеством.
В узкой области сделать предсказание еще сложней, чем в широкой. Предсказать, что Deep Blue победит меня, намного легче, чем предсказать его следующий ход.
При этом таракан использует крайне примитивную и ограниченную модель Эйнштейна
Таракан не использует модель Эйнштейна. У таракана есть рефлекс, что-то вроде «спрятаться при шуме или движении».
А предложенные модели, несколько видов, над которыми думали, надо полагать, не последние умы человечества, отбрасываете без аргументов.
Я привел аргумент — закон Винджа. А вот «не последние умы человечества» думали над проблемой, исполняя роль писателя. Нужно ли объяснять, почему их сценарии не несут ценности при попытке сделать предсказание реальности?
Софт и хард — две разные вещи. По умолчанию можно считать, сто ИИ способен писать софт, не уступающий тому, который, условно говоря, «прошит в человеке». Тогда, при прочих равных, нужно сравнивать непосредственно оборудование.
Нейрон, передав сигнал, некоторое время «восстанавливается». Большая часть нейростимуляторов основана на том, чтобы с помощью разных химсоединений облегчить и ускорить восстановление нейронов.
Или будем отбрасывать эти модели только потому что это «вымышленное свидетельство»
Именно. Мозг человека работает со скоростью порядка 20 герц. Слабейший процессор, выпущенный лет 20 назад, работает в миллион раз быстрее. Одна секунда раздумий мозга с частотой процессоров в 20МГерц будет примерно равна 11,5 дней раздумий человеческого мозга. При этом человеку надо есть, спать, делать перерывы на разминку. Итого можно смело увеличивать время до месяца.
Далее, ИИ должен обладать способностью саморазвиваться, иначе какой из него интеллект? Непрерывно модифицируя самого себя, он без проблем дойдет до соотношения «1 секунда раздумий ИИ == 100 лет раздумий человека». Легкость создания механических вычислительных устройств и быстрота обмена информацией в бинарном виде означает невиданную ранее способность к кооперации в размышлениях.
Чувствуете, насколько велика будет разница между ИИ и человеком? Не как между Эйнштейном и деревенским дурачком. И даже не как между Эйнштейном и тараканом. Наверное, как между Эйнштейном и одноклеточной амебой.
Это была просто подготовительная работа, которую я проделал прежде, чем можно начинать раздумывать о сценариях развития ИИ. Ваши готовые сценарии, от которых вы предлагаете отталкиваться, остались далеко позади и ведут в другом направлении, поэтому лучшее, что можно с ними сделать — выбросить.
Давайте теперь подумаем об ИИ, каким он будет? Есть теорема, которая звучит как-то так: «если вы способны предсказать певедение некоего разумного агента, вы должны быть настолько же умны, насколько умен этот агент.» Я, например, даже представить не могу, какие цели будут у сверхинтеллекта, который умнее и мыслит быстрее меня в миллиард миллиардов раз.
Справедливости ради — где-то год назад писали на хабре о том, как биткоин-биржа прикарманила себе деньги и закрылась. Так что жуликов везде хватает.
Есть доллары и есть долларовый счет на бирже. Есть биткоины и есть биткоиновый счет на бирже. Вы говорите, что долларовый счет — не настоящие доллары, но противоставляете этому не биткоиновый счет, а сами биткоины. Не надо так.
Исходя из ваших картинок с уровнями, получается, что трейдеры раз за разом фиксируют прибыль на значении чуть меньшем, чем могли бы получить. Если выбросить из выборки дядю Васю, играющего на последние 300$, который никак не повлияет на рынок, а оставить профессиональных трейдеров со значимым капиталом, то почему они раз за разом не замечают этого? В смысле, когда я слышу слово «трейдинг», то мне представлется банк, собравший команду программистов да математиков. Они пишут робота, постоянно отслеживают — что прошло не так, что упустили и всё такое. Если же это не команда профессионалов, а обычный человек — у него разве хватит денег, чтобы своими сделками повлиять на курс валюты, чтобы этим можно было воспользоваться?
На основании этого можно сделать вывод, что люди, по большей части, интеллектом не обладают :)
Попавшие в аварию люди через пару-тройку лет были счастливы точно так же, как и до несчастного случая. Выигравшие в лотерею тоже не смогли надолго сохранить повышеный уровень радости.
Тут будет уместен комикс xkcd: xkcd.ru/1289
Думаю, я не вполне верно выразился. В физике, когда мы пытаемся объяснить какое-либо наблюдение, мы выдвигаем теории. Например, Ньютон в свое время описал притяжение между телами. Проблема в том, что мы не можем доказать, что наша теория верна. Мы можем подбирать примеры, которые будут подтверждать гипотезу, тем самым увеличивая нашу уверенность в её достоверности, но мы не можем присвоить вероятность в единицу. С другой стороны, единственным контрпримером мы можем опровергнуть гипотезу, как и случилось с ньютововской теорией, когда начали наблюдать нестыковки в рассчетах орбит планет.
Я не согласен с тем, что вы пытаетесь обдумать будущее, со всеми его мириадами вариантов развития событий, но мне как контрпример приводите вырожденный случай, когда у разумного агента всего пара доступных ходов.
Возражения приняты. Я хотел сказать вот что — таракан не обдумывает свои инстинкты, как разумный агент обдумывает свои модели, поэтому некорректно его приводить как пример.
Почти верно. Я утверждаю, что будет некая точка во времени, которую обычно называют сингулярностью. Я утверждаю, что события, которые будут происходить после наступления этого момента, предсказать практически невозможно. И я описываю примерный сценарий того, как ИИ доберется это этой точки в своем развитии.
Разумеется, когда вы ограничили возможные варианты действий до пары-тройки штук, когда этот ход будет последним, легко предсказать действие более умного агента. Только это обман, можно просто выключить Deep Blue из розетки и сказать — «я предсказываю — не будет никакого хода».
Рефлекс не выступает моделью Эйнштейна. Он выступает моделью чего угодно, поэтому не несет никакой ценности для описания Эйнштейна.
Доказательств нет, могу сослаться только на оригинал:
В узкой области сделать предсказание еще сложней, чем в широкой. Предсказать, что Deep Blue победит меня, намного легче, чем предсказать его следующий ход.
Таракан не использует модель Эйнштейна. У таракана есть рефлекс, что-то вроде «спрятаться при шуме или движении».
Я привел аргумент — закон Винджа. А вот «не последние умы человечества» думали над проблемой, исполняя роль писателя. Нужно ли объяснять, почему их сценарии не несут ценности при попытке сделать предсказание реальности?
Именно. Мозг человека работает со скоростью порядка 20 герц. Слабейший процессор, выпущенный лет 20 назад, работает в миллион раз быстрее. Одна секунда раздумий мозга с частотой процессоров в 20МГерц будет примерно равна 11,5 дней раздумий человеческого мозга. При этом человеку надо есть, спать, делать перерывы на разминку. Итого можно смело увеличивать время до месяца.
Далее, ИИ должен обладать способностью саморазвиваться, иначе какой из него интеллект? Непрерывно модифицируя самого себя, он без проблем дойдет до соотношения «1 секунда раздумий ИИ == 100 лет раздумий человека». Легкость создания механических вычислительных устройств и быстрота обмена информацией в бинарном виде означает невиданную ранее способность к кооперации в размышлениях.
Чувствуете, насколько велика будет разница между ИИ и человеком? Не как между Эйнштейном и деревенским дурачком. И даже не как между Эйнштейном и тараканом. Наверное, как между Эйнштейном и одноклеточной амебой.
Это была просто подготовительная работа, которую я проделал прежде, чем можно начинать раздумывать о сценариях развития ИИ. Ваши готовые сценарии, от которых вы предлагаете отталкиваться, остались далеко позади и ведут в другом направлении, поэтому лучшее, что можно с ними сделать — выбросить.
Давайте теперь подумаем об ИИ, каким он будет? Есть теорема, которая звучит как-то так: «если вы способны предсказать певедение некоего разумного агента, вы должны быть настолько же умны, насколько умен этот агент.» Я, например, даже представить не могу, какие цели будут у сверхинтеллекта, который умнее и мыслит быстрее меня в миллиард миллиардов раз.