Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 68
Да в 2000 году тоже самое писали, про 25 лет…
А кто и что писал? Вы вообще обратили внимание на то, что статья, как бы, 2001го года? Или нет?
При этом там есть и дата вполне себе сегодняшняя, легко проверяемая: «закон Мура умрёт достойной смертью не позднее 2019 года»… вроде как предсказание не вполне сбывшееся: Samsung и TSMC вроде как обещают 5nm скоро… вот только 14nm транзисторов помещалось 29-33 миллионов на квадратный миллиметр, а 5nm будет помещаться 126-173 миллионов (притом что IRDS планировала 300).
То есть в послднее время нанометры имеют отношения скорее к микро-, мини- и нано- SIM-картам, чем к Закону Мура.
Учитывая что речь идёт о предсказаниях, сделанных сильно больше 10 лет назад попадание — вполне достойное…
При этом там есть и дата вполне себе сегодняшняя, легко проверяемая: «закон Мура умрёт достойной смертью не позднее 2019 года»… вроде как предсказание не вполне сбывшееся: Samsung и TSMC вроде как обещают 5nm скоро… вот только 14nm транзисторов помещалось 29-33 миллионов на квадратный миллиметр, а 5nm будет помещаться 126-173 миллионов (притом что IRDS планировала 300).
То есть в послднее время нанометры имеют отношения скорее к микро-, мини- и нано- SIM-картам, чем к Закону Мура.
Учитывая что речь идёт о предсказаниях, сделанных сильно больше 10 лет назад попадание — вполне достойное…
Пример, который сам Курцвейл любит приводить в своих выступлениях: в 1989 году он (в своей книге) прогнозировал появление GAI в первой половине 21 века. В 1999 году назвал год — 2029. Собравшиеся по этому поводу на конференцию в Стенфорде AI эксперты пришли к консенсусу, что это случится «через сотни лет» (а четверть считали, что вообще никогда). В 2006 году в Дартмутском колледже, на конференции, посвящённой 50летию первой Дартмутской конференции (где было введено понятие искусственного интеллекта), консенсусный прогноз был 50 лет. Сейчас большинство экспертов называют цифры 20-30 лет. Т.е. оценки Рэя и других экспертов сближаются, но не потому, что он меняет свои…
Т.е. оценки Рэя и других экспертов сближаются, но не потому, что он меняет свои…Ну свои он тоже меняет… Но не так радикально. То есть не как с термоядом, который когда не спроси ответ всегда один «первый работающий реактор ожидается через 15 лет». В последней книжке (2012й год) он дал «вилку»:. 2031й — год когда вычислительные мощности компьютеров превзойдут вычислительные мощности людей и, теоретически, мы будем иметь достаточно мощности, чтобы создать GAI. И 2042й — год, когда мы сможем тупо эмулировать человеческое сознание со скоростью быстрее, чем 1:1.
Первый срок, в принципе, не так далеко отстоит от того, что он насчитал за 15 лет до этого. Просто в XX веке он как-то об этом не задумывался об этом, а вот в XXI веке осознал, что наличие подходящего «железа» не означает автоматически, что появится нужный «софт» (любой душевнобольной без органических повреждений мозга — вполне себе пример).
P.S. Впрочем он всё ещё надеется, что план «Б» с говорящими головами в стиле Футурамы — так и останется планом «Б»…
«До управляемой термоядерной реакции остается 15 лет» и эта фраза справедлива на протяжении минимум половины века.
«Компьютерное зрение? Думаю, мой лаборант справится за 6 месяцев!»(с) 1950е
Хотя, возможно, там было про распознание голоса, но не суть.
Хотя, возможно, там было про распознание голоса, но не суть.
Ага. А ещё может быть так: что предки видели как линейную зависимость, а мы видим как экспоненту, потомки увидят как примерную синусоиду.
моё_хобби_экстраполировать.жпг
моё_хобби_экстраполировать.жпг
Базис цивилизации — транспорт, энергетика, связь. За пол века 1970-2020 машины и самолёты стали экспоненциально быстрее, на луну и Венеру летаем чаще, от архаичных ветряных мельниц и перекрытия рек отказались и переходим от ядерной энергетики к термоядерной, Почта России заработала в тысячу раз быстрее. Всё так.
Сам придумал, сам опроверг, сам сабя похвалил. Прекрасно.
А что-нибудь на тему статьи сказать?
А что-нибудь на тему статьи сказать?
буль-буль. Что ещё сказать.
Статья очень длинная, но мыслей в ней негусто.
Основная — бешено разгоняющийся технический прогресс.
Чего на самом деле не наблюдается.
Если верить автору, то за последние пятьдесят лет, 1970-2019, прогресс должен быть примерно как за сто перед этим, 1870-1969. Верите?
Статья очень длинная, но мыслей в ней негусто.
Основная — бешено разгоняющийся технический прогресс.
Чего на самом деле не наблюдается.
Если верить автору, то за последние пятьдесят лет, 1970-2019, прогресс должен быть примерно как за сто перед этим, 1870-1969. Верите?
Если верить автору, то за последние пятьдесят лет, 1970-2019, прогресс должен быть примерно как за сто перед этим, 1870-1969.Ну да. Берём статью, выбрасываем из неё самую важную часть, начинаем критиковать. Автор, вообще-то, говорит про информационные технологии. А не про прогресс вообще.
Верите?Ну зачем же верить — проверить же можно. 1870й год, это что у нас там? Первый кабель через Атлантику? Так. А что там в 1970м? Тысячи телефонных разговоров одновременно. Сегодня же имеем петабит — это миллионы видеоизображений. Да, всё сходится.
P.S. После фразы «базис цивилизации — транспорт, энергетика, связь» всю остальную чушь, что вы пороли, можно было и не читать. Потому что эффективность транспорта и энергетики, как несложно догадаться, ограничена КПД. А КПД уже у первых паровых машин — был порядка 0.5%. Ужасный КПД и пока его удавалось поднимать — транспорт и энергетика росли фантастическими темпами. Но уже к началу XX века КПД дорос до 10%. Сегодня — что-то типа 40-50%. А выше 100% он не может быть в принципе. То есть расти особо-то и некуда. А компьютеры и свзязь? Тут КПД не мешает, что ли? Ну… теоретические оценки есть, конечно… но не так важно: у нас КПД 0.00000000000000001% или 0.0000000000000000000000000000000000001%… его можно ещё удваить и удваивать многие десятилетия даже не приближаясь к пределу. Вот именно это и отделяет те технологии, которые технологическая сингулярность может затронуть от тех, на которые она не распространяется… есть у вас в технологии ограничения через КПД? Всё, технологическая сингулярность её точно не затронет. Нет ограничений? Тут всё может быть. Грубо говоря никакая сингулярность не сможет сделать ракету на химическом топливе подходящим средством для перемещения в космосе… а вот термоядерную — может быть и сможет.
а причём тут КПД? Кого он вообще волнует? Это как количество транзисторов, некий параметр интересный только фрикам.
Транспорт легко объективно оценить — скорость, грузоподъёмность, безопасность.
В 1870 путь Париж-Нью Йорк занимал недели, в 1970 — пять часов, сейчас — 10.
Про Луну мечтали — летали — перестали. Точно прогресс космонавтики 1970-2019 намного больше, чем 1870-1970?
Энергетику ещё проще — энерговооружённость. Сколько квт на человека имеем. Ну или всего, на всё человечество. Прогресс с 1870 по 1970 более чем заметный, за последние 50 лет — не сказать чтоб потрясал.
Со связью тоже так себе. Петабиты тут малоинтересны, интересны возможности. В 1870 поговорить с человеком на другом континенте было невозможно, в 1970 — привычно и доступно всем. Прогресс несомнен. Сейчас стало чуть дешевле, чуть лучше, но улучшения не сильнее, чем раньше, скорее меньше. Нет экспоненты.
Хорошо, не нравится вам триада транспорт/энергетика/связь, предложите свои базовые вещи. Что, по вашему, является мерой развития, мерой прогресса? Транзисторы на мм?
Транспорт легко объективно оценить — скорость, грузоподъёмность, безопасность.
В 1870 путь Париж-Нью Йорк занимал недели, в 1970 — пять часов, сейчас — 10.
Про Луну мечтали — летали — перестали. Точно прогресс космонавтики 1970-2019 намного больше, чем 1870-1970?
Энергетику ещё проще — энерговооружённость. Сколько квт на человека имеем. Ну или всего, на всё человечество. Прогресс с 1870 по 1970 более чем заметный, за последние 50 лет — не сказать чтоб потрясал.
Со связью тоже так себе. Петабиты тут малоинтересны, интересны возможности. В 1870 поговорить с человеком на другом континенте было невозможно, в 1970 — привычно и доступно всем. Прогресс несомнен. Сейчас стало чуть дешевле, чуть лучше, но улучшения не сильнее, чем раньше, скорее меньше. Нет экспоненты.
Хорошо, не нравится вам триада транспорт/энергетика/связь, предложите свои базовые вещи. Что, по вашему, является мерой развития, мерой прогресса? Транзисторы на мм?
Сюда еще фундаментальную науку можно плюсануть. В физике (1870 по 1970): открытие ядра, его распад, элементарные частицы, СТО/ОТО, КМ. (1970-2020): бозон Хиггса.
Включать можно что угодно — но всё это будет напоминать критику условной книги «боевые хомячки и их эволюция» с позиций разведения жирафов и выпуска новых моделей трамваев.
Курцвейл обсуждает развитие информационных технологий и их возможное влияние на другие технологии. И ничего более.
Какое во всему этому имеет отношение транспорт и энергетика? Или фундаментальная физика?
Если вас информационные технологии не интересуют — ну так и скажите (хотя что вы тогда делаете на Хабре?), но критиковать книгу, обсуждающую боевых хомячков и её неспособность предсказать развитие трамвайного транспорта — несколько глупо.
Да, можно критиковать те главы, где объясняется, что боевые хомячки заменят трамваи (и да, кое-где Курцвейл заговаривается и начинает рассуждать о вещах, на которые Технологическая Сингулярность, скорее всего, не повлияет) — но тут-то об этом речь не идёт.
Где в обсуждаемой статье обсуждаются перелёты между Нью-Йорком и Парижем? Или открытие фундаментальных частиц? Зачем вы это сюда тяните? Потому что вам неважно, что, кто и о ком пишет — вы всё равно думаете о чём-то своём? А оно тут, в комментариях, точно кому-то нужно?
Курцвейл обсуждает развитие информационных технологий и их возможное влияние на другие технологии. И ничего более.
Какое во всему этому имеет отношение транспорт и энергетика? Или фундаментальная физика?
Если вас информационные технологии не интересуют — ну так и скажите (хотя что вы тогда делаете на Хабре?), но критиковать книгу, обсуждающую боевых хомячков и её неспособность предсказать развитие трамвайного транспорта — несколько глупо.
Да, можно критиковать те главы, где объясняется, что боевые хомячки заменят трамваи (и да, кое-где Курцвейл заговаривается и начинает рассуждать о вещах, на которые Технологическая Сингулярность, скорее всего, не повлияет) — но тут-то об этом речь не идёт.
Где в обсуждаемой статье обсуждаются перелёты между Нью-Йорком и Парижем? Или открытие фундаментальных частиц? Зачем вы это сюда тяните? Потому что вам неважно, что, кто и о ком пишет — вы всё равно думаете о чём-то своём? А оно тут, в комментариях, точно кому-то нужно?
Да нет. Эта статья рассматривает информационный рост как часть общего технологического развития:
«Таким образом, технический прогресс в ХХI веке будет эквивалентен тому, на что потребовалось бы (в линейном представлении) порядка 200 веков. Напротив, двадцатый век прошёл лишь около 25 лет прогресса (опять-таки, в пересчёте на сегодняшний его темп), из-за увеличения его скорости до текущей. Таким образом, двадцать первый век станет свидетелем почти в тысячу раз больших технологических изменений, чем его предшественник».
И таких цитат я мог бы накидать еще.
«Таким образом, технический прогресс в ХХI веке будет эквивалентен тому, на что потребовалось бы (в линейном представлении) порядка 200 веков. Напротив, двадцатый век прошёл лишь около 25 лет прогресса (опять-таки, в пересчёте на сегодняшний его темп), из-за увеличения его скорости до текущей. Таким образом, двадцать первый век станет свидетелем почти в тысячу раз больших технологических изменений, чем его предшественник».
И таких цитат я мог бы накидать еще.
И таких цитат я мог бы накидать еще.Накидать цитат, вырвав их из контекста — лехко. А смысл?
Возьмите предложение, лежащее ровно перед вашей цитатой:
Скорость смены парадигмы (т.е. общая скорость технического прогресса) в настоящее время удваивается (примерно) каждое десятилетие; то есть, время на смену парадигмы уполовинивается каждые десять лет (а сама скорость роста растёт в геометрической прогрессии)Очень хорошо видно, что вы с rusec и Курцвейл понимаете под «техническим прогрессом» сильно разные вещи.
Вы говорите о том, что в XX веке автомобили начали с 20км/час, закончили 180км/час и 100км/с к концу XXI века — ни разу не ожидаются, в то время как Курцвейл говорит совсем о другом: о всё более частой смене того, что находится «в фокусе» и активно развивается. Скажем половина XX века ушла на то, чтобы сделать приемлемыми грампластинки… А вот «читалки» на eInk — появились, прошли фазу развития и перешли в состояние, когда интерес сместился в сторону других вещей — лет за 10, не больше. И они так и не стали цветными — не потому, что технологии не позволяют — а потому что интереса больше нет! Сегодня место TV занял YouTube, но не факт, что через 10 лет он не присоединится к «читалки» на обочине истории…
И да, в этом смысле развитие технологий ускоряется: смена парадигмы происходит всё чаще.
Вы имеете в виду — в фокусе внимания Курцвейла? Ну, возможно, лично он каждый год меняет фокус вдвое чаще, имеет право. Реальность несколько разнообразнее.
Первую читалку я лично приобрёл в 2007, очередную — месяц назад, это уже больше 10 лет. А уж книжки с монитора я начал читать, походу, до вашего рождения, и прекращать не собираюсь, технология экрана тут вторична, пластинки тоже менялись. Даже тут циферки не бьются.
А уж если под научно-техническим прогрессом понимать не развлекательные гаджеты…
Расскажите мне про ускоряющийся прогресс медицины, физики, сельского хозяйства. Рыбку всё ловим в океане, как в палеолите? Основная масса еды — злаки в открытом грунте, как с неолита повелось? Последний скачёк урожайности, зелёная революция — когда была?
Прогресс не идёт по экспоненте, это грубое упрощение. Он идёт рывками, скачками, с паузами и откатами. Курцвейл прекрасен своей незамутненной наивностью, но от реальности бесконечно далёк.
Первую читалку я лично приобрёл в 2007, очередную — месяц назад, это уже больше 10 лет. А уж книжки с монитора я начал читать, походу, до вашего рождения, и прекращать не собираюсь, технология экрана тут вторична, пластинки тоже менялись. Даже тут циферки не бьются.
А уж если под научно-техническим прогрессом понимать не развлекательные гаджеты…
Расскажите мне про ускоряющийся прогресс медицины, физики, сельского хозяйства. Рыбку всё ловим в океане, как в палеолите? Основная масса еды — злаки в открытом грунте, как с неолита повелось? Последний скачёк урожайности, зелёная революция — когда была?
Прогресс не идёт по экспоненте, это грубое упрощение. Он идёт рывками, скачками, с паузами и откатами. Курцвейл прекрасен своей незамутненной наивностью, но от реальности бесконечно далёк.
А уж книжки с монитора я начал читать, походу, до вашего рождения, и прекращать не собираюсьОй как хорошо. Ну то есть в 1999м вы были уже достаточно взрослым человеком, чтобы понимать как и что происходит? И написали книжечку, где описываете мир 2009го и 2019го годов? Давайте её скорее сюда — сравним с тем, что накалякал Курцвейл.
Курцвейл прекрасен своей незамутненной наивностью, но от реальности бесконечно далёк.И именно поэтому его предсказания сбываются чаще, чем чьи-либо ещё. Ага, конечно. Это всё от незамутнённости и наивности.
Уже тот факт, что не все, прочитавшие эту статью сразу осознали, что она была написана, на минуточку, 18 лет назад… Говорит о многом.
P.S. Если вы считаете, что понимаете как развиваются технологии лучше чем Курцвейл — то давайте вашу книгу, будем обсуждать. Абсолютно серьёзно. Я просто пока не видел ни одного критика Курцвейла, способного хоть что-то предсказать про то какие изменения в мире случатся, что будет через 10, 20 лет. Отдельные предсказания — да, бывают точнее… Но если копнуть — неизменно оказывается что на пару удачных предсказаний приходится штук 100 абсолютно не сбывшихся.
Я не футуролог. Мне проще, я читаю то, что он предсказал 20 лет назад на сегодня, и вижу — бред. То, что он обещает дальше, понятно, ещё больший бред, но это надо доказывать, а фанатов не переубедить. Текущую же реальность мы видим и то, что он обещал массово, или вообще не существует, как комп мощнее мозга, или сделано, но никому не нужно, как гуглоочки.
Повторюсь, прогресс развивается рывками, от катастрофы к застою, какие уж тут предсказания.
Повторюсь, прогресс развивается рывками, от катастрофы к застою, какие уж тут предсказания.
То, что он обещает дальше, понятно, ещё больший бред, но это надо доказывать, а фанатов не переубедить.То, что вы не можете никого переубедить связано не с тем, что кто-то является фанатом или (не фанатом) Курцвейла, а попросту с тем, что вы врёте.
Текущую же реальность мы видим и то, что он обещал массово, или вообще не существует, как комп мощнее мозга, или сделано, но никому не нужно, как гуглоочки.О! Ну вот и конкретика появилась. Давайте цитату про то, что компы «мощнее мозга» будут массово доступны в 2019м. А то я чегой-то таких не припомню… У меня на тему подобных компьютеров другие даты вспоминаются… Но вы ж «не фанат», вы ничего не передёргиваете, так что цитату, я думаю, найдёте и проведёте.
После чего — можно будет уже что-то обсуждать.
Повторюсь, прогресс развивается рывками, от катастрофы к застою, какие уж тут предсказания.Хотя бы такие как у Курцвейла: с достаточно точным указанием времени, когда определённая технология будет доступна, хотя бы и без указания её популярности (тут вы правы, угадать когда все будут крутить спиннеры невозможно...)
Меня это эссе (да и вообще, все мысли Курцвейла на эту тему), заставили задуматься над двумя вопросами: вопросом применимости и вопросом ограничений.
С одной стороны, понятно, что «нематериальные» технологии (типа IT) слабо подвержены ресурсным ограничениям, и больше предрасположены к экспоненциальному росту. С другой стороны, если рассматривать (как это делается в эссе) «вычислительную технику вообще», которая вполне материальна, то она сталкивалась с ресурными ограничениями (типа скорости срабатывания механических реле в первых компьютерах), и «выскакивала» из них сменой парадигмы (переходом на электронные логические элементы). Как отличить «парадигмальную» концепцию (типа закона Мура, скорость развития которой описывается сигмоидой) от по-настоящему экспоненциальной (производительность ВТ, или производительность ВТ/единицу стоимости)?
Ну и если рассматривать экпоненциальные технологии (которые уже очевидно преодолели несколько смен парадигм) — не видны ли на пути их развития другие ограничения, которые-таки загнут экспоненту в сигмоиду…
С одной стороны, понятно, что «нематериальные» технологии (типа IT) слабо подвержены ресурсным ограничениям, и больше предрасположены к экспоненциальному росту. С другой стороны, если рассматривать (как это делается в эссе) «вычислительную технику вообще», которая вполне материальна, то она сталкивалась с ресурными ограничениями (типа скорости срабатывания механических реле в первых компьютерах), и «выскакивала» из них сменой парадигмы (переходом на электронные логические элементы). Как отличить «парадигмальную» концепцию (типа закона Мура, скорость развития которой описывается сигмоидой) от по-настоящему экспоненциальной (производительность ВТ, или производительность ВТ/единицу стоимости)?
Ну и если рассматривать экпоненциальные технологии (которые уже очевидно преодолели несколько смен парадигм) — не видны ли на пути их развития другие ограничения, которые-таки загнут экспоненту в сигмоиду…
Ну и если рассматривать экпоненциальные технологии (которые уже очевидно преодолели несколько смен парадигм) — не видны ли на пути их развития другие ограничения, которые-таки загнут экспоненту в сигмоиду…Видны. Но видны и способы преодоления этих ограничений. Для того, чтобы вычислительная мощность кремниевых нейросетей превзошла вычислительную мощность белковых — имеющихся теоретических наработок достаточно. Неясно какой подход окажется наиболее коммерчески выгодным, но их уже есть… в количестве.
А вот что будет после этого — мы не можем знать. Просто потому что дальше потребуются новая физика… И мы понятия не имеем — сможет ли GAI её создать.
Иными словами: мы точно перейдём от человеко-машинной цивилизации к машинно-человеческой… А вот превратится ли она чисто в машинную, заменив людей на кремний (графен или ещё что-нибудь — непринципиально… важно, что не «мешок с костями»)… мы не знаем…
А Вы не думали над возможностью такого сценария: сейчас прогресс подпитывается человеческим разумом (пусть даже коллективным), и до момента появления/создания GAI других источников не видно. Что, если до оного момента человечество столкнётся с пределом Лейбница/Ходжсона/Винни-Пуха/whatever, и перестанет толкать вперёд научный прогресс по объективным (связанным с достижением предела) причинам?
Что, если до оного момента человечество столкнётся с пределом Лейбница/Ходжсона/Винни-Пуха/whatever, и перестанет толкать вперёд научный прогресс по объективным (связанным с достижением предела) причинам?Ещё раз: никаких новых физических законов для создания GAI нам не нужно. Мы знаем, как сделать компьютер достаточно быстрым для того, чтобы он смог эмулировать человеческое сознание со скоростью, превышающей скорость работы биологического оригинала.
Создание подобного компьютера — это сейчас уже чисто инжинерная задача. Да, большая и сложная, но инжинерная.
Примерно как строительство авианосца или создание Арматы…
А вот дальше… Мы не знаем — поможет нам GAI приблизиться ближе к физическим пределам или нет. Даже если не сможет — это уже неважно. Сама возможность создавать новых работников, не выращивая их годами и обучая их долгие годы, а просто создавая их копии… кардинально изменит человеческую цивилизацию. Настолько, что мы сейчас даже не можем предсказать — чем это кончится.
В данном случае нет особой разницы, инженерная это задача, или фундаментальная. Процесс решения как той, так и другой, в настоящее время, — субъективен. И если субъект (человечество) по какой-то причине перестанет эти задачи решать, перестанет происходить сам стационарный процесс, характеристики которого легли в основу экспоненциальных прогнозов. Т.е. мы можем просто не добраться до создания GAI и появления в его лице новой субъектности (которая, потенциально, да, может взять на себя решение задач, ранее подвластных только человеку).
В данном случае нет особой разницы, инженерная это задача, или фундаментальная.Нет, разница есть — и она принципиальная.
Процесс решения как той, так и другой, в настоящее время, — субъективен.Вот только фундаментальные задачи могут и вообще не иметь решения, в принципе. А могут и иметь — но получено оно будет не путём целенаправленного исследования, а опосредованно, через столетия, так как неясно что вообще нужно для решения данной задачи.
Инжинерные же задачи вполне поддаются планированию, хотя процесс их решения может растянуться на многие годы.
Т.е. мы можем просто не добраться до создания GAI и появления в его лице новой субъектности (которая, потенциально, да, может взять на себя решение задач, ранее подвластных только человеку).А ещё нас может завтра всех уничтожить внезапная вспышка близкой сверхновой… да, всё возможно — но если из-за возможности подобных маловероятных событий прекращать работу — то проще уж сразу в могилу лечь…
В течение нескольких десятилетий машинный интеллект превзойдёт человеческий, что приведёт к Сингулярности
Не произойдет. пока бабло правит миром — из нас его будут выкачивать. Бабломатрица. Сильные мира сего не дают ход топливным (без) технологиям. Врут на каждом шагу. Электричество до конца не изучено. Бозон Хиггса — фейк. Так что сильно сомневаюсь…
Статья конечно интересная, но очень, очень много воды и пространных размышлений. Да и с доказательствами туговато.
Вот мой вариант сингулярности: пока человечество будет развлекаться в симуляции или же спать, ИИ будет непрерывно производить и запускать космические зонды в космос, а также оптимизировать этот процесс. В итоге сначала он истратит все легкодоступные материалы, потом сложнодоступные, потом разгребёт все наши техно свалки, потом начнёт придумывать как использовать дерево, глину и другие необычные материалы. Например, как вам корпус из льда или стекла?
Со стороны будет смотреться так, будто планета или другой космический объект худеет, а разлетающаяся «пыль» от него касается других объектов и они тоже «заражаются» (на них строятся установки по добыче ресурсов и сборке зондов) и тоже худеют. И так превращать вселенную в «пыль» из зондов надо как можно скорее, «люто-бешено», потому что не знаем, сколько осталось времени до конца, а зонды летят миллионы и миллиарды лет.
Ну и кроме постройки заводов и зондов создаются и сервера с бэкапом симуляции с человечеством, чтобы какая-нибудь вспышка нас не стёрла.
Т.е. сингулярность — это разбор мусора и разнос мира в пыль :)
Со стороны будет смотреться так, будто планета или другой космический объект худеет, а разлетающаяся «пыль» от него касается других объектов и они тоже «заражаются» (на них строятся установки по добыче ресурсов и сборке зондов) и тоже худеют. И так превращать вселенную в «пыль» из зондов надо как можно скорее, «люто-бешено», потому что не знаем, сколько осталось времени до конца, а зонды летят миллионы и миллиарды лет.
Ну и кроме постройки заводов и зондов создаются и сервера с бэкапом симуляции с человечеством, чтобы какая-нибудь вспышка нас не стёрла.
Т.е. сингулярность — это разбор мусора и разнос мира в пыль :)
Некоторые ученые не вполне согласны с Курцвейлом. В их число входит Андрей Коротаев, автор научного труда «Сингулярность XXI века в контексте Большой истории: математический анализ» (перейдя по ссылке, можно скачать или открыть в браузере PDF-файл размером 4,7 МБ).
У них есть какие-нибудь конкретные предсказания? Которые можно было бы проверить?
Потому что вся статья, насколько я смог понять при беглом просмотре, посвящена исключительно критике того, что Курцевейл выбрал «неправильные» кривые, чтобы аппроксимировать процессы и что гипербола описывает их точнее, чем экспонента… однако самый важный факт, касающийся этого процесса (прекращение действия Закон гиперболического роста численности населения Земли хотя и упоминается вскользь — но никак не используется. Хотя очевидно же, что это — одна из самых важных вещей во всей истории…
Тем самим вместо того, чтобы выдать на гора хоть какие-то проверяемые результаты… имеем кучу «красивой» математики… которую непонятно как и для чего использовать.
Потому что вся статья, насколько я смог понять при беглом просмотре, посвящена исключительно критике того, что Курцевейл выбрал «неправильные» кривые, чтобы аппроксимировать процессы и что гипербола описывает их точнее, чем экспонента… однако самый важный факт, касающийся этого процесса (прекращение действия Закон гиперболического роста численности населения Земли хотя и упоминается вскользь — но никак не используется. Хотя очевидно же, что это — одна из самых важных вещей во всей истории…
Тем самим вместо того, чтобы выдать на гора хоть какие-то проверяемые результаты… имеем кучу «красивой» математики… которую непонятно как и для чего использовать.
Спасибо! Этой работы не видел, почитаю. А вообще, конечно, у Курцвейла недостатка в критиках нет. От журналистов Forbes до практикующих экспертов сравнимого уровня.
В данном случае всё упирается в вопрос «а судьи кто»?
С одной стороны Курцвейл попадает пальцем в небо чаще, чем он это признаёт, с другой… Я никого другого, кто давал бы прогнозы хотя бы близко приближающиеся по уровню сбываемости не знаю.
Максимум, на что хватает типичных экспертов — это линейная экстраполяция. Через 5 лет их прогнозы наинают вызывать усмешку, через 10 — гомерический хохот.
С одной стороны Курцвейл попадает пальцем в небо чаще, чем он это признаёт, с другой… Я никого другого, кто давал бы прогнозы хотя бы близко приближающиеся по уровню сбываемости не знаю.
Максимум, на что хватает типичных экспертов — это линейная экстраполяция. Через 5 лет их прогнозы наинают вызывать усмешку, через 10 — гомерический хохот.
Я думал, будет что-то новое про сингулярность. Ан нет, просто графики красивые нарисовали.
Вы в статье 2001го года, широко обсужавшейся в те годы, когда она была написана, собрались что-то новое искать??? Интересная идея, да. Намного напоминает теологию, когда в текстах тысячелетней давности ищут скрытый смысл…
Да, думал, там что-то интересное для 2019-го года. Сейчас наоборот — тренд, что сингулярность куда-то делась. Или мы уже в фазовом переходе?
Или мы уже в фазовом переходе?Где-то уже очень близко. Просто мы этого не замечаем — как и описано в статье. То есть грубо говоря:
70е годы: В августе 1968 года шотландский шахматист Дэвид Леви[13] поспорил на 1250 фунтов стерлингов с ведущими специалистами по искусственному интеллекту, что в течение десяти лет ни одна машина не сможет обыграть его в шахматы. 17 декабря 1977 года Дэвид играл с «Каиссой» и выиграл первую партию, после чего матч решили не продолжать
Наши дни: OpenAI уже целых два года не могут дотянуть свою программу до уровня, когда она вынесет чемпионов мира «вперёд ногами», а в Старкрафт выиграл — но читит! Позор!
Развитие идёт уже сильно быстрее — но люди на это отреагировали резким сокращением времени, в течении которого они помнят о событиях. В результате кажется, что развитие почти что застыло на месте.
Кроме того смотрят не туда. Скажем ждут возврата «гонки гигагерц» в духе 90х — не понимая что эта S-образная кривая уже отыграла и сейчас развитие переходит в совсем другие технологии… однопоток уже никогда так бодро ускоряться, как он это делал в 90е не будет.
лично мое мнение — пока прогресс будут тормозить сами люди. Сейчас только чтоб изучить информацию и приступить к эффективной работе — человеку надо более 25 лет. И с каждым открытием каждый новый ученый должен изучить предыдущий опыт. В какой-то момент мы начали дробить знания на сектора, когда время изучения области знаний превысило время эффективного использования мозга. Если Менделеев мог себе позволить изучать несколько наук сразу и хорошо разбираться в каждой, то сейчас ученый редко может позволить себе хотя-бы несколько смежных направлений одного подраздела… не говоря уже о разных разделах одной области. Вал информации для изучения нарастает с каждым годом по экспоненте, а скорость обработки информации прирастает очень медленно. Решение с дроблением областей науки на разделы и подразделы тоже уже подходит к пределу эффективности — ведь для эффективной научной работы требуются специалисты в разных областях, работающие в одной команде — но чем больше команда, тем больше начинает отжирать времени банальное взаимодействие между членами команды… вот еще один предел. Все это в конечном итоге сильно затормозит прогресс. А ИИ пока и близко не приблизился к человеческому уровню, не смотря на то, что изготовить агрегат эмулирующий нейроны и их связи вроде как уже давно по силам.
А ИИ пока и близко не приблизился к человеческому уровню, не смотря на то, что изготовить агрегат эмулирующий нейроны и их связи вроде как уже давно по силам.Давно по силам симулировать мозг кота. А он, как бы, несколько послабее человеческого будет.
Я тоже думал об этом (эффективная работа после 25 лет изучения), но я не думаю, что это время будет увеличиваться или уменьшаться со временем; ведь стартовая планка двигается с прогрессом. Например, чтобы написать этот текст, мне не нужно вникать в то, как работает процессор компьютера, я уже сразу начинаю с написания текста. Вполне возможно, в других областях — такая же ситуация. В языках программирования высокого уровня мы тоже начинаем с объекта и программируя сразу то, что нужно, не думая о всяких гарбедж-коллекшнах и прочих ассемблерных штуках.
В генной инженерии наверняка такая же штука происходит (раньше изучали то и это, а сейчас только хай-левел знания). Просто все ругаются: как, мол, ты кто-то не может решить квадратное уравнение на бумаге, а программирует посадочный модуль для Шаттла. А мне кажется, что это и есть настоящий прогресс.
В генной инженерии наверняка такая же штука происходит (раньше изучали то и это, а сейчас только хай-левел знания). Просто все ругаются: как, мол, ты кто-то не может решить квадратное уравнение на бумаге, а программирует посадочный модуль для Шаттла. А мне кажется, что это и есть настоящий прогресс.
Читал у одного умного человека (к сожалению, сейчас быстно не смог найти, и дать ссылку), что такая тенденция действительно наблюдается, но она упрощает и ускоряет освоение уже имеющихся технологий, но не создание принципиально новых. А «добраться до луны, залезая на всё более высокие деревья — невозможно».
Не будет никакой сингулярности.
Растёт только грубая вычислительная сила, но пока количество не переходит в качество.
Простой пример — за последние четверть века скорость вычислений мощного ПК выросла в миллион раз, но как было качество машинного перевода полным днищем, так и осталось.
И никто не знает, как все эти терафлопсы превратить в настоящий искуственный интеллект (так сказать вдохнуть в железо душу).
А без этого все эти терафлопсы просто груда металлолома.
Да и рост терафлопсов скоро остановится, т.к. техпроцессы подходят к размеру атома.
Так что нас ждёт не сингулярность, а стагнация и технологический тупик.
Растёт только грубая вычислительная сила, но пока количество не переходит в качество.
Простой пример — за последние четверть века скорость вычислений мощного ПК выросла в миллион раз, но как было качество машинного перевода полным днищем, так и осталось.
И никто не знает, как все эти терафлопсы превратить в настоящий искуственный интеллект (так сказать вдохнуть в железо душу).
А без этого все эти терафлопсы просто груда металлолома.
Да и рост терафлопсов скоро остановится, т.к. техпроцессы подходят к размеру атома.
Так что нас ждёт не сингулярность, а стагнация и технологический тупик.
На мой взгляд Вы пали жертвой когнитивного искажения (или даже искажений). А я отслеживал именно качество машинного перевода вот на этом самом тексте. Я начал переводить это эссе лет семь назад. Тогда автопереводчики действительно были «днищем». Каждое предложение (я пытался пользоваться, кажется, Промптом) нужно было после перевода переписывать руками практически полностью. В 2017 я загрузил этот текст в Google Translation Toolkit. Уже приблизительно 10-15% гугл переводил также, как это сделал бы я. Сегодня (а, на самом деле, уже некоторое время назад, после включения там Neural Machine Translation) больше половины предложений после автоматического перевода можно было не исправлять.
Если Вы не «держите руку на пульсе» последних (западных, увы) достижений в AI, посмотрите видео юридического баттла робота и человека. Это решение сразу трёх задач AI (распознавание речи, генерация речи, и ориентирование в предметной области) в онлайновом диалоге на русском языке. И это было сделано в виде демо уже полтора года назад!
P.S. Ну а Ваш тезис про терафлопсы и техпроцессы говорит о том, что эссе вы или полностью не читали, или не поняли :(
Если Вы не «держите руку на пульсе» последних (западных, увы) достижений в AI, посмотрите видео юридического баттла робота и человека. Это решение сразу трёх задач AI (распознавание речи, генерация речи, и ориентирование в предметной области) в онлайновом диалоге на русском языке. И это было сделано в виде демо уже полтора года назад!
P.S. Ну а Ваш тезис про терафлопсы и техпроцессы говорит о том, что эссе вы или полностью не читали, или не поняли :(
Ой, а давайте не будем вспоминать про гугл транслейт. Потому что если Промпт дно, то гугл транслейт стучит снизу: grammarnazi.d3.ru/google-chto-ty-tvorish-prekrati-1763632
P.S. Я по крайней мере говорю о том, что реально будет, а вы толкаете низкопробную фантастику :(
P.S. Я по крайней мере говорю о том, что реально будет, а вы толкаете низкопробную фантастику :(
Я говорил о наблюдавшейся мной тенденции, а Вы привели единичный пример. Причём, если знать, на каких технологиях построен гугловский переводчик, это даже не будет так смешно, как грустно (если упрощать, он учится в интернете, где средний уровень грамотности постоянно падает).
P.S. Вы всё-таки прочтите внимательно и эссе, и видео посмотрите. Мне кажется, после этого так уверенно заявлять о стагнации будет гораздо труднее.
P.S. Вы всё-таки прочтите внимательно и эссе, и видео посмотрите. Мне кажется, после этого так уверенно заявлять о стагнации будет гораздо труднее.
Продукты питания будут дороже железа, кремния и пластика. Намного дороже чем сейчас.
с чего бы? продукты питания то просто углерод, водород, азот и еще несколько основных элементов в пригодной для потребления форме. После поедания и прохождения процесса пищеварения он не исчезает из этой вселенной. На этой планете их достаточно для циклической переработки и поддержки огромного количества населения… а если и не хватит, в космосе есть планеты целиком из них. Так что проблемы с питанием не возникнет. Возникнет банальное разделение на «органическую» еду, выращенную без применения новых технологий — и от того весьма дорогую, элитную. И еду синтезированную — очень дешевую. Вполне возможно даже бесплатную, за счет государства.
Уже сейчас сталь стоит дешевле мяса. Кремний, если его взвешивать — в 100 раз дешевле мяса. Пластик пока чуть выше по стоимости, но это не надолго.
Кремний, если его взвешивать — в 100 раз дешевле мяса.Где это вы нашли мясо по цене 100 тысяч рублей за килограмм?
Чистый кремний (куском, просто «буля», без всяких дополнительных обработок) стоит от $20 за килограмм…
Ну вы сравнили — мясо животных — один из самых дорогих продуктов. Тупо по тому, что животину надо содержать и скормить ей надо гораздо больше, чем она весит. Ничего удивительно, что цена на мясо высока. Далеко не все на земле сейчас вообще едят мясо регулярно и могут его себе позволить. Вам надо смотреть цена на рис и сою — две основные пищевые культуры. А цены там вполне себе стабильных и расти не спешат.
Курцвейл все стены уже экспонентами исписал=) Хотелось бы увидеть хотя бы 1 процесс в этой Вселенной, который экспонентой описывался бы на протяжении хотя бы недолгого времени (пары тысячелетий на фоне 13.5 млрд лет существования). На ум приходит разве что самое расширение Вселенной, но это не точно. Думается, что даже имея какое то подобие сингулярности, фундаментальные законы физики не обойти:
СтОит 1г антивещества сейчас 62 триллиона долларов, ну пусть там на пару порядков мы или суперинтеллект что то оптимизирует, но применимости как не было, так и не будет. Заправить тот же космический корабль получится в лучшем случае термоядом, а там уже не более 1% от E= MC2 извлекается, да и скорости выше 0.01с из за межзвездной пыли не превысить не навешав щит размером с полпланеты. Вот тебе и предел роста в пространстве — своя звездная система.
Термояд только в 2050 генерацию энергии обещают — en.wikipedia.org/wiki/DEMOnstration_Power_Station. Учитывая насколько срывали сроки по тому же Джеймс Веббу телескопу — то скорей к концу этого века. А когда запустят DEMO — он все запасы трития на планете за 2 года сожрет. А чтобы на реакцию с тем же Гелием 3 перейти, уже в 100 раз выше критерий Лоусона, это надо еще реактор в разы больше, дороже и дольше строить. Возможно, чтобы произвести устойчивый к деградации материал (какой то сверхтяжелый синтетический металл), потребуется на порядки больше энергии, чем этот термояд может дать. Возможно, что так на уране и останемся, плюс солнечные батареи на всю Сахару — вот тебе и ограничение по энергии на уровне тысяч лет.
Естественно, вывод солнечных батарей в космос при цене тысячи долларов за 1кг батарей не имеет смысла.
А когда в пространстве и энергии интеллект ограничен, то что ему остается? Он может ради интереса, конечно, считать какие то модели. Но та же теория струн (разработанная людьми) уже говорит о планковских масштабах, а чтобы до них дойти в эксперименте — нам никакой энергии не хватит. Занимать этот суперинтеллект тупым прямым обсчетом чисел Грэма?
Ну даже если АИ сделает, что то, что мы сейчас не осилили, например: «Высокотемпературная сверхпроводимость — при сжатии супергидрида лантана LaH10 до 170 ГПа (около двух миллионов атмосфер) получили Tc = -13 °С». Пусть это будет при комнатной и нормальном давлении — ну даст это 20% выигрыш при траспортировке электроэнергии по проводам и что?
P.S. Самому не нравится такой пессимизм и некоторая гордыня за достижения человеческого рода, но мне кажется, что мы достигли уже больших высот в укрощении материи и постепенно упираемся в естественные фундаментальные ограничения по законам физики. Мы и дальше продолжим летать на дозвуковой скорости в отпуск и материть медленно загружающиеся страницы браузера (пусть даже и в кибер-очках) по крайней мере в 21 веке.
СтОит 1г антивещества сейчас 62 триллиона долларов, ну пусть там на пару порядков мы или суперинтеллект что то оптимизирует, но применимости как не было, так и не будет. Заправить тот же космический корабль получится в лучшем случае термоядом, а там уже не более 1% от E= MC2 извлекается, да и скорости выше 0.01с из за межзвездной пыли не превысить не навешав щит размером с полпланеты. Вот тебе и предел роста в пространстве — своя звездная система.
Термояд только в 2050 генерацию энергии обещают — en.wikipedia.org/wiki/DEMOnstration_Power_Station. Учитывая насколько срывали сроки по тому же Джеймс Веббу телескопу — то скорей к концу этого века. А когда запустят DEMO — он все запасы трития на планете за 2 года сожрет. А чтобы на реакцию с тем же Гелием 3 перейти, уже в 100 раз выше критерий Лоусона, это надо еще реактор в разы больше, дороже и дольше строить. Возможно, чтобы произвести устойчивый к деградации материал (какой то сверхтяжелый синтетический металл), потребуется на порядки больше энергии, чем этот термояд может дать. Возможно, что так на уране и останемся, плюс солнечные батареи на всю Сахару — вот тебе и ограничение по энергии на уровне тысяч лет.
Естественно, вывод солнечных батарей в космос при цене тысячи долларов за 1кг батарей не имеет смысла.
А когда в пространстве и энергии интеллект ограничен, то что ему остается? Он может ради интереса, конечно, считать какие то модели. Но та же теория струн (разработанная людьми) уже говорит о планковских масштабах, а чтобы до них дойти в эксперименте — нам никакой энергии не хватит. Занимать этот суперинтеллект тупым прямым обсчетом чисел Грэма?
Ну даже если АИ сделает, что то, что мы сейчас не осилили, например: «Высокотемпературная сверхпроводимость — при сжатии супергидрида лантана LaH10 до 170 ГПа (около двух миллионов атмосфер) получили Tc = -13 °С». Пусть это будет при комнатной и нормальном давлении — ну даст это 20% выигрыш при траспортировке электроэнергии по проводам и что?
P.S. Самому не нравится такой пессимизм и некоторая гордыня за достижения человеческого рода, но мне кажется, что мы достигли уже больших высот в укрощении материи и постепенно упираемся в естественные фундаментальные ограничения по законам физики. Мы и дальше продолжим летать на дозвуковой скорости в отпуск и материть медленно загружающиеся страницы браузера (пусть даже и в кибер-очках) по крайней мере в 21 веке.
Хотелось бы увидеть хотя бы 1 процесс в этой Вселенной, который экспонентой описывался бы на протяжении хотя бы недолгого времени (пары тысячелетий на фоне 13.5 млрд лет существования).Пожалуйста. Там как раз примерно с нескольких тысячелетий до нашей эры началось, где-то во второй половине XX века закончилось. Причины — во многом схожи с другими процессами, рассмотранными Курцвейлом.
Вот тебе и предел роста в пространстве — своя звездная система.Это если вы хотите отправить человека куда-то «одним куском»… а зачем?
А когда запустят DEMO — он все запасы трития на планете за 2 года сожрет.Вы хотели сказать «весь литий»? А новый из воды добыть — типа никак?
Мы и дальше продолжим летать на дозвуковой скорости в отпуск и материть медленно загружающиеся страницы браузера (пусть даже и в кибер-очках) по крайней мере в 21 веке.Поживём — увидим. Про расселение в космос у Курцвейла тоже есть… но это уже не просчитывается. Чистые фантазии. Потому что мы не знаем чего может, а чего не может сделать GAI…
Неплохой пример насчет численности, но бактерии и быстрей размножаются в масштабе минут, а потом все, стенки у чашки Петри=) У человечества уже площадь пашни не растет (только отдача с гектара, но уже не в разы как во времена Зеленой Революции), а детей в развитых странах в городах экономически неэффективно заводить. Поэтому слабо верится, что мы даже еще раз хотя бы удвоимся. Заселение же Марса и так далее просто на порядки тяжелее заселения той же Сахары или Русского Севера, откуда многие бегут.
А если не «одним куском», то зачем тогда что-то колонизировать? Ведь бестелесную оболочку всего человечества (разум) можно загнать тогда в размеры небольшого мэйнфрейма (и поместить его вообще куда угодно), используя прикидки того же Курцвейла насчет того, что сигналы в «мозгу» машин быстрее и лучше.
Ну на DEMO тритий как раз собираются использовать, из лития можно тот самый тритий синтезировать, но там своих сложностей полно. Я не к тому, что DEMO не будет работать, а к тому что каждый следующий этап будет сложней, несмотря на технологический прогресс, что мы сейчас как раз на примере ITER, ZERN, МКС и так далее и наблюдаем. Циклы разработки сложных технологических объектов будут скоро по 50-100 лет и чем дальше тем больше, это дойдет скоро и до IT индустрии. С какого то момента становится сложно изменить какую то величину даже на доли %, а не то что экспоненты. Как в спорте: Кипчоге пробежал марафон меньше 2х часов с огромными вложениями как в тренировки, так и в организацию этого забега. Возможно, появится новый гений бега и новые кроссовки, которые еще на 5-10% улучшат этот рекорд в следующие годы, потом же каждый установленный рекорд будет держаться все дольше и дольше и улучшаться все меньше и меньше. Вы скажете — «поставим бегунам бионические протезы» — но даже там есть ограничения по материалам и плотности энергии.
С компьютерами мы уже на упираемся в атомный уровень. Всякие ухищрения дадут, конечно, еще 3-4 порядка, но модели мозга, как не было так и нет. У нас и так десятки миллионов участвуют в мировом прогрессе, используя все знания накопленные за все время, но все равно не хватает людей, чтобы покрыть фрактально ветвящиеся области знания или разработки технологий. Сильный ИИ так же застрянет (если не будет нас геноцидить а продвигать прогресс) в миллионах подразделов по расчету и разработке разных сущностей, будет какие нибудь н-размерности считать (даже у Лема Солярис что то похожее обсчитывал), а на физическом уровне — куча ограничений из за метрики Вселенной. Нельзя даже используя супермозги полететь быстрей света или получить больше энергии чем MC2. А многие улучшения просто упрутся в свою целесообразность, выигрываешь 1%, а энерго и прочие затраты — в разы выше. Такое и ИИ не нужно будет. Скорей люди решат «нелогично» полететь на Луну или запустить МКС.
Курцвейл молодец, что популяризирует науку, но до сингулярности или ее подобия он точно не доживет, несмотря на то что он кучу таблеток пьет, как и не доживут даже молодые читатели Хабра, к сожалению.
А если не «одним куском», то зачем тогда что-то колонизировать? Ведь бестелесную оболочку всего человечества (разум) можно загнать тогда в размеры небольшого мэйнфрейма (и поместить его вообще куда угодно), используя прикидки того же Курцвейла насчет того, что сигналы в «мозгу» машин быстрее и лучше.
Ну на DEMO тритий как раз собираются использовать, из лития можно тот самый тритий синтезировать, но там своих сложностей полно. Я не к тому, что DEMO не будет работать, а к тому что каждый следующий этап будет сложней, несмотря на технологический прогресс, что мы сейчас как раз на примере ITER, ZERN, МКС и так далее и наблюдаем. Циклы разработки сложных технологических объектов будут скоро по 50-100 лет и чем дальше тем больше, это дойдет скоро и до IT индустрии. С какого то момента становится сложно изменить какую то величину даже на доли %, а не то что экспоненты. Как в спорте: Кипчоге пробежал марафон меньше 2х часов с огромными вложениями как в тренировки, так и в организацию этого забега. Возможно, появится новый гений бега и новые кроссовки, которые еще на 5-10% улучшат этот рекорд в следующие годы, потом же каждый установленный рекорд будет держаться все дольше и дольше и улучшаться все меньше и меньше. Вы скажете — «поставим бегунам бионические протезы» — но даже там есть ограничения по материалам и плотности энергии.
С компьютерами мы уже на упираемся в атомный уровень. Всякие ухищрения дадут, конечно, еще 3-4 порядка, но модели мозга, как не было так и нет. У нас и так десятки миллионов участвуют в мировом прогрессе, используя все знания накопленные за все время, но все равно не хватает людей, чтобы покрыть фрактально ветвящиеся области знания или разработки технологий. Сильный ИИ так же застрянет (если не будет нас геноцидить а продвигать прогресс) в миллионах подразделов по расчету и разработке разных сущностей, будет какие нибудь н-размерности считать (даже у Лема Солярис что то похожее обсчитывал), а на физическом уровне — куча ограничений из за метрики Вселенной. Нельзя даже используя супермозги полететь быстрей света или получить больше энергии чем MC2. А многие улучшения просто упрутся в свою целесообразность, выигрываешь 1%, а энерго и прочие затраты — в разы выше. Такое и ИИ не нужно будет. Скорей люди решат «нелогично» полететь на Луну или запустить МКС.
Курцвейл молодец, что популяризирует науку, но до сингулярности или ее подобия он точно не доживет, несмотря на то что он кучу таблеток пьет, как и не доживут даже молодые читатели Хабра, к сожалению.
Ведь бестелесную оболочку всего человечества (разум) можно загнать тогда в размеры небольшого мэйнфрейма (и поместить его вообще куда угодно), используя прикидки того же Курцвейла насчет того, что сигналы в «мозгу» машин быстрее и лучше.Потому что один мэйнфрейм может так же легко погибнуть, как и Земная цивилизация, если в Землю вот «прям завтра» влетит астероид.
Я не к тому, что DEMO не будет работать, а к тому что каждый следующий этап будет сложней, несмотря на технологический прогресс, что мы сейчас как раз на примере ITER, ZERN, МКС и так далее и наблюдаем.Это понятно.
Циклы разработки сложных технологических объектов будут скоро по 50-100 лет и чем дальше тем больше, это дойдет скоро и до IT индустрии.Возможно. Мы не знаем что будет после сингулярности и Курцвейл много раз подчёркивает, что LOAR распространяется только на иформационные технологии.
С какого то момента становится сложно изменить какую то величину даже на доли %, а не то что экспоненты.Вот только в случае с информационными технологиями эта точка — ближе к концу XXI века.
С компьютерами мы уже на упираемся в атомный уровень.Извините, вы статью-то читали? Там же дан ответ на этот вопрос:
Очевидно, какой будет шестая парадигма после того, как закон Мура выдохнется во втором десятилетии нынешнего века. Чипы сегодня плоские (хотя и требуется до 20 слоёв материала, чтобы произвести один слой схемы). В отличие от этого, наш мозг организован в трёх измерениях. Мы живём в трёхмерном мире, почему бы не использовать третье измерение?
В полном соответствии с этим предсказанием процесс повернул в третье измерение… вот только большинство чипов пока имеет 8-10 «этажей». Дальше всех продвинулся NAND… там мы умеем делать 128 «этажей», на подходе 176… до «атомного уровня» — ещё лет 15-20, а может больше.
Заметьте — этот ответ был дан Курцвейлом на рубеже веков… а 3D-компоновка начала приобретать популярность через несколько лет после этого.
но модели мозга, как не было так и нетКопию человеческого мозга Курцвейл обещал к 2040му, а сам ИИ — таки в 2029м, не в 2019м… так что глупо его обвинять в том, что всего этого до сих пор нет.
У нас и так десятки миллионов участвуют в мировом прогрессе, используя все знания накопленные за все время, но все равно не хватает людей, чтобы покрыть фрактально ветвящиеся области знания или разработки технологий.Ой ли? В «мировом прогрессе» участвует мизерный процент. Большая часть занята тем, чтобы решить задачу решённую ещё в прошлом веке ещё раз с ипользованием ещё более модных технологий…
Нельзя даже используя супермозги полететь быстрей света или получить больше энергии чем MC2.Этого вполне достаточно для распространения цивилизации на соседние звёздные системы, а потом и дальше.
Курцвейл молодец, что популяризирует науку, но до сингулярности или ее подобия он точно не доживет, несмотря на то что он кучу таблеток пьет, как и не доживут даже молодые читатели Хабра, к сожалению.Посмотрим. Большая часть его прогнозов успешно сбылась пока, хотя в очень большом числе случаев — это развитие заняло примерно на 20%-50% дольше, чем он планировал изначально. Но это как раз нормально. С экспонентой всегда так: очень небольшие отличие в показателе дают огромные (и всё возрастающие!) ошибки. То, что предсказанные процессы занимают примерно столько, сколько предсказано — это нереально круто…
Даже если сингулярность случится не в 2029м году, как было обещано, а в 2050м… большинство читателей Хабра, даже немолодых — до этого доживут. Доживёт ли сам Курцвейл… вопрос интересный, сложно сказать…
Ну если мы осилим загрузку сознания и ИИ все за нас порешает, то что стоит сделать бэкапы на каждом астероиде хоть в поясе Койпера хоть в облаке Оорта. Откуда такой алармизм? Масштабы которыми оперирует Курцвейл — пара десятков лет, а прямо фундаментальных вымираний было, насколько помню, штук 5 за последние четверть миллиарда лет, да и то вымирали 90% слабых по сравнению с человеком организмов.
Я читал книгу Курцвейла и там не только об информационных технологиях было. Никто не спорит, что он сделал пару хороших предсказаний, как и Артур Кларк, но вопрос в какой момент на этой кривой он их сделал. Он утверждает, что он и на момент его первых предсказаний и сейчас был в середине ее и экспонента дальше пойдет. Я же верю, что в реальности это сигмоида и она выйдет вот вот на плато, так же как и население Земли. В этом даже есть логическая связь, Интелы и Гуглы подмяли под себя почти всю планету и даже у них уже заканчиваются ресурсы на запуск новых техпроцессов.
Насчет 3го измерения — там куча проблем с охлаждением, но допустим все решится очень скоро. Сейчас типовые процессоры у нас на несколько миллиардов транзисторов, так? То есть миллион на стороне квадрата, 3е измерение даст выигрыш в миллион раз (это если был бы 1 слой), но Вы говорите, что уже больше 100 слоев сделали, тогда всего в 10 тысяч получается? Ну плюс мы еще воткнем таких новых суперпроцессоров в количестве миллиардов штук в новый суперкомпьютер (вместо миллионов для нынешних) вложив туда десятки миллиардов долларов, вполне реалистично, не отрицаю. Но где гарантия что эти 7 и более порядков нам дадут этот самый ИИ (причем так скоро), когда даже вот этот червяк с 301 нейронами ru.wikipedia.org/wiki/Caenorhabditis_elegans и ru.wikipedia.org/wiki/OpenWorm нормально не просимулирован на компьютере (информация из первых рук)?
Пока не понятно, как мозг работает, может там вообще квантовая неопределенность, как утверждает Пенроуз и мы вообще ничего не сможем просимулировать или интеллект завязан на биологический носитель. Если будут резкие прорывы в этой области, то верю, что Сингулярность возможна, а пока, кажется, что мы в начале этого пути только. Хотелось бы ошибиться, но совокупность фактов на это указывает.
У меня есть старый файл от 2007 года, где я записывал свои предсказания для 20 ключевых технологий/открытий, половину я ожидал к 2020 =) Сбылось только 1 — открытие бозона Хиггса, другие даже не приблизились=) ИИ там стоит в 2040 году, теперь же думаю не раньше 22 века, если вообще возможно.
Я читал книгу Курцвейла и там не только об информационных технологиях было. Никто не спорит, что он сделал пару хороших предсказаний, как и Артур Кларк, но вопрос в какой момент на этой кривой он их сделал. Он утверждает, что он и на момент его первых предсказаний и сейчас был в середине ее и экспонента дальше пойдет. Я же верю, что в реальности это сигмоида и она выйдет вот вот на плато, так же как и население Земли. В этом даже есть логическая связь, Интелы и Гуглы подмяли под себя почти всю планету и даже у них уже заканчиваются ресурсы на запуск новых техпроцессов.
Насчет 3го измерения — там куча проблем с охлаждением, но допустим все решится очень скоро. Сейчас типовые процессоры у нас на несколько миллиардов транзисторов, так? То есть миллион на стороне квадрата, 3е измерение даст выигрыш в миллион раз (это если был бы 1 слой), но Вы говорите, что уже больше 100 слоев сделали, тогда всего в 10 тысяч получается? Ну плюс мы еще воткнем таких новых суперпроцессоров в количестве миллиардов штук в новый суперкомпьютер (вместо миллионов для нынешних) вложив туда десятки миллиардов долларов, вполне реалистично, не отрицаю. Но где гарантия что эти 7 и более порядков нам дадут этот самый ИИ (причем так скоро), когда даже вот этот червяк с 301 нейронами ru.wikipedia.org/wiki/Caenorhabditis_elegans и ru.wikipedia.org/wiki/OpenWorm нормально не просимулирован на компьютере (информация из первых рук)?
Пока не понятно, как мозг работает, может там вообще квантовая неопределенность, как утверждает Пенроуз и мы вообще ничего не сможем просимулировать или интеллект завязан на биологический носитель. Если будут резкие прорывы в этой области, то верю, что Сингулярность возможна, а пока, кажется, что мы в начале этого пути только. Хотелось бы ошибиться, но совокупность фактов на это указывает.
У меня есть старый файл от 2007 года, где я записывал свои предсказания для 20 ключевых технологий/открытий, половину я ожидал к 2020 =) Сбылось только 1 — открытие бозона Хиггса, другие даже не приблизились=) ИИ там стоит в 2040 году, теперь же думаю не раньше 22 века, если вообще возможно.
Ну если мы осилим загрузку сознания и ИИ все за нас порешает, то что стоит сделать бэкапы на каждом астероиде хоть в поясе Койпера хоть в облаке Оорта.Вы пробовали прочитать бекапы, сделанные, хотя бы, лет 20-30 назад? Часто найти подходящий привод — та ещё проблема.
Сделать-то бекапы мы можем, а вот будет ли их кому читать?
Но где гарантия что эти 7 и более порядков нам дадут этот самый ИИ (причем так скоро), когда даже вот этот червяк с 301 нейронами ru.wikipedia.org/wiki/Caenorhabditis_elegans и ru.wikipedia.org/wiki/OpenWorm нормально не просимулирован на компьютере (информация из первых рук)?А на каком компьютере его симулировали и что помешало это достаточно точно сделать? А то, может быть, это эффект «неуловимого Джо»? А то, знаете ли, нормальных эмуляторов SGI O2 также не существует — значит ли это, что компьютеры прошлого века непознаваемы и мы никогда-никогда не сможем понять как они работают? Звучит смешно, но если применить вашу логику — то так ведь получается…
Пока не понятно, как мозг работает, может там вообще квантовая неопределенность, как утверждает Пенроуз и мы вообще ничего не сможем просимулировать или интеллект завязан на биологический носитель.Давайте не умножать сущности без необходимости. Поживём — увидим. Но вероястность того, что там квантовая неопределённость, которая, тем не менее, переживает хорошие такие удары в голову у боксёров… я бы положил в тот же ящик стола, где и страхи по поводу взрыва сверхновой…
У меня есть старый файл от 2007 года, где я записывал свои предсказания для 20 ключевых технологий/открытий, половину я ожидал к 2020 =) Сбылось только 1 — открытие бозона Хиггса, другие даже не приблизились=)А вот Курцвейл утверждает, что у него результат совсем другой. Конечно он немного передёршигивает и подтасовывает… но даже независимые сравнения показывают, что он делает это куда лучше вас… и стоит подумать — почему?
ИИ там стоит в 2040 году, теперь же думаю не раньше 22 века, если вообще возможно.И вот тут стоит задуматься над тем почему ваши предыдущие предсказания не сбылись — и попробовать понять почему вы считаете, что ваши новые предсказания будут более успешными… потому что в противном случае гораздо разумнее будет довериться человеку, предсказания которого таки реально сбываются… а если не сбываются то чаще всего в форме «Курцвейл предсказал событие X через 10 лет, а в реальности оно случилось через 20...», а не в форме «Курцвейл предсказал событие X через 10 лет, а оно — не случилось вообще»… такое у него тоже случается, но гораздо, гораздо реже…
Ну то есть решить сложнейшую задачу симуляции мозга — так это через всего лишь 20, 30 лет будет готово, а вот приводы/проводы — никак не осилим?
Червяк этот важнейший в биологии и неспроста проект такой запустили, но пока вот 302 нейрона не смогли осилить, не то что на 9 порядков выше, как в случае человеческого мозга. Даже если просто экстраполировать (что как раз главный пункт моего скепсиса), то надо минимум на эти 9 порядков тогда подняться, а выше я писал про 7 (4 за счет 3Д и 3 — если будет миллиард процессоров самых мощных в суперкомпьютере). Это при суперпозитивном сценарии. Лично я не верю, что в суперкомпьютер кто то готов вложить не миллиард, а триллион долларов и не верю, что еще 4 порядка из архитектуры выжмем так скоро.
Я с Курцвейлом и не соревновался, просто надо понимать, что он на этой теме раскрутился и будет продолжать пророчествовать Сингулярность даже если текущие факты будут это отрицать. В истории мало кто из ученых отказывался от своих идей, только И.С. Шкловского припомню. Так что, как говорится, не сотвори себе кумира.
Червяк этот важнейший в биологии и неспроста проект такой запустили, но пока вот 302 нейрона не смогли осилить, не то что на 9 порядков выше, как в случае человеческого мозга. Даже если просто экстраполировать (что как раз главный пункт моего скепсиса), то надо минимум на эти 9 порядков тогда подняться, а выше я писал про 7 (4 за счет 3Д и 3 — если будет миллиард процессоров самых мощных в суперкомпьютере). Это при суперпозитивном сценарии. Лично я не верю, что в суперкомпьютер кто то готов вложить не миллиард, а триллион долларов и не верю, что еще 4 порядка из архитектуры выжмем так скоро.
Я с Курцвейлом и не соревновался, просто надо понимать, что он на этой теме раскрутился и будет продолжать пророчествовать Сингулярность даже если текущие факты будут это отрицать. В истории мало кто из ученых отказывался от своих идей, только И.С. Шкловского припомню. Так что, как говорится, не сотвори себе кумира.
Червяк этот важнейший в биологии и неспроста проект такой запустилиНасколько я вижу запустили проект по эмуляции этого червяка в браузере. Почему и зачем нужно сделать именно это — я не знаю.
Мне всё это напоминает историю с HURDом. Его «пилят» уже несколько десятилетий, а воз — и ныне там. Потому что вот конкретно эта хрень — никому из крупных игроков и даром не сдалась.
Но за это время довели до стадии использования массу других вещей. И других ядер.
но пока вот 302 нейрона не смогли осилитьНасколько я понимаю там проблема нифига не с 302 нейронами (раз они результат в браузере собрались запускать, а не на суперкомпьютере). Там проблема со сбором точных сведений о том, как эти нейроны работают.
Даже если просто экстраполировать (что как раз главный пункт моего скепсиса), то надо минимум на эти 9 порядков тогда подняться, а выше я писал про 7 (4 за счет 3Д и 3 — если будет миллиард процессоров самых мощных в суперкомпьютере).Нет там никаких 9 порядков. 302 нейрона можно просчитать на компьютере прошлого века точно. Если не просчитали — значит нет достаточно точных сведений о самих нейронах.
Я недаром про SGI упомянул. Там же та же точно история. Эмуляторов нет — потому что информации о том как точно всё работает нет. При этом какая-нибудь Nintendo Wii, которая требует на порядок (если не два) больше ресурсов для эмуляции — вполне эмулируется. Потому что о ней нужная информация — есть.
Более того, эмулятор Nintendo Wii появился раньше, чем эмулятор советского калькулятора МК-52 (собственно его и до сих пор нет, эмулируется только МК-61). Означает ли это, что сложность МК-52 выше, чем у Wii?? Вопрос риторический, как понимаете…
Причём МК-52 — это ж тоже культовая вещь, для него даже сегодня периферия выпускается.
Я с Курцвейлом и не соревновался, просто надо понимать, что он на этой теме раскрутился и будет продолжать пророчествовать Сингулярность даже если текущие факты будут это отрицать.Ну это понятно. Но пока его предсказания сбываются лучше, чем предсказания других — я склонен ему верить больше, чем другим. Когда кто-то не просто объяснит, где именно в своих предсказаниях Курцвейл ошибается, но и даст более точные предсказания — я изменю свою позицию.
Ну просто потому что критиковать легко, а делать сложно.
«Значит нет достаточно точных сведений о самих нейронах» — так о том и речь, что непонятно пока, как это все функционирует. Есть и противоположная вероятность, что на самом деле там никаких терагерцев и суперкомпьютеров не надо, а весь интеллект — это простой биологический алгоритм. В Westworld — была идея, что интеллект программируется 1-2 тысячами строк кода. Или, аналогично, имея примерно 30 букв в алфавите — мы имеем всю полноту и сложность языка состоящего из такого малого числа базовых элементов. Но ввиду неполноты информации обо всех эти механизмах, я занимаю скептическую позицию.
Курцвейл — это популярный футуролог (читай писатель-фантаст), который в красивой обложке подал и так многим понятные в АйТи вещи, тот же сериал Star Trek начала 80х уже изобиловал видеотелефонами, киборгами и роботами. С какого то момента такая угадай-магия перестает работать, Эйнштейн 30 лет положил на общую теорию поля и где она даже полвека после его смерти?
Ему за 70 лет, он просто раскрученное лицо, делают прогресс в этой области другие люди — типа Andrej Karpathy и Demis Hassabis, и как раз со стороны таких специалистов я особо не слышал больших восторгов и заоблачных обещаний. Прогресс в нейронках в последнее время произошел в основном из за ускорения на 3 порядка вычислений на графических картах и на увеличении на 3 порядка баз данных. Теперь распознаем лучше котиков, или обсчитываем шахматы — но кто сказал, что это зачатки интеллекта, а не просто обсчет. В биологии нет ни математической теории слуха, ни теории зрения и просто непаханое поле еще, а мозг, кажется, самой сложной темой там.
В целом я рассматриваю деятельность Курцвейла или Оби Ди Грея позитивно, пусть они массам обещают светлое будущее и богатые несут деньги на научные исследования, а школьники идут на факультеты Computer Science и биологии, но лично для себя я не хочу выдавать желаемое за действительное и верить в эликсир бессмертия и прочие чудеса.
Курцвейл — это популярный футуролог (читай писатель-фантаст), который в красивой обложке подал и так многим понятные в АйТи вещи, тот же сериал Star Trek начала 80х уже изобиловал видеотелефонами, киборгами и роботами. С какого то момента такая угадай-магия перестает работать, Эйнштейн 30 лет положил на общую теорию поля и где она даже полвека после его смерти?
Ему за 70 лет, он просто раскрученное лицо, делают прогресс в этой области другие люди — типа Andrej Karpathy и Demis Hassabis, и как раз со стороны таких специалистов я особо не слышал больших восторгов и заоблачных обещаний. Прогресс в нейронках в последнее время произошел в основном из за ускорения на 3 порядка вычислений на графических картах и на увеличении на 3 порядка баз данных. Теперь распознаем лучше котиков, или обсчитываем шахматы — но кто сказал, что это зачатки интеллекта, а не просто обсчет. В биологии нет ни математической теории слуха, ни теории зрения и просто непаханое поле еще, а мозг, кажется, самой сложной темой там.
В целом я рассматриваю деятельность Курцвейла или Оби Ди Грея позитивно, пусть они массам обещают светлое будущее и богатые несут деньги на научные исследования, а школьники идут на факультеты Computer Science и биологии, но лично для себя я не хочу выдавать желаемое за действительное и верить в эликсир бессмертия и прочие чудеса.
Курцвейл — это популярный футуролог (читай писатель-фантаст), который в красивой обложке подал и так многим понятные в АйТи вещи, тот же сериал Star Trek начала 80х уже изобиловал видеотелефонами, киборгами и роботамиПогодите. Если для того, чтобы что-то стало «многим понятной вещью» и это что-то можно было сделать достаточно, чтобы «это» появилось в Star Trek… то почему мы до сих пор запускаем ракеты в космос, а не отправляем туда космонавтов телепортацией (или как там этот процесс в Star Trek назывался?). И где, чёрт побери, корабли с варп-двигателями?
<sarcasm off>
В том-то и дело, что в фантастике — много чего изображено, а вот реализовать мы можем… далеко не всё.
И если Курцвейлу удалось собрать и включить в свою книжку почти исключительно те вещи из Star Trek'а которые реализуемы… то возникает вопрос: а почему, собственно, вы считаете, что создание GAI — это случайно включённая в список телепортация, а не одна из вещей, которую мы можем реализовать?
С какого то момента такая угадай-магия перестает работать, Эйнштейн 30 лет положил на общую теорию поля и где она даже полвека после его смерти?Хороший пример… Будем надеяться GAI разберётся с этим вопросом…
«Значит нет достаточно точных сведений о самих нейронах» — так о том и речь, что непонятно пока, как это все функционирует.У нас есть гораздо, гораздо больше информации об этом, чем у жителей конца XXI века — информации о том, как работает Google Assistant.
Есть и противоположная вероятность, что на самом деле там никаких терагерцев и суперкомпьютеров не надо, а весь интеллект — это простой биологический алгоритм.Всё возможно. Но маловероятно.
На самом деле лучший довод в пользу того, что мы на верном пути… а вот он, прямо туточки.
Вы обратили внимание что именно gmaa привёл в качестве обоснования того, что Google Translate — это «днище», «отстой» и катастрофа, показывающая что GAI никакого не будет и разговоры о Сингулярности — это бред? Абсолютно человеческую ошибку. Вот просто настолько человеческую, что на сайте где её обнаружили первые комментаторы даже не поняли где она.
Чем дальше в лес, тем более по-человечески начинает поступать машина… И не только в хорошем смысле, но и в плохом.
А сможет ли она заменить человека полностью и, если сможет, то когда? Поживём — увидим…
В биологии нет ни математической теории слуха, ни теории зрения и просто непаханое поле еще, а мозг, кажется, самой сложной темой там.И, тем не менее, котиков ваш телефон уже распознаёт и текст под диктовку, если нужно, набирает.
Так что вполне может статься, что полноценную теорию слуха и зрения — разработает уже не человек… Собственно у Курцвейла это как раз и есть «план А» со сроками реализации до 2031 года. А вот как раз клонирование человека в силикон — это «план Б» и сроком там 2042й год назван…
Да. И от этого делается очень грустно. Я даже думал на эту тему статью написать, но вы всё изложили в одном комменте. Затраты на ловлю/использование новых физических эффектов становятся настолько большими, что не идет речи о промышленном применении. Но к счастью, кроме несчастной физики еще есть например биология где работы непочатый край.
Нет смысла особо грустить=) То, что делается нашей цивилизацией не поймет, разберет и не пощупает даже очень активный индивидуум с кучей свободного времени. Сегодня можно проследить за запусками SpaceX, в следующем году новые телескопы с кучей астрономических данных, компьютерные игры и фильмы (пиршество визуальных технологий) вообще чуть ли не каждый день появляются, каждый найдет свою пищу для разума. Просто изменения уже не такие драматические (за редким исключением) как в начале 20 века и это нормально.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Закон ускоряющейся отдачи (часть 1)