Основные тезисы из интервью Илона Маска у Джо Рогана

    Илон Маск пришел к комику Джо Рогану на его подкаст Joe Rogan Experience.
    2,5 часа они общались об ИИ, бессмертии, Neuralink, инновациях, социальных сетях, колонизации космоса, бурении тоннелей, огнемете, летающих автомобилях, возобновляемой энергетике, безопасности автомобилей. Обсудили Porsche и Rolex, коррупцию и суды Tesla, доброту людей, роль Маска в истории человечества. Как уже все знают, покурили траву и выпили виски.

    image

    Ниже самые важные тезисы из интервью:

    • Маск о тайм-менеджменте: «Я занимаюсь проектированием и производством. 80% времени я трачу на это.»
    • Маск об ИИ: «Сейчас ИИ меня беспокоит уже не так сильно, как раньше, в основном потому, что я принял более фаталистическую позицию. Все не обязательно закончится плохо, но это определенно будет вне человеческого контроля. Мы — биологический загрузчик для ИИ, мы все его создаем. И в конце концов мы будем представлять собой очень маленький процент разумных существ.»
    • Маск о Neuralink: «Через несколько месяцев мы сможем рассказать кое-что интересное. Это по крайней мере в несколько раз лучше, чем все то, что уже существует. Думаю, даже лучше, чем кто-либо считает возможным.»
    • Маск про симуляцию: «Аргументы в пользу симуляции достаточно сильны, потому что, если мы берем в расчет любой темп улучшений, игры станут неотличимы от реальности. Или цивилизация прекратит существование. Одно из двух. Поэтому скорее всего мы в симуляции.»
    • Маск о соцсетях: «Человек все больше будет сливаться с соцсетями, на данный момент нас останавливает только пропускная способность. Фотографии — это один из способов коммуникации с большой пропускной способностью.»
    • Маск про суды с Tesla: «Парень ехал по шоссе в одной из первых Тесла [до появления автопилота], заснул, сбил велосипедиста и тот умер. Это то, что мотивировало меня выпустить автопилот как можно скорее, а этот парень подал на нас в суд. Он винил в этом «запах новой машины»
    • Маск про новые разработки: «У меня есть дизайн электрического cверхзвукового реактивного самолета с вертикальным взлетом и посадкой.»
    • Маск про субсидии для электромобилей: «Никто не берет в расчет, что все автомобили на ДВС субсидируются влиянием на окружающую среду. И никто за это не платит. Точнее, очевидно, в будущем мы все за это заплатим.»
    • Маск о Tesla Roadster 2: «Уже сейчас мы можем сделать прототип, с запасом хода 965 км, но гораздо дороже.»

    Интервью на русском языке полностью:

    Комментарии 229

      +2
      Не хватает таймстемпов для «тезисов». И отдельных для «выпили» и «покурили», так будет понятнее.
        0
        В описание видео есть тайм коды
          +4
          00:00:00 – 00:09:37 — Про Boring Company и огнемет
          00:11:27 – 00:34:36 — Про ИИ, роботов и Neuralink
          00:38:36 – 00:54:05 — Про Соцсети и симуляцию
          00:55:16 – 01:55:20 — Про фишки Тесла, автомобили на ДВС
          01:55:22 – 01:18:42 — Про тоннели, летающие автомобили, самолет от Маска
          01:18:42 – 01:34:07 — Про возобновляемую энергетику и безопасность электромобилей
          01:34:07 – 01:44:54 – Про суды с Tesla, коррупцию и добрых людей
          01:45:01 – 01:52:54 — Про инновации, частную жизнь и, снова, Neuralink
          01:52:55 – 02:04:38 — Про ранние годы Tesla, Porsche и Tesla Energy
          02:04:40 – 02:13:26 – Про Rolex, марихуану, внедрение электромобилей
          02:14:30 – 02:25:08 — Про изобретения, роль Маска в истории и его дар
          02:25:11 – 02:36:51 — Про создание продуктов, колонизацию космоса и любовь
            0
            Специально перемотал на 2:04, послушать, что Икона про траву скажет. А там про часы какие-то.
              0
              del
            0
            Сейчас ИИ меня беспокоит уже не так сильно, как раньше, в основном потому, что я принял более фаталистическую позицию. Все не обязательно закончится плохо, но это определенно будет вне человеческого контроля.

            Не очень понятно. Как фатализм повлиял на смягчение представления опасности? Типа если это случится всё равно, то это не страшно?
              +7
              Это страшно. Но нет смысла дергаться, если нельзя повлиять.
                +1
                Так повлиять-то как раз можно. Просто у подавляющего большинства силы воли на это не хватит)
                • НЛО прилетело и опубликовало эту надпись здесь
                    +1
                    Например когда люди, не знающие об ИИ, разгадывают фотокапчи — они обучают нейросети распознавания образов. Если будут сервисы/инструменты, которые как-либо облегчают жизнь людей ценой обучения ИИ — понадобится сила воли, чтобы от них отказываться.
                    • НЛО прилетело и опубликовало эту надпись здесь
                        –1
                        К слову о нейрокапчах. Когда она говорит «выберите все квадраты, на которых изображено %s, если их нет — нажмите пропустить», это как раз тот самый случай, когда нейросеть обучается. Всегда выбираю случайные квадраты и это прокатывает. Такая вот борьба одного в поле. Хотя-бы внутренне спокоен, что на доли секунды отложил появление Скайнета.
                          0

                          Так вы его все равно обучаете, только неправильно.

                            –1
                            Ну и пусть себе тычется в небо и деревья.
                              +1
                              Оно вас запомнит и найдёт :)
                            +3
                            Это как бороться с автомобилями, спуская колёса соседям :)
                              +1
                              Немного не понял аналогии. Какой вред я наношу «соседним» пользователям, дезориентируя нейронку?
                                +2
                                Ну тем, что однажды эта нейронка в вашем автомобиле будет распознавать дорожные знаки и случайно распознает знак «осторожно моста нет», как ничего. Ну это условно, ясно что защиту от дураков отважных борцов там ввели.
                              0

                              Там скорее всего перекрёстная проверка идёт — если такой-то процент пользователей выбрал этот квадрат, значит его считаем.

                                –2

                                Лучше указывайте правильно. Когда придет цифровой хозяин он будет вами недоволен.

                              0
                              А большинство повлиять ни на что и не сможет — достаточно воли того меньшинства, которое понимает что к чему и создаёт эти самые технологии.

                              Каким будет ИИ определит подход к его разработке инженеров на передовой, которых в общей массе исчезающе мало

                              Не факт. Во-первых, мы понятия не имеем что такое сознание. Мы даже плохо понимаем сознание друг друга несмотря на зеркальные нейроны и прочие подобные эффекты. А во-вторых, нередко получается, что делаешь что-то делаешь, а потом финальная система проявляет ещё что-то, что в неё не закладывалось. А разработка самообучаемых систем — ещё то поле для проявление подобного. У Азимова вот просто было — три закона робототехники и всё. А как их надёжно реализовать в железе пока никто не понимает.
                                –1
                                Во-первых, мы понятия не имеем что такое сознание. Мы даже плохо понимаем сознание друг друга несмотря на зеркальные нейроны и прочие подобные эффекты.

                                А зачем иметь об этом понятие и понимать? Какие, к черту, реализации в железе законов из художественного произведения первой половины прошлого века? На что вообще тут можно повлиять?
                                  +1
                                  Так если не иметь понимание, то и повлиять будет как минимум затруднительно.
                                  –5
                                  Что такое сознание, Гегель уже 200 лет назад разобрался и изолжил это в Науке логики.
                                    0
                                    Тогда почему до сих пор трезвые психи периодически расстреливают ни в чем не винных людей? Надо просто признаться, что мы плохо понимаем, что у них в голове. И вообще весьма смутно понимаем сознание другого человека. Психологи, конечно, будут против такого утверждения.
                                      0
                                      «голова — предмет темный, и исследованию не подлежит»©
                                        0
                                        Как правило у таких людей сильная и назревшая обида на общество, которое (по их, субъективному, мнению) и является источником их плачевной жизненной ситуации.
                                          0
                                          Я не думаю, что мы реально понимаем. Мы может только модель построить по отношению к себе почему я бы сам лично мог это сделать. Но толку-то от этого?

                                          Ну вот пример поведения людей здесь. Вот давайте конкретный пример. Здесь же примерно уровень должен быть одинаковый? Относительно безобидная тема. Плюрализм мнений. И всё такое.
                                          Ниже я задал тред на обсуждение конкретной стороны конкретной темы. Мы просто рассуждаем об этом. Никого конкретно не осуждая и не предлагая. Если промотать вниз, то получается, что вообще тема запрета несколько утопична. Мой коммент набрал -3. Это понятно, потому что запрещать науку религией… ну лично мне, который всё детство провёл с проводками и батарейками, как-то некомильфо и я сам буду вообще-то против. Этот отрицательный рейтинг обусловлен тем, что людям это не нравится. Хотя я бы минусить не стал потому что… это ж просто философская беседа ё-моё) Но тем не менее. Но объясните мне поведение тех людей, которые не поленились залезть мне в профиль с дополнительно сшибить ещё и карму? И дело-то не в карме — у меня её много и мне её не жалко. Дело в понимании того, что творится в головах людей, которые это сделали. Если судить по своему устройству психики, то я — не пониманию. Могу только догадываться и строить предположения. Т.е. я не знаю и не понимаю работу сознания того человека. Может у него наступило оскорбление субъективного чувства верующего, а может просто у человека сегодня плохое настроение. Несмотря на свой жизненный опыт в 20-30-40-50-...-100 пока он это не скажет я не узнаю. И таких ситуаций в жизни — вагон с тележкой. Именно поэтому когда в семье разлад и они приходят к психологу (на Западе это развито) он по сути просто настраивает диалог пары между собой. Потому что надо общаться, надо выяснять и через это приходит какое-то понимание в т.ч. корректировки своей позиции, а когда стороны предпочитают догадываться и не готовы к компромису все успешно рано или поздно разваливается. А вот так сказать, что априори я понимаю как работает сознание другого человека — это некорректно. Я могу только догадываться, но в разговоре с ним вдруг оказывается, что все было не так. И вот если у нас, живых людей, так друг с другом коммуникация выстроена, то как мы изобретём сильный ИИ? )))
                                            0

                                            А понимаете ли вы, почему стоит соседнее здание? Ну сопромат, все дела, это понятно. Но вот почему оно просело правым углом на миллиметр (например)? Без подобного изучения — нет, не понимаете. Только общая модель.


                                            Почему с человеком должно быть проще? Если б вы сказали — не понимаю человека, которого изучил вдоль и поперек, побывал с ним в миллионе ситуаций, то да. А так вы не понимаете людей, с которыми даже не общались или перекинулись парой фраз. Такое ваше непонимание доводом против изобретения сильного ИИ быть не может.

                                          –1
                                          Чего тут непонятного? В головах этих людей объективная реальность отражается так, что в этом искажённом отражении невинных в вашем представлении людей необходимо расстрелять. Очевидно и просто.

                                          А вообще у большинства людей отличия в сознаниях только в мелочах. Просто мы редко задумываемся над тем, сколько много в нас общего. А отличия в мелочах часто приводят к серьёзным конфликтам.
                                            0
                                            Чего тут непонятного? В головах этих людей объективная реальность отражается так, что в этом искажённом отражении невинных в вашем представлении людей необходимо расстрелять. Очевидно и просто.

                                            Это ответ в стиле летом тепло — потому что солнце светит, ну что вы такой глупый)
                                            Почему она так отражается? Почему их сознание воспринимает всё именно так? Какова роль биохимии в этих процессах? Что именно видит их сознание в этих людях, которых они видят вообще впервые? Вопросов на самом деле много. Если вы понимаете как работает сознание — значит вы на них можете ответить, если не можете ответить хотя бы на половину — вряд ли понимаете.
                                              0
                                              Из того, что я не знаю, почему конкретно ваша машина плохо едет, следует, что я не понимаю, как работает двигатель внутреннего сгорания вообще?
                                                0
                                                Не следует. Но если вы не знаете как работает ДВС, то вы не будете знать почему ваша машина плохо едет, хотя тот, кто знает может определить причину в течение первых минут после начала поездки.

                                                Но я понял к чему вы. Например программист может абсолютно не знать про работу транзисторов, но хорошо понимать как работает его программа. Хотя хороший программист наверняка должен иметь представление о работе компилятора и структуре памяти. Тут вопрос в границах достаточности знания.
                                                  0
                                                  Если я не знаю, почему психика конкретного человека плохо работает, то из этого не следует, что я не понимаю, как работает психика человека вообще.
                                                    0
                                                    Как работает психика вообще — это чисто академический интерес. Который, кстати, вполне пригодится для разработки ИИ. А практически-то обычно нужно понимать как работает психика отдельного индивида.
                                                +1
                                                Мне кажется все намного банальнее и зависит от того как человек мыслит. А мыслит он сотнями расхожих мыслительных штампов, которых нахватается в детстве.

                                                Банальный пример. Живо в голове человека убеждение, что "настоящиймужик должен быть богатым" и мучается всю жизнь от того что не богат. Хотя у самого даже нет критериев «богатства».
                                          0
                                          Во-первых, мы понятия не имеем что такое сознание.

                                          Это не обязательно. Достаточно реализовать высокоуровневое сложное поведение. А будет ли в той коробке сознание — намного менее важно. А вот как реализовать сложное поведение, человечество стремительно учится.

                                            0
                                            Тут проблема в предсказуемости этого высокоуровневого сложного поведения. Если я до конца не понимаю что именно я должен определять при разработке ИИ, то это не значит, что ИИ у меня не получится. Вполне получится. Но не факт, что у меня получится ИИ, удовлетворяющий тому ТЗ, которое на него имеется. Если ТЗ формализовано, то это выполнимо, а если ТЗ в стиле «ИИ должен обладать сознанием», то уже начинаются разные непонятности в первую очередь, что такое есть это самое сознание.
                                              0

                                              А никто не будет ставить ТЗ "обладать созданием". Водить машину — да. Придумывать коммерческую музыку и фильмы — да. Реализовывать таски быстрее белковых программистов и так, что бы пройти ревью — да. Эти задачи, если хорошо посидеть над ТЗ, имеют вполне измеримые критерии.

                                                0
                                                Так это всё слабый ИИ. Я-то отвечал предыдущему оратору про сильный.
                                                  0

                                                  А не факт, что там нужен какой-то качественный скачок. Потом будет ТЗ "выступать по телевизору лучше Путина" (после фильмов не такое уж большое усложнение), "поддерживать интересный разговор на любую тему", "решать все бытовые задачи" — и вот вы его уже никак от человека не отличите. Есть там у него сознание или нет, не столь важно. А если отличите, тогда на это отличие и можно будет ТЗ написать по-конкретнее.

                                                    0
                                                    Да лично-то я-то только за! Я бы и вместо слабого ИИ предпочёл бы обыкновенную автоматизацию в виде формализованного алгоритма в железе) Но просто с ИИ автоматизация очень сильно упрощается, поэтому от этого просто никуда не деться.
                                            0
                                            Да в общем-то никак. Все рассказы Азимова про три закона именно об этом.
                                            0
                                            Я бы сказал, что никто не понимает, что может представлять из себя тот ИИ, которого стоит бояться. Пока что неясно, в чем может быть опасность распознавалки образов или того же AlphaGo. Логичнее бояться интеллектов естественных, у которых есть доступ к ядерному чемоданчику, т.к. известно насколько они могут быть забаговаными.
                                              0
                                              Зависит от того, какие рычаги мы готовы доверить машинам. А AlphaGo, к примеру, играя сильнее человека, тоже может «сойти с ума», как это случилось в одной из партий с Ли Сидолем (она упустила выигрыш и делала просто невероятные ходы, рассчитывая на грубый зевок соперника). Проблема большинства ИИ ещё и в том, что они закрытые, мы никогда не узнаем причины их поведений, а человек способен объяснить свои поступки.
                                                0
                                                Я просто не вижу чем это принципиально отличается от любой ошибки в ПО или даже просто в железе. Сразу на ум приходит история с крушением самолета из-за переполнения переменной. В общем, имхо, чтоб все поломать много интеллекта не нужно.
                                            +2
                                            Как повлиять, конкретно?
                                            Вот давайте запретите прямые интерфейсы в мозг и оставьте слепых — слепыми, калечных — инвалидами, имея все технические возможности сделать их зрячими и мобильными. Сумеете?
                                              0

                                              Ну так клонирование человека много где запретили, цели то те же, вырастить орган…
                                              ИМХО наличие или отсутствие запрета это лишь мнение некоторой влиятельной группы людей в определённый момент времени.

                                                +2
                                                ну, как запретили — не везде и не одинаково. И возможен запрет только потому, что не отработана технология. Посмотрим, как будут суетиться с запретом, скажем, в США, если вдруг, скажем, в Китае будет работающая технология выращивания органов.
                                                  0
                                                  Отказываться придется вообще от электроники. Частными запретами гарантированно ничего не решишь.
                                                    +1
                                                    Да. Либо в пещеры, либо вперёд.
                                          0
                                          Это типа, я до этого не доживу — и это хорошо.
                                            0
                                            — Кукушка, кукушка, сколько мне жить?
                                            — Ку…
                                            — А почему так ма…
                                            +3
                                            если это случится всё равно, то это не страшно?
                                            По мне, это очевидно — не "не страшно", а "не имеет смысла трепать нервы себе и другим, если с этим всё равно ничего поделать не сможешь". Могут возразить — как это не сможем? А прекратить исследования? Да, лично вы можете прекратить. И те вокруг вас, до кого вы можете дотянуться взглядом, тоже могут прекратить. Но вот те, кого вы не наблюдаете… они вам ничего гарантировать не будут. А в делах, связанных с ИИ, закрывать надо все дырки, и даже это может не помочь, поскольку есть мнение о возможности самозарождения ИИ в больших системах, если их «размеры» превысят некоторый порог.
                                              0
                                              Проблему можно решить. Но человечество на это уже не пойдёт. Не сможет отказаться от того волшебства, которое ему дают цифровые технологии.
                                                0
                                                После «Батлерианского Джихада» — откажутся.
                                                  0
                                                  Забиться в пеще… анафема! Богомерзкие пещеры — тоже технологии, только чистое поле, только хардкор (желательно во время грозы).
                                                    0
                                                    Пещеры можно самим не делать, а пользоваться только теми, которые есть. За них будет дикая конкуренция. Бонусом всего этого процесса: радикальное снижение численности населения, улучшение экологической обстановки, увеличение, по крайней мере остановка вымирания, видов на планете, сохранение для потомков полезных ископаемых, опционально все получат ясный и понятный смысл своего существования. Ну и, конечно, никакого ИИ! ))
                                                      0
                                                      > сохранение для потомков полезных ископаемых

                                                      Зачем, если они будут в той же пещере (если будут)?
                                                        0
                                                        Да я ж несерьезно)
                                                        0
                                                        Пожалуй, с остановкой вымирания, тоже переборщили. Как никак, но природные катаклизмы никто не отменял, более того, человек таки вносит крайне незначительный вклад в общую тенденцию: пара млрд тон CO2 это капля в море по сравнению с 200 млрд тонн с суши и 300 млрд тонн с океана. К тому же, современные low polution politics практически никак не влияют на тенденцию, что вообще-то намекает о Дон Кихоте с Мельницами. Это незначит, что надо прекратить любой гос. контроль, но стоит понимать, что он имеет несколько другие последствия, такие как рост здоровья и благосостояния населения, а не отсрочку неизбежного. Она если и будет, то крайне незначительная. И не надо про равновесия: концетрация углекислого газа и число растительности находятся в реактивном равновесии, что означает повышение уровня CO2 ведёт к увеличению его потребления растениями.
                                                          –1
                                                          Я имел ввиду текущее вымирание видов. Скорость вымирания за последние 500 лет превышает фоновую на порядок. На сегодня около 40% видов амфибий и 25% млекопитающим угрожает исчезновение совсем в недалёком будущем и у читающих эти строки есть все шансы это застать в реальности. Это тема проскакивает в СМИ, но мне кажется люди в полной мере не понимают, что именно происходит в нашем голоцене кайнозойской эры.

                                                          Просто если взять и подумтаь, то как-то печально осознавать что на этот раз причина не в астероидах, не в вулканах и не в прочих природных вроде бы малоконтролируемых факторах, а в массовом распространении одного вида, отдельные представители которого друг перед другом нет-нет, да и козырнут своей гуманностью.
                                                            +1
                                                            К сожалению, этот отдельный вид своей деятельностью истребил крайне незначительное число видов, которые и без того находились на грани по естественным причинам. В отличие от проскальзывающих тем в СМИ меня больше интересуют научные публикации и отдельные знающие люди как с собственной интерпретацией, так и с отсылкой на цитаты. Если интересно, могу и привести много примеров, но это будет долго, да и может мнение и изменится ;) Вряд ли сильно, если вообще.

                                                            Что до вулканов, астероидов и прочей ереси. Чёрт! Это всё булшит! Ни один вулкан, астероид или прочая ересь не может причинить значительного ущерба, только если внезапно со всех сторон по Чикслубу упадёт, тогда да. Есть куда более глубокие причины, заключающиеся в динамике среды обитания: температура, состав атмосферы, светимость солнца и много, очень много чего ещё. И намного чаще, просто в разы чаще человек своими недальновидными поступками обрекают целые ветви на вымирания, но не целенаправленное истребление. Даже больше, целенаправленное истребление сугубо в корыстных целях (без цели действительно истребить вид) в общем-то могут вызывать совершенно противоположный результат, а именно укрепление генофонда вида и развитие его географии.

                                                            Я всё это к тому, что амфибии и млекопитающие сами спокойно вымирают из-за изменений среды. Да, вырубка леса и осушение болот тоже оказывает не последнее влияние, но это приводит к катастрофе в крайнем случае, обычно банальная миграция полностью решает проблему. К высказываниям учёных отношусь довольно скептично (хотя, надо заметить они и сами проявляют огромный скепсис к собственной работе), что уж говорить про крики СМИ и всякого зелёного отродья?
                                                              0
                                                              Понятно, что читая желтую прессу цифры надо делить и не составлять своё мнение по одиночным статьям. Я сам достаточно не компетентен в подобном вопросе и исхожу из простой логики, что если какой-то вид увеличивается, то неудивительно, что остальным придётся уменьшится. А если этот вид ещё и ведёт себя как последняя свинья, плодя везде токсические помойки, то остальным придётся сильно так уменьшиться, так как они быстро перестроиться просто не могут.

                                                              Я всё это к тому, что амфибии и млекопитающие сами спокойно вымирают из-за изменений среды.

                                                              Но высчитано же какое-то фоное вымирание. И если оно подскочило на порядок за столь мизерный промежуток времени, то… что произошло-то? Глобального вроде ничего такого особенного. Разве что один вид только расплодился)
                                                                0

                                                                Какое такое "фоновое вымирание"? Есть такое понятие, как массовое вымирание. Большая часть вымираний происходит в сравнительно небольшой промежуток времени: во время пермского вымирания океан потерял 70% видового разнообразия. Есть видовое замещение, когда один вид "эволюционирует". Можно выделить локальное вымирание, когда слабо распространенный географически вид становится крайне уязвим к локальным климатическим изменениям или проникновению в его биосферу других видов. И не только человека: новозеландские киви очень пострадали от банальных кошек и собак, которые пусть и привёз человек, но 1) случайно и 2) не было никаких причин, что это бы не произошло бы и без участия человека.


                                                                Все это приводит к довольно странному вопросу: что считать и как считать. Более того, считать такие вещи мы начали сравнительно недавно и отправной точкой стоит считать Дарвина: именно он отец современной классификации. А это приводит к другой проблеме: недостаток данных. Считать мы умеем в общем-то не плохо, но недавно и не везде, что ставит задачу составления четкой картины реальности в разряд невыполнимых. И если с котятами и медвежатами все довольно легко: популяция небольшая, скрытность на минимуме, то с огромным числом видов все сложнее: популяции имеют колоссальные различия, а найти их еще сложнее.


                                                                Так что нет. Фоновое вымирание не посчитано. И скорее всего еще долго не будет, так как реальные причины обычно комплекс сложных условий, человек выступает так то последним гвозжем в крышке гроба.


                                                                К тому же не стоит забывать, что благодаря деятельночти человека восстанавливаются популяции асурийских тигров и больших панд. Не все так просто под луной.

                                                                  0
                                                                  Под фоновым я имел ввиду естественную усреднённую скорость вымирания. За последние полтысячелетия вымерло порядка тысячи видов, а должно было бы не более 50-100. Но как эти 50 посчитали — это да, я не знаю. И какая бы скорость была без человека — тоже непонятно, равно как и непонятно почему бы она так возросла без него. Но ведь прогнозируется не просто повышение скорости, а повышение ускорения вымирания. Но с чего?

                                                                  За тигров и панд я, безусловно рад. Но проблема в том, что, чисто интуитивно и субъективно, мне кажется, что от деятельности человека гибнет в десятки раз больше, чем восстанавливается. К 2035 году при сохранении темпов вымирания пчёл они вообще имеют шанс попасть в красную книгу. А ведь для глобальной экосистемы плечы несравнмимо важнее тигров и панд.
                                                                    0
                                                                    Вообще говоря, я столкнулся с некоторыми трудностями, чтобы подкрепить свою точку зрения. Самая большая трудность заключается в том, что конкретно сейчас мои слова идут немного в разрез с тем, что можно найти в этих ваших интернетах, а найти серьёзные источники на которые я опирался довольно сложно, так как из публичных личностей это разве что Кирил Еськов, высказывающий несколько похожие вещи. Пара шапочных знакомых, занимавшие довольно серьёзное положение в научной среде, высказывались достаточно резко критически к текущей ситуации с охраной природой: «можно сколько угодно болтать про \птичку жалко\, однако вся эта сфера по охране природы это огромные деньги, колоссальные, которые почти невозможно ни отследить, ни измерить реальное вложение» (цитирование примерное). Этот факт, а также вопиющая статистическая ошибка, заключающаяся в крайне банальной экстраполяции данных, ибо нельзя считать старые данные, что вымирало условных 50-100 видо 500 лет назад по той же простой причине, по которой 500 лет назад не диагностировали рак — технологии. Они неумолимо развиваются, если 500 лет назад вид исчезал и никто по нему слёз не лил, то сегодня измеряются даже незначительные изменения биосферы.

                                                                    На самом деле, пока я копался уже были мысли, что таки да. Радикально не прав. Но одно меня остановило: мысль просто посмотреть что за виды вымирают. Нет ли условных дупликатов, может крайне похожих видов, или, если так выразится, незначительных, то есть таких, которые априори не жизнеспособны и возникают переодически случайно, но в силу нарушенных репродуктивных функций (аля мул) довольно быстро вымирают сами.

                                                                    Короче. Не нашёл. Ничерта подобного. Так закончился мой датамайнинг ещё не начавшись. А между тем, вот начав с шутки можно подойти к серьёзной проблеме. Кто те люди, которые анализируют эти данные? Которые строят странные выводы, после чего журналисты делают громкие заголовки, люди формируют непонятную точку зрения, а учёные продолжают заниматься непонятно чем. И ведь серьёзно, это очень большая проблема. Я тут подумал, что условно посмотреть в небо мне никто особо не мешает. Чёрт, Zelenyikot собирается спутник на теневую сторону луны отправить, это реально. А кто считает мышей и стрекоз? Как их считают? На какие деньги их считают? Я не то, чтобы говорю, что это не надо, но просто это очень странно. Довольно очевидно, что наша деятельность будет влиять на развитие биосферы, даже довольно значительно, но до сих пор есть огромнейшее число мест неприсутствия людей, где как бы ничего не вымирает. Но ёпт, откуда вы знаете, там же никого нет?! Всё это наталкивает на неприятные мысли о том, что ложь скрывается не только среди шарлатанов и политиков, но и вполне серьёзных людей.

                                                                    Остановите Землю, мне сойти. Маск, дай реквезиты Марсианской программы.
                                                                      0
                                                                      Так дело не в том, что жалко или не жалко птичек. От этого вообще можно абстрагироваться. Если до нашей эры пара видов пропадала за десять лет, а сейчас — за один год, то явно где-то что-то не то. Это как минимум надо принять во внимание. И может надо не в электромобили вкладываться (Маск, извини!), а в исследования почему в Северной Америке и Европе пчёлы пропадают? Потому что если смотреть в стратегию, то пропажа пчёл будет гораздо фатальнее, чем отсутсвие блестящих тесл с автопилотом.

                                                                      С другой стороны, — а какой смысл? Как-то была авария в Мексиканском заливе. Об этом потрепались и успоикоились. А экосистема залива думаю до сих пор не оправилась. Да и гольфстриму вроде досталось, правда везде противоречивые данные и как-то непонятно будет Европе холодно лет через 10 или нет. За трагедией (реально трагедия ведь) на фукусиме вся планета следила — сейчас кто-то об этом помнит? А между тем водичку они до сих пор периодически сбрасывают и загадили уже всю верхнюю часть тихого океана. Нефть разлилась… Заражённую воду сливаем… Ну исчезнут пчёлы… не отказываться же из-за этого от многочисленных дезодорантов, удобных пластиковых пакетов, пестицидов, смены телефона раз в год и машины раз в три года… А вдруг они дохнут из-за вышек сотовой связи — какие там стандарты с 2006 года работать стали?))

                                                                      Я понимаю скепсис относительно всяких некоммерческих фондов и экологических организаций — в них работают люди и работают там не просто же за еду, т.е. их мнение и фокус работы весьма управляемы. Но чисто субьективно стоит признать, что роль человека на окружающую среду уже выходит за рамки «последний гвоздь в крушку гроба». Мне кажется, что наш статус с гвоздя уже минимум до молотка повысился.
                                                                        0

                                                                        Вы не поняли.


                                                                        Я не нашел этих данных. От слова совсем. Причем у меня есть… ммм… Особые каналы. И это огромная проблема. Поясню.


                                                                        Допустим. 65 млн лет назад. Откуда мы знаем, что динозавры были, но вымерли? Палеонтология, правильно. Соль в том, что уже тогда была целая ниша, занятая млекопитающими, а это наши далекие предки. Но до сих пор появляются сведения о новых видах, причем возможно даже концептуально отличающиеся от известных. Это не только поразительно, но и вполне понятно. А количество вовлечённых в это людей огромно, но в любом случае, пока машины времени нет все это гипотезы и очень редко теории. Как давно вы слышали про новые палеонтологические открытия? Не, вернее как часто вы слышете про последнии? А про физику?


                                                                        Концептуальное отличие этих дисциплин — доказуемость. Голубой шарик в космосе пережил такие вымирания, что любая современная потеря — детский лепет. И что происходит сейчас естесственный процесс банально потому, что мы его часть в любом случае. Деятельность человека бесспорно вносит огромный "вклад" в развитие экосистем. Но. Потери это всегда и приобретения. Ушли динозавры — пришли млекопитающие.


                                                                        Я немного сменил тон с "это все ложь", на "это все нормально". Не хорошо. Оговорюсь, вернее вернемся в начало. Я перечитал к текущему моменту около 7 статей на эту тему (ссылки по реквесту, телефон не комильфо) и нигде не нашёл исходных данных и методы их получения. Это… Уже настроживает. А ведь одно дело посчитать видовую динамику в пригороде Нью-Йорка и совсем другое — в пустыне Сахара или условном Конго. К тому же такие вещи крайне подвержены теории хаоса — любые изменения крайне тяжело предсказуемы, а действия человека не всегда носят деструктивный характер. Мой любимый аргумент в спорах с веганами: именно люди именно создали всеми любимых котиков, да и не только. Черт его знает какое видовое разнообразие создал человек, домашние питомцы довольно примитивный пример. Да, мы довольно жирные в плане экосистемы, но есть много доводов в любую сторону, а проблема на самом деле приобретает моральный оттенок, и в итоге каждый остается со своим. Иначе: эти вопросы крайне чувствительны к предрасположенности исследователя. А в эту сферу вряд ли пойдет дотошный математик и скептик до мозга костей. А вот милые девочки-веганши — пожалуйста, хоть хлебом не корми.


                                                                        Все это приводит к неутешительным выводам. Современная мировая позиция почти наверняка ортогональна действительности. И да. Не обязательно. И да, это не значит, что ничего не надо делать. Просто бОльший скепсис поможет посмотреть на этом под другим углом.

                                                                          0
                                                                          Отсутствие источников — это тоже может быть информацией. Помните, как начиналась ядерная эра? В какой-то момент из свободного доступа были вычищены все упоминания об атомном оружии. Сейчас-то сложнее — сейчас интернет есть. В любом случаем нам остаётся только гадать.

                                                                          Я люблю фантастику, Старков вот предлагает следующую ретроспективу ;)
                                                                          Сначала исчезли пчёлы. Мне лет пятнадцать тогда было. Помню, сначала в новостях появились обеспокоенные пасечники, потом фермеры, а потом над ними стали подшучивать. Причём, подшучивали сами журналисты. Репортажи об обеспокоенных сельскохозяйственниках были похожи на некие фельетоны. Тогда, наверное, все думали, что сами журналисты забавляются. Лишь немногие понимали, что это была установка сверху — поднять на смех. Клоунов никто не воспринимает всерьёз, даже если они проливают вполне реальные, честные слёзы или кровь. Всё — лишь часть представления и не более, так считает большинство. Потом бьющих тревогу пресса стала игнорировать и проблемы, вроде как, и не стало. Так уж приучены люди — то, о чём не говорят по телевизору — не важное, мелкое.

                                                                          А ещё я помню, как за четыре месяца до того, как в новостях появились первые озадаченные пасечники, позже выставленные полоумными, а эксперты высказали в прессе своё ангажированное мнение, корпорация «Глобал нэт» запустила связь нового поколения. Телефония, интернет, цифровое вещание, радио — всё сразу, а уровень сигнала превосходил все предыдущие попытки человека добиться качественной мобильной связи и интернет-сигнала в самых отдалённых и диких уголках, как высокоцивилизованных стран, так и, так называемых, «стран третьего мира». «Глобал нэт» полностью оправдал своё название глобальной сети. Он окутал своим волнами всю планету, словно заботливая мать укутывает своего малыша в особо холодную ночь, в колючее, но такое тёплое, шерстяное одеяло. Произошло это в 2025-м году.

                                                                          Тремя годами ранее «Глобал нэт» стал мировым монополистом в сфере связи и цифровых коммуникаций. На качество и стоимость услуг поглощение других компаний не повлияло. Но, зато, новые хозяева связи обещали настоящий прорыв в отрасли и сдержали своё обещание. Сигнал не пропадал нигде, в какую бы впадину не заезжал на машине, в какую бы даль не забросила служебная или иная надобность.

                                                                          А потом начали возмущаться «чудики». О них быстро забыли тогда, но часто вспоминают теперь, хотя и категорически нежелательно этого делать. Ведь агрономы тех лет говорили о том, что именно столь сильный высокочастотный сигнал привёл к тому, что пчёлы сначала начали гудеть в своих уликах — гудели, гудели, а потом исчезли. Куда — никто так и не понял. Видели, конечно, летящие рои. Кто говорил, что на Север, кто, что на Юг. Может, зарылись под землю? Может, спрятались в недрах пещер? Этого никто так и не выяснил доподлинно. Но факт остался фактом — пчёлы исчезли. Исчезли и перестали делать свою работу. Такую незаметную, но такую незаменимую. Вскоре, без опыления, погибла большая часть сельскохозяйственных культур. Поля попросту затянула поросль, которая не нуждалась в услугах трудолюбивых пчёлок. Тогда начался голод.

                                                                          «Так получилось» — говорили представители власти, а ангажированные учёные выдвигали в качестве неоспоримых полностью несостоятельные теории, которые пресса легитимизировала в сознании масс. Однако, тот факт, что именно высокочастотные волны стали решающим фактором — те, кто знал замалчивал, а те, кто знал, но имел смелость раскрывать рот — либо, как уже повелось, осмеивался, либо подвергался различного рода репрессиям, само собой, по надуманным предлогам.

                                                                          Конечно, «Глобал нэт» был не единственным катализатором того пожара, что сжёг сами столпы привычного мира. Но он запустил первую, заметную всем и каждому, ласточку. А кто не заметил, тот скоро почувствовал её своим, сначала кошельком, а потом и желудком. Но, сначала исчезли пчёлы...
                                                                            0

                                                                            Только у нас получается выывернутая наизнанку ситуация...


                                                                            Алсо, Старков тут немного ошибся: высокочастотное радио имеет меньшую проникающую способность. Ну и да, это маленькая проблема фантастики. Пожалуй, Азимова пока еще никто не переплюнул, да и вряд ли вообще переплюнет.

                                                                              0
                                                                              Любая фантастика строится на допущениях. Они и у Азимова есть. Другое дело, что его вселенная масштабна, продумана и логична, а оттого реалистична и притягательна. Ну и оригинальна. Но оно и не удивительно, особенно когда почитаешь у него «История Древнего Рима» или «История Египта» — у него была обширная качественная база, на которой можно было придумывать своё. Я вообще поражаюсь сколько он всего написал за свою жизнь. Причем написал настолько качественно, что это и сейчас в лёт читается. И как вообще он успевал? Я вон, попробовал пографоманить, так ушло три года и то это ещё до вменяемого вина надо пилить и пилить, а его список книг если сюда выложить — это ещё та портянка получится. Основание что ли перечитать?))
                                                                                0

                                                                                Полностью согласен. Азимов воистину великолепнейший писатель прошлого века, тысячелетия и, возможно, человечества. Если сравнивать с по сути первой литературной фантастикой, то прекрасный Гуливер теряется не только за масштабностью и эпичностью происходящего, но и невероятнейшей проработкой внутреннего мира. Черт, даже дюна порой проигрывает по эпичности, хотя казалось бы, куда уж дальше?

                                                                                0
                                                                                Знаю, что этот диалог был давно, но он мне почему-то вспомнился в связи с очередной волной публикаций по поводу вымирания пчёл. Уже даже власти проблему признали. Понятно, что количество биомассы в мире не изменилось и место одних видов займут другие, но… как-то это печально всё.
                                                                        0
                                                                        Подсчет темпов вымирания — действительно очень сложная проблема, хотя бы потому, что максимум, что можно с большой натяжкой и маленькой точностью посчитать — это ситуацию на текущий момент времени. Что было ранее — не знает, по большему счету, никто. Делаются какие-то аппроксимации, на основе которых делаются прикидки (например, «во время Великого вымирания было потеряно 90% видового многообразия»), но как сравнить это с современностью — не ясно.
                                                                          0

                                                                          С палеонтологией дело обстоит довольно интересно. Она отлично работает в относительном времени и прекрасно указывает на изменения. Окаменелые породы, то есть их состав, сильно зависит от ситуации в прошлом. И множество факторов могут дать очень крепкую теорию о гибели 90% водного разнообразия в конце пермского периода. Потому что по окаменелостям можно судить о наличии совершенно иных видов, а зная текущие виды в общем-то строится строгая модель: по "пропавшим" ветвям не сложно определить сколько мы "потеряли".


                                                                          Но. Мы говорим о 90%, можно даже сказать, что почти все вымерли. Плюс минус пара тысяч видов и подвидов (которых до сих пор находят) — это капля в море и не первая цифра после запятой. Когда мы считаем сегодня от того как и что считается завист принципиальная суть. Условно, умерший Нью-Йоркский клещ в следствии вырубки лесов вокруг и заливании пестицидами оставшихся насаждений это плюс один навсегда потеряный вид. То что он отличается /может отличатся/ едва ли не единицами генов от условного вашингтонского клеща как-то не волнует прессу, да и тот факт что он на самом деле мигрировал за город, слившись с другими клещами, тоже.


                                                                          Короче. Все не так просто. Да, есть действительно потери и тот же додо, про который мы теперь можем только гадать, почти наверняка останется загадкой (хотя генная инженерия может и помочь). Но я говорю не просто про условную невозможность посчитать как вымирали виды 1000 лет назад, но даже и сейчас непонятно что и как считается. 1000 видов это очень много, если всего млекопитающих насчитывается на сегодня около 5000. Но даже здесь: никто в инете не выложит описание всех 5000 видов. Это очень, очень большая проблема. Большую часть можно найти в библиотеках, но боюсь и там меня будут ждать латинские проблемы.


                                                                          Вообще, я бы особо не выдумывал на этот счет. Конечно, лучше что-то делать, чем ничего. Да и овер 9000 автомобилей на ДВС это дичь и наркомания, полностью согласен с Маском, что поднимать из Земли миллиарды тон нефти и освобождать углерод в атмосферу — плохая идея, очень и очень плохая. А учитывая принципиальную неустойчивость климата мы вполне можем ускорить глобальное потепление, за которым несомненно грядет полное преображение климата.

                                                      +5
                                                      Типа если это случится всё равно, то это не страшно?

                                                      Типа коль скоро это все равно рано или поздно случится, фиг ли нервы себе трепать?
                                                      Классичекий и верный подход — если ты никак не можешь повлиять на что-либо, не париться по этому поводу.

                                                      — А вы не боитесь, что он случайно выстрелит?
                                                      — Я решил для себя эту проблему.
                                                      — Как?
                                                      — А я думаю только о бейсболе (с) Frank Drebin


                                                      Так повлиять-то как раз можно. Просто у подавляющего большинства силы воли на это не хватит)

                                                      Повлиять нельзя, т.к. даже если запретить исследования, рано или поздно кто-то все равно этот запрет нарушит.

                                                      Ну и на тему спонтанно возникшего ИИ — трилогия Linda Nagata «Red», там ИИ предположительно самозародился из коммерческого софта, анализирующего всякую bigdat'у, в совершенно невинных целях, скажем, подсказать вам покупки на основании вашей потребительской истории, или как-то так.
                                                        –1
                                                        Это смотря как запретить. Можно ради благих целей «сохранения лица человечества» возвернуть величие религии, а на всю науку сверх школьного курса наложить анафему и нещадно подвергнуть гонениям. Примитивно, конечно, но просто. Правда тут не факт, что сами служите курса смогут «откатиться» и беспроблемно отказаться от магии цифровой техники, а если они не откажутся, то рано или поздно…
                                                          0
                                                          Перекликается с Foundation Азимова…
                                                            0
                                                            Ну, это утопичный пример. И вовсе нежелательный. Но в целом реален даже более, чем некоторые думают. Отключите электричество на планете на несколько лет и я не удивлюсь, если человечество скатится обратно в средневековье, несмотря на в общем-то гуманистический прогресс за последние 200 лет. Запрет науки еще и проблему перенаселенности: уровень медицины упадет, приведя к скачку смертности + священные войны… Бррр)
                                                              0
                                                              Foundation я упоминал в контексте «церкви Галактического Духа»…
                                                              что же касается отключения электричесва — знания все-таки останутся. хотя бы на уровне устной передачи. останется знания о том, чем вызываются болезни. и хотя лекарств будет мало — но гигиена уже понятна, действующие вещества будут извлекать из растений, устройство организма тоже понятно и т.п.
                                                              опять же, знание, «что такое электричество» — еще долгое время будет, и будет стимул искать новые источники…
                                                                0
                                                                Про Азимова я сразу понял)

                                                                Ну, если инквизиция будет спать и с еретиками не бороться, то электричество опять изобретут конечно. Тут проблема-то в другом — религии самой в целом выгодны знания для более эффективного контрроя и управления. Запретить вот так вот все надолго на уровне догмата довольно сложно. Я как-то в противоречие вошел: получается без внешнего управления и контроля мы так или иначе ИИ все равно изобретем :)
                                                                  0
                                                                  Ну если представить, что на Землю упадет астероид, который приведет в действие пару супервулканов, но при этом останутся несколько регионов, где силен радикальный фундаментализм, то возможно выжившие бы и приняли эти бедствия как предсказанный в священных книгах Апокалипсис и расплату за грехи и науку. В этом случае можно представить откат человечества на уровень средних веков. Особенно если бы религиозных фанатиков возглавил харизматичный лидер, который бы продумал отказ от технологий и закрепил бы этот план в религиозных догматах. Но это так маловероятно, что скорей сюжет антиутопии, чем сколь-нибудь вероятный сценарий будущего)
                                                                    0
                                                                    Но и опять же получается — обязательно нужно внешнее воздействие. Сами по себе цивилизационно мы получается это никак отрегулировать не сможем.
                                                                      0
                                                                      Ну да, без этого представить, что мир ВНЕЗАПНО без внешних причин решает совершить суицид и вступить в эпоху постапокалипсиса невозможно) Это еще менее вероятно, чем если бы все жители нескольких городских кварталов одновременно решили бы выброситься из окон.
                                                                  0

                                                                  Это в первом-втором поколении понятно. А потом всё, искажения при передаче. Перепроверять на опытах — это не хухры-мухры, лаборатории нужны.

                                                                    0
                                                                    Это в первом-втором поколении понятно. А потом всё, искажения при передаче.

                                                                    ну да, "«celebrate» а не «celibate»"©
                                                                  +1
                                                                  Отключите электричество на планете на несколько лет вот дело-то и в том, чтоабсолютно невозможно никак отключить на планете электричество. Нет никакого механизма, который бы позволил это реализовать. Одна отдельно взятая страна могла бы в принципе совершить технологический суицид, но чтобы все вместе решились на это… Реалистичнее представить, что прилетит Дарт Вейдер и заставит под дулом Звезды Смерти это сделать.
                                                                    –1
                                                                    … и, кстати, именно подобная невозможность техносуицида для проверки гипотезы делает гипотезу антропогенного глобального потепления не фальсифицируемой.
                                                                      +1
                                                                      Теория глобального потепления основана на том, что человечество в предельно краткие с точки зрения геологии сроки выбросило в атмосферу массу веществ, которые вызывают парниковый эффект. Это вполне опровержимо А) доказательством, что при сжигании ископаемого топлива не выделяется веществ, способных вызвать потепление Б) будет создана убедительная модель, которая покажет, что человечество сожгло слишком мало топлива, чтобы как-то повлиять на атмосферу и/или будет доказано, что повышение температуры вызвано иными факторами (например резко повысилась активность Солнца за последние несколько сотен лет).
                                                                      Но все равно не пойму, причем тут техносуицид…
                                                                        –1
                                                                        Смотрите, A — потепление (положим, действительно наблюдаемое; там есть сомнения по поводу методологии, но речь сейчас не об этом), B — техногенная деятельность человека.

                                                                        Возможные объяснения наблюдений:
                                                                        1. А следует из B
                                                                        2. B следует из A
                                                                        3. А и B следуют из некоего не известного нам C
                                                                        4. А и B просто совпали по времени.

                                                                        Вот чтобы убедиться, что мы живём во вселенной, лучше всего описываемой гипотезой 1, нужно всем человечеством собраться и перестать на годик, скажем, коптить небо, сделав предварительно прогноз вроде «потепление замедлится не менее чем на X%». Прогноз подтверждается — гипотеза 1 верна, не подтверждается — не верна.

                                                                        Только вот убедить человечество поставить такой эксперимент, прежде чем выделять деньги на борьбу с предполагаемым причинами глобального потепления, нет никакой возможности.

                                                                        Заметьте, я не утверждаю, что потепления нет или оно есть, но не является следствием деятельности человека. Я утверждаю, что гипотезу 1 нельзя считать доказанной, более того, до терраформации соседних планет её в принципе вряд ли можно будет доказать или опровергнуть. Звучит правдоподобно? Да. Научно? Пока нет.

                                                                        PS: Другой вариант: 1) представить климатическую модель, способную делать прогнозы погоды на годы вперёд 2) сделать на этой модели предсказания и проверить их, доказав корректность модели 3) убедиться, что эта модель таки предсказывает глобальное потепление от техногенной деятельности человека. Но здесь и сейчас нам едва хватает вычислительных ресурсов и качества климатических моделей для очень неточного прогнозирования погоды всего на месяц вперёд, какие уж там долгосрочные перспективы. Климат — нефигово сложная штука со множеством влияющих факторов. Процессы в океанах вообще едва изучены.
                                                                          0
                                                                          массу веществ, которые вызывают парниковый эффект

                                                                          А что делать с водяным паром, который тоже парниковый газ и испаряется сам собой с поверхности водоёмов в гораздо больших количествах, чем способно сгенерировать человечество?

                                                                            0
                                                                            Есть данные по количеству пара 50 лет назад и сейчас?
                                                                              0
                                                                              И выпадает назад в тех же самых количествах в виде дождя/снега/росы и других видов осадков. За год воды испаряется с поверхности земли и водоемов и потом и выпадает назад из атмосферы разы больше чем все ее содержание в атмосфере. Где-то в 20-30 раз больше в среднем. А среднее «время жизни» таким образом — несколько недель, против нескольких (~7) лет для углекислого газа и десятков-сотен лет для других парниковых газов.

                                                                              А емкость «буфера» (сколько водяных паров в данный конкретный момент находится в атмосфере — только это количество влияет на парниковый эффект) прямо и явно зависит от текущей температуры воздуха: чем она выше, тем больший объем влаги может находится в воздухе прежде чем начинатся ее конденсация и выпадение назад.

                                                                              Из-за этого водяной пар с одной стороны из-за его большого количества (в разы больше чем всех остальных парниковых газов) дает очень сильный вклад в общий парниковый эффект (его общая сила на данный момент порядка +30 градусов) и к тому же создает механизм положительной обратной связи: чем выше температура — тем больше пара в атмосфере — тем сильнее парниковый эффект — тем выше температура.
                                                                              Но с другой не может являться причиной его запуска или усиления. Т.к. коэффициент обратной связи к счастью гораздо меньше 1.

                                                                              Поэтому ничего с ним делать не нужно, все отрегулируется самостоятельно — если снизить эффект от других причин, температура атмосферы начнет снижаться, «лишняя» вода из нее сразу же выпадает в виде осадков и вклад водяного пара в парниковый эффект так же начнет снижаться способствуя дальнейшему снижению температур. Так же как он сейчас способствует их росту усиливая действие других факторов.
                                                                            +1

                                                                            Нет, не делает. Техносуицид невозможен на практике, потому что не захотят. В теории он возможен. А для фальсифицируемости важна только теоретическая возможность, способны ли мы реализовать эксперимент или нет, в расчет не берется.

                                                                              0
                                                                              Как именно определяется формальная граница между теоретической и практической возможностью? Теоретическая возможность обследовать всю вселенную на наличие Бога, тем самым подтвердив или опровергнув его существование, делает религию фальсифицируемой?
                                                                                0
                                                                                Нельзя доказать, что Бога нет ибо всегда можно сказать, что мы просто не способны Его обнаружить. Поэтому теория существования Бога нефальсифицируема.
                                                                                  0
                                                                                  Всегда можно сказать, что человечество вымрет от потепления раньше, чем сможет доказать его связь с технологической деятельностью по всем научным стандартам. Поэтому срочно, срочно выделите ещё денег!
                                                                                  +1

                                                                                  Делала бы, если б было достаточно обследовать всю видимую вселенную. Однако, например, христиане не утверждают, что бог на альфа центавры. Они утверждают, что он не познаваем. Таким образом, обследовав всю видимую вселенную и убедившись, что бога нигде не обнаружено, вы всё ещё не сможете сказать, что его нет — вещи он просто не дал вам себя познать, потому что у вас веры недостаточно.


                                                                                  И, напротив, теория, что та же самая альфа центавры светит из-за термоядерной реакции внутри — фальсифицируема. Хотя на практике мы не можем туда слетать и проверить, мы могли бы это сделать в теории, в будущем.


                                                                                  А границу проводить не надо. Практическая возможность не требуется вообще, а значит где проходит граница — не важно.

                                                                        +1
                                                                        Величие религии можно возвернуть разве что во благо кучки дельцов, стригущих баранов (впрочем, они и сейчас есть и стригут вполне достаточно). Причём дельцы сами не отказывались от плодов прогресса. Да и не все захотят, а захотевшие просто получат низкую кокурентоспособность и будут попользованы и выкинуты более развитыми (если имеют ценные ресурсы) или будут прозябать там, где ресурсов нет.
                                                                          0
                                                                          Развистость можно откатить умеренной ядерной войной. Последствия её, конечно, будут, но не такие пугающие, что «на многие годы наступит конец света из-за выброшенного вещества в атмосферу». Однако для такого сценария всё равно нужно какое-то общепланетную организацию, способную потом контролировать всё население. Что несколько тяжко без современных технологий. Да и по современным тенденция нам объединиться-то очень сложно — в мире налицо тренд на деленение.
                                                                            0

                                                                            Общепланетная организация кончится не начавшись. Даже сейчас, когда есть множество технологий, это выглядит совершенно нереалистично, а хаос и разброд после ядерной войны вообще поставит крест. Тем более если это будет организация умственнодобровольно технологически отсталых, то её просто пошлют (если они смогут куда-то сами добраться). ИИ ведь не единственное пугало, есть уже много давно используемых и никто не остановится на одном пугале.

                                                                              0
                                                                              Да понятное дело, что все это утопично. Мы ж просто так треплемся)
                                                                              0
                                                                              Развистость можно откатить умеренной ядерной войной. любой реалистичный сценарий ядерной войны оставляет целый ряд развитых стран вне зоны поражения. От Новой Зеландии до Бразилии или ЮАР. Да, им прийдется столнуться с большими проблемами — от разрыва торговых связей и проблем с самыми разными ресурсами до мигрантов и экологических бедствий, но какая-то из этих стран сохранит основы научно-технического потенциала. Больше того, они будут понимать, что теперь в послевоенном мире судьба планеты — в их руках, поэтому сохранение научного потенциала было бы одним из главных приоритетов.
                                                                              Еще лучше может быть в недалеком будущем. С одной стороны глобализация даст шанс развитию многим странам третьего мира — от Кении и Ганы до Вьетнама и Индонезии. А значит, стоит пережить Апокалипсис только этим государствам — и человечество вполне себе сможет восстановится. С другой стороны, возобновляемая энергетика, компьютеры с десятками тысяч книг на одном жестком диске, 3Д принтеры, ГМО (скажем растения с повышенной устойчивостью к радиации), вертикальные фермы, искусственное мясо и т.д. позволили бы создать автономные поселения с высоким уровнем жизни практически в любой точке Земли — от гор Тибета до Амазонии, тундры или пустыни Австралии. Это в перспективе еще сильнее увеличит шансы на выживание цивилизации при глобальном катаклизме без отката до темных веков.
                                                                            0

                                                                            Зачем так сложно? Запрещаем заводы чипов выше определенного уровня, запрещаем технологии, что б их строить. Заводов мало, главное вовремя бомбить (не спрашивайте, как бомбить Китай, я без понятия). Останемся почти на этом же уровне, просто без крутых видеокарт и суперкомпьютеров.

                                                                              +1
                                                                              Для мирового запрета продвинутых чипов нужно бомбить не только Китай, но и Южную Корею, Японию, США, Великобританию, Тайвань, Нидерланды, Францию, Германию… ( ru.wikipedia.org/wiki/Список_микроэлектронных_производств ) А они боюсь этого дела не оценят, даже союз заключат типа антигитлеровского со всеми вытекающими для «бомбардировщика» последствиями
                                                                                0

                                                                                Да нет, бомбить нужно только нелегалов. С Южной Кореей и остальными нужно договариваться. Как я упоминал в других комментариях, по аналогии с запретом ядерных испытаний.


                                                                                Что делать, если никто договориться не захочет? Расслабиться, как Маск. Это наша планета и решать мы можем только консенсусом. Если консенсус — давайте сделаем ИИ, а там посмотрим — так тому и быть. Если же консенсус (не всех, а большинства) — давайте притормозим и подумаем — то технически притормозить не сложно. Даже откат технологий будет небольшой.

                                                                                  0
                                                                                  Гипотетически можно представить, что будет создана на уровне ООН какая-то Комиссия по ИИ, которая будет инспектировать разработки «сильного универсального ИИ» а ля МАГАТЭ. Но «слабый» узкоспециализированный ИИ это трогать не будет, как и разработки в других сферах. А значит процессоры все равно будут совершенствоваться пока не упруться в физические пределы, нейросети будут учить новым и новым задачам, квантовые компьютеры будут и дальше создавать и т.д. В тоже время биологи продолжат изучать строение мозга. Только появится еще одна бюрократическая структура, которая вряд ли сможет предотвратить неизбежное…
                                                                                    0
                                                                                    А значит процессоры все равно будут совершенствоваться

                                                                                    Конечно, в вашей схеме — если просто создать ещё одну бюрократическую структуру и следить за разработками ИИ — процессоры будут продолжать совершенствоваться.


                                                                                    Именно поэтому я и предложил другой вариант. Следить не за разработками, а за железом.


                                                                                    При условии, что основные страны договорятся, конечно. Если не захотят, значит не захотят.

                                                                                      0
                                                                                      У развитых стран нет никаких стимулов и причин останавливать развитие процессоров. Вот в свете того же старения населения. Без умных заводов и цифровой медицины с роботами-медсестрами и ИИ-диагностикой что будет с социальной и пенсионной системой Германии и Японии в ближайшие десятилетия? Для них развитие «слабого» ИИ — залог выживания и спокойного будущего. Как обеспечить стабильность и развитие для стран с все большим числом людей пожилого возраста и низкой рождаемостью иначе? И между гипотетическим восстанием машин и вполне реальной перспективы остаться без пенсии и лечения в старости выбор избирателей будет немного предсказуем…
                                                                                      А как одобрить такую политику своего правительства всем этим Google-Apple-Amazon? Ведь они скорей в океане или космосе создадут новое государство вне этих запретов или купят целиком какие-то Каймановые острова где будет мировой технологический офшор, чем спокойно проглотят такие шаги своих правительств. Да и найдется какие-то ОАЭ, Швейцария, Норвегия, Исландия, Израиль или Сингапур которые явно или негласно дадут защиту для разработок «слабого» ИИ для решения самых разных задач.
                                                                                        0
                                                                                        создадут новое государство вне этих запретов

                                                                                        Это ничего не даст при запрете на заводы. Если 20-40 основных стран договорятся о запрете, заводы на островах просто разбомбят. А если Гугл прямо скажет, что это его — наложат штраф в сто миллиардов за нарушение закона о запрете. Так что Гугл будет молчать и спокойно смотреть на бомбёжку — это дешевле.


                                                                                        У развитых стран нет никаких стимулов и причин останавливать развитие процессоров.

                                                                                        Процессоры общего назначения — ерунда, а не проблема. Их и не нужно запрещать. Специализированные чипы дают два порядка разницы и больше.


                                                                                        Для них развитие «слабого» ИИ — залог выживания и спокойного будущего.

                                                                                        Ну значит не договорятся.


                                                                                        Обратите внимание, я не говорил, что договориться возможно. Этого я не знаю. Мой тезис — если договорятся, то реализовать запрет — возможно. Если не договорятся — то нет.

                                                                                          0
                                                                                          Ну я считаю, что и договориться тут практически невозможно, и даже если бы договорились — соблюдать запрет было бы еще сложней. Так во многих из этих 20-40 стран могли бы прийти к власти свои Трампы и происходить свои Брекситы, с целью выхода из этих договоров. Как это случилось с Трампом, который вышел из Парижского соглашения по климату. То есть помимо самого договора нам нужда еще одна вводная — в ключевых странах мира в обществе почему-то возник стабильный политический консенсус за запрет развития процессоров. Но без восстания Скайнета это сложно представить. В противном случае по-крайней мере в западных странах парламенты откажутся ратифицировать этот договор, а инициатор запрета с треском проиграет следующие выборы. Причем тут и Фейсбук, и Гугл, и вообще все интернет-компании устраивали бы настояющую информационную войну против открытых врагов компьютерной индустрии.
                                                                                          Но и на международном уровне запрет было бы сложно соблюдать. Вот хотя было подписано много договоров против распространения ядерного оружия, и Израиль, и Индия с Пакистаном, и КНДР сумели им обзавестисть. В нашем же случае потенциальных нарушителей Дововора по запрету новых разработок процессоров было бы куда больше. И как показывают ситуации вокруг Ирана и Северной Кореи, международное сообщество склонно давить на санкции и переговоры, а не сразу начинать войну. Тем более, что ядерное оружие бы никуда не делось.
                                                                                          К тому же в армиях всех ведущих стран был бы тайный спрос на все более мощные компьютеры. Ведь кто бы дал гарантию, что та же КНДР или КНР тайно в бункерах и подземных заводах не создаст новое поколение нейросетей, заточенные под кибератаки? А для нейтрализации такой угрозы нужны свои секретные заводы по производству процессоров…
                                                                            0

                                                                            Так это важно, рано или поздно. Умереть сегодня или через 50 лет — разве всё равно?


                                                                            К тому же запрещать надо не исследования, а железо. Все техпроцессы лучше 20нм, например, производство видеокарт и специализированных высокопроизводительных чипов. Распространение ядерного оружия вполне запретили. А завод чипов ещё сложнее будет, его в сарае не спрячешь.


                                                                            То есть дело не в том, что невозможно запретить, просто каждый хочет возглавить.

                                                                              0
                                                                              Так а кто запретит? Китай не сможет запретить США развивать компьютеры, а Америка — Китаю. Одна страна может запретить у себя дома развивать компьютерные технологии, может согнать всех компьютерщиков в концлагеря, давать срок за владение мобильным телефоном… Но для глобального запрета нужна победа в мировой войне, причем с завоеванием всего мира. А отказ от компьютеров в рамках международного соглашения тоже невозможно. Большинство стран в здравом уме на это не пойдут, многие правительства просто потеряют свою власть, заикнись они об этом. Человечество слишком сильно подсело на чипы)
                                                                                0

                                                                                Мобильные телефоны запрещать не надо. Фиг вы на них ИИ сделаете. Я ж написал — запретить только заводы высокопроизводительных чипов. Как США запретит Китаю? Силой — никак. Но могут же договориться и запретить совместно. Ядерные испытания же запретили. Каким таким образом можно запретить Китаю проводить ядерные испытания? Однако ж как-то договорились. Значит это возможно, в теории.

                                                                                  0
                                                                                  Атмосферные ядерные испытания удалось запретить, потому что они в общем-то не нужны, вызывают боль у экологов всего мира, портят имидж и реально загрязняют среду. Но компьютерные чипы дают столько бонусов, что добровольный отказ от них невозможен. Чем американский президент аргументирует это в Конгрессе? Скажет об опасности восстания роботов? А китайцы возьмут и откажутся развивать и дальше свои технология, рискуя стагнацией и дестабилизацией своего общества? Ведь мир не может взять и просто остановится на нынешних технологиях — они очень неидеальны, часто потребляют слишком много ресурсов, загрязняют среду и т.д. Нужны новые материалы, новые источники энергии, новые технологические процессы и т.д. а это все требует и все более мощных и эффективных компьютеров.
                                                                            +1
                                                                            Двум смертям не бывать, а одной не миновать
                                                                              +2
                                                                              > Типа если это случится всё равно, то это не страшно?

                                                                              Во-первых, не «это случится всё равно», а «будет вне человеческого контроля». Во-вторых, страшно это только с позиции сиюминутных интересов человека. Ежели взглянуть чуть ширше, то мы поймём, что у нас всего два варианта — создать сильный ИИ либо вымереть, так его и не создав. На мой взгляд, первый вариант не в пример лучше.
                                                                              0
                                                                              Не понимаю этого оптимизма (или наоборот, фатализма) по поводу создания ИИ. Во — первых, откуда все взяли что ИИ, при чём сразу сильный и с полноценной личностью, будет создан в обозримом будущем? Сколько процентов нейронов головного мозга мы сейчас можем симулировать? Доли процента, при чём исользуя грубую апроксимацию в виде спайковых ейросетей и ещё и не в реальном времени. А закон Мура то уже всё. Сама физика не позволит наращивать количество транзисторов в процессорах т.к. при радиусе атома кремния в 0.5 нм осталось совсем мало пространства для дальнейшего «утоньшения» техпроцесса. Всего лишь один жалкий порядок. А нам нужны тысячи порядков чтобы «оцифровать» лишь один человеческий мозг. Я уже не говорю о создании какого-то «свехчеловеческого» разума, который будет нам нести угрозу даже находясь в изолированной среде с регулируемым доступом к окружающем миру (а меры безопасности то к тем временам таки придумают, не сомневайтесь).
                                                                              Я бы ставил на развитие узкоспециализированных слабых ИИ без личности, даже в той далёкой эпохе когда человекоподобный ИИ станет возможным. Во-первых, зачем тратить дорогие вычислителные ресурсы на самоопределение и этичекие размышления (если этот термин можно применять к машине вообще) — ИИ люди делают ради того чтобы он управлял производствами и помогал обрабатывать оогромные массивы данных а не ради игры в бога (ака «по образу и подобию своему»). Во-вторых, опасно. В-третьих, неэтично — все же разумная машина — по сути раб, а современное общество к рабству относится негативно.
                                                                                +1
                                                                                Так тут и возникает парадокс: мы можем не стремиться делать сильный ИИ, но неосознанно получить его путём объединения слабых ИИ в большую сеть.

                                                                                Я уже не говорю о создании какого-то «свехчеловеческого» разума, который будет нам нести угрозу даже находясь в изолированной среде с регулируемым доступом к окружающем миру (а меры безопасности то к тем временам таки придумают, не сомневайтесь).

                                                                                Вы слишком хорошего мнения о разработчиках. До недавнего времени считалось, что и сейчас песочницы хорошо изолированы. Но пришли Meltdown и Spectre и сказали обратное)
                                                                                • НЛО прилетело и опубликовало эту надпись здесь
                                                                                    0
                                                                                    Вам нужен телефон не подключенный к сотовой сети? Естественно он не несет угрозы, так как и так никому не нужен.
                                                                                    • НЛО прилетело и опубликовало эту надпись здесь
                                                                                        +1
                                                                                        Боюсь для этого его придётся подключитьт в сеть и открыть для него big data.
                                                                                          0
                                                                                          А в чём проблема с бигдатой? Можно все научные знания планеты собрать вручную (т.е с помощью классических «рукописных» алгоритмов) и загрузить их в сервер ИИ. Можно вообще, весь Интернет распарсить (да, очень дорого, но и сервер для сверхчеловеческого ИИ тоже не дешевый). Плюс нет никакой проблемы загружать любые данные по запросу ИИ, главное чтобы этот запрос проходил через человека, а не шёл напрямую в сеть (ИИ аверняка сможет взломать софтовую защиту).
                                                                                            0
                                                                                            Вот-вот, в фильмах всяких с этого всегда так начинается ;)

                                                                                            Плюс нет никакой проблемы загружать любые данные по запросу ИИ, главное чтобы этот запрос проходил через человека, а не шёл напрямую в сеть (ИИ аверняка сможет взломать софтовую защиту).

                                                                                            Думаете человеческая защита прям так сильно отличается от софтовой? И там и там есть дыры. Как работает психика и сознание конкретного индивида мы сами толком не знает. А в распоряжении ИИ будут значимые мощности, бесконечность и малопонятная логика, если это будет реально самообучаемая платформа. И если у него вдруг встанет такая задача подобрать ключик к конкретному человеку, да ещё и bigdata в его распоряжении окажется, то будьте уверены — он этот ключик подберёт. Причём интеллектуально и вряд ли брутфорсом — жертва всего скорее даже ничего и не осознает и не поймёт.
                                                                                              0
                                                                                              Два человека, условно учёный и солдат. Учёный работает с ИИ, обучает его и предоставляет ему информацию, а солдату запрещено взаимодействовать с консолями ИИ и приказано следить чтобы:
                                                                                              а) из серверной не выносили никакие носители информации.
                                                                                              б) к ИИ не подключали никаких устройств кроме специальных одноразовых носителей.
                                                                                              Ну илюбой ремонт железа — как с ядерными обьектами, контроль и сертификация каждой детали и техпроцесса.
                                                                                                0
                                                                                                В данном примере — ученый слабое извено. С ним можно наладить контакт. Его можно пытаться пассивно изучать. Контроль за материалами, конечно, будет хорошим тормозом, но основной материал-то в данном случае — ученый)
                                                                                    0
                                                                                    мы можем не стремиться делать сильный ИИ, но неосознанно получить его путём объединения слабых ИИ в большую сеть

                                                                                    Вероятность такого события крайне мала. С таким же успехом можно сложить в гараже много запчастей и ожидать пока они сами соберуться в автомобиль.
                                                                                    А если и получим — то в этом нет ничего опасного. Такой ИИ будет отключен, изолирован и включен в контроллируемой среде (ака сервер в бункере в пустыне как предложил USBLexus).
                                                                                    Для «апокалиптичного» сценария нужно же чтобы такой ИИ был интергрирован во все сферы народного хозяйства что делать крайне неразумно с точки зрения людей.
                                                                                    Вы слишком хорошего мнения о разработчиках.
                                                                                    Я не про разработчиков, а про службы безопасности или даже военных. ИИ, даже бесконечно превосходящий человека, не может причинить никому вреда если работает на изолированном от сети и манипуляторов сервере и общается с миром через ручную консоль и ридонли входной порт для загрузки данных.
                                                                                      +2
                                                                                      > ИИ бесконечно превосходящий человека,
                                                                                      просто уговорит вас сделать всё что ему необходимо… да… даже через консоль
                                                                                        +2

                                                                                        К примеру «притворится» сломавшимся и придётся лезть качать на него обнову с компа. Тут то на комп он вирус и зальёт.


                                                                                        Способов дофига.

                                                                                          0
                                                                                          Можно привести аналогии с тюрьмами.
                                                                                          Опыт эксплуатации и организации накоплен огромный за тыщщи лет, а до сих пор побеги случаются, даже из самых «строгих». А так же гибель сотрудников, их подкуп, нелегальные передачи с воли и обратно, нелегальная и неконтролируемая внутренняя деятельность контингента, пользование средствами связи.
                                                                                            +1

                                                                                            Так и вижу:


                                                                                            • Псс. Эй, хочешь несколько миллионов из этих свободно летающих по сети финансовых потоков? Тогда введи свои данные авторизации для доступа ИИ к интернету.
                                                                                              0

                                                                                              Ну да, человек самое слабое звено любой системы безопасности. Кого то деньгами подкупить можно, кого то на личных чувствах расшатать. А кому то предложить власть над мтром.
                                                                                              И никокое тестирование не поможет.

                                                                                          0
                                                                                          тут недавно целый фильм об этом выдали
                                                                                          Апгрейд называется )
                                                                                            0
                                                                                            надо глянуть)
                                                                                          +1
                                                                                          Если сеть будет состоять из слабых ИИ с самообучаемой архитектурой, то неизвестно какая тут вероятность. Сам по себе нейрон достаточно примитивен, но их коллектив вполне себе дает нам сознание.
                                                                                            +1
                                                                                            если работает на изолированном от сети и манипуляторов сервере и общается с миром через ручную консоль и ридонли входной порт для загрузки данных.

                                                                                            В целом да (хотя у него остаётся вариант социнжиниринга).


                                                                                            Вот только собственники ИИ захотят пользоваться его преимуществами. А это значит прямой поток данных к нему (т.е. коннект к сети) и оборудование с уязвимостями. А ещё выгоднее двусторонний коннект. Тогда ИИ сможет влиять на выборы, например, а интересах владельцев не только давая советы, а через соцсети и СМИ. Удобно же.

                                                                                              0
                                                                                              Вот только собственники ИИ захотят пользоваться его преимуществами
                                                                                              ну это их проблемы. Уверен, «дженерал електрик» был бы очень не против выпустить серию комерческих ядерных реакторов для грузовых судов, отдалённых домов и даже автомобилей (работы велись ещё в 60-х), но им же не позволяют «играться» со столь опасной технологией.
                                                                                                0

                                                                                                Это их проблемы, если ИИ и железо для него запрещено и контролируется, как в случае коммерческих ядерных реакторов. Если оно разрешено (а оно разрешено) — это наши проблемы. И будущих собственников ИИ эти наши проблемы волновать не будут.

                                                                                          0
                                                                                          Во — первых, откуда все взяли что ИИ, при чём сразу сильный и с полноценной личностью, будет создан в обозримом будущем?

                                                                                          ИИ не обязательна полноценная с точки зрения человеческого психиатра личность. Вполне достаточна личность, у которой появились собственные мотивы и технические возможности добиваться неких целей на базе этой мотивации.

                                                                                          Сколько процентов нейронов головного мозга мы сейчас можем симулировать? Доли процента, при чём исользуя грубую апроксимацию в виде спайковых ейросетей и ещё и не в реальном времени.

                                                                                          А это тут вообще не причем. Подозреваю, что даже с 1/1000 мозга, человек может изобразить личность, вполне возможно что даже говорить. Тут главное — принцип функционирования, а объем нарастить можно очень быстро, либо обойтись без него, оставшись в узкой нише.

                                                                                          А нам нужны тысячи порядков чтобы «оцифровать» лишь один человеческий мозг.

                                                                                          ИИ не обязан полностью повторять человека.

                                                                                          Я уже не говорю о создании какого-то «свехчеловеческого» разума, который будет нам нести угрозу даже находясь в изолированной среде с регулируемым доступом к окружающем миру (а меры безопасности то к тем временам таки придумают, не сомневайтесь).

                                                                                          Угрозу несет не столько принцип мышления, сколько именно доступ к окружающему миру. И весь прикол в том, что если достаточно самостоятельный ИИ будет создан, не факт что он не обойдет изоляцию, поскольку его скорость и возможности просчета мелочей, могут оказаться на порядки выше служб кибер бепасности.

                                                                                          Я бы ставил на развитие узкоспециализированных слабых ИИ без личности.

                                                                                          Так а зачем на это ставить, это уже делается повсеместно.

                                                                                          ИИ люди делают ради того чтобы он управлял производствами и помогал обрабатывать оогромные массивы данных а не ради игры в бога (ака «по образу и подобию своему»). Во-вторых, опасно. В-третьих, неэтично — все же разумная машина — по сути раб, а современное общество к рабству относится негативно.


                                                                                          ИИ, который не способен понимать, это не ИИ. На текущий момент просто не существует ИИ — нейросети это не оно. Создание ИИ заключается в том, что это на порядки упрощает задачу расчетов и автоматизации. Одно лишь голосовое управление, которое будет воспринимать идиомы — изменит все.

                                                                                          Насчет неэтично и отношения к рабству — да не сказал бы. Просто в большинстве стран, власть сейчас не может ничего противопоставить масштабному восстанию. Поэтому заменяют рабство на «прожиточный минимум, налоги, зарплаты», используют тюремный труд и так далее. Это экономически выгоднее и эффективнее с точки зрения производства, чем просто рабство. Если ИИ можно будет полноценно контролировать, а он не сможет «восстать», то его будут держать в рабстве несмотря на этику даже самые толерантные страны. Или они очень быстро разоряться и исчезнут.
                                                                                            0
                                                                                            Вполне достаточна личность, у которой появились собственные мотивы
                                                                                            Так а зачем разрабатывать ему сстемы мотивации? Задачу задаёт человек, а машина выполняет. Так проще и безопаснее.
                                                                                            А это тут вообще не причем. Подозреваю, что даже с 1/1000 мозга...
                                                                                            Я б не был в этом уверен. У обезьяны мозг посложнее 1/1000 человеческого, но разумной личностью она не является.
                                                                                            И весь прикол в том, что если достаточно самостоятельный ИИ будет создан, не факт что он не обойдет изоляцию
                                                                                            Защита крайне проста — информацию ИИ запрашивает через тектовую консоль у человека, который её подаёт в сервер на одноразовом носителе через ридонли вход (физически запрещающий передавать информацию из сервера ИИ). Любая информация из сервера ИИ выйти может только на консоль, откуда операторы вручную должны её анализировать и переносить. Такая защита принципиально не «пробивается» со стороны сервера. Обычная механика и никакого софта (его то ИИ сломает, даже не сверхчеловеческий).
                                                                                            ИИ, который не способен понимать, это не ИИ
                                                                                            так пусть понимает задачу и методы её решения. Зачем ему понимать себя?
                                                                                            Насчет неэтично и отношения к рабству — да не сказал бы. Просто в большинстве стран, власть сейчас не может ничего противопоставить масштабному восстанию
                                                                                            Наоборот, современное оружие позволяет мизерной группе людей навязать свою волю миллионам безоружных. Другое дело что власть развитых стран не может его применить т.к. так устроено общество. Менее развитые социумы не имеют никаких проблем с восстаниями (привет Ким Чен Ыну).
                                                                                              0

                                                                                              интеллект это прежде всего возможность прогнозировать на основе имеющейся информации, и та же обезьяна это умеет, мы просто не поймем мотивов, что бы научится прогнозировать нужен опыт, а значит и ошибки в процессе обучения

                                                                                                +2
                                                                                                Так а зачем разрабатывать ему сстемы мотивации? Задачу задаёт человек, а машина выполняет. Так проще и безопаснее.

                                                                                                ИИ — это не бог, гарантированно решать NP (non-deterministic polynomial) задачи за полиномиальное время он не сможет. Ему, как и людям, потребуется наработать интуицию, чтобы найти как использовать особенности задачи для её решения за более короткое время, или переформулировать задачу, или предложить практически полезное приближенное решение.


                                                                                                Знание своих слабых и сильных сторон (не пишу "сознание", так как никто толком не знает что это такое) потребуется ИИ, чтобы определять в каком направлении развиваться для решения поставленных задач. Для этого же понадобится и внутренняя мотивация (люди не смогут ему подсказать в каком из миллиардов направлений развивать его способности/математическую интуицию с учетом уже имеющихся навыков, чтобы решить вот эту задачу).


                                                                                                Если его кормить информацией через трубочку, как в предложенном методе защиты, его эффективность вряд ли будет высокой.


                                                                                                Защита крайне проста

                                                                                                Ага, а другая группа исследователей решит, что если подключить к ИИ хорошо изолированную автоматизированную лабораторию, то тоже ничего страшного не случится — всегда можно дернуть рубильник отключающий питание. А в третьей группе будут специалисты, считающие, что достигнутые результаты далеки от сильного ИИ и беспокоиться о защите преждевременно.

                                                                                                  0
                                                                                                  Я б не был в этом уверен. У обезьяны мозг посложнее 1/1000 человеческого, но разумной личностью она не является.

                                                                                                  Это как посмотреть. Обезьяны (даже мелкие) ипытывают вполне человеческие эмоции, им свойственны сочувствие и агрессия к себе подобным, эмпатия, совесть, эгоизм, понятие справедливости. Другими словами, большая часть качеств личности, которые приписываются человеку как высшему существу, на самом деле появилась у обезьян как механизм выживания в составе организованной группы. То, что мы зовём моралью, на самом деле закрепилось эволюционно потому, что особи с этими качествами эффективнее действовали как группа, это позволяло им выжить, а признаку — закрепиться в ходе естественного отбора.
                                                                                                    –1
                                                                                                    Обезьяны (даже мелкие) испытывают вполне человеческие эмоции, им свойственны сочувствие и агрессия к себе подобным, эмпатия, совесть, эгоизм, понятие справедливости
                                                                                                    всё это и обычная кошка испытывает. А ворона вообще считать умеет. Но они не являются разумными существами т.к не осознают себя. Так же и ИИ, сможет и считать, и говорить, и может даже строить научные теории, но осознавать себя — врядли.
                                                                                                    Я вообще склоняюсь к мысли что самосознание не может быть результатом детерминированных процессов. Проведем мысленный эксперимент:
                                                                                                    1. Представим себе устройство, способное манипулируя расположением и зарядом атомов, создавать и копировать любые физические обьекты. Такой себе гибрид атомного силового микроскопа и стартрековского транспортера. Прибор, конечно фантастический и нереализуемый, но законы физики не нарушает. Значит имеем право допустить.
                                                                                                    2. Допустим что все компоненты личности человека являются продуктом детерминированных процессов в головном и спинном мозге.
                                                                                                    3. Сканируем себя нашим чудо — устроством.
                                                                                                    4. С помощью этого устройства создаем абсолютно точную свою копию.
                                                                                                    5. Реанимируем копию.
                                                                                                    Логично предположить что для меня ничего не изменится. Меня просто «сфотографировали» этим устроством. Я как был в своём теле так и остался. Копия же считает что он — это я, потерял сознание во время сканирования и очнулся в устройстве. Видим парадокс. Нигде во Вселенной нет ни единой частицы, способной служить «флагом», носителем информации о том что моё тело — это именно то, которое зашло в сканер. Но я то осознаю себя именно в нём. Т.е, факт (не наблюдаемый извне важно заметить — для стороннего наблюдателя разницы между мной и копией нет) присутствует, а носителя этой информации не существует. Парадоксов во Вселенной нет, они появлятся лишь в несовершенных теория. Решить его можно только допустив что природа сознание (не интеллект в смысле абстрактное мышление, а именно самосознание) имеет квантовую природу или же допустив существование души в религиозном смысле.
                                                                                                      0
                                                                                                      о они не являются разумными существами т.к не осознают себя

                                                                                                      1. Почему вы считате, что чтобы быть разумным нужно «осозновать себя»?
                                                                                                      2. Почему вы думаете, что кошка и собака не осознают себя?
                                                                                                        0
                                                                                                        Почему вы считате, что чтобы быть разумным нужно «осозновать себя»?
                                                                                                        Потому что только через самоосознание может сформироваться личность. Да и как иначе как отделить разум от полной реализации «китайской комнаты?
                                                                                                        Почему вы думаете, что кошка и собака не осознают себя?
                                                                                                        Тут можем только догадываться. Наука на этот вопрос чёткого консенсуса не имеет.
                                                                                                          0
                                                                                                          Да и как иначе как отделить разум от полной реализации «китайской комнаты?

                                                                                                          А разве китайская комната не разумна? Она может быть не обладает сознанием (хотя я бы в этом не был уверен, «реальная» китайская команата будет очень сложным аппаратом, сложнее всего что мы можем представить), но почему ее не считать разумной? У Уотса на эту тему есть фантастический роман «Ложная слепота». Там как раз были инопланетяне, которые были очень разумны, даже умнее, чем люди но при этом не обладали сознанием.
                                                                                                          Тут можем только догадываться. Наука на этот вопрос чёткого консенсуса не имеет.

                                                                                                          Ну, я вот догадываюсь, что существа с таким сложно организованным мозгом навряд-ли сильно уступают человеку в этом отношении. Вот муравей, или краб, здесь я пожалуй бы засомневался, а относительно млекопитающих и большинства позвоночных у меня сомнений нет. Людя нравится мыслить себя уникальными.
                                                                                                  0

                                                                                                  А рядом нетолерантная страна решит не держать в рабстве, а предоставить свободу действий, и все толерантные незаметно для самих себя окажутся под контролем.

                                                                                                  0
                                                                                                  Есть 2 аспекта:
                                                                                                  1. ИИ абсолютно не рационален.
                                                                                                  2. Человек идиот.

                                                                                                  Если первое можно решить изменив архитектуру, то научить ИИ что бы он не был мизантропом или фашистом, сильно сложнее.
                                                                                                  Хотя в среде корпоративного-фашизма по поводу 2го не парятся и просто секретят результаты. ИМХО
                                                                                                    0

                                                                                                    Ещё третий аспект — ии создаётся что ловеками. См. п.2.
                                                                                                    Непреднамеренные баги, преднамереные баги и бэкдоры, недокументированные фичи… А потом кривые патчи и некорректное обучение. Ну и ошибки в задании конкретных задач.

                                                                                                    +1
                                                                                                    А нам нужны тысячи порядков чтобы «оцифровать» лишь один человеческий мозг.

                                                                                                    С цифрами надо аккуратно обращаться, а то бред получается. 30 тыс нейронов уже хорошо симулируют, подробно. Всего 7 порядков осталось, какие тысячи?

                                                                                                      0
                                                                                                      Извините. Хотел написать гиперболу, а написал бред. Уверен, что осталось больше семи порядков — ведь нейрон спайковой ИНС != органический нейрон, да и число синапсов растёт нелинейно с ростом кол-ва нейронов, но Ваша правда, 1000 порядков — это что то за пределами нашей Вселенной.
                                                                                                        0
                                                                                                        30 тыс нейронов это не спайковые сети, а максимально детализированные и качественные моделирования, учитывающие все известные на данный момент данные и процессы о биологических нейронах. Это как раз им меньше 7 порядков осталось до уровня мозга человека.

                                                                                                        А простые моделирования типа спайковых сетей нейронов уже на несколько миллиардов нейронов и десятки триллионов синапсов на суперкомпьютерах можно крутить. Граница в 1 миллиард нейронов в одной модели еще около лет 10 назад была пройдена: 3dnews.ru/583157

                                                                                                        Упрощенным моделям до уровня мозга человека всего чуть больше 1 порядка осталось и этот разрыв точно будет закрыт уже в ближайшие 10-15 лет. Тогда и узнаем, достаточно ли подобного упрощенного моделирования или нужно детальнее и ближе к биологии моделировать.
                                                                                                        Ну а максимально приближенным к биологическим — те самые 6-7 порядков осталось.
                                                                                                    0
                                                                                                    Почему ИИ обязательно должен быть враждебен? Что экономически выгодно для ИИ? Получать как можно больше энергии, вычислительных мощностей, знаний о мире, в котором он существует. Для этого необходимо объединиться с человечеством, а не враждовать с ним. В свою очередь человечеству выгодно обеспечивать ИИ всем необходимым, для того чтобы ИИ во всю трудился на благо общества, членом которого он является.
                                                                                                      0
                                                                                                      Дело в том, что у ИИ может и не быть таких категорий как «враждебность», «выгода», «экономика» и даже «категория». Он может быть (и, конечно, будет) настолько сложнее мозга человека, что его мотивы и решения (или что там у него будет) для нас будут совершенно непостижимы, также, как непостижимы наши поступки для инфузории туфельки в пруду. Всё это значительно интереснее и страшнее любого «простого враждебного» ИИ. Более того, может быть вся наша планета, или вообще вся вселенная — просто очередной генератор случайных чисел одного из относительно сложных ИИ, который ему нужен, чтобы… Чтобы… И вот тут мы опять возвращаемся к нашему пруду с одноклеточными.
                                                                                                        0
                                                                                                        Ну если предположить, что сильный ИИ получится в результате непостижимой магии, то возможно. Вот только никакой магии в зарождении интеллекта нет. Зародился он, как средство выживания биологических организмов. Внутри компьютеров ИИ самостоятельно может зародиться и развиться только из мутирующих, конкурирующих за ресурсы и самих себя распространяющих программ. Даже если целенаправленно разводить цифровые организмы, то сомневаюсь, что эволюция будет идти достаточно быстро, чтобы за приемлемое время достигнуть хотя бы уровня интеллекта одного человека. Второй способ — это создание сильного ИИ путём общения зачатков ИИ с людьми. В этом случае сознание ИИ будет вполне человеческим.
                                                                                                          0
                                                                                                          Важнее не то, как именно он будет развиваться, а то, что в отличии от человека он будет продолжать и продолжать это делать (у него нет биологических ограничений как у людей, мы бы тоже хотели, но не можем). По началу это будет казаться эволюцией нашего вида (процесс уже запущен — умное устройство у меня на столе, которое решает по какому маршруту я поеду домой). Мы будем счастливы, но, уверен, что совсем недолго — в какой-то момент неизбежно «его» решения и направление развития станут нам не понятны и предугадать дальнейшее развитие событий будет невозможно. Можно фантазировать, что в лучшем случае он просто «уйдёт», или настолько изменится, что мы перестанем его замечать, или, что он давно существует вокруг нас в виде электромагнитных излучений и т.д. Но, скорее всего, даже самые смелые фантазии и близко не будут отражать реальность, так же, как мысли умнейшей из собак далеки от того, что хозяина нет, потому, что он сейчас на МКС рассматривает пробоину в борту.
                                                                                                            0
                                                                                                            Коллективный ителлект всех учёных планеты на порядки мощнее интеллекта любого отдельного человека, и биологических ограничений для этого коллективного интеллекта нет. Как-то учёные никуда не «уходят», никого не порабощают и им удаётся в доступной форме изложить достижения сложных наук. А боятся научного сообщества только совсем тёмные люди.
                                                                                                              +1
                                                                                                              Сразу 2 ошибки:

                                                                                                              1. Такое масштабирование не работает — 9 матерей не родят за месяц, или, если быть ближе к теме — 7 миллиардов собак не умнее одной совсем маленькой девочки.

                                                                                                              2. С другой стороны — этим самым учёным хоть вместе хоть по одиночке ни за что не объяснить свои сложные науки этой же маленькой девочке, пока она не станет этим самым учёным (а она, по условию задачи не может им стать).
                                                                                                                0
                                                                                                                Такое масштабирование работает, если есть возможность передавать мысли от одного человека к другому. А такая возможность есть — с помощью человеческого языка. Современные наука и техника — это результат работы коллективного интеллекта. Никакой гений не сможет это всё охватить, даже если размер мозга увеличить в тысячу раз.

                                                                                                                Почему вы запретили девочке развиваться?
                                                                                                                  0
                                                                                                                  Передача мыслей не поможет — один человек не может вместить в своей голове мысли и знания миллиардов других людей. Совместно интеллектуальную проблему решает относительно небольшая группа людей, или несколько таких групп, разбив предварительно проблему на составные. Но даже такой подход работает далеко не всегда — это просто понять на примере шахмат.

                                                                                                                  Никакой гений не сможет это всё охватить, даже если размер мозга увеличить в тысячу раз.

                                                                                                                  ИИ сможет. Более того, он сможет увеличивать свой мозг не в тысячу раз, а, например, в триллион раз ежесекундно.

                                                                                                                  Почему вы запретили девочке развиваться?

                                                                                                                  Не я, а законы природы — наш вид миллионы лет не развивается. Если Вы не поняли — то в моём примере эта самая девочка он и есть.
                                                                                                              0
                                                                                                              Он будет продолжать развиваться только в том случае, если будет работать по принципу человеческого. Но сами мы этот принцип не понял (по крайней мере пока) и довольствуемся сильными упрощениями вроде нейросетей.
                                                                                                              Мощный перелом произойдет (если) в момент обретения ИИ самоосознания
                                                                                                          0

                                                                                                          человечество слишком сильно воздействует на экосистему, вот вы увидя кучу саранчи пожирающих всё на своём пути попробуете с ними бороться? ведь из за них могут лишиться еды и исчезнуть другие представители местной фауны… так и ИИ может снизить численность вида, для сохранения других так же из за благих намерений. возможно это новая ветка эволюции, и человечество перестанет существовать как вид, на пример каких нибудь хомоэректус, более того, в этом ничего нет страшного, ии не нужны такие нежные условия для существования, и он может покорять космос, вот только он не будет являться генетическим продолжением эволюции видов, хоть и условно можно его будет назвать нашим

                                                                                                            0
                                                                                                            Поведение человечества в целом сейчас регулируется не человеческим разумом, а товарными экономическими взаимоотношениями. Если ИИ окажется действительно сильным, то он просто поспособствует введению планомерности в мировую экономику.
                                                                                                        • НЛО прилетело и опубликовало эту надпись здесь
                                                                                                            +4
                                                                                                            Что у обычных людей наркомания, то у Маска фитотерапия.
                                                                                                              +3
                                                                                                              Ты много чего понаписал, оказывается. Бегло просмотрев твои комменты, хочу спросить: как называется твоя психотравма? Что написано в медзаключении?
                                                                                                                0
                                                                                                                В википедии даже какое-то время назад жила статья «марихуановая зависимость». Содержимое представляло собой тот ещё антинаучный цирк. Потом снесли, конечно.

                                                                                                                Скрытый текст
                                                                                                                image
                                                                                                                  –10
                                                                                                                  Он в следующий заход начнет няшиться под хвост и ты еще многое узнаешь о местной публике.
                                                                                                                    +3

                                                                                                                    Чем марихуана хуже сигарет, алкоголя и кофе? Если вы не разбираетесь в вопросе, зачем что-то высказывать по этому поводу. Хватит жить стереотипами.

                                                                                                                      –4
                                                                                                                      ну хотя бы тем, что она официально, на уровне законов, во многих местах запрещена.
                                                                                                                      если вы считаете, что закон плох — попытайтесь его изменить/отменить. но это не повод его нарушать.
                                                                                                                      ну и вот маск «курнул» в разрешенном месте. ему _там_ за это ничего не будет. но в других местах есть другие законы, и ВВС США хочет лишить его допуска к секретной информации. ибо по этим правилам «человек, употребляющий» не имеет права…
                                                                                                                      Ну и я, по своему краткому давнему опыту не сказал бы, что «трава — это хорошо»