Киборги против ИИ: как подготовиться к наступлению сингулярности

    Немного о двойных стандартах: когда Сергей Стиллавин требует от учёных остановить запуск Большого адронного коллайдера, потому что слышал, что существует риск возникновения чёрной дыры, над ним все смеются. Когда Стивен Хокинг предупреждает, что искусственный интеллект может поработить человечество — все напрягаются. Результат, впрочем, в обоих случаях одинаковый — БАК запускается, нейронные сети развиваются наперегонки с квантовыми компьютерами. Вы можете меня упрекнуть в том, что сравнивать суеверный ужас средней руки радиоведущего с осторожным предупреждением мирового учёного не совсем корректно — но в обоих случаях это как минимум повод задуматься, что нам прогресс готовит.



    Можно понять, почему предупреждение Хокинга не оказало существенного воздействия на заинтересованных в разработке АИ. Дело не только в обычной инерции процессов — когда цели намечены, планы составлены и бюджеты выделены, нужно что-то большее, чем глас обеспокоенной общественности, чтобы остановить разгоняющийся состав. На стороне исследователей и программистов здравый смысл и весь человеческий опыт: предсказания алармистов ещё ни разу не сбылись, а страхи луддитов сделали их в исторической перспективе посмешищем. Города Европы не были покрыты конским навозом, паровозный дым не убил посевы и не отравил лошадей, трудовые мигранты не уничтожили ещё ни одну экономику, 7 миллиардов человек не умерли с голоду и даже не погрязли в грязи и тотальной войне за ресурсы, ядерное оружие не привело к апокалипсису, 2000 год не уничтожил компьютерные системы, а БАК не привёл к созданию чёрной дыры.

    Нас продолжают пугать: ГМО заразят всех раком, качественная медицина приведёт к вырождению человечество, однополые браки тоже приведут к вырождению человечества, а искусственный интеллект поработит всех, кто переживёт ГМО, качественную медицину и однополые браки. Впрочем, нарисованная алармистами картина настолько безрадостна, что не исключаю, что ИИ при таких исходных данных просто откажется нас порабощать — мол, ну вас вообще. Это если алармисты правы. А алармисты всегда ошибаются.

    Люди могут до конца не понимать, как именно происходят те или иные процессы, даже если непосредственно к ним причастным — но понимают закономерности: самолёты летают и крыльями не машут, а прогресс делает жизнь людей лучше. И чем быстрее разгоняется прогресс, тем быстрее растёт качество жизни.

    Главным образом потому, что всегда видят одну сторону вещей, недооценивая тот факт, что любое движение приводит к последствиям не только напрямую, но и от обратного, охлаждая пыл любителей экстраполяции.



    Допустим, более или менее очевидно, что, выйдя замуж, невеста на какое-то время успокаивается — наличие одного мужа отменяет потребность в новых. По крайней мере, в один и тот же момент времени. Система сама себя уравновесила. Менее очевидный, но тем не менее широко признанный факт — повышение уровня жизни не ведёт к бесконечному размножению. Всплеск прироста населения наблюдается на сравнительно коротком историческом промежутке — 2-3 десятилетия, жизнь одного поколения, после чего увеличившаяся продолжительность жизни и падение смертности уравновешиваются падением рождаемости. Проще говоря, оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда». Как та невеста, люди понимают, что им не нужно много детей, если они уверены в выживании уже имеющегося.

    Оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда».

    Свойством любой системы является стремление к равновесию. Без этого система не может быть системой. Какие бы сюрпризы не преподносил прогресс, на том или ином уровне баланс и гармония всегда восстанавливаются — на уровне человека, общества, цивилизации или человечества Целиком. Впрочем, для любой системы есть вызов, может быть погашен только уровнем выше. Допустим, считается, что глобальное потепление — процесс, который не может быть уравновешен самим человечеством, и поэтому нас ждёт балансировка на планетарном уровне — скажем, таяние арктических льдов и затопление промышленных районов и мегаполисов, которые как раз обычно расположены в низовых прибрежных районах — как удобно, да? — сильно умерит пыл и возможности человечества подогревать наш шарик в дальнейшем. Бац, и баланс вновь восстановлен.

    Многие считают, что климатические циклы вообще от человеческой деятельности не зависят, а проблема выхлопов уладится на цивилизационном уровне, не вызывая вмешательства планетарных сил. Так это или нет — вопрос спорный, но принцип, думаю, понятен. Прогресс теоретически может порождать вызовы, которые не получится уравновесить на цивилизационном уровне, сохраняя движение человечества к лучшему. Матушку-Землю лучше не будить, если не хотим разделить участь динозавров. Кстати, тот же Хокинг считает, что глобальная техногенная катастрофа в ближайшие тысячу или десять тысяч лет неизбежна — так что надо поскорее обустраивать жилплощадь за пределами родной планеты. Кто бы спорил, мы все за. Но это всё-таки относительно далёкая перспектива.

    Возвращаясь же к теме статьи, чтобы понять, грозит ли нам порабощение искусственным интеллектом, нужно понять, относится ли ИИ к вызовам, которые будут уравновешены цивилизацией или всё-таки он будет уравновешен за счёт цивилизации?



    Шанс объехать сингулярность на кривой козе


    Но до наступления сингулярности человечество наверняка даст бой любым шансам ИИ окончательно его спасти или уничтожить. Хокинг заметил, что человечество пытается себя улучшить генетически — но недостаточно быстро. Однако это не единственный способ эволюции. Помимо эволюции биологической, которая рано или поздно — скорее рано — станет управляемой — есть эволюция и технологическая.
    Когда-то давно фантасты считали, что киборги могут положить конец человеческой расе. Но на практике киборгизация скорее всего станет следующим этапом развития человечества, чем-то, описываемым не словами «внедрение», «прорыв» или «следушая ступень», что по определению подразумевает некое усилие, насилие и надлом, а во что человечество скользнёт легко и радостно, как сейчас нырнуло в социальные сети. Более того, повальная айфонизация и социализация людей порождает спрос на киборгизацию, возможность стать киборгами ожидаема сильнее нового айфона.

    Окей, конечно, ни одна фокус-группа вам такого не скажет. Как в 2006 году она бы не сказала, что ей нужен айфон:
    Создавать продукт, опираясь на фокус-группы, по-настоящему трудно. Чаще всего люди не понимают, что им на самом деле нужно, пока сам им этого не покажешь.
    — Стив Джобс, BusinessWeek (25 May 1998)

    Однако сейчас искать новый айфон или даже новый интернет долго не надо: бутылочным горлышком всей IT-индустрии являются интерфейсы. Вычислительные мощности и возможности наших устройств, возможности софта обрабатывать наши запросы существенно превышают наши возможности им эти запросы сообщать. Обработка простейших массивов данных — например, собрать статистику по всем статьям на Хабре и ранжировать их по просмотрам — требуют навыков программирования, хотя понять, что нужно сделать, может даже ребёнок, а выполнить работу средний компьютер способен за считанные минуты. Но вот на этапе между «понять» и «выполнить» — треднопреодолимый барьер в виде необходимости наличия навыков программирования. Бутылочное горлышко, которое не даёт нам пользоваться возможностями, которые у нас есть. Популярная цитата упрекает в этом нас:



    Но доступ к знаниям не имеет особой ценности без умения ими пользоваться. Ещё до всяких ЭВМ математиков учили, что важно не помнить формулы — они все есть в справочниках — а уметь их применять. Сейчас же величайшие знания человечества основной массе человечества доступны в режиме read only — делать они с ними ничего, даже простейшую категоризацию и анализ — оно без специальных знаний не может.

    Изобретение способа коммуникации с машинами без посредства кода — или хотя бы его ручного ввода — может стать прорывом уровня создания интернета как такового. Человечество получит не просто неограниченный доступ к знаниям, а доступ к широчайшим возможностям этими знаниями оперировать и рождать новое знание. То, что сейчас называется big data и кормит ограниченное количество высокооплачиваемых специалистов, должно и станет доступно каждому — как когда-то массовое образование извело под корень профессию писца.

    Взрывной рост интеллектуальной мощи человечества станет неизбежен. Есть ещё одна популярная шутка — про то, что каждое кладбище набито непризнанными гениями. Я не считаю это шуткой. Множество гениальных идей, талантливых книг и полезных изобретений никогда не увидело света просто потому, что не все способны посвящать им свою жизнь или иногда просто не в состоянии их как следует сформулировать. Мотивационные статьи и книги полны примерами людей, которые потеряли руки и научились писать, кодить и играть музыку ногами. Или вспомним опять того же Хокинга.

    Но многие люди неспособны даже имея обе руки использовать свой потенциал целиком. И не стоить их в этом винить — глаза, руки, голос — это всё интерфейсы. Мощные, удобные, но неидеальные. В той или иной степени они ограничивают творческие возможности человеческого мозга. Есть множество примеров того, как эти возможности на самом деле гораздо шире, чем может показаться. Большая часть из них связана именно с технологическим прогрессом.



    Одна из алармистских страшилок, с ним связанных, была в том, что люди потеряют работу, когда всё за них станут делать машины. Однако же, как оказывается, с развитием технологий, новые виды работы появляются быстрее, чем угасают старые. И речь не только о сфере обслуживания, которую раньше было принято считать уделом будущих человеков — мол, пока машины нас кормят, одевают и лечат, людям останется только оказывать другим людям разные услуги.

    Реальной революцией, совершённой изобретением айфона стал не смартфон с сенсорным экраном, а открытая платформа для диструбуции приложений. Людям дали интерфейс — и сотни тысяч, если уже не миллионы, стали наполнять его своими идеями по тому, как его можно применять. Приложения — это serious business, потому что меняют не только нашу повседневность — они меняют сами принципы нашей жизни. Они уже сейчас могли бы заботиться о нашем здоровье и безопасности на уровне, который недоступен и богатейшим людям в мире, но всё вновь упирается в интерфейсы. Мы слишком отчуждены от наших устройств.

    Google Glass, голосовые помощники Siri, Cortana и Google Now и даже концепты необычных клавиатур octodon.mobi пытаются решить эту проблему. Но это всё надстройки на надстройки — наши руки, глаза и голос со всеми их ограничениями. Реальное и очевидное решение на поверхности: нужно подбираться ближе к мозгу.



    Человечество созрело для киборгизации, оно жаждёт киборгизации, ему нужна киборгизация и оно скользнёт в это состояние так же естественно, как сейчас залезает в свой смартфон, чтобы проверить почту или новые лайки во Вконтакте.

    Самое прекрасное, что люди даже не поймут, как стали киборгами — они просто купят очередной Apple iMind или Google Thoughts, каким бы образом они не выглядели и не соединялись с нашей нервной системой — как очередной гаджет, глубже затягивающий нас во всемирную паутину. В конце концов, 90% возможностей умных часов — сообщать нам об уведомлениях из соцсетей, почты и мессенджеров — и только потом считать время, шаги и пульс. Под этим соусом люди примут любой мозговой интерфейс — лишь бы он был упакован в коробочке покрасивее.

    Ещё одна прелесть киборгизации в том, что она снимет нарастающее неравенство поколений, которое в перспективе могло бы быть пострашнее социального неравенства — если подумать, все эти «бабушкофоны» для старшего поколения — это же просто унизительно. А теперь представьте себя через 30 лет перед лицом будущих 10-летних — уже готовы к «дедушкопэдам»? А ведь проблема не в разнице интеллекта (хотя интеллектуальная акселерация тоже существует), а в потребности обучения новым, постоянно меняющимся интерфейсам взаимодействия с вычислительными машинами. Призывы обучать программированию детей снимают только часть проблемы — те, кто уже научился чему-то ранее будут всегда в положении догоняющих относительно тех, кто учит самое новое и актуальное из состояния tabula rasa.

    Это похоже на изучение иностранных языков — мы все знаем, что их надо учить, и учим, по мере возможностей, один за другим — иногда забывая, что смысл-то не в знании новых языков как таковых, а в общении и обмене знаниями, мыслями, чувствами и идеями с людьми другой культуры. С этой точки зрения язык оказывается не средством коммуникации, а ещё одним барьером, очередным интерфейсом, который ограничивает возможности человека и человечества, и задачей прогресса является не научиться скакать через этот барьер как образцовая скаковая лошадь, а элиминировать его целиком. Свести на ноль его значение в коммуникации.

    То же самое должны сделать нейроинтерфейсы для человека и машины. И сделать быстро — возвращаясь к теме войны человека и машин, точнее, будущего человека в реальности существующего и действующего ИИ — возможно, лучшей гарантией того, что мы никогда не проиграем эволюционную гонку машинам будет самим стать машинами. Или хотя бы научиться говорить с ними на одном языке.
    Поделиться публикацией
    Комментарии 105
      0
      «7 миллиардов человек не умерли с голоду и даже не погрязли в грязи и войне за ресурсы» а ради чего тогда ведутся войны?
        +1
        Нынешние конфликты всё таки не чета великим войнам прошлых столетий, когда театр боевых действий охватывал большую часть континента, а счёт жертв шёл на миллионы.
          0
          А сейчас разве не идёт?
          Вот эта вот, например: https://ru.wikipedia.org/wiki/%D0%92%D1%82%D0%BE%D1%80%D0%B0%D1%8F_%D0%BA%D0%BE%D0%BD%D0%B3%D0%BE%D0%BB%D0%B5%D0%B7%D1%81%D0%BA%D0%B0%D1%8F_%D0%B2%D0%BE%D0%B9%D0%BD%D0%B0
            +1
            Большая, но локальная резня в стране третьего мира всё-таки не идёт ни в какое сравнение с мальтузианскими кошмарами о том, что прирост населения обгонит прирост производства еды для него. Т.е. по его версии весь мир должен был уже мучаться от голода. Или потонуть в отходах производства и т.д. Нынешнее же состояние промышленности и с/х вполне позволяет одеть, прокормить и укрыть и 7, и больше миллиардов человек.
              +1
              Я отвечал на вполне конкретный комментарий: «Нынешние конфликты всё таки не чета великим войнам прошлых столетий, когда театр боевых действий охватывал большую часть континента, а счёт жертв шёл на миллионы».
              Миллионы жертв есть? — есть.
              Театр боевых действимй охватывает большую часть континента? -этого нет.
              Однако, то, что войны стали более локализованными не означает, что воевать стали меньше.
                0
                Воевать правда стали меньше. И войны переместились на периферию. В прошлом вообще невозможно себе представить момент, когда бы существовали великие державы, между которыми 70 лет не было войн. Тогда державы великими только за счёт постоянного гнобления соседей и становились. Тысячелетняя история европейской цивилизации до 1945 года — история беспрерывных войн. Тысячелетнаяя история Рима до этого — история постоянных войн (храм Януса за 700 первых лет этой истории закрывался всего дважды). Что было до этого — понятно, можно проследить вплоть до геноцида неандертальцев и далее вглубь. Однако мир становится всё безопаснее со временем.
                  0
                  «Однако мир становится всё безопаснее со временем».
                  Некоторые части этого мира, при том, что в некоторых других войны идут практически не прекращаясь.
                    +2
                    Объясните, пожалуйста, с чем именно вы спорите? Считаете, что войн стало больше?
                      0
                      Я не считаю, что воевать стали меньше, я считаю, что воевать стали просто по-другому.
                      Вопрос не изучал особо, статистических данных нет. Если у кого-то они есть — прошу меня с ознакомить (:
                        +4


                        Войны стали чаще, но охватывают всё меньший и меньший процент населения планеты
                          +1
                          О! Мой любимый «Курцгезагт»!
                            +2
                            Хорошо, видимо я заблуждался.
                              +1
                              Войны стали чаще
                              Скорее, о войнах стали больше писать.
                              0
                              ПО этой теме на ТЕД- Steven Pinker: The surprising decline in violence
                              Ссылка
                            +2
                            Как ни парадоксально — мир становится безопасней в целом.
                            В ХХ веке в войнах погибло 125млн — из нескольких миллиардов живущих.
                            В первобытных племенах в войнах погибал каждый второй.
                              +3
                              Только в этом нет ничего парадоксального. Только человек, изучавший историю по «Флинстоунам», может считать, что мир раньше был безопаснее.
                  0
                  Войны ведутся не этими семью миллардами.
                  Войны за территорию (включая еду, девушек и прочие ресурсы) не ведутся уже давно.

                  Они, конечно, ведутся, но не в интересах этих самых голодающих миллиардов, а в интересах узких кругов, и выигрышем в этих войнах является не место под картошку, а нефтегазоносные территории.
                  За землю тоже в принципе воюют, всю северную Африку вот оттяпали, но во-первых, цель напрямую не афишируют, а во-вторых, землю впрямую не отбирают, а просто создают условия, когда представители опять же узких кругов её просто выкупают «сасущие копейки».

                  0
                  Реальной революцией, совершённой изобретением айфона стал не смартфон с сенсорным экраном, а открытая платформа для создания приложений.

                  Ну давай разберем по частям тобою написанное. Во-первых, iOS SDK далеко не сразу стал доступен для 3rd parties. Во-вторых, изначально он был нереально огорожен и малоюзабелен. В-третьих, на ВинМобайл, Симбиан и прочие уже нельзя было писать приложения? Айфончик стал первой платформой где это стало возможно? Кхе-кхе
                    +2
                    Я в курсе, что эти события были не одновременными, но маркетплейс для приложений — заслуга именно Apple (хотя обычно в таких случаях в ответном комментарии вспоминают какой-нибудь аналог, появившийся за годы до Apple, и так же давно позабытый). ОК, согласен, что формулировка не совсем корректная: заменю на «создания и дистрибуции». Или даже просто «дистрибуции», потому что SDK всё-таки не платформа. Это сразу снимает вопрос насчёт «в-третьих» — дело не в том, куда можно было писать приложения. Дело в каналах их доставки. Ну а то, что там были проблемы по началу и вообще прошёл год между тем и этим — это никому не интересно. App Store + iPhone SDK уже изменили мир.
                      0
                      Если говорить за дистрибьюцию: Android Market и App Store появились приблизительно в одно время. Кто был первым, кто там дал толчок? А вообще не вижу прорыва в том что появились эти самые маркеты. Люди до этого тоже получали и ставили приложения, только другим способом. Жить легче от всего этого не стало.
                        +2
                        «Люди до этого тоже получали и ставили приложения, только другим способом.»

                        Это каким, интересно? Собирали по крупицам информацию на редких форумах? Полагаю, что некоторая отдельная группка гиков, включая, по всей видимости, нас с вами, так и делала. Остальные же не пользовались ничем кроме дефолтных приложений. Лично в моем круге общения таковых было процентов 95.
                          0
                          Как минимум репозитории линуксов — чем вам не пример?
                    0
                    Хокинг заметил, что человечество пытается себя улучшить генетически — но недостаточно быстро

                    Вообще-то на данный момент благодаря медицине повышающей выживаемость оно себя как раз таки генетически ухудшает. Причём давно и успешно. Любые попытки его искусственно улучшить упираются в запреты и ограничения любых исследований в этой сфере. Разве что китай активно эксперементирует.
                      0
                      Нет, почему же, отдельные попытки улучшения тоже давно есть. Например, анализ околоплодных вод с последующим абортом в случае обнаружения серьёзных проблем у плода — что это, если не генетическое улучшение потомства?
                      Просто пока не существовало более эффективных и при этом гуманных способов улучшения — но недавно вот CRISPR открыли, жду результатов.
                        0
                        Да, об этом как-то позабыл. Но, с одной стороны да, с другой — «серьёзные» проблемы как правило и так не лучшим образом сказываются на возможности дальнейшего размножения (хотя да, есть и не смертельные проблемы).
                        Способов не существовало не потому, что некому за них взяться. Речь как раз о том, что тема эта очень скользкая и практически на грани запретного сейчас. Однако недежда на постепенное развитие есть, да. Тоже интересно, что смогут выжать из того же CRISPR.
                          0
                          > Например, анализ околоплодных вод с последующим абортом в случае обнаружения серьёзных проблем у плода — что это, если не генетическое улучшение потомства?
                          Это просто перенос аборта на более ранний этап, или сокращения числа тех, кто и так не будет размножаться, так что генетического потомства тут нет, Хокинг не прав и попытки генетического улучшения людей сейчас практически отсутствуют, маргинализированы в некоторых лабораториях Китая.
                            0
                            Ну, теоретически, так можно отсеивать детей, которые будут способны размножаться — больных фенилкетонурией, например.
                              0
                              Так то теоретически. Теоретически это можно было делать ещё десяток лет назад, а на практике куча препонов, запретов и мешающих верующих.
                                0
                                Хм. А какие могут быть препоны в совершении аборта по любому желанию матери? В стране, где аборты разрешены, естественно.
                                  0
                                  Запретов пока нет, но обсуждается.
                          +2
                          Для того, чтобы сделать вывод об ухудшении или улучшении, надо определиться с критерием по которому сравниваем.
                          Физиологическая выживаемость ухудшается, но это не имеет значение, т.к. эта самая медицина нейтрализует негативные эффекты от этого.
                          А вот выживаемость вида, за счет интеллекта наоборот повышается за счет увеличивающегося потенциала сопротивляться угрозам которые нельзя пережить физиологической выживаемостью.
                            –1
                            Более интеллектуальные меньше рожают, к сожалению.
                              +2
                              И что дальше? Раньше умные рожали больше, что ли? На успех в жизни и, по такой логике, привлекательность для продолжения рода, практически вплоть до XX века влияли такие факторы как сила и положение при рождении, дававшее доступ к наследству, когда-то в начале зарабатывавшееся тоже силой. Интеллект никогда не был значимым фактором при размножении, насколько мы можем судить. Тем более раньше, когда люди в массе своей были необразованны, бедны, а рожать надо было до 20, чтобы успеть родить достаточно детей, чтобы хоть кто-нибудь из них выжил. И тем не менее, при всех таких факторах, человеечство как-то поумнело достаточно, чтобы посредством ЭВМ обсуждать, как плохо, что умные мало рожают.
                                0
                                > Раньше умные рожали больше, что ли?
                                Да, ввиду отсутствия эффективных средств контрацепции.
                                  0
                                  Так это условие действовало одинаково для всех. А ум как таковой особо привлекательным фактором с точки размножения никогда не был. Уж точно в меньше степени чем сейчас. И ничего, с деревьев как-то слезли.
                                    +1
                                    Я имел в виду, что за последние двести лет уменьшилось количество детей у умных людей по сравнению с их менее умными современниками, потому что добавился фактор контрацепции.
                                    (По крайней мере, если предположить, что умным людям более свойственно ответственно относиться к планированию семьи — но это, вроде бы, правда)
                                      +1
                                      Очень интересно, можно посмотреть на данные? С какого по какой год проводились исследования? Каким способом замеряли уровень интеллекта до изобретения IQ?
                                        0
                                        Увы, данных исследований у меня нет — я сейчас, скорее, из общих соображений говорю. Так вот, судя по всему, что я читал в художественной литературе, написанной до XX века, контрацепция в те времена была непопулярна, безопасных методов аборта не было, убийства детей не приветствовалось. Соответственно, планирование семьи было малодоступно. Опять же, судя по художественной литературе, идея планирования семьи и популярной не была.
                                      0
                                      вы сосредоточились на отборе в пользу умных, но ведь ясно что работает другой вариант отбора — низкая рождаемость у людей с низким интеллектом
                                    0
                                    >Интеллект никогда не был значимым фактором при размножении, насколько мы можем судить.
                                    Если это было бы так, то он бы не развился вовсе. По наследству в не очень цивилизованном обществе, позвольте заметить, только полезные для рожания потомства свойства. Ум позволял, насколько мне известно, ранним людям получать больше профита из внутреплеменных политических игр, и, как следствие увеличивал выживаемость потомства, наследовавшего этот самый ум.
                                      0

                                      Скорее за счет повышения выживаемости, а не полового отбора.
                                      В те времена просто очень большая часть популяции просто не доживала до возраста в котором возможно размножение. Более сообразительные имели лучшие шансы на выживание, и только за счет этого при прочих равных — на размножение и передачу генов.


                                      Сейчас (когда за счет цивилизации, условий жизни, успехов медицины) до этого возраста доживают практически все этот фактор уже больше не работает. А интеллект выше какого-то уровня уже скорее всего влияет даже отрицательно на эффективность размножения.

                                        0
                                        Позвольте возразить насчет первого абзаца. Даже самые примитивные мозги могут повторять. Таким образом и закреплялись способы выживания — повторением успешных приемов. Таким образом тот, кто придумал успешный прием получал преимущество ненадолго — уже скоро этот прием начинали использовать менее одаренные соплеменники. Тоже самое и с орудиями труда — долгое время антропологи думали, что мозги развились у приматов для придумывания орудий труда, однако единожды сделанным топором потом может попользоваться каждый — он не является преимуществом при передачи генов «умности».

                                        А вот научиться сложным алгоритмам завоевания влияния и власти в племени без должных мозгов гораздо сложней, чем собрать заново только что изобретенный топор, политика это сложная, изменчивая штука. И это самое влияние уже однозначно давало преимущества для передачи ген. материала след. поколениям.
                                    0
                                    интеллект складывается врожденно-приобретенно — 50/50.
                                    0
                                    Это очень спорное утверждение.
                                    Физиологическая выживаемость ухудшается и это имеет значение, т.к. медицина не полностью нейтрализует явления от этого.

                                    Возможно, интеллект может даже повышаться бесконечно, но у физической выживаемости есть нижний предел и называется вымиранием. И такое случалось с другими видами.

                                    И выживаемость вида зависит не только от интеллекта, хотя бы потому, что интеллект не всегда можно применить.

                                    Сейчас, по-сути, идёт гонка.
                                      0
                                      Ну вот есть пример — тот же Хокинг.
                                      Он в своём нынешнем состоянии с единственной работающей мышцей достиг нижнего предела или нет?
                                      А завтра у полностью парализованного просто подключат электроды напрямую к мозгу, а всю остальную тушку заменят искусственными органами.
                                        0
                                        >> Физиологическая выживаемость ухудшается

                                        Или улучшается (увеличивается возраст смерти), что выражается в способности «поймать» больше проблем за время жизни, что вызывает иллюзию ухудшения?
                                          0
                                          Ловят проблемы люди не только прожив достаточно времени.

                                          Раньше дети которые бы умерли после родов сейчас выживают. Будут ли они такие же развитые как остальные когда вырастут? Возможно. Будут ли у их детей такие проблемы во время родов? Вероятность высока, но им могут не помочь врачи — выживаемость снижается и это не иллюзия.

                                          Как-то показывали по national geographic сюжет про рак в Исландии, кажется, могу и ошибаться где именно.
                                          И многие люди (причём чуть ли не треть) там получают опухоли и в 30 лет и даже раньше а причина проста — они все дальние родственники и их пра-пра-...-прадед передал им этот «раковый» ген.
                                          Но медицина позволяет им выживать и увеличивает число людей, у которых даже в молодости появляются опухоли.
                                            0
                                            А как современная медицина помогла распространиться мутациям, приводящим к раку в 30+ лет?
                                            Пару столетий назад 30 лет — это уже старость была. Детей рожали до 20. Т.е. люди с этими заблоеваниями всё равно оставляли потомство.
                                        +3
                                        Ох, чувствую, и нахватаю я сейчас…
                                        Выживаемость. С одной стороны да, с другой — современную цивилизацию может практически развалить то, чего ещё лет сто назад даже бы не заметили. Слишком большая взаимозависимость от друг друга и от технологий. Да и о каких угрозах речь? Любая глобальная катастрофа, которая пришла на ум прекрасно стрёла бы людей в пыль и тогда, и сейчас. Эпидемии? С одной стороны некоторые болезни победили, с другой — появляются новые, а распространяться сейчас они могут не в пример быстрее. Разве что сейчас у некоторого (весьма небольшого) количества людей есть некоторый шанс выжить почти в любой катастрофе (по крайней мере некоторое время). В случае локальной — всё обычно решается перемещением в незатронутую зону.
                                        С другой стороны: Одна хорошая, «удачно» направленная вспышка на солнце 100 лет назад стоила бы цивилизации лишь недели-другой бессонных ночей особо чувствительным, ну может ещё некоторой истерии сторонников конца света. А что будет, если накроется электроника сейчас? Или доведут до ума тот «мутант 59»?
                                        Прогресс — это хорошо. Но очень неуютно, когда опыты со взрывчаткой проводят в гондоле летящего воздушного шара, а парашюта у тебя нет.
                                        Выживаемость вида повысит в первую очередь возможность расселения за пределы корзины Земли, А лучше — за пределы системы. Но, боюсь, этого ждать придётся ещё очень долго.
                                          0
                                          Не волнуйтесь, виды от эпидемий не вымирают. Погибнет большая часть населения (99%? 99,99%? Не знаю), исчезнет цивилизация, но почти наверняка останется немного выживших где-нибудь в труднодоступных уголках, и останется какое-то количество людей с иммунитетом.
                                            0
                                            Так речь как раз про цивилизацию и шла. А не о биологическом виде.
                                              0
                                              *перечитал сообщение, на которое отвечал*
                                              Да, вы правы. Я сделал стойку на слова «Разве что сейчас у некоторого (весьма небольшого) количества людей есть некоторый шанс выжить», подразумевающие, что умрут все люди за пределами бункеров.
                                        +1
                                        Вообще-то в эволюционной биологии есть такое понятие как «очищающий отбор». И теоретически, и математическим моделированием, и практическими наблюдениями доказано одно — его эффективность /сиречь скорость удаления из генофонда постоянно появляющихся слабовредных мутаций/ пропорциональна размеру популяции /эффективному количеству, числу особей могущих размножаться/. Поэтому будьте спокойны, для такого крупного млекопитающего как человек (биологически миллионами лет формировавшемуся в популяции размером десятки тысяч, ну максимум пара-другая сотен тысяч в особо благоприятные времена) численность в 7 млрд. просто гарантирует что от генетического вырождения вид не вымрет.
                                        К тому же не стоит сбрасывать со счетов такие явления как любовь и физическое влечение к определенному человеку. Это не просто прихоть мозга, или древнейший инстинкт — а в том числе и встроенный механизм поиска лучшего сексуального партнера из возможных. И лучший он/она по одному критерию — хорошие и жизнеспособные совместные дети; по крайней мере в среднем получающиеся лучше, чем при «скрещивании» произвольных мужчины и женщины, выбранных просто рандомно из всех живущих.
                                          0
                                          А есть где почитать об этом?

                                          Так про вымрет я и не говорил. Особенно с учётом уменьшения значимости этих слабовредных при современной медицине. Но испортиться вполне может, просто медленно. Большая масса — большая инертность. Слабовредные, да и сильно вредные мутации вполне неплохо могут сохраняться во многих поколениях в ожидании своего часа благодаря работе неповреждённых копий гена.

                                          Любовь — штука хитрая и не всегда логичная. И зачастую не продолжительная. А завести детей много времени и ума не требуется. Может мне так «везёт», но вокруг как раз полно подобных примеров.
                                          Опять же — основной признак здоровья (на первый взгляд) хорошая внешность. Да, есть ещё исследования, которые говорят про оценку запаха, повышающую выживаемость за счёт отбора более подходящих (не помню точно, что-то связанное с имунной системой) и отсева очевидно больных. Но проблемы со внешностью сейчас активно решает косметика (в более сложных случая — пластическая хирургия). Запах часто забивается парфюмом да и не сильно способствует современное окружение хорошему обанянию (могу сказать как обладатель такового).

                                          Какие ещё способы найти партнёра, не имеющего незаметных внешне проблем со здоровьем(или вообще спящих болезней) ещё есть? Или в сумме мы получаем как раз почти произвольное скрещивание. Это уже не считая те случаи, когда человек, например, из-за дисбаланса полов в регионе просто не может найти себе партнёра и уже выбирает не более подходящего, а какого есть.
                                        +1
                                        Допустим, считается, что глобальное потепление — процесс, который не может быть уравновешен самим человечеством, и поэтому нас ждёт балансировка на планетарном уровне

                                        Это довольно оптимистичное мнение. Насколько мне известно, основной прогнозируемый сценарий идёт по пути Венеры. Повышение температуры мирового океана вызывает цепную реакцию — парниковый эффект выходит из под контроля. Баланс в итоге не будет достигнут ввиду необратимости процесса.
                                          0
                                          Что и почему происходит — достоверно неизвестно никому. Нет даже уверенности, человеко ли обусловленное это климатическое изменение или же мы просто попали на очередной планетарный климатический цикл и наблюдаем его в первом ряду. И про последствия всей этой истории тоже сказать ничего пока точно нельзя. Есть мнения вплоть до того, что парниковый эффект закончится новым ледниковым периодом: льды растают, площадь мирового океана увеличится, отдавая тепло, и поверхность планеты остынет до такой степени, что опять покроется льдом.
                                            0
                                            Если говорить за дистрибьюцию: Android Market и App Store появились приблизительно в одно время. Кто был первым, кто там дал толчок? А вообще не вижу прорыва в том что появились эти самые маркеты. Люди до этого тоже получали и ставили приложения, только другим способом. Жить легче от всего этого не стало.
                                              0
                                              Не та, ветка.
                                                0
                                                Полтора года спустя после App Store и 7 месяцев спустя после выхода iPhone SDK. Про то, как долго ассортимент приложений навёрстывал отставание от App Store и говорить не стоит — все всё помнят. Так что «кто там был первым» вообще не вопрос.
                                                +4
                                                Последняя Парижская конференция по климату дала понять, что подавляющее большинство ученых считают, что глобальное потепления вызвано именно деятельностью человека. Т.е. можно считать, что одним вопросом меньше.
                                              0
                                              Джон Скальци придумал классный интерфейс — погуглите «мозгодруг фантастика Бригады призраков-Джон Скальци».
                                              Осталось придумать как его сделать носимым извне — чтобы обходиться без хирургии, когда захочешь прикупить ***фончик — ну или не отказываться — это сильнейший толчок косметомедицине, косметохирургии будет.
                                                0
                                                В плане «снятия ограничения интерфейсов» больше позитивных ожиданий скорее от генетики, чем от киборгизации.
                                                  0
                                                  Если перед всеми этими прекрасными событиями не сменить общественную формацию, может получиться так, что под киборгизацией с рождения некая транснациональная корпорация будет подразумевать встраивание дешёвого биологического мозга человека в станок или спутник, пусть себе работает.
                                                  Потому что, насколько я понимаю, весь 20-й век человечество занималось только тем, что придумывало философские и научные концепции по уходу от тезиса «человек есть мера и смысл всех вещей». Для корпораций и прочего, человек будет просто ресурсом, «наша вторая нефть» и прочий антигуманизм. А экономике вообще человек только мешает, одни убытки от его наличия. А смерть — она такая, увеличивает ВВП на душу населения.
                                                    +1
                                                    >А экономике вообще человек только мешает, одни убытки от его наличия.

                                                    Звучит как пересказ страшилок о загнивающем капитализме с урока политинформации в СССР. Как вообще экономика может существовать без человека? Это во-первых. Во-вторых, экономика заинтересована в росте населения, т.к. это рост потребительской базы. Цивилизации роботов 99% содержимого что гипермаркетов, что бутиков, что интернет-магазинов им нафиг не нужно.
                                                      0
                                                      Первое заменяется биржей и b2b, второе — сомнительно, ведь миллион китайцев жрут столько же ресурсов и товаров, сколько двести тысяч американцев. Сокращение населения не проблема для бизнеса. А оставшимся раздадут «вертолётные» деньги эмитированные очередной криптовалютной системой.
                                                        +1
                                                        b2b без потребительской базы — это игра в «Монополию». Что касается Китая, то он как раз подвтерждает важность потребителя для экономики: как только китаец захотел потреблять как американец, рынок начал бурно ратси и туда ломанулись все. Вот буквально все. Китай уже давно не только мировая фабрика, но и один из приоритетнейших рынков.
                                                          0
                                                          Вспомним экономическую модель киберпанка.
                                                          Там как раз преобладает b2b без потребительской базы. Бесконечные автоматизированные войны, боевой искусственный интеллект. Корпорации потребляют основную часть ресурсов, поддерживая гонку вооружений, в том числе информационную защиту/нападение.
                                                          По сути, это ближе к модели Средневековья, когда крестьяне едва содержали себя, зато «излишки» в виде налогов шли на наращивание мощи постоянно воюющих королевских армий.
                                                          Только в киберпанке всё автоматизировано, «роботы-крестьяне» будут содержать «роботов-военных», а люди будут подъедать остатки ресурсов.
                                                      0
                                                      Виктор Олегович, залогиньтесь.
                                                      0
                                                      А что, по моему отличная мысль — сделать не только машины ближе к людям, но и людей ближе к машинам!
                                                      Гипотетический «Скайнет», поселившись в сети, не станет уничтожать человечество, если рядом с ним в той же сети будут жить достойные люди, выбравшие цифровое бессмертие.
                                                      А потом все вместе махнем на Альфу Центавра!
                                                      Эх мечты, мечты…
                                                        0
                                                        Про цифровое бессмертие первый раз прочитал в книгах Пола Фредерика, цикл «Хичи». Но я не уверен, какое будет самосознание внутри… компьютера? Но я только за.
                                                          0
                                                          Если это не эмуляция — то без разницы, по белковым «проводам» импульсы бегают или по алюминиевым.
                                                          Есть серьёзный вопрос «оригинал перенесли или копия» но мы пока недостаточно понимаем что такое сознание чтобы его решить.
                                                        0
                                                        Слушаю сейчас Superintelligence by Nick Bostrom(на половине пока что). Слаживается впечатление, что самый лучший вариант — не создавать ИИ и прилагать все усилия, чтобы его никто не создал… Если вас заботит выживаение человечества, конечно. Но это невозможно, т.к. с ростом вычислительных мощностей доступных простым людям, его, возможно, сможет создать любой у себя в гараже. И тогда все будет плохо все равно.
                                                          +1
                                                          Это на самом деле не является проблемой — если что-то может быть создано, оно будет создано (если не вмешается форс-мажор типа тотальной ядерной взаимоаннигиляции). Что является проблемой — это как подложить соломки. Тот же Хокинг, Маск и много других умных людей помимо алармистских заявлений так же подписали петицию за неиспользование ИИ в вооружениях — мол, не надо создавать Скайнет своими руками.
                                                            +2
                                                            Только судя по книге, любой ИИ — скайнет по умолчанию. Часто просто случайно уничтажающий человечество на пути к выполнению одной из своих целей. И большее количество ИИ кончаются компьютрониумом(вычислительными мощностями размером с пространством которое возможно достичь и что еще не улетелео от нас из-за расширения вселенной, как я понял)
                                                            > Что является проблемой — это как подложить соломки.
                                                            Как раз большая часть ниги это: вот так мы могли бы подложить соломки и вот почему это не работает и человечество уничтожается.

                                                            Вот смешные видео на тему :>

                                                              0
                                                              Интеллект, случайно уничтожающий человечество — это не интеллект. Больше похоже на путаницу с поведением обычной машины, которую запрограммировали давить — она и давит, а что давит — помидоры или человеков — ей всё равно. ИИ такой ошибки допустить не может, это может быть только намеренно — чьё это будет намерение, ИИшное или чьё-то ещё — вопрос другой.

                                                                +1
                                                                У меня этот момент в книге тоже вопросы вызывает на самом деле. Там он говорит о ИИ, которому каким-то образом запрограммировали(максимизизировать некоторую utility function) цель — считать число пи например. И чтобы это сделать, он сначала обдурит создателей, чтобы они его выпустили, затем превратит ресурсы земли в компьютер и средства для освоения космоса, затем он продолжит превращать нашу солнечную систему и дальше в компьютрониум. Или типа в ИИ вложена цель произвести 1000000 скрепок, он производит их, но не останавливается так, как вероятность того что это ложные воспоминания или еще что не нулевая.
                                                                https://books.google.by/books?id=1mMJBAAAQBAJ&lpg=PT123&ots=Pmv3NTBioa&dq=superintelligence%20paperclip%20probability%20million&pg=PT123#v=onepage&q&f=false
                                                                  +1

                                                                  Это одна из известных страшилок, у него даже почти официальный термин есть "Paperclip maximizer"
                                                                  Тут немного про него: http://i-future.livejournal.com/657861.html


                                                                  Не совсем такой идиотичный и сферический пример как со скрепками можно на примере фантастического рассказа посмотреть (ИИ задали цель улучшать компьютерную игру по максимуму и что из этого в итоге получилось): https://geektimes.ru/post/269848/#comment_8960854

                                                                0
                                                                Человек вряд ли сможет создать интеллект с отличными от своего механизмами целеполагания, построения выводов и т. д. А сознание человека — это, как выразился один докладчик на PHDays — «ОС, на которую десятки тысяч лет не ставили никаких обновлений». Соответственно, вероятнее всего, ИИ будут присущи все недостатки человеческого сознания. Просто потому, что мы не в состоянии научить ИИ отличному от нашего образу мышления, так как мы сами другого образа мышления не знаем.

                                                                Возможно, это можно будет обойти путём вшивания в ИИ жёстких запретов на отдельные операции/мысли/выводы. Но если это будет реально ИИ, который осознаёт себя, способен развиваться и обучаться, то крайне сомнительно, что жёсткие запреты реально реализовать так, чтобы они не могли быть обойдены ИИ путём логического или «хардварного» эксплойта.

                                                                Мне в этом плане больше нравится модель «псевдо-ИИ», описанная у Лукьяненко в «Линии грёз»:

                                                                "– Дач, а твой корабль и вправду был разумным? – спросил его Томми на одном из коротких привалов.

                                                                – Я программировал псевдосвободу поведения.

                                                                – И что это значит?

                                                                – Он старался выглядеть личностью. Любой священник или программист докажет тебе, что это не имеет никакого отношения к разуму. Просто неотличимая имитация.

                                                                – И какая тогда разница?

                                                                – Да никакой…"

                                                                То есть, компьютер способен очень хорошо имитировать человека, распознавать голос и понимать команду или обращённую нему фразу независимо от того, в каких выражениях она сформулирована, способен поддерживать беседу, способен искать и «понимать» новую информацию, делать из неё выводы и т. п. Но не является ИИ, т. е. не осознаёт сам себя. Другой вопрос — возможно ли такое в принципе.
                                                                  +1
                                                                  Во-первых, создавая ИИ с нуля, человек вряд ли сможет повторить полный набор условностей, заложенных в нас эволюцией. Так что даже если это будет и человекоподобный разум, он будет в варианте без настроек.

                                                                  Во-вторых, смысл сингулярности в том, что люди перестанут контролировать прогресс. Даже предпринимающиеся сейчас попытки создать ИИ больше похожи на эксперимент — а вот или вот так сработает или не сработает? А что будет, когда ИИ начнёт создавать ИИ, и на каких принципах — предсказать сейчас невозможно.
                                                          +1
                                                          >Самое прекрасное, что люди даже не поймут, как стали киборгами — они просто купят очередной Apple iMind или Google Thoughts, каким бы образом они не выглядели и не соединялись с нашей нервной системой — как очередной гаджет, глубже затягивающий нас во всемирную паутину.

                                                          Полагаю, люди уже стали «киборгами» в то время, когда начали постоянно носить с собой мобильный телефон.
                                                          Возможность оперативно связаться с почти любым человеком на Земле, возможность сфотографировать ( == фотографически точно запомнить) какой-либо документ в любой момент, тот самый мобильный доступ ко всем знаниям человечества.
                                                          Интерфейс сути не меняет. Момент «киборгизации» остался в прошлом :)
                                                            0
                                                            когда Сергей Стиллавин требует от учёных остановить запуск Большого адронного коллайдера, потому что слышал, что существует риск возникновения чёрной дыры, над ним все смеются. Когда Стивен Хокинг предупреждает, что искусственный интеллект может поработить человечество — все напрягаются

                                                            Если бы было наоборот, был бы повод не просто напрячься, а серьезно задуматься. Каково звучит: «Сергей Стиллавин предупреждает, что искусственный интеллект может поработить человечество — и все напрягаются»?

                                                            Разница, наверное, в слове «слышал». Одному больше доверия, чем другому )
                                                              0
                                                              По моему, киборг — это не человек с деталями машины, а скорее машина с деталями (или памятью) живого человека?
                                                                0
                                                                Зачем писать «по-моему», когда Википедия в трёх кликах?

                                                                Кибо́рг — биологический организм, содержащий механические или электронные компоненты
                                                                  0

                                                                  Во первых, определение скорее качественное, чем количественное.
                                                                  Во вторых, если Вы почитаете дальше определения, то обнаружите, что в упомянутых в статье героев литературы и кино, скорее железа больше (Эдгар По, Азимов, "Робокоп"), чем мяса :)

                                                                  • НЛО прилетело и опубликовало эту надпись здесь
                                                                      +1
                                                                      Киборг — это человек, которому заменили n процентов тела на электронику и механику. Если же просто куски тела использовали в создании робота, как детали, то это, имхо, уже больше подходит под определение «биоробот».
                                                                        0

                                                                        Ну так поправьте, дополните википедию, чего уж там :)

                                                                          0
                                                                          У меня нет достаточного количества АИ.
                                                                  0
                                                                  После прочтения стати появилось ощущение что данную статью написал ИИ( книги же пишет — «День, когда компьютер напишет роман», может и статью написать), что бы подготовить морально людей к подключению нейроинтерфейсов и иметь возможность упровлять ими к примеру как в короткометражке взгляд.

                                                                  А если серьезно, то прямой интерфейс к компютерам позволит работать в разы быстрее, но эти же интерфейсы позволят собирать о людях огромный массив информации. Не просто где они бывают, что они ищут в поисковиках и какой программный комплекс используют. А как относятся к различным методам пиара и даже что они думают. Отделить личные мысли и ощущения от команд компютеру будет возможно только на стороне компютера. Менеджеры по продажам ухватятся за эту информацию и будут ее использовать, что бы манипулировать людьми подсовывая контекстную реклам в момент когда люди в хорошем настроении( фейсбук это уже показывает рекламы после веселых смайлов) и манипулировать мнением фильтруя и формируя новостную ленту(якобы в зависимости от интересов пользователя).

                                                                  Потом доступ к мыслям захотят получить спецслужбы что бы искать врагов народа и угрозы режиму (под предлогам борьбы с терроризмом). И обяжут провайдеров хранить это информация, но о безопасности они не подумают. И в один прекрасный день вся база мыслей милионов людей попадет на черный рынок.

                                                                  И да я помню про уровень iq cтороников теория заговора.

                                                                    0
                                                                    А не-менеджеры будут использовть тоже самое подключение к глобальным знаниям, что бы противостоять этому. Когда у всех есть доступ к такому ресурсу — проблемы, которую Вы описываете, не будет существовать.
                                                                      0
                                                                      А как не-менеджеры получат доступ к информации?
                                                                      Нейроинтерфейсы будет кто-то производить к примеру тот же Apple и его iMind будет собирать статистику. Или будет пересылать все данные на сервера эппла и уже там они будут обрабатываться, как это было с телевизорами самсунг которые прослушивали разговоры пользователей.
                                                                      А еще будут различные сервисы которые будут использовать этот нейроинтерфейс, К примеру от того же фейсбука и он тоже будет собирать кучу информации и с помощью дополненной реальности манипулировать восприятием окружающей действительности.

                                                                      Я это словоблудие затеял не потому что я параноик, а потому что считаю что интерфейс имеющие прямой доступ к мозгу должны иметь наивысшую степень защиты.
                                                                    0
                                                                    «Города Европы не были покрыты конским навозом, паровозный дым не убил посевы и не отравил лошадей, трудовые мигранты не уничтожили ещё ни одну экономику, 7 миллиардов человек не умерли с голоду и даже не погрязли в грязи и тотальной войне за ресурсы, ядерное оружие не привело к апокалипсису, 2000 год не уничтожил компьютерные системы, а БАК не привёл к созданию чёрной дыры. „

                                                                    Но рано или поздно комбо-брейкер может случиться.
                                                                      0
                                                                      Если предположить, что человечество движется в некую сторону — назовем это эволюцией человечества, — а также предположить, что движение повторяет развитие организмов на земле, то переход от колониальной стадии человечества к многоклеточной должен пройти через киборгизацию, и прощай свобода слова и дела. Все будем работать на общее благо и думать правильно. Можно пофантазировать и про раковые опухоли и др)
                                                                        0
                                                                        Самое страшное, что может случится в рамках сингулярности — возникновение сущности (неважно, ИИ или трансчеловека\транслюдей), аналогичных по сути «гению-потребителю» А.А. Выбегалло, каковая сущность, как и прототип, в стремлении удовлетворить свои бесконечные потребности может ненароком много кому сделать плохо. А в абсолюте — может захотеть преобразовать все доступное вещество в компьютрониум, что тоже вряд ли придется по вкусу остальным.
                                                                          0
                                                                          да, интересно, как долго протянет человечество, если каждый сможет в своем гараже собрать ядерную бомбу/армию роботов-убийц/вирус, превращающий людей в зомби.
                                                                            0
                                                                            Сейчас каждый может в своем гараже создать коктейль молотва\бомбу\отравляющие вещество\шахид-мобиль. Но мне гораздо больше нравится жить в обществе где есть шанс что твой сосед окажется террористом и взорвется в метро, чем в обществе пяти вековой давности где к твоему городу может прийти орда варваров\крестоносцов\наемников и после штурма тех кого не убили угонят в рабство а город сожгут. Как уже было сказано выше, пусть это и цинично, но процент людей которые участвуют\страдают\погибают в войнах и в целом насилие значительно уменьшился.
                                                                            0
                                                                            Читаешь подобные страшилки а потом вспоминаешь как многомиллионные проекты «ИИ» научились только решать комбинаторные задачки и очень плохо отличать комондоров от швабр.
                                                                              +1
                                                                              На самом деле, все опасения по поводу ии происходят из-за… расизма. Да-да, вы все — расисты.
                                                                              Вы не видите в ИИ разум, личность, человека (в гуманитарном смысле слова).
                                                                              Для вас это либо _предмет_, который _запрограммировали_ на какую-то задачу, он и попрет к решению напролом, игнорируя все остальное (paperclip optimizer). В лучшем же случае вы готовы сравнить ИИ максимум с опасным и непредсказуемым _животным_, о которым нельзя понять что оно сделает дальше, лизнет руку, или откусит кусок ляжки. Но опять таки, не как разумное существо, с которым возможен конструктивный диалог.

                                                                              Многие ещё очень очень любят приводить в пример голливудские фильмы («Неужели Терминатор и Матрица вас ничему не научили?!»), словно в них изложены факты, которые произошли на самом деле.
                                                                              А в реальности голливуд это даже больший расист. Для них ИИ это даже не животное, это просто plot device. Удобный враг на все случаи жизни, которому можно ввинтить и какие-нибудь зверства, и главный герой может его безжалостно уничтожить — без суда, следствия и переговоров, не вызывая у зрителя вопросов о гуманности. И очень кстати, а то Абсолютное Зло в виде Космических Фашистов аудитории приелось, а Космических Коммунистов делать уже не актуально и немного оскорбительно для жителей ряда стран.
                                                                                0
                                                                                Про Голливуд верно, да и про бытовые представления об ИИ, пожалуй, тоже. Но это же естественно – ИИ пока terra incognita, поэтому предположения будут самые разные. И да, сама суть сингулярности в непредсказуемости — иначе бы её не называли сингулярностью. Я вообще, если по этому посту непонятно, технооптимист и прогрессист. Но соломки подложить не помешает. Мы же люди — мы бы не стали доминирующим видом на планете, если бы не научились хитрости и осторожности.
                                                                                  0
                                                                                  а как же Джарвис и подобные творения? По моему Вы немного не правы на счет расизма. Расизм подразумевает ненависть к отличиям среди одного вида (черножопый, учкоглазый и т.д.) Но ии не относится к нашему виду (пока), Вам же не придет в голову ненавидеть коров потому, что они не такие как мы, поэтому нет тут расизма.
                                                                                    0
                                                                                    Коровы полезные и вкусные, а вот, к примеру, тараканы… Или комары… Или крысы… Вы же не скажете что пылаете к ним любовью, верно? Хотя да, сейчас как думаю было бы вернее сказать «ксенофоб».
                                                                                      0

                                                                                      Это правильно называть "Ксенофобией" (страх и/или ненависть к чужому/необычном/не такому как ты, восприятие его по-умолчанию как чего-то опасного/ враждебного БЕЗ наличия на то объективных оснований), а не расизмом.


                                                                                      И вот как раз Ксенофобии в продукции голливуда через край — что к ИИ, что например к разумным пришельцам(инопланетянам). А расизма нет — ибо толерантность на грани с толирастией.

                                                                                    +2
                                                                                    Спасибо за то, что поделились своей точкой зрения. Радует, что все больше людей видит в сингулярном будущем возможность, нежели, угрозу.
                                                                                      0
                                                                                      .

                                                                                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                      Самое читаемое