У землян опыта такого типа — навалом. Достаточно спросить американских индейцев или сибирских/дальневосточных народностей о том, как они восприняли известие о прибытии более развитой цивилизации на их территории. У первых и вторых будут очень разные рассказы. Но в принципе, мы можем хорошо представить, какие сценарии могут нам встретиться. Всё, что будет требоваться — определить на что больше похожа цивилизация инопланетян. На тех, кто осваивал Сибирь и дальний восток, или на тех, кто осваивал Америку. В первом случае — как-то ещё ничего. А вот если это будет второй случай — у нас реальные крупные проблемы.
Что касается самой по себе тлетворности информации о существовании инопланетян — если летающая тарелка приземлится прямо на красной площади, это лишь незначительно всех взбудоражит. Но в целом, почти никак не повлияет на сложившийся ход вещей. Вот если эта тарелка потом немного взлетит и начнёт жечь всё вокруг — тогда конечно могут возникнуть некоторые волнения, особенно если обнаружится, что наши вооружения не могут причинить ей вреда и она не одна, а их сюда сейчас налетят тысячи.
Проблема в том, что мы на сегодняшний день не очень похожи на глухую деревню живущую в изоляции. Аналогия корректна только в плане внешних условий землян — мы тоже точно не знаем, есть ли кто-то. Но наше внутреннее состояние далеко от такой деревни. Причём, я имею ввиду не технический уровень, а именно состояние умов. Во-первых, оно сильно не однородно, в отличие от такой деревни. Во-вторых, оно не имеет в сущности на сегодня какого -то единого центра управления и общего подхода к решению вопросов. А самое главное, та самая деревня живёт во внеисторическом состоянии — сто лет назад там скорее всего было как на момент встречи. А наша цивилизация находится во-первых в историческом потоке, а во-вторых, в состоянии фрустрации по отношению к этому самому потоку. Мы точно не знаем, что нам делать в исторической перспективе. Появление инопланетян (даже с плохими намерениями) может вызвать волну исторического позитива (при условии, что они нас сразу не удалят с планеты).
Из вашего высказывания можно сделать вывод о том, что система, которая не противоречит человеческой природе должна функционировать безукоризненно. Вероятно, это очень ценное качество для системы. В связи с чем у меня простой вопрос: что такое человеческая природа и какая из систем соответствует ей наилучшим образом?
Это системная проблема. При одних условиях телевизор является источником достоверной информации, ценных сведений и инструментом просвещения. А при других — это коробка для стимулирования продаж. И это ведь одно и тоже устройство, одна и тоже инфраструктура. Техника слепа к этике и не имеет целеполагания. Весь вопрос исключительно в людях и в тех макрогруппах, которые они образуют. У этих групп всегда есть два фактора: представление о благе и вопрос безопасности. Исходя из этих двух факторов, оформляются идеи и конкретные воплощения этих идей. Человек, создавший алгоритм мог думать о хорошем. Но алгоритм слеп к мыслям людей. Он исполняет их волю. И если ценности создателя алгоритма отличаются от ценностей пользователя алгоритм — мы имеем неожиданные эффекты.
Единственное, что тут можно сделать — ввести ценности в науку/технику. Наука и техника должна быть не «просто наука», а «наука для ...». Конечной целью науки должно быть выживание человечества и его развитие. Сегодня наука служит многим целям. Кто-то обогащается, кто-то просто ловит кайф, кто-то хочет улучшить какой-нибудь экономический показатель и так далее. Это порождает большое разочарование в плодах научной деятельности. Про это говорили многие великие учёные, в том числе Эйнштейн.
Просто так, это конечно не осуществить. Для этого нужно совсем другое устройство общества. Общество, ориентированное на максимизацию извлечения материальных благ будет использовать для этого все доступные технические средства. То есть, нужно менять общественные ценности. Именно в них упирается вопрос. И компромисс в таком случае может не понадобится.
Бонус тут в том, что общества с более высоким этическим уровнем и более плотной кооперацией в долгосрочной перспективе показывают большую выживаемость. Этика — это область знаний о коллективном выживании.
То есть, повышая этику и вырабатывая новые этические правила, мы увеличиваем шанс коллективного выживания и уменьшаем число внутренних конфликтов. При этом, по сути, все необходимые действия сводятся к тому, чтобы поговорить об этом с максимальным количеством членов группы и убедить их.
Быть материалистом и объяснять мир сквозь призму материализма — это ваше право. Но вы не можете отрицать и феноменов бескорыстного поведения индивидов, которые выполняли какие-то функции, как это говорится, «за идею». Не только не получая с этого материальных благ, но даже умирая. То есть, получая максимальный из возможных убытков с позиции материализма. Кстати, зря вы думаете, что ИГИЛ ничего не производит. Впрочем, речь не о нём. Речь о том, что не всё можно посчитать в материально-денежном эквиваленте. Причина простая: не все люди руководствуются в своём поведении только материальными факторами. С позиции материализма их можно рассматривать как иррациональных индивидов (или даже коллективов). Но невозможно отрицать их наличие. А поскольку они существуют, то они создают своим нерациональным поведением уже вполне материальные проявления. Из чего можно сделать вывод, что нематериальные факторы, такие как убеждённость, вера, идея — являются реальной силой воздействия на материальный мир. В любой ситуации есть материальная составляющая, которую можно оценить и посчитать. Но есть и дополнительные иррациональные факторы. Одна и та же армия (одни и те же люди, экипировка, навыки боевых действий и т.д.) может воевать с очень разными результатами в зависимости от того, что они об этом думают. И ни один военачальник не будет упускать этот совершенно не материальный фактор, который может решать исход сражения не меньше, чем более современное оснащение. Причём, я тут даже не хочу ничего говорить про идеи или религии. Просто можно музыку разную включить — и всё уже поменяется. Музыка — это ведь тоже нечто, что не вполне можно оценить с позиции чисто материальных благ. Играет себе, молекулы воздуха колеблются… А какой может быть эффект! Какой эффект был оказан исполнением 7 симфонии Шостаковича в блокадном Ленинграде? Конечно, не это сыграло главную роль… Но вы же не будете отрицать того, что это оказало влияние? И его довольно трудно оценить с материальных позиций.
Вообще, есть множество вещей, которые влияют на этот мир и не вполне хорошо поддаются оценке. Этика и эстетика не могут быть объективно измерены. А они составляют огромный пласт человеческих знаний. И они влияют на поведение, при том плохо предсказуемым образом. Есть люди, для которых этические аспекты оказывают большее влияние, чем рациональные доводы. Их много. Вероятно, их больше чем людей, которые в основном руководствуются рациональными мотивами. А это значит, что чисто материально-экономический подход может описать далеко не всё. Что-то может. Но многое остаётся за пределами. Если бы вопрос стоял только в плоскости финансирования и снабжения того же ИГИЛ, то всё ведь было бы так просто. Достаточно было бы просто снабдить кого-то другого лучше чем ИГИЛ (который мягко говоря снабжается не очень). Тем не менее, ИГИЛ уже много лет каким-то образом воюет на территории двух государств с гораздо более мощной экономикой и большим населением, которые тоже получают нешуточную поддержку. Почему так происходит?
Миром правит невещественное. Корпорации управляют только мат.ресурсами и потоком капиталов. Но современный мир никак невозможно свести к потоку финансов. Папа Римский может просто сказать слово и сотни миллионов католиков изменят своё поведение. И если он будет говорить достаточно убедительно, то это может привести к коренным преобразованиям в мире. Причём, и Папа и католики будут это делать совершенно бесплатно. А корпорации даже начнут тратить на это свои драгоценные миллиарды не ожидая получить с этого никакой прибыли. И не говорите, что это всё тоже в чьих-то бизнес-интересах. За бизнес-интересы убивают, но не умирают. А тут вполне могут и на смерть пойти. Как например в каком-нибудь (запрещённом в РФ, как вы наверное знаете) ИГИЛ. Там конечно же есть экономика и всё такое, но финансовая составляющая там не такая привлекательная по сравнению с Европой. Но десятки тысяч европейцев зачем-то поехали воевать на стороне ИГИЛ. Там есть что-то более существенное, чем деньги. С точки зрения некоторых, ценнее даже чем их собственная жизнь.
Человек не потеряет контроль над ИИ (и техническим прогрессом в принципе), если он будет развивать не только технику, но и человека. Чего, впрочем, сейчас не наблюдается. Но это вполне корректное решение. У нас есть первая данность: мы не можем остановить тех.прогресс и создание ИИ. Следовательно, кто-то его рано или поздно создаст. Значит нужно преступить к его созданию и нам, прямо сейчас. Вторая данность — мы в сегодняшнем качестве потеряем контроль над ИИ. Значит, пока мы создаём ИИ, мы должны успеть развить человеческие способности на столько, чтобы смогли контролировать ИИ. Исходя из того, что обе данности имеют скорее всего обязательный характер, то у человечества нет иного пути, кроме как резко начать вкладывать в развитие интеллектуального (и не только) потенциала человека. Это прямо сейчас надо делать.
Для больших проблем будет достаточно того, что есть. Полноценный ИИ не нужен. А вот хорошо контролируемая обучаемая машина нужна, способная к выбору оптимального варианта, управлению фабрикой, вождению автомобиля и так далее — где нужен не столько интеллект, сколько просто сложный, изменчивый алгоритм. Такая система поможет может резко нарастить производство, повысить его качество, снизить стоимость. Потенциал военного применения — думаю понятен. Не обязательно создавать терминатора, чтобы весь мир в труху.
Думаю, такие системы появятся довольно скоро. Они уже в зачатке. Довести их до ума можно и лет за 10 успеть.
Системы анализа трафика существуют давно. Они существовали в до-информационную эпоху (осмотр содержимого посылок, явное или скрытое чтение писем и т.д.). То, что это появилось и в IT — совсем не удивительно. Любой крупный субъект будет стремиться собирать информацию и контролировать её распространение. И системы анализа будут делать. Все. Тут как ни крути.
Что до высокотехнологичного бизнеса и его роли в прогрессе… глобализм сворачивается. Современные мировые тенденции всё чаще идут в сторону локализации, чего не было ещё года три назад. Это новый тренд. Он скорее всего будет долгосрочным. Об этом говорят как в США, так и в Китае, и в Европе и само собой у нас. Не стоит тут говорить о причинах, это долго и тут не приветствуется политика. Но можно сделать ряд технических предположений.
Первое предположение, в том, что субъекты будут стараться укрупняться по региональному признаку. Азия, Евразия, Европа, Америка. Возможно, последних двоих можно объединить, возможно нет — как пойдёт. Укрупняться и огораживаться от других.
Второе предположение, достаточно крупные субъекты могут обеспечивать сами себя продукцией и разработками всех типов. Возможно, некоторые типы будут хуже, чем у конкурентов, но у конкурентов будет аналогичная ситуация. Десятилетия глобализации создали условия для того, чтобы страны развивали только некоторые направления. Это касается почти всех игроков. Если США лишится Китая — будет плохо обоим, но США, вероятно, упадут с первого места где-нибудь на третье-пятое.
Третье предположение касается конкретно России и зоны её влияния. Из прошлого, мы знаем, что Россия в принципе способна самостоятельно развиваться технически и не только. То есть, если будет стоять реальная задача, то технический потенциал в ИТ может быть доведён до приемлемого уровня в относительно скором будущем. Шаги в этом направлении делаются. Робко, беспорядочно, со всеми огрехами, но делаются.
Ну и напоследок, давайте представим себе ситуацию, в которой кто-то создал даже не ИИ, а просто экспертную систему достаточную для того, чтобы получить резкое ускорение развития. Этот кто-то станет направо-налево раздавать возможность решать с её помощью чьи-то задачи? Не думаю. А ведь её создадут. Не сегодня, так через 10 лет, через 20 — не важно. Важно то, что кто-то получит сильное преимущество перед другими. И единственный способ устоять на ногах — обзавестись аналогичными разработками. Футурология в основном говорит о создании ИИ так, словно он будет один. Но на практике, это всё какая-то чушь. ИИ будет много, они будут конкурировать, их будут контролировать и так далее. Это будет совершенно не та реальность, которую рисуют в фантастике про ИИ. При этом, альтернатива этому — фактическое рабство или смерть большинства населения планеты от рук того, кто единолично создаст ИИ. Я не верю, что технический прогресс можно остановить даже через ядерную войну. А значит, либо ИИ будет создан кем-то одним, либо его создадут несколько субъектов так же, как несколько субъектов создали ядерное оружие. Мир с единственным обладателем ЯО — был бы не очень приветливым местом и хорошо, что это состояние продлилось не долго. С IT и ИИ, я надеюсь будет так же.
Я может немного спорную мысль скажу, но в IT я вижу усложнение, но не вижу развития. То есть системы становятся сложнее, разнообразнее, крупнее… Но никакой новизны я не вижу. На мой взгляд было два важных момента в жизни интернета. Первый — когда он стал общедоступным, когда с ним могли играться энтузиасты, гики и прочий заинтересованный люд. Второй, когда им заинтересовался бизнес и начал вкладывать в инфраструктуру интернета для расширения его доступности. В принципе, с тех пор ничего не изменилось. На очереди лишь только то, что теперь бизнес перешел от освоения пространства к его дележу. Новых пользователей интернета не будет. Интернет вещей — не изменит ничего принципиально, так как кофеварка не будет покупать в интернет-магазинах и смотреть рекламу — её саму будут покупать. Я хочу сказать, что нет больше места для экспансии, а значит крупные игроки начинают ставить пограничные столбы. В этом смысле, развития никакого тоже не предвидится. Создаваемые технологические выкрутасы будут направлены не на то, чтобы улучшить качество жизни людей, а на то, чтобы контролировать стада овец. Это концептуальный тупик для интернета. Если хотите, это можно выразить иначе: по началу казалось, что интернет это отдельное пространство, экстерриториальное, со своими независимыми правилами регуляции. Каждый сайт, каждый чатик и мелкий форум где-то в сети мнил себя небольшим, но гордым и свободным интернет-государством. Модератор ветки форума — как падишах-император. Потом это ушло и пришел бизнес. С деньгами изменился подход. Это ещё не отменило свободу как таковую, но это уже поставило свободу в зависимость от показателей рентабельности. Теперь же можно помахать ручкой даже этому. Теперь кто-то будет решать, какой трафик будет проходить по проводам и по воздуху, а какой нет. Для пользователей в этом нет развития. Я даже скорее склонен считать, что это путь к стагнации, поскольку снижает конкуренцию. Впрочем, можно взглянуть на это с другой стороны. Сейчас интернет стал гораздо больше, чем был на первой или второй стадии, описанные выше. Сегодняшние национальные сегменты больше, чем глобальная сеть первого этапа и в принципе даже первой половины второго. И с учётом того, что все вокруг как-то начинают окукливаться, то не вижу иного выхода, кроме как обустраиваться в новой реальности без оглядки на глобальный интернет. Может быть из этого что-то выгорит.
Вы не очень внимательно прочитали. Я как раз и написал то, что государство в этом всём играет в основном пассивно. Активную роль играет именно бизнес. Условно говоря, это не борьба каких-нибудь там Китая и США, а борьба условных Баиду и Гугла, которые отстаивают свои бизнес-интересы. А государства просто регулируют условия ведения бизнеса в пользу тех игроков, которые обещают им большие барыши в виде налогов или чего угодно ещё. Государства лишь маскируют эти правила под государственные интересы, хотя как раз для государства такие методы регулирования играют не вполне положительную роль. А интернета всё-таки уже нет. Того самого свободного интернета, где каждый был волен сам выбрать сервисы, источники информации и всё прочее. Окно возможности самостоятельного выбора с каждым месяцем сужается. И если у нас ещё не как в Китае, то только потому, что наши немного позднее спохватились. Теперь для того, чтобы воспользоваться некоторыми услугами нужно иметь более высокий уровень квалификации. Думаю, в какой-то момент перейдут от практики составления чёрных списков к белым (что убьёт Тор и vpn). А потом и вовсе можно будет ожидать реальной смены протоколов работы национальных сетей. И этот процесс не остановить. Он идёт не в России вообще. Это глобальная ситуация, которую создали не в России и к которой у нас тут лишь не очень внятно пытаются приспособиться не до конца понимая целей этой глобальной игры.
Проблема не в том, что следят. Следят Асю историю и странно было бы, если бы перестали. Также, плевать на изначальные принципы интернета. Мало ли зачем создавали колесо? Его будут использовать там, где оно применимо и эффективно. Не вижу ничего плохого и в нарастающей сложности. Всё-таки нельзя всю жизнь читать букварь, надо и на серьёзную литературу переходить. Проблема в том, что все эти минусы в конце — не минусы, а симптомы того, что интернет сегментируется. Все эти системы слежения нарушают целостность интернета. Китай уже живёт в отдельном интернете. В принципе, многие другие страны вводят или уже ввели похожие меры регулирования. Даже Европа идёт путём регулирования интернета. Это ставит под угрозу не наши приватные данные, которые, скажем себе честно, нафиг никому не нужны. Под угрозу ставится доступность информации и услуг. При том, с учётом современных реалий, не в интересах спец.служб, правительств или абстрактной безопасности, а в интересах бизнес-структур. Все эти меры защищают прежде всего национальные рынки от внешних игроков для своих. Как пошлины защищают местных производителей, так и тут пытаются построить виртуальные границы и ввести некий аналог пошлин. Так вот. Дело не в том, что изменился принцип интернета, а в том, что его вообще больше нет. Глобальной единой сети больше нет. Есть несколько сетей на основе одних (пока) протоколов, имеющих между собой контролируемую коммутацию, которую можно в любой момент прервать частично или полностью. И каждая из этих сетей будет всё сильнее стремиться к своей автономности. И в этом смысле, сообщество вообще не туда смотрит. Оно пытается сохранить анонимность, а следовало бы искать пути сохранить связанность сети в условиях ограничения доступа. Блокчейн, биткоин, тор и всё прочее — это не обеспечит. Поэтому государства с ними и не борются толком, хотя не составило бы труда.
Чтобы получить определение, нужно произвести абстракцию. Но с сознанием это сделать сложно. Сознание — единичный феномен. Нет ничего подобного, с чем можно было бы его сравнить с целью выявления таких общих свойств, которые его одновременно бы описывали и отличали от всего остального. Имея феномен, мы можем выделить лишь бесчисленное число отличий. Но не вполне понятно, какие из них определяющие. Оттого мы и не можем сделать необходимого и достаточного определения сознания. Собственно, та же проблема и с жизнью, и с материей. Чтобы нормально определить, что такое жизнь, нужно найти другую жизнь. С материей в каком-то смысле повезло немного больше — есть частицы, есть поле, есть тёмная материя. Можно как-то примерно понять, что это. Хотя, это не вполне то, что нужно. Всё, что мы видим — это не та самая "субстанциям". Но на каком-то интуитивном уровне, мы уже можем что-то говорить толи про массу, толи про энергию — есть за что зацепиться. С жизнью и разумом повезло меньше. Ничего иного, кроме многообразия одного и того же в общем-то рода земной белковой жизни мы не знаем. Как и иного сознания. Поэтому определить их довольно сложно. И сможем мы это сделать по всей видимости не ранее, чем встретим что-то иное во вселенной, что по факту признаем живым, а может быть и разумным, обладающим сознанием.
А как вы это подсчитали? Если вы как программист оцениваете стоимость своих 10 минут в 57 рублей (что-то около 60 тысяч в месяц?), то это же вовсе не значит, что кто-то вам заплатил бы эти же деньги за написание комментариев на хабре. Почему вы думаете, что рыночная стоимость комментария тут 57 рублей?
Да и чёрт с ним. Вы с друзьями общаетесь с такими же мыслями? Не завидую им. И вообще, вашим близким.
Строго говоря, ваше время бесценно на столько же, насколько бесценна сама ваша жизнь. А если рассуждать вашей логикой, то можно просто взять, умножить вашу цену на потенциальный максимальный трудовой стаж. Судя по профилю, вам 42 года. До пенсии вам осталось что-то около 23 лет. За это время работая 8 часов по будням вы заработаете около 17 мруб. После этого будете получать ещё пенсию. В зависимости от того, сколько вы проживёте и сколько будете работать после выхода на пенсию, вы сможете получить ещё примерно столько же. И так, получается, что стоимость оставшейся вашей жизни будет составлять примерно 35 мруб. Теперь вы знаете «чего вы стоите в профессиональном плане». Наверное это действительно полезно. Да вот какая странность. Эта стоимость совершенно не учитывает, ни то, какой вы муж, ни то, какой вы отец, ни то, как любит вас собака, если она у вас есть. Хотя, с таким подходом, наверное у вас её нет. Ведь почесать её за ухом будет стоить для неё десять рублей. Вы же профессионал.
Ладно. К чему бы это я? К тому, что человек сделал нечто хорошее (библиотеку) и поделился этим со всеми. У него наверное просто есть какие-то другие меры своей ценности. В комментариях была указана стоимость его работы. И как мне кажется, она на несколько порядков выше вашей.
Так что пристрастие к героину не было проблемой, с которой сталкивались бы эволюционирующие организмы
Собственно, именно в ходе эволюции с этим и столкнулись и нашему виду этот вопрос ещё предстоит решить.
Вообще, вопрос о рисках возникновения ИИ решается довольно просто (с точки зрения формулировки). Человек просто должен развиваться быстрее, чем идёт технический прогресс. Проблема только в том, что это довольно тяжело на практике. Современная цивилизация почти не развивает человека. Я не имею ввиду, что надо нашпиговать человека имплантами — это не изменит человека в фундаментальном смысле. Это останется всё тот же человек, но с рядом дополнений. Если обычный человек получит усиление в виде имплантология и станет быстрее считать, получит доступ ко всему объёму человеческих знаний — это скорее всего не сделает из него условного Эйнштейна. Нам потребуется более серьёзно изменить себя. Это можно сравнить с теми переменами, которые произошли с нашим видом (точнее, наверное с нашим предком), когда он впервые осознал какую-то мысль. Наверное для этого, ещё не вполне, человека было шоком то, что он ощутил. Но к настоящему моменту вроде как все попривыкли. Теперь нужно брать следующий барьер, то что мы называем гениальностью. Все мы в общем-то понимаем, что она существует как явление. Но пока что лишь спонтанное. Так же, как наверное раньше спонтанным было само сознание и мыслительная деятельность. Теперь пора научиться воспроизводить гениальность в массовом порядке. Тогда ИИ окажется для нового человечества примерно тем же, чем является простой современный компьютер. Помощник, игрушка — ничего страшного.
ИИ почти ничего не поймёт из обычных человеческих книг. Написанное в книгах мало того, что обладает высокой неоднозначностью, так ещё и требует от "читателя" большого количества невербальный знаний. Кроме того, в книгах содержатся не только абстрактные факты, но и метафоры. Даже примитивные метафоры сложно будет понять. Какая-нибудь простая фраза вроде "железная леди" — это же не женщина из железа? А даже если и так, то почему леди? Возможно это железная статуя женщины, а не собственно металлическая женщина. Но если это не статуя, а реально живая женщина, то что значит "железная"? Тут придётся немного попотеть. Метафоры — антиабстрактны. Если абстрагирование — это выделение общих признаков с целью группировки объектов (то есть, чем меньше общих признаков, тем абстрактнее). А метафора — это выявление какого-то сущностного свойства у некоего объекта и перенесение этого свойства на другой объект, обладающий чем-то похожим, но не тем же самым. При этом, метафоры очень конкретны и часто имеют в своей основе отдельный феномен или направлены на описание феномена. Железо обладает большим числом свойств. Из данной фразы не особенно понятно, какое из них вообще имеется ввиду. Ферромагнитная леди? Прочная леди? Из этой леди можно изготовить подкову? Очевидно, что это может быть как каким-то устоявшимся смыслом, так и зависимым от контекста. Но страшно не это, а то, что кроме слова "железная", тут есть ещё и слово "леди". То есть, эту фразу нельзя воспринимать как "крепкая самка". Это будет не верно. Вообще, всю значимость этой короткой фразы сложно передать. Можно сказать, что это "несгибаемая женщина с хорошими манерами", но при этом мы потеряем часть смысла. Хотя, вероятно и поймём кое-что. В принципе, самая большая проблема обучения ИИ на книгах как раз в этом и заключается, что человеческий язык фактически состоит из метафор. Целые пласты человеческих знаний вообще невозможно друг с другом связать ничем иным, кроме метафор. И если ИИ не будет обладать возможностью понимать метафоры, то он не сможет понять человека. Даже если обучать ИИ в трёхмерном пространстве, он всё равно ничего не сможет понять. Просто по причине того, что трёхмерное восприятие само по себе не является ключём к схожести мышления. Это только один из аспектов. И как мне кажется, человеческий разум вполне мог бы жить и в условной среде интернета без пространства как такового и остался бы разумным. Возможно такого человека было бы не так просто понять, но слепые от рождения люди — разумны. И вероятно, что если поместить мозг человека в банку и как-то хитро подключить его к интернету, то он вполне сможет освоиться. То есть, я хочу сказать, что разум — на то и разум, что является таким же универсальным понятием, как жизнь. Живая материя очень ярко отличается от неживой, даже в самом примитивном виде. Даже самый глупый и необразованный человек умнее любого примата. В этом смысле, все эти дела с нейронными сетями и их обучением — это не очень похоже на попытку создать разум. Результатом тут будет не нечто интеллектуальное, а нечто инстинктивное, близкое к доразумной жизни (которая тоже может обучаться). И в результате мы можем получить нечто, что можно было бы метафорически сравнить с обезьяной, прочитавшей весь интернет. Любопытно, конечно, но это кажется не совсем то, что хочется получить. Получить-то хочется именно разум, с присущим разуму творчеством и всем остальным. Иначе, это не вполне можно назвать интеллектом, даже если он будет в чём-то похож и даже в чём-то эффективнее человеческого разума. Гориллу можно научить языку жестов. Были опыты, в ходе которых горилла освоила несколько сотен жестов и могла общаться ими с человеком. Даже если представить себе, что в мозг гориллы (или аналогичный ИИ) загрузили бы все книги мира — она всё равно осталась бы гориллой. Но зачем-то очень много знающей. С точки зрения построения ИИ — это был бы колоссальный результат, по сравнению с тем, что мы имеем. Но разница между получением такого ИИ и разумом — как между полётом на Марс и на Альфу Центавра.
Во всей библиотеке конгресса содержится меньше знаний, чем у любого ребёнка самого примитивного аборигена. Попробуйте написать в тексте полную инструкцию о том, чтобы тривиально пошевелить пальцем. Объём книг кажется внушительным только по причине высокой сложности освоения такого объёма, а не по причине того, что это какой-то очень уж большой объём знаний.
Что касается самой по себе тлетворности информации о существовании инопланетян — если летающая тарелка приземлится прямо на красной площади, это лишь незначительно всех взбудоражит. Но в целом, почти никак не повлияет на сложившийся ход вещей. Вот если эта тарелка потом немного взлетит и начнёт жечь всё вокруг — тогда конечно могут возникнуть некоторые волнения, особенно если обнаружится, что наши вооружения не могут причинить ей вреда и она не одна, а их сюда сейчас налетят тысячи.
Проблема в том, что мы на сегодняшний день не очень похожи на глухую деревню живущую в изоляции. Аналогия корректна только в плане внешних условий землян — мы тоже точно не знаем, есть ли кто-то. Но наше внутреннее состояние далеко от такой деревни. Причём, я имею ввиду не технический уровень, а именно состояние умов. Во-первых, оно сильно не однородно, в отличие от такой деревни. Во-вторых, оно не имеет в сущности на сегодня какого -то единого центра управления и общего подхода к решению вопросов. А самое главное, та самая деревня живёт во внеисторическом состоянии — сто лет назад там скорее всего было как на момент встречи. А наша цивилизация находится во-первых в историческом потоке, а во-вторых, в состоянии фрустрации по отношению к этому самому потоку. Мы точно не знаем, что нам делать в исторической перспективе. Появление инопланетян (даже с плохими намерениями) может вызвать волну исторического позитива (при условии, что они нас сразу не удалят с планеты).
Единственное, что тут можно сделать — ввести ценности в науку/технику. Наука и техника должна быть не «просто наука», а «наука для ...». Конечной целью науки должно быть выживание человечества и его развитие. Сегодня наука служит многим целям. Кто-то обогащается, кто-то просто ловит кайф, кто-то хочет улучшить какой-нибудь экономический показатель и так далее. Это порождает большое разочарование в плодах научной деятельности. Про это говорили многие великие учёные, в том числе Эйнштейн.
Просто так, это конечно не осуществить. Для этого нужно совсем другое устройство общества. Общество, ориентированное на максимизацию извлечения материальных благ будет использовать для этого все доступные технические средства. То есть, нужно менять общественные ценности. Именно в них упирается вопрос. И компромисс в таком случае может не понадобится.
Бонус тут в том, что общества с более высоким этическим уровнем и более плотной кооперацией в долгосрочной перспективе показывают большую выживаемость. Этика — это область знаний о коллективном выживании.
То есть, повышая этику и вырабатывая новые этические правила, мы увеличиваем шанс коллективного выживания и уменьшаем число внутренних конфликтов. При этом, по сути, все необходимые действия сводятся к тому, чтобы поговорить об этом с максимальным количеством членов группы и убедить их.
В принципе, это и есть рецепт.
Вообще, есть множество вещей, которые влияют на этот мир и не вполне хорошо поддаются оценке. Этика и эстетика не могут быть объективно измерены. А они составляют огромный пласт человеческих знаний. И они влияют на поведение, при том плохо предсказуемым образом. Есть люди, для которых этические аспекты оказывают большее влияние, чем рациональные доводы. Их много. Вероятно, их больше чем людей, которые в основном руководствуются рациональными мотивами. А это значит, что чисто материально-экономический подход может описать далеко не всё. Что-то может. Но многое остаётся за пределами. Если бы вопрос стоял только в плоскости финансирования и снабжения того же ИГИЛ, то всё ведь было бы так просто. Достаточно было бы просто снабдить кого-то другого лучше чем ИГИЛ (который мягко говоря снабжается не очень). Тем не менее, ИГИЛ уже много лет каким-то образом воюет на территории двух государств с гораздо более мощной экономикой и большим населением, которые тоже получают нешуточную поддержку. Почему так происходит?
Думаю, такие системы появятся довольно скоро. Они уже в зачатке. Довести их до ума можно и лет за 10 успеть.
Что до высокотехнологичного бизнеса и его роли в прогрессе… глобализм сворачивается. Современные мировые тенденции всё чаще идут в сторону локализации, чего не было ещё года три назад. Это новый тренд. Он скорее всего будет долгосрочным. Об этом говорят как в США, так и в Китае, и в Европе и само собой у нас. Не стоит тут говорить о причинах, это долго и тут не приветствуется политика. Но можно сделать ряд технических предположений.
Первое предположение, в том, что субъекты будут стараться укрупняться по региональному признаку. Азия, Евразия, Европа, Америка. Возможно, последних двоих можно объединить, возможно нет — как пойдёт. Укрупняться и огораживаться от других.
Второе предположение, достаточно крупные субъекты могут обеспечивать сами себя продукцией и разработками всех типов. Возможно, некоторые типы будут хуже, чем у конкурентов, но у конкурентов будет аналогичная ситуация. Десятилетия глобализации создали условия для того, чтобы страны развивали только некоторые направления. Это касается почти всех игроков. Если США лишится Китая — будет плохо обоим, но США, вероятно, упадут с первого места где-нибудь на третье-пятое.
Третье предположение касается конкретно России и зоны её влияния. Из прошлого, мы знаем, что Россия в принципе способна самостоятельно развиваться технически и не только. То есть, если будет стоять реальная задача, то технический потенциал в ИТ может быть доведён до приемлемого уровня в относительно скором будущем. Шаги в этом направлении делаются. Робко, беспорядочно, со всеми огрехами, но делаются.
Ну и напоследок, давайте представим себе ситуацию, в которой кто-то создал даже не ИИ, а просто экспертную систему достаточную для того, чтобы получить резкое ускорение развития. Этот кто-то станет направо-налево раздавать возможность решать с её помощью чьи-то задачи? Не думаю. А ведь её создадут. Не сегодня, так через 10 лет, через 20 — не важно. Важно то, что кто-то получит сильное преимущество перед другими. И единственный способ устоять на ногах — обзавестись аналогичными разработками. Футурология в основном говорит о создании ИИ так, словно он будет один. Но на практике, это всё какая-то чушь. ИИ будет много, они будут конкурировать, их будут контролировать и так далее. Это будет совершенно не та реальность, которую рисуют в фантастике про ИИ. При этом, альтернатива этому — фактическое рабство или смерть большинства населения планеты от рук того, кто единолично создаст ИИ. Я не верю, что технический прогресс можно остановить даже через ядерную войну. А значит, либо ИИ будет создан кем-то одним, либо его создадут несколько субъектов так же, как несколько субъектов создали ядерное оружие. Мир с единственным обладателем ЯО — был бы не очень приветливым местом и хорошо, что это состояние продлилось не долго. С IT и ИИ, я надеюсь будет так же.
Чтобы получить определение, нужно произвести абстракцию. Но с сознанием это сделать сложно. Сознание — единичный феномен. Нет ничего подобного, с чем можно было бы его сравнить с целью выявления таких общих свойств, которые его одновременно бы описывали и отличали от всего остального. Имея феномен, мы можем выделить лишь бесчисленное число отличий. Но не вполне понятно, какие из них определяющие. Оттого мы и не можем сделать необходимого и достаточного определения сознания. Собственно, та же проблема и с жизнью, и с материей. Чтобы нормально определить, что такое жизнь, нужно найти другую жизнь. С материей в каком-то смысле повезло немного больше — есть частицы, есть поле, есть тёмная материя. Можно как-то примерно понять, что это. Хотя, это не вполне то, что нужно. Всё, что мы видим — это не та самая "субстанциям". Но на каком-то интуитивном уровне, мы уже можем что-то говорить толи про массу, толи про энергию — есть за что зацепиться. С жизнью и разумом повезло меньше. Ничего иного, кроме многообразия одного и того же в общем-то рода земной белковой жизни мы не знаем. Как и иного сознания. Поэтому определить их довольно сложно. И сможем мы это сделать по всей видимости не ранее, чем встретим что-то иное во вселенной, что по факту признаем живым, а может быть и разумным, обладающим сознанием.
Да и чёрт с ним. Вы с друзьями общаетесь с такими же мыслями? Не завидую им. И вообще, вашим близким.
Строго говоря, ваше время бесценно на столько же, насколько бесценна сама ваша жизнь. А если рассуждать вашей логикой, то можно просто взять, умножить вашу цену на потенциальный максимальный трудовой стаж. Судя по профилю, вам 42 года. До пенсии вам осталось что-то около 23 лет. За это время работая 8 часов по будням вы заработаете около 17 мруб. После этого будете получать ещё пенсию. В зависимости от того, сколько вы проживёте и сколько будете работать после выхода на пенсию, вы сможете получить ещё примерно столько же. И так, получается, что стоимость оставшейся вашей жизни будет составлять примерно 35 мруб. Теперь вы знаете «чего вы стоите в профессиональном плане». Наверное это действительно полезно. Да вот какая странность. Эта стоимость совершенно не учитывает, ни то, какой вы муж, ни то, какой вы отец, ни то, как любит вас собака, если она у вас есть. Хотя, с таким подходом, наверное у вас её нет. Ведь почесать её за ухом будет стоить для неё десять рублей. Вы же профессионал.
Ладно. К чему бы это я? К тому, что человек сделал нечто хорошее (библиотеку) и поделился этим со всеми. У него наверное просто есть какие-то другие меры своей ценности. В комментариях была указана стоимость его работы. И как мне кажется, она на несколько порядков выше вашей.
Боюсь себе представить, сколько стоило написание вашего комментария.
Собственно, именно в ходе эволюции с этим и столкнулись и нашему виду этот вопрос ещё предстоит решить.
Вообще, вопрос о рисках возникновения ИИ решается довольно просто (с точки зрения формулировки). Человек просто должен развиваться быстрее, чем идёт технический прогресс. Проблема только в том, что это довольно тяжело на практике. Современная цивилизация почти не развивает человека. Я не имею ввиду, что надо нашпиговать человека имплантами — это не изменит человека в фундаментальном смысле. Это останется всё тот же человек, но с рядом дополнений. Если обычный человек получит усиление в виде имплантология и станет быстрее считать, получит доступ ко всему объёму человеческих знаний — это скорее всего не сделает из него условного Эйнштейна. Нам потребуется более серьёзно изменить себя. Это можно сравнить с теми переменами, которые произошли с нашим видом (точнее, наверное с нашим предком), когда он впервые осознал какую-то мысль. Наверное для этого, ещё не вполне, человека было шоком то, что он ощутил. Но к настоящему моменту вроде как все попривыкли. Теперь нужно брать следующий барьер, то что мы называем гениальностью. Все мы в общем-то понимаем, что она существует как явление. Но пока что лишь спонтанное. Так же, как наверное раньше спонтанным было само сознание и мыслительная деятельность. Теперь пора научиться воспроизводить гениальность в массовом порядке. Тогда ИИ окажется для нового человечества примерно тем же, чем является простой современный компьютер. Помощник, игрушка — ничего страшного.
ИИ почти ничего не поймёт из обычных человеческих книг. Написанное в книгах мало того, что обладает высокой неоднозначностью, так ещё и требует от "читателя" большого количества невербальный знаний. Кроме того, в книгах содержатся не только абстрактные факты, но и метафоры. Даже примитивные метафоры сложно будет понять. Какая-нибудь простая фраза вроде "железная леди" — это же не женщина из железа? А даже если и так, то почему леди? Возможно это железная статуя женщины, а не собственно металлическая женщина. Но если это не статуя, а реально живая женщина, то что значит "железная"? Тут придётся немного попотеть. Метафоры — антиабстрактны. Если абстрагирование — это выделение общих признаков с целью группировки объектов (то есть, чем меньше общих признаков, тем абстрактнее). А метафора — это выявление какого-то сущностного свойства у некоего объекта и перенесение этого свойства на другой объект, обладающий чем-то похожим, но не тем же самым. При этом, метафоры очень конкретны и часто имеют в своей основе отдельный феномен или направлены на описание феномена. Железо обладает большим числом свойств. Из данной фразы не особенно понятно, какое из них вообще имеется ввиду. Ферромагнитная леди? Прочная леди? Из этой леди можно изготовить подкову? Очевидно, что это может быть как каким-то устоявшимся смыслом, так и зависимым от контекста. Но страшно не это, а то, что кроме слова "железная", тут есть ещё и слово "леди". То есть, эту фразу нельзя воспринимать как "крепкая самка". Это будет не верно. Вообще, всю значимость этой короткой фразы сложно передать. Можно сказать, что это "несгибаемая женщина с хорошими манерами", но при этом мы потеряем часть смысла. Хотя, вероятно и поймём кое-что. В принципе, самая большая проблема обучения ИИ на книгах как раз в этом и заключается, что человеческий язык фактически состоит из метафор. Целые пласты человеческих знаний вообще невозможно друг с другом связать ничем иным, кроме метафор. И если ИИ не будет обладать возможностью понимать метафоры, то он не сможет понять человека. Даже если обучать ИИ в трёхмерном пространстве, он всё равно ничего не сможет понять. Просто по причине того, что трёхмерное восприятие само по себе не является ключём к схожести мышления. Это только один из аспектов. И как мне кажется, человеческий разум вполне мог бы жить и в условной среде интернета без пространства как такового и остался бы разумным. Возможно такого человека было бы не так просто понять, но слепые от рождения люди — разумны. И вероятно, что если поместить мозг человека в банку и как-то хитро подключить его к интернету, то он вполне сможет освоиться. То есть, я хочу сказать, что разум — на то и разум, что является таким же универсальным понятием, как жизнь. Живая материя очень ярко отличается от неживой, даже в самом примитивном виде. Даже самый глупый и необразованный человек умнее любого примата. В этом смысле, все эти дела с нейронными сетями и их обучением — это не очень похоже на попытку создать разум. Результатом тут будет не нечто интеллектуальное, а нечто инстинктивное, близкое к доразумной жизни (которая тоже может обучаться). И в результате мы можем получить нечто, что можно было бы метафорически сравнить с обезьяной, прочитавшей весь интернет. Любопытно, конечно, но это кажется не совсем то, что хочется получить. Получить-то хочется именно разум, с присущим разуму творчеством и всем остальным. Иначе, это не вполне можно назвать интеллектом, даже если он будет в чём-то похож и даже в чём-то эффективнее человеческого разума. Гориллу можно научить языку жестов. Были опыты, в ходе которых горилла освоила несколько сотен жестов и могла общаться ими с человеком. Даже если представить себе, что в мозг гориллы (или аналогичный ИИ) загрузили бы все книги мира — она всё равно осталась бы гориллой. Но зачем-то очень много знающей. С точки зрения построения ИИ — это был бы колоссальный результат, по сравнению с тем, что мы имеем. Но разница между получением такого ИИ и разумом — как между полётом на Марс и на Альфу Центавра.
Во всей библиотеке конгресса содержится меньше знаний, чем у любого ребёнка самого примитивного аборигена. Попробуйте написать в тексте полную инструкцию о том, чтобы тривиально пошевелить пальцем. Объём книг кажется внушительным только по причине высокой сложности освоения такого объёма, а не по причине того, что это какой-то очень уж большой объём знаний.