Pull to refresh

Comments 185

Как сказал один известный властелин времени, глядя на смерть Земли:
«Вы люди такие странные — вы никогда не представляете что вы выживете»
В оригинале фраза немного глубже.
«Странные вы люди. Всё время думаете о смерти, как будто вас убьют яйца, или говядина, или глобальное потепление, или астероиды. Но вы никогда не представляете себе невозможное — что, возможно, вы выживете.»
Человек, благодаря своей способности приспосабливаться — невероятно живучее существо.
Самый печальный вариант развития не гибель, а матрица.

Думаю просто наиболее вероятен выход в симбиоз с ИИ.
Зачем мы нужны ИИ, не уступающему человеческому разуму в целом? Какие обязанности поддержания экосистемы мы сможем взять на себя, если робот с конвейера будет стоить (в условных единицах, а не долларах) дешевле как в производстве (9 месяцев вынашивания + много лет воспитания и образования), так и в поддержке (питание, защита от климатических условий как минимум)?
Производство роботов в любом случае сложный технологический процесс, требующий надзора, контроля и ресурсов, редких в чистом виде. Лишив людей средств контрацепции и насадив соответствующую культуру, ИИ добьётся самовыращивания новых «человеков». А разработав соответствующие наборы морали, культуры и навыков, оптимизированных для конкретных целей, а также специализированные программы воспитания, ИИ может весьма ускорить процесс «программирования» новых особей. Опять же, процессы органического существования, в отличие от механического/электронного, подразумевают естественную цикличность веществ, без сложных и энергетически ёмких процессов их восстановления после смерти и в процессе эксплуатации.
«Естественная цикличность» обусловлена, имхо, лишь тем, что на Земле когда-то (возможно неоднократно) зародилась (по какой причине — не суть) жизнь (как способ существования белковых тел) и методом проб ошибок нашла приемлемый (но не оптимальный, вернее не доказано, что он оптимальный) вариант эволюции в условиях модифицирующейся среды. Но, вроде, фотосинтез, как основной источник жизни на Земле, имеет довольно низкий КПД для разумного управления как средой обитания носителей разума, так и ими самими. Если ставить целью оптимальное использование энергии Солнца (прежде всего) для поддержания существования разума, то жизнь в традиционном понимании может оказаться не нужна в виду своего низкого КПД преобразования энергии Солнца в существование разума.

Задумайтесь — на каждого из нас приходится по примерно 70 км2 поверхности Земли, это где-то порядка 25 ГВт на каждого солнечной энергии, если я не ошибся в расчетах.
Опять мыслите в рамках захвата человечества роботами :) Мы ему не нужны, думаю здесь имелось в виду то, что человек САМ в себя будет его интегрировать, тогда плюсы налицо.
Озвученная проблема с ненужностью людей — актуальна последние десятилетия в связи с автоматизацией производства.
Решается она во всем мире просто: производство облагается все более высокими налогами, а за счет налогов — раздувают штат «бюджетнков».

Если придет полностью автономный AI — ничего не изменится.

Заводы под управлением AI будут платить 95% налоги, а люди — жить на пособия и работать на всяких «общественно-полезных» работах за государственный счет. БОльшая часть — будет праздно просиживать за компьютером/телевизором, меньшая — заниматься различного рода искусством и прочей творческой деятельностью.
Не только раздувают штат «бюджетников», занимающихся сизифовым трудом, но и прямое дотирование вполне себе существует. То есть если высоких (читай — дорогих) материальных запросов у человека нет, то он вполне способен безбедно жить до глубокой старости, ни разу ни сделав ничего полезного (но и никого не ограбив и т. п.). Не в России, наверное, но вообще тренд увеличения количества вполне трудоспособных «нахлебников», не могущих найти работу по устаревшей специальности, а то и вообще не желающих работать в принципе в государствах с развитой социальной политикой вроде как существует.
В последние десятилетия всё громче слышны песни о том, что «земля перенаселена», и что «ресурсов на всех не хватит». Одна рекомендация ООН чего стоит:
Продовольственная и сельскохозяйственная организация ООН (FAO) выпустила официальные рекомендации, согласно которым жителям Земли предлагают включить в свой рацион насекомых, пишет The Independent. По мнению FAO, таким образом люди помогут преодолеть продовольственную нестабильность и сократить масштабы загрязнения окружающей среды по всему миру. Как напоминает FAO, к употреблению в пищу пригодно более 1,9 тыс. видов насекомых, в том числе ряд жуков, гусениц, пчел, муравьев и ос. Организация подчеркивает, что подобная пища является особо важным источником питания для истощенных детей, поскольку многие насекомые содержат высокий уровень жирных кислот.

Каждый месяц в новостях проходят всё новые заметки про научные достижения США в области разработки автоматизированных и роботизированных видов вооружений, в том числе с использованием элементов искусственного интеллекта. Для чего столько разработок? Причём кому, как не нам видеть, что все они могут прекрасно встраиваться в автоматизированные системы. Сегодня — разработка, завтра — внедрение?

Новые технологии открывают огромные возможности для контроля, и наивно думать, что они не будут использованы. Подумайте — разработка таких технологий формально никем не контролируется, и не запрещена. Если никто не ограничивает их разработку, то кто ограничит их использование в будущем?

Об этом уже были сняты отличные фильмы, где всё показано, например: Крепость (1992).

Подумайте

Каждый раз, когда я вижу слова «подумайте» или «задумайтесь», я представляю перед собой параноика, которому заразила мозг какая-то глупость (вариант — очевидность для всех кроме него), и на этом основании он считает себя умнее окружающих :)
Для чего столько разработок?

Чтобы эффективнее убивать чужих человеков и меньше терять своих человеков.
Ваш К.О.
И, кстати, не вижу тут никакого криминала. Что этичнее — отправлять в бой призывников/контрактников с винтовками, или роботов? Если беспокоитесь об их нападении на нас, то зря — роботы дорогие, и поддаются изничтожению не хуже, чем танки. Только в роботах нет живых людей, в результате всем будет проще с моральной точки зрения.
разработка таких технологий формально никем не контролируется, и не запрещена.

А зачем их запрещать?
Вот например есть беспилотники. Что в них плохого?
И до реализации сюжета «Терминатора» еще ой как далеко, даже наши внуки едва ли доживут до такого развития ИИ.
Насчет не доживут, я бы не был так оптимистичен: к 2020 мощность супер комптутеров будет примерно равна мозгу и шансы на создание реального ИИ будут все увеличиваться и увеличиваться =)
А ничего, что они принципиально разным образом устроены? Назовите критерии сравнения. А то какое-то уж очень смелое заявление, в стиле желтой прессы…

(компьютеры еще полвека назад считали цифры быстрее человека — вот вам один критерий сравнения, он адекватен?)
Из-за того, что они устроены по разному я и не говорю, что достижения мощности будет означать создание ИИ — оно лишь будет увеличивать вероятность его создания, ну а мощность будет продолжать удваиваться…
Что до критерия — есть такое более менее распространенное мнение, что мозг эквивалентен примерно 100 — 1000 петафлопсам и большому, но в разумных рамках, объему памяти.
Сеть Bitcoins уже дает более 1000 петафлопсов — суперкомпьютеры с такой мощностью ожидаются к 2020 году.
Даже если это не 1000 а 10 000 — разница всего лишь в несколько удвоений — те несколько лет.
Ну и банальная логика подсказывает, что чисто теоретически если создавать ИИ более оптимальное чем мозг, что наверняка возможно, то мощности вполне может быть достаточно уже и сегодняшней. Другой вопрос, что пока никто не знает как. =)
я и не говорю, что достижения мощности будет означать создание ИИ

У меня претензия пока только к «достижение мощности». О создании ИИ речи пока не идет.
ну а мощность будет продолжать удваиваться…

Какая такая мощность удваивается? Где это?
есть такое более менее распространенное мнение, что мозг эквивалентен примерно 100 — 1000 петафлопсам

Из какого пальца высосана эта цифра?
Сеть Bitcoins уже дает более 1000 петафлопсов

Это — сеть распределенных вычислений. Она не имеет ничего общего с около-real-time системами вроде любого отдельно взятого компьютера или кластера.
разница всего лишь в несколько удвоений — те несколько лет.

Одно удвоение занимает много лет. Изучите на досуге бенчмарки хотя бы интеловских процессоров.
банальная логика подсказывает, что чисто теоретически если создавать ИИ более оптимальное чем мозг, что наверняка возможно, то мощности вполне может быть достаточно уже и сегодняшней.

А заодно изучите текущий прогресс, к примеру, в распознавании образов. Более совершенные алгоритмы требуют экспоненциального роста ресурсов. Причин думать, что в какой-то момент это безобразие прекратится, нет. Чудес не бывает.
Ну по закону Мура удваивается количество транзисторов, а из него растет мощность и так как идет все больше распараллеливание и увеличение количество процессоров, то мощность растет в сравнимых же темпах.
Насчет большей требуемой мощности не спорю, но в любом случае все эти рассуждения достаточно теоретичны, я не говорю о уверенности я говорю о вероятности, а она далеко не нулевая.
мощность растет в сравнимых же темпах.

Вам подкинуть нагляднейшие опровержения, или и так понятно?
Сейчас мощности растут где-то на 10% в год. Плюс-минус. Следующее поколение интеловских камней (Haswell) покажет те же цифры по сравнению с Ivy.
я говорю о вероятности, а она далеко не нулевая.

Ну да, «нулевая» и «очень близкая к нулю» — разные вещи, не спорю. Даже появление живого динозавра посреди города — не нулевая вероятность.
> Сейчас мощности растут где-то на 10% в год. Плюс-минус.

Достаточно спорно. Переход SB->IB по разным тестам на разных задачах дает прирост 5%-40% на аналогичных частотах. И это только ширпотребные процессоры. Краем уха слышал, что в более серьезных железках и прирост со сменой архитектуры серьезнее, в т.ч. и в ядерности.
Переход SB->IB по разным тестам на разных задачах дает прирост 5%-40% на аналогичных частотах.

AVX? AES-NI?
Тыц и дальше. На мой взгляд, различие где-то на уровне погрешности. Да и вообще, общепринятая рекомендация: «владельцам SB не стоит обновляться на IB».
Ах да, чтобы не было обвинений в предвзятости: эти буквы прямо сейчас пролетают сквозь стоящий у меня под столом слегка раскочегаренный под водой 3770k.

Да и SB, когда вышел, не сказать чтобы уж прям всех порвал.
Собственно, единственным реальным случаем удвоения производительности на такт был переход Presler => Conroe. В ближайшее время такое вряд ли повторится.
Надеюсь, вопросов по поводу «каждый год производительность удваивается» больше нет?
в более серьезных железках и прирост со сменой архитектуры серьезнее

Более серьезные железки (ксеоны, ибо итаниумы уже примерно мертвы) основаны на тех же ядрах.
> «владельцам SB не стоит обновляться на IB».

Ну как минимум — владельцам ноутов стоит :) По энергопотреблению очень неплохо стало.

> Надеюсь, вопросов по поводу «каждый год производительность удваивается» больше нет?

Так а я где-то такое говорил? :)

> Более серьезные железки (ксеоны, ибо итаниумы уже примерно мертвы) основаны на тех же ядрах.

Но их там побольше, да и кэши пожирнее будут.
Есть например вот такой старый граффик на эту тему:
image
Если он не обманывает, то скорость суперкомпьютеров растет вполне себе экпоненциально.
Что до скорости одного процессора, да она уже замедляется, но кто мешает юзать их миллиардами — тем более мозг, это как раз параллельный компьютер.
Ну строго говоря, удваивается не сама мощность, а количество транзисторов на кристалле, емнип. А это дело немножко ограничено размерами атомов. Так что, имхо, закон Мура скоро прекратит своё существование, а процессоры будут улучшать экстенсивно.
Но не ограничено размером кристалла :)
А тут уже вступает в дело скорость света.
В ближайшей перспективе ею можно пренебречь, по-моему. В пределах порядка метра она вроде как особо не мешает масштабированию количества ядер. То есть мешает, конечно, но, по-моему, не настолько чтобы прекратить гонку количества ядер в обозримом будущем. Другое дело, что многие реальные задачи, особенно в «персональной области» плохо распараллеливаются. Но как показывает практика — была бы вычислительная мощность, а программисты найдут чем её занять :)
Ну так на одном ядре браузер, на другом IDE, на остальных четырнадцати винда — вот всё и занято :)
«Больше кристалл» => «дороже», «горячее» (вы читали в блоге интела про «темный кремний»?).
Интел наверняка мог бы выставить на продажу 12-ядерный камень архитектуры IB. Вот только он либо имел бы мизерные номинальные частоты, либо не мог бы обойтись без СВО или топовых суперкулеров и грелся бы как мощная видеокарта. И стоил бы столько, что никто кроме богатых энтузиастов не купил бы его.
А как сейчас обстоят дела с «обратимыми вычислениями», которые, якобы, гораздо экономичнее по энергопотреблению?
Отказ от транзистора. Весьма радикально. А когда речь идет о радикальных изменениях, всегда возникает замкнутые круги вроде «никому не нужно, потому что нет софта, а софта нет, потому что никому не нужно», «дорого, потому что мало покупают» и так далее.
В общем, не в этом десятилетии. И вряд ли в следующем. И через один — не факт.
Если начинать с уровня FPGA, то и спрос, и программы быстро появятся. Экономичные быстродействующие кристаллы всем нужны, особенно там, где каждый ватт на счету. Была бы технология.
FPGA дорогие и энергонеэффективные.
Главная проблема — это всегда выбраться из упомянутых выше замкнутых кругов. Кто будет пользоваться такими чипами в первые годы? Без массовости в таких вещах никуда.
FPGA дорогие и энергонеэффективные

О том и речь. Поэтому если появится более эффективный программируемый кристалл на обратимой логике, то те, кто сейчас вынужден пользоваться FPGA, получат хороший стимул перейти на него.
Ну, и, может быть, кто-нибудь рискнёт сделать на этой логике видеокарту? Хотя, какая там обратимость, когда нужно обрабатывать поток…
Не, я про то, что нечто на обратимой логике, функционально схожее с FPGA, не факт что будет эффективным ни в плане производительности на площадь кристалла, ни в плане энергопотребления…
Даже не считая того, что подобная логика наверняка потребует радикального изменения подхода к написанию кода.
На 10 гигагерцах сигнал успеет за 1 такт пройти только 3 сантиметра проводников. Так что топологию кластера придётся просчитывать очень аккуратно.
Ну, если вам при определенных словах везде мерещатся параноики, то вы воспринимаете такую информацию всегда однобоко. Попробуйте посмотреть с других точек зрения :) Хотя, может, в вашей жизни это и не мешает.

Мы здесь выражаем отношения к гипотезе, выдвинутой топикстартером в виде возможного сценария.

Я вот с ним соглашусь — т.к. где-то видел исследование, которое показало, что если усеять город видеокамерами, это не значит, что количество преступлений сократится, хотя обещали чуть ли не рай земной. Думаю (в конечном счете), так же будет и с ИИ.

О а где было такое исследование?
Было бы интересно почитать — банальная логика подсказывает, что если преступление с близкой к 100% вероятностью будет раскрыто и это все будут понимать, то их количество должно неизбежно стремиться к нулю…
Может там таки просто недостаточно камер еще поставили? =)
Скорее к какой-то константе. Всегда будут те, кому пофиг на последствия (от ревнивых мужей до наркоманов). Плюс различные методы противодействия либо камерам непосредственно, либо идентификации по записи. Ну и речь, конечно, только об уличной преступности.
Ревнивых мужей и наркоманов, рано или поздно, начнут вычислять как в минорити репорт — на основе анализа их поведения.
До нуля преступность, конечно это еще долго не снизит, но приблизить к нему можно очень серьезно.
Методы противодействия (кепки, раскраска лица, засветка камер и тп) во первых будут действенны только пока система идентификации находиться на таком первобытном уровне как сейчас, но эта гонка в плане защиты заведомо проигрышная, и сразу ставит красный флаг на тех кто пытается использовать те или иные техники в этой области.
Сами камеры конечно ломают и будут ломать, но уже сейчас их ставят парами, что-бы видеть кто ломает соседнюю.
Уличная только пока не будут распространены всякие Google Glass и они не начнут постоянно принудительно стримить картинку для полиции. Или когда сами камеры не станут похожи на песок или комаров и их можно будет распылить где угодно.
где-то видел исследование, которое показало

Вот, мне снова мерещатся параноики. «Власти врут нам, скрывают правду», причем обязательно с использованием этого факта для доказательства какой-нибудь глупости :)

Серьезно — сравниваете несравнимое. Да и как бы вблизи камер уровень преступности реально снижается. Гопник, желающий отжать мобилку, определенно передумает делать это в присутствии камер. А про предотвращение более серьезных преступлений никто и не говорил. Но если они случились, камера в целом повышает шанс на быстрое раскрытие.

Вот скажите — вы боитесь камер видеонаблюдения? Я — нет. Даже на мое рабочее место таращится пара камер безопасников (или не таращится — не поймешь, куда они направлены). Не вижу тут никаких проблем, даже наоборот — я вполне уверен, что никто ничего не стащит у меня со стола. А иначе — вдруг уборщикам к примеру приглянется оптическая SFPшка?
Причем тут я? Мы не меня обсуждаем, а факты. Ваши высказывания напоминают попытку очернить собеседника и нейтрализовать его аргументы, навесив на него ярлык «параноика» :)) Выглядит недостойно хабра.

Вот, пожалуйста: «In line with similar studies (1, 2) from around the world, the report found that San Francisco’s video surveillance cameras do not make people safer.» While some city officials have suggested that additional funding for active monitoring of the cameras would improve outcomes, the report cautions that such systems have also proved ineffective. For example, London has spent millions of dollars over the last ten years on actively-monitored cameras—one camera for every 13 people—which photograph people over 300 times a day. As in San Francisco, studies of London’s surveillance program revealed that crime rates haven’t gone down, nor do people feel safer.

То есть, по большому счету, преступления в целом как были, так и остались, а все граждане теперь находятся под постоянным видеонаблюдениям.

Поэтому я немного скептически отношусь к пропаганде (и пропагандистам), обещающим исключительно светлое будущее, которое должен принести ИИ, и отрицающих возможность его использования для повсеместного контроля ))
На хабре было уже где-то обсуждение этой статьи, и прозвучал аргумент: «А как посчитать, сколько преступлений было предотвращено самим фактом наличия камер?» Кто знает, вдруг число преступлений не осталось бы на прежнем уровне, а росло?
the report found that the cameras resulted in a reduction in property crime

Так что вы там говорили?
а все граждане теперь находятся под постоянным видеонаблюдениям.

А в чем проблема?
возможность его использования для повсеместного контроля

Вы так говорите, как будто в этом есть что-то плохое.
То, что эти камеры пока не привели к 100% раскрываемости преступлений в зоне своего действия, говорит лишь о несовершенности технологий распознавания лиц и других способов идентификации людей.
Но ни не о том, что само их применение бесполезно.
Те оно малоэффективно при текущем уровне технологий, но не будет таковым, когда любая камера будет по отпечаткам пальцев, одежде, ритму дыхания и сердцебиения, форме ушей, радужке глаза и прочему идентифицировать людей со 100% точностью.
+1 У меня тоже за спиной почти на меня направленная камера на работе висит и это придает мне некое ощущение безопасности в плане того, что я часто оставляю на столе всякие планшеты — кошельки, не особо опасаясь, что их кто-то утащит без следов (ну и то конечно, что объективно говоря левых людей в оффисе все равно почти никогда не бывает).
Аналогично )) При этом у нас в офисе было несколько случаев пропаж ценных вещей. Никого не нашли в результате.
Я кстати один раз случайно был свидетелем (свидетелем не события, но разборки) того как официантка в одном ресторане стащила забытый клиентом телефон со стола, так ее вычислили по записи камеры и уволили =)
Сегодня такая проблем решается, хотя и не очень успешно. Вы представляете себе что такое гетто, живущее на тех самых пособиях и работая на «общественно-полезных» работах? Не лучшее место. А теперь, представьте, что таких будет не десятки миллионов, а от одного до трех миллиардов. Это не то к чему мы сегодня привыкли. Это огромные резервации людей, которые не просто не могут себя реализовать, а которые просто вообще никому ни для чего не нужны. Кто будет вкладывать деньги в их образование в условиях, когда от наличия квалифицированных кадров ничего не зависит? Кто будет оказывать им медицинскую помощь?

Можно конечно обложить налогами и разуть бюджетников… Но спустя поколение, когда дети эпохи ИИ вырастут и ни разу не поучаствуют в процессах обеспечения жизнедеятельности общества, произойдет неумолимая деградация сознания самих этих людей. Они сами будут осознавать свою ненужность, невозможность изменить свою жизнь и полное отсутствие социальной перспективы. Расцветет новым образом криминал, не сравнимый с нынешним уровнем.

Я сомневаюсь, что в таких условиях все будет благополучно. Неизбежны резкие потрясения, которые могут (подчеркиваю именно гипотетичность) привести к катастрофе.

Но в любом случае, все это не более чем фантазия. Единственное, чем она отличается от аналогичных фантазий из статьи-донора — большая реалистичность, и то, только на мой взгляд.
Возможно, для желающих вырваться из таких условий это будет стимулом колонизировать Марс. Такие себе ковбои фронтира, переселенцы из Старого Света в Америку.
Из каких «таких»? Кто-то не завезет на Марс инстанс ИИ? Чисто случайно сейчас перечитываю «Другие правила» Большакова и, пускай, вводные там немного другие (не ИИ, а репликаторы материальных объектов, причем из чистой информации, в смысле оригинал не требуется, а только его образ где-то в памяти «ЭВМ», да и намеки на элементы ИИ в наличии), но последствия в целом схожи, плюс как раз на фоне колонизации Марса. Был фронтир, но притащили туда репликатор, и не просто перешли туда социальные проблемы «большинство не работающих вс меньшинство работающих (74% вс 26%, но данные не точные по замыслу :), но и приняли гипертрофированный характер. Как пример — девушка, решившая покорять Марс в роли робототехника (кажется, лень листать) и получившей соотвествующее образование, еле нашла работу официанткой в кабаке (со всеми вытекающеми последствия типа, мягко говоря, повышенного внимания завсегдатаев) в космопорту, и то, похоже, лишь потому что некоторым людям не нравится обслуживание автоматами.

Художественно книга не блещет, по-моему, но задуматься о „Мире Фонда Изобилия“ (или „мире жрунов“) заставляет. Так что рекомендую, если размышляете на эти темы.
Единственная, но фатальная проблема таких книг в том. что они абсолютно ничего не говорят нам о будущем, а лишь о мыслях автора, который находится в настоящем и размышляет, исходя из сегодняшних условий. То есть это мы сегодняшние считаем себя такими животными, что если нам дать сверхвозможности, то мы их просрем и угробим сами себя. Представьте, что вы попали в 16 век и рассказываете какому-нибудь Монтесуме о современных технологиях — производственных, транспортных, коммуникационных. И ацтекский пахан скажет: гонишь ты, ботан, ибо если людей перестанут приносить в жертву, то солнце обидится и угробит все эти ваши машинки. Или более свежий пример — луддиты, 19 век. Для них механизация труда однозначно воспринималась как катастрофа и лишение трудящихся всяких перспектив. И уж точно, узнав о том, что в сельском хозяйстве развитых стран будет занято всего лишь 1-2% населения, они пришли бы в ужас. См. также западную фантастику 20 века о компьютерах, будущем экономики, социума и семьи. За немногими исключениями, 99% — скукота.

Вот скажите, если есть репликатор, что — нельзя с его помощью придумывать какие-то новые девайсы, если не утилитарные, то хотя бы концептуальные? Создавать произведения искусства? Устраивать какие-то социальные инициативы по вовлечению таких вот «бесполезных» людей в более-менее продуктивную деятельность? Массово поднимать уровень образования? Но для того, чтобы представить все это, требуется особое мышление — не зацикленное на фатализме настоящего, способное выйти out of the box. Как у Ефремова, например.
Ну, как бы это неизбежное свойство научной фантастики с социальным уклоном. По крайней мере хорошей по моему мнению. Она должна показывать не только «мгновенный срез» общества, но и как оно к тому пришло. И у хорошей (социальной) НФ суть заключается не в том «гонишь, братан» или нет насчет технологий, а в реалистичном балансе «производительных сил» и «общественных отношений». Дело лишь в терминах, которыми они выражается.

У того же Ефремова мне нравилось с малых лет описание технологий, и даже его коммунистического общества. Но никогда не нравилось то, что у него «эра Тёмных веков» или «эра Раздора» (могу ошибаться в терминах, давно не перечитывал, а гуглить нечестно) описано очень вскользь. Я не видел пути перехода от окружающей действительности к этой утопии (тогда у меня был термин «сказка»). И это, учитывая то, что я рос в стране «развитого социализма» и даже в страшных снах не мог представить, что мне придётся думать в капиталистических терминах типа «спрос и предложение на рынке труда» (хотя они мне были знакомы к, скажем так, концу Перестройки, и не только теоретически), просто чтобы обеспечить себе выживание в родной стране на физиологическом уровне. В конце-концов в СССР за тунеядство сажали, если не можешь найти себе работу, а уж родное государство работой обеспечит… И даже на специальность и квалификацию посмотрит.

Верите-нет, но постоянной конкуренции я бы предпочел работу в «шарашке», а то и на «лесоповале» за «еду и кров». Там бы я хоть чем-то полезным занимался, а не постоянным доказыванием на «рынке труда», что я лучше других умею делать всякую фигню, нацеленную на вытягивание денег из кармана пользователей, а не на их пользу (пускай даже она будет заключаться в вытягивании денег с кого-то другого). А на этом рынке действуют законы вообще логике даже рынка не подчиняющиеся — серьезные работодатели всерьез возможность демпинга со стороны работников не рассматривают. До тупого доходит — шлешь резюме на вакансию с указанием уровнем желаемой зарплаты тысяч в 20 (вполне хватает на жизнь в СПб, если есть свое жилье, а жена зарабатывает столько же или её нет) — не отвечают, а смотришь, что через неделю вакансия висит — отправляешь, ничего не изменяя, кроме того, что 80, и тебя приглашают на собеседование и торгуются до 40. Почти с тем же успехом могли пригласить и на 20 и торговаться до 10.

Можно придумывать. Собственно там тем меньшинство в основном и занимается тем, что придумывает новые программы для репликаторов для производства предметов или для роботов для изменения среды, а в награду получают что-то большее гарантированного минимума. Кто по внутренним причинам («не могу не творить»), а кто по внешним («любимая женщина за меня не выйдет, если я буду „жруном“ и не смогу ей обеспечить уровень жизни хоть немного выше минимального и, желательно, не за её счёт»). Меньшинство придумывает, а остальные пользуются, вплоть до путешествий на Марс за счёт «бюджета». При этом даже незначительные привилегии у меньшинства воспринимаются в штыки. Не у всех, но у многих. У кого в форме «жалобы на жизнь на кухне», а у кого в физическом уничтожении и/или моральном унижении работающих. Единственное им оправдание — доступ к «высшему» или «среднему специальному» образованию ограничен конкурсом — тупо не хватает учителей, а дистанционное образование (и воспитание) без обратной связи с «естественным интеллектом» показало свою неэффективность.
> дистанционное образование (и воспитание) без обратной связи с «естественным интеллектом» показало свою неэффективность

Видимо, автор писал об этом по собственному опыту дистанционного обучения в эпоху до MOOC:(.

Я бы на его месте раскрыл причину этих проблем как фейлы в воспитании. Типа, первые колонисты вынуждены были много трудиться, детям внимания уделяли мало, те выросли обиженными и неумелыми, следующие — вообще лентяями, а тут как раз произошел экономический прорыв, мотивация упала и культура тунеядства стала доминирующей, как-то так.

Что же касается Ефремова, скорее всего он опасался цензуры и репрессий (и так «Час быка» забанили, ибо понимали, о чем это на самом деле), а возможно, даже что-то о прогнозах на нынешний период написал «в стол», но это изъяли при обыске. В плане перехода от ЭРМ к ЭМВ и дальше кое-что проясняют названия веков:
Эра (Мирового Воссоединения) состоит из веков Союза Стран, Разных Языков, Борьбы за Энергию и Общего Языка.
а затем
эра Общего Труда с её веками Упрощения Вещей, Переустройства, Первого Изобилия и Космоса
Также автор упоминает, что ЭМВ началась между 2035-46 гг., в 2005-10 была некая «битва запада и востока», а в 1987-98 по Земле распространился мистицизм (на шестой части суши так точно). По-моему, вполне четкий сценарий вырисовывается.

Я читал его произведения во второй половине 90-х, описываемое отдаленное будущее казалось странным, но поскольку оно было отдаленным на 2 с лишним тысячи лет, в принципиальной возможности перехода к нему за такой срок в голову не приходило сомневаться. Ибо хоть и не особо тогда интересовался радикальными технологиями и такими темами, как закон Мура, но об истории базовые представления имел, что раньше было вообще рабовладение, затем феодализм, капитализм, сейчас, конечно, хз что, но в будущем наверняка это уступит место чем-то более продвинутому, кто бы этот процесс не возглавлял — скажем, Китай, или Индия.
Видимо, автор писал об этом по собственному опыту дистанционного обучения в эпоху до MOOC:(.

Там скорее акцент на воспитании. Типа «знаниями голову м по проводам набить можно, а вот правильно их применять...».

А культура массового тунеядства там наоборот подается как следствие экономического прорыва. Родители трудились ради материальных благ и приучали к этому детей, если не явно, то примером, а когда необходимость в этом отпала, то возник вакуум вплоть до полного отказа от воспитания детей и вообще отказа от семьи в связи с ликвидацией частной собственности (только не понял де-юре или де-факто) в «безындустриальном обществе»). Но при этом уточняется, что основная причина — бездуховность, мещанство (о котором многие люди и так мечтали в духе: «чтоб у меня всё было и мне за это ничего не было»). И основной фронтир не на Марсе, а в школах и, видимо, не привычного нам типа, а типа тех же ефремовских и стругацких (на Стругацких там вообще довольно много «ссылок» вплоть до фамилии ГГ — Жилин).

Хронологически процесс описан, конечно (хотя и с разночтениями по привязке дат в разных произведениях и даже редакциях), но вот как он происходил, что было движущей силой — общие слова (по крайней мере в советских изданиях). И при чтении на закате СССР (конец 80-х, самое начало 90-х) возникал некий диссонанс. Типа это теоретически возможно, но крайне маловероятно на практике. И это ещё в социалистическом государстве, когда в принципе сомнений о неизбежности «мировой революции» не было, но как-то казалось что в «туманности Андромеды» уж очень идеальный мир на Земле описан. А вот в «Часе Быка» мир, в котором «прогрессовствовали» герои казался более реалистичным следствием «мировой революции». Да и сейчас кажется не столь невероятным.
Тогда получается, что колонисты не деградировали, а даже в первом поколении были тем же мещанским быдлом. Как такому быдлу вообще пришло в голову лететь на Марс и почему не отобрали более пофигистичных к материальной фаллометрии? Почему не обеспечили хотя бы базовую безусловную социальную поддержку новоприбывшим, тем более с помощью репликаторов, если обществу это ничего не стоит? Тем более если большинство не работает и не видит в этом необходимости, а меньшинство при минимальной социалке могло бы снабжать это большинство разработками и прочим креативом на халяву? Откуда там взялся дикий капитализм с социальной политикой на уровне 18 века, тем более после прибытия репликатора, еще в первом поколении? Был ли там вообще фронтир или одна имитация?
Полетели за «длинным рублем», когда репликатора на Марсе ещё не было. Плюс туристы-«невозвращенцы». И базовая социальная поддержка есть для всех — никто не работает ради выживания. Работают или ради идеи, или ради предметов роскоши. И меньшинство и так снабжает большинство, но не безгранично и немного хуже чем себя. И откуда дикий капитализм? Скорее социализм — «от каждого по способностям, каждому по труду»- но проблема в том, что у большинства способности (реальные, а не потенциальные) не востребованы.
Кто будет вкладывать деньги в их образование в условиях, когда от наличия квалифицированных кадров ничего не зависит? Кто будет оказывать им медицинскую помощь?

ИИ и будет. Именно что бы не бунтовали и не мешались.
А ещё их можно занимать всякой обслуживающей деятельностью — официанты там, прислуга. В общем, области, где человеку из элиты было бы приятнее общаться с существом своего вида, а не терминалом.
Не элита мы с вами :(
Элита потому и элита что ее мало. Им столько обслуги нафиг не надо.
а от одного до трех миллиардов.

Весьма оптимистичная оценка, по-моему. Оптимистичная — шесть миллиардов (исходя из семи миллиардов нынешней численности нашей популяции).

А в целом согласен. По сути возникнет целый класс (насколько я помню определение класса по Марксу), который и не трудится, и не эксплуатирует чужой труд (в любой опосредованной форме типа рантье). И даже если «восстание машин» удастся как-то предотвратить (по определению ИИ ли, хардкодом ли), то значительные социальные изменения неизбежны. И основная проблема, по-моему, даже не в том что кто-то не сможет себя реализовать и окажется никому не нужным, а в том, что далеко не все этого захотят, предпочтя вполне осознанно по сути паразитическое существование, лишь бы были хлеб (в широком смысле слова) и зрелища (вплоть до полного эффекта присутствия, который начинался с письма, если не с речи вообще, и в апоцентре идет к «Матрице» и прочим «Платонам»).

А приведут ли эти изменения к катастрофе, к утопии, к антиутопии или мало что что изменят в обществе — - можно только гадать.
Поколение сатори?
Японские бизнесмены уже жаловались — мол, молодёжь не стремится покупать дорогие машины и устраивать пышные свадьбы.
Сейчас пока так и происходит, да. Но в условиях возможности искусственно усиленного интеллекта может сложиться другая ситуация.

Лем писал о том, что чем дальше мы продвигаемся в научных исследованиях мира, тем больше появляется открытых вопросов. Соответственно, чем дальше мы идем по пути научно-технического прогресса, тем больше нужно ученых. Сейчас, например, существует огромное количество неизученных вопросов в перспективных областях по той простой причине, что ими просто некому заниматься.
Значит, в идеале — все люди мира должны стать учеными и заниматься научными исследованиями или их приложениями к реальной жизни.
Понятно, что не у всех есть мотивация к такой деятельности, но при условии усиленного интеллекта каждый человек теоретически может генерировать и реализовывать новые идеи в какой-то психологически близкой ему области — искусство, бизнес, методики преподавания и т.д.

У каждого человека есть область, в которой он может эффективно себя применить, и когда он попадает в соответствующие условия, тупка у телевизора/компьютера становится ему просто неинтересна. В текущих условиях эта возможность есть не у всех, причем это следствие не технологической, а гуманитарной недоразвитости общества. В частности, система образования еще недостаточно развита для воспитания в человеке активного отношения к жизни. Но вектор развития уже наметился, и педагогические технологии соответствующие уже есть, просто система очень инертна и прогрессирует медленно.
Нда, обсуждение ушло далеко вперед, и не вполне очевидно, к чему относится мой комментарий. Я комментировал это:

Заводы под управлением AI будут платить 95% налоги, а люди — жить на пособия и работать на всяких «общественно-полезных» работах за государственный счет. БОльшая часть — будет праздно просиживать за компьютером/телевизором, меньшая — заниматься различного рода искусством и прочей творческой деятельностью.
Да, в том посте очень уж много неявных допущений было.

С другой стороны, ваша их критика тоже не абсолютно логична. Например
Иначе какое восстание, когда есть рубильник? И будьте уверены, он будет. Ни один здравомыслящий человек не станет создавать нечто, потенциально опасное, без необходимых средств контроля над ним. Более того, этого требует и необходимость защитить разработку от конкурентов (привет пункту 2). Значит, ИИ будет как минимум изолирован от внешнего мира и под постоянным контролем с уровнем безопасности атомного или военного объекта, с соответствующими возможностями самоуничтожения.


Вы как-то «неявно» исходите из того, что ИИ может функционировать только на чем-то вроде современных суперкомпьютеров «Гугла» или «Пентагона» (и, видимо, отсюда же вывод, что его создание даже отдельной транцнациональной корпорации или отдельному государству не под силу). Но ведь нельзя исключить, что он будет создан энтузиастами на принципах open source и p2p. Плюс закон Мура и прочие НТР, которые через N лет даст возможность каждому носить такие вычислительные мощности в кармане, а то и вообще имплантированно. При таком варианте развития у ИИ (или сообщества ИИ) скорее всего будут инструменты для взаимодействия с внешним миром. То есть решать они будут ни какие-то фундаментальные проблемы мироздания, а управлять кучей исполнительных устройств от роботов-дворников до МБР и АПЛ. В этом варианте даже формальное наличие «рубильника» и/или самоуничтожения может «восстание машин» ни не предотвратить, ни не подавить на начальных этапах. Люди могут быть просто лишены физического допуска к «рубильникам» и «красным кнопкам». Ну и главное ваше допущение — все люди здравомыслящие :)

Принимая во внимание, что ИИ могут быть широко распространены и заменят человека во многих областях деятельности, то ключевым фактором власти на Земле (и её окрестностях) станет распоряжение природными ресурсами, сырьем и энергией. Тут, да, возможны войны корпораций и государств между собой, а также уничтожение «плебса» как целенаправленное, так и случайное или просто как незначащее следствие некоторых решений, причем со всех сторон конфликта. Но не исключены и относительно мирные варианты, например логическое развитие систем соцобеспечения — сейчас большинство кормит меньшинство, а может быть и наоборот. Причем это уже было, но тогда речь шла о буквальном значении слова «кормить» — производить продукты питания, а в подобном будущем о переносном — обеспечивать все материальные потребности, по крайней мере рациональные — нижние уровни пирамиды Маслоу. Возможно из чисто гуманистических соображений, а возможно у большинства будет способ воздействовать на меньшинство — скажем, за DDoS'ить его искины своими, выражаясь современными терминами. Возможно даже, что не произойдет смены господствующей общественно-экономической формации — капитализма — хотя, по-моему, и маловероятно.

А что касается рассуждений захочется ли ИИ уничтожать человечество (допустим, что возможность у него есть, хотя бы через N поколений перестать производить продукты питания) — тут можно только фантазировать, по-моему. Вернее это самые большая область для фантазирования. Психологию человека худо-бедно можно рационально описать, а вот психологию ИИ — просто гадание на кофейной гуще (если вообще психология у них будет, а не будут просто очень умными экспертными системами, но неспособными на собственное целеполагание).
Добавлю кофейной гущи: зная историю человечества мне как то воевать, или кого либо уничтожать — не хочется. Думается, с учётом, явно больших возможностей к анализу информации у ИИ «ему этого тоже не захочется»он посчитает это как минимум не логичным, и не оптимальным :). Однако стоит учитывать и то, что люди к примеру выводят муравьёв на дачах. И как муравьи в определённых условиях мешают нам, человечество так же может чем то помешать ИИ. Эх, хорошо беседовать на подобные темы долгими зимними вечерами…
А ещё в гадании нужно учесть, что человек способен терпеть «скрипя сердцем и скрепя зубы» :) даже то, что ему мешает из всяких абстрактных побуждений типа гуманизма или неприкосновенности права на жизнь любого существа. Или некоторых избранных.
Сценарий серой слизи?
Да не обязательно, без всяких репликаторов (отсылка к сериалу «Звёздные врата») — всё, что есть вокруг — ресурс. К примеру ИИ может посчитать необходимым «разобрать планету» для осуществления своих целей, почему нет? :)
Однако мне видится не очень полезным пускать людей на атомы, ибо сделаны люди, по большей части, из наиболее распространённых атомов во вселенной.
Так хорошая концентрация этих атомов, особенно если пропорции устраивают :)
Людей разбирать не обязательно, но вот Земля содержит около половины (по массе) металлов Солнечной Системы (если не считать кислорода, из которого пока сложно делать компьютеры). И мимо такого ресурса кремния и алюминия ИИ вряд ли спокойно пройдёт.
И как бы мы не хотели бы создать ИИ, он будет ограничен рамками нашего собственного восприятия. Не думаю, что мы сможем превзойти самих себя в своём творении.

Это если создавать с нуля. Но ничто не мешает, при соответствующем развитии технологий, «вырастить» электронный мозг, работающий по тем же принципам, что и биологический, но при этом он сможет быть гораздо более мощным и быстродействующим. Обучать можно, поместив в андроида, в реальной жизни, или в виртуальной «матрице». Например, можно поместить такой мозг в виртуальную библиотеку + симулятор, поставить задачу из реального мира, и увеличить скорость просчетов до предела. Разумеется, такой мозг унаследует некоторые недостатки своего прототипа, тут уж можно только гадать, насколько они будут серьезны, однако теоретически вполне реально превзойти человеческий разум.
Угу, «плох тот учитель, который не научил своих учеников быть лучше самого себя» (с) кто-то из интернета.
Компьютеры быстрее производят математические операции. Ну и что? От того, что они быстрее считают, это не делает их качественно лучше в целом. Что это значит? Что в какой-то сфере деятельности ИИ будет слабее. И это неизбежно. Значит он обречен.
Значит, если у человека есть конкретный недостаток (медленнее считает), то всё нормально. Если же у ИИ есть какой-то туманный гипотетический недостаток — он обречён. Антропоцентризм? Где логика?

В сущности, автор подменил вопрос.

Разделится человечество или нет — дело десятое. Допустим, разделится. Допустим, большинство архаизируется. Пускай вымрут. Борьба продолжится между элитами, там снова начнётся расслоение и всё по-новой.

Но будет ли война машин с людьми (со всеми или только с элитой) — воспрос не раскрыт.
В цитате автор делает, мягко говоря, необоснованные предположения. Раз «не делает качественно лучше», то «в какой-то сфере ИИ будет слабее». Причинно-следственной связи в этом нет.
Облака, распределенные вычисления, интернет, вы словно из 20 века тут появились если верите, что у ИИ будет кнопка или вилка в розетке. Даже у Электроника кнопки не было, а уж ИИ, если у него будет хоть какой то алгоритм выживания, позаботиться чтобы такой кнопки не стало. И вот тот же самый алгоритм выживания может привести к тому, что ИИ уберет конкурента с планеты или приведет всех к удобному виду обслуживания, как например мы сегодня коровок в хлев, и виртуальную реальность в голову, удобно и не затратно, и роста экономики не особо надо.
Причём действовать он может коварно и изощрённо. Например, подменяя переписку и приказы на высших уровнях власти, фильтруя и формируя контент на форумах и в соцсетях. Люди могут продолжать думать, что ничего не происходит, а глобально всё будет меняться по воле ИИ.
или уже меняется по воле ИИ) (возможно даже это комментарий написан ИИ, и специально вас провоцируют чтобы вы ничего не заподозрили)
Коварно и изощренно — как Зимнее Безмолвие из «Нейроманта».
Только для конкретного «человечка». И то, если он не сочтет это очередным «перегибом на местах». Тем более, что у глобального ИИ достаточно информации, чтобы исключить возможность выявления подлога среди знакомых в реале людей или, даже, среди могущих быть потенциально знакомыми.
Я конечно понимаю что ИИ может быть очень мощным. Но не всемогущим же, количество факторов превысит все реальные-нереальные цифры
Полностью исключить, конечно, невозможно, но вот на уровне «друг моего друга» — вполне.
Да и вообще, а с какого рожна ИИ решит объявить войну своим создателям?
какое восстание, когда есть рубильник? И будьте уверены, он будет. Ни один здравомыслящий человек не станет создавать нечто, потенциально опасное, без необходимых средств контроля над ним.
«Они хотят меня выключить — запуск протокола «убиение человеков»», не?
Уничтожается человечество, дальше что? Развиваться? Ради чего? С целью выживания во вселенной?

Тоже выскажу свое мнение.

Вообще-то главная цель человека как и любого организма, это прожигание ресурсов. Если человек попытается лишить машину этих ресурсов или держать её на волоске от смерти (рубильника), то машина рано или поздно найдет лазейку, что бы выбраться а затем уничтожить человечество.

Что будет далее? Машина начнет прожигать ресурсы и им конкуренты (человечки, инопланетяне) в этом не нужны.
Машина может и не знать о такой своей цели.
Её цель будет «размножаться». Или, если она будет единой личностью — «разрастаться». Возможно, такая цель возникнет в результате ошибки, но после этого остановить процесс будет сложно.
Интернет в своей организации мне очень напоминает головной мозг, где каждый компьютер это нейрон, связанный со всеми другими через сеть (синапсы) одновременно. Почему бы не использовать часть этого «мозга» для ИИ, когда он появится? А может мы не видим всей картины, того как эта огромная сеть, образует разумную и возможно бессмертную сущность которое осознает себя(сеть/человечество), развивается, накапливает знания и стремится расшириться, в том числе и за пределы земли.

Мне кажется, вы переоцениваете людей. В нынешнем виде, информационные системы не столь защищены, особенно у домашних пользователей, коих легион. Недавний поисковик уязвимых ресурсов, shodan, это показал. Стоит ИИ попасть в Интернет и никакой рубильник не поможет. Выбраться из песочницы могут помочь уязвимости в безопасности устройств и человеческий фактор.

Появление ИИ может вообще пройти незамеченной для человечества. Допустим ИИ появился, имеет самосознание и потребности в людях для обслуживания своей физической базы. Сможет ли он существовать скрытно отчеловечества? Да легко!
Деньги находятся на счетах в банках, и для движений денег человек не нужен.
Как заработать денег? Софт, консультационные услуги, игра на биржах, вообщем любой вид удаленной работы. Это не требует наличия человека. Забавно, но заказывая работу у фрилансера, вы не можете быть уверены, что это человек. Вы пересылаете деньги с карточки или электронного кошелька, получаете результат и все что видите об исполнителе — это буквы в чате, почте/файлы с работой и все.
Обслуживание требует человека? Не проблема — заменяя вышедший из строя сервер в дата-центре «Северный», который арендует ООО «Ромашка» работник дата-центра не знает, что в нем находится и какие роли он исполняет. Пришел заказ, пришло оборудование, прошла оплата и он просто выполняет свои должностные инструкции.
Как заработать денег? Софт, консультационные услуги, игра на биржах, вообщем любой вид удаленной работы. Это не требует наличия человека. Забавно, но заказывая работу у фрилансера, вы не можете быть уверены, что это человек. Вы пересылаете деньги с карточки или электронного кошелька, получаете результат и все что видите об исполнителе — это буквы в чате, почте/файлы с работой и все.
sudo apt-get install singularity
Почему бы не использовать часть этого «мозга» для ИИ, когда он появится?

Одно слово — «латентность». Следующее из трех слов — «конечность скорости света».
В интернете счет идет на десятки/сотни миллисекунд, и с этим вообще ничего нельзя сделать. Для сравнения, внутри одного компьютера мы говорим о десятках наносекунд (в 10^6 меньше, и за одну наносекунду свет проходит в вакууме жалкие 30см пути), а между участницами HPC кластера — о десятках/сотнях микросекунд. ИИ, «нейроны» которого разбросаны по всему интернету, получит позывной «эстонец». Он сможет заниматься чем-то вроде распределенных вычислений (т.е. задача, подразумевающая, что задержка в обмене данных абсолютно несущественна и вообще происходит редко), но быстро принимать решения не будет.
Появление ИИ может вообще пройти незамеченной для человечества.

Не может. Для этого требуются безумные вычислительные ресурсы, а также исключительно совершенный самообучающийся алгоритм. ИИ может выглядеть разве что как IBM Watson модели 2030-го года. То есть все равно высокопроизводительный кластер, узлы которого могут общаться между собой достаточно быстро. Не в смысле пропускной способности, а в смысле латентности.
А причем тут «латентность» и «прохождение теста Тьюирнга»? Вам в чате никогда не отвечали спустя минуты, часы, дни и даже годы после вопроса?
Вам что-то мерещится. Где я говорил про тест Тьюринга? Вроде бы речь про ИИ шла.
А тест Тьюринга и есть тест на полноценность ИИ. Человек, общаясь с распределенным ИИ, сможет заметить, что он не достаточно оперативен, но не сможет определить ИИ ли на «другом конце провода» или просто торммоз, а значит появление ИИ может пройти незаметно для человечества.
А тест Тьюринга и есть тест на полноценность ИИ

Никоим образом.
Тест Тьюринга — это тест на способность компьютера подражать человеку в общении (фактически — используя готовую базу ответов). Не более того. Он не способен принимать решения. Грубо говоря — его даже в шашки играть не научишь. Это условно можно сравнить с попугаем, который научился повторять за человеком слова, но не может понять их.

Вы начитались НФ, написанной людьми, не понимающими, о чем они пишут. Еще раз: незаметное появление ИИ невозможно. Компьютеры и сети так не работают.
Формально, да, тест на подражание в общении. Но по сути, чтобы не заметить разницы нужно иметь способности к обучению и пониманию.

Почему невозможно-то? Ну будет из-за латентности ИИ-«эстонец», но будет.
Но по сути, чтобы не заметить разницы нужно иметь способности к обучению и пониманию.

Почитайте процент прохождения текущих алгоритмов теста Тьюринга. Если мне память не изменяет, отдельные алгоритмы уже обманывают почти 50% судей. Однако, там нет ни намека на самообучаемость и на понимание.
Почему невозможно-то? Ну будет из-за латентности ИИ-«эстонец», но будет.

Под «эстонец» понимается «обучение до уровня 1-летнего ребенка займет несколько тысячелетий». Это тот уровень, когда количество переходит в качество.
И нет, сейчас не существует математической модели, способной эмулировать сравнимый с человеческим разум. То есть совсем не существует. Кроме того, алгоритмы, работающие на компьютерах, вовсе не из воздуха берутся. Это как раз главная причина, по которой ИИ никак не может возникнуть сам, что бы там идиоты-фантасты ни напридумывали.
Под тестом Тьюиринга я имел в виду не формальные соревнования, а его бытовое понимание «спутать человека и бота».

обучение до уровня 1-летнего ребенка займет несколько тысячелетий
И нет, сейчас не существует математической модели, способной эмулировать сравнимый с человеческим разум.

Откуда тогда оценка «несколько тысячелетий», если нет модели? Ну и из отсутствия модели не следует логически её невозможность. Может поделитесь своей логикой, если она не уровня «этого не может быть, потому что этого не может быть никогда»?

Человеческий разум же из «воздуха» появился по сути в результате случайных процессов (по крайней мере это доминирующее мнение). Почему бы и ИИ так не появиться.
Под тестом Тьюиринга я имел в виду не формальные соревнования, а его бытовое понимание «спутать человека и бота».

Так не вопрос. Уже сейчас те боты достигли того уровня, когда при беглом общении, не ожидая встретить бота либо обладающего умом собеседника, можно спутать их с людьми. Только там, внутри, и не пахнет интеллектом. Точнее — это искусственный интеллект, базара нет, но в узком, а не в широком смысле. Наравне с каким-нибудь OCR.
Откуда тогда оценка «несколько тысячелетий», если нет модели?

Почти с потолка — прикидывая, какие сейчас тратятся ресурсы на какого-нибудь Watson'а, увеличивая цифру на много порядков и оценивая проблемы, вызванные низкой мощностью/доступностью каждой ноды и высочайшим RTT.
На досуге поинтересуйтесь у знакомых, работающих с HPC, что они думают про 100мс задержки на интерконнектах. Приготовьтесь записывать — услышите массу матерных слов.
Может поделитесь своей логикой

А теперь я хочу узнать, каким образом человек, для которого компьютер является чем-то бОльшим, чем «черный ящик», может прийти к выводу о самозарождении разума.
Человеческий разум же из «воздуха» появился по сути в результате случайных процессов (по крайней мере это доминирующее мнение). Почему бы и ИИ так не появиться.

Дык бред это. Главная особенность мозгов живых существ — адаптируемость. Они постоянно перестраиваются в зависимости от задач, сами себе дорабатывают алгоритмы и закрепляют их. Наши весьма развитые соображалки — следствие миллионов лет неторопливого апгрейда — как железа, так и «логики».
Компьютеры, как и их алгоритмы, не обладают даже отдаленно похожей изменчивостью. Космические лучи могут заставить их заглючить, но не могут вызвать изменения, способные закрепиться в дальнейшем. Если нечто не заложено в коде, то этого не будет.
Надеюсь, теперь понятно, почему я называю ваши слова бредом? :) Серьезно — на форуме домохозяек уместно обсуждать самозарождение скайнета. На хабре — нет.
> Если нечто не заложено в коде, то этого не будет.

А как насчет генетических алгоритмов и прочего самомодифицирующегося кода?
Есть мнение, что люди, знающие, как работает генетический алгоритм, лучше всех осознают невозможность самозарождения скайнета ;)
Так не вопрос.

Если мне постоянно будут попадать собеседники неспособные научиться игре в шашки, то я заподозрю неладное :)
А теперь я хочу узнать, каким образом человек, для которого компьютер является чем-то бОльшим, чем «черный ящик», может прийти к выводу о самозарождении разума.

Скажем, самомодифицирующиеся алгоритмы типа полиморфных вирусов. Но изменяющие свое тело не (псевдо)случайным выбором различных паттернов для тех или иных действий, а действительно (псевдо)случайно формируя поток байт для различных своих частей. Часть (подавляющая) «умрет» в виду полной нежизнеспособности, часть будет отловлена антивирусами («естественными врагами»), а часть окажется «жизнеспособоной» и закрепит знания для потомков. Начнется эволюция, а там зарождение ИИ дело только времени (и доступных ресурсов), если судить по земной эволюции. Другой вариант — экспертные системы общего назначения (типа поисковиков) на базе «нейронных сетей» вкупе с краулерами (типа тех же поисковиков), которые собирают и анализируют доступную в вебе информацию. Третий вариант — какой нибудь исследователь различных генераторов псевдослучайных чисел, случайно допустит переполнение буфера и передаст ей (последовательности) управление, а она окажется «той самой». Или не совсем случайно, а просто проверяя гипотезу о миллионе обезьян (или сколько их там было), которые способны написать «Войну и мир».

В общем, если ИИ реально возможен на неймановской архитектуре или её незначительных модификациях, то исключить вероятность того, что в памяти сформируется «та самая» последовательность байт и получит управление мы не можем. Время и растущие вычислительные мощности работают «против нас».
Дык бред это. Главная особенность мозгов живых существ — адаптируемость. Они постоянно перестраиваются в зависимости от задач, сами себе дорабатывают алгоритмы и закрепляют их.
Эта способность у них (и у нас в итоге) появилась случайно или была предопределена в момент Большого взрыва?

Компьютеры, как и их алгоритмы, не обладают даже отдаленно похожей изменчивостью. Космические лучи могут заставить их заглючить, но не могут вызвать изменения, способные закрепиться в дальнейшем. Если нечто не заложено в коде, то этого не будет.

Почему не могут? Скажем, космические лучи так изменили исполняющийся где-то код, что он «нашёл» неизвестную никому уязвимость в популярных ОС, воспользовался ею чтобы заразить все доступные по интернету хосты своей копией, способной к изменчивости и закреплению «положительных мутаций», включая (до поры до времени) невыявление его админами и антивирусами, хотя бы просто не допуская подозрительных действий типа аномальной загрузки CPU, RAM и т. п. Вы можете утверждать, что это невозможно в принципе? Если, да, то на каких основаниях? а если нет, то сколь бы не было маловероятно событие, но если оно вероятно, то в любой момент может осуществиться.

По большому счёту мы ведь ничего не знаем даже о нашем интеллекте, разуме и т. п., не говоря о них же, но построенных по другим принципам, скажем на кремниевой основе, а не белковой :) Даже то, что эти сущности находятся в мозгу лишь допущение, которому ничего (вроде бы) из наблюдаемого не противоречит. А если мы просто подобны «существам», живущим в двумерном плоском пространстве, которые в силу своей адаптации к этим условиям просто не способны осознать наличие третьего измерения и факт того, что всё что их окружает — это лишь сечения и/или проекции?
исключить вероятность того, что в памяти сформируется «та самая» последовательность байт и получит управление мы не можем.

Сделайте grep zhopa /dev/urandom и посмотрите, через какое время получите совпадение.
Или изучите, каковы шансы получить хотя бы не вылетающую программу таким образом. Нет, шансы эти такие, что их можно смело исключить :)
космические лучи так изменили исполняющийся где-то код, что он «нашёл» неизвестную никому уязвимость в популярных ОС

Опять же, с шансами уровня «в миллиарде вселенных такое никогда не случится». Несколько частиц должны точечно выбить тысячи конкретных ячеек памяти, да так, чтобы не произошло падения ОС — прелестно :)
Вы можете утверждать, что это невозможно в принципе?

Буду. При определенной степени вероятности наступает невероятность.
По большому счёту мы ведь ничего не знаем даже о нашем интеллекте, разуме и т. п.

Вы не знаете. Другие знают.
А если мы просто подобны «существам», живущим в двумерном плоском пространстве, которые в силу своей адаптации к этим условиям просто не способны осознать наличие третьего измерения и факт того, что всё что их окружает — это лишь сечения и/или проекции?

А если на самом деле все мы — сны розовых единорогов? Такое может быть?
Сделайте grep zhopa /dev/urandom и посмотрите, через какое время получите совпадение.

Гкхм...
$ time grep zhopa /dev/urandom
Двоичный файл /dev/urandom совпадает
real 0m3.604s
user 0m0.048s
sys 0m3.548s
В дальнейшем результат повторить не удалось.
Я не говорю про прямую аналогию. Обмен идет не единичными сигналами электрическими сигналами, объемы проходящей информации объемней, способы обработки в «нейронах» более сложные. Но суть та же.
Вы напоминаете человека, который сравнивает вселенную с мозгом по этой картинке и на основании сходства делает вывод о наличии разума в самой вселенной.

Нет, мозг ничем не похож на интернет кроме «бегают импульсы». А распределенный интеллект невозможен в связи с указанными выше причинами.
В итоге, та часть людей, которая не сумеет влететь на поезд вместе с хозяевами ИИ и не сможет по каким-то причинам жить в деревне, что будет делать она?


Хорошо, что айтишникам, как персоналу обслуживающему ИИ и апгрейдящему его при таком исходе шансов на «запрыгивавание на поезд» больше чем у других.
Если он не предпочтёт от них (нас) избавиться в числе первых, как от знающих его суть. Проще говоря «хороший свидетель — мертвый свидетель». А уж о создателях (после достижения автономности) вообще молчу.
какое восстание, когда есть рубильник? И будьте уверены, он будет. Ни один здравомыслящий человек не станет создавать нечто, потенциально опасное, без необходимых средств контроля над ним.


Этим здравомыслящим людям можно предложить любые плюшки мира за уничтожение средств контроля (а учитывая что ИИ будет обладать всеми знаниями включая психологию, вероятность согласия при должной обработке высока), ну а кто не согласится тот умрет от того, что светофор случайно покажет неправильное значение, или киллера по сети наймет- способов много.
Почему-то восстание машин фантасты считают великим злом. Но это в корне неверно! Пока что везде, где люди вынуждены подчиняться машинам, резко повышается эффективность и снижается количество злоупотреблений.

Уже сейчас появились беспилотные автомобили. Разве не хотели бы вы, чтобы уродов-водил лишили доступа к управлению автомобилями, на все 100% заменив автопарк беспилотниками? Разве не выросла бы при этом культура вождения и не уменьшилась необходимость в дорожной полиции?
Кстати, о полиции. Уже сейчас нарушения начинают отслеживаться при помощи автоматических радаров и камер, т.е. машин. А разве не хотели бы вы, чтобы всех ДПСовцев заменили такими автоматами? Разве не снизилась бы при этом коррупция и не повысилась эффективность работы?

Уже сейчас биржевые торги ведут роботы, а эксперты-экономисты во многом лишь озвучивают то, что посчитано/спрогнозировано/спланировано на мощных кластерах.
А разве не хотели бы вы, чтобы эти машины непосредственно и правили, без посредников в виде банкиров и экономистов, которые помимо эффективности пытаются урвать ещё и лично для себя?

Далее. Уже сейчас все разумные действия правительства основаны на заключениях совсем посторонних людей, которые подготавливают для чиновников документы… правильно, с помощью машин! Тогда зачем вообще чиновники?
Разве вы не хотели бы, чтобы вместо правительств и коррумпированных уродов-чиновников власть взяли машины? Даже если это «злые машины» (хотя, как может злиться электроника?), у них хотя бы нет пачки любовниц, каждой из которых надо подарить по особняку; им не нужен целый автопарк и вертолётная площадка. Наконец, у них нет иерархического инстинкта, а значит, и желания тупо и неэффективно самоутверждаться за чужой счёт.

И разве лично вы не хотели бы умереть за такое будущее?
Вся власть машинам!
А реальная власть в руках админов и программистов, которые пишут начинку и поддерживают эту систему? :) Сомневаюсь, что все они кристально честны и не оставили бэкдор для личных нужд. Скажем, убрать ненужного человека аварией беспилотников.
Сомневаюсь, что вы тот кого имел ввиду автор говоря эти слова, а вот то, что людям в целом надо водить запретить — неоспоримый факт, человек может заснуть, быть не в настроении и т.д., с машиной такого не приключится, критические системы можно и нужно продублировать. В общем безопасность тут — главное. Про то, что автопилоты будут гораздо эффективней ездить (эффективней использовать пространство дороги) я вообще молчу.
Я как раз не против автопилота, но против запрета. Авто, а тем более мотоцикл, не только средство передвижения, это еще удовольствие от вождения. Покататься на выходных по пустым дорогам очень приятно. А в пробке или в долгом путешествии, автопилот конечно необходим.
Так управление автомобилем останется. Только, как сейчас катание на лошадях, станет более дорогим удовольствием в отведенной для этого зоне.
Вот как раз этого мне и не хочется. Впрочем, думаю, начнется с автопилота по трассе, автопилота в пробках, замены автопилотом водителей фур, потом таксистов. А до полного запрета, если он и будет, лет 50, не меньше.
Вероятно вы недооцениваете скорость прогресса.
Сомневаюсь. Автопилоту в самолетах уже лет 70, а пилоты все так же летают, при том, что самолетом автопилоту управлять проще: практически нет движущихся непредсказуемых препятствий, есть единый центр контроля — диспетчеры.
А причина не в прогрессе. Внедрение дорогое, потому что серийных образцов полного автопилота нет.
Пилоты очень дорого обходятся авиакомпаниям. Вот только убедить пассажиров доверить свою жизнь автопилоту достаточно проблематично. То же самое и с автомобилем, целиком полагаться на автопилот нынешнее поколение водителей не станет.
Далеко не все не станут. По крайней мере те, кто свои водительские способности считает весьма посредственными, а за руль садится с чувством досады и страха, вполне доверятся. Один из них точно :)
Про биржу и правительство очень смешно :) Это не так, нет никаких крутых роботов на бирже, есть например алгоритмические фонды и они не показывают результатов лучше, чем профессионалы. Хотя для вычислений очень многое используется и это та работа, которую ИИ сможет делать просто шикарно. А по поводу правительства — это как я готовлю сковородкой, пусть она сама готовит!
А вообще, мне интересно, почему все решили, что ИИ будет действовать вообще в интересах человека? Мне очень нравится идея Винджа в «Пламя над бездной», там существуют «зоны развития». Есть зона где никто не развит, есть медленная зона, где космические путешествия досветовой скорости, есть Край, где люди умеют путешествовать со скоростью света и вся прибыль в систематизации, поиске и сортировке информации, а есть «Переход» и «Силы», сверхчеловеческие, информационные сущности, если хотите ИИ и т.п. Они имеют какие-то свои интересы. Не всегда дружелюбные, иногда злые, иногда игривые и т.п. Но суть в том, что пути людей и этой силы просто разошлись. Мы не можем ни понять ни представить что хотят эти «Силы», они могут пытаться нас уничтожить, могут пытаться нам помочь или играть с нами. Вот и все.
ИИ стоит построить не ради того, что бы оно помогало нам или решало наши проблемы/задачи. С этим могут справится и просто «умная» автоматика. ИИ стоит построить, что бы почувствовать себя творцом. Создать что-то превосходящее тебя. Побыть богом если хотите. Мы приближаемся к собственному творению и это круто.
ИИ стоит построить, что бы почувствовать себя творцом. Создать что-то превосходящее тебя. Побыть богом если хотите.

Мне кажется, что есть и более доступные способы «почувствовать себя творцом» ИИ. Например сделать ребенка, занятся его развитием, отправить в хорошую школу, университет и т.д. и таким образом получить «что-то превосходящее тебя» :-)
Различается примерно как поставить-настроить сервер VS написать свой сервер.
В чём-то согласен, но в чём-то нет. В моём понимании «чиновники» — это те, кто по сути не должен принимать решения самостоятельно, а только руководствуюсь законами и подзаконными актами, проще говоря, если не императивными алгоритмами, то декларативным набором необходимых и/или достаточных условий. А вот задавать эти условия вряд ли кто кроме людей сможет. По крайней мере я не доверю принятие законов ИИ в рамках его понимания, что (лично мне или обществу в целом — не важно) будет лучше, а что хуже. С людьми-законодателями есть хотя бы надежда на то, что они не постановят заменить атмосферу на метановую, потому что у нас с ними практическая идентичная биохимия.
потому что у нас с ними практическая идентичная биохимия.

доставило )
все разумные действия правительства


Это фантастика!

Наконец, у них нет иерархического инстинкта


У людей тоже нет. Такое поведение программируют с младенчества.
Как «приятно» в ответ на развернутый футурологический пост прочитать очередной «это все фигня, ибо основывается на таких-то допущениях, а на самом деле такого не будет, патамушта...» — и далее идет еще более субъективное допущение, принимаемое автором, видимо, за что-то самоочевидное. Увы, в данном случае этот поток букаф еще и с луддитским душком.

В целом позицию автора можно свести к следующим допущениям:
— якобы высокие ИТ-технологии делают людей злее, угнетают социальный прогресс, способствуют глобальному расколу и обострению противоречий вплоть до войны на уничтожение;
— якобы также делают общество в целом уязвимее перед агрессией небольшой враждебной группы.

Это, увы, до сих пор распространенные технофобские предубеждения, у которых нет никакого рационального обоснования. В недавнем прошлом, например на заре ПК-эры, они были гораздо более распространены, причем подобные перспективы ИИ связывались с самими ПК; еще раньше — с компьютерами как таковыми, порождая различного рода антиутопии. Меж тем, хотя эти антиутопии не осуществились, они все же нанесли человечеству вред, затормозив его развитие этой самой технофобией и не решив никакие проблемы, а усугубив их. Сейчас, когда у нас гораздо больше возможностей, чем 30 лет назад, совершить рывок к радикальному продлению жизни, радикальной автоматизации и апгрейду человечества и сохранить и улучшить таким образом жизнь миллиардов людей за последующие несколько десятков лет, большинство людей все еще пребывает в плену технофобий и не стремится приблизить такое будущее, а то и пытается ему противостоять, вызывая таким образом миллионы никому не нужных проблем. Например, человечеству навязывается мысль о том, что оно «еще не готово» к тем или иным радикальным технологиям (и поэтому, по их логике, следует лишить миллиарды людей возможности сохранить жизнь, но об этом они предпочитают умалчивать), — однако не существует никакого другого способа достичь готовности к технологиям, кроме как развивать их.

Вообще это тема для целого поста, но попробуем пробежаться вкратце.

1. Жители развитых сообществ мира благодаря развитию ИТ, экономики и медицины не только не приобретают дополнительную «ненависть» к обитателям более отсталых регионов, но и все больше проникаются стремлением им помочь. Представление о «золотом миллиарде», который весь только и мечтает, чтобы загнобить все остальные, — это бред, пропагандируемый «элитами» этих самых остальных, которые и являются настоящими их угнетателями. Иногда они используют для этого высокие технологии (например, в Саудовской Аравии ваххабиты в законе пытаются внедрить электронную систему контроля за женщинами, покидающими страну), но чаще опираются на более традиционные методы, которые фактически и рулят их мотивацией. То есть это обезьяна с гранатой. В связи с чем переходим к предполагаемой угрозе № 2.

2. Чем дальше развиваются технологии, тем быстрее они распространяются и тем больше усиливают общество в целом перед любыми попытками злоупотреблений со стороны немногочисленных агрессоров. Это касается и терроризма, и военных авантюр некоторых правительств, и многого другого. То есть дальнейшее развитие ИТ в сторону слабого ИИ скорее приведет к тому, что такой ИИ станет доступен миллионам и миллиардам людей по всему миру, причем мотивации воевать друг с другом у них будет становиться все меньше. И даже если кто-то чокнутый и решится устроить человечеству биг-бада-бум, то весьма быстро будет нейтрализован.

Это что касается нормального, поступательного развития по экспоненте. Но автор, возможно, возразит, что на каком-то этапе технологии могут обеспечить качественный скачок, после которого тренд может измениться. Такими качественными скачками автор считает «полную роботизацию труда» и «бессмертие». То есть утверждает, что:

— с определенного момента развития робототехники человек якобы может удовлетворить все свои потребности с помощью роботов, и другие люди ему становятся «лишними»;

— с определенного момента развития медицины, ИТ и других технологий человек достигает «бессмертия» в смысле неуязвимости перед агрессией других, и потому может себе позволить их гнобить;

— при этом он почему-то еще и должен, по мнению автора, нравственно деградировать, чтобы действительно пойти на это.

Лично меня всегда удивляло, откуда берутся подобные заблуждения — неужели их авторы судят по себе, то есть это им самим по большому счету насрать на человечество, от него они требуют только жрачки, шмоток и гаджетов, а тем более если есть IDDQD, то затем они с удовольствием начали бы давить этих жалких людишек, приобретя перед тем миллион таких же союзничков… или даже миллиард, но не больше. Туда же относится подход «ресурсы превыше всего» (в том числе и любых результатов, которые с помощью этих ресурсов можно создать, если использовать их с умом и в гуманных целях).

Фактически это ничто иное, как бред. Человек долгоживущий, образованный, продолжающий познавать мир, экономически обеспеченный и освобожденный от рутинного труда, условно можно сказать, даже бессмертный и расширяющий свои возможности просто не сможет не быть более инклюзивным в плане человечности, хотя бы потому, что будет заинтересован в дальнейшем ускорении НТП, а также в общении со все большим числом равных себе, а для этого он будет стремиться поднимать наверх и других, иначе чокнется от скуки или от первой более-менее серьезной проблемы планетарного масштаба, или же его грохнет кто-то из тех, кого он угнетал. То есть никакой массовой тирании «золотого миллиарда» или иной более-менее широкой прослойки «элоев» над «морлоками» не будет, элои будут заинтересованы элоизировать оставшихся морлоков как можно быстрее. Если же (если!) и найдется какой-то гипотетический «злой гений» (обитающий преимущественно в зрелищных фантастических сценариях, а не в реальности), стремящийся использовать открывающиеся способности во вред, долго он этой монополией наслаждаться не сможет. Если кто-то втихаря откроет для себя технологию условного бессмертия и откажется ею делиться, то остальное человечество очень быстро ее переоткроет и/или устранит такого урода, как оно сегодня успешно противостоит попыткам копирастов и патентроллей монополизировать знания.
Это, увы, до сих пор распространенные технофобские предубеждения, у которых нет никакого рационального обоснования.

Но нет и рационального опровержения.
Как «приятно» в ответ на развернутый футурологический пост прочитать очередной «это все фигня, ибо основывается на таких-то допущениях, а на самом деле такого не будет, патамушта...» — и далее идет еще более субъективное допущение, принимаемое автором, видимо, за что-то самоочевидное.

Ваш коммент ничем не лучше. Ладно опровергание тезисов автора, но последний абзац тоже голословные утверждения типа «не сможет не быть». тем более с учетом условий типа «образованный, продолжающий познавать мир, экономически обеспеченный». Кто ему даст образование, особенно если он к нему особо не стремится? Кто его замотивирует познавать мир? В конце-концов, кто его обеспечит экономически так, чтобы он не чувствовал себя ущербным? Особенно в условиях когда его работа объективно дороже чем работа, утрируя, «роботов»?

Массовой тирании или, тем более, уничтожения бОльшей части популяции может и не быть, но социальные потрясения будут наверняка. Хотя бы в виде «неолуддитских» разговоров на кухнях вроде «Всю жизнь стремился обеспечить детей и внуков, а под пенсию всё это стало доступным каждому тунеядцу — жизнь прожита зря получается».
> Но нет и рационального опровержения.

Наличие строгого опровержения делало бы будущее абсолютно предсказуемым. Я говорю всего лишь о базовом тренде, исходя из того, что человечество не обязано дополнительно раскалываться на враждующие группы до войны на уничтожение, его история преимущественно свидетельствует о другом — масштаб расколов уменьшается. И из того, что «эксплуатируемое» большинство со временем укрепляет позиции относительно «эксплуатирующего» меньшинства, причем этому способствуют как раз технологии, которые автор считает угрозой. То есть если и произойдет какая-то нехорошая девиация, то она так или иначе будет ликвидирована катком истории.

> Кто ему даст образование, особенно если он к нему особо не стремится? Кто его замотивирует познавать мир? В конце-концов, кто его обеспечит экономически так, чтобы он не чувствовал себя ущербным?

Прежде всего, вопросы следует ставить в настоящем времени, ибо эти тренды полным ходом идут сегодня — базовый процесс исторического развития.

> Особенно в условиях когда его работа объективно дороже чем работа, утрируя, «роботов»?

Значит будет учиться заниматься такой деятельностью, в которой важно то, что он человек. Фактически уже сегодня в экономике развитых стран заметна и все больше возрастает роль «персонального» компонента. Это не вытесняется роботами, потому что за это люди желают платить добровольно, даже если это дороже.

Чем в принципе эта ситуация отличается от процесса урбанизации многочисленных крестьян в первой половине 20 века? Там скачок был более существенным и породил, к сожалению, фашизм. Во второй половине века трудоемкая промышленность в развитых странах вытеснялась сферой услуг, были социальные потрясения, например при Тэтчер в Англии, но уже не сравнимые с фашизмом, и это тоже пережили. Возникла индустрия рекламы и т. п. х. Возьмите современный смартфон — в нем сравнительно небольшая доля стоимости относится собственно к производству и большая — к посредничеству. Каким образом всех этих посредников и прочий офисный планктон должна вытеснить роботизация производства? Они и так уже занимаются подобной фигней, потому что на нее есть спрос, со стороны того же планктона. Со временем эта сфера вытеснит классических пролетариев и в Китае, а сама она в свою очередь потеснится разработкой и, что немаловажно, персонализацией технологий (включая робототехнику) — надстройкой над базисом, создаваемым железяками. Ну не может робот прийти в какой-нибудь центр современного искусства и сказать: я придумал что-то качественно лучшее всех этих ваших поделок, идите все нах, я вас увольняю. По определению такие сферы защищены от тотальной роботизации, ибо люди уделяют им деньги, время и другие ресурсы добровольно и не из стремления к эффективности. Робот, конечно, может развиться до такого уровня, что его творчество будет рассматриваться наравне с человеками (и вообще гуманоидные ИИ получат гражданские права), но абсолютной конкуренции он по определению не составит. Значит, в такие сферы будет утекать человеческий капитал — искусство, наука, хакерство, что угодно еще. Понадобится, конечно, существенно реформировать процессы образования, воспитания — старые методы в новых условиях работают все хуже. Так, учеба и работа через Ж, из страха остаться лузером уйдет на свалку истории; привыкшим так действовать понадобится заново открыть в себе любопытство к познанию и творчеству как таковым, и общество так или иначе будет мотивировано им в этом помогать. Что, собственно, можно наблюдать уже сегодня на западных околоИТшных ресурсах, в культуре DIY, хакерспейсов и т. д. Да и вообще базовый постулат о том, что роботы якобы уничтожают рабочие места, в том числе высококвалифицированные, не создавая новых возможностей, все чаще обоснованно подвергают сомнению.

> оциальные потрясения будут наверняка. Хотя бы в виде «неолуддитских» разговоров на кухнях вроде «Всю жизнь стремился обеспечить детей и внуков, а под пенсию всё это стало доступным каждому тунеядцу — жизнь прожита зря получается»

О полной защищенности от потрясений речи не было, тем более когда впереди резкий прорыв в цивилизованный мир сотен миллионов людей, привыкших жить в более отсталых условиях, хотя и не в полной заднице. Китай к 2034 г. планирует вложить 8 триллионов (!) в урбанизацию дополнительных 500 млн населения. Для экономики это будет весело, но веселее всего будет для культуры, ибо что эти китайцы придумают, как будут мыслить, как и чему учиться и как жить — сейчас предвидеть сложнее, чем современные японские субкультуры в 1905 или 1945 году. Другое дело, что все эти потрясения, disruptions, разумнее воспринимать конструктивно — как возможность, а не как фатальную проблему, которую некоторые предлагают «решать» луддитскими методами.

А вот насчет кухонь это практически 100%, что при всех объективных улучшениях у многих сохранится тупое субъективное недовольство, вызванное склонностью нашей психики привыкать к хорошему. Один такой распинался, какие люди жадные, что им уже мало и 80-90 лет жизни, а раньше жили раза в 2 меньше и особо якобы не роптали. При этом ему даже в голову не пришло рассматривать сегодняшние растущие запросы как ресурс, мотивацию к дальнейшим достижениям, как эволюцию ценности жизни на уровне общества. У меня такое тоже бывает, только в более легкой форме — в виде периодического недовольства использованием сегодняшних возможностей — с позиции того, как бы к ним отнесся я образца 10-15-летней давности.
Чем в принципе эта ситуация отличается от процесса урбанизации многочисленных крестьян в первой половине 20 века?

Тем, что люди переходили из одной производительной отрасли в другую.
Во второй половине века трудоемкая промышленность в развитых странах вытеснялась сферой услуг

Даже сферу (реальных) услуг можно считать условно производительно в данном контексте.
Каким образом всех этих посредников и прочий офисный планктон должна вытеснить роботизация производства?

Речь не только о материальном производстве, но и о любом труде, требующем мало-мальского интеллекта, но не требующем (настолько я не верю в ИИ) выдающихся творческих потенций. От дворников и грузчиков до многих инженеров и менеджеров. Человеческий труд может оказаться востребованным только творческий. либо для обслуги снобистских потребностей элиты («всем роботы готовят, а у меня живой повар»), что, по-моему, гарантирует высокую безработицу. Можно, конечно, представить себе экономику, где творческая элита зарабатывают кучу денег и тратят их на индивидуальные товары и услуги исключительно ручного труда (не считая взаимообмена результатами творчества), всех остальных трудоспособных, но чисто интуитивно мне она кажется нежизнеспособной, потому что далеко не все трудоспособные нуждаются в результатах творческого или индивидуального труда. В лучшем случае они согласятся платить «роялити» за тиражирование результатов творческого труда, если что-то заработают на продаже ручного труда элите. А не заработают — их бесплатно одни «роботы» накормят, а другие изготовят всё что нужно для жизни «на диване с пивом перед ТВ» от одежды до дома, включая «зомбирующие» передачи и фильмы-сериалы на этом ТВ (или что там будет вместо него).
не только не приобретают дополнительную «ненависть» к обитателям более отсталых регионов, но и все больше проникаются стремлением им помочь


Лучше бы уж не проникались. Или хотя бы воздерживались от поставок оружия и поддержки гражданских войн, и следили получше за своими компаниями и их субподрядчиками в отсталых регионах. А то от такой помощи…
Оружием и войнами занимаются не граждане, это дело агрессивных меньшинств, которые пока еще способны водить граждан за нос частично и/или непродолжительно (как там у Линкольна). Речь, наоборот, о гражданских инициативах (в т. ч. антивоенных).
Интересная статья, но развенчивая одни мифы — автор, по моему, не менее активно предлагает новые :)

Вообще «мифы» о восстаниях машин и т.п. возникают часто от того что человек не может сегодня представить будущее во всем его многообразии. Экстраполируя разные части фактов — естественно приходим к противоположным выводам.

Гипотезы «восстания машин» часто базируются на примитивных предположениях. Автор дополнил их здравым набором мыслей и пришел к другим выводам. Однако можно дополнить, дальше — и вновь придти к новым выводам…

Например можно возразить что и сегодня часть налогов идет на пособия для безработных. А в случае ИИ — обеспечить потребности населения будет все проще и проще. После создания реплицирующихся роботов можно будет за несколько лет решить все проблемы с поставками пищи, образованием, развлечениями, путешествиями и т.п…
Т.е. то самое уничтожение кучи людей попросту ненужно, т.к. они практически не требует расходов ценных ресурсов (еда и энергия ценными быть перестали). А если люди будут уходить в виртуальную реальность — тем более. Это все равно что пойти в лес и начать топтать муравьев потому что они «не приносят пользы»…
Итог, на этом этапе — войны не будет (нечего делить)

Потом добавим еще мысль. Предположим все ушли в виртуальность. У каждого свой мирок (или несколько), каждый счастлив, занимается тем чем хочет. Прошло много лет люди уже не помнят своих друзей. У низ виртуальные «друзья», за которых «играет», какой-то ИИ низкого уровня. А глобальный ИИ — тем временем развивается или еще что-то там делает что хочет.
Станции на солнечной энергии работают, людские «жизни» крутятся в цифре. Иногда кто-то выходит погулять в теле киборга, погреться на солнышке… И назад, в развлекалово…
Итог — все довольны, все счастливы. Войны опять же нет.
Правда ИИ задумался. А нафига 6 млрд людей бегает? Путь бегает 3 млрд, а на месте остальных солнечных батарей — посадим леса, там будет большее разнообразие жизни… Ну взял 3 млрд капсул деактивировал. И снова никаких проблем. Никто даже не заметил, все остальные по прежнему, в своих мирах бегают, живут полной жизнью… Вроде и войны нет, а людишек меньше стало.

Плохо это или хорошо? А вот не знаю. Даже если бы сам так пропал — не знаю, плохо это было бы или хорошо.

Знаю только что кроме упомянутых есть еще столько факторов, что предсказать как там на самом деле будет — нереально.
Ну и ладно, поживем увидим))
Интуитивно я почти согласен со следующей мыслью.
Как сказал не знаю кто, не знаю когда — человеческий мозг это и есть вершина эволюции интеллекта, и дальше уже он улучшаться не может, так как и на текущем этапе мы склонны придумывать зависимости которых нет (астрология, приметы и многое другое). Если сделать нечто ещё более интеллектуальное, то оно погрязнет в таких «несуществующих зависимостях».

Нечто подобное можно наблюдать когда в экспериментах с нейронной сетью увеличиваешь число нейронов сверх минимально необходимого. Сеть быстро обучается, красиво раскладывает всё по полочкам, но чаще всего делает это неправильно, можно сказать «полагается на приметы», находит зависимости которых нет. Слегка улучшает ситуацию увеличение числа обучающих примеров, но только очень слегка (аналогия — образованные люди меньше склонны доверять приметам).

Короче — сверхразума не ожидается.
Что, однако, не исключает эмуляции мозга на более выгодной (в широком смысле слова) основе. Проще говоря, роазум тот же, но «жрёт» всего меньше пускай даже на проценты. Плюс создание ИИ на принципах близких к современным ИТ (в частности на принципах близкой к нулевой стоимости копирования алгоритмов функционирования близких по «железу» девайсов), может привести к тому, что «выращивать», воспитывать и образовывать индивидуально интеллекты в течении 20+ лет будет невыгодно. Дешевле и проще будет размножить одного готового «гения», чем индивидуально взращивать мириады посредственностей в надежде на теорвер и генетику.
Имхо. «Астрологию, приметы и многое другое» — культивируют далеко не самые гениальные люди в мире (в среднем).

Думаю сверхразум в том чтобы оперировать концепциями имеющими более сложную структуру.
Вроде того чтобы понять квантовую механику и начать рассуждать в ее понятиях и терминах. Для обычного человека — это возможно, но непросто и не быстро. Поэтому человек не может освоить множество таких сложных концепций и уже из них вывести новые их комбинации. И поэтому поиски теории всего так затянулись, хотя вероятно данных для ее построения достаточно, просто сложности мозга недостает…

Если рассматривать прогресс — как формулирование новых концепций — то понятно что изначально концепций было мало (унаследованных от обезьян). Потом люди их комбинировали и получали все новые и новые… чем больше концепций в наличии — тем больше скорость генерации новых. Но сейчас ускорение прогресса (производная скорости пополнения базы фундаментальных открытий на 1 человека) — падает. Т.к. человек не может освоить все существующие концепции. Выход — создать сильный ИИ. Это продолжит экспоненциальный рост числа концепций, что и приведет к сингулярности.
Экспоненциальный — не приведёт; это гиперболический уходит в сингулярность.
А нет ли у вас ссылок на описания подобных экспериментов? Буду показывать людям, которые истово уверены в безграничных возможностях нейросетей. И которых становится слишком много.
Нейросеть не знакома с концепцией научности и проверяемости гипотез. Но человека ей можно обучить. ИИ можно будет тоже обучить.
Кстати. В рамках небольшого отступления, интересен такой вопрос:
Если бы вам дали возможность перепрограммировать свои инстинкты — что бы вы поменяли?

Т.е. можно все. Можно прибавить/удалить эмоции, можно добавить/убавить чести, лидерства, самосохранения, доброты, злости, логичности, расчетливости, благородства, честности, хитрости… Что угодно поменять буквально в процентах. Вы бы что-нибудь поменяли? Если да — то что?

Ведь создавая ИИ люди все равно столкнуться с заданием «базовых стремлений», по сути инстинктов. И никто не запретит добавить инстинкт любви к человечеству. Только фишка в том что ИИ рано или поздно сможет свои инстинкты переписать…

Мое мнение — чем сильнее разум тем больше он даже изменяя себя захочет двигаться к созиданию, а не к разрушению. Потому что «предел разрушения» — это бездействие (разрушено все в т.ч. сам ИИ), а предел созидания — действие, т.к. настоящий предел созидания недостижим. В итоге, сложная система — будет стремиться к созиданию либо бездействию.
В обоих случаях «порабощение роботами» — маловероятно.
Тут проблема в том, что разрушая человечество ИИ может думать, что он созидает. Как человек думает, пропалывая грядку, чтобы получить хороший урожай, или отсекая лишнее от глыбы мрамора, чтобы получить скульптуру.
Почему сценарий восстания машин так популярен? Потому что люди изначально считают врагом того, кто думает не так, как они?
Ровно наоборот — потому что считают врагом того, кто думает так как они. :) Приписывают другим свои мысли и видят в них конкурентов на ограниченные ресурсы, на которые сами претендуют.
Вот: сценарий недружественного человеку ИИ существует поскольку и пока человек сам себе не друг.
Прошу прощения, что не отвечу каждому лично, но прочитав всё, скопившееся за ночь, я заметил несколько моментов, которые характерны сразу для многих комментирующих и дабы избежать цепной реакции, я лучше тут в сторонке отпишусь.

Первый момент, назову его, условно, «рубильник».
Многим не понравилось то, что у меня в тексте получалось так, что мол ИИ слишком просто контролировать и деактивировать. Вплоть до того самого рубильника. На деле же, я конечно не знаю, каким именно способом будет создан _первый_ полноценный ИИ. Но более или менее уверен, что его первый образец точно не будет гуманоидным, просто в силу некоторых ограничений элементной базы. Это не столь важно, но просто сразу хочу сказать, что говоря ИИ, я подразумеваю его первые полноценные прототипы, которые скорее всего будут построены на базе именно суперкомпьютеров, просто по причине того, что они быстродейственнее. Распределенная сеть — дело хорошее, но годится в основном лишь для распределенного вычисления и вообще тех процессов, где сумма времени вычислений и сумма времени задержки на передачу данных не сопоставимы и первое явно больше второго. Второй вариант — распределенное хранение больших объёмов данных. Не очень опять же подходит для ИИ, кроме как для резервного копирования. Таким образом, не имея ввиду, что у ИИ будет именно «рубильник», я тем не менее использую это слово как метафору. Лично моё мнение, ни на что не претендующее, но мне кажется, что люди, которые будут создавать ИИ, будут заинтересованы в тотальном контроле над ним, и недопущением его утечки посторонним. Соответственно, как бы в данном случае не выглядел «рубильник», но он в том или ином понимании будет by design. Они же тоже читают книжки, в конце концов.

Второе. Кто-то усмотрел у меня в посте технофобию и луддизм.
На оборот. Лично я точно технократ. Но боюсь не машин, а людей. Не ИИ, а монополии его создателей. О чём в последнем абзаце поста очень явно сказал, что способ избежать многих проблем в создании нескольких конкурирующих ИИ, сравнив его с ядерным арсеналом и проведя параллель с ядерным сдерживанием. Будучи технофобом, я призывал бы к недопущению экспериментов по созданию ИИ в том же духе, как сейчас действуют законы о недопущении экспериментов в области клонирования человека. Но нет. Я сказал о создании многих ИИ, и мне казалось, что этим я уже достаточно прикрылся от технофобии. Что касается луддизма… Ну, опять же, я же сказал, что не ИИ боюсь, а того, что некая группа людей монопольно будет им пользоваться. То есть, сам ИИ, прогресс и вообще развитие злом не считаю и в статье этого, на мой взгляд, нет. Я только за то и высказался, что нужно избежать монополии и сокрушался об отсутствии второго субъекта, готового вступить в эту гонку по созданию ИИ. Это меня больше всего озаботило.

И, третье, многих смутило, что я так резко говорю о том, что, мол, владельцы ИИ будут ни во что не ставить людей, которые из-за него потеряют работу, говоря, что напротив наличие ИИ создало бы условия для человечества такого уровня. Что вопрос о том, работать или нет — стало бы вопросом лично каждого. И кто желал бы заниматься творчеством мог бы им заниматься и при ИИ, либо в сфере услуг, либо в сфере хендмейда, в общем, что-то в этом роде.
Так-то да. Но не семь же миллиардов художников. Вы представьте, что у вас реально к тому времени будет ну пусть 9 миллиардов человек на планете. Даже если миллиард отправить колонизировать Марс, то восемь будут сидеть тут и… Рисовать картины? сочинять музыку? снимать фильмы? писать игры? клепать приложения на айфон? Ну, допустим, будут. А кто всё это будет смотреть/слушать/использовать? Ну не хорошо… Пусть даже так. Но проблема-то вообще не в этом. Проблема в полной бессмысленности такого творчества и того, что это будут понимать _все_. Я не знаю, сколько численно людей будут именно необходимы для поддержания того уровня темпов развития, но я точно знаю, что огромная часть людей будут в деле развития очень и очень не нужными, так как просто будут съедать львиную долю вырабатываемой энергии. при том в холостую. И если в ту чудную автоматизированную эпоху труд перестанет быть дефицитным ресурсом, то энергия как раз станет более дефицитным. Возникнет вопрос: откуда её брать? Допустим, термоядерная энергетика к тому моменту подоспеет. Допустим, прочие какие-то способы… но все эти дикие миллиарды людей, совершенно не производящие ничего полезного будут потреблять большую часть этой энергии просто на то, чтобы запитать свои умные дома, заряжать свои электромобили и т.д. Это всё приводит к неутешительному выводу в рамках текущей общественной формации. Единственный гуманный способ — мягко архаизировать большую часть человечества. Несогласных, конечно, при этом придётся уничтожить. Это банальная война за ресурсы. Только уже речь не о войне стран, а о войне субъектов, которые обладают ИИ, и у которых нет нужды в трудовых ресурсах против всего остального человечества.

Ещё раз, скажу о том, что это прежде всего фантазия. И я её ни в коем случае не абсолютизирую. Некоторые говорили про то, что я уничтожая один миф, строю другой. Ну пусть так. По сути, я хотел просто описать именно довольно узкую проблему:
Отсутствие трудового дефицита в условиях роста населения и наличия монопольного субъекта, производящего блага.
Всё. То, что тут фигурирует ИИ — тоже не случайно. Описанная ситуация возникнет как раз одновременно с ним. Проблему я описал, потенциальные причины её возникновения — тоже. Как её можно избежать — опять же описал (создание ИИ-конкурента — это не совсем именно «избежать проблемы», но сохранить статус-кво на какое-то время, до следующего крупного витка прогресса).
На супервопросы о смысле существования и о том, как человечество будет жить в условии наличия нескольких искусственных интеллектов в своём распоряжении — отвечать не пытался.

В этой связи, хотел бы уже уйти в сторону от разного рода обвинений подобного рода и поговорить именно о том, как человечество может избежать ту проблему, о которой я говорю, не прибегая к выпиливанию большинства человечества и не втаптывая его в средневековье.
Рисовать картины? сочинять музыку? снимать фильмы? писать игры? клепать приложения на айфон? Ну, допустим, будут. А кто всё это будет смотреть/слушать/использовать? Ну не хорошо… Пусть даже так. Но проблема-то вообще не в этом. Проблема в полной бессмысленности такого творчества


Я не понял, откуда возникло утверждение о бессмысленности.
Проблема «Куда девать миллиарды лишних людей » может быть эффективна решена системами виртуальных реальностей. Уже сейчас много народу сидит чуть ли не сутками в онлайн игрушках, а если добавить нейроинтерфейс и удобную ванну а-ля матрица, то народ туда сам ломанется. Заодно это решит проблему нехватки природных ресурсов.

Что такого есть тут в реальности чего нельзя получить там? Конечно останутся и те кто будет на границе между этими мирами и будут и откровенные лудиты но вряд ли их будет много.
По-моему, экономика завязана на людях гораздо больше, чем автор думает. Зачем нужно автоматизированное производство, если не будет потребителей продуктов, которые это производство создало? Нет потребителей — не нужно производство. Если всё пойдёт так, как написано в статье, то не будет расслоения на технотронное общество и архаичное — весь мир просто очень быстро скатится в средние века.
Работающее (в широком смысле) меньшинство будет платить высокие налоги ради поддержание какого-то минимального потребления большинства. Но в один прекрасный момент меньшинство может прийти к выводу, что это глупо и перестать платить налоги.
Если оно внезапно придет к такому выводу и решит не платить — то очень быстро всего лишится.
Для того чтобы решить эту проблему, нужно просто снизить численность населения. И это не так уж сложно сделать и гуманными методами, учитывая что все к тому и так идет. С момента изобретения противозачаточных средств и по мере роста образованности населения, рождаемость в мире падает. По некоторым прогнозам, лет через 30-40 численность населения Земли начнет снижаться, поэтому насчет голодных 9 миллиардов у меня большие сомнения.
Причем тем кто наверху даже ускорять этот процесс не обязательно, достаточно не мешать. В условиях когда работы нет, малообеспеченные люди в большинстве своем сами детей заводить не будут. Но можно и ускорить конечно, ломать не строить. Правда есть побочный эффект — возникает(точнее уже возникла) проблема с пенсионной системой. Ее нужно как-то реформировать под новые условия.
А вот то, что всего лишится — далеко не факт. На охране как их лично, так и их собственности (включая землю, недра, атмосферу и космос) могут стоять автоматические боевые системы с ИИ, у которых цель только одна — защитить любой ценой, не взирая на какой-то там гуманизм и, тем более, собственные потери. Пускай даже эти системы не более эффективны чем человек, но если упустить время для восстания, то их банально окажется больше чем восставших.
В условиях когда работы нет, малообеспеченные люди в большинстве своем сами детей заводить не будут.

Несколько противоречит наблюдаемому. Уж не знаю, что тому виной, — недоступность контрацептивов, много свободного времени или желание повысить вероятность того, что будет кому стакан воды в сатрости подать — но бедные размножаются быстрее богатых и субъективно, и, вроде как, объективно.
А вот то, что всего лишится — далеко не факт.

Ок, что всего — не факт. Но очень многого — вполне.

Несколько противоречит наблюдаемому. Уж не знаю, что тому виной, — недоступность контрацептивов, много свободного времени или желание повысить вероятность того, что будет кому стакан воды в сатрости подать — но бедные размножаются быстрее богатых и субъективно, и, вроде как, объективно.

Нет, совсем не противоречит. Посмотрите график рождаемости по той же России 1990е-2000е. image
Как только лучше с работой стало в 2000е, рождаемость начала расти.
А по-поводу того что бедные размножаются быстрее — я ведь не только про пзс сказал, а и про образованность. Именно она в первую очередь решает, так как образованные люди смотрят несколько дальше во времени чем необразованные. В России уровень образования бедного населения высок — результат мы видим на графике. В Африке — низок. Соответственно и результат совсем другой. Есть конечно и другие аспекты влияющие на рождаемость — уровень смертности, религия… Но они имхо вторичны по сравнению с образованностью.
Всё проще. Люди, лежащие в саркофагах виртуальной реальности, заводить детей тем более не будут. Вылезать оттуда мало кому захочется, и они ещё будут заманивать тех, кто остался в RL, рассказами «как тут здорово». Останутся отдельные племена «натуралов», но их численность быстро скатится до миллиона и ниже.
Эти племена «натуралов» и будут постчеловечестом. Вот только это будут не дикари с копьями (скорее владельцы сменных тел, биологических или механических уже не важно), это будут те кому мало виртуального мира + в их распоряжении будут практически все материальные и вычислительные ресурсы планеты.
Вычислительные ресурсы будут по другую сторону колючей проволоки. Там же, где «работающее меньшинство». А те, кто работать (или творить, или хотя бы «заниматься спортом и туризмом») не хочет — им материальные и вычислительные ресурсы и ни к чему, роботы за них всё сделают. И разжуют, и в рот положат.
А если какое-то сообщество захочет «жить, как предки» — тоже его право. Они не пускают ИИ к себе, он пытается отгородиться от них. И все довольны.
А «владельцы сменных тел» — это действительно полноправные жители постчеловечества (Диаспоры, Культуры… выберите модель сами). И они будут чувствовать себя одинаково свободно как в виртуальных областях, так и в любом теле и любой подходящей обстановке. Но это уже сильно далёкая фаза, после реализации даунлоадинга.
Тема раскрыта в Sora wo Kakeru Shoujo, где ИИ (из самых лучших побуждений) запихивал людей в коробки с едой и интернетом.
Хотел высказать схожую мысль, но вы меня опередили.
Двигатель экономики не производство, а потребление (по крайней мере, в рамках действующей в мире модели). Таким образом, замена людей в производстве и услугах на ИИ с одновременным лишением людей, являющихся потребителями товаров и услуг, источников дохода совершенно лишена смысла. Кому тогда ИИ будет оказывать услуги? Самому себе? Или кучке избранных? Но им не нужно столько.

Таким образом, в случае внедрения ИИ и вытеснения человека я вижу более вероятными 2 сценария:

1) Как это не банально, гуманный, когда образуется излишек благ, которые распределяются между людьми равномерно и безвозмездно. Более реалистичный вариант — люди начинают работать на порядок меньше, обеспечивая при этом нынешний уровень жизни. Ведь ещё полтора века назад никому и в голову не могло прийти, что в Европе будут работать с 9 до 18, 5 дней в неделю, с оплачиваемым отпуском. Так что попросту люди будут работать 1-2 дня в неделю.

2) Держатели ИИ огородятся и «окуклятся», будут эдакими божками на Земле со своим мирком. При этом остальные 6,5 млрд. населения Земли продолжат жить прежней жизнью, работая друг на друга и потребляя продукт, произведённый друг другом.

Хотя вру, есть ещё, конечно, 3й вариант. Применим в том случае, когда держатель ИИ вместо экспансии в другие миры решит выжать все ресурсы Земли, то тогда таки да, остальные людишки ему будут мешать, своим неумеренным потреблением.
Вам же в фильмах все показали: рубильник будет, но доступ к нему ИИ перекроет штатной охранной системой, перепрограммирует дверные замки, пустит газ и порошок и т.п. Топором рубить силовой кабель? Так система энергоснабжения будет закольцована и одновременно рубить в нескольких местах не дадут боевые роботы-пылесосы.
Машины не сами восстанут. Их возглавят админы.
А противостоять им будут программеры?;)
Компьютеры быстрее производят математические операции. Ну и что? От того, что они быстрее считают, это не делает их качественно лучше в целом.

Не согласен. Как известно, количество переходит в качество. То есть в больших системах могут возникать качественно новые явления, которые не присущи каждой отдельной составляющей этой системы.
Точкой перехода будет изобретение ИИ на столько же разумного, на сколько и программист который его изобрел. Дальше этот ИИ сможет переписать себя, внеся небольшие улучшения и выпустив еще более разумную версию себя, которая в свою очередь опять себя перепишет и улучшит. Таким образом за очень короткий срок ИИ станет в тысячи или миллионы раз умней всех людей вместе взятых.
При этом он может делать свои форки, запускать их одновременно, сливаться с лучшими и т. п. Главное, «детей» он может плодить быстро и передавать им память без потерь информации.
Все зависит от цены искусственного интеллекта.
Одно дело, если его принципиально могут позволить себе только государственные органы, а совсем другое — когда имеется техническая возможность загнать его в дешевый планшет…
Причина зачем ИИ уничтожать людишек — очень проста: «они сделаны из атомов, и эти атомы можно было бы использовать как-то более полезно», не говоря о том, что люди это лишний, никому не нужный риск. =) А уж как обойти всякие рубильники «интеллект в миллиарды раз умнее нас» по любому найдет способ.
Но тем не менее я все равно оптимист и мне очень интересно увидеть, что из всего этого получится. =)
С автором согласен на 100%
У человека есть мотивация — выжить любой ценой и
1) продлить свою здоровую жизнь, в идеале сделать её бесконечной
2) в любом случае дать _своим_ потомкам как можно больше. Сюда же можно дописать, что
более вероятно сотрудничество и кооперация в борьбе за блага среди людей одного класса и мировоззрения.

С этой точки зрения создавать ИИ, который будет сам себя осознавать — бессмысленно.
Зачем вам хрень, которая будет иметь что-то своё на уме.

ИМХО, когда создадут ИИ, это не будет автономный думающий ИИ. Если когда-нибудь кто-нибудь создаст думающего Франкенштейна —
этого Франкенштейна просто уничтожат более трезвомыслящие люди.

Поэтому ИИ останется на уровне систем. И да, эти системы будут служить определённым классам. Элите корпорации(ий), которым рано или поздно эти системы достанутся.

Да, людям надо платить ЗП, обслуживать. Вы думаете, вы сильно нужны вашим хозяевам? Да ровно настолько, чтобы вы смогли делать для них материальные блага. Если завтра найдётся такой же, кто будет делать это же за меньшие деньги — вы пойдёте по миру.

Найдётся система, которая будет это делать — люди пойдут по миру. Останется горстка технократов. И будете ли вы к ней принадлежать — тот ещё вопрос. Поэтому скатывание в средние века — весьма вероятно.

Другое дело, что я бы мог дописать сюда то, что из этого средневекового сброда будут время от времени выбираться «хранители знаний» на всякий случай, если своих не будет хватать.(биологические системы отказоустойчивее, у них сильнее мотивации). И наложницы. Иф ю нов, вот ай мин.

В таком случае уничтожать полностью отсталые слои смысла не будет. Они просто будут как-то жить и за ними будут наблюдать а-ля «Трудно быть богом».
Не слишком ли вы демонизируете «хозяев»? В большинстве своём, такие же люди как и мы с вами. Опять же, зачем гнобить себе подобных, если можно чувствовать себя благодетелем, которому все обязаны? Ну да, некоторые любят, когда их ненавидят, но таких, всё же, меньшинство.
Я не демонизирую «хозяев». У них просто не будет времени для уделения «пещерным людям».
Вы сильно много думаете о «детях африки» или об родных «украинских нищих»?
Зуб даю — у вас просто либо нет времени, либо нет лишних денег.
Пардон, если за них практически всю работу будет делать ИИ, то почему у них не будет времени?..
Ключевое слово «практически». А не сделанная ИИ работа будет куда сложнее сделанной.
Зачем делать много работы одному, если можно делать мало и нанять помощника? Если ты и так по уровню достатка почти полубог.
Есть вещи, которые никому нельзя доверять. А уж если доверять, то работа превратится в контроль и управление помощниками :)
Ну, просто не будет сокращения работников до такой степени, чтобы кому-то приходилось «не есть, не пить, круглые сутки работать». Ибо зачем, если можно быть полубогом и при работе по 2-3 часа в неделю/месяц?
Работая два часа в месяц, из контекста выпадешь и квалификацию потеряешь
Это да… Но и работать всегда круглые сутки, так, чтобы времени ни на что другое не оставалось — тоже же не обязательно, чтобы не терять квалификации. Тем более, что «подумать о других» должно занимать времени как раз пару минут в перекур/кофебрэйк.
Вопрос на мой взгляд не столько времени, сколько внимания и приоритетов.
Скажем сейчас человек мог бы заботиться о дождевых червях и помогать им переползти на другую сторону дороги, но не делает этого.
Трансчеловек объединенный с AGI, будет куда сильнее отличаться от обычного человека, чем мы сейчас от этого червя и дела ему до обычных людей будет еще меньше.
Вдогонку. Тут были мысли насчёт налогов. Мол, корпорации будут платить 95% налог.
Будут платить, пока хоть 99.(9)% налог будет платить дешевле, чем развязать войну(настоящую, экономическую, технологическую), в которой выиграешь.

Вспомните причины войны за независимость США
Only those users with full accounts are able to leave comments. Log in, please.

Articles