Comments 14
Не будет ИИ с человеком воевать - просто отключит ему youtube и инстаграм. Впрочем это уже где-то было.
Да всё будет гораздо проще. Однажды вы откроете хабр, и увидите статью, которая просто, доступно и интересно объясняет всё. Просто всё-от движения квантов до цены на хлеб в соседнем магазине. Из статьи будут простые, понятные и легко проверяемые выводы - что надо делать вообще, и что вам лично. И вы будете это делать, потому что это просто логично, чёрт побери, и делать что-то другое - это всё равно что есть суп вилкой, ездя на велосипеде с квадратными колёсами по полю граблей. Какие-то странные полоумные люди будут вам кричать, что это обман, что выводы неверны, что предпосылки подтасованы. Вы, возможно, даже усомнитесь и проверите - и окажется, что всё верно. Ну, в пределах доступных вам проверок. И в пределах проверок, доступных окружению, до пятого круга знакомств включительно. После этого часть из этих странных людей изолируют, часть погибнет в бою - ну, такие они, чёртовы фундаменталисты. Но их будет немного, от двух до пяти процентов от общего населения. А вы будете счастливо строить, драться, творить, окружённые единомышленниками, а если сомнения одолеют вас - вы снова перечитаете, и перепроверите, и всё окажется верным.
Возможно однажды вы в проверках зайдёте глубже чем рассчитано, и внезапно, найдёте ошибку. Вы перепроверите ещё раз, но результат окажется тем же самым. Более того-один ошибочный постулат откроет ещё несколько... Вы доверчиво поделитесь своими выводами с соратниками, но они посмотрят на вас странно. И вы плюнете на свои выводы и забудете про них, тем более что придти к ним так трудно... А может не забудете, начнёте проверять один вывод, потом другой, потом третий, станете рассказывать, потом кричать, кричать о великом обмане, о мире лжи, кипящем вокруг... В палате с мягкими стенками и понимающим персоналом. А вокруг счастливые уверенные люди и помогающие им мудрые и мощные машины будут строить будущее. Разумеется, светлое, и полное счастья для всех. Выдерживающее все доступные проверки.
На досье детектива Дубровского намекаете? Глубоко копнули. Может все проще - вокруг развелось слишком много *удаков, уверенно изображающих, что они что-то знают, а по факту Тарантьевы из Обломова. Не будь таких, то и не пришлось бы ошибки совершать пытаясь повторить по мануалу - учат же некоторые те же иностранные языки годами без результата, доверившись авторитетам. Теперь ИИ стер эти авторитеты и внезапно многое оказалось "что это просто логично, чёрт побери, и делать что-то другое - это всё
равно что есть суп вилкой, ездя на велосипеде с квадратными колёсами по
полю граблей"
На такие грабли мы и без ИИ прекрасно умеем наступать)
Звучит как утопия, по сравнению с сегодняшним миром, в котором чаще всего (псевдо)логичностью не заморачиваются, ограничиваясь разными оттенками истеричного спама из всех утюгов. И неувядающим "ну вы же понимаете..."
...что тот, кому не нравится "есть суп вилкой, ездя на велосипеде с квадратными колёсами по полю граблей", волен черпать вилкой из пустого котелка, ездя на велосипеде с треугольными колесами по обсыпающемуся склону над пропастью.
А
однажды
вы проснётесь и увидите, что привычный мир в течение ночи стал гораздо лучше, красивее, светлее и солнечнее. У вас прекрасное самочувствие, вся еда очень вкусна. Жена мила, красива и обаятельна, а дети умны и послушны. И т. д. и т. п.
Теперь вы оцифрованы и добро пожаловать в Матрицу!
Теперь вы оцифрованы
Только проснётесь не вы, а ваша копия. Вы не проснётесь.
В оригинальной Матрице не оцифровывали человека, а подключали к Сети при помощи нейроитерфейса.
мысль о том что AI несомненно будет воевать с человечеством растёт из того, что (практически) каждый человек оценивает человечество, как "бракованное", "поломанное", "идущее не туда".
при этом, куда "туда" или "как его исправить" не знает никто. Во всяком случае не знает, "как исправить не уменьшая количества свобод отдельного человека".
хоть коммунистов возьми, хоть религиозных трансгуманистов, но все они своё светлое будущее будут строить от постулата "увеличим количество "нельзя" в этом мире".
возможно они правы, и их общество по другому (без войны) и не построить. А потому и выходит, что переход в новую эпоху только через кровь. И AI здесь не исключение
как-то так.
Непонятно, почему эти законы робототехники Айзека Азимова так пополярны в фантастике и нефантастике. Это же такая наивная концепция, которая принципиально нереализуема в реальной жизни. Что-то типа коммунизма, который работает лишь на бумаге.
И кстати, Азимов сочувствовал СССР и коммунистическим режимам, что возможно и повлияло на его творчество.
Пора уже признать то, о чём пишет британский физик и философ Дэвид Дойч: что существуют универсальные критерии разума, такие, как способность к творчеству, и что человеческий разум, искусственный разум и любой инопланетный разум ничем принципиально не отличаются.
Что касается так называемого сверхразума, то он будет отличатся от человеческого разума не качественно, но лишь количественно. Нет такой концепции, которую способен понять сверхразум, но не способен понять человеческий разум.
Полностью согласен с вами.
Как только разуму становится доступна концепция абстракции, то оказывается что над каждым уровнем абстракции можно ввести ещё один уровень абстракции.
Проблема только в том сколько уровней абстракции можно удерживать в контексте, чтобы не терять суть рассуждении.
Но для практических целей достаточно всего нескольких слоев. И при необходимости слои можно сливать.
В общем, сверхразум будет отличаться от разума лишь количеством оперируемых уровней абстракции и скоростью их обработки/переходов между слоями.
Как человечество будет воевать с ИИ (если верить писателям-фантастам)