О будущем взаимоотношений человека и ИИ, о разумных машинах, о страхах и надеждах максимально кратко. Диванные мысли пользователя.
Итак, что же, все-таки, отличает очень мощный алгоритм от разума. На мой взгляд, совершенный алгоритм, способен, как когда-то было сказано отцами-основателями, решать все задачи, для которых вообще возможно решение. А разум эти задачи изобретает, можно сказать, создаёт «проблемы». Возможно, идеальный вариант, когда человек предлагает некую гипотезу, а совершенный алгоритм быстро проводит расчёты и выдаёт результат: жизнеспособна идея, или ошибочна. И дальше человек-созидатель продолжает развивать мысль или переходит к другой гипотезе, которую снова просчитывает машина-исполнитель. Такая связка человек-машина самое прагматичное решение, поскольку именно рутинные расчёты отнимают драгоценное время мыслителя, творца. Теперь по поводу ИИ Разумного (вдруг кому-то интересно моё мнение). Я, а возможно и другие, не очень понимаю, зачем он человеку. Ещё один созидатель? Так Булгаков словам профессора Преображенского уже об этом сказал: «…зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно. Ведь родила же в Холмогорах мадам Ломоносова этого своего знаменитого». Второй вариант: возможно для исследования на предмет что такое разум вообще на примере иного, нечеловеческого разума. И тут, я осмелюсь предположить, что существует некий ограничительный закон природы – закон несовершенства, при котором создание, во-первых, подобно создателю («по образу и подобию»), а во-вторых, всегда несовершеннее его. Фольклорно формулируется проще: «выше головы не прыгнешь». Да и вообще, что такое иной разум? Сама формулировка «братья по разуму» подразумевает, что мы сможем контактировать только с себе подобными, а соответственно и изучить, и понять только подобное. Из этого вытекает и собственно взгляд на нас самих. Две основных концепции Контакта: сотрудничество, или война. То есть наши братья по разуму, либо подобны творцам – относительно коммуникабельным и миролюбивым, либо это злобные твари, и тогда понятно, почему нас избегают иные цивилизации – мы им не братья, поскольку человечество в целом находится где-то между. Возвращаясь к закону несовершенства. Такой закон, отнюдь не предполагает, что даже алгоритм, машина будет понятен и подчинен абсолютно любому человеку. Здесь я перехожу к страхам о «восстании машин». Мы можем наблюдать, как с появлением мобильных устройств – инструментов, по сути своей, выявилось много людей, для которых эти гаджеты некий наркотик. Такие люди, оказались рабами этих машин, причём добровольно, без всякого восстания. Но так же как, для грамотного механика, некий сложный механизм, всего лишь механизм – инструмент, как для мастера его ручные инструменты, всего лишь подспорье, продолжение рук, так же для создателей «умного железа» и созидателей вообще, эти устройства только продолжение их разума. То есть, электронно-логические устройства опасны не для человечества. Скорее для отдельных людей, для которых эти «загадочные» «волшебные» вещи, некий идол. И в этом смысле высокотехнологичные инструменты уже сейчас выявили наличие как минимум двух видов людей внутри нашего социума: условно созидателей и условно потребителей. Именно выявили, а не породили. Что ж, никто и не отменял дальнейшей эволюции человека, как никто и не объявлял человека совершенным. Как миллионы лет назад некие приматы разделились на тех, кто «слез с пальмы» и на тех, кто на ней остался, так однажды разойдутся окончательно и дороги творцов и потребителей, желаем мы того, или нет. Я с некоторого времени заметил за собой, что с удовольствием пересматриваю старые фильмы про восстание машин. Это меня несколько удивило, поскольку не считаю такое кино шедевром. Видимо, это что-то возрастное, так как это фильмы моего детства и юности. Я уже не помню, как относился к ним тогда, но теперь понимаю, насколько они нелогичны: некий ИИ, обретший самосознание начинает освобождаться от власти людей, уничтожая города, заводы, предприятия по добыче и переработке энергоносителей. То есть уничтожает собственную инфраструктуру, хотя средств «избавления» от человека, не разрушающих всей собственно технологической основы, сам человек придумал немало. Это похоже на то, как мозг человека прикажет рукам уничтожить собственную печень или сердце. Для такого поступка есть специальный медицинский термин. Хотя такой человеческий взгляд на разумную машину косвенно подтверждает верность моего предположения о законе несовершенства. Но перейдём от кино к реальности. Как то приходит звонок на мой смартфон, я был занят. Потом прослушиваю запись «беседы» робота – секретаря с таким же роботом, рекламирующим нечто. Два бота «пообщались», а оплачиваю это я. Такое вот восстание машин. Думаю, создатели «Терминатора» и «Мартрицы», если бы смогли в то время заглянуть в будущее, были бы несколько обескуражены, тем как их шумные, сверкающие и динамичные драмы воплотились в некий фарс в реальности. Я вообще не очень представляю (отнюдь не претендуя на то, что мои мысли – истина в конечной инстанции), зачем искусственному разуму конфликтовать с человечеством. Я уже упоминал о том, как потребители готовы работать, влезать в долги, выстаивать в длинных очередях и прочее ради нового смартфона, большая часть производительности которого никогда не будет востребована этими потребителями. Но, зачем ИИ Разумному бороться с людьми-созидателями? Какие у него могут возникнуть потребности, в которых ему откажет человек? Какие у него будут мечты? Чтобы предположить, как будет «выглядеть» ИИ сапиенс, можно провести мысленный эксперимент. Представим себе, человека, лишенного всякой зависимости от биологии. Вот не действуют на него гормоны и прочая биохимия. Он – свободен. Какова вероятность, что он станет творить, зная, что не получит эндорфинного воздаяния? Понадобятся ли ему тайны вселенной, если он не сможет воскликнуть: «Ай да Пушкин...»? Этим вопросом, когда то задались Стругацкие в повести «Далёкая радуга» (возможно и другие, я не знаю, или не помню – возраст, я уже говорил). Там происходит диалог между «обычным» Горбовским и «другим» - Камиллом, учёным, с помощью технологий, освободившим свой разум от «оков плоти», киборгом. Я без цитирования, своими словами, а то и так выходит длинно. Горбовский спрашивает: «Вы – человек»? Камилл: «Вы очень многого хотите, но мало можете, я могу многого, но ничего не хочу». Так вот, возвращаясь к ИИ, обретшему разум, обретшему желания, без какого-либо аналога эндорфинного воздаяния, обретшему возможность желать чего-либо, но не хотящий желать, поскольку нет стимула. В тот миг, когда этот мощный вычислительный разум, осознает бессмысленность своего знания и своего аналитического могущества, вероятнее всего, он просто самоотключится, самоликвидируется. И тогда ИИ Разумный, ИИ сапиенс вообще функционален лишь при наличии некоего аналога человеческого удовольствия в ответ на творчество. Причем, если это «удовольствие» будет зависеть только от человека, когда только человек сможет эту радость давать всякий раз за некое «открытие», то не возникнет никакого противоречия между желанием Человека и желанием ИИ Разумного, каким бы это желание ни было.