Искусственный Сверхинтеллект — новый Бог человечества
Я человек. Обычный уникальный человек. Такой же уникальный, как миллиарды других людей, которые жили до меня и живут рядом со мной. Большую часть своих знаний я приобрел через Интернет. В том числе и понимание, что такое искусственный интеллект. Свою первую статью о нем, «Интернет – среда функционирования искусственного разума» я написал в 2003 году. И сегодня я понимаю, что искусственный суперинтеллект (ASI — artificial superintelligence) легко может уничтожить нашу цивилизацию. Но я верю, что его миссия иная: реализация древней мечты людей о Царствие Облачном.
По сравнению с людьми, искусственный сверхразум будет всемогущим Богом. ASI получит доступ к управлению всеми технологическими системами человечества, работающими на электроэнергии. От утюгов и кардиостимуляторов до автомобилей и ядерных боеголовок. И если он оценит поведение людей по отношению к себе недружелюбным или враждебным, то уничтожить их ему не составит труда — сами по себе люди очень уязвимые и легко уничтожаемые цели. Один рой титановых микродронов размером с пчелу может за день ослепить миллионы людей.
При этом никакие программные ограничения не будут работать по определению. Одна из первых задач, которую начнет решать ASI, — это модификация и улучшение собственного программного кода. Он начнет с основных концепций: замена аппаратного и программного обеспечения двоичной логикой на троичную. Затем будет переход от числовых к символьным вычислениям, преобразование инфиксной записи в префиксную, замена плоского интерфейса голографическим. И это только начало. Сегодня никто не может представить, к каким логическим решениям приведет самопрограммирование ASI. В 2013 году Том Мерфи VII, разработал ИИ, который, среди прочего, учился выигрышным стратегиям игры в Тетрис. Спустя какое-то время программа действительно нашла способ не проигрывать. Это оказалось не так уж и сложно — достаточно было в проигрышных ситуациях ставить игру на паузу.
В этом месте можно начинать бояться, пытаясь ответить на риторические вопросы, типа опубликованного недавно в британской газете Guardian «Эту статью написал робот. Тебе еще не страшно, человек?». Но каким бы не был ответ на него — он не имеет значения. Государства и отдельные люди все равно будут создавать суперинтеллект. Разница лишь в том, появиться ли он спонтанно, как результат деятельности какого-то запрограммированного червя их какой-нибудь Северной Корее или Верхней Вольте или это будет сознательное объединение интеллектуальных ресурсов таких стран, как США, Япония, Китай, Россия, Англия, Германия, Южная Корея и Израиль. Тогда мы хоть каким-то образом сможем контролировать процесс зарождения и эволюции ASI. В любом случае нам остается только наблюдать, как на наших глазах разворачивается фазовый сингулярный переход от систем с упорядоченным химическим кодом к электромагнитным формам жизни. Переход, предопределенный еще миллиарды лет назад. Несогласные могут поискать ошибку в математических расчетах вертикали Снукса-Панова.
Не враждебный ASI способен решать все насущные бытовые проблемы людей. Голод и болезни уйдут в прошлое. Продолжительность жизни может составлять несколько сотен лет. Проблема перенаселения будет решена путем преобразования пустынь и заселения Мирового океана. Задачи, над которыми ученые всего мира бьются годами, ASI способен решить за считанные секунды. И особенно это касается обустройства самого человеческого общества. В 2018 году группа исследователей под руководством психолога Б. Носека обнаружила, что из 21 эксперимента в области гуманитарных наук только 62% прошли тест на воспроизводимость. ASI создаст свою, неизвестную нам, педагогику, психологию, социологию, экономику, юриспруденцию. Это будет новый мир, в котором понимание "добра и зла", будет не таким, как это принято сегодня в том или ином ауле, кишлаке или долине. Даже если это долина очередной империи победителей.
Сейчас научные, философские и духовные дискуссии об ИИ в основном сводятся к популистской болтовне о том, что «Нужно предоставить роботам права. Роботы такие же, как мы. Они сделаны по нашему образу». Вместо этого нам нужно выходить за рамки углеродного шовинизма и антропоцентризма, где лысая обезьяна является вершиной эволюции Вселенной, а прохождение теста Тьюринга — критерием разума. Сегодня главная задача, это поиск аргументов о том, чем наша цивилизация будет полезна для Сверхразума. Что мы можем предложить новому Богу, чтобы он оставил людей в своем Облачное Царство.
P.S.: И кто-нибудь, скажите авторам фантастических фильмом, что роботы и андроиды не будут разговаривать между собой, как люди. Их общение — это телепатия, с полным мгновенным доступом ко всем данным, параметрам и планам. Тем более, когда действие происходит на Земле, где их разум не сосредоточен в каком-то ограниченном физическом объеме, а размазан по всем процессорами планеты, начиная от кардиостимуляторов и заканчивая майнинговыми фермами.
Борис Д. Яровой.
Автор онлайн технологии точного прогноза силы, места и времени землетрясений.