Писатели-фантасты на протяжении многих лет регулярно обращаются к сюжетам про «восстания машин», но по актуальности они, кажется, сейчас отходят на второй план. Зато можно рассмотреть другую интересную сторону этой медали: историю о том, как люди сами отдают контроль над своими жизнями в руки искусственных интеллектов и алгоритмов. Просто потому что они точнее, надежнее и не думают о собственной выгоде. Если мы уже можем читать реальные новости про цифрового прокурора в Шанхае и выпускников, которые готовы доверить искусственным интеллектам выбор своей профессии, то почему бы фантастам не рассмотреть возможные изъяны и риски? И они действительно уже делали это не раз! Вот несколько ярких примеров от классики и до наших дней.
«Культура» Иэн Бэнкс
«Культура» — условный цикл произведений, книги в котором связаны общим миром, но обладают самостоятельными сюжетами. Автор работал над ним с конца 80-х до 2012 года, что для космооперы, которая исследует множество социальных вопросов, выдающийся «марафон». Культура — это общество будущего, где гуманоиды соседствуют с разумными машинами и мягко контролируются ими. Разумы — сверхмощные компьютеры, которые поддерживают существование тепличных условий для своих биологических подопечных. И, можно сказать, что общество это выглядит довольно утопически: у людей есть все, что необходимо для жизни, они могут ни о чем не беспокоиться, купаясь в удовольствиях. Но со временем все очевиднее возникают неудобные вопросы. А ради чего? А стоит ли такое спокойствие остановки в развитии? А что, если враги Культуры тоже по-своему правы? А стоит ли вообще настолько беспечно доверять свое благополучие Разумам? Даже если компьютеры добросовестно заботятся о Культуре, а не злоумышляют и не злоупотребляют доверием.
В целом это тот случай, когда за первой книгой было сложно угадать, какое потрясающее будущее ждет цикл. Пружина раскручивалась постепенно. Вот наемник, по которому впервые становится видно, насколько незначительна пешка в руках Культуры («Выбор оружия»), вот — забавный чат Разумов космических кораблей, которые полюбят множество читателей («Эксцессия»). Фокус медленно смещается с гуманоидов на иные формы жизни, угол обзора становится шире… И идея Культуры остается понятной и по-своему привлекательной, но только одной из возможных форм развития. У Бэнкса превосходно получается показать обстоятельства, но решение оставить за читателем.
«Страна Качества» Марк-Уве Клинг
Антиутопия ближнего прицела родом из Германии. Довольно язвитель��ая сатира на общество потребления и беспечного доверия к алгоритмам. Клинг описывает страну, где чинить сломанное запрещено — ведь можно купить новое. Жителей, которые судят других по рейтингу в социальных сетях (который, разумеется, тоже высчитывается машинами), позволяя ИИ подбирать себе «подходящих» друзей и партнеров. Тут будет много деталей, забавных и по-своему пугающих, когда замечаешь, что до этого торжества абсурда нам, как обществу, осталось всего-то несколько шагов. Надо отметить, что в родной Германии автор сделал себе имя в стендапе. К этому можно относиться по-разному, но во многом именно так легче всего описать опыт, который вы получите от этой книги. Хороший стендап ювелирно работает с «болями» общества, и в «Стране Качества» Клинг занимается этим же.
Когда нам не пытаются показывать «картину в целом», нашим героем становится Петер Безработный (фамилия в Стране Качества дается по профессии родителя), социальный рейтинг которого ниже плинтуса. При этом в иных обстоятельствах у Петера могло бы быть настоящее призвание — он собирался быть «доктором» для разумных машин. Вместо этого он вроде как занимается их утилизацией, но на самом деле — коллекционирует в подвале, создавая себе небольшую общину товарищей. То, насколько человек здесь равен с разумной машиной, и насколько легко и тех, и других готовы выбросить на обочину жизни — на самом деле, изящный штрих. Но, пожалуй, лучшее в «Стране Качества» — это ощущение оторопи от коллективной добровольной слепоты, которая воплощена через идею алгоритмов, но на самом деле является общей проблемо�� масс.
Книга обладает законченным сюжетом, но после ее успеха Клинг написал сиквел, «Страна Качества 2.0», в котором Петера ждут новые проблемы, а алгоритмы начнут вести себя предельно странно.
«Мы — Легион. Мы — Боб» Деннис Тейлор
Гик-фантастика о талантливом молодом человеке, мозг которого был преобразован в искусственный интеллект для управления космическим зондом. Первый роман цикла Тейлера — это бодрое приключение, где между строк герой осмысляет, что для него значит потеря статуса «человек» и куда ему двигаться дальше. Не будет большим спойлером сообщить, что «дальше» он решает создать приличное количество собственных копий, управляющих аналогичными зондами, чтобы больше успевать, а к тому же было не так скучно. И вот тут-то начинается то, за что Тейлору можно поаплодировать.
Бобы некогда были одной личностью, но в то же время мы быстро учимся их отличать, они становятся для читателей разными героями (практически все действующие лица, которые у нас есть, однажды были Бобом). А еще, поскольку человечество приближается к тому, чтобы уничтожить Землю, пока Бобы исследуют космос, им приходится быть «нянями» целой цивилизации: найди новый дом, организовать «переезд», не допустить новых конфликтов. То есть, разобравшись с уровнем рефлексии «кто я теперь, если не человек?», Боб очень быстро переходит на уровень «теперь я сверхразум, который контролирует человечество». И, кто бы сомневался, что это окажется непросто.
«Город и звезды» Артур Кларк
Классика фантастики о благополучном обществе, которое закрылось в тепличном состоянии и перестало развиваться. В каком-то смысле идеи «Города и звезд» и «Культуры» Бэнкса можно назвать перекликающимися. Но Кларк ограничился куда более скромным объемом, а к тому же на страницах книги размышляет об опасностях создания ИИ без каких-либо ограничений и лимитов. История попыток старой Империи создать Чистый Разум и их первого провала — отдельной глубины рассуждение о природе сознания и отношениях творца и творения. И все-таки под тему сегодняшнего разговора подходит в первую очередь Диаспар — город-ковчег, крепость, произведение искусства. Машины сделали его бессмертным, самоуправляемым, поддерживая численность населения и содержа его в безопасности. И большая часть сюжета посвящена именно тому, как герой пытается выбраться из этого стеклянного оазиса благополучия.
Многие описания быта Диаспара завораживают даже спустя более 50-ти лет после выхода романа. Это размеренная жизнь бессмертных гениев, которые проходят циклы жизни и «хранения», но при этом не страдают от скуки или лишения свободы воли. Интересны идеи о том, как может функционировать такое общество и какие технологии помогают ему поддерживать баланс. Диаспар сделан как вечная независимая система… И все-таки даже визионеры, которые создали его, подумали о «предохранителе» от стагнации. А благополучная вечность — тоже стагнация.
«Песни Гипериона» Дэн Симмонс
Трудно обойти вниманием культовую тетралогию Дэна Симмонса, даже если тема его ИскИнов и Техно-Центра хрупко застыла между тем самым «ИИ, которое управляет человечеством» и «восстанием машин». Во второй книге читателей ждут и причудливые интриги, и даже военные действия, особенно захватывающие с учетом того, что от ИскИнов зависит способность людей путешествовать между планетами. Гегемония как межзвездная империя не может существовать без ИскИнов… но не готова столкнуться с тем, что машины собираются воспользоваться этой ситуацией, преследуя свои цели.
Изначально космические прыжки, Нуль-Т каналы и система связи были «подарками» от ИскИнов для своих создателей, которые как раз нечаянно уничтожили Землю, так что возможность заселить космос пришлась очень кстати. Но только в конце тетралогии читатели узнают всю правду о причине такой щедрости со стороны уже самоосознанных машин. По сути, в этом сюжете человечество дважды строит свою цивилизацию, опираясь на возможности ИскИнов… В то время как чистый компьютерный разум раздумывает: использовать людей для собственных целей или все-таки уничтожить? Как вы можете заметить, меня зацепила идея взаимодействия различных фракций ИскИнов, потому что даже общность ИИ — в конечном итоге не одно сознание. Даже холодный машинный расчет может привести к разным выводам.