Привет, Хабр! В прошлый раз мы говорили о Станиславе Леме. Он очертил будущую философию ИИ, ролевой интеллект и симуляцию сознания. Но есть вопросы, которые он почти не трогал: а как мы будем жить среди этого всего? Как изменится быт, восприятие реальности, социальная ткань? Есть исключения — «Возвращение со звезд» или, например, «Магелланово облако», но, как было сказано в прошлом посте, бетризации мы вряд ли дождемся.
Так что в этот раз я предлагаю обсудить, что об этом думали другие авторы.
Дисклеймер: в посте не будет Азимова — о нем поговорим в одной из следующих статей цикла и под другим углом обзора. Он верил в разумную робототехнику, в законы и в то, что люди и машины договорятся. Мы живем в ином мире. ИИ проникают во все сферы жизни, от алгоритмов соцсетей до отдыха и работы, но остаются непрозрачными и лишены видимого авторства.
Сегодня — о двух противоположностях, которые оказались весьма близки в своих прогнозах и видении. Встречайте: Клиффорд Саймак и… уже догадались?
Клиффорд Саймак: пророк удаленки, смерти городов и умного дома
Творчество Клиффорда Саймака часто называют «пасторальной фантастикой». Собственно, сама фантастика для него вторична — он склонен говорить о лесных тропинках, старых псах, фермерах и каминах.
Здесь я хочу сказать о романе в новеллах «Город». Он написан в период с 1944 по 1951 год (в 1973 году дописан эпилог), но сейчас читается как постковидная бизнес-аналитика.
Деурбанизация и удаленка: конец «муравейников»
В «Городе» Саймак описывает фундаментальный сдвиг в человеческой цивилизации. Как только технологии позволили передавать информацию мгновенно, а транспорт стал дешевым и доступным — в книге это личные атомные вертолеты, — города просто потеряли смысл.
Зачем жить в перенаселенном, грязном, тесном «муравейнике», если можно построить усадьбу в лесу, дышать свежим воздухом, а на работу «выходить» дистанционно? Такова суть деурбанизации. Город исторически был нужен для физической концентрации ресурсов и рабочих рук. Уберите эту необходимость — и город умрет.
Олдермен Гриффин сказал, что город умирает на глазах. Верно сказал, с одной только небольшой поправкой: он выразился слишком мягко. Город — этот город, любой город — уже умер.
Город стал анахронизмом. Он изжил себя. Гидропоника и вертолеты предопределили его кончину. Первоначально город был попросту пристанищем того или иного племени, которое собиралось вместе, чтобы обороняться от врагов. Со временем его обнесли стеной, чтобы усилить оборону. Потом стена исчезла, а город остался как центр торговли и ремесла. И просуществовал до нашего времени, потому что люди были привязаны к месту работы, которое находилось в городе.
Теперь условия изменились. В наше время, при семейном вертолете, сто миль — меньше, чем пять миль в тридцатых годах. Утром вылетел на работу, отмахал несколько сот миль, а вечером — домой. Теперь нет больше необходимости жаться в городе.
Начало положил автомобиль, а семейный вертолет довершил дело. Уже в первой четверти столетия люди потянулись за город, подальше от духоты, от всяких налогов, — на свой, отдельный участочек в предместье. Конечно, многие оставались: не был налажен загородный транспорт, денег не хватало. Но теперь, когда все выращивают на искусственной среде и цены на землю упали, большой загородный участок стоит меньше, чем клочок земли в городе сорок лет назад. И транспорт перестал быть проблемой, после того как самолеты перешли на атомную энергию.
Он остановился. Тишина. Мэр был явно потрясен. Кинг беззвучно шевелил губами. Гриффин улыбался.
— К чему мы пришли в итоге? — спросил Вебстер. — Сейчас я скажу к чему. Кварталы, целые улицы пустых, заброшенных домов. Люди взяли да уехали. А зачем им оставаться? Что мог дать им город? Предыдущим поколениям он что-то давал, а вот нынешнему — ничего, потому что прогресс свел на нет все плюсы города. Конечно, что-то они потеряли, ведь какие-то деньги были вложены в старое жилье. Но все это с лихвой возмещалось, поскольку они могли купить дом, который был вдвое лучше и вдвое дешевле; могли жить так, как им хотелось, обзавестись, так сказать, фамильной усадьбой вроде тех, которые всего несколько десятилетий тому назад были привилегией богачей.
Разве не это мы пережили в 2020 году и продолжаем переживать сейчас? Телеком-сервисы и глобальная релокация делают офисы опциональными.
IT-специалисты перебираются на более живописные (и сравнительно более дешевые) земли, продолжая коммитить код для корпораций, чьи штаб-квартиры находятся за тысячи километров. А спутниковый интернет вроде Starlink со временем окончательно добьет необходимость быть привязанным к инфраструктуре мегаполиса. И мы находим способы работать удаленно, даже несмотря на все текущие ограничения.
В мире Саймака у людей даже развилась агорафобия из-за того, что им буквально больше не нужно было выходить из дома.
Интернет вещей и бесконечное самообслуживание
По мере того как люди разъезжались по усадьбам, их быт полностью брали на себя роботы. Самый яркий символ этого у Саймака — робот Дженкинс, он же практически главный герой книги. Этого глобального Умного Дома. Дженкинс заботится о семье Вебстеров поколениями.
И вот конечный итог: безмятежная жизнь, мир и покой, возможные только тогда, когда царит полное благополучие. То, к чему люди искони стремились, — поместный уклад, правда, в новом духе, родовое имение и зеленые просторы, атомная энергия и роботы взамен рабов.
Вебстер улыбнулся, глядя на камин с пылающими дровами. Пережиток пещерной эпохи, анахронизм, но прекрасный анахронизм... Практически никакой пользы, ведь атомное отопление лучше. Зато сколько удовольствия! Перед атомной печью не посидишь, не погрезишь, любуясь языками пламени.
А этот склеп, куда сегодня поместили прах отца... Тоже часть — неотъемлемая часть — поместного уклада. Покой, простор, сумрачное благородство. В старину покойников хоронили на огромных кладбищах как попало, бок о бок с чужаками.
«Он никуда не ходит».
Так ответил Дженкинс священнику.
Так оно и есть на самом деле. А для чего ходить куда-то? Все, что тебе нужно, тут, только руку протяни. Достаточно покрутить диск, и можно поговорить с кем угодно лицом к лицу, можно перенестись в любое место, только что не телесно. Можно посмотреть театральный спектакль, послушать концерт, порыться в библиотеке на другом конце света. Совершить любую сделку, не вставая с кресла.
Сегодняшний Smart Home — это тот самый коллективный «Дженкинс». Роботы-пылесосы, умные кормушки для животных, термостаты, которые подстраиваются под наши привычки, и колонки с голосовыми ассистентами, заказывающие продукты. Автоматизация быта сделала нас более ленивыми, но, с точки зрения Саймака, более счастливыми и расслабленными. Мы делегировали рутину алгоритмам, оставив себе время на созерцание (или на просмотр сериалов).
Трансгуманизм как абсолютный эскапизм
Самый пронзительный эпизод «Города» — это история о скакунах. Так это звучит в переводе, в оригинале они Lopers. Чтобы исследовать Юпитер, люди решают трансформировать свои тела в местную форму жизни — скакунов. Но происходит странное: каждый, кто превращается в скакуна, отказывается возвращаться.
Оказывается, форма скакуна дает абсолютную, кристальную ясность ума и полноту восприятия вселенной. В теле скакуна человек счастлив так, как никогда не смог бы быть счастлив в прошлой, органической, оболочке. В итоге почти все человечество добровольно уходит на Юпитер, отказываясь от своей природы ради этого высшего экстатического состояния.
— Идем же! — теребил его Байбак.
— Куда ты хочешь идти?
— Да куда угодно! — ответил Байбак. — Просто отправимся в путь и посмотрим, где он окончится. У меня такое чувство... ну, просто такое чувство.
— Я понимаю, — сказал Фаулер.
Потому что и у него было это чувство. Чувство какого-то высокого предназначения. Ощущение величия. Уверенность, что за гранью горизонта их ждут удивительные приключения... Нет, нечто большее, чем самые захватывающие приключения!
И он понял, что пять его предшественников также испытали это чувство.
Их тоже охватило властное стремление отправиться туда — навстречу более полной жизни, более совершенным знаниям.
Вот почему ни один из них не вернулся.
— Я не хочу назад! — сказал Байбак.
— Но нас там ждут, — ответил Фаулер, направился было к станции и вдруг остановился.
Вернуться в стены купола. Вернуться в прежнее больное тело. Раньше оно не казалось ему больным, но теперь он понял, что такое настоящее здоровье.
Назад — к затуманенному мозгу, к спутанности мыслей. Назад — к шевелящимся ртам, которые образуют звуки, воспринимаемые другими. Назад — к зрению, которое хуже, чем слепота. Назад — к связанности движений, назад к незнанию.
— Нам столько надо сделать и столько увидеть! — настаивал Байбак. — Мы еще должны многому научиться. Узнать, открыть...
Да, они могут многое открыть. Возможно, они найдут тут цивилизацию, по сравнению с которой земная цивилизация покажется ничтожной. Они найдут здесь красоту и — что еще важнее — настоящее восприятие красоты. И дружбу, какой еще никто не знавал — ни один человек и ни одна собака.
И жизнь — такую полную, что по сравнению с ней его прошлое казалось лишь прозябанием.
— Я не могу вернуться, — сказал Байбак. — Они опять сделают меня псом.
— А меня — человеком, — ответил Фаулер. — Но мы вернемся, когда узнаем то, что должны узнать.
Это хорошая метафора современного эскапизма и виртуальной реальности. Сегодня мы надеваем VR-шлемы, уходя в цифровые миры VRChat или иммерсивных игр, потому что там мы можем быть кем угодно. Там нет бытовых проблем и можно на время забыть о душевной боли. Дискуссии о загрузке сознания в виртуальные миры строятся на очень похожей предпосылке: зачем оставаться в слабом, стареющем теле, если можно переместить себя в лучшую форму внутри идеальной цифровой симуляции?
Перед тем как перейти дальше, я отдельно замечу — эти цитаты не покрывают и десятой доли того, о чем рассказывает «Город». Очень рекомендую найти книгу и прочесть ее.
Филип К. Дик: пророк симулякров, фейков и таргетированной рекламы
Если Клиффорд Саймак — это успокаивающий шум леса за окном вашего умного дома, то Филип К. Дик — неоновая вывеска, бьющая по глазам, паранойя и ощущение, что за вами кто-то следит. Дик не верил в добрых роботов. Он задавал один-единственный вопрос, который стал одним из главных в 2020-е годы: «Что есть реальность?»
Мы живем в мире Дика даже больше, чем в мире любого другого фантаста — если не на уровне конкретных технологий, то на уровне ощущения от реальности. В целом подойдет почти любое его произведение, но классическая тройка «Мечтают ли андроиды об электроовцах?», «Убик» и повесть «Особое мнение» — лучше всего.
Дипфейки, LLM и тест Войта-Кампфа как капча будущего
В мире «Бегущего по лезвию» — это название фильма, вероятно, более знакомо, чем оригинальное «Мечтают ли андроиды…» — настоящие животные вымерли и стали предметом роскоши. Люди заводят механических овец и птиц, тщательно скрывая от соседей, что они ненастоящие. Андроидов-репликантов практически невозможно отличить от человека.
Теперь оглянитесь. Время Midjourney, Sora и Claude. Мы окончательно потеряли веру в свои глаза и уши. Фотография и видео больше не являются доказательством в суде и жизни, потому что сгенерировать лицо политика, говорящего абсурдные вещи, — дело пяти минут.
Тест Войта-Кампфа, с помощью которого Рик Декард вычислял репликантов по их эмпатическим реакциям, — это буквально современная CAPTCHA. Сегодня алгоритм с хорошо скрытыми исходными условиями просит нас отметить все картинки со светофорами. Браузерные агенты проходят похожие запросы уже сегодня. Завтра придется проходить тесты на эмпатию, сарказм или абсурд, чтобы авторизоваться в банке. «Расскажите о самом теплом воспоминании из детства» — и даже этот барьер современные модели смогут пройти без особых затруднений. Если вам кажется, что вы способны распознать нейросетевой текст, это не ваша заслуга, а скорее недоработка автора, который плохо его отредактировал или что-то не учел при составлении промпта.
Персонализированная реклама и подписочный абсурд
У Дика поразительное чутье на капиталистические антиутопии. В экранизации «Особого мнения» есть знаменитая сцена: герой идет по торговому центру, а сканеры считывают его сетчатку, и голограммы обращаются к нему по имени, предлагая купить пиво или одежду с учетом его прошлого опыта. Скриншот не передает динамику и напряжение, эту минутную сцену надо видеть, но все же вот иллюстрация.
Но еще жестче эта тема раскрыта в «Убике». Главный герой просыпается в своей квартире и хочет выйти, но дверь отказывается открываться, пока он не бросит в нее монетку.
Дверь не открылась, а из динамика прозвучало:
— Опустите пять центов, пожалуйста.
Джо в очередной раз вывернул карманы. Монет не осталось.
— Я заплачу завтра, — сказал он двери и снова нажал на ручку. Дверь не поддалась. — Я вообще тебе плачу из вежливости, я вовсе не обязан этого делать.
— Неверно, — отозвалась дверь. — Посмотрите в подписанный вами при покупке квартиры контракт.
Контракт Джо нашел в ящике стола. С момента его подписания ему не раз приходилось обращаться к этому документу. Конечно, за открывание и закрывание двери полагалась обязательная плата.
— Как видите, я права, — сказала дверь. Прозвучало это вызывающе.
Джо вытащил из кухонного ящика нож из нержавейки и принялся откручивать болты запорного механизма.
— Я подам на вас в суд, — заявила дверь, когда вывалился первый шуруп.
— Никогда не судился с дверью, — пробормотал Джо. — Думаю, что сумею это пережить.
С улицы донесся стук.
— Эй, Джо, малыш, это я, Дж. Дж. Эшвуд. Я привел ее, открывай!
— Опусти пять центов, — крикнул Джо, — с моей стороны что-то заклинило!
Он платит холодильнику за право взять еду, и ванной — за воду.
Это пророчество сбылось, и сбылось очень точно. Мы окружены «печеньками», таргетированной рекламой, которая «слушает» нас через смартфоны. Но главное — Дик предсказал модель SaaS и вендор-лок, доведенные до абсурда.
Когда BMW ввела платную ежемесячную подписку на активацию подогрева сидений (уже физически установленных в вашей машине!), или когда принтеры HP отказываются печатать, потому что вы отменили подписку на чернила, это чистый «Убик».
Социальные пузыри, эмоции под заказ
«Андроиды...» — это не только детектив о поиске роботов, неотличимо похожих на людей. Книга описывает целый мир, полный деталей, выходящих за рамки этой статьи.
Среди них я хочу отметить два штриха, обычно выпадающих за рамки обзоров.
Книга открывается сценой подбора себе настроения на день по цифровому коду на специальном аппарате, генерирующем «пенфилдовское излучение»:
— И в этот момент, — продолжила Айран, — когда я вырубила звук телевизора, я была в настроении триста восемьдесят два, только что его набрала. А в результате, хотя умом я слышала пустоту, я ее не ощущала. Сперва я возблагодарила Господа, что мы можем себе позволить такую роскошь, как пенфилдовский генератор настроений, а потом вдруг осознала, насколько это нездорово и противоестественно — ощущать отсутствие жизни, и не только в нашем здании, но и везде, повсюду, и никак не отзываться на это душой, ты меня понимаешь? Скорее всего — нет. А ведь когда-то это считалось верным признаком психического расстройства — «отсутствие адекватной реакции», так это называлось. Тогда я не стала больше включать звук телевизора, подошла к своему «Пенфилду» и начала экспериментировать. Ну и в конце концов наткнулась на комбинацию, генерирующую безысходное отчаяние. — На ее смуглом живом лице отразилось удовлетворение успешно завершенным трудом. — Теперь я включаю ее в свое расписание дважды в месяц по шесть часов кряду — думаю, это вполне разумное время, чтобы глубоко прочувствовать безнадежность всего, что есть, — в частности, того, что мы так и торчим здесь, на Земле, когда все нормальные люди давно уже эмигрировали; ты со мной согласен?
— Вот установишь ты эту свою комбинацию и завязнешь, не захочешь из нее выходить, — сказал Рик. — Такое всеобъемлющее отчаяние имеет свойство само себя поддерживать.
Так ли это отличается от выбора видеоигры или сериала на вечер? Конечный итог плюс-минус тот же. Да, я осознанно утрирую.
Далее — мерсеризм и «эмпатоскоп». Люди в романе Дика чувствуют себя настолько одинокими и оторванными друг от друга, что подключаются к специальному устройству с ручками. Через него они сливаются в едином экстазе или боли с виртуальным пророком Мерсером, бредущим в гору под градом камней. Они коллективно страдают, чтобы почувствовать себя живыми и сопричастными.
— Было бы просто аморально не слиться сейчас с Мерсером в благодарении, — сказала Айран. — Сегодня я подержалась за ручки ящика, и это отчасти сбило мою депрессию — отчасти, не так, как коза. Но во всяком случае, в меня успели попасть камнем, вот, посмотри. — Она показала Рику небольшой кровоподтек на запястье. — И еще я все время думала, насколько мы были лучше, насколько лучше мы себя чувствовали, когда не забывали о Мерсере. Несмотря на боль и страдания. Телесные страдания, но зато духовное единение. Я ощущала всех остальных, по всему миру, всех, кто сливался в тот же самый момент. Входи, Рик. — Айран придержала закрывавшиеся двери. — Входи, это будет совсем недолго. Я даже не думаю, что ты достигнешь слияния, а просто хочу, чтобы ты поделился своей радостью со всеми остальными, это обязательно нужно сделать, было бы просто аморально держать ее для одних себя.
Это соцсети, думскроллинг и моральные паники, хорошо показанные, например, в четвертом сезоне «Очень странных дел». На всякий случай поясню термин — это вспышки массового страха перед чем-то, что якобы угрожает устоям и ценностям общества.
«Ужасный сатанист» в четвертом сезоне «Очень странных дел» (2022)
Но и в целом — Twitter и TikTok алгоритмически подкидывают контент, вызывающий ярость, тревогу или умиление. Мы подключаемся к нашим смартфонам (современным эмпатоскопам), чтобы синхронизироваться с эмоциями миллионов незнакомцев, пережевывая очередную глобальную трагедию или скандал. Это суррогат реального общения, социальный пузырь, в котором коллективные эмоции заменяют нам настоящее человеческое тепло — именно об этом говорит цитата выше...
Где мы сейчас
Внимательно посмотрев на прогнозы Саймака и Дика, становится ясно: мы живем ровно на пересечении их миров. И этот гибрид выглядит одновременно восхитительно и жутко.
С одной стороны, мы осуществили мечту Саймака. Мы сидим в своих уютных домах на удаленке, попивая раф на альтернативном молоке. По квартире ползает робот-пылесос, мультиварка сама варит рис, а продукты доставляет курьер. Если закончится время геополитического безумия и мы вернемся из театра безопасности к безопасности настоящей, сходство станет еще полнее.
Но внутри этого рая Саймака мы смотрим в экраны, которые транслируют паранойю Филипа Дика. В этом безопасном доме мы читаем фейковые новости, сгенерированные LLM-моделями. Мы ругаемся с ботами, не зная, человек ли по ту сторону монитора. Мы платим множество ежемесячных подписок за право просто продолжать нормальную, привычную жизнь, и таргетированная реклама знает о нас больше, чем мы сами.
Лем описал технологии. Саймак и Дик — жизнь в мире этих технологий. Мы свободны и в то же время заперты; и мы все чаще сомневаемся в реальности.
Инструкций, как жить в таком мире, нам не оставил ни один фантаст. Придется писать их самим.
