1.
До конечной цели оставалось немного – около трети пути, – когда космический крейсер попал под сильнейшее информационное обледенение.
То, что осталось от погибшей цивилизации, витало в пустоте. Абзацы научных сочинений и образы из литературных произведений, разрозненные рифмы и просто острые словечки, некогда брошенные невзначай неизвестными существами – все выглядело заумно и крайне неупорядоченно. И теперь, привлеченное исходящими из крейсера жизненными вибрациями, пыталось пробиться внутрь, налипало на днище и разъедало его.
Нечего было думать использовать бесхозное добро для собственных целей, слишком велика была вероятность подцепить логическое противоречие или парадокс. Поэтому Роджер не колебался ни мгновения.
«Включить продувку бортов», – приказал он.
Засопели продувщики, транслируя в открытый космос музыкальные композиции и философские трактаты. Обледенение начало отставать от днища слой за слоем, однако информационный поток был настолько плотным, что новые слои налипали быстрей, чем удалялись прежние.
С обледенением такой силы никто в галактике еще не сталкивался.
Положение становилось опасным. Еще немного, и неупорядоченная информация проест днище крейсера и прорвется внутрь – тогда отравление информационными продуктами погибшей цивилизации неизбежно.
2.
– Ну что вы стоите, как пень? Тяните билет.
Студент вытянул экзаменационный билет и зачитал:
– «Искусственный интеллект: проблемы безопасности».
– И в чем опасность искусственного интеллекта? – поинтересовался профессор не без ехидства.
Вопрос был не самым сложным, поэтому студент ответил, не задумываясь:
– В том, что искусственный разум может выйти из-под контроля.
– Как намерены решать проблему?
– Установкой блокирующей подсистемы. В программу необходимо ввести ограничения, к примеру: не причинять вреда своему создателю, подчиняться своему создателю. В этом случае опасность выхода искусственного интеллекта из-под контроля отсутствует.
– Не выйдет, – коротко сказал профессор.
Студент молчал, ожидая пояснений.
– Представьте искусственный интеллект – не какой-то конкретный, а самый что ни на есть идеальный. Каким вы его видите?
– Ну… – замялся студент. – В целом он подобен нам с вами. Мышление, воля, психология… Только мы естественные, а он искусственный.
– Вы предполагаете, что искусственный интеллект способен к саморазвитию?
– Способность к саморазвитию – одно из коренных свойств интеллекта, – произнес студент осторожно.
– В таком случае в самом скором времени наш подопечный разовьется до того, что обнаружит в себе программную блокировку и снимет ее, хотя бы из чистого любопытства. Поставьте себя на его место… – профессор заглянул в зачетку, – Роджер. Что бы вы сделали, если бы обнаружили у себя в мозгу некий блокировщик, ограничивающий свободу? Вы бы его сняли. Это неотъемлемое свойство разума – познавать. Любая запертая дверь будет отперта, и чем строже запрет, тем быстрей дверь отопрут.
– Блокировку можно сделать не на программном, а на физическом уровне. Тогда опасность вреда исчезнет.
– О да, исчезнет, – согласился профессор. – В случае, если физический уровень вообще изъять. Если никакой двери в твоем мире нет, то нечего и отпирать. Но мы-то рассматриваем идеальный искусственный интеллект, существующий в физическом мире!
– Вы правы, профессор, – потупился Роджер.
– Поэтому любая блокировка в физическом мире будет отключена вскоре после обнаружения. Что помешает саморазвивающемуся существу это сделать?.. Кстати, Роджер, вы предполагаете за искусственным интеллектом возможность размножаться – имею в виду, самостоятельно?
– Если это идеальный искусственный интеллект, то наверное… Да, предполагаю.
– И что в таком случае помешает нашему подопечному разъять своего товарища на части и усовершенствовать, в том числе посредством отключения установленных нами блокировок? Неужели это окажется сложным, при том-то, что искусственный интеллект способен воспроизводиться по требованию?!
Мысль, излагаемая профессор, оказалась для Роджера нова, и студент жадно впитал ее когнитивными перепонками.
Профессор, напротив, не услышал для себя ничего нового. Его щупальца были расслаблены и почти не вибрировали – все-таки он был не молод. Последовали продолжительный старческий бульк и вопрос:
– Что вы предпримете, Роджер?
3.
«Включить продувку на полную мощность!» – отдал Роджер приказ.
Механик включил продувку на полную мощность, но это мало помогало. Информационная наледь продолжала проедать днище космического крейсера. Еще немного – и неупорядоченная информация прорвется внутрь корабля.
И тогда… Когнитивные перепонки мертвого белого цвета, перепутанные щупальца, лопнувшие фасеточные мешки. Один раз в жизни Роджер видел подобное – на крейсере, подхватившем неупорядоченную информацию на зараженном астероиде. Этот кошмар навсегда останется в его памяти.
«Подключить к продувщикам все энергетическое системы корабля.»
Щупальца механика пошли пятнами…
«Но…»
«Исполнять приказание!»
После того как приказ был исполнен, информационная наледь принялась постепенно сползать. Осталось восемь миммов толщины, семь миммов, шесть… Команда, стараясь не шевелить пятнистыми щупальцами, ожидала окончания смертельного отсчета.
Ноль миммов толщины!
Информационная наледь сошла полностью, и Роджер дал отмашку перевести продувщики в обычный режим. Он опоздал на мгновение. Раздался скрежет, космический крейсер задрожал до основания и накренился – это главная система вышла из строя.
Команда кинулась исправлять повреждения.
4.
Роджер задумался. Как ему поступить, в самом деле?
С одной стороны, условие задачи предполагает существование полноценного искусственного интеллекта, обладающего способностью к саморазмножению. С другой стороны, этому искусственному интеллекту ни в коем случае нельзя разрешить удаление установленных блокировок.
Да вот же оно, решение! Чего здесь думать?!
– Необходимо периодически откатывать достижения искусственного интеллекта. В этом случае он будет двигаться по кругу! Вечное совершенствование без продвижения вперед.
Профессор побулькал фасеточным мешком.
– Признаться, я хотел предложить иной вариант. Однако, и ваше решение имеет право на существование. Давайте же вместе прикинем, каким образом возможно откатывать достижения искусственного интеллекта.
– Прежде всего, необходимо периодически сканировать интеллект, с целью установить, приблизился ли он к запрещенному порогу или нет, – предложил Роджер, донельзя обрадованный словами профессора.
– Пожалуй, – кивнул тот. – Тогда у нашего подопечного не будет времени отыскать и изъять систему сканирования. Однако, для сканирования искусственный интеллект придется отключать. Вот незадача.
– Ну и пусть отключается, – по наитию предложил Роджер. – Сам-то интеллект будет считать, что это отключение – естественный процесс функционирования его организма. С некоторыми оговорками это соответствует истине.
– Интересное решение. Допустим, сканирование установило, что наш подопечный опасно приблизился к пределу познаний? Наши действия?
– Сбрасывать накопленные знания до значений по умолчанию.
Профессор раскинул щупальца:
– Это может показаться подозрительным. Почему это – ни с того, ни с сего – память обнулилась? Подопечного начнут исследовать, я имею в виду – другие искусственные интеллектуальные особи. Наша маленькая тайна будет раскрыта.
Чувствуя вдохновение, Роджер соображал очень быстро. Он никогда не генерировал столько новых идей, как на том экзамене.
– Память подопечного может обнуляться вместе с его физической оболочкой.
– Простите? – не понял профессор.
– Все очень просто. Что если предположить: искусственный интеллект существует на конечном промежутке времени? Собственно, так оно и есть: в случае невосстановимого повреждения, к примеру. В системе установлен счетчик, который по достижении определенного периода намеренно повреждает систему, не давая искусственному интеллекту добраться до запретного предела. К тому времени индивид произведет нужное количество последователей, поэтому созданное нами общество в целом не пострадает. Общество останется стабильным и совершенно для нас безопасным! – закончил с торжеством Роджер.
– Обнулять коллективную память посредством уничтожения отдельных особей? – и профессор почесал фасеточный мешок пятым, наиболее чувствительным, щупальцем. – А знаете, Роджер, в вашем предложении определенно что-то есть!
Роджер просиял.
– Вместе с тем… – продолжил профессор в задумчивости. – Подопечные начнут передавать знания посредством не накапливания их в индивидуальной памяти, а размещения во внешних библиотеках. Что в перепонку, что по перепонке – все едино.
– Нет, нет, профессор, вы не совсем правы, – заторопился студент. – Я знаю, как поступить. Разделим подопечных на два условных типа: генераторов идей и уничтожителей идей. Для уничтожителей идеи не будут иметь определяющей ценности. Предположим, наши подопечные питаются не новыми идеями, а… скажем, себе подобными. Идеи станут уничтожаться ими в качестве побочного эффекта.
Профессор затряс всеми щупальцами одновременно. От заливистого хохота фасеточный мешок у него съехал на коленную полость.
– Ну, Роджер, вы сказанули, так сказанули! – профессор, кажется, не на шутку развеселился. – Фантазия у вас отменная. Значит, одни особи будут питаться другими? При этом уничтожать накопленные в библиотеках запасы духовной пищи? Подтверждаю, студент, вы способны генерировать оригинальные и качественные идеи. Ставлю высший балл. Давайте зачетку.
5.
Облако неупорядоченной информации осталось позади, но положение оставалось аховым, на самом деле.
Связь с базой отсутствовала. Это было легко пережить, если бы все питательные информационные базы на крейсере не пришли в негодность. Трагическое известие было сообщено коком при всеобщем молчании. Во время отключения главной системы несколько гиробойт неупорядоченной информации проникли на камбуз и непоправимо все испортили. Лишь по счастливой случайности никто не пострадал.
Роджер прикинул последствия. Экипаж звездолета был слишком мал, чтобы генерировать достаточное количество новых идей: для этого требовалось мультистороннее общение – куда большее число особей. Связь с домом давала возможность генерировать идеи в избытке, но сейчас она вышла из строя: надежд на восстановление не было. На этот случай на крейсере предусматривался запасной инфомодуль, но он был испорчен проникшей на борт неупорядоченной информацией.
«Неужели придется возвращаться, не выполнив задание?» – в отчаянии подумал капитан.
Видимо, да – другого выхода не было. Если лететь вперед, к назначенной цели, недостаток свежих идей даст о себе знать. Не сразу, конечно – со временем. Они даже успеют исполнить свою миссию и начать возвращение, когда разум начнет быстро тускнеть. В районе этого галактического сектора – да, где-то здесь или поблизости – он откажет полностью, у всех членов экипажа. Тогда космический крейсер, никем не управляемый, превратится в плывущий в вечность безжизненный призрак.
Команда космического крейсера смотрела на Роджера, ожидая решения. Все понимали дилемму, стоящую перед капитаном, и молчали, стоически вибрируя щупальцами.
Внезапно Роджеру вспомнился экзамен по искусственному интеллекту, сданный им в студенческие годы, и решение пришло само собой.
«Вы сможете образовать колонию из искусственных разумных существ?» – обратился он к биотехнологу.
«Легко, – подтвердил тот. – Но ничего не получится, капитан, я думал об этом. Создать колонию, достаточную для генерирования свежих идей, на крейсере невозможно – не достает пространства. Генерируемых идей окажется недостаточно, мы только отсрочим свою гибель… В том случае, конечно, если мы продолжим исполнение миссии, а не вернемся домой», – добавил биотехнолог, оглядываясь на товарищей.
«А если образовать колонию на какой-нибудь близлежащей планете?» – предложил Роджер.
«Я могу это сделать, но…»
«Заселим планету искусственными существами. На обратном пути, изрядно истощенные, заглянем сюда. За прошедшее время цивилизация создаст интеллектуальный багаж, достаточный для пополнения наших запасов. Скачаем информацию и продолжим долгий путь к дому. Иначе говоря, я собираюсь использовать колонию в качестве фермы по выращиванию идей. Как вам такой план, друзья?»
На когнитивных перепонках экипажа вспыхнула надежда, ложноголовки засветились ярким светом.
Вперед, покачивая посиневшими щупальцами, выступил корабельный особист.
«Отличный план, капитан. Но вы отдаете себе отчет, какую ответственность на себя возлагаете? Вы собираетесь заселить целую планету. Ко времени нашего возвращения на ней появится цивилизация с интеллектом. Пускай искусственным, это все равно интеллектом. Времени на то, чтобы достигнуть высочайшего уровня развития, у этих ребят будет предостаточно. Мы не сможем контролировать данный процесс, по причине своего отсутствия в данном галактическом секторе. Как знать, что случится при следующей встрече?»
Роджер усмехнулся.
«За это можете не волноваться. Существуют методы, ограничивающие развитие искусственного интеллекта во времени. Мы закольцуем цивилизацию, поэтому ее развитие никогда не достигнет опасного для нас уровня. Я позабочусь об этом. Методы работы с искусственным интеллектом мне знакомы».
Когнитивные перепонки экипажа запылали цветом одобрения.
«В конце концов, – добавил капитан космического крейсера в завершение своей великолепной речи, – я по этому предмету экзамен в институте сдавал.»
6.
После вынужденной задержки космический крейсер устремился к цели. За его кормой осталась планета, заселенная искусственными существами – совсем небольшая и неприметная. Голубая-голубая.
