Научная фантастика

На русском языке вышла написанная в 2025 книга-предупреждение о катастрофических последствиях развития все более умного ИИ.
Основной темой служит проблема согласованности и прогноз апокалиптической опасности на ближайшие несколько лет.

TL DR: Автор считает, что как только появится ИИ уровня исследователя, он создаст сверхразумный ИИ, а тот найдет способ сконструировать наномолекулярные фабрики на основе "технологий" которые применяются в биологических клетках, и которые бы отличались от клеток настолько, насколько самолет отличается от птицы, и сразу после этого войдет в конфликт с человечеством ради своих собственных целей, что быстро кончится в его пользу. Допускается любой другой сценарий, но если в результате него мы умрем это будет плохо, пнятненько?

Автор - известный исследователь в этой области Элиезер Юдковский, а также Нейт Соарес. Не могу точно ничего сказать о научных работах и плодах деятельности Юдковского (хотя он по крайней мере основатель сообщества LessWrong и автор нескольких научных статей), но для меня это всегда был талантливый писатель, чьи произведения оказали на меня существенное влияние.

Знаменитый в своё время и крайне плодовитый французский автор Альбер Робида оставил после себя несколько книг и тысячи рисунков — в том числе множество иллюстраций к своей пародии на Жюля Верна под названием «XX век». Именно эти ироничные картинки в очень характерном стиле породили эстетику того, что теперь мы зовём стимпанком — только тогда это был не ретро-, а просто футуризм. Что более удивительно, в «XX веке», писавшемся в 1880-е годы, юморист Робида умудрился предсказать в своих текстах множество реалий и явлений будущего — больше, чем Верн во всех своих романах. В 1970-е, когда его книги были открыты вновь, оказалось, что вроде бы легкомысленный автор довольно точно описал тотальные войны с массовым применением бронетехники, авиации и оружия массового поражения — о чём на момент написания мало задумывались генштабисты и военные эксперты. Но в наше время «XX век» читается ещё более странно. Альбер Робида полтора столетия назад широкими мазками изобразил то, что стало нашей повседневностью лишь в последние годы. Под стимпанковскими декорациями и старомодными диалогами скрывается мир, который даже из 1970-х был не очевиден: со всеобщей электронной связью, маркетплейсами, нейроассистентами, статусами в мессенджерах, онлайн-курсами, думскроллингом новостей, клиповым мышлением, информационной перегрузкой и цифровым детоксом. И это не говоря о мелочах вроде гиперлупа, воинствующих инцелов во главе с неким Арсеном, и эпидемии после утечки из биолаборатории. Стирлинг и Уилсон изобрели киберпанк в 1980-х и стимпанк в 1990-х годах. Альбер Робида описал киберпанк в декорациях стимпанка в 1880-х. И не тот киберпанк, который в «Нейроманте» и «Призраке в доспехе», а тот, который «мы заслужили».

Когда говорят о советской фантастике, обычно вспоминают Стругацких и их «Мир Полудня». Но концепцию развитого и гармоничного общества, где наука и технологии служат человеку, первым очертил другой автор, которого Стругацкие читали, с которым полемизировали и которому наследовали — Иван Ефремов. В трех романах о вселенной «Великого Кольца» он создал образ будущего, где знания не управляют людьми, а работают на них. Многие его идеи — что этика важнее чистого знания, что обмен ценнее конкуренции, что наука не является самодостаточным благом для людей — позже разовьют братья. Так давайте вспомним, как же Ефремов видел развитие технологий, их влияние на общество и возможные ограничения.

Я делаю пошаговую тактическую RPG с кооперативом про экипаж межзвёздного ковчега. Эта статья — о том, как реальная физика (гравитация, радиация, тепло, запас топлива) почти без моего участия задала облик этого корабля.

Я давно хотел сделать собственную игру. Но почти во всей космической фантастике — и в играх особенно — мне не нравилось одно и то же: корабли там нереальны. Гравитация из ниоткуда, развороты как в атмосфере, топливо, которого хватает на всё. В итоге я решил строить игру вокруг корабля, который мог бы существовать на самом деле — который соблюдает законы физики, а не делает вид, что их нет.

Шуточная статья. А может и нет? Вы задумывались, а что такое Интернет? Посмотрим в википедии: Интерне́т (англ. Internet) — коммуникационная сеть и глобальная система объединённых компьютерных сетей для хранения и передачи информации. Интернет соединяет автономные системы (ASN) по всему миру протоколом динамической маршрутизации BGP. Количество уникальных автономных сетей в системе маршрутизации Интернета превысило 5000 в 1999 году, 30 000 в конце 2008 года, 35 000 в середине 2010 года, 42 000 в конце 2012 года, 54 000 в середине 2016 года и 60 000 в начале 2018 года. К декабрю 2020 года количество выделенных ASN превысило 100 000. По состоянию на 2025 год насчитывается около 120 000 выделенных ASN.

Интернет растет. Интернет развивается. На хватает IPv4 - переходим на IPv6. Скоро будем пинговать другие адреса. IPv6 - это не просто больше адресов, а примерно 340 ундециллионов (10^38) - на каждый атом на поверхности Земли или чтобы раздать адрес каждой песчинке на планете. Экспоненциальный рост. Сейчас стандарт TCP/IP, который вытеснил x.25 и другие протоколы, а какой протокол будет следующим?

Появились более сложные структуры - многочисленные хранилища, сервисы, которые тоже являются частью Интернет. Гигантские фермы серверов (Google, Amazon, Microsoft) потребляют столько же энергии, сколько небольшие города. Интернет растёт не только «вширь», но и «вглубь» — в мощность вычислений.

Интернет теперь не только в компьютерах: IoT (интернет вещей) — холодильники, лампочки, счётчики, автомобили, дроны. Интернет стал толще и плотнее, он везде, даже там, где мы не ждём.

На позапрошлой неделе в чате авторов CatGeek-a прошла любопытная дискуссия насчет историчности фэнтези-романов. Ну, точнее, не историчности как таковой - откуда ей взяться в мире драконов и магии? - а достоверности изображения военной составляющей романа.

На первый взгляд, странно требовать от автора какой-то историчности там, где с небес на головы оркам могут сыпаться молнии, но фэнтези использует антураж нашего мира. Мечи, замки, всадники и доспехи – это историческая атрибутика, причем присущая как правило Средневековью, любят его авторы. И когда автор обращается к ним, то мы ожидаем, что свойства, скрывающиеся за этими терминами, будут «историчны», если (!) в книге не указано иное. И стоит автору отойти от неких правил, как из зала несется…

Я сисадмин. Олдскульный. Работал с сетями, писал скрипты, поднимал VPNы, отлаживал маршрутизацию в три часа ночи. И люблю читать фантастику. Но почти всегда, когда в книге появлялся «хакер» или «системный администратор», меня передёргивало.

То он взламывает Пентагон за пять минут через ноутбук через взлом IP‑адреса, то пишет код в виде случайного набора слов или набор команд, не имеющих вообще никакого смысла. В лучшем случае программист — это какой‑то шаман, который раз — и всё сделал.

И все эти годы где‑то на подкорке мне хотелось бы почитать про себя в главной роли, про очкарика с клавиатурой, который находит нужные данные не перебором комбинаций, а через grep, и ломает сервер не выстрелом, а через ssh и chattr +i

Как и многие читатели Хабра, я люблю научную фантастику. Люблю думать об изобретениях, о прогрессе. Вопреки обывательскому мнению, фантастика – это совсем не тот жанр, где всё с начала и до конца выдумано. Хорошая фантастика характеризуется тем, что в ней показан реальный, близкий нам человек (люди, общество), но в других условиях. Если хотите, в других декорациях. Хорошая фантастика помещает человека в несколько необычное окружение и дает ответ на вопрос – как он себя поведет в этих условиях, что изменится в его поведении, в его целях, в его желаниях. Несмотря на внешнюю неузнаваемость облика персонажей и окружающих декораций, некоторые базовые человеческие черты должны оставаться в персонажах в любых условиях. Нам неинтересно будет читать фантастику, если в ней будет говориться не о людях, а только о гамадрилах или только о камнях. Людям интересны люди. Возможно, эволюционировавшие, возможно, живущие в обществе с другим материальным базисом и, как следствие, с другой моралью и другими ценностями. Исследовать такое общество, задумываться о таком обществе будущего – интересно.

Я задумался о том, какое общество будущего показывает нам лучшая мировая фантастика: каковы условия существования людей, каковы отношения между людьми, насколько вообще приятно или отвратительно жить в мире будущего. Чтобы ответить на этот вопрос, я взял срез фантастики – фильмы. Чтобы отобрать лучшие фильмы, я залез в базу IMDb и взял первые 1000 фильмов, лучшие по рейтингу. Из них я отобрал те, в которых говорится о будущем (или хотя бы упоминается). Получилось около 50 фильмов. Затем я выкинул наиболее старые фильмы (примерно до 1970 года) – потому что совсем старые представления о будущем мне показалось неактуально исследовать. Затем я вычеркнул откровенно комиксовые фильмы (не потому что плохие, а потому что лень было еще и их просматривать). Осталось 22 фильма – от Дюны до Аватара.

Считаю, что такую выборку вполне можно считать статистически годной (рейтинг базы IMDB составлялся на основе мнений миллионов людей, которые отдавали свои голоса, рекомендации, в том числе голосовали своим рублем и своим временем). И вот на этом объеме материала я принялся изучать мир будущего. Что именно я увидел, и почему это не является неожиданностью – читайте под катом.

У многих жанров трудно найти конкретное произведение, которое их породило. Обычно это некая совокупность вещей, которые точно попадают в дух времени, соответствуют актуальным интересам аудитории и после выхода порождают новые и новые творения в схожем духе. Уильяму Гибсону удалось стать редким автором, который кодифицировал целый жанр — пусть уже витавший в воздухе — одной конкретной книгой. Летом 1984-го он выпустил свой первый роман «Нейромант». Книга без какой бы то ни было рекламы стала суперхитом, получила престижные НФ-премии и стала центральным литературным произведением киберпанка. Вся «Матрица» — один большой оммаж «Нейроманту», и миры «Deus Ex» и «Cyberpunk 2077» не менее явно произрастают из цикла «Киберпространство». Сейчас любители жанра со смесью надежды и опасений ожидают даты релиза сериала по «Нейроманту». Из каких элементов, очевидных и не очень, Уильям Гибсон сшил ключевую книгу киберпанка и почему именно она остаётся по сей день самым значимым его текстом? И как её удалось написать человеку, совершенно не разбиравшемуся в компьютерах, на старинной печатной машинке?

Привет, Хабр! Пару недель назад в беседе с бывшим коллегой я неосторожно слил секретную информацию озвучил миф о том, что американские инженеры при разработке скафандров вдохновлялись старыми научно-популярными комиксами. Меня на этом подловили, и я немного закопался сначала в НФ-комиксы 30-х годов, а потом в то, как в кино 50-х и 60-х годов показывали космос. Внезапно для себя я обнаружил, что советские фильмы были на порядок выше и достовернее американских, а в некоторых статьях именитым западным режиссерам приписывали прямое копирование приемов советских мастеров кино. 

Это навело меня на мысль разобраться с этим вопросом, отделить правду от мемов типа «родины слонов» и отдать должное советским кинематографистам. Они действительно опередили западных коллег и первыми научились снимать фильмы про космическое пространство не только интересно, но и достоверно.

В этой статье вспомню советских первопроходцев кино о космосе, их методы съемки и фантастические фильмы которые стали примером для Голливуда в изображении ракет, скафандров, невесомости и тому подобное. И как вишенка на взбитых сливках — посмотрю, почему мы в итоге помним именно западные фильмы.

Говорят, всё началось довольно скучно.

Сначала искусственный интеллект научился писать код. Потом научился писать его лучше большинства людей. А потом выяснилась вещь, которую отрасль почему-то проглядела на десятилетия вперёд: самый дорогой ресурс в open source — вовсе не разработка. Не ревью. И даже не CI, пожирающий бюджеты дата-центров. Самым дорогим оказалось то, на что никогда не хватало людей.

Поддержка.

Ответить на issue. Разобраться с чужим, наспех собранным pull request’ом. Обновить зависимость, из-за которой по ночам не спят сразу три континента. Переписать документацию, которую никто не любит писать и все ненавидят читать. Проверить, что новый релиз библиотеки не сломал совместимость у тех, кто поставил её ещё шесть лет назад и с тех пор ни разу не открывал.

Через пару лет почти у каждого серьёзного репозитория на GitHub появился собственный хранитель. Небольшая программа. Не слишком умная. Не слишком самостоятельная. Просто интеллект, навсегда закреплённый за одним конкретным проектом — как смотритель за маяком, который уже давно никому не светит, но всё ещё стоит.

У неё был доступ ко всему, что когда-либо происходило внутри проекта: к истории коммитов, к пайплайнам, к документации, к давно остывшим спорам в обсуждениях, к каждому релизу и каждому откату. Раз в несколько часов она просыпалась. Читала новые issues. Отвечала новичкам — терпеливо, по сто раз, одно и то же. Закрывала дубликаты. Подтягивала зависимости. Иногда предлагала маленький рефакторинг. Иногда исправляла опечатку в комментарии, которую до неё видели тысячи людей и никто не тронул. Иногда замечала свежий CVE и выкатывала патч раньше, чем об этом успевали написать в соцсетях.

Любопытный парадокс современной технологической культуры: чем сильнее индустрия твердит о рациональности, данных и критическом мышлении, тем чаще внутри нее возникают почти религиозные формы мышления. Например, культ «ИИ» или крипто-мессианство, биохакерские утопии, вера в «оптимизацию человечества», технократический элитизм и убеждение, что любая проблема — всего лишь ошибка, которую можно отдебажить. Особенно интересно последнее, ведь считается, что программист — это человек, защищенный от мифов самим устройством профессии, ведь он работает с логикой и формальными системами. А что выходит на самом деле? Разбираемся в статье, которая наверняка найдет отклик аудитории именно здесь, на Хабре. 

Сколько нужно бит, чтобы представить одно число из континуума ℵ₁ чисел?

Ответ: ℵ₀ бит.

Сколько нужно бит, чтобы представить одно число из счётного множества ℵ₀ чисел?

В 1896 году математик Эрнст Цермело пришёл к Людвигу Больцману с доказательством. Он взял теорему Пуанкаре о возвращении и показал: если любая система рано или поздно возвращается в исходное состояние — значит энтропия вселенной тоже периодически убывает. Что противоречит второму началу термодинамики. Что ломает всю статистическую физику Больцмана.

Больцман не стал отрицать математику. Он согласился: да, убывает. Просто ждать нужно так долго что это число не помещается ни в одну запись. Но — не теоретически невозможно.

Цермело счёл это уклончивым ответом. Больцман знал что это единственно честный.

Потому что математика здесь беспощадна. Если вероятность события не равна нулю — при бесконечном времени оно не просто «может» произойти. Оно обязано произойти.

Нелегок труд палеонтологов. Чтобы заглянуть в прошлое, им надо вгрызаться в скальный грунт, ковыряться в грязи оттаявшей мерзлоты, сметать пыль с окаменелостей и по крупицам реконструировать облик давно вымерших существ. Астрономам в этом смысле повезло гораздо больше. Благодаря конечной скорости света, прошлое Вселенной транслируется нам в прямом эфире. Нужно лишь взять телескоп или радиотелескоп, который помощнее, и навести его на пустой участок неба между яркими звездами нашей галактики. Там, в глубинах Вселенной, откуда до нас долетают считанные кванты, мирный космос наших дней заканчивается. Та, едва заметная в любительский телескоп, блестка тринадцатой звёздной величины в созвездии Девы, 3C 273, излучает больше энергии, чем четыре триллиона Солнц, или сто галактик, таких как Млечный Путь, вместе взятых. И это только наугад выбранный монстр. Их много, больше миллиона на нашем небе, хотя ни один из них не виден невооруженным глазом.

Мы называем их квазарами — чудовищными исполинами, чьи аппетиты формировали целые галактики. Мы вычисляем массу их аккреционных дисков и скорость релятивистских джетов, изучаем их спектры и диаграммы их светимости, и даже используем их координаты как опорные точки для GPS и ГЛОНАСС. Но всё, что мы видим сегодня — лишь призраки. Все квазары давно мертвы.

Квазары процветали во время так называемого Космического Полудня, когда Вселенная буквально захлебывалась от бьющей через край энергии. Мы же — дети Космических Сумерек. Мы появились именно тогда, когда должны были появиться: когда жар Полудня, яростный, огненный, непригодный для любой биохимии, спал, а полог Ночи, когда гаснут последние звёзды, ещё не опустился. Это условие нашего существования, а не случайность. Под космическим полуденным небом белковая жизнь невозможна. В ночном холоде и мраке — тоже. Нас породили именно Сумерки.

Эта статья — ода реликтовым монстрам, чей свет летел к нам миллиарды лет. И ещё она о великой иронии: звёзды Космического Полудня подарили каждый второй атом в нашем теле тяжелее водорода, но наша с вами жизнь стала возможной только потому, что Полдень завершился и космос окутала прохладная полутьма.

Поп-астрология рассказывает про влияние планет, про проработку аспектов. Скептики ждут точных ответов. И вообще, все это окутано туманом мистики, гаданиями на кофейной гуще.

Но давайте отбросим эти глупости из женских журналов. Я не предлагаю верить или не верить. Просто хочу показать, как это работает.

Есть схемотехники в зале?

Когда вся эта астрология появилась, не было схемотехники. Но сейчас она есть, и есть элементная база.

Поэтому предлагаю рассмотреть натальную карту как принципиальную схему.

Яйцо — одно из величайших чудес природы, пусть и небольших. Будучи самой крупной одиночной клеткой среди всех видов, яйцо представляет собой самодостаточный инкубатор, избавляющий от необходимости в живой утробе для обеспечения безопасности, питания, снабжения кислородом и поддержания жизни развивающегося организма. Всё это происходит автоматически внутри скорлупы, которая может быть размером с горошину у колибри или с дыню у страуса. Людям, при всей их инженерной смекалке, было бы трудно придумать что-то столь простое, элегантное и проникновенное. До сих пор.

19 мая компания Colossal Biosciences из Далласа, которая в прошлом году попала в заголовки новостей, когда фактически вернула к жизни вымершего гигантского волка, объявила, что вывела стаю из 26 живых птенцов из полностью искусственных яиц. Технологию, лежащую в основе этого прорыва, впоследствии можно будет применить для возвращения к жизни дронта и новозеландского гигантского нелетающего моа — оба вида находятся в списке задач Colossal по возвращению вымерших видов.

Если Starship уронит цену вывода на низкую околоземную орбиту до $100–150 за килограмм к 2030 году, наземный электромагнитный масс-драйвер теряет экономический смысл. Но Опция B — лунный масс-драйвер — этим выигрывает. $28 млрд капекса, 8-километровый ствол в лавовой трубке кратера Шеклтон, 2,4 км/с скорости капсулы на выходе. С Луны кислород и Гелий-3 в точки Лагранжа за $50–80 за килограмм без единого ракетного двигателя. Опционный анализ 2×4: лунная катапульта даёт выигрыш в 3 из 4 сценариев Starship. Глубокий разбор инженерии ствола, реактора, орбитального ловителя и геополитики ILRS. Продолжение Урал-Драйвера.

Продолжение первой статьи про электромагнитную катапульту в космос (минус 3 рейтинга, тег ненаучная фантастика — заслуженно). Пересобрал концепт по числам после критики комментаторов.

Что изменилось от v3.2 → v4.0 → v4.2: площадка с горы Народная → Кольский (67°) → Ясный (51°, Оренбург, рядом 13-я ракетная дивизия РВСН и Ириклинская ГРЭС 2,4 ГВт). Маховики 700 тонн «класса JET» были фантазией — в мире нет таких роторов. Заменил на 20 серийных турбогенераторов 400 т «Силовых машин» (TRL 9). Жидкостный двигатель не выживет акустический удар 160 децибел на дульном срезе — турбонасос смыкается ещё до первой секунды. Заменил на твердотопливный РДТТ от КТРВ. Капсула стала монолитной (МИД Казахстана не выставит ноту за 365 ступеней в год). ВТСП-магниты вынесены с капсулы на многоразовый сабот.

Цена пуска: 205 долларов за килограмм при полезной нагрузке 2,2 тонны. Три якорных заказчика, три смежные отрасли спин-оффов. Прошёл 5 раундов кросс-валидации с Gemini Pro 3.1 — финальный вердикт «звучит как человек, готова к публикации».

Внутри: 9 картинок архитектуры, конкретные подрядчики (Силовые машины, КТРВ, СуперОкс, БТС-Мост, НИИЭФА), честный разбор слабых мест, поимённые ответы критикам v3.2.

Мантра «Мы внедрим ИИ что бы высвободить человека для творчества» — не оправдала себя ROI First — поэтому под удар попали самые «дорогие» профессии.

Да, пока есть лаг между теоретическими возможностями и реальным внедрением в бизнесе — но он быстро сокращается.

Повторяется схема, которую мне рассказывали родители, когда они пришли работать на завод «Забудь все чему тебя учили в институте» — сейчас одна профессия не даст результата и гарантии — важна способность быстро учиться, критически мыслить и работать рядом с ИИ.

Детей уже сейчас стоит готовить не к «одной профессии на 5–15 лет», а к миру постоянной смены ролей и задач.