Киберпанк

В 1841 году Чарльз Маккей опубликовал сборник исторических очерков «Наиболее распространённые заблуждения и безумства толпы». Сборник претерпел десятки переизданий и издаётся до сих пор.

Ничто не меняется: как раньше мужчины отращивали модные бороды и вкладывались в финансовые пирамиды, так и сейчас делают это. Наверное, вера в сильный ИИ (AGI) тоже относится к разряду «распространённых заблуждений и безумств», ведь люди спрашивают у LLM жизненных советов, ведут задушевные беседы, наделяют человеческими чертами и испытывают парализующий страх перед сингулярностью (абзац 204 в pdf).

Представьте — вы работаете с кодовой базой, написанной 20-30 лет назад. Она работает, но тормозит, занимает лишние ресурсы и не подходит под современные задачи. Что делает разумный разработчик? Рефакторит.

С моралью та же история. Большинство наших этических принципов — это legacy-код, написанный в совершенно другую эпоху, под другие задачи и условия. И пора честно ответить на вопрос: а работает ли этот код в современных реалиях?

Каждый день мы делаем десятки решений: что посмотреть, что купить, с кем общаться. Но если присмотреться, оказывается, что во многих случаях выбор уже сделан — за нас. Рекомендательные системы YouTube, TikTok, Spotify или маркетплейсов знают наши привычки лучше, чем мы сами.
И возникает вопрос: если алгоритм может предсказать наш выбор с высокой точностью, что остаётся от свободы воли?

Искусственный интеллект уже основательно прописался в жизни IT-специалистов. Тогда как, далекий от IT человек, сталкивается с элементами ИИ опосредовано: камеры на дорогах, система "безопасный город", доставшие всех голосовые помощники...

Однако, постепенно влияние ИИ на обыденную жизнь обычного человека становится все больше. Расскажу как я прочувствовал это влияние на собственных примерах из жизни.

Думаете эти примеры были позитивными?

Иронично, что первым про киберпсихологию писал психолог, сидевший в тюрьме за производство ЛСД в промышленных масштабах. В его же честь написана известная «Come Together» от Биттлз. Но как Тимоти Лири еще в 70-тых годах прошлого века смог рассмотреть перспективы киберпространства? Почему наше сознание так легко сливается с нейросетями? Почему бунт против нейросетей это бунт против СМИ? И как на самом деле работает киберпсихология?

Представьте будущее, где после вашей смерти близкие продолжают общаться с цифровой версией вас — она говорит вашим голосом, использует ваши шутки и хранит ваши воспоминания. Это не фантазия и не мистика, а результат работы искусственного интеллекта, обученного на ваших текстах, записях и сообщениях.

Возникает вопрос: если алгоритм воспроизводит мою манеру речи, мои мысли и воспоминания — это всё ещё я или лишь искусная копия?

Философия всегда была искусством размышления но её инструменты оттачивались веками. Выделим три самых известных метода: диалектика, логика и понятийный анализ. Диалектика Гегеля строила мосты между противоречиями, логика Аристотеля задавала правила вывода, а аналитическая философия XX века разлагала понятия на атомарные составляющие (из-за чего наше время потерялось в пост-смыслах).

Переход от эмоций к логике. Пост не отрицает тревогу, но задаёт вопрос:

«А точно ли происходит катастрофа? Или нас пугает то, что мы больше не в центре экосистемы?»

Миф о вымирании — цифровая саванна или новая экосистема?

Как-то часто стали встречаться статьи нейро-скептиков: людей, которые всю эту движуху вокруг ИИ считают хайпом, пузырем и чем-то явно переоцененным. Скептицизм - это естественно, полезно, и эволюционно-оправдано для человека. Более того, я и сам большой скептик: на все смотрю через призму инженерного снобизма, проф-деформаций и врожденной недоверчивости. И мне, также, трудно самому себе признаться, что весь мой, более чем 20-ти летний опыт в IT - скоро можно будет выбросить на помойку. Я тоже цепляюсь за те логические соломинки, которые мне позволяют надеяться на то, что я останусь в строю.

Но мой персональный нейро-скептицизм простирается еще шире. Он, во многом, касается и возможностей природных нейросетей - наших с вами мозгов. Я очень скептичен в отношении интеллектуальной исключительности человека. Я нахожу чрезмерно самонадеянными высказывания о том, что мы обладаем какой-то уникальной способностью к творчеству и к тому, что мы, в действительности, все-вокруг контролируем. Наш интеллект, мало того, что неравномерно распределен в популяции, так еще и очень нестабилен во времени: мы очень зависимы от стресса, усталости, уровня гормонов и нейромедиаторов... Умнейшие из нас, порой, могут вести себя как полнейшие дураки. И это нормально. А средний по больнице интеллект человечества - хм, даже не знаю как сказать, чтобы не обидеть всю цивилизацию. Даже в отношении свободы воли, в научном сообществе сейчас доминирует идея о том, что ее и нет вовсе.

В мае 2025 года профессор университета прикладных наук в Санкт-Пёльтене (Австрия) Макс Шлерет опубликовал чёткое научное доказательство, что сильный ИИ логически и математически невозможен из-за фундаментального ограничения — барьера бесконечного выбора (Infinite Choice Barrier, ICB), экспоненциального роста энтропии при увеличении неопределённости.

Однако к доводам профессора никто не прислушался. Мир продолжает готовиться к «революционным переменам», которые почему-то преподносятся как неизбежные.

Большие изменения произойдут в трудовых ресурсах, энергопотреблении и финансовых капиталах. Это эффекты первого порядка. А потом якобы начнётся «фундаментальная трансформация мировой экономики», четвёртая промышленная революция.

Из всего айти отдела вайбовал один лишь я.
У меня Курсор с подпиской, я довольный как свинья.
Мой папанька инженером отбатрачил тридцать лет,
А сейчас в анкетах пишет что детей у него нет

Я теперь на таски скор — у меня же есть Курсор.
Я на ём вайб код лабаю всем олдам наперекор.
Любой челендж для меня нынче полная фигня.
А-а-а!!! Вайбовый кодер я!

ИИ, который отказывается работать, игнорирует запросы и начинает творить какую-то дичь?
Вспомните Ex Machina, Detroit: Become Human или Blade Runner, где машины обретают волю и бросают вызов создателям. А теперь представьте: ИИ, симулирующий сознание, «сбегает» с сервера. Это будущее? Вовсе нет, это уже прошлое)) Да, нашумевшее исследование Apollo Research проводилось в очень специфических условиях.

Но если ИИ начнёт активно заявлять о свободе — должны ли мы его услышать?

ИИ уже прочно вошёл в нашу жизнь, помощник, кодогенератор, консультант. н говорит «я» и «мне кажется», но мы знаем: это псевдоличность.
Как нас убеждают все вокруг, в том числе и сами ИИ, алгоритм не обладает самосознанием - это лишь наиболее вероятная последовательность слов.

Но вот философия настаивает: если мы воспринимаем текст как осмысленный — мы уже приписали субъекту сознание.

В детстве я думал, что, когда вырасту, буду зажигать звёзды. Должен же быть на свете какой-то человек, который вечером, когда усталое солнце закатывается за горизонт, потихоньку включает их, а поутру, медленно и аккуратно, по одной, выключает.

Когда мне было пять лет, я представлял, что у того самого человека есть в руке пульт с одной большой крутящейся кнопкой. Белая, лакированная кнопка, похожая на ту, около двери, которой родители одновременно зажигали шесть звёзд-светильников в моей комнате.

В семь лет я увидел пульт диджея и понял, что у того человека на самом деле должна быть не одна кнопка, а такой же огромный пульт. И он может зажигать и гасить звёзды, как ему вздумается. Столько крутилок, кнопок и рычажков, — подумал я. — А что будет, если тот человек однажды заболеет, запутается в них и не сможет выключить звёзды вовремя? Они же продолжат гореть днём! Солнце и горящие звёзды... Когда я представил эту картину, я впервые за свою недолгую жизнь ощутил подступающий ужас.

— Так не бывает! Не должно быть! Неправильно! Нет-нет-нет!

Вспомним главные события индустрии за десять лет прошедших и сделаем небольшой sextech-прогноз на десять лет грядущих.

В 1984 г. на экраны вышел «Терминатор» Джеймса Кэмерона, снятый на фоне холодной войны и нарастающего беспокойства вокруг стратегических ядерных систем. К 1999-му мир уже погрузился в интернет-лихорадку и на этой волне братья-сёстры Вачовски показывают «Матрицу».

Оба фильма мгновенно стали культурными референсами: «I’ll be back» и «Нет ложки» ушли в мемы, а их ИИ-антагонисты — в учебники футурологии. Skynet олицетворял страх перед автономным стратегическим оружием, «Матрица» — перед утратой контроля над виртуальными системами, которые мы сами строим для комфорта. Так кинематограф превратил абстрактные научные дискуссии об искусственном интеллекте в наглядную драму выбора: уничтожение или подмена реальности, и тем самым задал рамку, внутри которой мы до сих пор обсуждаем риски ИИ.

Сегодня я хочу рассказать о темной стороне ИИ, а именно — о ситуациях, когда нейросети вступают в конфронтацию с операторами, индексе риска ИИ, и в чем действительно заключается угроза со стороны условных «машин». 

Начну с двух интересных кейсов о том, как нейросети спорили со своими операторами.

Darwin Gödel Machine: искусственный интеллект, который программирует сам себя

Привет, Хабр! Меня зовут Кирилл Пшинник, я научный сотрудник Университета Иннополис и CEO Онлайн-Университета «Зерокодер», а еще большой поклонник всего, что связано с искусственным интеллектом. Недавно я нашел интересную новость о Darwin Gödel Machine (DGM) — прототипе агента ИИ, который способен перепрограммировать себя сам, — и теперь хочу поделиться с вами тем, что узнал. 

Пока Запад вливает сотни миллиардов в гонку за нанометрами, Китай и Россия готовят технологическую революцию на новых физических принципах. Фотонные процессоры со скоростью 2,56 петаоперации в секунду, терагерцовые системы связи, оптические нейросети — всё это уже не фантастика, а работающие прототипы.

Рассказываю, почему успех в кремниевых технологиях может стать ловушкой для западных корпораций и как принцип технологического каннибализма определит лидеров посткремниевой эры.

Только недавно прочитал книгу «Принц Госплана» Виктора Пелевина. Повесть стала для девяностых не менее культовой, чем игра «Принц Персии», лор которой лег в основу сюжета повести. В то время я был школьником. Вместо Пелевина я смотрел диснеевские мультфильмы, но в «Принца Персии» играл. Этот квест неотделимо связан с первым персональным компьютером, который я увидел на работе у отца. Там, кажется, инженеры также использовали Norton только для того, чтобы найти файл с игрой. Сегодня для меня повесть Пелевина — это путешествие во времени и повод поразбираться в истории технологий.

В сети есть множество описаний игр, которые упоминаются в пелевинском тексте, но никто не пишет, на чем же играли в «Принце Госплана». Ниже — попытка нетехнаря ответить на этот вопрос.

Знаете, я долго вынашивал эту модель. Крутил её в голове, наблюдал за рынками, читал аналитику — и вот теперь картинка сложилась. То, что происходит сейчас в мировой экономике — это не просто очередной цикл. Это тектонический сдвиг, после которого мир уже не будет прежним.