Технологическая сингулярность и судьба человечества

[ivanstor]

Ключевой момент, который вскользь упомянут в статье.
Это энергия. Проще — на какие шиши весь этот пир духа. Было бы интересно ознакомится со сравнительной энергоэффективностью биологических и кристаллических "мыслителей". Вопрос это не простой. По энергоэффективности вычислений мозг эффективнее на порядки, но ему требуется инфраструктурное обеспечение. Собственно, всё, что мы называем современной цивилизацией и есть это обеспечение. Но и ИИ работает поверх этой самой цивилизации. Т.е. нуждается и в ней, и отдельно в энергии для себя. Сопоставимой (а то и превосходящей) по количеству с затратам энергии на человечество без ИИ.
Что обеспечивает сингулярность черной дыры понятно. А что обеспечит сингулярность человечества? Я не вижу источника энергии для этого. Возможно, плохо смотрю.

Кстати. Схожие закономерности закона Мура окончились не сингулярностью, а спокойным ростом вширь. После достижения технологических пределов.

[Combinator_30]

По энергоэффективности вычислений мозг эффективнее на порядки, но ему требуется инфраструктурное обеспечение.

Тут трудно напрямую сравнивать. Несомненно, индивидуальный мозг при работе потребляет меньше энергии, чем какой-нибудь условный GPT 5.5. Но так ведь и знания современных LLM это, по сути, знания, накопленные всем человечеством, то есть, может быть, надо их сравнивать не с энергопотреблением отдельного мозга ХомоСапиенс, а с энергопотреблением мозгов всего человечества, плюс, энергопотребление его "инфраструктурного обеспечения", а это очень неслабая величина.

Что обеспечивает сингулярность черной дыры понятно. А что обеспечит сингулярность человечества? Я не вижу источника энергии для этого. Возможно, плохо смотрю.

Ну если, например, построить вокруг Солнца сферу Дайсона, то запас как минимум еще на 10 порядков величины, вроде, есть.

Кстати. Схожие закономерности закона Мура окончились не сингулярностью, а спокойным ростом вширь. После достижения технологических пределов.

Это да, но до этого, как только доходили до предела аппаратной базы, всегда находилось что-то новое и более мощное. Счеты сменили механические арифмометры, их, в свою очередь, сменили реле, потом лампы, портом транзисторы, потом микросхемы. Мне кажется, и сейчас что-нибудь найдется, квантовые компьютеры в промышленных масштабах, например, уже на подходе. Думаю, лет через 5 их уже будут использовать достаточно широко, не все же зацикливаться на фон неймановской архитектуре.

[runaway]

В ближайшие 10 лет человечество угробит само себя по своей тупости, а потом умрёт ИИ, т.к. некому будет его содержать.

Так вижу.

[ImagineTables]

А если я считаю, что эти идеи были неплохи для своего времени, но устарели и были вытеснены другими хорошими идеями, мне куда кликать? На «Это все какие-то больные фантазии странных людей, тут и обсуждать нечего»? Я бы сказал, что голосование какое-то манипулятивное, но мне трудно придумать, кто бы мог проплатить вывод сингулярности в топы, поэтому буду исходить из того, что автор писал добросовестно и отвечу вот этим критическим комментарием.

[Combinator_30]

Если ни один вариант ответа вам не подходит, можно просто воздержаться. Всех возможных мнений, к сожалению, не учтешь.

[ilriv]

Верю в человечество! Человеки сумеют саботировать деятельность любого AGI.

[Sun-ami]

Скорее всего, люди и компьютеры вступят в некий симбиоз, но за то, чтобы человечество в этом симбиозе представлял не десяток миллиардеров, а все мыслящие люди хотя бы некоторых стран, ещё придётся побороться.

[ampir-nn]

Быстрей бы уже - тупость людей уже просто запредельная.

[kpmy]

Пока мне представляется реалистичным сценарий будущего из игры sc0rn, мир воплощённого биомеханического ада без смысла и перспектив.

[kauri_39]

Как только ИИ примет на себя управление человечеством и сохранение его глобальной формации, так сразу явятся инопланетяне со своим вариантом нашего будущего.

[3gusevgg]

Можно даже не рассматривать сценарий сингулярности в сильном смысле. Достаточно обычного экспоненциального роста.

Пусть потребляемая цивилизацией мощность растёт как:

P(t) = P0(1 + g)^t,  g = 0.02

Тогда время достижения масштаба P* равно:

t = ln(P*/P0) / ln(1 + g)

Если взять современное энергопотребление человечества:

P0 ≈ 2 × 10^13 Вт ≈ 2 × 10^20 эрг/с

а в качестве чисто символического масштаба — планковскую светимость:

P* = c^5/G ≈ 3.6 × 10^59 эрг/с

то:

P*/P0 ≈ 1.8 × 10^39

Отсюда:

t ≈ ln(1.8 × 10^39) / ln(1.02)
  ≈ 90.4 / 0.0198
  ≈ 4.6 × 10^3 лет

То есть даже при росте всего 2% в год формальное достижение такого абсурдно большого масштаба заняло бы лишь несколько тысяч лет.

Планковская светимость здесь, конечно, не физический предел для цивилизации, а просто удобный маркер того, насколько агрессивна экспонента. Поэтому проблема не обязательно в “сингулярности” как резком событии, а уже в самой невозможности долго продолжать экспоненциальный закон роста.