Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 19
Пробовали вы когда-нибудь обучать модели? Может быть, вы изучали процесс обучения моделей или процессы оптимизации моделей? Может, вы знаете, на каких данных обучают модели? Может, вы знаете математику, на которой это построено?
По моему мнению, если человек напрямую сталкивался хотя бы с парочкой из этих знаний, то у него отпадают сомнения, что до сингулярности — как до Луны пешком. И говорить об этом как о хоть какой-то возможности этого в обозримом будущем, по меньшей мере, очень странно
Мой тезис о сингулярности строится не на том, как хорошо или плохо обучают модели, а на системной динамике, о которой писал еще Валентин Турчин. Мой текст – это попытка отойти от "математики весов" и посмотреть на ИИ как на новый метасистемный переход. Да, до сильного ИИ в голливудском понимании может быть далеко, но до точки, где социальные институты перестанут справляться с темпом изменений – мне кажется, рукой подать.
да, вы совершенно правы в вашей оценке, но системные институты перестали справляться уже какое-то время назад, а явным это стало как минимум с приходом короны и последовавшем за ней кризисе доверия.
Человеческая культура призвана обеспечивать непрерывно возрастающую безопасность и комфорт для каждого индивидума и особенно для его потомства, и достигается это общественным договором в виде норм морали и этики, лояльность покупается предсказуемостью. Но во времена слишком быстрых изменений индивидуальная психика достигает предела способностей к адаптации и в какой-то момент отказывается от рационального мышления, как механизма слишком затратного и больше не приносящего быстрой выгоды, и переключается на более примитивные "дедовские" социальные алгоритмы, проверенные не годами но тысячелетиями, переходит в более экономный режим, что однако возможно только после отказа от современного общественного уклада и перехода к более примитивной организации социальных связей. При этом, разумеется, на каком-то этапе индивидум еще не готов отказаться от привычных благ прогресса и экономики, стремится к более простому и понятному обществу но с сохранением всех приятных плюшек, и вот тут на сцену выходит фашизм, идиология которая предлагает такой регресс в наиболее откровенной форме - жить как деды, подчиняться и подчинять, иметь право на насилие оставаясь в рамках жесткой иерархии, но при этом иметь развитую экономику и технологию. Коммунизм кстати в исполнении Маркса-Энгельса предлагает ровно то же самое, только в чуть более завуалированной форме, но тем не менее, возврат к совершенно архаичным формам общества под видом прогрессивных, с одновременным обещанием всех благ земных и душевных. Однако, результат один - более примитивное общество не может долго поддерживать сложный уровень технологии, технологический прогресс неизбежно синхронизируется с уровнем культуры, отклоненения могут быть только временные. Но вот в такой вот интересный период временной рассинхронизации нам довелось пожить, и невозможно предсказать как глубоко упадём прежде чем снова начнем подниматься, хотя подъём очевидно неизбежен. Не то "катастрофа бронзового века", не то "Семя желания" Энтони Бёрджерсса
Мы впервые наблюдаем не цепочку изменений, а экспоненциальную сеть взаимного усиления.
Никогда такого небыло, и вот опять.
[удалён]
Что-то вы не учитывает, что каждый такой переход между эпохами сопровождается гибелью с каждым разом всё большей массы населения, падением в тёмные века, т.е. экспонента есть, но она ступенчатая. Боюсь что следующая гибель не за горами..,
Именно на это я и намекал, честно говоря, - имея в виду что вряд ли всё благополучно закончится.
Ну у вас только плюсики описаны, минусы скромно опущены)
Каюсь, я боялся уйти в полный техно-пессимизм. Но я с Вами полностью согласен такие переходы между эпохами "бесшовно" не проходят. Достаточно вспомнить, какими потрясениями закончилась 2-ая промышленная революция.
ну не совсем опушены, один вот приведён:
для которого отдельный человек становится тем же, чем клетка является для организма – функциональной единицей, не способной осознать цели всей системы.
Это, как я понимаю, намёк на цифровой гулаг, или так называемый улей, про который предупреждают алармисты.
Точка сингулярности это когда в самом человечестве отпадает нужда и прогресс и эволюция пойдут дальше уже без человека. Свое дело он сделал.
Земля кремниевая планета;)
Всё началось, имхо, сильно раньше, чем 70 тыс. лет назад, см, например, серию статей на Хабре про это, которую я недавно начал:
https://habr.com/ru/articles/1000170/
https://habr.com/ru/articles/1001976/
Но, в принципе, на эту тему люди уже давно медитируют, чуть ли не с начала XX века, вот, скажем, мои измышлизмы примерно от 2009 года: https://aicommunity.narod.ru/TheBase/KombEvol.html
Поглядим, как в итоге карта ляжет.)
Вторая индустриальная революция так вскружила голову, что дело закончилось двумя мировыми войнами и десятками миллионов жертв. И все потому, что многие уверовали в новую "сингулярность" - всемогущие машины, танки, самолеты и пр., - что можно переиграть карту мира и все перевернуть одним махом.
да, уверовали, но быстро устали. Захотели жить попроще но чтоб всё было по высшему разряду, но поняли что мешает слишком сложная этика со множеством ограничений на причинение вреда ближнему и дальнему, и решили что этику нужно радикально упростить и подправить, чтоб перед своими не стыдно было, да и перед самим собой вобщем-то тоже. Собственно, всю первую половину прошлого века этим и занимались, итог известен.
Но тут проблема не в индустриальной революции, а в склонности вида Homo Sapiens к разжиганию войн.
Как буд-то Академик Капица перевоплотился!
Ладна, панятна... Но кта винават, и шта делать?)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Преодоление глобальных кризисов. Часть 2. Мы подошли к точке сингулярности?