Прочитал полностью вашу книгу и вашу беседу с автором канала на YouTube "Основа". Создалось впечатление, что вы и автор канала на YouTube не понимаете, насколько серьёзная проблема по поводу экзистенциального риска. С точки зрения эволюции мы созданы обращать внимание на своих конкурентов - биологических организмов, но электрические мозги могут быть намного мощнее. Примитивный GPT4 уже уделывает многих людей, но это только начало, то ли ещё будет.
Люди не озвучивают свой выбор, а тупо пытаются угадать, какой ответ больше соответствует морали.
Конечно же это неправда, в большинстве случаев люди не пытаются угадать. Люди - это живые организмы и все живые организмы подчиняются законам эволюции. Основная задача эволюции - каждый ген должен сделать больше своих копий. Поэтому существует расизм. Поэтому когда люди будут выбирать убить или сохранить жизнь, они будут смотреть на то, похожи ли жертвы на них визуально. Визуально - потому что зрение - основной орган получения информации. Это значит, что в среднем белые будут больше поддерживать белых, а чёрные будут больше поддерживать чёрных, рыжие рыжих и так далее. Можно погуглить такую тему как "Ген зелёной бороды". Самое главное понять, что жизнь - это не люди и не белковые организмы, а гены и ДНК, то есть репликаторы.
Человеки разные и очевидно, что обучать нужно не на той морали, которую можно увидеть в тюрьмах для серийных убийц и педофилов.
100% идеальная мораль скорее всего невозможна, как в проблеме вагонетки. Там будут некоторые тонкости, которые будет сложно разрешить. Но даже 95% приближение к идеалу может быть очень неплохим вариантом.
ИИ будет подвержен тем же ошибкам, что и его создатель
Поэтому можно только порадоваться, что какой-нибудь Талибан не способен обогнать OpenAi и создать более мощный ИИ.
Я сейчас иногда пользуюсь Оперой Мини для обхода блокировок, чтобы почитать новости. Она использует сжатие трафика на серверах и по сути работы как VPN.
сложно объяснить, зачем организмам стареть и умирать. Штампуй копии, пока не умрёшь случайно.
Тупо физический предел, примерно такой же как у автомобиля. Внутри клеток накапливаются повреждённые белки, типа амилоида, но не было мутаций, которые способны вывести эти белки и очистить организм.
Это примерно как спросить - почему живые организмы не научились использовать ядерную энергию в качестве источника энергии для себя, ведь это намного более выгодно, чем химическая энергия. Ответ очень прост - не было подходящей цепочки мутаций.
В то, что общество бессмертных сможет как-то сорганизоваться
Смертность от несчастных случаев или убийств никуда не исчезнет, поэтому бессмертие невозможно, только большая продолжительность жизни. А общество с большой продолжительностью жизни уже должно мочь сорганизоваться.
Проблема группового отбора в том, если лично ты умрешь, то ты, возможно, освободишь нишу для своих родственников и тем самым им поможешь, но в то же время ты поможешь другим особям и их родственникам. И если эти другие не будут умирать, то их гены получат преимущество за твой счёт. В итоге гены, которые отказались идти на самопожертвование, сделают больше своих копий и вытеснят таких альтруистов.
Один из топовых эволюционных биологов - Ричард Докинз, не поддерживает гипотезу группового отбора. В целом в современной биологии она вроде как не особо поддерживается. В большинстве случаев работает правило "Каждый ген сам за себя" и "Делай копии сколько можешь до посинения".
Если жизнь создана искусственно с помощью селекции или генетической модификации, то у неё могут отсутствовать инстинкты, которые обычно имеются у живых организмов, возникших в результате стандартного естественного отбора.
В теории можно создать животных, которые будут с разбега прыгать в огонь и сами зажариваться на шашлык. В дикой природе такие гены не одобряются, но они могут быть одобрены мозгом безумного генетика.
что сама ЧД и есть классический "космический объект" (чем она хуже других)
Нет никакой классики и нет никаких классических объектов. Можно понять людей, которые топили за копенгагенскую интерпретацию в начале XX века, но не сейчас. Эверетт и Дойч - перед ними стоит преклониться. Они не боги, но они создали новое знание, за это их будут помнить до конца времён.
Эффект Унру просто шикарен, выносит мозг примерно как парадокс-близнецов или парадокс шеста и сарая.
Непонятки с несовместимостью между квантовой механикой и теорией относительности могут быть связаны не с каким-то недостатком данных или формул, а с неправильной интерпретацией получаемых результатов. Например гравитацию пытаются квантовать, но может быть её вообще не нужно квантовать, может само понятие кванта, точнее то как он воспринимается, ошибочно изначально. Вообще нет никаких квантов, а то что мы видим и интерпретируем как квант, это что-то совсем другое.
Это как спор - электрон частица или волна, или какие свойства он проявляет в той или иной степени - свойства частицы или свойства волны. Предполагается выбор между двумя вариантами. Но оба этих варианта неверны, электрон не является ничем из этих двух вариантов, там что-то кардинально другое.
Самое плохое в том, что человеческий мозг изначально может быть не приспособлен для понимания окончательной истины. Примерно как пытаться запустить GTA5 на электронных часах.
Я уже минут 40 пытаюсь спросить эту штуку, что она думает по поводу определенного сочетания букв. В общем если их одну за другой набрать, оно выглядит как СОРМ.
Мало информации о дезактивации облученных предметов, воды и еды. Скажем, на удалении 5 км произошла детонация 100 кт заряда. Нейтроны вообще пролетят 5 км, будет наведённая радиация или атмосфера всё поглотит?
Ближайшая звезда Проксима Центавра и сразу не просто жизнь, не динозавры и насекомые, а разумная технология. Причём уровень развития технологий похоже сравним с Землёй, если судить по отсутствию мегаструктур или выделения большого количества энергии. Жизнь на двух соседних звёздах через миллиарды лет эволюции встретилась примерно в одной фазе развития.
если цивилизация медленно размножается в силу особенностей своей биологии, а живет в среде с большим количеством ресурсов
Половой отбор может всё испортить. Он приведёт к тому, что отдельные индивидуумы будут продолжать конкурировать за ресурсы и будут накапливать просто гигантские количества этих ресурсов в одних руках, а большая часть населения будет жить бедно. В общем будет происходить примерно то же самое, что в современном мире происходит с олигархами и миллиардерами, у которых уже есть миллиарды долларов, но они не останавливаются и продолжают конкурировать, сажать в тюрьмы и иногда убивать друг друга. Когда у тебя особняк за 100 млн долларов - это хорошо, но у твоего соседа особняк за миллиард долларов и тебе кажется, что твоя жена начинает поглядывать на него. А пацаны на районе уважают тебя меньше и весь респект уходит более крутому самцу. Срочно нужно купить особняк за 2 млрд долларов.
При демократии что-то запретить можно просто, если большинство за это проголосует.
Это правда. Но демократия - это вторичный фактор, важнее всего свобода слова. Если попытаться сделать демократию где-нибудь в африканском племени, то там большинство проголосуют за поклонение духу дерева или чего-то типа того. Чтобы осуществить свободу слова, важна независимая журналистика и научный метод. На земле существует всего с десяток стран где работает этот параметр.
Не получится дальше жить по принципу кто сильнее тот и прав. Увы, но расщепление ядра урана и плутония сделало это невозможным. Деколонизация Африки западными странами была неплохим примером, что можно ради справедливости пожертвовать ресурсами, деньгами и богатством. Площадь Африки больше, чем площадь России и ресурсов там не меньше чем в России. Тем не менее западные страны оставили в покое Африку. Если люди по-прежнему животные, которые работают чётко по инстинктам, то у них нет шансов. Тем не менее я думаю что это неправда, у людей есть инстинкты, но они не то же самое, что муравьи и прочие насекомые, у них есть разум.
На мой взгляд, в жизни и деятельности человека как части экосистемы мало смысла: человек это биологическое существо запрограммированное на сохранение своего вида в целом и набора уникального генетического материала в частности. Основоположник теории геноцентризма Ричард Докинз в своей книге «Эгоистичный ген» приводит убедительные доводы относительно того, что на самом деле ведущую роль в развитии вида и всей нашей деятельности играет именно стремление генов к «сохранению себя».
Не сочтите за сексизм, но такой проблеск разума не ожидаешь увидеть от женского пола. Обычно женский пол менее заморочен поиском смысла, именно поэтому автор эгоистичного гена - Ричард Докинз - мужик. Но этой статьёй вы уделали 99% мужиков, спасибо!
Прочитал полностью вашу книгу и вашу беседу с автором канала на YouTube "Основа". Создалось впечатление, что вы и автор канала на YouTube не понимаете, насколько серьёзная проблема по поводу экзистенциального риска. С точки зрения эволюции мы созданы обращать внимание на своих конкурентов - биологических организмов, но электрические мозги могут быть намного мощнее. Примитивный GPT4 уже уделывает многих людей, но это только начало, то ли ещё будет.
Конечно же это неправда, в большинстве случаев люди не пытаются угадать. Люди - это живые организмы и все живые организмы подчиняются законам эволюции. Основная задача эволюции - каждый ген должен сделать больше своих копий. Поэтому существует расизм. Поэтому когда люди будут выбирать убить или сохранить жизнь, они будут смотреть на то, похожи ли жертвы на них визуально. Визуально - потому что зрение - основной орган получения информации. Это значит, что в среднем белые будут больше поддерживать белых, а чёрные будут больше поддерживать чёрных, рыжие рыжих и так далее. Можно погуглить такую тему как "Ген зелёной бороды". Самое главное понять, что жизнь - это не люди и не белковые организмы, а гены и ДНК, то есть репликаторы.
Точная копия невозможна. Нельзя полностью синхронизировать все атомы и элементарные частицы между собой, законы квантовой механики это запрещают.
Человеки разные и очевидно, что обучать нужно не на той морали, которую можно увидеть в тюрьмах для серийных убийц и педофилов.
100% идеальная мораль скорее всего невозможна, как в проблеме вагонетки. Там будут некоторые тонкости, которые будет сложно разрешить. Но даже 95% приближение к идеалу может быть очень неплохим вариантом.
Поэтому можно только порадоваться, что какой-нибудь Талибан не способен обогнать OpenAi и создать более мощный ИИ.
Я сейчас иногда пользуюсь Оперой Мини для обхода блокировок, чтобы почитать новости. Она использует сжатие трафика на серверах и по сути работы как VPN.
Тупо физический предел, примерно такой же как у автомобиля. Внутри клеток накапливаются повреждённые белки, типа амилоида, но не было мутаций, которые способны вывести эти белки и очистить организм.
Это примерно как спросить - почему живые организмы не научились использовать ядерную энергию в качестве источника энергии для себя, ведь это намного более выгодно, чем химическая энергия. Ответ очень прост - не было подходящей цепочки мутаций.
Смертность от несчастных случаев или убийств никуда не исчезнет, поэтому бессмертие невозможно, только большая продолжительность жизни. А общество с большой продолжительностью жизни уже должно мочь сорганизоваться.
Проблема группового отбора в том, если лично ты умрешь, то ты, возможно, освободишь нишу для своих родственников и тем самым им поможешь, но в то же время ты поможешь другим особям и их родственникам. И если эти другие не будут умирать, то их гены получат преимущество за твой счёт. В итоге гены, которые отказались идти на самопожертвование, сделают больше своих копий и вытеснят таких альтруистов.
Один из топовых эволюционных биологов - Ричард Докинз, не поддерживает гипотезу группового отбора. В целом в современной биологии она вроде как не особо поддерживается. В большинстве случаев работает правило "Каждый ген сам за себя" и "Делай копии сколько можешь до посинения".
Если жизнь создана искусственно с помощью селекции или генетической модификации, то у неё могут отсутствовать инстинкты, которые обычно имеются у живых организмов, возникших в результате стандартного естественного отбора.
В теории можно создать животных, которые будут с разбега прыгать в огонь и сами зажариваться на шашлык. В дикой природе такие гены не одобряются, но они могут быть одобрены мозгом безумного генетика.
Там есть некоторые косвенные признаки неадеквата, например:
Возможно пацан изначально шёл к успеху, а мы теперь вынуждены читать плоды этого успеха.
Нет никакой классики и нет никаких классических объектов. Можно понять людей, которые топили за копенгагенскую интерпретацию в начале XX века, но не сейчас. Эверетт и Дойч - перед ними стоит преклониться. Они не боги, но они создали новое знание, за это их будут помнить до конца времён.
Эффект Унру просто шикарен, выносит мозг примерно как парадокс-близнецов или парадокс шеста и сарая.
Непонятки с несовместимостью между квантовой механикой и теорией относительности могут быть связаны не с каким-то недостатком данных или формул, а с неправильной интерпретацией получаемых результатов. Например гравитацию пытаются квантовать, но может быть её вообще не нужно квантовать, может само понятие кванта, точнее то как он воспринимается, ошибочно изначально. Вообще нет никаких квантов, а то что мы видим и интерпретируем как квант, это что-то совсем другое.
Это как спор - электрон частица или волна, или какие свойства он проявляет в той или иной степени - свойства частицы или свойства волны. Предполагается выбор между двумя вариантами. Но оба этих варианта неверны, электрон не является ничем из этих двух вариантов, там что-то кардинально другое.
Самое плохое в том, что человеческий мозг изначально может быть не приспособлен для понимания окончательной истины. Примерно как пытаться запустить GTA5 на электронных часах.
-
Я уже минут 40 пытаюсь спросить эту штуку, что она думает по поводу определенного сочетания букв. В общем если их одну за другой набрать, оно выглядит как СОРМ.
Такое ощущение, что меня забанили.
Да, уже скоро.
Мало информации о дезактивации облученных предметов, воды и еды. Скажем, на удалении 5 км произошла детонация 100 кт заряда. Нейтроны вообще пролетят 5 км, будет наведённая радиация или атмосфера всё поглотит?
Ближайшая звезда Проксима Центавра и сразу не просто жизнь, не динозавры и насекомые, а разумная технология. Причём уровень развития технологий похоже сравним с Землёй, если судить по отсутствию мегаструктур или выделения большого количества энергии. Жизнь на двух соседних звёздах через миллиарды лет эволюции встретилась примерно в одной фазе развития.
Нужно делать 1000 одновременно работающих нейросетей, которые выносят коллективное решение. Маловероятно, что у всех будет одинаковый глюк.
Половой отбор может всё испортить. Он приведёт к тому, что отдельные индивидуумы будут продолжать конкурировать за ресурсы и будут накапливать просто гигантские количества этих ресурсов в одних руках, а большая часть населения будет жить бедно. В общем будет происходить примерно то же самое, что в современном мире происходит с олигархами и миллиардерами, у которых уже есть миллиарды долларов, но они не останавливаются и продолжают конкурировать, сажать в тюрьмы и иногда убивать друг друга. Когда у тебя особняк за 100 млн долларов - это хорошо, но у твоего соседа особняк за миллиард долларов и тебе кажется, что твоя жена начинает поглядывать на него. А пацаны на районе уважают тебя меньше и весь респект уходит более крутому самцу. Срочно нужно купить особняк за 2 млрд долларов.
Это правда. Но демократия - это вторичный фактор, важнее всего свобода слова. Если попытаться сделать демократию где-нибудь в африканском племени, то там большинство проголосуют за поклонение духу дерева или чего-то типа того. Чтобы осуществить свободу слова, важна независимая журналистика и научный метод. На земле существует всего с десяток стран где работает этот параметр.
Не получится дальше жить по принципу кто сильнее тот и прав. Увы, но расщепление ядра урана и плутония сделало это невозможным. Деколонизация Африки западными странами была неплохим примером, что можно ради справедливости пожертвовать ресурсами, деньгами и богатством. Площадь Африки больше, чем площадь России и ресурсов там не меньше чем в России. Тем не менее западные страны оставили в покое Африку. Если люди по-прежнему животные, которые работают чётко по инстинктам, то у них нет шансов. Тем не менее я думаю что это неправда, у людей есть инстинкты, но они не то же самое, что муравьи и прочие насекомые, у них есть разум.
Не сочтите за сексизм, но такой проблеск разума не ожидаешь увидеть от женского пола. Обычно женский пол менее заморочен поиском смысла, именно поэтому автор эгоистичного гена - Ричард Докинз - мужик. Но этой статьёй вы уделали 99% мужиков, спасибо!