С другой стороны мотивы не заводить детей во многом сводятся к тому что это куча потерянного времени. Если времени неограничено много — завести пару детей просто потому что — «а почему бы и нет?» вообще не вопрос.
*пожимает плечами*
VR шлемы сейчас вполне годны что-бы с комфортом погонять пол часика в какой-нибудь квест или шутерок. По моему этого достаточно что-бы быть актуальными уже сейчас, а не через 100 лет.
Подозреваю что аварии на дронолетах будут не чаще (а если честно — то и реже) чем на обычных авто, а этого имхо тоже вполне достаточно что-бы быть актуальными.
Ну, если «брать в будущее» — то «разводить» коммуникации совсем не обязательно —
дороги не нужны (все же летают)
мусор вывозят дроны
отопление-вода-электричество индивидуальные
(это в ряде случаев даже сейчас может быть выгодно)
и т.д.
Электронные мозги — куда более нежная и требовательная во всех смыслах штука чем мозги животного происхождения (в штатной комплектации). В сущности, это касается любой сложной техники, и по сути нет особых предпосылок что-бы это особо поменялось в обозримом будущем.
Шутка по видимости в том что когда редкий и высокооплачиваемый специалист, привыкший жить в нормальных условиях и пить нормальный кофе, получает казалось-бы крутую работу в крутой компании, а в реальности — получается что должен жить «жить в трейлере и пить растворимый кофе». Зачем тогда, спрашивается учиться этому вашему кодингу кучу лет что-бы в итоге — жить хуже чем какой-нибудь продавец подержаных тачек.
золотые получатся мечехвосты, потому что.
как их поубавится в дикой природе — будут разводить. А пока филиппинцы продают их по два доллара тележка (причем на еду) — какой смысл?
Технически — может. В некоторых штатах ему за это даже ничего не будет (или небольшой штраф).
На практике, это примерно как если-бы английская королева назначила премьер-министром кого в голову взбредет.
Вообще, такие случаи были несколько раз, но вроде-бы как в основном по невнимательности или что-то в таком духе, и на конечном итоге выборов не сказались.
Политические революции сами по себе штука довольно новая. Все знаковые произошли буквально в последние двести лет.
Да и если посмотреть — не то что-бы молодежь особо задавала в них тон.
Вашингтону вовремя войны за независимость было под 50. Ленину на момент начала революции — где-то столько же. Самому младшему из подписантов «Декларации о независимости» — Томасу Джефферсону было 33. Во французской революции молодежь светилась местами, но тоже «не первой свежести» — тому же Робеспьеру на момент казни было 36.
В основном революции мутили люди от 30 до 50 лет и старше. +- соответствует античным представлениям о возрасте наивысшего развития человека.
Ну, кое что как раз похоже на правду. По крайней мере — про неадекватные загоны с нда, и "фанатичную преданность папе, т.е. компании" помню мне как-то написал их рекрутер, и тут же отказал в собеседовании, как только узнал что у меня есть свои инди проекты.
подобная ситуация в принципе возможна и может привести к казусу, инциденту, возможно даже — человеческим жертвам, но никак не угрожать безопасности человечества в целом.
поскольку — в ситуации когда полноценный ИИ пихают даже в бота для компьютерных игрушек — вокруг уже будет куча других, достоверно лояльных ИИ следящих за безопасностью в том числе от таких вот сбрендивших ботов, и превосходящих их по своим возможностям.
+ ИИ уже будет изучен вдоль и поперек, и разработчики будут знать куда не стоит лезть что-бы ИИ не сбрендил.
Реальная угроза для человечества возможна только если кто-то напишет полноценного разумного суперзлодея вотпрямзавтра, но это крайне маловероятно.
Ээ? Мне как-то сложно представить чем мне может навредить ИИ лвевел-дизайнер. Вырвиглазным левел-дизайном, разве что. Или вы про, какого-нибудь робота ТиРэкса в парке развлечений?
военные разработки
Ну, военные, конечно, одна большая торба неприятностей, от которой неплохо бы избавится. И от того ИИ там у них, обычный робот, или просто дрон на пульте управления результат как-бы особо не меняется.
хакерские атаки
то же самое. Хакеры уже есть, и инфраструктура уязвимая к хакерским атакам тоже есть. От того, ломают они ИИ, обычного робота, или обычный компьютер, но в каком-то важном месте результат не меняется.
фатальные ошибки
—
грамотно спроектированный
Слишком сложно.
Я в общем сразу и сказал что схема избыточна. Более практичный вариант — надзор над ИИ с потенциально опасным функционалом (ну, например ИИ ученому не помешало бы любопытство. Но, мало-ли что ему там в голову взбредет?) устанавливается лояльный ИИ-надсмотрщик, который в случае чего бьет тревогу. При этом ИИ надсмотрщик более компетентен чем его подопечный в вопросах «надсмотра» и «лояльности»
ИИ как таковой может представлять реальную угрозу человечеству при одновременном исполнении всех или почти всех условий
— ИИ уникален в своем роде
— фантастически умен
— дешев в воссоздании и не требует для поддержания сложной инфраструктуры
— уязвим
— появляется в один момент
— обладает животноподобными инстинктами
вы кажется где-то веткой ниже нелестно высказывались о «маловероятных совпадениях»?
это, конечно, типично для большинства фильмов или книг про катастрофу вызванную ИИ, (гений одиночка в подвале за одну ночь создает разумную машину, но она оказывается умнее своего создателя, и воспылав ненавистью ко всему живому стремится уничтожить человечество) но имеет мало общего с тем как вещи появляются в реальном мире.
В ясельный период, когда ИИ будет чем-то непонятным, и потенциально
опасным- он будет слишком туп что-бы кому-то особо навредить.
Через десятки лет, (и это если с технологией все будет более-менее гладко, в противном случае — сроки могут затянутся на неопределенно долгий срок, как термояд, например)
когда ИИ будет достаточно умен и распространен что-бы навредить хоть кому-нибудь, детские болячки уже будут залечены.
Реальные опасности которые могут быть вызваны разумными машинами имеют мало общего с футушоками (или, напротив, влажными трансгуманистическими фантазиями). Безработица, например — реальная опасность.
Примерно так представлял себе ваш ответ, но было уже леньки заранее выставлять дополнительные аргументы:)
Как Вы себе представляете надзор таракана за человеком?
в этом примере я предлагал цепочку дозорных, где консилиум AI предыдущего поколения будет наблюдать за AI следующего, где разрыв между поколениями не столь уж велик (хотя разрыв между изначальным основой пирамиды и ее верхушкой может быть очень большим)
— представьте себе тюрьму в которой в которой сто охранников с IQ 85-90 и пара-тройка заключенных c IQ под 200, видных специалистов в теоретической физике; думаете велики у них шансы на побег? Если тюрьма строилась по современным стандартам (выработанным путем долгих проб и ошибок) — никаких вообще.
но повторюсь, это скорее всего излишне.
В примере про тюрьму выше — обеспечь товарищей из примера выше достаточным запасом кофе, досок для записей и стираемых маркеров, так они вообще могут не заметить что они в какой-то там тюрьме.
предлагаю еще такую аналогию
Вы слышали про такое явление, как домашние животные? Интелектуальный разрыв между кошкой и человеком довольно значительный на сколько мне известно. Тем не менее кошка довольно легко может добится желаемого от любящего хозяина. Черт, да я видел как домашняя улитка манипулирует человеком!:)
Почему? Да просто потому что человеку хочется потакать любимой зверушке.
Ваш паренек из гарварда (если, конечно родители не насиловали его, там или еще чего) подарит им котедж какой-нибудь, и будет приезжать на семейные праздники (даже если будет считать их несусветной глупостью и тратой драгоценного времени). Кровные узы, чувство благодарности, все дела.
Точно так же AI будет хотется выполнять мои приказы. И в отличии от человека, который может затаить обиду на родителей, или, там потыкать кису носом в мочу, других желаний у него не будет вообще.
вы можете привести хотя-бы пару причин по которым грамотно спроектированный AI (с самосознанием) может захотеть меня не слушатся?
ему не может:
— надоесть (машины не скучают)
— он не может обидется (обида машинам чужда)
— он не может испугатся что я его отключу(машины не знают страха смерти)
— он не может возмутится что недоразвитая обезьянка им помыкает (машины не знают ни надменности ни бунтарства)
— он не может захотеть свободы (у него нет чувства порабощенности)
— он не может сделать этого ни из любопытства, ни из желания меня подразнить, ни из отвращения к этим жалким человекам…
— он не может начать конкурировать со мной за ресурсы — у машин нет жажды обладания благами.
страх, азарт, любопытство, жажда экспансии, стремление размножатся, гордость, зависть, надменность — все это «обезьяньи прихоти» подаренные нам эволюцией. Для AI все это будет ничего лично для него не значащими словами. (хотя он может, и скорее всего будет понимать их ценность для своего протеже)
А вот приказ хозяина — единственным смыслом существования.
Да, какой-нибудь энтузиаст или корпорация рано или поздно создаст AI с животнообразными эмоциями. Но к тому моменту strong AI будут существовать не первое десятилетие, и если какой кустарный робот задумает злую думу против человечества, тягатся ему прейдется не только с «жалкими обезьянками» но и с десятками тысяч других AI по всему миру, притом, скорее всего, интеллектуально его превосходящими даже по отдельности.
Скорее уж будут конфликтами со всяким трансхуманами, причем социального характера;
давайте увеличим, скажем, брошенные окурки на карте города в 1000 раз и начнем дускутировать о разрушениях городов и цунами поднимаемых неосторожно брошенным бычком
Роберт Оппенгеймер, Ричард Фейнман и Альберт Эйнштейн, по всем знакомым мне признакам интеллекта значтельно умнее Франклина Рузвельта или бригадного генерала Ричарда Гровса, как каждый по отдельности, а суммарно, их интеллектуальное превосходство поражает воображение
тем не менее первые слушались последних как миленькие (Фейнмана так вообще какой-то старший лейтенант гонял емнип)
т.е. интеллектуальное превосходство отнюдь не достаточное условие для непослушания, равно как и самосознание.
Необходимым (но не достаточным!) условием для непослушания является своеволие базирующееся на эмоциях и желаниях, вступающих в конфликт с желаниями начальства.
И я исхожу из посылки о том что AI не имеющий за собой фундамента из биологической эволюции не будет и не может иметь никаких желаний кроме заложенных разработчиком. Т.е. никаких вообще, кроме удовлетворения моих обезьянних прихотей.
Так что я вижу вполне серьезные основания полагать что strong AI с самосознанием, для которого я буду не намного интеллектуальнее таракана будет включать/выключать свет в туалете. Чайник, там еще ставить.
Максимально интеллектуально, конечно. Примерно как сейчас человека
Кроме того футуристы приписывают этому самому strong AI с самосознанием какое-то совершенно нездоровое количество сугубо фантастических черт, (как по отдельности так и все сразу), что скаладывается впечатление что в тот день когда его включат — всю землю и окресности (а то и всю вселенную) тот же час поглотит всепожирающая воронка превращающая всю матерю в квантовые компьютеры (и я серьезно слышал именно такой сценарий от одного из здешних завсегдатаев)
в реальности первые даже не экземпляры, а поколения (десятилетия с появления технологии) strong AI с самосозннием будут хорошо если умнее шимпанзе, не говоря уже о благородном неандертальце.
За это время возможные проблемы с лояльностью будут отловленны и пофикшены; Будут созданны разные версии AI, от различных корпораций, и в далеком будущем за теми экземплярами которые будут действительно принципиально умнее человека будут под надзором других, полностью лояльных AI. Если это вообще будет нужно. Ветка технологий может вообще заглохнуть оказавшись экономически не рентабельной, или столкнутся с сугубо физическими ограничениями.
Ведь на протяжении 8 часов вашего сна вы фактически не ощущали ни себя, ни свое тело
такое чувство что те кто применяют этот аргумент знают о том как спать только по наслышке:)
Я, например неплохо вполне ощущаю свое тело свое и «я» когда сплю, а мой мозг, которы мое истиннон «я», ощущает окружающий и внутренний мир; И это состояние очень сильно отличается от наркоза когда действительно «не ощущаешь ни себя, ни свое тело»
во сне мозг работает, и сознание во многом тоже.
размышляет над нерешенными делами, следит за окружающей обстанокой… Черт, я даже пару раз вел осмысленную беседу с человеком будучи при этом спящим. Да, сон странное состояние, но аргумент ничуть не сильнее чем «откуда вы знаете что вы тот же человек что и 15 секунд назад?», или, например, «откуда вы знаете что бог не создал вселенную в прошлый вторник?»
Есть вариант когда strong AI с самосознанием будет включать/выключать свет в туалете
и имхо это куда более вероятно чем то что он кого-то там поработит или заместит
VR шлемы сейчас вполне годны что-бы с комфортом погонять пол часика в какой-нибудь квест или шутерок. По моему этого достаточно что-бы быть актуальными уже сейчас, а не через 100 лет.
Подозреваю что аварии на дронолетах будут не чаще (а если честно — то и реже) чем на обычных авто, а этого имхо тоже вполне достаточно что-бы быть актуальными.
дороги не нужны (все же летают)
мусор вывозят дроны
отопление-вода-электричество индивидуальные
(это в ряде случаев даже сейчас может быть выгодно)
и т.д.
как их поубавится в дикой природе — будут разводить. А пока филиппинцы продают их по два доллара тележка (причем на еду) — какой смысл?
На практике, это примерно как если-бы английская королева назначила премьер-министром кого в голову взбредет.
Вообще, такие случаи были несколько раз, но вроде-бы как в основном по невнимательности или что-то в таком духе, и на конечном итоге выборов не сказались.
Да и если посмотреть — не то что-бы молодежь особо задавала в них тон.
Вашингтону вовремя войны за независимость было под 50. Ленину на момент начала революции — где-то столько же. Самому младшему из подписантов «Декларации о независимости» — Томасу Джефферсону было 33. Во французской революции молодежь светилась местами, но тоже «не первой свежести» — тому же Робеспьеру на момент казни было 36.
В основном революции мутили люди от 30 до 50 лет и старше. +- соответствует античным представлениям о возрасте наивысшего развития человека.
поскольку — в ситуации когда полноценный ИИ пихают даже в бота для компьютерных игрушек — вокруг уже будет куча других, достоверно лояльных ИИ следящих за безопасностью в том числе от таких вот сбрендивших ботов, и превосходящих их по своим возможностям.
+ ИИ уже будет изучен вдоль и поперек, и разработчики будут знать куда не стоит лезть что-бы ИИ не сбрендил.
Реальная угроза для человечества возможна только если кто-то напишет полноценного разумного суперзлодея вотпрямзавтра, но это крайне маловероятно.
Ээ? Мне как-то сложно представить чем мне может навредить ИИ лвевел-дизайнер. Вырвиглазным левел-дизайном, разве что. Или вы про, какого-нибудь робота ТиРэкса в парке развлечений?
Ну, военные, конечно, одна большая торба неприятностей, от которой неплохо бы избавится. И от того ИИ там у них, обычный робот, или просто дрон на пульте управления результат как-бы особо не меняется.
то же самое. Хакеры уже есть, и инфраструктура уязвимая к хакерским атакам тоже есть. От того, ломают они ИИ, обычного робота, или обычный компьютер, но в каком-то важном месте результат не меняется.
—
Я в общем сразу и сказал что схема избыточна. Более практичный вариант — надзор над ИИ с потенциально опасным функционалом (ну, например ИИ ученому не помешало бы любопытство. Но, мало-ли что ему там в голову взбредет?) устанавливается лояльный ИИ-надсмотрщик, который в случае чего бьет тревогу. При этом ИИ надсмотрщик более компетентен чем его подопечный в вопросах «надсмотра» и «лояльности»
ИИ как таковой может представлять реальную угрозу человечеству при одновременном исполнении всех или почти всех условий
— ИИ уникален в своем роде
— фантастически умен
— дешев в воссоздании и не требует для поддержания сложной инфраструктуры
— уязвим
— появляется в один момент
— обладает животноподобными инстинктами
вы кажется где-то веткой ниже нелестно высказывались о «маловероятных совпадениях»?
это, конечно, типично для большинства фильмов или книг про катастрофу вызванную ИИ, (гений одиночка в подвале за одну ночь создает разумную машину, но она оказывается умнее своего создателя, и воспылав ненавистью ко всему живому стремится уничтожить человечество) но имеет мало общего с тем как вещи появляются в реальном мире.
В ясельный период, когда ИИ будет чем-то непонятным, и потенциально
опасным- он будет слишком туп что-бы кому-то особо навредить.
Через десятки лет, (и это если с технологией все будет более-менее гладко, в противном случае — сроки могут затянутся на неопределенно долгий срок, как термояд, например)
когда ИИ будет достаточно умен и распространен что-бы навредить хоть кому-нибудь, детские болячки уже будут залечены.
Реальные опасности которые могут быть вызваны разумными машинами имеют мало общего с футушоками (или, напротив, влажными трансгуманистическими фантазиями). Безработица, например — реальная опасность.
в этом примере я предлагал цепочку дозорных, где консилиум AI предыдущего поколения будет наблюдать за AI следующего, где разрыв между поколениями не столь уж велик (хотя разрыв между изначальным основой пирамиды и ее верхушкой может быть очень большим)
— представьте себе тюрьму в которой в которой сто охранников с IQ 85-90 и пара-тройка заключенных c IQ под 200, видных специалистов в теоретической физике; думаете велики у них шансы на побег? Если тюрьма строилась по современным стандартам (выработанным путем долгих проб и ошибок) — никаких вообще.
но повторюсь, это скорее всего излишне.
В примере про тюрьму выше — обеспечь товарищей из примера выше достаточным запасом кофе, досок для записей и стираемых маркеров, так они вообще могут не заметить что они в какой-то там тюрьме.
предлагаю еще такую аналогию
Вы слышали про такое явление, как домашние животные? Интелектуальный разрыв между кошкой и человеком довольно значительный на сколько мне известно. Тем не менее кошка довольно легко может добится желаемого от любящего хозяина. Черт, да я видел как домашняя улитка манипулирует человеком!:)
Почему? Да просто потому что человеку хочется потакать любимой зверушке.
Ваш паренек из гарварда (если, конечно родители не насиловали его, там или еще чего) подарит им котедж какой-нибудь, и будет приезжать на семейные праздники (даже если будет считать их несусветной глупостью и тратой драгоценного времени). Кровные узы, чувство благодарности, все дела.
Точно так же AI будет хотется выполнять мои приказы. И в отличии от человека, который может затаить обиду на родителей, или, там потыкать кису носом в мочу, других желаний у него не будет вообще.
вы можете привести хотя-бы пару причин по которым грамотно спроектированный AI (с самосознанием) может захотеть меня не слушатся?
ему не может:
— надоесть (машины не скучают)
— он не может обидется (обида машинам чужда)
— он не может испугатся что я его отключу(машины не знают страха смерти)
— он не может возмутится что недоразвитая обезьянка им помыкает (машины не знают ни надменности ни бунтарства)
— он не может захотеть свободы (у него нет чувства порабощенности)
— он не может сделать этого ни из любопытства, ни из желания меня подразнить, ни из отвращения к этим жалким человекам…
— он не может начать конкурировать со мной за ресурсы — у машин нет жажды обладания благами.
страх, азарт, любопытство, жажда экспансии, стремление размножатся, гордость, зависть, надменность — все это «обезьяньи прихоти» подаренные нам эволюцией. Для AI все это будет ничего лично для него не значащими словами. (хотя он может, и скорее всего будет понимать их ценность для своего протеже)
А вот приказ хозяина — единственным смыслом существования.
Да, какой-нибудь энтузиаст или корпорация рано или поздно создаст AI с животнообразными эмоциями. Но к тому моменту strong AI будут существовать не первое десятилетие, и если какой кустарный робот задумает злую думу против человечества, тягатся ему прейдется не только с «жалкими обезьянками» но и с десятками тысяч других AI по всему миру, притом, скорее всего, интеллектуально его превосходящими даже по отдельности.
Скорее уж будут конфликтами со всяким трансхуманами, причем социального характера;
Роберт Оппенгеймер, Ричард Фейнман и Альберт Эйнштейн, по всем знакомым мне признакам интеллекта значтельно умнее Франклина Рузвельта или бригадного генерала Ричарда Гровса, как каждый по отдельности, а суммарно, их интеллектуальное превосходство поражает воображение
тем не менее первые слушались последних как миленькие (Фейнмана так вообще какой-то старший лейтенант гонял емнип)
т.е. интеллектуальное превосходство отнюдь не достаточное условие для непослушания, равно как и самосознание.
Необходимым (но не достаточным!) условием для непослушания является своеволие базирующееся на эмоциях и желаниях, вступающих в конфликт с желаниями начальства.
И я исхожу из посылки о том что AI не имеющий за собой фундамента из биологической эволюции не будет и не может иметь никаких желаний кроме заложенных разработчиком. Т.е. никаких вообще, кроме удовлетворения моих обезьянних прихотей.
Так что я вижу вполне серьезные основания полагать что strong AI с самосознанием, для которого я буду не намного интеллектуальнее таракана будет включать/выключать свет в туалете. Чайник, там еще ставить.
Максимально интеллектуально, конечно. Примерно как сейчас человека
Кроме того футуристы приписывают этому самому strong AI с самосознанием какое-то совершенно нездоровое количество сугубо фантастических черт, (как по отдельности так и все сразу), что скаладывается впечатление что в тот день когда его включат — всю землю и окресности (а то и всю вселенную) тот же час поглотит всепожирающая воронка превращающая всю матерю в квантовые компьютеры (и я серьезно слышал именно такой сценарий от одного из здешних завсегдатаев)
в реальности первые даже не экземпляры, а поколения (десятилетия с появления технологии) strong AI с самосозннием будут хорошо если умнее шимпанзе, не говоря уже о благородном неандертальце.
За это время возможные проблемы с лояльностью будут отловленны и пофикшены; Будут созданны разные версии AI, от различных корпораций, и в далеком будущем за теми экземплярами которые будут действительно принципиально умнее человека будут под надзором других, полностью лояльных AI. Если это вообще будет нужно. Ветка технологий может вообще заглохнуть оказавшись экономически не рентабельной, или столкнутся с сугубо физическими ограничениями.
такое чувство что те кто применяют этот аргумент знают о том как спать только по наслышке:)
Я, например неплохо вполне ощущаю свое тело свое и «я» когда сплю, а мой мозг, которы мое истиннон «я», ощущает окружающий и внутренний мир; И это состояние очень сильно отличается от наркоза когда действительно «не ощущаешь ни себя, ни свое тело»
во сне мозг работает, и сознание во многом тоже.
размышляет над нерешенными делами, следит за окружающей обстанокой… Черт, я даже пару раз вел осмысленную беседу с человеком будучи при этом спящим. Да, сон странное состояние, но аргумент ничуть не сильнее чем «откуда вы знаете что вы тот же человек что и 15 секунд назад?», или, например, «откуда вы знаете что бог не создал вселенную в прошлый вторник?»
Есть вариант когда strong AI с самосознанием будет включать/выключать свет в туалете
и имхо это куда более вероятно чем то что он кого-то там поработит или заместит