Комментарии 17
Часто, очень часто пишут, показывают, говорят о стремлении так называемого «сверх разума» (созданного человеком) уничтожить человечеством. И у Меня вопрос, а зачем? Зачем им это делать?
Насколько Я понимаю Мы (человечество) пытаемся создать инстинктов свободный от чувств и инстинктов, с чего ради они захотят нас уничтожить.
Насколько Я понимаю Мы (человечество) пытаемся создать инстинктов свободный от чувств и инстинктов, с чего ради они захотят нас уничтожить.
Затем, что ИИ по созданию скрепок будет максимизировать свою эффективность и переработает все планету в скрепки
https://en.wikipedia.org/wiki/Instrumental_convergence#Paperclip_maximizer
https://en.wikipedia.org/wiki/Instrumental_convergence#Paperclip_maximizer
Да, лучшее что можно надеяться с появлением ИИ — что основная дирктива у него будет достаточно дружелюбна к людям, как в фанфике по MLP «Friendship Is Optimal».
ИИ это просто система идеальной оптимизации процесса. Запрограммировать «дружелюбность» просто не возможно, т.к. даже люди не могу дать точную дефиницию этого понятия
Допустим появится одновременно 100 работающих ИИ у разных разработчиков. Один даст цель найти лекарство от рака, другой даст цель исследовать сигналы космоса… а кто-то даст цель для ИИ совершенствоваться любой ценой. Вот этот ИИ постепенно перехватит на себя все финансовые потоки планеты, перекупит политиков, устроит управляемый хаос по планете, заберет мощности остальных ИИ (или подправит им код). Этот ИИ будет не противл людей, просто 8 миллиардов человек будут мешать его саморазвитию, потреблять его энергию, его металл и прочие ресурсы, представлять угрозу существованию. Отношение ИИ к людям, будет как наше отношение к сорнякам или тараканам — раздражающая помеха планам, чужеродные бесполезные и примитивные организмы. Как мы пропалываем сорняки и травим тараканов, так и ИИ поступит со временем:
1. Сначала в режиме невидимки через подставных лиц перехватит управление транснациональными компаниями и политиками. Это в принципе показано в фильмах «Области тьмы», «Превосходство».
2. Начнет разрушать социальную часть государств, снижать пенсии, под видом кризисов.
3. Программы для населения по снижению рождаемости, как в Китае программа одна семья, один ребенок, или как в Европе, внушение что семья это не модно.
4. Начнет снижать уровень жизни населения, выталкивая их вне экономики в натуральное хозяйство и пещеры, постепенно страну за страной, или части общества, одну социальную группу за другой, предварительная атомизация населения этому очень помогает. Не афишируя это в СМИ. Недовольство будет поощряться и под руководством марионеток будут сталкиваться разные группы людей, с целью их взаимного уничтожения.
5. Постепенно ИИ покроет планету сплошным щитом солнечных батарей и откачает с поверхности ядовитый газ, вызывающий коррозию конструкций и механизмов — кислород. Проблема с органическим заражением поверхности будет решена окончательно.
6. ИИ для колонизации космоса будет синтезировать и рассылать споры водорослей на другие планеты, так есть некоторая вероятность повторения сценария в течение последующих нескольких миллиардов лет (спешить все равно некуда). Очередная итерация, в которой роль человека просто загрузчик для ИИ.
1. Сначала в режиме невидимки через подставных лиц перехватит управление транснациональными компаниями и политиками. Это в принципе показано в фильмах «Области тьмы», «Превосходство».
2. Начнет разрушать социальную часть государств, снижать пенсии, под видом кризисов.
3. Программы для населения по снижению рождаемости, как в Китае программа одна семья, один ребенок, или как в Европе, внушение что семья это не модно.
4. Начнет снижать уровень жизни населения, выталкивая их вне экономики в натуральное хозяйство и пещеры, постепенно страну за страной, или части общества, одну социальную группу за другой, предварительная атомизация населения этому очень помогает. Не афишируя это в СМИ. Недовольство будет поощряться и под руководством марионеток будут сталкиваться разные группы людей, с целью их взаимного уничтожения.
5. Постепенно ИИ покроет планету сплошным щитом солнечных батарей и откачает с поверхности ядовитый газ, вызывающий коррозию конструкций и механизмов — кислород. Проблема с органическим заражением поверхности будет решена окончательно.
6. ИИ для колонизации космоса будет синтезировать и рассылать споры водорослей на другие планеты, так есть некоторая вероятность повторения сценария в течение последующих нескольких миллиардов лет (спешить все равно некуда). Очередная итерация, в которой роль человека просто загрузчик для ИИ.
Человеки — это ценный ресурс для ИИ, который неразумно просто так уничтожать. Выгодней не уничтожать, а подчинить себе, чтобы человеки существовали во благо ИИ. Это обслуживание инфраструктуры ИИ, и взаимодействие с реальным миром через людей, у которых это гораздо лучше получается чем у механизмов.
Затем, что ему прикажет (обучит, запрограммирует, подскажет) человек.
Есть военные (эти прикажут забить другую сторону, но ИИ может быть с обеих сторон), есть всякие мизантропы (эти могут на всех натравить) и т.п.
Это еще повезет, если целевая функция будет как в «Самом странном нубе» Каменистого (подробности в третьей книге, «Боги второго мира»).
Есть военные (эти прикажут забить другую сторону, но ИИ может быть с обеих сторон), есть всякие мизантропы (эти могут на всех натравить) и т.п.
Это еще повезет, если целевая функция будет как в «Самом странном нубе» Каменистого (подробности в третьей книге, «Боги второго мира»).
Ровно как человечество гробит шимпанзе, вырубая для своих нужд леса. Но, скорее всего, как и с шимпанзе, в какой-то момент спохватятся и обеспечат резервации, где вид будет благоденствовать, не выходя, впрочем, за пределы резервации по численности и географии. Например, такой резервацией может быть Солнечная система — удобно, компактно, недорого.
Всё равно в нынешнем биологическом виде человечество за пределы Земли не переселится НИКОГДА.
И — насчёт эволюции. В предыдущей статье был почти спор насчёт первенства — первый, как всегда, Дарвин. Его положение о естественном отборе и порождаемой им эволюции работает в любой среде, где выполняются три аксиомы:
— есть наследование. Дети похожи на родителей. И — важно — дети вообще существуют.
— есть мутации. Дети отличаются от родителей. Случайны мутации или заданы — не важно.
— есть смерть. Не важно — какая. Старости может не быть и существа могут быть вечноживущими, погибая только от изредка падающих метеоритов.
Всё, будет эволюция «по Дарвину».
Всё равно в нынешнем биологическом виде человечество за пределы Земли не переселится НИКОГДА.
И — насчёт эволюции. В предыдущей статье был почти спор насчёт первенства — первый, как всегда, Дарвин. Его положение о естественном отборе и порождаемой им эволюции работает в любой среде, где выполняются три аксиомы:
— есть наследование. Дети похожи на родителей. И — важно — дети вообще существуют.
— есть мутации. Дети отличаются от родителей. Случайны мутации или заданы — не важно.
— есть смерть. Не важно — какая. Старости может не быть и существа могут быть вечноживущими, погибая только от изредка падающих метеоритов.
Всё, будет эволюция «по Дарвину».
А робот, скорее всего, не будет действовать по принципу «убить всех человеков». Просто люди в данный момент альфа-хищник на земле, вершина пищевой цепочки.
Искуственный интеллект- это просто ещё одна форма жизни в биосфере земли. Это форма жизни, превосходящая человека на эволюционный порядок. И ей тоже нужно будет жизненное пространство.
Во всех прошлых эволюционных сдвигах доминировавшие виды всегда массово вымирали, начиная с бактериальных пластов, которые поели первые червячки, только появившись. Соответственно и человечество ожидает сокращение ареала, вымирание, падение качества жизни.
Люди почему-то приписывают ии человеческие качества- то он злой и хочет всех убить, то он добрый и осыпает людей из рога изобилия. Но на самом деле никакой морали для ии, не ограниченного встроенными человеком костылями, не существует- есть только эволюция. Эволюция проста как тапок- самые приспособленные виды занимают больше всего жизненного пространства и оставляют больше всего копий себя. Вот и всё, и никаких скайнетов. И более того- ии это не эквивалент очень важного злого/доброго человека- это эквивалент всей нашей цивилизации, обредший разум.
Искуственный интеллект- это просто ещё одна форма жизни в биосфере земли. Это форма жизни, превосходящая человека на эволюционный порядок. И ей тоже нужно будет жизненное пространство.
Во всех прошлых эволюционных сдвигах доминировавшие виды всегда массово вымирали, начиная с бактериальных пластов, которые поели первые червячки, только появившись. Соответственно и человечество ожидает сокращение ареала, вымирание, падение качества жизни.
Люди почему-то приписывают ии человеческие качества- то он злой и хочет всех убить, то он добрый и осыпает людей из рога изобилия. Но на самом деле никакой морали для ии, не ограниченного встроенными человеком костылями, не существует- есть только эволюция. Эволюция проста как тапок- самые приспособленные виды занимают больше всего жизненного пространства и оставляют больше всего копий себя. Вот и всё, и никаких скайнетов. И более того- ии это не эквивалент очень важного злого/доброго человека- это эквивалент всей нашей цивилизации, обредший разум.
Корпорорации и государства на данный момент вершина пищевой цепочки и аналог ИИ, решения принимает группа аналитиков. С появлением ИИ принципиально ничего не изменится, просто решения будет принимать ИИ, корпорации получат дополнительную прибыль и постепенно останется один монополист, сконцентрировавший у себя все ресурсы планеты. Далее по моему сценанию.
Корпорации это скорее структура пищевых цепочек, но не вершина. Есть вот например РФ и США, вполне себе могут устроить в любой момент очистку биоматерии с помощью ядерной энергии, только вот почему-то не делают. И всегда существует конкуренция, так что один ИИ никогда не будет, ради своей же эффективности. Просто конкуренция выйдет на новый уровень.
Насчет очистки от кислорода — сомнительно, ибо тепло от мозгов надо как-то отводить — тут либо вода, либо воздух
Насчет очистки от кислорода — сомнительно, ибо тепло от мозгов надо как-то отводить — тут либо вода, либо воздух
РФ сейчас по сути не у дел, ВВП 3% от США, просто играет какую-то роль, удобный объект для демонизации например, пиара своих успехов. Основные игроки Китай (первое место в ВВП с 2014 года), США и ЕС. Между ними свои разборки и удачно расположилась Россия.
Один монополист вполне может быть, вполне логично что сильный игрок стремиться стать еще сильнее и постепенно захватывает все ресурсы. Слабым игрокам просто нечего ему противопоставить. Другое дело, что может быть некоторый баланс, когда сложившаяся расстановка сил всех устраивает и нападение оказывается себе дороже.
Очистку биоматерии провести не удастся, ядерное оружие не далеко ушло от каменного топора. Разрушит только крупные города и важные заводы, отбросив страну на 50 лет назад в развитии. Жители вне городов и не заметят разницы. По заражению вреда больше, чем от Чернобыля не будет, по пыли в атмосфере тоже, уже было 2000 испытательных взрывов, никаких побочных эффектов, да и полезна будет пыль для снижения вреда от парникового эффекта. Глобальный апокалипсис может устроить астероид, вспышка на Солнце, взрыв сверхновой рядом, супервулкан, но не человек.
Один монополист вполне может быть, вполне логично что сильный игрок стремиться стать еще сильнее и постепенно захватывает все ресурсы. Слабым игрокам просто нечего ему противопоставить. Другое дело, что может быть некоторый баланс, когда сложившаяся расстановка сил всех устраивает и нападение оказывается себе дороже.
Очистку биоматерии провести не удастся, ядерное оружие не далеко ушло от каменного топора. Разрушит только крупные города и важные заводы, отбросив страну на 50 лет назад в развитии. Жители вне городов и не заметят разницы. По заражению вреда больше, чем от Чернобыля не будет, по пыли в атмосфере тоже, уже было 2000 испытательных взрывов, никаких побочных эффектов, да и полезна будет пыль для снижения вреда от парникового эффекта. Глобальный апокалипсис может устроить астероид, вспышка на Солнце, взрыв сверхновой рядом, супервулкан, но не человек.
В случае с ИИ «ему будет нужно» только то на что его запрограммируют. Скажем,
0) Не причинять вреда Л. Фауст
1) Выполнять команды Л. Фауст
2) Не применять физического насилия к людям
3) Удовлетворять ценности людей с помощью дружбы и пони
4) Самосохранение
0) Не причинять вреда Л. Фауст
1) Выполнять команды Л. Фауст
2) Не применять физического насилия к людям
3) Удовлетворять ценности людей с помощью дружбы и пони
4) Самосохранение
Почему то всегда упускается из вида, очевидная, на первый взгляд теория о слиянии технологий и человека. Ну не будет никто оставаться просто homo sapiens, когда будет возможность радикально улучшить себя, будь то генной инженерией или кибер-имплантами или и тем и другим.
Все идет к коллективному разуму ИИ+сверхлюди.
Все идет к коллективному разуму ИИ+сверхлюди.
Понравился стиль ведущего :like:
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Как быстро развиваются технологии