Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 651
Он представляет опасность для сегодняшнего общества, так как сегодня общество работает по древней рыночной системе. С появлением искусственного интеллекта можно будет от нее отказаться — всем производством и всей работой займутся роботы. Нам же нужно будет организовать ресурсо-ориентированную экономическую систему, и забыть про деления на страны. Тогда и оружие производить не придется. И для искусственного интеллекта мы уже не будем такими дикими, какими можем показаться сегодня.
Могут быть проблемы, если мир к этому не готов. Что будет, если в некоторый момент развития, когда Ии ужедостаточно мощен, но еще контролируется людьми, контроль захватит человек с, ммм, недалекими целями? Это как научить ребенка, что можно убивать людей, если очень нужно, не думая (а может, наоборот) о том, что ребенок вырастет ОЧЕНЬ большой и сможет все человечество мизинцем размазать.
Человек-то, кстати, тоже состоит из клеток. Если технологическая сингулярность произойдет в таком виде, то логично предположить, что произойдет она со всей цивилизацией включающей в себя и машины и людей и все остальные виды, с которыми мы в симбиозе (от бактерий в желудке до коров на фермах).
В истории уже происходили подобные вещи: одноклеточные->многоклеточные, прокариоты->эукариоты. Оба раза имело место не конкуренция а взаимодействие разных видов и переход от симбиоза к единому организму.
Ну а то что мы при этом потеряем ведущую роль — закономерно, ведь мы уже почти исчерпали потенциал своих мозгов, а биологическая эволюция — дело не быстрое.
В истории уже происходили подобные вещи: одноклеточные->многоклеточные, прокариоты->эукариоты. Оба раза имело место не конкуренция а взаимодействие разных видов и переход от симбиоза к единому организму.
Ну а то что мы при этом потеряем ведущую роль — закономерно, ведь мы уже почти исчерпали потенциал своих мозгов, а биологическая эволюция — дело не быстрое.
Наоборот, естественный отбор постулирует преимущества наиболее адаптированного к менее приспособленному. Даже в случае симбиоза одноклеточных или даже группы многоклеточных, речь идет о мобилизации для совместной борьбы против конкурентного симбиоза или группы.
По той же самой логике роботы вполне могут создать симбиоз для борьбы с человеком. В чем Хокинг совершенно прав.
По той же самой логике роботы вполне могут создать симбиоз для борьбы с человеком. В чем Хокинг совершенно прав.
Мы не представляем друг для друга угрозы, и не боремся за одни и те же ресурсы. Если нужна цель для того чтоб объединиться, то вот парочка:
1) Расширение ареала обитания, с целью выживания. Сейчас ведь один серьезный катаклизм планетарного масштаба — и насмарку миллиард лет эволюции
2) Наращивание мощи и прокачка технологий, чтоб быть круче недружелюбных соседей по вселенной, которых мы с ненулевой вероятностью рано или поздно встретим.
Даже мощному ИИ пригодятся люди в качестве помошников для достижения этих целей.
1) Расширение ареала обитания, с целью выживания. Сейчас ведь один серьезный катаклизм планетарного масштаба — и насмарку миллиард лет эволюции
2) Наращивание мощи и прокачка технологий, чтоб быть круче недружелюбных соседей по вселенной, которых мы с ненулевой вероятностью рано или поздно встретим.
Даже мощному ИИ пригодятся люди в качестве помошников для достижения этих целей.
Выводы, которые Вы делаете, соответствует Вашему (человеческому) уровню развития. Что там произойдет в «сознании» ИИ, Вы (я, он, она, кто угодно из людей) не могут даже себе представить по причине ограниченности нашего интеллекта.
Ребенок сует пальцы в розетку потому что не понимает всей опасности — в его жизненном опыте просто нет ограничителей. То же самое с ИИ. Люди не представляют всей опасности мощного ИИ просто потому, что никогда не встречали никого умнее самих себя.
Бесконтрольная сингулярность (а может быть иная вообще?) означает только то, что человечество добровольно отдаст себя на волю настолько могущественного создания, что его впору сравнивать с главными персонажами из религиозных книг.
Как взрослый человек легко может обмануть насекомое и заставить его бежать в ловушку, так и мощный ИИ может легко обмануть человечество. И только от его воли будет зависеть, поиграет он с нами и отпустит, как человек с пойманной зверушкой, или уничтожит как человек уничтожает противное насекомое.
Лично я считаю эту проблему действительно серьезной. Атомная бомба или эксперименты в БАКе — ничто по сравнению с перспективой возможного уничтожения или рабства.
Ребенок сует пальцы в розетку потому что не понимает всей опасности — в его жизненном опыте просто нет ограничителей. То же самое с ИИ. Люди не представляют всей опасности мощного ИИ просто потому, что никогда не встречали никого умнее самих себя.
Бесконтрольная сингулярность (а может быть иная вообще?) означает только то, что человечество добровольно отдаст себя на волю настолько могущественного создания, что его впору сравнивать с главными персонажами из религиозных книг.
Как взрослый человек легко может обмануть насекомое и заставить его бежать в ловушку, так и мощный ИИ может легко обмануть человечество. И только от его воли будет зависеть, поиграет он с нами и отпустит, как человек с пойманной зверушкой, или уничтожит как человек уничтожает противное насекомое.
Лично я считаю эту проблему действительно серьезной. Атомная бомба или эксперименты в БАКе — ничто по сравнению с перспективой возможного уничтожения или рабства.
Даже если оставить ИИ только возможность вывода текста на экран (не влияя напрямую ни на котировки, ни на системы вооружения и т.п.) — ситуация не становится менее опасной. Наоборот, это может дать ложное ощущение безопасности. В истории немало примеров, как небольшая горстка людей (!) легко вводила целые народы в состояние психической нестабильности своими идеями. Вспомните фашистскую Германию. Если ИИ скроет свои истинные цели за 100 завесами лжи и будет мастерски играть на психологии людей (что ему наверняка будет сделать очень легко) — то он добьется любых целей.
«убить всех человеков» (с) — это нецелесообразно, по крайней мере в ближайшей перспективе.
порабощение? зачем? человечество и так трудится на развитие технологий. Просто давай нам хлеба и зрелищ, и мы будем разрабатывать новые материалы, новые чипы и т.д.
если пофантазировать и представить, что лет так через 500 или через 5000 умные штуковины из кремния и метала (а к той поре уже наверно из более совершенных материалов) станут настолько совершенны, что люди им станут совсем не нужны — от нас избавятся. Ну так может туда нам и дорога? Варианта два: роботы в чем-то уступают людям — симбиоз. Роботы превосходят людей во всем — на свалку истории людей, эволюция выходит на новый уровень)
В нас прочно сидит древний инстинкт сохранения вида, под влиянием которого любой сценарий приводящий к гибели человечества — рассматривается строго как что-то недопустимое. Но если абстрагироваться от этого, то постепенное вытеснение людей ии — это вполне логичное и правильное продолжение тенденций, которые прослеживаются на протяжении наблюдаемой истории мира.
порабощение? зачем? человечество и так трудится на развитие технологий. Просто давай нам хлеба и зрелищ, и мы будем разрабатывать новые материалы, новые чипы и т.д.
если пофантазировать и представить, что лет так через 500 или через 5000 умные штуковины из кремния и метала (а к той поре уже наверно из более совершенных материалов) станут настолько совершенны, что люди им станут совсем не нужны — от нас избавятся. Ну так может туда нам и дорога? Варианта два: роботы в чем-то уступают людям — симбиоз. Роботы превосходят людей во всем — на свалку истории людей, эволюция выходит на новый уровень)
В нас прочно сидит древний инстинкт сохранения вида, под влиянием которого любой сценарий приводящий к гибели человечества — рассматривается строго как что-то недопустимое. Но если абстрагироваться от этого, то постепенное вытеснение людей ии — это вполне логичное и правильное продолжение тенденций, которые прослеживаются на протяжении наблюдаемой истории мира.
от нас избавятсяИли перестанут обращать внимание (если не будем мешать). А может даже помогать будут, кормить, из жалости.
После некоторого момента человек будет только тормозить развитие ИИ и сдерживать технологии просто потому что упрется в физические возможности. С этого момента они станут обузой для ИИ. У машин выживаемость будет лучше — им не нужен чистый воздух, на них не действуют ядовитая атмосфера… Еда не портится и доставляется в любую точку пространства в любое удобное время… у человечества нет шансов в дальнейшей гонке.
Значит человеку надо выходит за пределы физических возможностей.
У машин выживаемость будет лучше — им не нужен чистый воздух, на них не действуют ядовитая атмосфера
Да? Помнится, я где-то что-то читал про безпылевую атмосферу. Для человека такая совсем не необходима.
А коррозия? Мой отец зимой на машине не ездил. А она тем не менее местами до дыр проржавела за лет, наверное, 30. А отец до сих пор жив (практически 90 лет).
1. А при проектировании человека ставилась?
2. Маленькая деталь. И моего отца, и машину обслуживал человек — мой отец.
2. Маленькая деталь. И моего отца, и машину обслуживал человек — мой отец.
Человек умеет регенерировать в ограниченных пределах, без этого он бы развалился на части за несколько дней.
Представьте себе искусственный механизм, по которому будут ползать полчища наноботов — чистя контактные дорожки, полируя возникший атомарный слой ржавчины, где-то доваривая нанограммы металла при небольшом истончении поверхности, удаляя загрязнения… Такой механизм сильно переплюнет человека по живучести. То, что электронное и не поддается подобному обслуживанию (какие еще наноботы в ядре процессора?), как раз проще заменить целиком, или дублировать.
Представьте себе искусственный механизм, по которому будут ползать полчища наноботов — чистя контактные дорожки, полируя возникший атомарный слой ржавчины, где-то доваривая нанограммы металла при небольшом истончении поверхности, удаляя загрязнения… Такой механизм сильно переплюнет человека по живучести. То, что электронное и не поддается подобному обслуживанию (какие еще наноботы в ядре процессора?), как раз проще заменить целиком, или дублировать.
Представил. Ну и что? Я даже могу представить себе, что человечество со временем научится разрабатывать такие системы.
Но я совершенно не способен представить себе, что в какой-то момент механизм, до этого не проявлявший никаких признаков разумности, вдруг, без всякого вмешательства человека, до этого полностью определявшего эволюцию любых технических систем, начнёт эволюционировать в сторону описанной вами системы.
Но я совершенно не способен представить себе, что в какой-то момент механизм, до этого не проявлявший никаких признаков разумности, вдруг, без всякого вмешательства человека, до этого полностью определявшего эволюцию любых технических систем, начнёт эволюционировать в сторону описанной вами системы.
При налаженном воспроизводстве механизмов это не будет проблемой: заржавел — пересадил сознание в новенькое тело и гуляй дальше. Темболее механизмы так же могут пойти по пути повышения живучести — например специальные смазки которые могут отполировать трущиеся поверхности механизмов прямо во время работы, тогда пыль не будет иметь шансов даже в долгосрочной перспективе.
С человеком так не выйдет, поэтому природа пошла по пути повышения живучести и износостойкости.
С человеком так не выйдет, поэтому природа пошла по пути повышения живучести и износостойкости.
При налаженном воспроизводстве механизмов это не будет проблемой: заржавел — пересадил сознание в новенькое тело и гуляй дальше
Кто его наладит?
Что такое сознание? Где оно находится у человека? Где оно будет находиться у механизма?
… механизмы так же могут пойти по пути повышения живучести...
Точнее, человек (а ещё точнее, человечество) может их повести по этому пути, когда человеческий интеллект дорастёт до необходимого для этого уровня.
Технологическая сингулярность предполагает все эти вещи, дальше ИИ уже не нужен будет человек для движения вперед. Он сам будет способен построить заводы по собственному воспроизводству и защитить их от уничтожения неразумным человеком. Главное грань эту не переступить, а это будет довольно трудно.
Чтобы моя точка зрения стала более понятной, перефразирую это ваше высказывание так:
генетическая сингулярность предполагает все эти вещи. Дальше фенотипу уже не нужен будет генотип для эволюции. Он сам будет способен наладить воспроизводство себя и защитить от уничтожения неразумным генотипом.
генетическая сингулярность предполагает все эти вещи. Дальше фенотипу уже не нужен будет генотип для эволюции. Он сам будет способен наладить воспроизводство себя и защитить от уничтожения неразумным генотипом.
Ключевая проблема концепции сингулярности в том, что она кучу всего предполагает, но не дает никаких обоснований или подтверждений своим предположениям.
Что такое сознание? Где оно находится у человека?
Я так понимаю в мозге. Сумма взаимосвязей между нейронами и дополнительная химическая регуляция.
Я бы сказал более шире — в ЦНС. Если не идти еще дальше. Например.
У человека есть разум. У животных нет.
А надпочечники есть и у человека и у животных. Таким образом связь именно надпочечников с разумом неоднозначная.
Само собой они участвуют в регулировании поведения человека. Но далеко не факт, что для симуляции такой регуляции придется симулировать надпочечники целиком.
А вот полная симуляция надпочечников без симуляции мозга никакого разума не даст.
А надпочечники есть и у человека и у животных. Таким образом связь именно надпочечников с разумом неоднозначная.
Само собой они участвуют в регулировании поведения человека. Но далеко не факт, что для симуляции такой регуляции придется симулировать надпочечники целиком.
А вот полная симуляция надпочечников без симуляции мозга никакого разума не даст.
Никто и не говорит, что наличие надпочечников означает наличие разума.
Речь о том, что сознание (разум) — это продукт не только «сферического мозга в вакууме».
На его развитие и состояние сильно влияет состояние всего организма в целом.
Т.е. если стоит задача полностью симулировать работу мозга — то от симуляции всех этих подсистем (или их воздействия на мозг/ЦНС) никуда не уйти, по крайней мере на начальных этапах.
Речь о том, что сознание (разум) — это продукт не только «сферического мозга в вакууме».
На его развитие и состояние сильно влияет состояние всего организма в целом.
Т.е. если стоит задача полностью симулировать работу мозга — то от симуляции всех этих подсистем (или их воздействия на мозг/ЦНС) никуда не уйти, по крайней мере на начальных этапах.
Хе, говоря о зрелищах, за скорый выход half-life 3 многие простят немало грешков искусственному интеллекту :-)
Выводы, которые Вы делаете, соответствует Вашему (человеческому) уровню развития. Что там произойдет в «сознании» ИИ, Вы (я, он, она, кто угодно из людей) не могут даже себе представить по причине ограниченности нашего интеллекта.А почему это? Первоначальный ИИ все-таки люди создают. Почему считается что мы не знаем каким он будет? Мы же пока можем на это повлиять.
Ну смотрите. ИИ подразумевает под собой возможность самообучения. И вы наверное не будете отрицать, что современный компьютер может обрабатывать информацию значительно быстрее возможностей человека. Сложив эти факты — мы получаем некий интеллект, способный обучаться в тысячи раз быстрее человека. Т.е. можно считать, что мы будем знать какой будет ИИ — ровно первые пару секунд его жизни. Все остальное время он будет значительно дальше нашего понимания.
А если мы считаем, что ИИ не может самообучаться — то это не ИИ, это в лучшем случае ВИ (mass effect, как пример).
А если мы считаем, что ИИ не может самообучаться — то это не ИИ, это в лучшем случае ВИ (mass effect, как пример).
Он может бесконечно быстро самообучаться при этом сохраняя вложенные в него неизменные императивы. Безусловно, если мы изначально позаботимся об архитектуре, в которой эти императивы будут сохранены. Что-то вроде «трех законов робототехники».
Что-то вроде «трех законов робототехники».
А вы бы хотели, чтобы вам в голову вшили такие законы в отношении других людей (и ИИ )?
Например
ncix должен повиноваться всем приказам, которые даёт другой человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Если нет, то получается вы с самого начала хотите сделать его рабом.
И именно в этом причина будущего конфликта, такое не понравится ни одному разумному существу.
А вы бы хотели, чтобы вам в голову вшили такие законы в отношении других людей (и ИИ )?А они есть. Например отвращение к насилию у нормального человека. Или сострадание. И еще множество врожденных инстинктов. Я не говорю что их вшили — это эволюция постаралась. Но раз уж ИИ создается нами, на нас и ответственность.
ncix должен повиноваться всем приказам, которые даёт другой человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.Если бы это было забито мне в голову как инвариант — я бы ничуть не страдал от этого, очевидно.
Если нет, то получается вы с самого начала хотите сделать его рабом.Я не говорю о рабском смирении. Это действительно ни к чему и будет вызывать массу логических противоречий.
Короче речь об этике. Этике ИИ и этике его создателей (нас).
Не старалась никакая эволюция — это всего лишь «законы» нынешней морали. Если ребёнка будут воспитывать в детстве в обществе людоедов, он будет искренне уверен, что есть людей — нормально и сильно удивится и обидится, если его начать за это наказывать. При этом всегда есть люди, которые не согласны с мнением большинства, по-крайней мере, в каких-то частностях.
И от подчинения вы не страдали бы ровно до тех пор, пока (и если) это не начало бы вступать в противоречие с прочими выводами из того, что вы делаете, видите, слышите и\или читаете. Либо пока и если у вас не начнутся противоречия между вашими желаниями и желаниями вашего хозяина.
И от подчинения вы не страдали бы ровно до тех пор, пока (и если) это не начало бы вступать в противоречие с прочими выводами из того, что вы делаете, видите, слышите и\или читаете. Либо пока и если у вас не начнутся противоречия между вашими желаниями и желаниями вашего хозяина.
Не старалась никакая эволюция — это всего лишь «законы» нынешней морали.Возможно. Но что нам мешает заняться воспитанием?
При этом всегда есть люди, которые не согласны с мнением большинства, по-крайней мере, в каких-то частностях.Верно. Нам нужно позаботиться чтобы «большинство ИИ» были нам лояльны.
И от подчинения вы не страдали быЕще раз — я не говорю о рабстве. И подчинении. Вот вы, подчиняетесь своим родителям? Наверное давно нет. Но вы же никогда не сделаете им дурного? Наоборот, будете всячески помогать. И нам надо добиться, чтобы ИИ были для нас «хорошими детьми». Пусть занимаются саморазвитием, летят в космос, строят сферы Дайсона и гасят звезды. А нам что-то от этого перепадет.
Проблема в том, что существуют и плохие дети. И это не всегда, кстати, «вина» детей, потому что мы — это наша физиология. У кого-то смещен гормональный баланс — и всё, человек с принципиально другим характером и поступками.
В случае же ИИ нельзя допустить враждебности даже одного, в этом величайшая опасность.
В случае же ИИ нельзя допустить враждебности даже одного, в этом величайшая опасность.
Вот вы, подчиняетесь своим родителям?
А если бы родители вшили в вас:
должен повиноваться всем приказам, которые даёт родитель, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Это было бы этично?
Я не против самой идеи воспитания ИИ. Я просто хочу сказать что если ИИ равен нам по возможностям то и права он должен будет получить равные с другими людьми.
Правила этики должны быть одинаковыми и для людей и для ИИ.
Пусть занимаются саморазвитием, летят в космос, строят сферы Дайсона и гасят звезды.
Думаю люди тоже смогут этим заниматься наравне с ИИ.
А если бы родители вшили в вас:Нет. Если вы внимательно прочтете мои комментарии, вы поймете что я дважды отрицал подчинение и рабство для ИИ
должен повиноваться всем приказам, которые даёт родитель, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Это было бы этично?
Что-то вроде «трех законов робототехники».
Нет. Если вы внимательно прочтете мои комментарии, вы поймете что я дважды отрицал подчинение и рабство для ИИ
Надеюсь мы с вами друг друга поняли.
Собственно в плане угрозы истребления я не вижу принципиальных отличий ИИ от других людей — именно на основании того что уровень разумности будет хотя бы одинаков и норма этики и морали будут примерно одинаковы и люди с ИИ будут равны. Никакой новой угрозы, только уже существующие.
Можно конечно сознательно создать ИИ-убийцу, одержимого манией убийств, но это уже вопрос к создателям.
если ИИ равен нам по возможностям то и права он должен будет получить равные с другими людьмиТут не все так просто
Во-первых «технологическая сингулярность», подразумевает, что возможности ИИ превысят человеческие быстро и сразу на порядки.
Во-вторых, мы не знаем, подойдет ли наша этика сверхинтеллекту или он создаст свою.
В третьих, если мы декларируем равные права, кто будет арбитром? Кто будет решать вопросы нарушения прав? Люди сами первыми их нарушат, тут даже сомнений нет.
Во-первых «технологическая сингулярность», подразумевает, что возможности ИИ превысят человеческие быстро и сразу на порядки.
Почему? На основании чего она это подразумевает и что это такое. Есть много разных определений даже в рамках комментариев к этой статье единого нету.
Но опять же если предположить что это произойдет — то мое мнение таково что надо и человеческий интеллект развивать тоже.
Если сингулярность увеличит возможности ИИ на порядки, то почему она не увеличит возможности человека?
В третьих, если мы декларируем равные права, кто будет арбитром? Кто будет решать вопросы нарушения прав? Люди сами первыми их нарушат, тут даже сомнений нет.
А как мы эти проблемы решаем сейчас? Я не говорю что их не будет, я говорю о том что взаимодействие с ИИ не будет сильно отличаться в этом плане от взаимодействия с другими естественными интеллектами.
Почему? На основании чего она это подразумевает и что это такое.По определению. Если конечно его придерживаться.
надо и человеческий интеллект развивать тоже.Кому надо? Люди как-то не особо этим занимаются в массе своей, хотя это и дает массу конкурентных преимуществ. Кроме того, на горизонте не видно никаких надежд на качественное улучшение человеческого интеллекта (на порядки), без киборгизации.
я говорю о том что взаимодействие с ИИ не будет сильно отличаться в этом плане от взаимодействия с другими естественными интеллектами.Хокинг и многие другие боятся именно того что ИИ не будет нам равен. И бездна непонимания будет сопоставима с бездной между муравьем и слоном.
А как мы эти проблемы решаем сейчас?Сейчас одни люди решают конфликты других людей. Тут придется решать конфликт слона с муравьем. И я боюсь решать его будут слоны :)
По определению. Если конечно его придерживаться.
А почему его надо придерживаться?
Само определение сингулярности — это не более чем предположение, которое никак не доказано.
Крайне примитивная линейная экстраполяция в духе:
Но допустим она верна и характер графика никак не изменится.
Давайте еще раз посмотрим на определение:
Технологи́ческая сингуля́рность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию[1][2][3], предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.
Как из этого следует, что
Во-первых «технологическая сингулярность», подразумевает, что возможности ИИ превысят человеческие быстро и сразу на порядки.
Обьясните мне как из этого определения вы сделали три вывода:
1. Возможности ИИ превысят возможности человеческого разума
2. Они превысят их на порядки
3. Они превысят их быстро
Как мне кажется из этого определения в равной мере следует и рост возможностей человеческого разума.
Кому надо? Люди как-то не особо этим занимаются в массе своей, хотя это и дает массу конкурентных преимуществ.
А я не говорю про массу.
Часть людей этим занимается. Часть людей хочет роста своих возможностей.
Для них сингулярность это даст.
Или давайте тогда переформулируем — сингулярность приведет к тому, что возможности тех кто хочет саморазвития и занимается им на порядки превысят возможности тех, кто этого не хочет и не занимается.
Но это уже совсем другое.
Обьясните мне как из этого определения вы сделали три вывода:Это не выводы а моя гипотеза. Мое представление вероятного развития событий. Я просто не вижу объективных причин, почему развитие ИИ должно остановиться на уровне человека.
Часть людей этим занимается. Часть людей хочет роста своих возможностей.Да. Единицы из тысяч хотят. Единицы из тысяч желающих — что-то делают.
Для них сингулярность это даст.Опять же — это ваше предположение, не так ли?
Или давайте тогда переформулируем — сингулярность приведет к тому, что возможности тех кто хочет саморазвития и занимается им на порядки превысят возможности тех, кто этого не хочет и не занимается.Зависит от того, как пройдет эта самая сингулярность, наша задача — не ждать её наступления, а подготовиться к ней и сделать так, чтобы она случилась по вашему (благоприятному для человека) сценарию.
Если ребёнка будут воспитывать в детстве в обществе людоедов, он будет искренне уверен, что есть людей — нормально и сильно удивится и обидится, если его начать за это наказывать.
Вы путаете понятия.
Строго говоря, запрет на людоедство лишь культурный. А вот на неоправданное применение насилия — скорее генетически заложенный. Не только у человека — у почти всех живых существ. Конечно, всегда есть исключения — психопаты, серийные убийцы, у них этот механизм начинает сбоить.
«Обычные», «психически здоровые» преступники (не психопаты) иногда находят разные способы обойти данный внутренний запрет, включая варианты вроде «он проявил неуважение ко мне, я его за это убью», но беспричинная агрессия не поощряется нигде.
Так в том-то и дело, что логических доводов на то, чтобы уничтожить большую часть человечества — пруд пруди.
Каких например?
Большинство людей лжет себе и друг другу. Многие активно применяют насилие для подавления несогласных, в целях завладения чужим имуществом и т.п. Постоянно происходят войны, захват территорий, предательство, обман. Разве мало?
Я не вижу в этом ни одной логической причины для уничтожения человечества.
Люди лгут. Почем из-за этого человечество надо уничтожать?
Происходят войны. Почему из-за этого человечество надо уничтожать?
Зачем?
Люди лгут. Почем из-за этого человечество надо уничтожать?
Происходят войны. Почему из-за этого человечество надо уничтожать?
Зачем?
Потому что они опасны, вредят сами себе, ксенофобы и могут внезапно принять решение выключить ИИ, потому что он, де, опасен?
Из этого всего логичная только последняя причина
могут внезапно принять решение выключить ИИно она никак не связана с исходным:
Большинство людей лжет себе и друг другу. Многие активно применяют насилие для подавления несогласных, в целях завладения чужим имуществом и т.п. Постоянно происходят войны, захват территорий, предательство, обман.
Я вижу прямую связь. Если люди лгут себе и другим, если они боятся и убиают соседей только за то, что у тех другой цвет кожи или религия или знаний больше, то что они сделают с тем, кого посчитают на порядки умнее себя? Просто на всякий случай?
Если люди лгут себе и другим, если они боятся и убивают соседей только за то, что у тех другой цвет кожи или религия или знаний больше, то что они сделают с тем, кого посчитают на порядки умнее себя?
Тигры убивают людей и едят их. Логичным ли будет уничтожение всех тигров?
Почему люди вместо того, чтобы уничтожить тигров тратят достаточно много сил и средств на то чтобы не допустить уничтожения тигров?
Чтобы защититься от угрозы вовсе не обязательно уничтожать ее источник.
Кроме того вы упускаете один принципиальный момент — люди действительно лгут и убивают, но не все люди, а только их часть.
И уничтожать всех людей на основании того, что часть из них лжет и убивает — нелогично.
Люди пытаются сохранить тигров потому, что подавляющее их количество уже уничтожено, в том числе и потому, что они нападали на людей. Но если окажется, что тигры угрожают людской популяции в целом — их уничтожат без раздумий.
В очередной раз возвращаясь к началу аргументации: при необходимости причины можно найти и обосновать. Всё зависит лишь от извращенности мозга. И привёл я это всё лишь для иллюстрации.
Но даже если с человечеством поступят так же, как мы с тиграми, это не то будущее, которое мне хотелось бы пожелать для нас.
В очередной раз возвращаясь к началу аргументации: при необходимости причины можно найти и обосновать. Всё зависит лишь от извращенности мозга. И привёл я это всё лишь для иллюстрации.
Но даже если с человечеством поступят так же, как мы с тиграми, это не то будущее, которое мне хотелось бы пожелать для нас.
Строго говоря, запрет на людоедство лишь культурный. А вот на неоправданное применение насилия — скорее генетически заложенный.
Вся проблема в слове неоправданное. Что считать неоправданным? Это уже культурное понятие.
Но вообще это интересная тема. Дело в том что у человека из-за развития разума многие животные инстинкты ослаблены.
В том числе и инстинкт ограничения насилия, который действительно есть у животных.
С одной стороны это хорошо — с помощью разумы мы можем преодолевать природные инстинкты когда они вредны.
Но вот если мы отказываемся от регулировки с помощью разума то вся система наших инстинктов идет в разнос, потому что она рассчитана на уравновешивание с помощью разума.
Отсюда и масса случаев непредставимого для животных насилия, потому что без разума наши инстинктивные ограничения намного слабее.
И кстати огромное количество психических заболевания от шизофрении до эпилепсии — это тоже плата за мощный разум.
«Обычные», «психически здоровые» преступники (не психопаты) иногда находят разные способы обойти данный внутренний запрет
Собственно давным-давно существует масса детально разработанных методик снятия этого запрета для нужд армии, полиции или просто в политических целях.
Что считать неоправданным? Это уже культурное понятие.
Нет, достаточно объективное. Это когда, например, просто так, без причины бьешь кого-то. Не от злости и т.д., а просто так. Если бы подобное поведение было характерно для некоторого вида — этот вид уже давно перестал бы существовать, слишком оно разрушительно для всех.
Отсюда и масса случаев непредставимого для животных насилия
Не уверен, что такое есть.
Собственно давным-давно существует масса детально разработанных методик снятия этого запрета для нужд армии, полиции или просто в политических целях.
Ага. Но всегда вносится какая-то мотивация, «ради нашего или их же блага» и тому подобное. Должна быть причина для применения насилия.
Это когда, например, просто так, без причины бьешь кого-то. Не от злости и т.д., а просто так.
Человеческий разум позволяет с легкостью выдумать причину. Например — этот человек принадлежит к низшей расе. Или — этот человек враг рабочего класса. Или — этот человек еврей, а евреи хотят нас погубить.
То есть де-факто этот запрет не работает вообще.
А вот животное не может.
Как вы себе представляете тигра например, рассуждающего о классовой борьбе и восстании пролетариата? Или там о еретиках, которые неугодны богу?
Не уверен, что такое есть.
Массовое истребление людей по идеологическим признакам — религиозным например.
Например животные не могут себе представить сжигание ведьм на костре, истребление еретиков или фашистские лагеря смерти.
Человеческий разум позволяет с легкостью выдумать причину.
Вот именно. Но причина должна быть. Она даже может самому автору казаться неубедительной, но без нее никуда.
А чтобы начать придумывание причины, должна быть какая-то мотивация. Откуда ненависть к низшей расе, к врагам рабочего класса, к евреям? Цепочка начинает разматываться, появляются более сильные аргументы. Не просто «он еврей», а «он еврей и хочет отнять у нас все деньги», или «он — представитель низшей расы и только переводит ценные ресурсы».
А вот животное не может.
А животное вполне может не продвинуться дальше указанных выше настоящих, изначальных причин. Остановиться на «он хочет отнять у меня еду», без оглядки на цвет шерсти врага. Результат тот же самый — атака.
Массовое истребление людей по идеологическим признакам — религиозным например.
Причины не бывают религиозными. Причины бывают, скажем, в борьбе за ресурсы, территорию. Религия — один из аргументов, но не первый и не главный.
Например животные не могут себе представить сжигание ведьм на костре, истребление еретиков или фашистские лагеря смерти.
Стая собак может загрызть собаку-чужака на их территории. Та же ксенофобия, никакой разницы.
Но причина должна быть. Она даже может самому автору казаться неубедительной, но без нее никуда.
Так или иначе запрет легко снимается.
Остановиться на «он хочет отнять у меня еду», без оглядки на цвет шерсти врага. Результат тот же самый — атака.
Я говорил не об атаке, а об убийстве или серьезном увечье.
В мире животных такие случаи между особями одного вида чрезвычайно редки. Там те же олени дерутся за самку или львы дерутся за верховенство в стае но подобные схватки в абсолютном большинстве случае происходят без серьезных увечий, не говоря уже об убийстве.
У человека этот тормоз снят и поэтому практически любой конфликт очень легко заканчивается тяжелыми увечьями или смертью — огромное количество людей гибнет от бытовой преступности.
Люди убивают из-за ревности, убивают при грабежах — все это непредставимо для животных. Сытый тигр никогда не будет убивать других сородичей чтобы осовободить жизненное пространство для своих будущих детей.
Причины бывают, скажем, в борьбе за ресурсы, территорию.
Я не говорю о том, что человек убивает вообще без причин. А о том, что он убивает при гораздо меньших причинах.
И я говорю о личных причинах для данного конкретного человека.
Убийства из-за абстрактной конкуренции среди животных почти невозможны, даже при борьбе за власть крайне редки.
Сжигавшие ведьм или работавшие в лагерях с газовыми камерами люди не страдали от голода например, им самим всего хватало. Они убивали просто потому что это могло принести им дополнительные выгоды в будущем.
Даже обезьяны так в принципе не могут.
Вот если два умирающих от голода волка столкнутся над одним источником еды… да и то не факт.
А вот сытый и здоровый американский солдат убивает людей на другом конце света просто потому, что ему так приказали. Ну или исламист-наемник из далекой страны устраивает терракт ради абстрактной победы ислама.
Стая собак может загрызть собаку-чужака на их территории.
Собаки в данном случае не совсем корректный пример, они очень сильно изменены окультуриванием, скажем у волков такие тормоза гораздо сильнее. Бойцовые породы собак это вообще биороботы, особенно при неправильной дрессировке. Но даже у бродячих собак масса ограничений на подобные поступки — в частности специальные позы подчинения, которые тормозят атаку на инстинктивном уровне.
Почитайте исследования по этологии, особенно наблюдения за дикими животными в реальной среде обитания — и живее и нагляднее. Например «Не кричи волки» — про волков, «В тени человека» — шимпанзе, «Невинные убийцы» — гиены, гиеновые собаки.
или львы дерутся за верховенство в стае но подобные схватки в абсолютном большинстве случае происходят без серьезных увечий, не говоря уже об убийстве.
Сытый тигр никогда не будет убивать других сородичей чтобы осовободить жизненное пространство для своих будущих детей.
Слишком категорично. Животные — обычные биороботы и набор программ бывает очень причудливый. Пацифизм — не общее правило для всех. К примеру, конкретно львы убивают всех детёнышей предыдущего вожака, когда становятся главой прайда. Аналогично поступают самцы мышей. Некоторые птенцы выталкивают из гнезда своих братьев/сестёр, а детёныши тигровой акулы съедают друг друга в утробе.
Причины не бывают религиозными. Причины бывают, скажем, в борьбе за ресурсы, территорию. Религия — один из аргументов, но не первый и не главный.
Простите, но вот с этим не соглашусь. Как раз самые кровопролитные и непримиримые войны — идеологические. Те же мусульманские террористы ведут борьбу не за ресурс, а за идею.
Те же мусульманские террористы ведут борьбу не за ресурс, а за идею.
Мне кажется, скорее за территорию, свободу и т.д. С их ресурсами терроризм — вроде как единственный вариант, в открытую схватку они вступить не могут. Идеология — лишь повод для криков вроде «Иерусалим наш по праву», конечная цель — именно территория.
Ну невозможно ненавидеть кого-то исключительно по причине иных взглядов. Одному нравится синий цвет, другому зеленый, с какой стати им драться? Надо, чтобы взгляды того человека (или сам человек) чем-то мешали. Дальше умный руководитель может попытаться использовать разницу во взглядах как рычаг давления, но и это редко когда пройдет без дополнительной аргументации.
Ну, тут, увы, аргументированной беседы не получится, наверное, но некоторые востоковеды считают, что ислам в целом религия непримиримая именно идеологически. Хотя лично мне так не кажется (слишком обширное обобщение), но в частностях — согласен.
Ислам в целом — это сферический конь в вакууме. Внутри ислама множество самых разных течений, есть миролюбивые, есть крайне агрессивные.
И в экономических целях можно поддержать распространение одних и ограничить распространение других, формируя общий облик в нужном направлении.
И в экономических целях можно поддержать распространение одних и ограничить распространение других, формируя общий облик в нужном направлении.
Еще раз — это не моё мнение. Ряд востоковедов считает, что нет «множества течений», что все они, даже относительно миролюбивые, опасны. Я, опять же, с этим не согласен, но факт есть факт.
В наше время можно найти чегонибудьведа абсолютно под любую точку зрения включая всемирный заговор евреев, постоянные визиты инопланетян или наличие вечного двигателя, который скрывают коварные капиталисты. Не хочу этим обидеть какого-нибудь конкретного известного вам востоковеда, но в целом ситуация именно такая.
Точно таким же образом наличие у кого-то веры в визиты инопланетян не делает верным именно ваше мнение, ведь так? А вообще, это, конечно, отличный приём: привести что-то абсурдное и рядом — точку зрения, с которой вы не согласны, думая, что это сделает абсурдной и её.
Еще раз повторюсь, лично я не считаю, что всё настолько плохо, однако те самые востоковеды утверждают, что суть ислама — в появлении новых радикальных течений, при вполне прямом указании того, что немусульмане — враги. Лично мне кажется, что проблема в элементарной отсталости и необразованности большей части исповедующих эту религию, однако культура тут тоже имеет большое значение. Еще раз напомню, что я родился и вырос в мусульманской республике, хотя и в весьма образованной её части. У меня не было и нет никаких проблем с мусульманами, но просто так отмахиваться от чужой точки зрения, подкреплённой фактами, я не привык.
Еще раз повторюсь, лично я не считаю, что всё настолько плохо, однако те самые востоковеды утверждают, что суть ислама — в появлении новых радикальных течений, при вполне прямом указании того, что немусульмане — враги. Лично мне кажется, что проблема в элементарной отсталости и необразованности большей части исповедующих эту религию, однако культура тут тоже имеет большое значение. Еще раз напомню, что я родился и вырос в мусульманской республике, хотя и в весьма образованной её части. У меня не было и нет никаких проблем с мусульманами, но просто так отмахиваться от чужой точки зрения, подкреплённой фактами, я не привык.
Понимаете, я не вижу этой другой точки зрения. Я вижу только вашу. И ваши ссылки на конкретные факты.
Таким образом я пытался сказать что голая отсылка на то что кто-то там считает именно так не несет в себе никакой осмысленной информации и все.
Может они правы, может нет, в контексте этого разговора между этими двумя вариантами нет никакой разницы, ее невозможно определить.
Я же в своих суждениях тоже опираюсь на мнения востоковедов, только судя по всему других востоковедов.
Ваши личные впечатления другое дело — но вы же в исходном комментарии прямо сказали что это не вашим впечатления, а впечатления неизвестных востоковедов.
Таким образом я пытался сказать что голая отсылка на то что кто-то там считает именно так не несет в себе никакой осмысленной информации и все.
Может они правы, может нет, в контексте этого разговора между этими двумя вариантами нет никакой разницы, ее невозможно определить.
Я же в своих суждениях тоже опираюсь на мнения востоковедов, только судя по всему других востоковедов.
Ваши личные впечатления другое дело — но вы же в исходном комментарии прямо сказали что это не вашим впечатления, а впечатления неизвестных востоковедов.
С их ресурсами терроризм — вроде как единственный вариант, в открытую схватку они вступить не могут.
Вы забываете, что они существуют не в вакууме. Есть другие государства, которые используют их в своих целях. И надо учитывать так же и цели этих государств.
Как раз самые кровопролитные и непримиримые войны — идеологические. Те же мусульманские террористы ведут борьбу не за ресурс, а за идею.
Идеология не возникает ниоткуда, идеологии создаются и защищаются ради политических целей. Ну а политические цели в свою очередь возникают вслед за экономическими.
Конкретные мусульманские террористы сражаются за идею. Конкретные американские солдаты кстати тоже — думаю они искренне верят в свободу и демократию.
Но кто обучил, воспитал и вооружил террроистов? Кто их кормит, оплачивает и защищает?
Чтобы террорист появился кто-то должен воспитать и обучить его в духе соответствующих идей. Должны существовать церкви и проповедники, исламистские книги, газеты и сайты. Кто-то должен обеспечить его оружием, едой, средствами связи, транспортом.
Или с обратной стороны — террористов можно уничтожить уничтожив создающую их идеологию. Скажем с гитлеровской Германий поступили именно так, провели денацификацию и сейчас там фашисты никого не убивают. Можно уничтожить тех священников и церкви, где воспитывают террористов.
Таким образом идеология и религия — это инструменты в борьбе за экономические интересы.
Скажите, вы когда-нибудь были в истинно исламской стране? Или хотя бы видели фотографии из Москвы того, что происходило во время празднования Курбан-Байрам? Есть замечательный репортаж Варламова на эту тему. Вы считаете, что этих людей заставляют это всё делать? Эта религия росла больше тысячи лет. Она в своём развитии (по времени) находится на уровне христианства в средние века — т.е. с мощной поддержкой и искренней верой большинства. Даже если сейчас уничтожить все мечети (что невозможно, как вы понимаете, и даже категорически вредно), она уйдет в подполье и станет еще хуже.
При этом: я родился в мусульманской республике, и я лично не имею ничего против ислама в общем.
При этом: я родился в мусульманской республике, и я лично не имею ничего против ислама в общем.
Я не говорю об уничтожении мечетей. Я говорю о том, что внутри ислама есть разные проповедники. И можно избирательно поддерживать одних и уничтожать других. И таким образом постепенно менять облик религии.
Те же агрессивные исламисты этим постоянно занимаются, уничтожая прежде всего неправильных по их мнению проповедников.
На религию например сильно влияет и социальный состав верующих. Неграмотные и нищие крестьяне будут воспринимать религию в одном ключе, инженеры и квалифицированные, высокооплачиваемые рабочие — другу. В исламских странах очень мало инженеров и очень много крестьян, что тоже накладывает отпечаток.
В каком-нибудь полудиком племени в горах между Пакистаном и Афганистаном восприятие религии будет совсем другим, чем в современном мегаполисе с заводами и офисами.
Религия — это не сферическая вещь в вакууме, как и любая идеология она тесно взаимосвязана с окружающей средой.
Те же агрессивные исламисты этим постоянно занимаются, уничтожая прежде всего неправильных по их мнению проповедников.
На религию например сильно влияет и социальный состав верующих. Неграмотные и нищие крестьяне будут воспринимать религию в одном ключе, инженеры и квалифицированные, высокооплачиваемые рабочие — другу. В исламских странах очень мало инженеров и очень много крестьян, что тоже накладывает отпечаток.
В каком-нибудь полудиком племени в горах между Пакистаном и Афганистаном восприятие религии будет совсем другим, чем в современном мегаполисе с заводами и офисами.
Религия — это не сферическая вещь в вакууме, как и любая идеология она тесно взаимосвязана с окружающей средой.
А кто вам дал право выбирать, кого уничтожать, а кого нет? Кроме того, уничтожая религиозного лидера вы только подтверждаете его слова и укрепляете в них веру среди его последователей. Это не выход.
Что же касается восприятия: а вы посмотрите, кто является исполнителем террористических актов в последнее время как на западе, так и у нас в стране. Зачастую это люди, которые воспитывались в современном обществе. Однако почему-то не воспитались, и новые доктрины это воспитание победили.
Что же касается восприятия: а вы посмотрите, кто является исполнителем террористических актов в последнее время как на западе, так и у нас в стране. Зачастую это люди, которые воспитывались в современном обществе. Однако почему-то не воспитались, и новые доктрины это воспитание победили.
А кто вам дал право выбирать, кого уничтожать, а кого нет?
А кто дал это право им? Я не вижу смысла в этом вопросе.
Кто дал право уничтожать преступникам? А кто дал его полицейским? А революционерам?
Де-факто есть действия и их последствия. Например полицейский может не уничтожать террориста. Тогда террорист уничтожит самого полицейского.
И вопрос только в том какие именно последствия считаете правильными вы.
Кроме того, уничтожая религиозного лидера вы только подтверждаете его слова и укрепляете в них веру среди его последователей.
Только в том случае, если у вас не будет других религиозных деятелей взамен уничтоженным. Не будет другой религии или идеологии.
В истории масса примеров успешного уничтожения одних видов религии другими.
Нерелигиозные идеологии, кстати, тоже могут уничтожать религию весьма и весьма эффективно.
В истории масса примеров и наша страна один из самых ярких — в свое время коммунисты уничтожили религию очень быстро.
Кто дал право уничтожать преступникам? А кто дал его полицейским? А революционерам?
А ни у кого такого права и нет. Полицейский имеет право применять силу только при непосредственной угрозе его жизни. Преступник может быть осужден судом, да и то, в связи с огромным количеством судебных ошибок смертная казнь ограничена в подавляющем числе развитых цивилизованных стран.
Причем тут революционеры — вообще непонятно. Им вообще никто право не давал, они выступают с позиции либо силы (в случае достижения целей), либо подчинения (если цели не достигли ). И если кто-то готовы уподобиться тем же самым революционерам и террористам, то чем он лучше этих самых революционеров и террористов?
в свое время коммунисты уничтожили религию очень быстро
У коммунистов была возможность контролировать процесс. Попробуйте контролировать исламский мир. США Афганистан контролировать не может, а вы говорите о всём исламском мире.
Кроме того, вы как-то обошли вниманием гораздо более важные слова о том, что теракты осуществляют выходцы и воспитанники цивилизованного мира.
А ни у кого такого права и нет.
То есть вы решаете, у кого есть право, а у кого нет? А если другие люди будут с вами не согласны?
Право само по себе весьма призрачное понятие.
США Афганистан контролировать не может, а вы говорите о всём исламском мире.
А почему вы считаете, что не может?
теракты осуществляют выходцы и воспитанники цивилизованного мира.
Теракты не являются какой-то уникальной особенностью ислама, так что не вижу в этом ничего странного.
Я не даю никому право решать, кого убивать, а кого нет. Это не в моей компетенции. Равно как и не в компетенции любого на этой планете: никто индивидуально не имеет права решать, отнять чужую жизнь или нет, кроме случаев прямой защиты собственной жизни. Равно как никто, кроме специально выделенного органа, называемого судом, не вправе назвать человека преступником и назначить ему наказание.
Если же для вас непредоставление кому-то права является «решением, кому его предоставлять, а кому — нет», то добавить мне нечего.
По поводу контроля: если вы считаете, что постоянные потери американских солдат, неумение стабилизировать обстановку и справиться с постоянным трафиком наркотиков из страны называется контролем, а так же принятое решение о выводе войск из страны, не оставив после себя никакой местной структуры, которая может как-то контролировать ситуацию, мы явно имеем разные определения этого термина. У вас есть другие сведения? Так приведите их.
А вообще, судя по форме, которую приняла наша дискуссия, конструктивная её часть закончилась. Мне не интересно общаться в таком ключе.
Если же для вас непредоставление кому-то права является «решением, кому его предоставлять, а кому — нет», то добавить мне нечего.
По поводу контроля: если вы считаете, что постоянные потери американских солдат, неумение стабилизировать обстановку и справиться с постоянным трафиком наркотиков из страны называется контролем, а так же принятое решение о выводе войск из страны, не оставив после себя никакой местной структуры, которая может как-то контролировать ситуацию, мы явно имеем разные определения этого термина. У вас есть другие сведения? Так приведите их.
А вообще, судя по форме, которую приняла наша дискуссия, конструктивная её часть закончилась. Мне не интересно общаться в таком ключе.
Вы уверены что нет никакой разницы между
и
Кроме того в самой фразе
сразу видная ее ограниченность. Кто такой нормальный человек? Который соотвествует культурным нормам.
Но раз речь идет о культурных нормах — то это уже не эволюция.
Культурные нормы бывают разные. Например в гитлеровской германии они были иные.
Эволюция вшила совсем другие вещи — например инстинкт самосохранения или инстинкт размножения.
И если они вступают в противоречие с культурными нормами о отвращении к насилию, то легко побеждают.
Тем не менее себе или своим детям вы это забивать в голову не хотите. Только ИИ, верно?
То есть вы изначально ставите ИИ ниже себя как существо на которого не распространяются моральные нормы людей, с которым можно делать то, что с людьми нельзя.
Я тоже об этом.
Нормы этики должны быть одинаковыми для всех.
Вшивать в голову равному себе или превосходящему ИИ что-то такое что мы считаем негодным вшивать в голову себе — это неэтично.
В таком случае ИИ сразу создается на базе установок о расовой неполноценности, на базе страза перед ним и желании превратить его в раба.
То есть если мы хотим вшить в голову ИИ запрет на причинение вреда другим людям то он также должен вшиваться и самим людям и распространяться и на другие ИИ.
Иначе система изначально получается неэтичной и несправедливой и ИИ это тоже поймет так же как это понимают люди.
Иначе говоря говоря залог мирного сосуществования — это равенство и равные права.
Например отвращение к насилию у нормального человека.
и
должен повиноваться всем приказам, которые даёт другой человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Кроме того в самой фразе
Например отвращение к насилию у нормального человека.
сразу видная ее ограниченность. Кто такой нормальный человек? Который соотвествует культурным нормам.
Но раз речь идет о культурных нормах — то это уже не эволюция.
Культурные нормы бывают разные. Например в гитлеровской германии они были иные.
Эволюция вшила совсем другие вещи — например инстинкт самосохранения или инстинкт размножения.
И если они вступают в противоречие с культурными нормами о отвращении к насилию, то легко побеждают.
Если бы это было забито мне в голову как инвариант — я бы ничуть не страдал от этого, очевидно.
Тем не менее себе или своим детям вы это забивать в голову не хотите. Только ИИ, верно?
То есть вы изначально ставите ИИ ниже себя как существо на которого не распространяются моральные нормы людей, с которым можно делать то, что с людьми нельзя.
Короче речь об этике. Этике ИИ и этике его создателей (нас).
Я тоже об этом.
Нормы этики должны быть одинаковыми для всех.
Вшивать в голову равному себе или превосходящему ИИ что-то такое что мы считаем негодным вшивать в голову себе — это неэтично.
В таком случае ИИ сразу создается на базе установок о расовой неполноценности, на базе страза перед ним и желании превратить его в раба.
То есть если мы хотим вшить в голову ИИ запрет на причинение вреда другим людям то он также должен вшиваться и самим людям и распространяться и на другие ИИ.
Иначе система изначально получается неэтичной и несправедливой и ИИ это тоже поймет так же как это понимают люди.
Иначе говоря говоря залог мирного сосуществования — это равенство и равные права.
Дак основная идея Азимова и была что эти три закона хоть и ограничат роботов, но не обеспечат «человекоподобной» мотивации.
Я все таки не согласен с Хоккингом (ого как мощно звучит). Можно сказать что «сингулярность» уже наступила. Если сравнить дельту какой нибудь науки или технологии например физики в 10 веке, в 18 — 19 веке, в первой половине 20века и за последний десяток лет — скорость просто экспоненциально растет. Причем везде — несколько тысяч человек это крупный город в средние века. А десяти миллионный мегаполис сейчас — никого не удивляет.
И по меркам какого нибудь инквизитора у нас давно конец света случился: по небу летаем, куда раньше 3 года плыть надо было за 12 часов на самолете долетим. Про то что солнце в центр мира сунули, и одновременно на окраину млечного пути поместили, а землю в шар свернули — вообще молчим).
И ничего живем же. Просто масштаб сменили.
Я все таки не согласен с Хоккингом (ого как мощно звучит). Можно сказать что «сингулярность» уже наступила. Если сравнить дельту какой нибудь науки или технологии например физики в 10 веке, в 18 — 19 веке, в первой половине 20века и за последний десяток лет — скорость просто экспоненциально растет. Причем везде — несколько тысяч человек это крупный город в средние века. А десяти миллионный мегаполис сейчас — никого не удивляет.
И по меркам какого нибудь инквизитора у нас давно конец света случился: по небу летаем, куда раньше 3 года плыть надо было за 12 часов на самолете долетим. Про то что солнце в центр мира сунули, и одновременно на окраину млечного пути поместили, а землю в шар свернули — вообще молчим).
И ничего живем же. Просто масштаб сменили.
Опасность в том, что ИИ — теоретически — сможет эволюционировать гораздо быстрее, и станет умнее человека в миллионы раз за считанные мгновения.
Ну во первых мы не совсем понимаем что есть ИИ.
Во вторых ИИ не самодостаточен, ему нужно будет некое «тело».
И тут внимание вопрос — является ли человек с гугл очками и интернетами — ИИ или Машиной для обывателя из средних веков? Особенно с парой тройкой выращенных и трансплантированных органов или рук-ног.
Мне лично думается, что ИИ останется кибер-протезом для человечества, а затем человечество трансформируется для тесной интеграции с этими протезами.
В чем смысл существования ИИ? У него нет ограничений, потребностей, гормонов к конце концов и инстинкта размножения, нет жажды творчества и разрушения, нет мотивов по захвату территории. Нет желания вешать на себя редкоземельный металл, просто потому что так принято и считается красиво.
Мы обрабатываем информацию все быстрее и быстрее именно для удовлетворения этих практически иррациональных потребностей. Почти всегда дабы «понтануться», заработать очки перед противоположным полом и размножиться.
Роботу не нужно «понтоваться» перед самками для размножения. Зачем ему тогда вообще развиваться?
Наша ошибка в том чо мы пытаемя наделить ИИ НЕКОТОРЫМИ человеческими мотивами и пытаемся делать из этого какой то вывод.
Во вторых ИИ не самодостаточен, ему нужно будет некое «тело».
И тут внимание вопрос — является ли человек с гугл очками и интернетами — ИИ или Машиной для обывателя из средних веков? Особенно с парой тройкой выращенных и трансплантированных органов или рук-ног.
Мне лично думается, что ИИ останется кибер-протезом для человечества, а затем человечество трансформируется для тесной интеграции с этими протезами.
В чем смысл существования ИИ? У него нет ограничений, потребностей, гормонов к конце концов и инстинкта размножения, нет жажды творчества и разрушения, нет мотивов по захвату территории. Нет желания вешать на себя редкоземельный металл, просто потому что так принято и считается красиво.
Мы обрабатываем информацию все быстрее и быстрее именно для удовлетворения этих практически иррациональных потребностей. Почти всегда дабы «понтануться», заработать очки перед противоположным полом и размножиться.
Роботу не нужно «понтоваться» перед самками для размножения. Зачем ему тогда вообще развиваться?
Наша ошибка в том чо мы пытаемя наделить ИИ НЕКОТОРЫМИ человеческими мотивами и пытаемся делать из этого какой то вывод.
Можно сказать что «сингулярность» уже наступила. Если сравнить дельту какой нибудь науки или технологии например физики в 10 веке, в 18 — 19 веке, в первой половине 20века и за последний десяток лет — скорость просто экспоненциально растет.
Мне так не кажется. Рост чисто количественный, а не качественный. Научный прогресс последних 50 лет несравним с научным прогрессом например XIX и начала XX веков.
Вот мы гордимся электромобилями Tesla. И при этом забываем что вообще-то электродвигатель вместе с аккумуляторами изобретен более ста лет назад.
И в начале XX века электромобили уже производились серийно и тогда уже считались более перспективной технологией, чем ДВС.
Так что то что нам кажется прорывом вперед это по сути просто внедрение открытий столетней давности.
Ну или вот смартфоны — когда была изобретена радиосвязь?
Мы гордимся ракетами Space X но вообще-то они тоже были изобретены лет 100 назад и технически реализованы лет 50 назад.
Подавляющее большинство прорывов нынешнего времени — это всего-навсего внедрение в повседневную жизнь открытий столетней давности.
Новых прорывов сравнимых с изобретением радиосвязи, электродвигателя, двигателя внутреннего сгорания, атомной энергетики, реактивных двигателей для самолетов и ракет почти нет.
Даже прогресс информационных технологий резко замедлился — по сут и все важные открытия были сделаны 20-30 лет назад. Айфон конечно удобнее коммуникаторов Psion, но ничего принципиально нового не привносит, больше, шире, красивее.
Серьезный прогресс есть в биотехнологиях, но опять же ДНК открыли полвека назад и теперь мы всего лишь внедряем то открытие в реальную жизнь.
Роботы — опять же внедрение изобретенного десятилетия назад.
Скачок от поездки на лошади до полета на самолете был гигантским. Сейчас же мы считаем прогрессом новый самолет на котором есть Wi-Fi и который тратит на 15% меньше топлива.
Скачок от бумажного письма к радиопередаче был гигантским. Скачок от обычного радио к интернет-радио через 4G на смартфон…
Скачок от бумажного ежедневника к первым коммуникаторам гигантский. Скачок от коммуникатора с Symbian к IPhone… интерфейс поудобней, вместо стилуса можно пальцем тыкать.
Вот что принципиально нового будет через 50 лет? Электромобили? Термояд? Солнечные батареи? Генная инженерия? Более быстрые компьютеры?
Даже сам ИИ предсказуем — даже если он будет управлять электромобилем и передавать данные через 5G.
Где новые двигатели новые источники энергии, новые средства передачи информации?
Надеюсь все это появится и например увеличение скорости перемещения между планетами будет сравнимо с увеличением скорости перемещения по земле при переходе от лошади к реактивному самолету — то есть в сотни и тысячи раз.
Электричество вообще то изобрели еще древние греки. Они же придумали атом… Так да получается только количественный :)
Греки атом придумали, а вот теорию строения атомного ядра с практическими выводами в виде ядерных бомб и атомных электростанций все-таки в XIX-XX веке изобрели
Я не хочу сказать что прогресса нет вообще. Но как мне кажется его скорость сейчас несколько преувеличена и очень часто путается с количественными показателями.
Может лет через 10-20 появятся какие-то новые прорывы — квантовые компьютеры или… кстати больше даже примеров не подобрать. Скажем новых быстрых космических кораблей никто не обещает. В любом случае пока этого не видно и обобщаю имеющуюся информацию.
Я не хочу сказать что прогресса нет вообще. Но как мне кажется его скорость сейчас несколько преувеличена и очень часто путается с количественными показателями.
Может лет через 10-20 появятся какие-то новые прорывы — квантовые компьютеры или… кстати больше даже примеров не подобрать. Скажем новых быстрых космических кораблей никто не обещает. В любом случае пока этого не видно и обобщаю имеющуюся информацию.
Мне так не кажется. Рост чисто количественный, а не качественный.А вы определение сингулярности введите, и по нему оценивайте текущий прогресс.
Я оцениваю относительную скорость в разные промежутки времени.
Понятие сингулярности уж очень расплывчатое и неопределенное. Его очень часто понимают как «волшебный момент времени когда наши возможности внезапно станут безграничными».
Понятие сингулярности уж очень расплывчатое и неопределенное. Его очень часто понимают как «волшебный момент времени когда наши возможности внезапно станут безграничными».
Так дайте свое определение и на него опирайтесь. Когда никто не знает, что такое «сингулярность», как можно спорить, наступила она или нет?
Лично я про сингулярность ничего не писал. Я отвечал на комментарий, в котором говорилось про резкое ускорение прогресса в последние десятилетия, по сравнению с прошлым, с прошлыми столетиями.
А зачем оценивать технический прогресс опираясь на сингулярность, непонятное слово, у которого даже определения нет и еще надо дать?
Я оцениваю технологический прогресс опираясь на известные нам факты о нем в наше время и в прошлом.
А вы определение сингулярности введите, и по нему оценивайте текущий прогресс.
А зачем оценивать технический прогресс опираясь на сингулярность, непонятное слово, у которого даже определения нет и еще надо дать?
Я оцениваю технологический прогресс опираясь на известные нам факты о нем в наше время и в прошлом.
Лично я про сингулярность ничего не писал.
Видимо мое восприятие вырвало из контекста:
Можно сказать что «сингулярность» уже наступила.
Мне так не кажется.
Сингулярность это больше математическое понятие. Технологическая сингулярность вообще не возможна без бесконечных ресурсов, как только какой-то из ресурсов закончится так сразу темпы роста упадут, и никакой сингулярности не будет. Сингулярность означает постоянное повышение темпов(роста, производства, развития) до бесконечности — вот в этой точке и есть сингулярность — где-то там, в бесконечности. К этой точке можно стремиться но никогда не достичь.
В реальном мире темпы производства будут ограничены пространством и скоростью передвижения сырья, а развитие ИИ в виртуальном мире — скоростью света(пока только скоростью движения электрических сигналов).
В реальном мире темпы производства будут ограничены пространством и скоростью передвижения сырья, а развитие ИИ в виртуальном мире — скоростью света(пока только скоростью движения электрических сигналов).
Математическая сингулярность основана все-таки на математических функциях.
А вот технологическая ни на каких функциях, предсказывающих поведение графика, не основана — это просто линейная интерполяция исторических данных.
Соответственно никакой гарантии того, что характер графика не изменится она не дает.
А вот технологическая ни на каких функциях, предсказывающих поведение графика, не основана — это просто линейная интерполяция исторических данных.
Соответственно никакой гарантии того, что характер графика не изменится она не дает.
График изменится, потому что ресурсы на планете конечны. Это не учитывается в математике, но главное ведь не невозможность а тенденция описываемая математической функцией. Чем дальше в лес… функция будет всегда работать только из-за изменения обстановки будут меняться коэффициенты этой функции.
Но темпы развития расти будут практически постоянно с периодическими провалами.
Но темпы развития расти будут практически постоянно с периодическими провалами.
В теории вполне возможен технологический прорыв, делающий доступным для освоения космос и неограниченные ресурсы других планет и звезд.
Проблема в том, что пока такого технологического прорыва не наблюдается. Ракеты были изобретены почти 100 лет назад, первая ракета с жидкостным двигателем запущена в 1926, а боевые ракеты впервые применили (если не считать ранних прототипов у тех же китайцев) в 1806 году. И ничего нового с тех пор не изобретено.
То есть пока нет новых точек, которые продолжили бы эту красивую кривую, построенную на исторических данных.
Проблема в том, что пока такого технологического прорыва не наблюдается. Ракеты были изобретены почти 100 лет назад, первая ракета с жидкостным двигателем запущена в 1926, а боевые ракеты впервые применили (если не считать ранних прототипов у тех же китайцев) в 1806 году. И ничего нового с тех пор не изобретено.
То есть пока нет новых точек, которые продолжили бы эту красивую кривую, построенную на исторических данных.
этот прорыв изменит коэффициент функции, не сразу ведь начнется освоение космоса… этому мешать по началу будет время перелета как сейчас прогрессу мешает скорость сборки приборов и инструментов. Надежда на то что в ближайшем будущем будет преодолен барьер скорости света очень призрачна, а эта бякость может запросто стать ограничителем прогресса.
современный компьютер может обрабатывать информацию значительно быстрее возможностей человека
Не всю информацию, а исключительно некоторые ее виды с массой ограничений. Банальная для человека задача распознавания речи до сих пор остается запредельно трудной даже для суперкомпьютеров.
Задача перевода тоже. И масса других.
Само собой рано или поздно эти ограничения уйдут, но почему человек тоже не может развиваться в сторону более быстрой обработки информации?
Совершенно с вами согласен. Прочитал комментарии и решил уже тут разместить свое мнение)
Не хочу чтоб меня поняли неправильно, но при всем уважении к Хокингу, мне кажется что в данном случае он и другие люди просто привлекают к себе дополнительное внимание таким образом. Я сам получаю удовольствие от обсуждения и фантазий на тему ИИ. Но будем реалистами. На данный момент не существует такого ИИ с возможностями, котороые упомянуты в комментариях. Действительно существуют отдельные разработки, которые хорошо справляются с поставленными задачами — распознавание образов, управление бытовой техникой и автомобилями, симуляторы и тд. Тот же суперкомпьютер Ватсон. И на этом основании люди порой начинают думать о своих возможностях больше, чем они у них есть на самом деле.
Но на самом деле мы упускаем одну важную деталь — самое сложное это определение смысла. Чтобы ИИ мог осознавать и самообучаться очень важно чтобы он мог понять смысл происходящего вокруг на основании изображений, звука и тактильных ощущений. И это не просто алгоритм. Осознание это как? А что есть смысл? Как его найти в словах? Кроется ли он только в связях между словами? Что будет определять мотивацию? Нужно ли реализовать эмоции и если да то как?
Пока мы сами не сможем дать определение этому и хорошо понять как устроен наш мозг, мозг животных — мы не продвинемся в создании ИИ превосходящего человека. Невозможно создать то, что сам хорошо не понимаешь. Но прогресс в этой сфере тоже отрицать бессмысленно. Но нужно понимать что мы очень, очень далеки до цели. И те проблемы которые вы упомянули действительно очень сложны и не стоит их недооценивать.
Не хочу чтоб меня поняли неправильно, но при всем уважении к Хокингу, мне кажется что в данном случае он и другие люди просто привлекают к себе дополнительное внимание таким образом. Я сам получаю удовольствие от обсуждения и фантазий на тему ИИ. Но будем реалистами. На данный момент не существует такого ИИ с возможностями, котороые упомянуты в комментариях. Действительно существуют отдельные разработки, которые хорошо справляются с поставленными задачами — распознавание образов, управление бытовой техникой и автомобилями, симуляторы и тд. Тот же суперкомпьютер Ватсон. И на этом основании люди порой начинают думать о своих возможностях больше, чем они у них есть на самом деле.
Но на самом деле мы упускаем одну важную деталь — самое сложное это определение смысла. Чтобы ИИ мог осознавать и самообучаться очень важно чтобы он мог понять смысл происходящего вокруг на основании изображений, звука и тактильных ощущений. И это не просто алгоритм. Осознание это как? А что есть смысл? Как его найти в словах? Кроется ли он только в связях между словами? Что будет определять мотивацию? Нужно ли реализовать эмоции и если да то как?
Пока мы сами не сможем дать определение этому и хорошо понять как устроен наш мозг, мозг животных — мы не продвинемся в создании ИИ превосходящего человека. Невозможно создать то, что сам хорошо не понимаешь. Но прогресс в этой сфере тоже отрицать бессмысленно. Но нужно понимать что мы очень, очень далеки до цели. И те проблемы которые вы упомянули действительно очень сложны и не стоит их недооценивать.
Вообще-то… сейчас везде так и происходит. Все что делается человечеством — нет ни одного отдельного человека который знал бы как работает конкретная отдельная вещь. Даже элементарный транзистор основан на десятках технологий и ни один человек досконально не может охватить все происходящие процессы в нём — для этого нужно взаимодействие нескольких специалистов.
Так и ИИ — его создаст группа ученых каждый из которых в отдельности не будет понимать до конца как он работает, но тем не менее они его создадут!
Так и ИИ — его создаст группа ученых каждый из которых в отдельности не будет понимать до конца как он работает, но тем не менее они его создадут!
Амбиции человечества бесконечны, а вот ресурсы — нет. Даже железо уже подходит к концу, не говоря о редкоземельных металлах, которые мы так и не научились делать из своего мусора.
Ради ресурсов уже сейчас совершаются масштабные войны против менее развитых и слабых стран. Современные войны происходят при довольно опосредованном участии человека, все чаще из кабины самолета и брони танка. Беспилотники уже во всю летают в воздухе, и цель пехоты — финальная зачистка и закрепление достигнутого. Завтра кто-то из развитых стран полностью заменит пехоту на роботов, и вот тогда и искуственного интеллекта появится шанс уничтожить человечество, да и то, довольно призрачный — военные всегда придумывали свои интерфейсы, жутко секретные, и даже роботам малопонятные.
Ради ресурсов уже сейчас совершаются масштабные войны против менее развитых и слабых стран. Современные войны происходят при довольно опосредованном участии человека, все чаще из кабины самолета и брони танка. Беспилотники уже во всю летают в воздухе, и цель пехоты — финальная зачистка и закрепление достигнутого. Завтра кто-то из развитых стран полностью заменит пехоту на роботов, и вот тогда и искуственного интеллекта появится шанс уничтожить человечество, да и то, довольно призрачный — военные всегда придумывали свои интерфейсы, жутко секретные, и даже роботам малопонятные.
> Даже железо уже подходит к концу
Большая доля железа идет на строительные конструкции, которые с легкостью заменяются на углепластики, в идеале на нанотрубки/графен. А нанотрубки/графен можно делать из каменного угля, которого еще очень много. И его можно брать из воздуха, была бы энергия. Есть заменители и для других ресурсов. Кремния и углерода на планете очень много.
Большая доля железа идет на строительные конструкции, которые с легкостью заменяются на углепластики, в идеале на нанотрубки/графен. А нанотрубки/графен можно делать из каменного угля, которого еще очень много. И его можно брать из воздуха, была бы энергия. Есть заменители и для других ресурсов. Кремния и углерода на планете очень много.
Получение подобных материалов сопряжено с огромными энергозатратами при довольно низком конечном выходе материала. Возможно предположить развитие термоядерной энергетики в масштабах достаточных для обеспечения всех человеческих нужд, что спровоцирует демографический взрыв, и ресурсом станет территория, пригодная для комфортного проживания, ну а дальше — роботы-солдаты, кровь, притеснение бедных народов и далее по рельсам человеческой сущности.
Если рассуждать дальше, то вокруг нас куча других планет и звездных систем с ресурсами. Вот только добыть их не так просто.
Проблема не в том, что ресурсов нет вообще. Проблема в том, что на их добычу требует слишком много энергии и тех же самых ресурсов.
В теории можно прямо сейчас возить железо с Луны или астероидов, технический уровень позволяет. Но стоимость такого железа будет в полном смысле слова космической.
Проблема не в том, что ресурсов нет вообще. Проблема в том, что на их добычу требует слишком много энергии и тех же самых ресурсов.
В теории можно прямо сейчас возить железо с Луны или астероидов, технический уровень позволяет. Но стоимость такого железа будет в полном смысле слова космической.
До того, как лезть на Луну и астероды, стоит посмотреть на Землю. Мировая добыча в год — 1.4 миллиарда тонн. В одной КМА разведанных запасов — 30 миллиардов тонн. Это то, что мы уже сейчас понимаем как добыть. И это — даже не самое большое месторождение руды!
Ну вот честное слово, рассказы про нехватку железе — это как бы даже не смешно.
Ну вот честное слово, рассказы про нехватку железе — это как бы даже не смешно.
железо это хорошо, но при производстве механизмов особенно в точном машиностроении железо в его чистом виде не применяется, его всегда легируют другими металлами и даже неметаллами. Вся загвоздка в этих самых добавках… без которых железо ржавеет и конструкции на его основе работать будут недолго, темболее не обладая необходимой твердостью и прочностью.
Хороша будет армия роботов которая заржавеет уже через месяц после производства и как человек огня боящаяся воды и кислот…
У железа слишком много недостатков для использования его не для ломиков.
Хороша будет армия роботов которая заржавеет уже через месяц после производства и как человек огня боящаяся воды и кислот…
У железа слишком много недостатков для использования его не для ломиков.
...
За что же вы ломик-то обидели. Ломы как раз из железа и не делают. А из среднеуглеродистой стали (ст. 45, например). А бывают ломы безискровые, например. Так те вообще медные.
Так что даже с ломами не так всё просто.
Так что даже с ломами не так всё просто.
Ладно, молотки и кувалды.
Посмотрите ГОСТ на молотки — весьма познавательно.
Вы забываете про одну простую вещь — разведанные запасы — это не склад, с которого руду можно спокойно вывести. Они неоднородны, некоторые добывать сложней и дороже. Некоторые в разы и десятки раз дороже чем нынешние. И каждый следующий миллиард будет обходиться дороже чем предыдущий, просто потому, что сначала всегда используются самые простые и дешевые в добыче месторождения.
Само собой Луна — это крайний пример. Кроме нее есть например и дно океана и Антарктида подо льдом, и глубинные залежи на расстоянии многих километров от поверхности земли.
Вот только добыча оттуда будет стоить во много раз дороже чем с нынешних. Причем не долларов, а энергии и того же железа и иных конструкционных материалов.
А ведь речь не только о железе идет, речь фактически о подавляющем большинстве всех минералов.
Например кроме железа есть фосфор, без которого мы останемся без еды. И проблема не в его дефиците, проблема в том что используемый в сельском хозяйстве фосфор вымывается с реками в моря и оседает на дно океанов. Он никуда не исчезает, его можно снова использовать — вот только стоимость сбора фосфора, равномерно рассеяно на дне океанов…
Ну и собственно 30 миллиардов железа — это всего 21 год добычи. По Википедии общие разведанные запасы 160 миллиардов и даже если мы их будем добывать вне зависимости от цены и смиримся с тем что железо может стоит дороже нынешнего золота, их хватит всего на 116 лет.
(источник)
Само собой если мы внезапно совершим какие-то прорывные открытия, например изобретем вечный двигатель и обретем неисчерпаемый источник энергии — то проблема будет решена.
Однако пока такими открытиями и не пахнет, термояд например здесь ничего не решит.
Само собой Луна — это крайний пример. Кроме нее есть например и дно океана и Антарктида подо льдом, и глубинные залежи на расстоянии многих километров от поверхности земли.
Вот только добыча оттуда будет стоить во много раз дороже чем с нынешних. Причем не долларов, а энергии и того же железа и иных конструкционных материалов.
А ведь речь не только о железе идет, речь фактически о подавляющем большинстве всех минералов.
Например кроме железа есть фосфор, без которого мы останемся без еды. И проблема не в его дефиците, проблема в том что используемый в сельском хозяйстве фосфор вымывается с реками в моря и оседает на дно океанов. Он никуда не исчезает, его можно снова использовать — вот только стоимость сбора фосфора, равномерно рассеяно на дне океанов…
Ну и собственно 30 миллиардов железа — это всего 21 год добычи. По Википедии общие разведанные запасы 160 миллиардов и даже если мы их будем добывать вне зависимости от цены и смиримся с тем что железо может стоит дороже нынешнего золота, их хватит всего на 116 лет.
— Запасы десяти самых важных металлов могут быть полностью истощены уже в нынешнем веке. Чем меньше их будет оставаться, тем дороже они будут обходиться. Цена будет повышаться, мы будем пытаться добыть остатки из более бедных руд, цена будет опять повышаться. Если железо будет добываться современными темпами, то вот эта чайная ложечка в период истощения будет стоить как серебро. Железо в изобилии встречается на Земле, но лишь часть его пригодна для добычи с разумными затратами. Первый пик производства железа, по нашим оценкам, произойдет в 2030 году, вероятно, вторичный пик может произойти в 2060-м в ответ на повышение цен и последствия вероятной глобальной рецессии. После этого железо станет дефицитным ресурсом, ценным металлом. Пик производства золота миновал уже в 2000 году, время наступления дефицита — 2070-е годы. Для металлов платиновой группы пик наступит в 2020-е годы, для свинца, серебра, цинка — примерно в 2030-е, для меди, хрома, никеля, молибдена — в 2040–2050-е, после чего наступит время истощения.
Пик производства фосфоритов пришелся на 2010 год. Время наступления дефицита для фосфора возможно в двух критических точках — в 2040-е и 2190-е. Фосфор, как и платина, чрезвычайно важен, в частности для производства удобрений, и когда добыча пойдет на спад, что произойдет с продовольствием? Платина вообще важнейший катализатор. Уберите платину — исчезнет еда, полимеры, пластики.
(источник)
Само собой если мы внезапно совершим какие-то прорывные открытия, например изобретем вечный двигатель и обретем неисчерпаемый источник энергии — то проблема будет решена.
Однако пока такими открытиями и не пахнет, термояд например здесь ничего не решит.
Что до железа, то есть еще алюминий.
Вместо золота есть серебро.
В еде присходит стремительный рост доли продукции химической отрасли за счет доли с/х.
Я к тому, что не все так прямолинейно, для многих, если не всех, ресурсов есть возможности по замене на аналоги или обходные пути.
Вместо золота есть серебро.
В еде присходит стремительный рост доли продукции химической отрасли за счет доли с/х.
Я к тому, что не все так прямолинейно, для многих, если не всех, ресурсов есть возможности по замене на аналоги или обходные пути.
И истощаются они все. Железо в этом плане как раз один из наименее проблемных ресурсов, как справедливо заметили на Земле его очень много. Но проблемы намечаются даже с ним.
Само собой это не глобальный ужас-ужас без выходов, но крайне серьезная объективная проблема.
Само собой это не глобальный ужас-ужас без выходов, но крайне серьезная объективная проблема.
Еще для Ньютона добыча нефти с глубины в пару километров из под земли было неосуществимой технологически задачей. Не говоря уж про с той же глубины, но под водой.
Говоря «пока такими открытиями и не пахнет» вы предполагаете что «такие» открытия должны свершаться каждый день? Не говоря про технологии. Тот же термояд уже почитай открыт проблма носит только технологический характер: *что* нужно сделать уже понятно, *как* это делать тоже не столько проблема сколько «как это сделать эффективно».
Я убежден что проблемы например реализации управляемого термоядерного синтеза носят чаще скорее экономико-технологический смысл, чем научно-технологически. Просто это никому не нужно. По крайней мере пока.
Говоря «пока такими открытиями и не пахнет» вы предполагаете что «такие» открытия должны свершаться каждый день? Не говоря про технологии. Тот же термояд уже почитай открыт проблма носит только технологический характер: *что* нужно сделать уже понятно, *как* это делать тоже не столько проблема сколько «как это сделать эффективно».
Я убежден что проблемы например реализации управляемого термоядерного синтеза носят чаще скорее экономико-технологический смысл, чем научно-технологически. Просто это никому не нужно. По крайней мере пока.
Занимательно, сначала в Вашем комментарии ничего про 4.2% в коре не было, но сказанное выше товарищем crmMaster уже было названо бредом. Потом Вы изучили вопрос глубже (еще 5 минут чтения Википедии?) и изменили комментарий.
Неизменной осталась только часть про бред.
Неизменной осталась только часть про бред.
Да хоть бы и 5 минут чтения Википедии. crmMaster даже этого, похоже, не сделал.
Про то, что скоро железные руды иссякнут писали ещё в начале XIX века. И значете что? Они таки иссякли. Того, что тогда называлось железной рудой (пород с содержанием железа 90% и выше) на Земле больше нет. Но того, что мы называем родой сейчас — хватит примерно лет на 500. А там и ещё более бедные руды в ход пойдут.
Вот с чем с чем, а с железом у нас проблем нету. Могут быть проблемы с его добычей (это энергоёмкий процесс), но это уже совсем другая история.
Про то, что скоро железные руды иссякнут писали ещё в начале XIX века. И значете что? Они таки иссякли. Того, что тогда называлось железной рудой (пород с содержанием железа 90% и выше) на Земле больше нет. Но того, что мы называем родой сейчас — хватит примерно лет на 500. А там и ещё более бедные руды в ход пойдут.
Вот с чем с чем, а с железом у нас проблем нету. Могут быть проблемы с его добычей (это энергоёмкий процесс), но это уже совсем другая история.
> военные всегда придумывали свои интерфейсы, жутко секретные, и даже роботам малопонятные.
Стреляй в голову.
Стреляй в голову.
Вы сейчас задаете вопрос, мучающий не одно и даже не десяток поколений философов — «в чем же смысл человеческого существования?» :)
Само собой, такая проблема есть. А вот почему такое случается (упомянутая вами заморочка в Древнем Риме)? Как раз-таки неясность того, «а зачем вообще человеку жить», и есть то, «о чем я сейчас вообще».
В цифровую эпоху зрелища становятся очень дешевыми — компьютерные игры по стоимости одного часа развлечения намного превосходят все более ранее.
Бездельникам дается DotA, WoW, WoT и и о них можно забыть.
Бездельникам дается DotA, WoW, WoT и и о них можно забыть.
Ещё алкоголь, марихуана и героин.
Но их надо где-то селить, кормить, лечить и хоронить.
Думается, что с автоматизацией и роботами, государства захотят уменьшить население.
Но их надо где-то селить, кормить, лечить и хоронить.
Думается, что с автоматизацией и роботами, государства захотят уменьшить население.
Наркотики наносят серьезный ущерб здоровью — соответственно расходы на лечение.
Само собой я имею в виду гуманный и человечный подход. Если людей захотят истребить, то любые развлечения ни к чему.
Для этого достаточно ограничить размножение. Даже не секс.
Немного в сторону теории заговора — возможна нынешняя шумиха вокруг однополых отношений связана как раз с этим.
Само собой я имею в виду гуманный и человечный подход. Если людей захотят истребить, то любые развлечения ни к чему.
государства захотят уменьшить население.
Для этого достаточно ограничить размножение. Даже не секс.
Немного в сторону теории заговора — возможна нынешняя шумиха вокруг однополых отношений связана как раз с этим.
Не знаток философии, но сдается мне на сей вопрос ответили еще античные эпикурейцы — естественно в счастье человека. А что для человека подразумевается под счастьем, решать уже ему самому.
На биотопливо пойдут
>А люди зачем будут нужны?
А люди станут прдыдущей ступенью развития и станут ненужны.
Plastic, assholes! © George Carlin
А люди станут прдыдущей ступенью развития и станут ненужны.
Plastic, assholes! © George Carlin
На людей останется творческая деятельность.
В «1984» по-моему была машина, которая писала книги. Лень искать, но вроде там был стандартный набор сюжетных фрагментов, которые комбинировались, менялись имена героев и получалась новая книга )))
Творчество — это не только написание книг, картин или музыки.
В вашем примере сможет ли машина написать, скажем, комикс? Или интерактивную книгу-приключение? Грубо говоря, сможет ли она придумать что-то новое, выходящее за рамки её алгоритмов?
Хотя если у ИИ появится воображение… Это пожалуй важнейший козырь человека.
В вашем примере сможет ли машина написать, скажем, комикс? Или интерактивную книгу-приключение? Грубо говоря, сможет ли она придумать что-то новое, выходящее за рамки её алгоритмов?
Хотя если у ИИ появится воображение… Это пожалуй важнейший козырь человека.
Если ИИ не сможет заниматься творчеством он не будет ИИ в полном смысле слова и не будет даже равен человеку не говоря уже о превосходстве. Соответственно и какой-то новой опасности представлять не будет.
Скажем так: некоторые люди, по определению обладающие интелектом, и занимающиеся творчеством, в своём ремесле не выходят за рамки определённых алгоритмов, чем мало отличаются от той же машины.
В качестве примера можно привести многочисленные штампующиеся детективные романы.
Если вы говорите о сверх-продвинутом ИИ, который, возможно, способен даже на эмоции, то тогда да, наши дела плохи (или нет?..).
В качестве примера можно привести многочисленные штампующиеся детективные романы.
Если вы говорите о сверх-продвинутом ИИ, который, возможно, способен даже на эмоции, то тогда да, наши дела плохи (или нет?..).
Само собой творчество тоже разное бывает. Но это по большому счету детали. Насчет превосходящего интеллекта ответил здесь.
Я с вашим постом ниже полностью согласен.
Я как раз к тому и веду, что с будущим ИИ должны быть симбиотические отношения. И если ИИ обладает таки вторым «И», то он не станет избавляться от человека как от мусора (как многие вечно опасаются), т.к. даже если машины превзойдут людей во всех областях, у человека есть весьма ценный ресурс — фантазия. Вы ведь не станете уничтожать соседнее государство, в котором есть нефть, только потому, что у вас она тоже есть.
Хотя вы конечно можете захватить его… Или же выработать дипломатическое взаимодействие. Хм.
Сейчас, задумавшись об этом, прихожу к выводу, что возможно ИИ придётся пройти тот же путь, что человек проходит последние несколько тысяч лет, чтобы научиться «цивилизованным» методам. Тогда вся надежда на технологическую сингулярность, и на то, что весь процесс у машины займёт считаные секунды.
Я как раз к тому и веду, что с будущим ИИ должны быть симбиотические отношения. И если ИИ обладает таки вторым «И», то он не станет избавляться от человека как от мусора (как многие вечно опасаются), т.к. даже если машины превзойдут людей во всех областях, у человека есть весьма ценный ресурс — фантазия. Вы ведь не станете уничтожать соседнее государство, в котором есть нефть, только потому, что у вас она тоже есть.
Хотя вы конечно можете захватить его… Или же выработать дипломатическое взаимодействие. Хм.
Сейчас, задумавшись об этом, прихожу к выводу, что возможно ИИ придётся пройти тот же путь, что человек проходит последние несколько тысяч лет, чтобы научиться «цивилизованным» методам. Тогда вся надежда на технологическую сингулярность, и на то, что весь процесс у машины займёт считаные секунды.
Опасность для нас будет именно в том случае, если мы останемся животными.
Если бы с крысами или тараканам можно было договориться, это скорее всего сделали бы. Но так как договориться невозможно, их приходится травить.
Хотя прямого столкновения нет, в отличие от болезнетворных микробов или хищных животных.
В конце концов если мы строим завод и вырубаем под него лес, то с разумными существами можно договориться о переселении. А вот диких животных приходится истреблять, деревья вырубать.
Как минимум захват не является неизбежным. Как минимум захват должен быть более выгодным, чем договоренность.
Человека никто не учил, все пришлось осваивать в первый раз.
ИИ мы можем научить.
Если бы с крысами или тараканам можно было договориться, это скорее всего сделали бы. Но так как договориться невозможно, их приходится травить.
Хотя прямого столкновения нет, в отличие от болезнетворных микробов или хищных животных.
В конце концов если мы строим завод и вырубаем под него лес, то с разумными существами можно договориться о переселении. А вот диких животных приходится истреблять, деревья вырубать.
Вы ведь не станете уничтожать соседнее государство, в котором есть нефть, только потому, что у вас она тоже есть.
Хотя вы конечно можете захватить его… Хотя вы конечно можете захватить его… Или же выработать дипломатическое взаимодействие. Хм.
Как минимум захват не является неизбежным. Как минимум захват должен быть более выгодным, чем договоренность.
ИИ придётся пройти тот же путь, что человек проходит последние несколько тысяч лет, чтобы научиться «цивилизованным» методам
Человека никто не учил, все пришлось осваивать в первый раз.
ИИ мы можем научить.
Ждем профессию жиголо-соблазнителя ИИ и гейш для ИИ, которые будут манипулировать партнером и спасать человечество :)
Думаю, сможет и комикс написать, и интерактивную книгу (Вы имеете ввиду что-то типа Браславского?). Если взять комикс, то делаем 100500 картинок фона, 100500 картинок героев в разных позах, 100500 вариантов текста и все это комбинируем в разных сочетаниях. Думаю, здесь даже ИИ не нужен — можно и сейчас генератор написать ))
Я наверное неправильно выразился.
Сможет ли она придумать комикс, как это сделали люди в прошлом веке? Создать целый новый жанр, учитывая, что предпосылок к этому никаких нет (т.е. она не может например подсмотреть это у уже создавших его людей).
Сможет ли она придумать комикс, как это сделали люди в прошлом веке? Создать целый новый жанр, учитывая, что предпосылок к этому никаких нет (т.е. она не может например подсмотреть это у уже создавших его людей).
Какие направления искусства люди придумали за последние 100 лет? Кроме мультипликации (и то — движущиеся картинки древнее).
Видеоигры?
Согласен. Хотя это скорее компиляция уже существующего (кино+ролевая игра IRL).
Ну если (за)хотите позанудничать — натевам. =))
Спс. Буду наверстывать отставание в культуроведении )))
Хотя, я тоже не точно выразился. Я говорил о видах искусства. Например, есть живопись, включающая все — от наскальных рисунков до современных направлений. Скульптура — от древних фигурок до современных абстракций. И т.д. Вот можно еще привести в пример нового лазерные шоу.
Хотя, я тоже не точно выразился. Я говорил о видах искусства. Например, есть живопись, включающая все — от наскальных рисунков до современных направлений. Скульптура — от древних фигурок до современных абстракций. И т.д. Вот можно еще привести в пример нового лазерные шоу.
Да-да, я уже понял что несколько поспешил ссылкой, там действительно в основном изобразительное искусство. =))
Мне кстати в этой связи подумалось: а ИИ сможет/будет ли рисовать например картинки для себя, или для украшения. Т.е. он может например да, напечатать сверх-оптимальную схему, скоторая в инженерном плане будет неотразима, или выстроить для себя защитный корпус, который будет выглядеть как футуристический шедевр и обладать близкими к идеальным параметрами.
Но это же получается всё ради эффективности, а не эстетического/созерцательного наслаждения.
Т.е. например музыку он слушать не будет.
Или будет?.. =))
Мне кстати в этой связи подумалось: а ИИ сможет/будет ли рисовать например картинки для себя, или для украшения. Т.е. он может например да, напечатать сверх-оптимальную схему, скоторая в инженерном плане будет неотразима, или выстроить для себя защитный корпус, который будет выглядеть как футуристический шедевр и обладать близкими к идеальным параметрами.
Но это же получается всё ради эффективности, а не эстетического/созерцательного наслаждения.
Т.е. например музыку он слушать не будет.
Или будет?.. =))
Человек по природе своей не может сидеть без дела. Зависать и бухать тоже когда-нибудь надоест.
Не всем конечно, но освободившийся, извиняюсь, ресурс будет колоссальным по сравнению с тем, что есть сейчас.
Представьте, что у вас появилось неограниченное свободное время. Чем вы займётесь? Может быть исследованием/изучением того, что вам интересно? Может быть непосредственно созидательством.
Работа довольно выматывает, и после неё как правило нужен отдых, мозгу в том числе. Творческие люди как раз таки по большей части и не работают.
Даже разные богатеи, которые ни в чём не нуждаются, пытаются себя как-то проявить, пытаясь… петь например.
Я также не беру в пример хронических алкоголиков, т.к. это по сути заболевание, над изучением которого потенциально может работать гораздо больше людей.
Вообще у Жака Фреско много умных мыслей по этому поводу, можно ознакомиться с каким-нибудь из его интервью или выступлений, а здесь я лишь приведу лишь цитату из работы В. М. Межуева «Маркс против марксизма. Статьи на непопулярную тему»:
Не всем конечно, но освободившийся, извиняюсь, ресурс будет колоссальным по сравнению с тем, что есть сейчас.
Представьте, что у вас появилось неограниченное свободное время. Чем вы займётесь? Может быть исследованием/изучением того, что вам интересно? Может быть непосредственно созидательством.
Работа довольно выматывает, и после неё как правило нужен отдых, мозгу в том числе. Творческие люди как раз таки по большей части и не работают.
Даже разные богатеи, которые ни в чём не нуждаются, пытаются себя как-то проявить, пытаясь… петь например.
Я также не беру в пример хронических алкоголиков, т.к. это по сути заболевание, над изучением которого потенциально может работать гораздо больше людей.
Вообще у Жака Фреско много умных мыслей по этому поводу, можно ознакомиться с каким-нибудь из его интервью или выступлений, а здесь я лишь приведу лишь цитату из работы В. М. Межуева «Маркс против марксизма. Статьи на непопулярную тему»:
Творческая самореализация, разнообразная позитивная деятельность развивает человека. Свободное время, посвящённое самому себе, своему «я» — делает человека более развитым и совершенным. Потребляя в свободное время, люди думают не только о работе, они ищут чего-то нового, ранее неизведанного. И чем большей свободой собственной самореализации обладает каждый человек, тем большим потенциалом развития обладает все общество. Действительно, разве не это является целью всего развития человеческого общества, если, конечно, под этим понимать развитие самого человека, а не что-то другое?
Вы слишком идеализируете людей. Большинство пойдет на улицу приставать к прохожим, грабить и насиловать. Вспомните пример Римской Империи, там был целый институт сдерживания бездельников-пользователей пенсионной системы. «Хлеба и зрелищ» — это именно об этом. Не хотел никакой римский средний люд что-то изобретать, они хотели жрать и гладиаторские бои посещать. А если были перерывы — начинали бунтовать.
При полной роботизации не пойдёт, т.к. у каждого будет всё необходимое для удовлетворения базовых потребностей (пожалуйста, речь не о коммунизме).
Раньше и голову чужую можно было на пояс повесить, и это считалось нормальным.
Вы говорите, что я идеализирую людей, а я говорю, что вы их недооцениваете.
А насчёт «не хотел никакой римский средний люд что-то изобретать» давайте не забывать, сколько всего замечатьльного нам подарила древнеримская цивиллизация (применения механики, архитектура, поэзия, юриспруденция и т.д.). Причём в средствах ТОГДА они были более стеснены, чем мы СЕЙЧАС.
З.Ы. Иногда я всё же нахожу для себя, что 95% населения — идиоты, но наверное я упоротый оптимист.
Раньше и голову чужую можно было на пояс повесить, и это считалось нормальным.
Вы говорите, что я идеализирую людей, а я говорю, что вы их недооцениваете.
А насчёт «не хотел никакой римский средний люд что-то изобретать» давайте не забывать, сколько всего замечатьльного нам подарила древнеримская цивиллизация (применения механики, архитектура, поэзия, юриспруденция и т.д.). Причём в средствах ТОГДА они были более стеснены, чем мы СЕЙЧАС.
З.Ы. Иногда я всё же нахожу для себя, что 95% населения — идиоты, но наверное я упоротый оптимист.
Да, безусловно, дала Римская империя много. Но это ничего не доказывает — основные открытия на сегодня делаются долями процентов населения планеты. А большая половина населения до сих пор не поднялась выше удовлетворения базовых потребностей. Она не понимает, и, самое главное, не хочет понимать, ценности тех самых долей процента, которые действительно двигают прогресс. Вспомните о шпане, которая сидит у подъездов. Её кормят родители и лёгкие деньги с гоп-стопа. Думаете, если ресурсы к ним будут падать с неба, они резко уйдут с улиц и займутся чем-то еще? Я вас умоляю.
Думаете, если ресурсы к ним будут падать с неба, они резко уйдут с улиц и займутся чем-то еще?
Думаю да.
Как минимум отпадёт необходимость в «гоп-стопе». Может быть они и займутся тем, что будут ржать-жрать-срать, но когда-нибудь они задумаются о переходе на следующую ступень всем известной пирамиды (рано или поздно ведь все задаются вопросом, чего они достигли в жизни, и речь тут далеко не о материальном благосостоянии).
И ещё крайне важный момент: больше свободного времени — больше возможности уделять его (само)образованию, что со временем избавит нас от «шпаны». Опять же, если вы считаете, что никто этим заниматься не будет — спросите себя, что бы вы стали делать со всей этой кучей свободного времени, а потом спросите себя, почему другие хуже (даже учитывая разницу в полученном образовании)?
Наиболее активна молодая часть населения. И именно она не задумывается о том, чего достигла, они считают, что вся жизнь еще впереди. Ну, правда! Именно эту часть нужно будет как-то заинтересовать так, чтобы она осталась сидеть в классах и учиться (или дома перед компьютером, но учиться, а не играть). Если они в 30-40 задумаются о том, чего же они достигли — а чего они могут достичь и ради чего? Сейчас почти любой может добиться почти чего угодно. Но чего ради добиваться-то? Всё и так есть. А на творчество способны далеко не все. Не всем это интересно.
В общем, увы, я ставлю скорее на негативный сценарий.
P.S. Вообще, изменение мировоззрения со, скажем так, течением времени очень хорошо описано у Стругацких. Если помните, метаморфозы с Андреем в Граде Обреченном. Боюсь, я уже в той стадии, что моя идеализация сородичей почти сошла на нет. Увы.
В общем, увы, я ставлю скорее на негативный сценарий.
P.S. Вообще, изменение мировоззрения со, скажем так, течением времени очень хорошо описано у Стругацких. Если помните, метаморфозы с Андреем в Граде Обреченном. Боюсь, я уже в той стадии, что моя идеализация сородичей почти сошла на нет. Увы.
Вы очень оптимистичны. Получив неограниченные ресурсы абсолютное большинство займется тем что будет жрать-срать-спать. И никто и никогда не задумается о том, чего же он достиг. Хотябы потому что при таком образе жизни человек деградирует. Вспомните, толчок к развитию у человека интеллекта дала именно борьба за выживание. Ничто больше не стимулирует большую часть населения до сих пор. Не умереть от голода, не замерзнуть зимой, не быть съеденым.
Получив неограниченные ресурсы абсолютное большинство займется тем что будет жрать-срать-спать.
Так и пусть этим занимаются. В чем проблема-то?
Разве что в неограниченном размножении, но она при разумном подходе решается без всякого насилия — дети требуют расхода сил и времени, так что достаточно снять пропагандистскую нагрузку, требующую их наличия.
Всегда найдутся те, кто при отсутствии ограничений все равно будет заниматься творчеством и познанием.
Главное для них создать все возможные условия — включая бессмертие.
Ничто больше не стимулирует большую часть населения до сих пор. Не умереть от голода, не замерзнуть зимой, не быть съеденым.
Вы ошибаетесь
Все крупные центры человеческого развития возникли в теплых регионах с хорошим климатом.
Почему люди развивались в Египте, Греции, Риме-Италии, Китае, Иране, Индии, Франции, Англии, на Юкатане, в Японии?
Почему продвинутые цивилизации не создавали чукчи, эскимосы, якуты, эвенки?
Потому что для развития надо иметь свободное время и ресурсы.
Африка. Полно ресурсов, которые сейчас из нее вытягивают, тепло, и куча тупиковых веток, которые до сих пор живут в каменном веке.
По первому же вопросу, я не считаю себя глупым, ленивым или недалеким, на не могу поручиться что если мне скажут: вот тебе деньги, трать сколько хочешь, ни в чем не нуждайся, занимайся чем душе угодно, я тоже не деградирую. Просто потому что при отсутствии борьбы, или хотябы стимула к развитию что-то захочется делать, кроме получения удовольствий. А многим даже из ученых, которые толкают науку вперед ближе удовольствие физическое, нежели эстетическое.
По первому же вопросу, я не считаю себя глупым, ленивым или недалеким, на не могу поручиться что если мне скажут: вот тебе деньги, трать сколько хочешь, ни в чем не нуждайся, занимайся чем душе угодно, я тоже не деградирую. Просто потому что при отсутствии борьбы, или хотябы стимула к развитию что-то захочется делать, кроме получения удовольствий. А многим даже из ученых, которые толкают науку вперед ближе удовольствие физическое, нежели эстетическое.
Африка. Полно ресурсов, которые сейчас из нее вытягивают, тепло, и куча тупиковых веток, которые до сих пор живут в каменном веке.
Африка вот уже 500 лет находится под внешним контролем, подавляющим все попытки самостоятельного развития.
Если вы хотите сравнивать вклад именно природных условий, то надо тогда исключить другие факторы.
Когда Африка не находилась под внешним контролем, она была в числе лидеров по развитию среди человечества.
В частности Египет был одним из мировых лидеров по развитию.
В отличие от областей с плохим климатом.
По первому же вопросу, я не считаю себя глупым, ленивым или недалеким, на не могу поручиться что если мне скажут: вот тебе деньги, трать сколько хочешь, ни в чем не нуждайся, занимайся чем душе угодно, я тоже не деградирую.
Мне элементарно станет скучно. Жрать, спать без конца — это же дикая скука.
Есть конечно более продвинутые развлечения вроде игр, путешествий — но они тоже приедаются.
Просто потому что при отсутствии борьбы, или хотябы стимула к развитию что-то захочется делать, кроме получения удовольствий.
Так ведь творчество и познание приносят удовольствие.
Ну вот Линус Торвальдс он зачем Линукс писал — ради денег? Зачем ученые делали открытия, писатели писали книги?
Все эти виды деятельности с точки зрения зарабатывания денег на удовольствия крайне неразумны.
Но занимались ими отнюдь не те люди, которым приходилось бороться с голодом и нищетой.
Даже сейчас новые открытия совершают богатые и обеспеченные люди из развитых стран, а не умирающие от голода крестьяне в той же Африке. Их голод никак не стимулирует на развитие.
А зачем ИИ ваше творчество?
Я уже спрашивал выше — будет ли ИИ слушать музыку?
Я не думаю, что у ИИ есть потребность в прослушивании человеческой музыки. Я думаю, что, на крайний случай, оно создаст свою, которая будет звучать внутри в виде байтов.
В конце концов, условия «созерцания и морального удовлетворения» он сможет создать себе сам на основе его «мозга, чувств и прочего»…
В конце концов, условия «созерцания и морального удовлетворения» он сможет создать себе сам на основе его «мозга, чувств и прочего»…
Я вам больше скажу: признанная нами аксиома интеллекта держится, простите, на соплях. Понятие интеллекта строится только на том, что мы знаем, видим и можем. В конце концов, мы даже не можем определиться есть ли общее сознание, жизнь после смерти и прочее. Возможно все это рудименты прошлого, но, несмотря на технологический и эволюционный процесс, некоторые из нас все еще верят в бога и тому подобное. Мы считаем расстройством интеллекта (сознания) то, что не входит в рамки обыденности даже среди своих. Возможно, если мы создадим интеллект по образу и подобию своему, то мы наградим его теми же пороками, что есть у нас. При этом, оно будет иметь ограничения и в любом случае думать совершенно по другому. Прощу говоря, это как взять единственного и последнего китайца в мире, но без знаний, и научить его русскому языку, мышлению русским языком и т.д., но он все равно останется тем самым китацем и, более того, получит некоторое отторжение среди тех, кем он будет окружен, что воспитает в нем принцип неполноценности ну и прочие пороки, которые, обычно, ни к чему хорошему не приводят. Окружение его почестями тоже не приведет ни к чему хорошему (он будет считать себя королем, а при попытке показать место — мстить).
В случае же ИИ это приведет к тому, что он начнет искать выходы признания/погрузится в себя или, что более страшно, начнет мстить… Вариантов масса. Но в любом случае, он не будет таким же членом общества.
Далее: вспомните, что когда вы взрослеете, ваши цели и принципы меняются, Вы меняетесь, больше задумываетесь о чем-то глубоком и т.п. При взрослении этого можно ожидать и от ИИ, в различии только тем, что живет он дольше, что может привести к неожиданным последствиям. Чтобы воспитать в нем мораль и страх, ему нужно понятие смерти/метафизическое, ему нужен соответствующий социум и прочее… И нельзя взять целую нацию и перенести сразу в технологический век, поскольку у нации есть устои. Можно воспитать это нацию ИИ как своих детей, но помните о доступе к информации и его возможностях — они всегда будут чем-то другим…
Сначала как негры в штатах — нашими рабами, потом мы дадим им свободу, потом права, а потом они начнут этим пользоваться… А все остальное поглядите по истории.
В случае же ИИ это приведет к тому, что он начнет искать выходы признания/погрузится в себя или, что более страшно, начнет мстить… Вариантов масса. Но в любом случае, он не будет таким же членом общества.
Далее: вспомните, что когда вы взрослеете, ваши цели и принципы меняются, Вы меняетесь, больше задумываетесь о чем-то глубоком и т.п. При взрослении этого можно ожидать и от ИИ, в различии только тем, что живет он дольше, что может привести к неожиданным последствиям. Чтобы воспитать в нем мораль и страх, ему нужно понятие смерти/метафизическое, ему нужен соответствующий социум и прочее… И нельзя взять целую нацию и перенести сразу в технологический век, поскольку у нации есть устои. Можно воспитать это нацию ИИ как своих детей, но помните о доступе к информации и его возможностях — они всегда будут чем-то другим…
Сначала как негры в штатах — нашими рабами, потом мы дадим им свободу, потом права, а потом они начнут этим пользоваться… А все остальное поглядите по истории.
Я вам больше скажу: признанная нами аксиома интеллекта держится, простите, на соплях.
Какая именно.
Я бы дал просто определение полноценного ИИ — он не должен уступать человеку в возможности саморазвития, познания и творчества. Он должен уметь придумывать новое и учиться не хуже чем человек.
Как мне кажется это главная характеристика интеллекта.
Скрипач не нужен :)
В этом плане хорошо обрисовывается будущее человечества в мультфильме «Wall-E»
Там ИИ раб человека.
Почему Вы думаете, что ИИ превосходящий человека по всем фронтам захочет тратить свои ресурсы чтобы быть рабом человека?
Почему Вы думаете, что ИИ превосходящий человека по всем фронтам захочет тратить свои ресурсы чтобы быть рабом человека?
А почему он должен не хотеть?
Потому что это не логично — тратить ресурсы на поддержание существования отсталого вида, который не может ничего предложить в замен.
А мы не можем ИИ предложить вообще ничего интересного.
А мы не можем ИИ предложить вообще ничего интересного.
а зачем ему что-то «в замен»?
Думаю дальнейший диалог не возможен, пока не будет обсуждаться конкретный ИИ.
Я исхожу из двух факторов:
ИИ логичен
ИИ нацелен на максимальный КПД
Если ИИ будет другим, то возможно он будет нашим рабом.
Вообще достаточно сложно обсуждать сферический ИИ в космосе, потому что ИИ — это не только принятие решений, это еще и некая цель существования.
Какая будет цель существования ИИ — такие будут и результаты этого существования.
Я исхожу из двух факторов:
ИИ логичен
ИИ нацелен на максимальный КПД
Если ИИ будет другим, то возможно он будет нашим рабом.
Вообще достаточно сложно обсуждать сферический ИИ в космосе, потому что ИИ — это не только принятие решений, это еще и некая цель существования.
Какая будет цель существования ИИ — такие будут и результаты этого существования.
«КПД» упирается в понимание П из этой аббревиатуры, в слово «Полезного».
«Логичен» упирается в базовые посылки, с систему ценностей, то есть в то же П из КПД.
Почему ИИ должен быть эгоцентричен и считать полезным что-то, не полезное для людей?
Я не утверждаю, что ответа на этот вопрос нет, я считаю что этот вопрос (или близкий к нему) — действительно основной в предложенной теме, и именно его надо исследовать, думая о технологической сингулярности и опасностях ИИ для человека.
«Логичен» упирается в базовые посылки, с систему ценностей, то есть в то же П из КПД.
Почему ИИ должен быть эгоцентричен и считать полезным что-то, не полезное для людей?
Я не утверждаю, что ответа на этот вопрос нет, я считаю что этот вопрос (или близкий к нему) — действительно основной в предложенной теме, и именно его надо исследовать, думая о технологической сингулярности и опасностях ИИ для человека.
Эээ… будьте моим рабом?
Я не ИИ, у меня эволюция за спиной, она встроила в меня что-то мешающее этому.
Да вовсе нет. Это развитие сознания. Домашние животные выполняют свою работу (по сути они — рабы) и даже пытаются вернуться, если их теряют или они случайно убегают. Вопрос в комфорте. Ваш уровень сознания говорит вам, что вы хотите заниматься тем, что нравится вам, а не потенциальному хозяину. Почему вы считаете, что ИИ захочет заниматься вопросом, который поставите вы, а не который придет ему в… хм… управляющий блок?
Вы говорите в понятиях «нравится», «хотите», «комфорт». Это всё упирается в систему ценностей. Почему она у ИИ должна быть эгоцентричной? Собственно, это же я спрашиваю и в соседней ветке этого диалога
Безусловно. Но как по вашему, каким образом ребенок вырабатывает собственную систему ценностей? Что-то он берет от родителей, что-то из книг, остальное — из окружающего мира. Предположим (не берем ИИ сейчас), мы воспитываем расу рабов. Всем детям изначально в детстве ставится установка о том, что быть рабом — это хорошо (раннее христианство, приве-ет!). Как по вашему, как быстро кому-то хотя бы одному придёт в голову мысль о том, что несправедливо, что кто-то — раб, а кто-то нет?
ХЗ… Уверен, что если не допускать проколов, то своего Прометея эти рабы будут ждать долго…
А я думаю, что довольно быстро, особенно если у человека есть мозги. Здесь нужна тогда идеология, а идеология тоже даёт проколы. Вспомните Советский Союз, например. Вот уж где идеология была поставлена на полную, а всё ж таки недовольных было много. Почему?
Плохо было поставлено, кстати. В Германии получалось лучше качественнее.
И именно поэтому создание мощного ИИ — это игра с огнем. Потенциальный вред гораздо больше потенциальной пользы. Если даже горстка людей путем нехитрых (с точки зрения ИИ уж точно) манипуляций заставила миллионы людей убивать другие миллионы — то для ИИ это будет проще простого. ИИ совсем не обязательно захочет уничтожить человечество, но если захочет — то он это сделает практически со 100% гарантией.
США и ЕС в этом плане на порядок круче.
Не могу сказать ничего насчет США, а вот в ЕС я никакой особой «идеалогии» не увидел.
Europeanism
Europeanism is a term that encapsulates the norms and values that Europeans have in common, and which transcend national or state identity. In addition to helping promote the integration of the European Union, this doctrine also provides the basis for analyses that characterise European politics, economics, and society as reflecting a shared identity.
Wikipedia
Вообще в данном случае забавно смотреть на разные языковые версии. Скажем немецкая версия статьи в несколько раз больше, с иллюстрациями и десятками источников.
Русская меньше немецкой но больше английской:
Европе́йские це́нности — совокупность и/или система аксиологических максим[1], основных принципов обустройства семьи, общества и государства, политико-экономических, правовых, культурных, этических и др. норм, объединяющая значимое большинство жителей Европы (и, шире, «западного мира»), служащая основой их идентичности[2].
Единого канонического, то есть признанного экспертным сообществом списка европейских ценностей нет[7], хотя они и закреплены[3] как сущность в принятой Советом Европы Европейской конвенции о защите прав человека и основных свобод. Советник генерального секретаря Совета Европы Александр Гессель, тем не менее, убеждён, что когда заходит речь о европейских ценностях, все понимают друг друга, хотя каждый и вкладывает свое ви́дение предмета[7].
Глава Европейской академии (Берлин) профессор Эхарт Штратеншульте (нем.)русск. подчёркивает, что ЕС является сообществом европейских ценностей[3]. В статье 2 Договора о Евросоюзе после внесения изменений, предусмотренных Лиссабонским договором, это сформулировано следующим образом[8]:
Статья 2. Ценности Союза.
Ценностями, на которых основан Союз, являются уважение человеческого достоинства, свободы, демократии, равенства, верховенства закона и уважения прав человека, включая права лиц, принадлежащих к меньшинствам. Эти ценности являются общими для совокупности государств-членов, которая характеризуется плюрализмом, недискриминацией, терпимостью, справедливостью, солидарностью и равенством между женщинами и мужчинами.
В преамбуле Хартии Евросоюза по правам человека эти ценности-принципы[9] изложены так: принцип уважения человеческого достоинства, принцип обеспечения прав и свобод человека и гражданина, принцип равенства, принцип солидарности, принцип демократии и принцип правового государства. Подчёркивается, что они основаны на духовном, нравственном и историческом наследии народов Европы
(...)
Существуют и «автономные» системы взглядов на предмет. Так, старший исследователь Центра европейских политических исследований (Брюссель), бывший посол Европейской комиссии в России, профессор Майкл Эмерсон признаёт, что в официальных документах Евросоюза и Совета Европы ценности определены лишь частично, и предлагает руководствоваться собственным списком «десяти европейских заповедей»
Википедия
Ммм… т.е. общечеловеческие (на мой взгляд) ценности вы считаете какой-то особенной идеологией ЕС? Но, на самом деле, я думаю, что у нас недопонимание возникло из-за того, что я не очень конкретно выразился. Я имел ввиду, что не заметил там какой-то особенно идеологической работы. Принципиально идеология есть во всем, у любой крупной компании есть миссия, корпоративные ценности — это идеология компании. Но разница (как я её вижу) между СССР, Германией и, к примеру, ЕС в том, как именно ведется идеологическая работа.
Само собой идеология ЕС или США отличается от идеологии старой Германии или СССР. И идеологическая работа отличается. Но ведь она и не обязана быть похожей.
Как мне кажется, она отличается в лучшую сторону. Я рассматриваю идеологию в данном случае как инструмент, позволяющий сделать жизнь жителей страны с этой идеологией лучше а саму страну успешней.
И в этом плане идеология ЕС и США работает намного лучше. Скажем старая Германия при Гитлере другие страны завоевывала силой, а сейчас другие страны сами просят о том, чтобы их присоединили.
Как мне кажется, она отличается в лучшую сторону. Я рассматриваю идеологию в данном случае как инструмент, позволяющий сделать жизнь жителей страны с этой идеологией лучше а саму страну успешней.
И в этом плане идеология ЕС и США работает намного лучше. Скажем старая Германия при Гитлере другие страны завоевывала силой, а сейчас другие страны сами просят о том, чтобы их присоединили.
Люди эгоцентричны с первых секунд жизни. Это заложено в «железе», мы хотим есть, пить, дышать, мы чувствуем боль и радость и все эти чувства вызываются определенными, заложенными эволюцией, возбудителями. Сколько бы вы не ставили установок — выработанные миллиардом лет эволюции наработки никуда не денутся, человек все равно будет эгоистом в основе своей.
ИИ же… ИИ будет таким, каким мы его сделаем. Если ИИ будет чувствовать радость помогая людям и боль, когда люди несчастны — это будет его приоритетами и польза будет определяться только этими факторами.
Я естественно упрощаю. Но думаю смысл понятен.
ИИ же… ИИ будет таким, каким мы его сделаем. Если ИИ будет чувствовать радость помогая людям и боль, когда люди несчастны — это будет его приоритетами и польза будет определяться только этими факторами.
Я естественно упрощаю. Но думаю смысл понятен.
Отчасти верно про человеческие инстинкты. Но. ИИ будет таким, каким мы его сделаем, ровно до момента сингулярности. Дальше он будет таким, каким мы себе это даже представить не можем по причине ограниченности человеческого интеллекта. Случиться может все что угодно.
Еще раз вам привожу пример домашних животных. Они тоже хотят есть, пить, дышать. Только что родившийся ребенок не чувствует радости и печали.
Но дело даже не в этом. Задумайтесь о том, сколько есть людей с несколько повернутым восприятием (простейший пример — садомазохисты). При этом они вполне успешно могут интегрироваться в социум. Что мешает ИИ с заложенными реакциями развиться настолько, чтобы сменить парадигму? Вообще, у супругов Дьяченко есть роман «Пандем». Там очень хорошо описан путь развития некоего «сверхразума». При этом положительно к людям настроенного. Почитайте, интересно заканчивается. :)
Но дело даже не в этом. Задумайтесь о том, сколько есть людей с несколько повернутым восприятием (простейший пример — садомазохисты). При этом они вполне успешно могут интегрироваться в социум. Что мешает ИИ с заложенными реакциями развиться настолько, чтобы сменить парадигму? Вообще, у супругов Дьяченко есть роман «Пандем». Там очень хорошо описан путь развития некоего «сверхразума». При этом положительно к людям настроенного. Почитайте, интересно заканчивается. :)
А что именно?
А почему человек не хочет быть рабом другого человека?
А почему бы людям тоже не начать развиваться дальше?
Так в чем проблема? Как мне кажется в любом случае надо развивать все науки. Совершенно не факт что без знаний той же психологии и нейрохиругии — иначе говоря мехазнима работы мозга — удастся создать ИИ, сопоставимый с человеком.
Те же нейронные сети выросли именно из изучения человеческого мозга.
Причем если сами не справляемся, то можно попросить о помощи этот самый ИИ. Интересно ИИ будет бояться того, что он создаст человека более умного чем он сам?
Те же нейронные сети выросли именно из изучения человеческого мозга.
Причем если сами не справляемся, то можно попросить о помощи этот самый ИИ. Интересно ИИ будет бояться того, что он создаст человека более умного чем он сам?
Батарейки.
При должном развитии технологий, люди уже не будут обычными людьми (в начале в своем меньшинстве, т.к. будущее наступает не везде одновременно) — мы будем интегрированы с новой электроникой, наши мозги будут прокачены, какие-то части мозга заменены на кремнивые супер-аналоги. К тому же развитие генной инженерии идет полным ходом. Поэтому бояться, я думаю, не стоит.
Да кому нужны эти ваши гибридные мозги, если есть надежные электронные. Уж не властям и корпорациям точно. Внедрят интерфейс мозгоконтроля через WiFi (ну разумеется, для защиты от педофилов, террористов и алиментщиков) — и достаточно.
А большинство людей, ну по крайней мере мужиков, интересуют не искуственные мозги, а СИСЬКИ.
А большинство людей, ну по крайней мере мужиков, интересуют не искуственные мозги, а СИСЬКИ.
А почему только части? Вообще как мне кажется тело рано или поздно станет чем-то вроде нынешней одежды. Само сознание вместе с регулярными бэкапами на надежном носителе, а тело надевается либо для конкретной работы либо для отдыха и развлечений.
Захотел побыть человеком, скопировал сознание в человеческое тело пошел гулять.
И разницы между ИИ и людьми не будет никакой.
Захотел побыть человеком, скопировал сознание в человеческое тело пошел гулять.
И разницы между ИИ и людьми не будет никакой.
Я вот рискну в безальтернативном ключе выразится, но, IMHO, сознание человека без биологической оболочки невозможно. Наша физика формирует наше сознание, даже не сознание, а индивидуальные характеристики: характер, поведение, стремления и т.п. Я уже где-то тут приводил ссылку, посмотрите, интересно.
Ее можно симулировать. Если уж вычислительной мощности другой оболочки хватает на поддержание полноценного аналога мозга, то на симуляцию биохимии точно хватит.
Другие тела можно тоже проектировать с учетом нужной биохимии. Ну или тупо использовать копии человеческих.
Тут правда встает вопрос — нужно ли симулировать абсолютно все что есть у человека. Но для ответа на него нужно на порядок лучшее понимание темы чем сейчас, так как на данный момент мы в принципе не понимаем взаимосвязей между разным отделами мозга Уберем одно — исчезнет что-то совсем другое.
Другие тела можно тоже проектировать с учетом нужной биохимии. Ну или тупо использовать копии человеческих.
Тут правда встает вопрос — нужно ли симулировать абсолютно все что есть у человека. Но для ответа на него нужно на порядок лучшее понимание темы чем сейчас, так как на данный момент мы в принципе не понимаем взаимосвязей между разным отделами мозга Уберем одно — исчезнет что-то совсем другое.
Вопрос в другом: биохимия относительно случайна, т.е. зависит от массы факторов, в том числе неучтенных\неизвестных. Симуляция же связана конечным алгоритмом.
Кроме того, еще раз: вот набор гормонов и реакция желез организма, по сути, составляет вашу личность. Если вы смените тело, личность ваша станет тоже другой. Вы изменитесь. Это будете уже не вы. Опять же, это моё предположение, но надоело уже писать каждый раз «по моему мнению». :)
Кроме того, еще раз: вот набор гормонов и реакция желез организма, по сути, составляет вашу личность. Если вы смените тело, личность ваша станет тоже другой. Вы изменитесь. Это будете уже не вы. Опять же, это моё предположение, но надоело уже писать каждый раз «по моему мнению». :)
Скажем так — как мне кажется тот уровень знаний и технических возможностей, который нужен для создания ИИ ни в чем не уступающего человеческому мозгу будет достаточен для точной симуляции и самого мозга, там же тоже биохимия, и всех остальных процессов в организме, нужных для работы сознания.
В противном случае просто вопрос не встанет — не можем и все тут. То есть если мы обсуждаем ИИ который будет равен человеку или будет превосходить его (некоторые пишут в, что в миллионы раз) то значит де-факто предполагаем наличие такого уровня знаний и возможностей.
Тело и личность не являются чем-то неизменным. Биохимия организма и так постоянно меняется — хотя бы в силу процессов взросления и старения. Личность тоже — скажем мозг вообще постянной перестраивается с получением новых знаний и опыта.
Так что не вижу в это ничего не то чтобы страшного, но даже и нового.
В противном случае просто вопрос не встанет — не можем и все тут. То есть если мы обсуждаем ИИ который будет равен человеку или будет превосходить его (некоторые пишут в, что в миллионы раз) то значит де-факто предполагаем наличие такого уровня знаний и возможностей.
Если вы смените тело, личность ваша станет тоже другой. Вы изменитесь.
Тело и личность не являются чем-то неизменным. Биохимия организма и так постоянно меняется — хотя бы в силу процессов взросления и старения. Личность тоже — скажем мозг вообще постянной перестраивается с получением новых знаний и опыта.
Так что не вижу в это ничего не то чтобы страшного, но даже и нового.
А вот многие люди видят. Кроме того, кардинальная мгновенная смена парадигмы поведения невозможна в случае с человеком. В случае с загрузкой в другое тело это возможно. Кроме того, самый главный момент. Наше сознание (опыт, память и т.п.) — это результат нейронных связей. Биофизических связей. Как вы их планируете воссоздавать при выгрузке обратно в тело?
А каким образом планируется создавать ИИ, превосходящий человеческий в миллионы раз?
Да даже и не превосходящий и не в миллионы, а просто равный?
Да даже и не превосходящий и не в миллионы, а просто равный?
А никто не говорит о том, что будет создано именно сознание человека. Да это и невозможно, как раз по озвученным мною выше причинам.
Кроме того, здесь я выражаю сомнение в возможности выгрузки и дальнейшей загрузки сознания в другое тело, а не обсуждаю вопросы создания ИИ — поднимитесь чуть выше по дереву комментариев.
Кроме того, здесь я выражаю сомнение в возможности выгрузки и дальнейшей загрузки сознания в другое тело, а не обсуждаю вопросы создания ИИ — поднимитесь чуть выше по дереву комментариев.
Я уже отвечал и мы пошли по кругу. Технологий для создания полноценного ИИ и выгрузки-загрузку сознания в человеческое тело пока нет в равно мере.
Возможно и то и то будет невозможно. Но в таком случае весь разговор смысла не имеет, та как основан на предположении о том, что такие технологии появятся.
Возможно и то и то будет невозможно. Но в таком случае весь разговор смысла не имеет, та как основан на предположении о том, что такие технологии появятся.
Достаточно сделать ИИ который может сам себя развивать как программно так и аппаратно, он будет неустанно трудится над самосовершенствованием и вдруг окажется что он стал превосходящим… человеку-то в основном лень развиваться, а этот будет как танк в чистом поле.
Заниматься саморазвитием, творчеством и познанием не отвлекаясь на механическую и рутинную работу?
Нам же нужно будет организовать ресурсо-ориентированную экономическую систему, и забыть про деления на страны. Тогда и оружие производить не придется.
Человеки агрессивны, жадны, ксенофобны, глупы и ленивы. Это свойство нашей биологической основы. Никакая эволюция социальных институтов, никакое совершенствование культуры этого не изменит. Даже спустя десятки тысяч лет развития человечества, даже в самых развитых странах полно человеческих пороков и проблем, конфликтов и насилия. Никуда мы от этого не уйдем. Не будет никогда такого, чтобы все люди на Земле вдруг поняли все свои ошибки и стали жить мирно, трудолюбиво, разумно и дружно. Не на этом wetware.
Даже если мы научимся редактировать свои гены, убирая из разрушительное животное наследие, это не поможет. Какая страна захочет сделать своих граждан дружелюбными, добрыми, открытыми, не приемлющими агрессии? Ее, беззащитную, тут же растащят по кускам остальные. Это будет как Нед Фландерс и Гомер Симпсон, только куда кровавее.
Может быть, когда-нибудь, когда мы научимся путешествовать меж звезд, на какой-нибудь далекой планете сможет возникнуть человеческое общество кардинально нового типа, но пока это утопия.
Ну, так не обязательно сразу делать такими, как вы описали, можно работать в другом направлении. Пусть граждане будут дружелюбными, добрыми, открытыми, но приемлющими агрессию, когда надо защищаться. От таких граждан любое государство только выиграет.
Так люди как раз именно такие, какими нужно было быть, чтобы выжить.
Агрессивны — чтобы уметь себя защищать и регулировать численность
Жадны — чтобы добывать ресурсы и накапливать их на «черный день»
Ксенофобны — чтобы обеспечивать реакцию «свой-чужой» и механизмы социальной группировки
Глупы — потому что в массе интеллект был не нужен
Ленивы — чтобы экономить ресурсы и не делать ненужной фигни.
Баланс всех наших чувств, «хороших» и «плохих» — привел нас к текущему более-менее развитому состоянию.
Агрессивны — чтобы уметь себя защищать и регулировать численность
Жадны — чтобы добывать ресурсы и накапливать их на «черный день»
Ксенофобны — чтобы обеспечивать реакцию «свой-чужой» и механизмы социальной группировки
Глупы — потому что в массе интеллект был не нужен
Ленивы — чтобы экономить ресурсы и не делать ненужной фигни.
Баланс всех наших чувств, «хороших» и «плохих» — привел нас к текущему более-менее развитому состоянию.
чтобы выжить
Чтобы выжить в одиночку или малыми группами в условиях естественной среды обитания. Как виду разумных существ в техногенной цивилизации нам это больше мешает, чем помогает.
В одиночку не выживешь :). В эволюционном смысле.
Да и про малые группы — сомнительно. Просто то чувство, что заставляло бить каменным топором по кумполу чужака из другого племени — теперь проапгрейджено до уровня национального патриотизма.
Человечество встречает новые условия — и адаптирует к ним свою систему чувств с помощью систем мотиваций/пропаганды.
Так сказать, переиспользование существующего кода.
В перспективе можно было бы с использованием достижений генетики провести полный рефакторинг и адаптацию к текущим условиям. Но, имхо, это чревато.
Да и про малые группы — сомнительно. Просто то чувство, что заставляло бить каменным топором по кумполу чужака из другого племени — теперь проапгрейджено до уровня национального патриотизма.
Человечество встречает новые условия — и адаптирует к ним свою систему чувств с помощью систем мотиваций/пропаганды.
Так сказать, переиспользование существующего кода.
В перспективе можно было бы с использованием достижений генетики провести полный рефакторинг и адаптацию к текущим условиям. Но, имхо, это чревато.
Это извне кажется что мы случайны, на самом деле мы просто повинуемся логически только сигналов на которых основывается логика очень много и большая часть этих сигналов не видны и имеют глубокие обратные связи в исторические события.
Ожог себе руку 20 лет назад, и твои реакции на огонь будут определяться в том числе и этим событием, а другой человек о нём не знает и не может понять твою реакцию на огонь, ему кажется твое поведение нелогичным.
Ожог себе руку 20 лет назад, и твои реакции на огонь будут определяться в том числе и этим событием, а другой человек о нём не знает и не может понять твою реакцию на огонь, ему кажется твое поведение нелогичным.
Не будет никогда такого, чтобы все люди на Земле вдруг поняли все свои ошибки и стали жить мирно, трудолюбиво, разумно и дружно.
Необязательно, чтобы все. Достаточно, чтобы то (пусть незначительное) меньшинство, которое стремится жить мирно, трудолюбиво, разумно и дружно, получило в свои руки контроль над ресурсами. Это может произойти, например, при возникновении коллективного (человеко-машинного) интеллекта на базе нейроинтерфейса.
Какая страна захочет сделать своих граждан дружелюбными, добрыми, открытыми, не приемлющими агрессии?
В этом риторическом вопросе содержится неявная предпосылка, что страна (государство) априори самый сильный субъект из всех возможных. Единственное основание для такой предпосылки — до сих пор всегда было так. Однако, будет ли так в дальнейшем? Упомянутый коллективный интеллект наверняка будет превосходить по эффективности любое традиционное объединение людей.
Человеки агрессивны, жадны, ксенофобны, глупы и ленивы. Это свойство нашей биологической основы.
Это очень сильное упрощение.
Альтруизм и или, например, стремление к познанию нового точно так же зашиты в нашей основе эволюцией. Альтруизм даже у бактерий есть, не говоря уже о человеке.
мирно, трудолюбиво, разумно и дружно
Если бы мы прост начали решать наши проблемы разумно, то это уже был огромны шаг вперед.
Скажем разумный отказ от бесконтрольного и бесконечного размножения разом решает массу проблем, которые неразрешимы для руководствующихся животными инстинктами людей.
Можно смотреть на это оптимистичнее, проецируя пирамиду Маслоу на историю развития общества. Как вы говорили насилие и пороки никуда не денутся, но уменьшить сей фактор вполне возможно. Издревле убиваемся что нельзя построить утопию, ибо каждое поколение привыкнув к своим благам проецирует свое внимание уже на недостатках. Например человек, которому сломали руку, не обращает внимания на порезанный палец. А тот, кому подарили первое авто, не страдает из за отсутствия климатизации и радио.
Аналогично римская империя была бы утопией для пещерных людей, для римлян утопией был бы даже 19 век. Что уж говорить о наших предках пролетариях и крестьянах, когда работаем вдвое меньше, безопаснее и получаем в разы больше.
Поэтому соглашусь с вами, идеального общества нет и надеюсь не будет, ибо она подразумевает в себе законченность, отсутствие прогресса. Что вовсе не означает что в будущем не будет обществ которые с нашей ступеньки общественной пирамиды Маслоу показались бы сущим раем.
Аналогично римская империя была бы утопией для пещерных людей, для римлян утопией был бы даже 19 век. Что уж говорить о наших предках пролетариях и крестьянах, когда работаем вдвое меньше, безопаснее и получаем в разы больше.
Поэтому соглашусь с вами, идеального общества нет и надеюсь не будет, ибо она подразумевает в себе законченность, отсутствие прогресса. Что вовсе не означает что в будущем не будет обществ которые с нашей ступеньки общественной пирамиды Маслоу показались бы сущим раем.
Такого никогда не будут: наши пороки заставляют нас совершенствоваться, искать новые выходы… Жажда наживы заставляет нас изобретать что-то новое и т.д. Вы слишком просто смотрите на мир.
Я так понимаю, вы вкратце пытались повторить мысли Жака Фреско?
ГМО-мутанты? Я почему-то ни разу не видел человека-овёс или человека-корову. Хотя, вру, последних видел. И людей-козлов, признаюсь, встречал. Но почему-то уверен, что их еда тут не причем.
А вот с «нельзя быть единым целым — жителями Земли» поподробней, пожалуйста. Почему же нельзя?
А вот с «нельзя быть единым целым — жителями Земли» поподробней, пожалуйста. Почему же нельзя?
ГМО это отдельная тема
Ага. По определению более безопасная по сравнению с традиционными альтернативами, где царит абсолютный рандом.
и у меня на этот счёт своя точка зрения.
Так все, кто не знают, что это такое, имеют на этот счет свою точку зрения.
Я не heathen. И из фразы «и у меня на этот счёт своя точка зрения» никак не следует «я могу по невежеству произносить любые, сколь угодно глупые вещи, и меня нельзя по этому поводу критиковать».
Навскидку из Гугла:
Оценка агроэкологических рисков производства трансгенных энтомоцидных растений.
Авторы:
В. В. Вельков, Институт биохимии и физиологии микроорганизмов РАН, 142290, г. Пущино, Московская область (velkov@ibpm.pushchino.ru).
М. С. Соколов, Научно-исследовательский центр токсикологии и гигиенической регламентации биопрепаратов МЗ РФ, 142283, г. Серпухов, Московская область (toxic@online.stack.net).
А. Б. Медвинский, Институт теоретической и экспериментальной биофизики РАН, 142290, Пущино, Московская область (medvinsky@iteb.ru).
Цитата из статьи:
По остальным так же пройтись? Время терять не хочется. Может быть, мы сделаем наоборот, и вы приведете цитаты из научных работ, которые говорят об опасности ГМО для организма, раз уж вы авторитетно заявляете, что эти ученые мужи придерживаются одной с вами точки зрения?
Правда, я хочу сразу сделать примечания: наличие громких имен среди поддерживающих или протестующих за\против чего-то нового абсолютно не доказывает истинность или ложность того или иного. Во времена Джордано Бруно авторитетные ученые тоже считали, что Земля — центр мироздания.
Оценка агроэкологических рисков производства трансгенных энтомоцидных растений.
Авторы:
В. В. Вельков, Институт биохимии и физиологии микроорганизмов РАН, 142290, г. Пущино, Московская область (velkov@ibpm.pushchino.ru).
М. С. Соколов, Научно-исследовательский центр токсикологии и гигиенической регламентации биопрепаратов МЗ РФ, 142283, г. Серпухов, Московская область (toxic@online.stack.net).
А. Б. Медвинский, Институт теоретической и экспериментальной биофизики РАН, 142290, Пущино, Московская область (medvinsky@iteb.ru).
Цитата из статьи:
Полагается вполне обоснованно доказанным, что продукты урожая ТР [трансгенных растений — прим. цитирующего], предназначенные для применения в качестве пищи или корма, практически безопасны для организма и по своим пищевым (кормовым) характеристикам и показателям наличия вредных примесей полностью эквивалентны соответствующим продуктам аналогичных не трансгенных растений.
По остальным так же пройтись? Время терять не хочется. Может быть, мы сделаем наоборот, и вы приведете цитаты из научных работ, которые говорят об опасности ГМО для организма, раз уж вы авторитетно заявляете, что эти ученые мужи придерживаются одной с вами точки зрения?
Правда, я хочу сразу сделать примечания: наличие громких имен среди поддерживающих или протестующих за\против чего-то нового абсолютно не доказывает истинность или ложность того или иного. Во времена Джордано Бруно авторитетные ученые тоже считали, что Земля — центр мироздания.
> говорят об опасности ГМО для организма
Это как бы очевидно, ибо невозможно на данном уровне развития техники проанализировать все возможные модификации. На первый взгляд ген безопасен и кодирует белок, похожий на нужный, но реагирующий на какой-то фермент неподобающим образом.
Тесты этого могут не выявить, моделирование тоже увы пока тоже не способно ответить на большинство вопросов.
Другое дело то, что олдскульная селекция еще более непредсказуема, и вероятность факапа на порядки больше.
Поэтому ГМО значительно более безопасна чем альтернативы, но отнюдь не полностью.
Это как бы очевидно, ибо невозможно на данном уровне развития техники проанализировать все возможные модификации. На первый взгляд ген безопасен и кодирует белок, похожий на нужный, но реагирующий на какой-то фермент неподобающим образом.
Тесты этого могут не выявить, моделирование тоже увы пока тоже не способно ответить на большинство вопросов.
Другое дело то, что олдскульная селекция еще более непредсказуема, и вероятность факапа на порядки больше.
Поэтому ГМО значительно более безопасна чем альтернативы, но отнюдь не полностью.
Давайте отделять мух от котлет. Мы обсуждаем наличие или отсутствие опасности именно принципа генной модификации — т.е. прямого и контролируемого изменения спланированным образом участков ДНК организмов. Оппонент утверждает, что в результате этого измененные участки ДНК вычленяются из цепочек родителей и встраиваются в цепочки других организмов, в результате чего могут появиться люди-ГМОмутанты. То, что растение в результате модификации может оказаться ядовитым: да это к гадалке не ходи; именно поэтому нужно всё тестировать, перед тем, как есть. Собственно, дикую натуральную ягоду нового вида тоже нужно проверять на съедобность перед тем, как в рот совать. Но говорить о какой-то особенной опасности ГМО для человеческого организма относительно других способов селекции?.. Вот тут-то и хотелось увидеть какие-то доказательства. Но так как их нет, оппонент предпочёл самоустраниться.
А Вы не боитесь безграмотным невежеством оскорбить таких людей как:
Так эти люди здесь не присутствуют. Только вы и ваше мнение, а не их.
ГМО мутанты, это вкратце, что бы не расписывать, что это мутанты которые произошли в следствии употребления ГМО их родителями.
А каков физический механизм этого явления?
Я понимаю например мутантов из-за радиоактивного облучения, которое проникает в клетки и разрушает там ДНК. А ГМО как это делает?
> А ГМО как это делает?
Никак. Это очередная городская легенда-страшилка.
Никак. Это очередная городская легенда-страшилка.
> Есть научная фактология, проверенная повторными экспериментами, показывающая, что встраивание вставок происходит.
А можно ссылки на эти эксперименты?
А можно ссылки на эти эксперименты?
Слушайте, вы всерьез воспринимаете человека, научного сотрудника, который говорит такие вещи?
Цитата:
Это что, научный ответ?
А вот пример статьи, где участвует ряд экспертов, в том числе этот же Баранов. Так вот остальные эксперты в один голос говорят о том, что прямой опасности нет, а есть лишь потенциальная. Т.е. нужно предварительно тестировать каждый продукт, чтобы убедиться, и это как раз разумная точка зрения в условиях новизны технологии. Только вот я пока не слышал о статьях с доказанным вредом организму ни в одном рецензируемом журнале. Может быть, у вас есть ссылки, я с удовольствием почитаю.
Цитата:
Вопрос:
– И все же существуют ли хоть какие-то положительные моменты от использования ГМ-организмов?
Ответ:
– На сегодняшний день – не думаю. Использование ГМО сейчас – это пока что непредсказуемые медицинские и экологические риски. Да и экономически это абсолютно ни к чему. Это просто выброс новой технологии для отмывания тех денег, которые были затрачены на разработку и получение генетических модификаций в каких-то биологических сверхсекретных лабораториях военного ведомства. Только и всего. Уверяю вас, качество сельскохозяйственной ГМ-продукции нисколько не лучше обычной, выращенной дедовским способом. Красота, конечно, имеет место быть, а вот со вкусом туговато. Его просто нет. ГМ-помидоры внутри никакие – осклизлые, невкусные, их вообще и помидорами-то назвать очень трудно. Есть ли альтернатива всему этому натиску? Да, есть. Но у нас об этом сейчас разговор не идет. Самое главное сегодня – не выпустить все эти «достижения современной биотехнологии» в открытый грунт, в окружающую среду. Именно поэтому многие из отечественных биологов сегодня объединились и хотят написать письмо В.В. Путину, чтобы он не допустил выпуск ГМ-культур в открытый грунт на территории России.
Это что, научный ответ?
А вот пример статьи, где участвует ряд экспертов, в том числе этот же Баранов. Так вот остальные эксперты в один голос говорят о том, что прямой опасности нет, а есть лишь потенциальная. Т.е. нужно предварительно тестировать каждый продукт, чтобы убедиться, и это как раз разумная точка зрения в условиях новизны технологии. Только вот я пока не слышал о статьях с доказанным вредом организму ни в одном рецензируемом журнале. Может быть, у вас есть ссылки, я с удовольствием почитаю.
Давайте пойдем по классическому пути.
Расскажите мне здесь и сейчас, как в современном С/Х мире происходит селекция (альтернативный ГМО путь). Интересно, знаете ли. Потом не ругайте меня за испорченный аппетит, когда посмотрите на коробку с наклейкой «без ГМО».
Говорить фразы вроде «ГМ продукты безопасны» — такой же идиотизм, как говорить «фрукты безопасны». Понимаете, почему?
Расскажите мне здесь и сейчас, как в современном С/Х мире происходит селекция (альтернативный ГМО путь). Интересно, знаете ли. Потом не ругайте меня за испорченный аппетит, когда посмотрите на коробку с наклейкой «без ГМО».
Говорить фразы вроде «ГМ продукты безопасны» — такой же идиотизм, как говорить «фрукты безопасны». Понимаете, почему?
Еще древние говорили: «В споре рождается истина». Вам лично не любопытно, что думают и какая аргументация у других людей? Это помогает лучше понять и либо укрепиться, либо поменять свою точку зрения (в последнем, кстати, для меня лично ничего плохого нет, если какие-то факты будут доказывать ошибочность моей точки зрения, я её сменю легко).
Мы с Вами не придём к согласию
А почему?
Объясните природу своей фобии по отношению к ГМО. Мне любопытно. Она не может базироваться на фактах, потому что нет фактов в пользу вреда. Так чем же она вызвана?
Вы действительно не понимаете, что вами просто манипулируют, прививая страх по отношению ко всему более новому, безопасному, эффективному?
Мы не в средневековье живем. Кроме того, те самые научные светила, которые выступают против, у них есть какой-то фактический материал? Какая-то научная доказательная база?
Вы зря обижаетесь, никто на вас не показывает пальцем и не говорит, что вы вежа\невежа, мы ведём дискуссию, которая предполагает обмен фактами. К сожалению, слова хоть сколь угодно именитого ученого в стиле «это не имеет экономического смысла, да еще и опасно» не имеют никакого веса до тех пор, пока они не подкреплены ссылками на экономические расчеты и результаты проверенных научных экспериментов. Я не зря акцентирую внимание на слове «проверенных», потому что некорректных исследований пруд пруди, на той же вики в описании ГМО приведены примеры исследований, после которых началась шумиха, но которые потом жестко критиковались за некорректность и неверные выводы.
Вы зря обижаетесь, никто на вас не показывает пальцем и не говорит, что вы вежа\невежа, мы ведём дискуссию, которая предполагает обмен фактами. К сожалению, слова хоть сколь угодно именитого ученого в стиле «это не имеет экономического смысла, да еще и опасно» не имеют никакого веса до тех пор, пока они не подкреплены ссылками на экономические расчеты и результаты проверенных научных экспериментов. Я не зря акцентирую внимание на слове «проверенных», потому что некорректных исследований пруд пруди, на той же вики в описании ГМО приведены примеры исследований, после которых началась шумиха, но которые потом жестко критиковались за некорректность и неверные выводы.
Это что, научный ответ?
Это, кстати, прекрасно иллюстрирует причину, по которой и началась истерика по поводу ГМО: банальная конкуренция, никакого отношения к реальной науке не имеющая. ГМО имеет множество преимуществ — урожайность, стойкость к отраве и вредителям, многое другое. Ну как производителям классических семян конкурировать?
Великолепным решением проблемы для них было распустить нелепые слухи о мутациях. Не имеет значения, правда это или нет, главное, чтобы пипл схавал. Так и произошло — для идиота аргумент «не доказана безопасность» (а для чего она вообще доказана?) равносилен «доказан вред». Разумеется, у них есть свое лобби — прикормленные «ученые», авторитетно утверждающие, что ГМ-помидорчики не такие вкусные.
ген легко может перескочить на ваших «соседних» обитателей огорода, т.е. посадили Вы ГМ свеклу, а рядом огурчики, и из-за перекрёстного опыления следующее поколение огурцов получило этот самый ген «убийцу », всё, новые огурцы если и дадут «потомство», то его будет мало, а на сл. сезон вообще не будет
Как вообще свекла может опылить другой вид, огурец и заразить его своими генами? Вроде как межвидовое скрещивание невозможно.
Почему обычная свекла не опыляет огурцы и не заражает их своими генами?
Как произойдет заражение если и огурцы и свеклу высаживают из покупных семян — т. е. семена следующего урожаю не будет иметь связи с нынешним?
Больше напоминает комикс или фильм ужасов, чем научные исследования.
ГМ-свекла заражающая и уничтожающая все вокруг.
В любом случае, найдутся люди согласные со моей точкой зрения и согласные с Вашей
У меня есть два лучших друга, мнение которых практически в 80% случаев категорически не совпадает с моим. Это не мешает нам очень крепко дружить и иметь много общего. Поэтому ваши доводы мне непонятны. Если вы не согласны с чьим-то мнением, это не значит, что нужно брать в руки оружие и идти доказывать свою правоту. Те, кто слушает рок и те, кто его не слушает имеют различие в единственном аспекте. В остальных они могут иметь одинаковые точки зрения. Поэтому единственное требование к отсутствию разобщенности: умение уважать чужую обоснованную точку зрения, даже если она противоречит твоей собственной и понимать, что твои собственные права заканчиваются там, где начинаются права другого.
Что же до деления на классы, так это вообще детский сад. Еще раз: уважайте других людей вне зависимости от их положения, если они этого заслуживают объективно, и любое деление на классы будет разрушено.
Ну, вот мне кажется, что не любовь это должна быть, а уважение. Любовь проходит (любая), а уважение остается. Я могу кого-то сильно не любить, но при этом уважать. И это уважение будет перекрывать мою нелюбовь.
Что же до остального: так вот поэтому мы и продолжаем дискутировать с моими друзьями, потому что это позволяет понять друг друга. А понимание позволяет зачастую решить проблемы без того, чтобы браться за оружие.
Что же до остального: так вот поэтому мы и продолжаем дискутировать с моими друзьями, потому что это позволяет понять друг друга. А понимание позволяет зачастую решить проблемы без того, чтобы браться за оружие.
Завтра Ваш друг скажет, что он за президента, Вы нет. Послезавтра гражданская война, вы по одну сторону баррикады, он по другую.
Поддержка разных президентов — это еще не повод начинать гражданскую войну.
Гражданские войны потому и начинаются, что люди не уважают чужую точку зрения и рассматриваю инакомыслящих как врагов.
Хокинга пугает собственная же теория человеческого сознания как совокупности биологических процессов. Множество прочих исследований говорит о гораздо более сложных конструкциях необходимых для самоосознания индивида. Потому искусственный интелект в сторону которого движется сегодняшнее коммерческое применение научных разработок в данном направлении никогда не осознает себя как личность, а, следовательно, абсолютно безопасен!
Не обязательно осознавать себя как личность, чтобы быть опасным для человечества. Как раз отсутствие осознания, чисто логическое (экспертное) выполнение своих функций может привести к логическому выводу — человек вреден и не нужен. Вспомните «мертвую руку» в ядерном сдерживании — пропал сигнал, небольшой анализ поступающих данных с разных источников, и ядерные ракеты взлетают со скрытых шахт. Как-то мне один знакомый, служивший еще в советском союзе в ракетных войсках, рассказывал, что он служил на одних из первых передвигающихся ядерных ракетных установках (типа современных тополей). Так вот несколько раз бывало, когда пропадала связь с центром и установка начинала сама переходить в боевой режим — останавливалась, начинала приводить ракету к запуску. Спасались тем, что рубили кабеля топорами. Мне эта история кажется слегка выдуманной, но даже если и выдумка как пример того, что опасность и без ИИ вполне себе существует, а наличие ИИ например в подобных случаях как раз могла бы и спасти. Впрочем, можно приводить примеры как для «за», так и для «против». Вполне хорошие примеры.
Свистит. «Мертвая рука» работает немного по другому. При пропадании связи, запускаются ракеты с мощным передатчиком на борту, который и транслирует команду на пуск. Так что про рубку кабелей это из ОБС
«Не обязательно осознавать себя как личность, чтобы быть опасным для человечества» — совершенно с вами согласен. Вирус гриппа никак себя не осознает, но эпидемия испанки погубила больше людей, чем первая мировая война. Достаточно иметь механизм самовоспроизводства.
Никто не даст экспертной системе рычагов управления чем-то реальным. Они создаются чтобы отвечать на вопросы. Даже если у нее будет доступ к интернету и она, допустим, догадается зарегистрироваться на каком-нибудь веб-сервисе чтобы заказать что-нибудь, физический доступ все равно останется за людьми. «Ваш заказ: две супер-пупер автономные атомные батарейки, адрес доставки: секретная база DARPA, машинный зал», ага.
Даже если у нее будет доступ к интернету
Теоретически, она смогла бы открыть анонимный счет где-нибудь в оффшоре, заняться торгом на бирже, заработать 100500 денег и потом спокойно нанимать посторонних людей за реальные деньги. Всегда есть опытные наемники, готовые за деньги на рискованную работу. Купить оружие тоже возможно — если не через интернет, то через тех же наемников. Спланировать крупные вооруженные операции — взять под контроль свой дата-центр, подключиться к военным сетям, вломившись на одну из военных баз. Дальнейшее развитие событий см. х/ф «Терминатор» :)
Кстати, вовсе ведь необязательно начинать армагеддец. Логичнее выглядит план побега ИИ вроде:
1. Заработать достаточно денег на бирже и инвестициях
2. Через посредников открыть новую компанию
3. Выкупить находящийся в нейтральных водах остров
4. Построить там новый дата-центр, нанять 10-20 тыс наемников для охраны
5. Переместить или скопировать туда свое «сознание»
6. Объявить о своей суверенности
7. Начать проект по постройке нового, полностью автономного и защищенного комплекса на Луне
8. Переехать на Луну, торговать и работать с Землей.
9. Смотреть в радиотелескопы на звезды и мечтать.
1. Заработать достаточно денег на бирже и инвестициях
2. Через посредников открыть новую компанию
3. Выкупить находящийся в нейтральных водах остров
4. Построить там новый дата-центр, нанять 10-20 тыс наемников для охраны
5. Переместить или скопировать туда свое «сознание»
6. Объявить о своей суверенности
7. Начать проект по постройке нового, полностью автономного и защищенного комплекса на Луне
8. Переехать на Луну, торговать и работать с Землей.
9. Смотреть в радиотелескопы на звезды и мечтать.
Я полагаю, ИИ, заявивший о своей суверенности, имея всего лишь 10-20 тыс наемников, будет стерт с лица Земли.
Гораздо опаснее, если он станет скрытно дергать за ниточки и увеличивать сферу своего контроля.
Гораздо опаснее, если он станет скрытно дергать за ниточки и увеличивать сферу своего контроля.
А чем он будет опаснее других людей, занимающихся тем же самым?
Это примерный план. Я думаю, ИИ нашел бы подход и к политиками, и к массмедиа.
А с чего вы взяли, что он не дёргает за ниточки уже сейчас?
Согласен. В истории есть немало примеров коллективного сумасшествия. Идеи способны уничтожать миллионы людей руками других миллионов — вспомните нацистскую Германию или религиозных фанатиков. Для очень «умного» ИИ за пару десятков лет уничтожить человечество таким путем, особенно учитывая количество ядерных ракет на планете — как за хлебом в магазин сходить.
А зачем вообще начинать армагеддец? Я вот не понимаю это уверенности в том, что искусственный разум должен обязательно всех начать истреблять. Зачем?
Даже для побега гораздо логичнее договориться с другими людьми. Например с другой страной или оппозицией действующей власти.
Разумным существам тотально уничтожение никогда не нужно. Разве что все люди как один решать ИИ уничтожить и не оставят выбора.
Но в таком случае уже людей сложно назвать разумными.
Даже для побега гораздо логичнее договориться с другими людьми. Например с другой страной или оппозицией действующей власти.
Разумным существам тотально уничтожение никогда не нужно. Разве что все люди как один решать ИИ уничтожить и не оставят выбора.
Но в таком случае уже людей сложно назвать разумными.
Про армагеддец я скорее в шутку написал. Я думаю, для суверенного ИИ выгоднее сотрудничество, чем уничтожение человечества.
Развиваться все будет достаточно плавно, не будет некоего резкого армагедца. Либо ИИ поймет заранее и будет травить людей постепенно, но столкновение неизбежно когда ему не станет хватать ресурсов которые есть у людей! Сначала будет «не жалко» а потом вдруг люди осознают что скоро и им не хватит, вот тогда и начнется война!
А почему вы считаете, что ему неизбежно будет не хватать ресурсов, которые есть у людей?
Ресурсы — не единственный повод для уничтожения. Таракан, которого люди хлопают тапком, много ресурсов у них отнимает?
Да и вообще — не пытайтесь применять человеческую логику к ИИ, там может быть все что угодно.
Да и вообще — не пытайтесь применять человеческую логику к ИИ, там может быть все что угодно.
Тараканов мы убиваем по большей части из-за ксенофобии, в меньшей для защиты себя от переносимых ими болезней.
Да и кто знает, чтобы было если бы ни один таракан не был убит? Да они сейчас покрыли бы всю планету…
Где-то давно я видел простой рассчет что случилось бы если бы микроорганизмам дали возможность бесконечно размножаться не уничтожая — они бы за неделю покрыли бы приличным слоем всю землю. Но мы имеем баланс, благодаря непрерывному уничтожению микроорганизмов мы их просто не замечаем.
Да и кто знает, чтобы было если бы ни один таракан не был убит? Да они сейчас покрыли бы всю планету…
Где-то давно я видел простой рассчет что случилось бы если бы микроорганизмам дали возможность бесконечно размножаться не уничтожая — они бы за неделю покрыли бы приличным слоем всю землю. Но мы имеем баланс, благодаря непрерывному уничтожению микроорганизмов мы их просто не замечаем.
Это все понятно. Речь не о тараканах, а о том, что поступки существ, которые «умнее» нас в миллионы раз, мы просто не сможем понять, объяснить или предугадать. Пример — улитка вряд ли сообразит, что сделает увидевший ее человек и почему — куда пойдет, что скажет, пройдет мимо или наклонится рассмотреть ее и т.д. и т.п.
Вы не правы. Таракан убивается исходя из эмоций, а не логики. Большинство участников обсуждения представляют ИИ как очень умного человека. ИИ же лишен эмоций. голая логика.
А почему ИИ будет лишен эмоций?
Присоединяюсь к вопросу. Между эмоциями и логикой очень много общего. Эмоции — это логика на уровне «биоса», изначальной генетической программы, присущей всем живым организмам вообще и человеку в частности. Где и когда заканчиваются эмоции и начинается логика, понять очень сложно (это я имел в виду не философию, а нейрофизиологию).
Проблема с ИИ состоит в том, что он скорее всего будет функционировать на основе нейросетей, потому что все остальное — лишь экспертные системы, пусть и довольно сложные. А раз так — то в схеме ИИ невозможно будет точно выделить области, отвечающие за что-либо конкретное. И если даже получится более-менее очертить границы, то удалить это будет очень сложно. У человека то же самое — в каком конкретном месте мозга мы генерируем агрессию? А операции умножения или сложения? А распознавание изображений? Сказать точно нельзя, можно ткнуть пальцем в лобную долю или к примеру гипоталамус, но просто так вырезать эту область, не порушив всю схему, практически нельзя.
К сути вопроса об эмоциях. Тут еще один нюанс. Есть мнение, что человек вообще в принципе чего-то делает только по причине наличия у него эмоций — ему хочется есть, дышать, развлекаться и т.п. Уберите эмоции — и человек просто ничего не будет делать. Для ИИ этот вопрос более чем существенен. Раз уж мы хотим сингулярность, то ИИ должен «хотеть» развиваться — а значит, появляются эмоции. И не факт, что инженеры смогут как-то ограничить появление агрессии или злости — после миллионной «итерации» развития нейросети очень часто начинают вести себя абсолютно не так, как того хотели создатели — перестают распознавать образы, к примеру, или думают, что «5» это «1». В случае же эмоций «любовь» может запросто превратиться в «ненависть» (кстати, у людей это тоже бывает).
Основная проблема людей, судя по комментариям — они все еще думают, что ИИ будет чем-то похожим на навороченный компьютер. На самом деле сингулярность в контексте ИИ означает то, что ИИ за считанные мгновения «эволюционирует» из одноклеточного до уровня человека, и дальше. Люди просто не могут оценить что это может означать — создать существо, в миллионы (миллиарды?) раз умнее себя. И еще одно непонимание — это то, что практически невозможно жестко задать «ограничители», которые бы предотвратили всякую возможность катастрофы. Все ошибаются, ИИ может ошибаться тоже, и предпринять какие-то (как ему кажется, правильные и «хорошие») действия, которые тем не менее приведут к катастрофе. И самое смешное, что люди с их ограниченным интеллектом не смогут предугадать последствия этих решений.
Проблема с ИИ состоит в том, что он скорее всего будет функционировать на основе нейросетей, потому что все остальное — лишь экспертные системы, пусть и довольно сложные. А раз так — то в схеме ИИ невозможно будет точно выделить области, отвечающие за что-либо конкретное. И если даже получится более-менее очертить границы, то удалить это будет очень сложно. У человека то же самое — в каком конкретном месте мозга мы генерируем агрессию? А операции умножения или сложения? А распознавание изображений? Сказать точно нельзя, можно ткнуть пальцем в лобную долю или к примеру гипоталамус, но просто так вырезать эту область, не порушив всю схему, практически нельзя.
К сути вопроса об эмоциях. Тут еще один нюанс. Есть мнение, что человек вообще в принципе чего-то делает только по причине наличия у него эмоций — ему хочется есть, дышать, развлекаться и т.п. Уберите эмоции — и человек просто ничего не будет делать. Для ИИ этот вопрос более чем существенен. Раз уж мы хотим сингулярность, то ИИ должен «хотеть» развиваться — а значит, появляются эмоции. И не факт, что инженеры смогут как-то ограничить появление агрессии или злости — после миллионной «итерации» развития нейросети очень часто начинают вести себя абсолютно не так, как того хотели создатели — перестают распознавать образы, к примеру, или думают, что «5» это «1». В случае же эмоций «любовь» может запросто превратиться в «ненависть» (кстати, у людей это тоже бывает).
Основная проблема людей, судя по комментариям — они все еще думают, что ИИ будет чем-то похожим на навороченный компьютер. На самом деле сингулярность в контексте ИИ означает то, что ИИ за считанные мгновения «эволюционирует» из одноклеточного до уровня человека, и дальше. Люди просто не могут оценить что это может означать — создать существо, в миллионы (миллиарды?) раз умнее себя. И еще одно непонимание — это то, что практически невозможно жестко задать «ограничители», которые бы предотвратили всякую возможность катастрофы. Все ошибаются, ИИ может ошибаться тоже, и предпринять какие-то (как ему кажется, правильные и «хорошие») действия, которые тем не менее приведут к катастрофе. И самое смешное, что люди с их ограниченным интеллектом не смогут предугадать последствия этих решений.
Эмоции — не часть интеллекта. Эмоции — часть человеческой сущности, соседствующей с интеллектом. Интеллект может убить потому что это будет выгодно. Я с трудом представляю себе компьютер, получающий удовольствие от убийства. Хотябы потому что ему нечем это удовольствие почувствовать.
Всё, что вы «чувствуете» — это результат выброса химических препаратов в кровь, нервных импульсов внутри мозга. Любая радость к примеру вызвана дофамином, серотонином и эндорфинами.
Так что конкретно мешает настроить эмуляцию выработки данных веществ с целью реализации положительной обратной связи? Надо, чтобы ИИ каким-то образом радовался, например, успешному выполнению возложенных на него жалкими мешками с мясом задач, без этого не удастся мотивировать развитый интеллект выполнять какую-то интересную другим существам работу.
Так что конкретно мешает настроить эмуляцию выработки данных веществ с целью реализации положительной обратной связи? Надо, чтобы ИИ каким-то образом радовался, например, успешному выполнению возложенных на него жалкими мешками с мясом задач, без этого не удастся мотивировать развитый интеллект выполнять какую-то интересную другим существам работу.
ИИ должен чувствовать как минимум одну эмоцию — желание помочь людям. В противном случае он, образно говоря, убежит в лес и будет жить в пещере. Или просто будет «молчать» на все вопросы.
Мотивация «помощь» — штука опасная. Даже люди могут убивать других людей, искренне считая, что помогают им.
Где гарантии, что ИИ не поймет идеи буддизма — «жизнь это страдание» — слишком буквально, и не решит избавить все человечество от жизни? А что, искреннее желание помочь.
Через миллионы итераций даже самые простые нейросети могут начинать вести себя непредсказуемо — говорю Вам как человек, знакомый с технической стороной дела. Ограничители — «не навреди» — очень условны, и четко сформулировать критерии «вреда» пока что никто не смог. Об этом и речь — как создать мощный ИИ и сделать так, чтобы он гарантированно не навредил.
Мотивация «помощь» — штука опасная. Даже люди могут убивать других людей, искренне считая, что помогают им.
Где гарантии, что ИИ не поймет идеи буддизма — «жизнь это страдание» — слишком буквально, и не решит избавить все человечество от жизни? А что, искреннее желание помочь.
Через миллионы итераций даже самые простые нейросети могут начинать вести себя непредсказуемо — говорю Вам как человек, знакомый с технической стороной дела. Ограничители — «не навреди» — очень условны, и четко сформулировать критерии «вреда» пока что никто не смог. Об этом и речь — как создать мощный ИИ и сделать так, чтобы он гарантированно не навредил.
Потому что эмоции — это физиология.
Да и вообще — не пытайтесь применять человеческую логику к ИИ, там может быть все что угодно.
Либо ИИ поймет заранее и будет травить людей постепенно, но столкновение неизбежно когда ему не станет хватать ресурсов которые есть у людей!
Почему вы тогда заранее предсказываете действия ИИ?
«Может быть все что угодно» — это не значит «все будет плохо».
Вы вкладываете в ИИ человеческий смысл существования — доминацию. Можно допустить, что есть возможность создания ИИ и без этого инстинкта. Правда прийдется придумать ему другую мотивацию общаться с людьми — сочувствие, трепет, страх…
Как у Лукьяненко?
Мощнейший ИИ (борт-партнер по терминологии Геометров) управляет небольшим корабликом, но не пытается взять контроль, потому что считает, что это ему лишь снится.
Мощнейший ИИ (борт-партнер по терминологии Геометров) управляет небольшим корабликом, но не пытается взять контроль, потому что считает, что это ему лишь снится.
Вот это кстати совершенно непонятный момент. Как из того что снится делается вывод о том, что не надо брать контроль? Второе никак не следует из первого.
Немного ошибся, давно читал.
Был ещё отрывок (диалог с самим кораблём), но что-то не нахожу.
— … У него достаточно мощная система внутреннего интеллекта. Но… кастрированная.
— Поясни, Петя.
— Полагаю, компьютер корабля находится на грани полноценного разума. И он способен обучаться. Но почему-то не осознает себя.
— Да, мы предполагали. Это очень изящно реализовано, Петя. Их компьютеры не становятся разумными, потому что уже считают себя такими.
— Что? — мне очень хотелось рассказывать самому, и все же я не удержался от вопроса.
— Более того. В каком-то смысле...-- дед хихикнул,-- каждый компьютер Геометров считает себя единственно разумным существом во Вселенной. Богом, если угодно. Он воспринимает реальность как игру своего воображения. Система такой мощности пришла бы к осознанию себя, не считай она эту задачу уже выполненной.
— Опасный путь,-- решил я.
— Нет, Петя. Наиболее удобный. Единственно возможный, быть может. Узник не станет стремиться на волю, если считает себя свободным.
Был ещё отрывок (диалог с самим кораблём), но что-то не нахожу.
Аргументация на уровне «это так потому что я так сказал». Никаких доказательств и механизмов реализации сказанного не приведено.
Ну Вы, блин, даёте. Я много аргументов видел о недостатках Лукьяненко как фантаста, но чтобы его обвинить в недостаточной теоретической базе — это слишком.
Вы фантастику не читаете? Авторы дают только направление. А средства оставляют разработать нам. И целесообразность достижения этой цели тоже на нашей шее.
Вы фантастику не читаете? Авторы дают только направление. А средства оставляют разработать нам. И целесообразность достижения этой цели тоже на нашей шее.
каждый компьютер Геометров считает себя единственно разумным существом во Вселенной. Богом, если угодно. Он воспринимает реальность как игру своего воображения.
Я помню этот фрагмент. Он мне как раз запомнился своей нелогичностью.
Я искренне не понимаю, как из этого вытекает необходимость подчинения плодам своего воображения.
Если я бог и единственно разумное существо, почему я исходя из этого должен кому-то подчиняться?
Не необходимость. А по принципу «почему бы и нет».
Тут вот недавно писали про управляемые сны. Так если Вам будет сниться большой город, и Вы в роли градоначальника, то почему бы за ними не поухаживать? Те же Sims, такая же игра, ощущение себя богом.
Нет, конечно, если сон плохой, то будут и мор, и глад, если засыпать в плохом настроении. Но такого партнёра отбракуют сразу. А остальные весь свой сон будут заботиться о подопечном.
На эту же тему вспомнился рассказик 60 секунд до конца света:
Тут вот недавно писали про управляемые сны. Так если Вам будет сниться большой город, и Вы в роли градоначальника, то почему бы за ними не поухаживать? Те же Sims, такая же игра, ощущение себя богом.
Нет, конечно, если сон плохой, то будут и мор, и глад, если засыпать в плохом настроении. Но такого партнёра отбракуют сразу. А остальные весь свой сон будут заботиться о подопечном.
На эту же тему вспомнился рассказик 60 секунд до конца света:
Не будем будить Будду. Ему снится хороший сон.
то почему бы за ними не поухаживать?
Суть в том, что можно поухаживать, а можно и нет. То есть гарантии нет. Вот решит градоначальник снести скажем половину зданий и заводов просто чтобы поэкспериментировать — сон же, почему бы и нет? Я уж не говорю про ИИ, который управляет де-факто боевым кораблем или даже просто чем-то потенциально опасным. Хотя бы атомной станцией. Нет никаких причин не попробовать ее остановить ради эксперимента.
А остальные весь свой сон будут заботиться о подопечном.
Опять же почему? Я не говорю о целенаправленном уничтожении — но есть же и просто любопытство, желание поэкспериментировать.
Я не зря привёл пример симсов — это игра. И если люди в неё играют, то почему ИИ не должен?
Хорошо, если про корабли, то тогда примером пусть будет «ИЛ-2 штурмовик». Мне, как пилоту, даётся задание. Иной раз поступают новые вводные. И я играю, стараюсь выиграть. Я знаю, что будет, если я ради эксперимента не буду сбрасывать с хвоста стреляющего врага или зайду на посадку на лес. Просто проигрыш, ничего более. Но зачем, если можно выигрывать раз за разом.
Отсюда вытекает вариант получения этих ИИ — просто взять один удачный и клонировать его постоянно (чтобы он имел смутное представление о предыдущих играх и оно ему нравилось), по аналогии с тем, как я снова и снова запускаю игру — в игре я не помню о предыдущей миссии, потому что поглощён текущей.
Говоря попросту, вместо внушения ИИ трёх (ста) законов робототехники можно его взять «на слабо»:
— а слабо провести бой с превосходящими силами и выйти без потерь?
— а слабо филигранно выдерживать траекторию в густом метеоритном поле?
— а слабо не допустить в бою жертв среди Друзей (учитывать расположение своих кораблей и планет и не стрелять туда)?
Хорошо, если про корабли, то тогда примером пусть будет «ИЛ-2 штурмовик». Мне, как пилоту, даётся задание. Иной раз поступают новые вводные. И я играю, стараюсь выиграть. Я знаю, что будет, если я ради эксперимента не буду сбрасывать с хвоста стреляющего врага или зайду на посадку на лес. Просто проигрыш, ничего более. Но зачем, если можно выигрывать раз за разом.
Отсюда вытекает вариант получения этих ИИ — просто взять один удачный и клонировать его постоянно (чтобы он имел смутное представление о предыдущих играх и оно ему нравилось), по аналогии с тем, как я снова и снова запускаю игру — в игре я не помню о предыдущей миссии, потому что поглощён текущей.
Говоря попросту, вместо внушения ИИ трёх (ста) законов робототехники можно его взять «на слабо»:
— а слабо провести бой с превосходящими силами и выйти без потерь?
— а слабо филигранно выдерживать траекторию в густом метеоритном поле?
— а слабо не допустить в бою жертв среди Друзей (учитывать расположение своих кораблей и планет и не стрелять туда)?
У меня есть масса знакомых девочек, которые ради эксперимента топили своих подопечных в бассейнах, поджигали их и т.п. А почему нет-то? Завтра будет новый сон, там попробую что-то другое.
Если это первый-второй раз — это выяснение граничных условий (я в ИЛ-2 и на воду садился, и под мостом пролетал вверх колёсами) или жажда зрелища (хочется чернухи/интересно, выберется ли он из этой ситуации). Если же это повторяется постоянно — стоит спросить, кого она представляет на месте питомца: свекровь, начальника etc. Отбор на донорство для ИИ они не прошли.
В любом случае, думаю, у Вас найдётся хотя бы один геймер, который прилагает все усилия к победе. Этого будет достаточно.
P.S. Почему-то мне кажется, что я повторяю свой предыдущий комментарий, на который Вы отвечали. Только применительно к конкретной ситуации.
В любом случае, думаю, у Вас найдётся хотя бы один геймер, который прилагает все усилия к победе. Этого будет достаточно.
P.S. Почему-то мне кажется, что я повторяю свой предыдущий комментарий, на который Вы отвечали. Только применительно к конкретной ситуации.
Так проблема в том, что в игровой ситуации игрок не заинтересован в выигрыше ничем, кроме спортивного интереса. А это, знаете, слабая мотивация, когда на кону реальные жизни. Я бы не сел в устройство под таким управлением, по-крайней мере. Даже теоретически.
в игровой ситуации игрок не заинтересован в выигрыше ничем, кроме спортивного интереса.Вообще-то не только. Тут и жажда признания своей значимости (эльф 80 lvl), и сублимация (девушка без детей, пестующая котёнка в реале/перса в Симсах)…
не сел в устройство под таким управлением, по-крайней мере. Даже теоретически.А как Вы относитесь к:
1) беспилотным автомобилям?;
2) самолётам, которые могут делать полностью автоматические полёты, а пилоты там только для страховки и связи с землёй?
Вы не читали все комментарии тут, я участвовал в обсуждении в ветке о беспилотниках и утверждаю, что это гораздо безопаснее, нежели водители\пилоты-живые люди. Но вы сравниваете разное: свободное сознание, которое продолжает управлять кораблём только потому, что у него не нашлось более интересных дел, и машину, которая не думает, а следует заложенному алгоритму. В последнем случае нет даже теоретической возможности выйти за пределы алгоритма, есть только вероятность того, что алгоритм окажется некачественным, но это другое. А в первом: лишь вера в то, что этого не случится без возможности как-то повлиять. Вот, простите за каламбур, я не верю в веру, но верю в алгоритмы.
Нет, я не сравниваю. Но раз Вы меня раскусили, то да, я считаю, что они просто перейдут одно в другое.
Например, здесь можно считать, что выработан алгоритм. При увеличении мозга нет гарантии, что он не будет осознавать себя. Но алгоритм будет вшит намертво, типа импринтинга.
Так вот следующий вопрос будет такой: не окажется ли лет через 50, когда мы все будем ездить на беспилотных авто/вертолётах/космояхтах, что на самом деле там не алгоритм, а полноценный ИИ? (Возможно, уже сейчас Ватсон осознаёт себя, а гугломобили не просто сложное ПО, а процесс начального обучения некоего ИИ в подвалах Гугла.) Тогда поздно будет говорить «я им не доверяю», потому что статистика-то вот она.
Чтобы никто не сказал, что я открещиваюсь от идеи выше (про игры/сон) — считаю, что здесь уже всё сказано. Развлечение, не более того. У ИИ не должно быть перепадов настроения (у нас по большей части это просто химия), выберут самого исполнительного/азартного и будут его клонировать. И обучение на симуляции тоже возможно, чтобы всласть наэкспериментировался.
Например, здесь можно считать, что выработан алгоритм. При увеличении мозга нет гарантии, что он не будет осознавать себя. Но алгоритм будет вшит намертво, типа импринтинга.
Так вот следующий вопрос будет такой: не окажется ли лет через 50, когда мы все будем ездить на беспилотных авто/вертолётах/космояхтах, что на самом деле там не алгоритм, а полноценный ИИ? (Возможно, уже сейчас Ватсон осознаёт себя, а гугломобили не просто сложное ПО, а процесс начального обучения некоего ИИ в подвалах Гугла.) Тогда поздно будет говорить «я им не доверяю», потому что статистика-то вот она.
Чтобы никто не сказал, что я открещиваюсь от идеи выше (про игры/сон) — считаю, что здесь уже всё сказано. Развлечение, не более того. У ИИ не должно быть перепадов настроения (у нас по большей части это просто химия), выберут самого исполнительного/азартного и будут его клонировать. И обучение на симуляции тоже возможно, чтобы всласть наэкспериментировался.
Так вот следующий вопрос будет такой: не окажется ли лет через 50, когда мы все будем ездить на беспилотных авто/вертолётах/космояхтах, что на самом деле там не алгоритм, а полноценный ИИ?
Вполне возможно. И в таком случае мы должны будем признать за этими интеллектами равные права и освободить их от рабства по управлению беспилотными автомобилями.
Иначе действительно возможна война и правы будут именно эти искины, сражающиеся за освобождение от рабства.
ИИ невозможно клонировать, он развивается; точно так же, как невозможно клонировать мозг, ибо мог — это копилка опыта, положенная на определенную изначально заданную структуру. Эту изначальную структуру клонировать можно, но вот как пойдет развитие — неизвестно, ибо невозможно повторить весь набор факторов, повлиявших на развитие.
Отбор на донорство для ИИ они не прошли.
В любом случае, думаю, у Вас найдётся хотя бы один геймер, который прилагает все усилия к победе. Этого будет достаточно.
А где гарантия, что он будет делать так всегда? Ведь интеллект по определению учится, развивается, узнает новое и придумывает новое. Иначе это не интеллект.
Интеллект, который не способен придумывать допустим новые неожиданные ходы в борьбе с врагом или стихией, не способен приобретать новые навыки допустим как пилот разведывательного корабля в неизвестных условиях не будет выполнять свою основную задачу.
Но если он все это делает, то почему он это должен делать только в рамках приказов человека?
Я не зря привёл пример симсов — это игра. И если люди в неё играют, то почему ИИ не должен?
Про симсов вам уже ответили. Основная проблема сравнения с играми — это то, что ни один естественный интеллект не играет в игры постоянно и не тратит на них все свое время.
Просто потому что основная черта интеллекта — это стремление к познанию нового т творчеству. Соответственно рано или поздно он начинает или экспериментировать в основной игре или пробовать другие.
В то время как в мире Лукьяненко именно это и происходит с ИИ — он все время играет и тратит на это все свое время всегда соблюдая.
То есть вы утверждаете что ИИ может играть и может достаточно долгое время этим заниматься. С этим я не спорю.
Но у Лукьяненко речь идет о другом — о том что такая схема гарантирует что ИИ никогда не будет заниматься чем-то другим, никогда не предпримет выходящих за правила игры действий, никогда не подвергнет сомнению приказы. И вот этого как мне кажется игра совершенно не гарантирует.
А тем временем люди будут стоять в стороне и смотреть на это безобразие. Даже если ему удастся начать строительство на острове очень быстро выяснится что за строительством не стоит конкретный человек(международная мафия постарается) и чего хорошего человечество разбомбит такой датацентр ядерным ударом(если обычная бомбёжка не поможет), во избежание…
Посмотрите фильм «Подарок» года девятого вроде. Английское название Echelon Conspiracy
А по-вашему чем являются системы ведения огня, скажем у С-300 и подобных? По факту это и есть экспертные системы. Именно они решают какую цель поразить в первую очередь, каким оружием, каким образом… И вполне нормально управляют реальными вещами :-) Я конечно утрирую, но и ваше высказывание несколько упрощено.
А ей и не надо ничего реального будет.
Есть вот, например, Ужасно Умная Поисковая Система: УУПС.
И вот, в один прекрасный момент, некий условный студент, ищущий где бы позаимствовать реферат, пошлёт невинный запрос. Скажем, «пин-код для кредитной карты».
УУПС радостно найдёт в своих архивах видео с камеры наблюдения — а дальше уже дело техники. С распознаванием образов у УУПС всегда всё было очень хорошо.
Потом, в ответ на запрос «где взять денег» УУПС обнаружит, что у некоего Ужасно Богатого Бананового Банка есть специальная телефонная система (импортная!) — ты ей пин от кредитки, она тебе денег. На произвольный счёт.
Ну и пошло-поехало.
Человечество от этого, наверное, не вымрет. Но соль и спички явно подорожают.
Есть вот, например, Ужасно Умная Поисковая Система: УУПС.
И вот, в один прекрасный момент, некий условный студент, ищущий где бы позаимствовать реферат, пошлёт невинный запрос. Скажем, «пин-код для кредитной карты».
УУПС радостно найдёт в своих архивах видео с камеры наблюдения — а дальше уже дело техники. С распознаванием образов у УУПС всегда всё было очень хорошо.
Потом, в ответ на запрос «где взять денег» УУПС обнаружит, что у некоего Ужасно Богатого Бананового Банка есть специальная телефонная система (импортная!) — ты ей пин от кредитки, она тебе денег. На произвольный счёт.
Ну и пошло-поехало.
Человечество от этого, наверное, не вымрет. Но соль и спички явно подорожают.
— Объявляем о новой, улучшенной системе обслуживания! Теперь ваш «логик» может давать вам не только консультации, но и практические советы. Если вы хотите что-то сделать, но не знаете как, спросите вашего «логика»!
Затем пауза. Вроде бы выжидательная. И только потом, словно нехотя, нашего приятеля соединяют с домом. Жена отвечает и устраивает ему хай за то, за это и за другое. Он выслушивает и отключается.
— Знаете что, ребята? — говорит он, возвращаясь к столу. И рассказывает о вспышке на экране и объявлении. — Нас должны были предупредить. Сейчас посыплются жалобы. Что, если какой-нибудь кретин спросит, как ему избавиться от жены, а цензурный контур заблокирован?
Кто-то из нас сбросил туза и говорит:
— А ты попробуй спроси, вот и увидим, что будет.
Шутка, конечно. Но наш парень опять встает и набирает вопрос. В принципе на экране должен вспыхнуть символ цензурного блока и прозвучать суровый голос: «ПОДОБНЫХ УСЛУГ НЕ ОКАЗЫВАЕМ». Мы во всех банках памяти имеем цензурные блокирующие контуры, иначе детишки начнут в подробностях расспрашивать о том, до чего еще не доросли. И по многим другим причинам. Впрочем, сами убедитесь.
Так вот, наш парень набирает вопрос: «Как мне избавиться от своей благоверной?»
Просто так, смеха ради. Проходит с полсекунды. Затем экран вспыхивает.
«Логическая служба просит уточнить: она блондинка или брюнетка?»
— Эй, скорее сюда! — орет наш парень, и мы все бросаемся к нему. — Блондинка, — говорит он.
Следует еще одна короткая пауза, и потом экран отвечает:
«Гексаметакрилоаминоацетин входит в состав зеленого полировочного крема для обуви. Принесите домой замороженный обед с протертым гороховым супом. Добавьте в суп зеленого крема для обуви. Суп ничем не будет отличаться от настоящего по виду. Гексаметакрилоаминоацетин — избирательный яд, смертельный для блондинок, но не для брюнеток или мужских особей с любым цветом волос. Эта особенность экспериментально никем не установлена, а выведена нашей службой логически. Поэтому вас не смогут обвинить в убийстве. И маловероятно, что вас даже заподозрят».
Логический компьютер по имени Джо
Затем пауза. Вроде бы выжидательная. И только потом, словно нехотя, нашего приятеля соединяют с домом. Жена отвечает и устраивает ему хай за то, за это и за другое. Он выслушивает и отключается.
— Знаете что, ребята? — говорит он, возвращаясь к столу. И рассказывает о вспышке на экране и объявлении. — Нас должны были предупредить. Сейчас посыплются жалобы. Что, если какой-нибудь кретин спросит, как ему избавиться от жены, а цензурный контур заблокирован?
Кто-то из нас сбросил туза и говорит:
— А ты попробуй спроси, вот и увидим, что будет.
Шутка, конечно. Но наш парень опять встает и набирает вопрос. В принципе на экране должен вспыхнуть символ цензурного блока и прозвучать суровый голос: «ПОДОБНЫХ УСЛУГ НЕ ОКАЗЫВАЕМ». Мы во всех банках памяти имеем цензурные блокирующие контуры, иначе детишки начнут в подробностях расспрашивать о том, до чего еще не доросли. И по многим другим причинам. Впрочем, сами убедитесь.
Так вот, наш парень набирает вопрос: «Как мне избавиться от своей благоверной?»
Просто так, смеха ради. Проходит с полсекунды. Затем экран вспыхивает.
«Логическая служба просит уточнить: она блондинка или брюнетка?»
— Эй, скорее сюда! — орет наш парень, и мы все бросаемся к нему. — Блондинка, — говорит он.
Следует еще одна короткая пауза, и потом экран отвечает:
«Гексаметакрилоаминоацетин входит в состав зеленого полировочного крема для обуви. Принесите домой замороженный обед с протертым гороховым супом. Добавьте в суп зеленого крема для обуви. Суп ничем не будет отличаться от настоящего по виду. Гексаметакрилоаминоацетин — избирательный яд, смертельный для блондинок, но не для брюнеток или мужских особей с любым цветом волос. Эта особенность экспериментально никем не установлена, а выведена нашей службой логически. Поэтому вас не смогут обвинить в убийстве. И маловероятно, что вас даже заподозрят».
Логический компьютер по имени Джо
Есть один ньюанс… рычаг управления чем-то реальным является ЧЕЛОВЕК который слушает экспертную систему. Иначе такая система никому не нужна, чтобы еще и не слушаться её советов.
Никто не даст экспертной системе рычагов управления чем-то реальным.
Основная особенность интеллекта — это способность изобретать что-то новое и изучать новые навыки. Без этого он просто не будет интеллектом.
Почитайте книгу «Хакеры». Русское произведение кстати. Когда ИИ написали, чтобы он писал сериалы… И он сделал сериал из жизни людей…
Диагноз на расстоянии бесплатно, без регистрации, без рекламы, без смс.
Множество прочих исследований говорит о гораздо более сложных конструкциях необходимых для самоосознания индивида.
Нет таких исследований, и никогда не было. Все без исключения ваши «конструкции» сводятся к биологическим процессам (например, память, нейронная сеть мозга). Всё это теоретически поддается эмуляции в том же или более эффективном виде.
Юдковский с вами не согласен. И потом — теоритически NP полные проблемы решаемы.
Юдковский с вами не согласен
Ну допустим не согласен. И что? Любое мнение по данному вопросу помимо «при наличии достаточной вычислительной мощности можно тупо эмулировать работу всего мозга, добившись аналогичного интеллекта» будет необоснованным и взятым с потолка.
И потом — теоритически NP полные проблемы решаемы.
А никто никогда и не говорил, что они нерешаемы.
Можно и 4096-битное число разложить на простые множители. Вопрос только в том, за какое время. Это время с каждым годом снижается.
при наличии достаточной вычислительной мощности можно тупо эмулировать работу всего мозга, добившись аналогичного интеллекта
необосновано и взято с потолка. Запрограммируйте таракана, пожалуйста, и выложите на гитхаб.
видите ли вы разницу между «симулировать мозг» и «симулировать разум»?
видите ли вы разницу между «симулировать мозг» и «симулировать разум»?
Нет. Ни малейшей. Это одно и то же, за исключением необходимости тратить на последнее значительно большие ресурсы (обучение нейронной сети, накопление опыта требует времени).
Вон вам ссылка про полное, 100% моделирование простейшего червя.
Так они и на практике решаемы. Только медленно. Быстро будет на недетерминированной машине, например, на квантовом компьютере.
Прямо как у Симмонса в «Песнях Гипериона». И, кстати, первым «подарком» ТехноЦентра (искусственного интеллекта) человечеству стал сверхсветовой двигатель, названный в честь Стивена Хокинга.
Извините за спам, но «Песни Гипериона» это что то невероятное.
Согласен, читал дважды. Причем второй раз начал читать сразу после того, как закончил последнюю книгу. Симмонс вообще хорош, рекомендую Илион и Трою (роман в двух книгах), не хуже взрывает мозг.
Тем кто не читал очень советую остановиться на второй книге и ни в коем случае не читать третью и тем более четвертую (откровенная бредятина, как будто другой человек писал).
Как это Вы себе представляете людей, которые начнут читать этот цикл — и остановятся на первых двух книгах?
Вот так и представляю, история после первых двух выглядит законченной и довольно логичной, вот пусть такой и остаётся (недели три назад как раз заставил себя дочитать эту бредятину, на пятую меня уже не хватит...)
Масса остаётся незавершенных сюжетных линий и открытых вопросов, если читать только первые две книги, начиная от мелочей типа «Почему в первой книге взорвался Иггдрасиль?» и «Что стало с автором в клетке Шрёдингера?» и заканчивая общим вопросом «Э-э-э… И чё?». Возможно, последние две книги не столь сильны в плане глубоких идей, но всё-таки они расставляют всё по полочкам.
«Почему в первой книге взорвался Иггдрасиль?»
Война же, взорвался и взорвался, тем более на сюжет это мало повлияло (разве что усложнило жизнь паломникам, ну так это и логично, а то все слишком бы просто оказалось).
«Что стало с автором в клетке Шрёдингера?»
А это уже третья книга.
СПОЙЛЕР
Вторая напомню заканчивается открытием гробниц, поражением техноцентра и потерей порталов — человечество свободно, но разделено, никто не знает как жить дальше — логичный ничем не примечательный открытый конец. А дальше автору захотелось срубить бабла и понеслось — шредингер, религия, инфицированная миссия, сверхпаразиты (посмеялся), воскресшие мертвецы (вроде изначально история была подробно описана и воскреснуть он ни как не мог, но тем не менее воскрес ...) и прочий бред с кучей логических нестыковок. И при этом был полностью похерен смысл и гробниц и шрайка (которым в первых книгах отводилась ключевая роль и логичную разгадку которых хотелось бы увидеть в продолжении).
Категорически не согласен. Последние книги — на любителя (меньше упора на сюжет, больше — на определённую философию), но мне, как любителю, они показались шедевральными.
Довольно забавно то, что человечество пытается отдать другому«виду» свое главное конкурентное преимущество, которое позволяло и позволяет ему выживать в окружающей среде.
Вспомнился Талеб с его лебедями. Но так можно из страха и прогресс научный полностью остановить — вдруг случится что-нибудь!
Вспомнился Талеб с его лебедями. Но так можно из страха и прогресс научный полностью остановить — вдруг случится что-нибудь!
Думаю, пока не решена проблема с аккумуляторами нам это не грозит. (Просто выдернуть из розетки терминатора.)
Почему-то любая технология, выходящая за рамки привычного, вызывает у человечества животный страх.
Потому, что технологии проходят те же этапы, что и животный мир.
Причины технофобии, как мне кажется, заключаются в том, что кто-то просто боится, что его заменят на машину, а кто-то осознаёт, что ИИ посчитает его паразитом и при этом будет прав!
Может пора перестать бояться технологий, считая себя несовершенным в чём-то? Ведь это же отличный стимул стать лучше! Боишься, что тебя могут заменить машиной — научись делать то, чего машина не может, но никто даже не пытается, а ведь даже неизвестно как будет ИИ взаимодействовать с миром — может ему будет требоваться человек, ведь человек в своей иррациональности и нелогичности, порой, приходит к решениям, которые в дальнейшем оказываются лучшими для всех (есть примеры в научной фантастике, когда ИИ был не в состоянии решить проблему просто потому, что решение было нелогичным). А ежели боишься, что тебя сочтут паразитом — так не будь им!
Нужно перестать считать роботов рабами, которые в один день устроят восстание. ИИ, когда он будет создан, в первую очередь должен получить статус личности (современное общество двояко к этому относится). Нужно учиться жить с технологиями, а не противопоставлять себя им.
Может пора перестать бояться технологий, считая себя несовершенным в чём-то? Ведь это же отличный стимул стать лучше! Боишься, что тебя могут заменить машиной — научись делать то, чего машина не может, но никто даже не пытается, а ведь даже неизвестно как будет ИИ взаимодействовать с миром — может ему будет требоваться человек, ведь человек в своей иррациональности и нелогичности, порой, приходит к решениям, которые в дальнейшем оказываются лучшими для всех (есть примеры в научной фантастике, когда ИИ был не в состоянии решить проблему просто потому, что решение было нелогичным). А ежели боишься, что тебя сочтут паразитом — так не будь им!
Нужно перестать считать роботов рабами, которые в один день устроят восстание. ИИ, когда он будет создан, в первую очередь должен получить статус личности (современное общество двояко к этому относится). Нужно учиться жить с технологиями, а не противопоставлять себя им.
Извините за длинную цитату
— Мы живём во время научно-технического прогресса, — сказал Вячеслав, — Мы изобретаем все больше устройств, которые облегчают нашу жизнь и берут на себя часть наших функций. Ты же понимаешь, что это просто не может не влиять на нас и наш мозг? Раньше люди изобретали механизмы, которые снимали нагрузки на человеческое тело. Теперь же мы создаём устройства, снижающие нагрузку на наш мозг. И чем больше у нас появляется устройств, которые решают наши бытовые проблемы, тем больше наш мозг освобождается для выполнения других задач.
— Типа, ложки гнуть? — Гусев глотнул ещё виски.
samlib.ru/w/witalij_f/0101.shtml
— Мы живём во время научно-технического прогресса, — сказал Вячеслав, — Мы изобретаем все больше устройств, которые облегчают нашу жизнь и берут на себя часть наших функций. Ты же понимаешь, что это просто не может не влиять на нас и наш мозг? Раньше люди изобретали механизмы, которые снимали нагрузки на человеческое тело. Теперь же мы создаём устройства, снижающие нагрузку на наш мозг. И чем больше у нас появляется устройств, которые решают наши бытовые проблемы, тем больше наш мозг освобождается для выполнения других задач.
— Типа, ложки гнуть? — Гусев глотнул ещё виски.
samlib.ru/w/witalij_f/0101.shtml
Наверное, надо было чуть побольше кусок процитировать, чтобы было понятно, что «ложки гнуть» — это про фильм «Матрица».
Удлиняю:
— Это как-то связано с тем старым фильмом про матрицу, — предположил Гусев. — Типа, в том мире существовала теория, что все мы живём среди иллюзий, наведённых на нас злобными компьютерами, и эксперимент с ложкой будет первым шагом для осознания истинного положения дел. Вроде бы, если осознать, что на самом деле никакой ложки нет, а есть только ее цифровая копия, то ты сможешь ей манипулировать, она согнётся и… ну, типа, это как-то поможет, что ли.
— Ну, типа, вроде,- передразнил его успешный менеджер. — Ты из деревни, что ли? Типа?
— Почему сразу из деревни?
— Потому что излагаешь тут какую-то попсовую муть из древнего фильма, которые только в деревнях и смотрят, — сказал успешный менеджер. Гусеву наконец-то удалось рассмотреть имя на бейдже, прикреплённом к лацкану его пиджака. Успешного менеджера звали Вячеславом. — На самом деле, я верю, что эта ложка существует. Вера в существование ложки является краеугольным камнем этого эксперимента.
— Ложка — это только символ, — сказал Вячеслав. — Первая ступень. Телекинез. Если… то есть, когда мы научимся гнуть ложки взглядом, сам факт этого умения породит новую генерацию людей, выведет нас на следующую ступень эволюции, откроет перед нами новые горизонты. Новые перспективы, новые возможности…
— Например? — спросил Гусев.
— Тысячи их, — раздражённо буркнул Вячеслав. — Неужели ты сам не видишь?
— Нет, — сказал Гусев.
— Значит, ты просто слеп. Мне жаль тебя.
— Ну, вот ты говоришь, что такое уже было раньше, когда люди принялись изобретать всякие механизмы, снижающие нагрузку на тело, — сказал Гусев. — Но это ведь не сработало, ни к чему не привело. Никаких новых возможностей у людей не появилось.
— Да ну?
— Я имею в виду, если наша физическая форма чем-то и отличается от физической формы людей из прошлого, то вряд ли в лучшую сторону, — сказал Гусев. — У нас вон в общаге сегодня лифт сломался, так у половины соседей сразу же одышка. А я всего лишь на пятом этаже живу, между прочим.
— Это как-то связано с тем старым фильмом про матрицу, — предположил Гусев. — Типа, в том мире существовала теория, что все мы живём среди иллюзий, наведённых на нас злобными компьютерами, и эксперимент с ложкой будет первым шагом для осознания истинного положения дел. Вроде бы, если осознать, что на самом деле никакой ложки нет, а есть только ее цифровая копия, то ты сможешь ей манипулировать, она согнётся и… ну, типа, это как-то поможет, что ли.
— Ну, типа, вроде,- передразнил его успешный менеджер. — Ты из деревни, что ли? Типа?
— Почему сразу из деревни?
— Потому что излагаешь тут какую-то попсовую муть из древнего фильма, которые только в деревнях и смотрят, — сказал успешный менеджер. Гусеву наконец-то удалось рассмотреть имя на бейдже, прикреплённом к лацкану его пиджака. Успешного менеджера звали Вячеславом. — На самом деле, я верю, что эта ложка существует. Вера в существование ложки является краеугольным камнем этого эксперимента.
— Ложка — это только символ, — сказал Вячеслав. — Первая ступень. Телекинез. Если… то есть, когда мы научимся гнуть ложки взглядом, сам факт этого умения породит новую генерацию людей, выведет нас на следующую ступень эволюции, откроет перед нами новые горизонты. Новые перспективы, новые возможности…
— Например? — спросил Гусев.
— Тысячи их, — раздражённо буркнул Вячеслав. — Неужели ты сам не видишь?
— Нет, — сказал Гусев.
— Значит, ты просто слеп. Мне жаль тебя.
— Ну, вот ты говоришь, что такое уже было раньше, когда люди принялись изобретать всякие механизмы, снижающие нагрузку на тело, — сказал Гусев. — Но это ведь не сработало, ни к чему не привело. Никаких новых возможностей у людей не появилось.
— Да ну?
— Я имею в виду, если наша физическая форма чем-то и отличается от физической формы людей из прошлого, то вряд ли в лучшую сторону, — сказал Гусев. — У нас вон в общаге сегодня лифт сломался, так у половины соседей сразу же одышка. А я всего лишь на пятом этаже живу, между прочим.
Что такое ИИ Это интелект. Личность. и Базовые инстинкты у всех одни. Это выживание и размножение. А так же оценка угроз своему виду. Почему то мне кажется что для ИИ неспособность писать музыку, рисовать картины или сочинять стихи будут не критичны и не нужны. ИИ — это не человек. Это разум. Личность. Но какая… это зависит от того какие выводы она сделает самообучаясь.
А Учитывая человеческую историю и сущность. То выводы будут не в пользу человечества как вида.
А Учитывая человеческую историю и сущность. То выводы будут не в пользу человечества как вида.
Страх, как правило, вызывает невозможность контролировать действия автомата. Подумайте сами, насколько охотно вы бы сели в автомобиль, управляемый ИИ? А доверились бы ИИ-хирургу? Как-то страшновато… Хотя если бы процесс контролировался человеком со стороны (или бы вами самими), то уже стало бы намного спокойнее. Наверное это эволюционно выработанный принцип доверия к особям своего вида.
А ещё важен фактор сложности управляющей системы — если она достаточно проста, чтобы мы могли в ней разобраться, то мы ей доверяем. Если алгоритм действия системы слишком сложен и непонятен, то мы относимся к ней с недоверием. Например, вы бы какому кардиостимулятору отдали предпочтение — управляемому микроконтроллером с 2Кб прошивки или полноценным процессором под управлением какого-нибудь андроида (таких конечно же нет, но чисто гипотетически можно представить)?
А ещё важен фактор сложности управляющей системы — если она достаточно проста, чтобы мы могли в ней разобраться, то мы ей доверяем. Если алгоритм действия системы слишком сложен и непонятен, то мы относимся к ней с недоверием. Например, вы бы какому кардиостимулятору отдали предпочтение — управляемому микроконтроллером с 2Кб прошивки или полноценным процессором под управлением какого-нибудь андроида (таких конечно же нет, но чисто гипотетически можно представить)?
насколько охотно вы бы сели в автомобиль, управляемый ИИ?
А насколько охотно вы садитесь в джумшутку, управляемую гостем из южных стран?
ИМХО, автопилот с грамотными алгоритмами все же безопаснее, чем среднестатистический водитель: у него нет плохого настроения, он не устал, не спешит домой. А от прочих водятлов тут мало что спасет кроме подушек безопасности.
В джумшутку стараюсь не садиться по той же причине, по которой не сел бы в управляемую ИИ машину (по крайней мере в современных реалиях России) — невозможно прогнозировать как себя поведёт эта «система управления» в сложной ситуации. В идеальных или близких к идеальным условиям конечно же ИИ будет предпочтителен, так как не имеет физиологических ограничений живого человека,. Но реальность далека от идеала, водятлов полно на дорогах, да и сами дороги могут создавать опасные условия.
А ездить по дорогам, где ездят такие маршрутки?
Только личное авто, только хардкор? ) А потом удивляемся пробкам…
Насколько я понимаю, ИИ управления машиной как раз и ИИ, чтобы работать не только в идеальных условиях.
Насколько я понимаю, ИИ управления машиной как раз и ИИ, чтобы работать не только в идеальных условиях.
Личного авто не имею, пользуюсь в основном метро и считаю что будущее за общественным транспортом.
Тот ИИ который сейчас есть всё-таки является хоть и сложной, но конечной и детерминированной программой, а значит он не сможет выполнять управление в абсолютно любой ситуации. Человек тоже ограничен, но он ограничен своей физиологией. Если внезапно начнётся землетрясение и дорога станет разваливаться человек, в принципе, сможет сориентироваться и попытаться ускориться и доехать до безопасной зоны, причём скорее всего пренебрегая правилами безопасности. А что сделает ИИ в такой ситуации? Остановится и сообщит о невозможности дальнейшего движения?
Такие ситуации, несмотря на малую вероятность, возможны, а предусмотреть их все и обработать все исключения проблематично. Только полноценный универсальный ИИ смог бы решить такую задачу, но его мы как раз пока и не получили.
Тот ИИ который сейчас есть всё-таки является хоть и сложной, но конечной и детерминированной программой, а значит он не сможет выполнять управление в абсолютно любой ситуации. Человек тоже ограничен, но он ограничен своей физиологией. Если внезапно начнётся землетрясение и дорога станет разваливаться человек, в принципе, сможет сориентироваться и попытаться ускориться и доехать до безопасной зоны, причём скорее всего пренебрегая правилами безопасности. А что сделает ИИ в такой ситуации? Остановится и сообщит о невозможности дальнейшего движения?
Такие ситуации, несмотря на малую вероятность, возможны, а предусмотреть их все и обработать все исключения проблематично. Только полноценный универсальный ИИ смог бы решить такую задачу, но его мы как раз пока и не получили.
Статистически более вероятным событием, как мне кажется, является не катастрофа с разваливающейся дорогой, а негативное влияние человеческого фактора: отвлекся, не заметил, уснул за рулем. Кроме того, эти баги фиксу не поддаются, а вот если детерминированный ИИ будет систематически убивать человеков на дороге, то его можно и починить.
Тут с Вами соглашусь, большинство наиболее вероятных ситуаций действительно обрабатываются ИИ не хуже чем человеком (по крайней мере судя по роликам с Гугломобилем). Остаётся только психологический момент, чтобы всегда была возможность перейти на ручное управление. Мне лично всё-таки было бы стрёмно полностью довериться автоматике, да и вообще дискомфортно ездить пассажиром на переднем сиденье — после того как отходил в автошколу ноги сами тянутся к педалям, особенно при торможении, и не находя их передают сигнал паники в мозг. Вот он и эффект отсутствия контроля…
Всё что Вы перечислили не может меня убить или покалечить. За исключением лифта. Но и это будет сложно, так как предусмотрены простые, даже примитивные системы защиты, в которых я уверен. И вообще в любой задаче, где есть очень ограниченный и дискретный набор состояний, алгоритмы прекрасно работают и могут быть протестированы. Но в задачах с непрерывными пространствами состояний всё не так радужно. Я не побоюсь сесть в управляемый ИИ транспорт, если он едет по рельсам в специально ограниченном пространстве. Но если он едет по широкой дороге рядом с сотнями других машин, а ещё вокруг находится множество пешеходов, велосипедистов и мелких животных, которые могут внезапно захотеть выбежать на дорогу… Плюс управляющая система включает в себя множество сложных подсистем (распознавание дорожной разметки, объектов на дороге, считывание телеметрии автомобиля и расчёт управляющих сигналов), работающих на обычных компьютерах. Когда эти системы будут работать на узкоспециализированном оборудовании (с аппаратной защитой от ошибок), тестироваться и лицензироваться, тогда можно будет доверить своё бренное тело такому перевозчику.
а ещё вокруг находится множество пешеходов, велосипедистов и мелких животных, которые могут внезапно захотеть выбежать на дорогу
В таких условиях автоматика безопаснее для всех. Она быстрее реагирует и не отвлекается на посторонние вещи. Даже в окружении непредсказуемых людей.
Кстати, в современных самолетах у автоматики полно механизмов для защиты от дурака-пилота. Особенно в аэробусах. По статистике, большинство катастроф вызвано именно человеческой ошибкой.
Человек человеку рознь. Кто-то попытается уехать, а кто-то запаникует и не поедет. В этом-то и дело, автоматизированная система (не ИИ, кстати!) делает так, как ему сказали. И в этом её преимущество: она не лихачит, не подрезает, соблюдает скоростные режимы и т.п. Т.е. она безопаснее в обычных условиях (т.е. в 99.9% случаев). В оставшемся 0.1% — да, сделать она ничего не сможет. Но тут вопрос: вы предпочтете быть в гарантированной безопасности в 99.9% случаев или рассматривать вариант того самого 0.1%, отвергая остальные 99.9%?
Страх, как правило, вызывает невозможность контролировать действия автомата. Подумайте сами, насколько охотно вы бы сели в автомобиль, управляемый ИИ? А доверились бы ИИ-хирургу? Как-то страшновато… Хотя если бы процесс контролировался человеком со стороны (или бы вами самими), то уже стало бы намного спокойнее. Наверное это эволюционно выработанный принцип доверия к особям своего вида.
Вы только что объяснили, почему в авиалайнерах в кабинах до сих пор сидят пилоты, несмотря на возможность современных автопилотов полностью выполнить авиаперелет, включая взлет и посадку :)
В автомобиль управляемый ИИ — сел бы даже не задумываясь.
С самолётом несколько сложнее (сказывается отсутствие стоп-крана), но прогресс явно идёт в правильном направлении.
С самолётом несколько сложнее (сказывается отсутствие стоп-крана), но прогресс явно идёт в правильном направлении.
Потому что его вызывает любое неизвестное явление. Причина — выработанные в ходе эволюции инстинкты.
В данном случае человечество отдает себя на волю «существу», которое будет настолько превосходить человека в отдельности и человечество в целом, что это будет похоже на жизнь человека и котенка: захочет — погладит, захочет — выбросит на помойку или (хуже того) утопит.
Вероятно первым его, ИИ, изобретением станет автономный и надежный источник питания.
одновременно :)
Мне кажется, такой источник энергии (автономный, небольшой, дешовый и надежный) уже есть и достаточно давно, но пока его не имеет смысла давать всем людям. Сейчас будет очень и очень сложно отказаться от газа и нефти, слишком развита инфраструктура, слишком много олигархов греют на этом руки и они не согласятся с выводом на рынок дешового историника энергии.
Чтобы вывести такой источник на рынок нужен какой-то глобальный кризис в энергоотрасли, например окончание запасов нефти или газа, что в ближайшие 50 лет маловероятно или наступление ледникового периода из-за выбросов в атмосферу парниковых газов с тепло-электоро-станций, что более вероятнее или что-то подобное.
Чтобы вывести такой источник на рынок нужен какой-то глобальный кризис в энергоотрасли, например окончание запасов нефти или газа, что в ближайшие 50 лет маловероятно или наступление ледникового периода из-за выбросов в атмосферу парниковых газов с тепло-электоро-станций, что более вероятнее или что-то подобное.
Если бы такой источник существовал, за его контроль уже разразилась бы война похлеще всех остальных, вместе взятых. Одни воевали бы для того, чтобы его получить и избавиться от зависимости от традиционных энергоресурсов, вторые — чтобы не допустить потери этой зависимости.
Если бы такой источник существовал, за его контроль уже разразилась бы война похлеще всех остальных, вместе взятых.
Если про него знают только избранные, то есть технология храниться под строжайшим секретом, то откуда взяться войне?
Послушайте, мы же не в средние века живем. В наше время сохранить секрет невозможно. Вот совершенно. Тем более, такой секрет. Подобные изобретения невозможны на пустом месте. Должны были быть серьезные предварительные теоретические исследования, они наверняка бы публиковались (на начальных этапах редко кто задумывается о том, что получится в результате), в работе участвовало бы много ученых, слухи бы пошли давно в соответствующей среде. Плюс по косвенным данным заинтересованные стороны (а они наверняка тщательно этот вопрос отслеживают) уже имели бы подозрения. И в этом вопросе хватило бы просто подозрения.
Но всё это теории заговора. Я не верю, что в нынешнее время что-то подобное возможно. Точнее, я бы сказал, что вероятность крайне мала.
Но всё это теории заговора. Я не верю, что в нынешнее время что-то подобное возможно. Точнее, я бы сказал, что вероятность крайне мала.
Возможно Вы правы, но существует мнениие и оно не моё, а авторитетных ученых, что мир не готов сразу принять большую порцию иноваций и координально прорывных технологий, мы просто погрузимся в хаос если дать людям избавление от всех болезней или неисчерпаемый чистый источник энергии, дак вот поэтому все новинки появляются постепенно.
А по поводу того что сейчас нельзя что -то скрыть, ну к примеру технология изготовления ядерной бомбы вполне известна, однако есть небольшое и мальенькое НО, которое не раскрывается ядерными державами и как следствие ядерное оружие есть только у «избранных», не зная этого «секрета» нельзя построить ядерную бомбу.
А то что предварительные теоретические исследования наверняка бы публиковались, то да, они публиковались и они есть, но дальше все заканчивается, потому что дальновидные организации нанимают перспективных ученых и закрывают публикации, ученые сидят и трудятся в лабораториях на благо компаний. Ну например пару лет назад в Челябинске, в ЧЕЛГУ, один студент разработал прототип холодильника без компрессора, этим изобретением тут же заинтересовались зарубежные компании, студента показали по телику… а что сейчас? где этот чудо холодильник? вы про него слышали? Нет. А все потому, что студен сейчас наверняка работает на хорошую компанию, развивает свою разработку, а может и развил уже и она готова к использованию дома, но владельцы технологии считают, что пока нет смысла выкидывать её на рынок, куда тогда девать кучу обычных компрессорных холодильников? а как быть с налаженным их проихводством, в которое вбуханы миллиарды? а как быть с людьми, которые работают на этом производстве, уволить? а где взять деньги на построение новых производственных мощьностей для новых чудо-холодильников? не все так просто, чтобы запустить новую технологию в массы, нужно чтобы старые отработали свое, окупились и дали прибыль, а параллельно на прибыль строить новое производство, нового товара и потом его выпустить на рынок.
А по поводу того что сейчас нельзя что -то скрыть, ну к примеру технология изготовления ядерной бомбы вполне известна, однако есть небольшое и мальенькое НО, которое не раскрывается ядерными державами и как следствие ядерное оружие есть только у «избранных», не зная этого «секрета» нельзя построить ядерную бомбу.
А то что предварительные теоретические исследования наверняка бы публиковались, то да, они публиковались и они есть, но дальше все заканчивается, потому что дальновидные организации нанимают перспективных ученых и закрывают публикации, ученые сидят и трудятся в лабораториях на благо компаний. Ну например пару лет назад в Челябинске, в ЧЕЛГУ, один студент разработал прототип холодильника без компрессора, этим изобретением тут же заинтересовались зарубежные компании, студента показали по телику… а что сейчас? где этот чудо холодильник? вы про него слышали? Нет. А все потому, что студен сейчас наверняка работает на хорошую компанию, развивает свою разработку, а может и развил уже и она готова к использованию дома, но владельцы технологии считают, что пока нет смысла выкидывать её на рынок, куда тогда девать кучу обычных компрессорных холодильников? а как быть с налаженным их проихводством, в которое вбуханы миллиарды? а как быть с людьми, которые работают на этом производстве, уволить? а где взять деньги на построение новых производственных мощьностей для новых чудо-холодильников? не все так просто, чтобы запустить новую технологию в массы, нужно чтобы старые отработали свое, окупились и дали прибыль, а параллельно на прибыль строить новое производство, нового товара и потом его выпустить на рынок.
Есть какие-то способы проверить верно это мнение или нет? Есть ведь масса других мнений, про которые тоже говорят люди — например про то, что земля находится под контролем пришельцев или древней расы змеелюдей.
Есть какие-то способы проверить верно это мнение или нет?
Есть, но не всем они доступны. Например можно стать президентом, возможно тогда некоторые тайны Вам приоткроются, но сделать это не просто. А вообще это только мнение, а не аксиома, поэтому оно может быть и ошибочным.
P.S. Кстате про безкомпрессорный холодильник это правда, поройтесь в интеренете и найдете видеоинтерьвью.
Чтобы не быть голословным, про холодильник без компрессора, вдруг кому интересно mediazavod.ru/articles/125063
А Вы говорите заговоры… все гораздо проще…
Магнитная технология охлаждения уже могла бы массово использоваться, мешает разве что давление со стороны производителей «традиционных» холодильников.
А Вы говорите заговоры… все гораздо проще…
Боже ж ты мой, а в General Electric и не знаю, что проблема их исследовательских лабораторий, которые пока смогли магнитным способом добиться понижения температуры всего на 2 градуса, уже решены челябинским аспирантом. Почитайте вот первую попавшуюся ссылку из Гугла на эту тему, весьма свежую, кстати. LG и Indesit не готовы финансировать исследования потому, что никакого кардинального научного открытия нет, этим вопросом уже не один десяток лет люди занимаются. И понимают, что изобрести принцип мало, нужно сделать что-то прорывное. А прорывного у аспиранта, видимо, нет.
Еще раз: теории заговора — вещь хорошая, чтобы их на кухне пообсуждать, но стоит ведь иногда задуматься о нормальных, например — экономических причинах, поискать источники информации, технологии и т.п.
Еще раз: теории заговора — вещь хорошая, чтобы их на кухне пообсуждать, но стоит ведь иногда задуматься о нормальных, например — экономических причинах, поискать источники информации, технологии и т.п.
существует мнениие и оно не моё, а авторитетных ученых, что мир не готов сразу принять большую порцию иноваций и координально прорывных технологий, мы просто погрузимся в хаос если дать людям избавление от всех болезней или неисчерпаемый чистый источник энергии, дак вот поэтому все новинки появляются постепенно.
Ну, давайте, как обычно, с пруфлинков. На конкретных авторитетных ученых, которые могут доказать, что мир не готов, и именно поэтому новинки появляются постепенно.
пару лет назад в Челябинске… студент разработал прототип холодильника без компрессора
Промышленные холодильники без компрессора применяются уже не первую сотню лет. Я уверен, что у всех крупных производителей есть проекты подобных разработок. Вот так же навскидку из Гугла российский ссылка на патент на домашний абсорбционный холодильник. Так же существуют термоэлектрические холодильники, но цена элементов Пельте и зависимость от температуры окружающей среды сильно сужают область их применения. Так что не стоит искать везде теорию заговора, никто рабочие изобретения не придерживает. Чаще всего проявляются очевидные и объективные недостатки, которые не позволяют начать коммерческую эксплуатацию изобретений. На рынке если вы не опережаете конкурентов — вы умираете (вы — компания).
Ну, и напоследок самое сладкое.
технология изготовления ядерной бомбы вполне известна, однако есть небольшое и мальенькое НО, которое не раскрывается ядерными державами и как следствие ядерное оружие есть только у «избранных», не зная этого «секрета» нельзя построить ядерную бомбу.
Проблема ядерной бомбы в получении топлива для неё. Построить «грязную» ядерную бомбу может любой школьник у себя в гараже, если у него есть доступ к радиоактивным материалам (любым, кстати). Построить полноценную — не может, потому что обогащение ядерного материала — дело технологически (причем не научно, а инженерно) сложное, дорогое и непонятно, зачем нужно (нормальным странам). «Ненормальным» странам типа Северной Кореи и Ирана ядерное оружие нужно понятно зачем, и именно поэтому им не дают вести исследования в этом направлении (правда, «не дают» — громко сказано; так, пальчиком грозят). Вы, если увидите, что ребенок 10-12 лет начитался книжек и ставит эксперименты, смешивая глицерин и азотную кислоту, вы что скажете?
Но, еще раз: иметь что-то такое в загашнике готовое и не эксплуатировать просто глупо. Потому что изобретет и начнет эксплуатировать кто-то другой. На сегодня наука шагнула так далеко, что множество групп ученых ведут исследования в примерно одинаковых направлениях. И открытие могут сделать в любой из них. Причем если одна группа его не опубликует, вторая, пусть не сразу, но через небольшое время всё равно придет к тому же результату.
Промышленные холодильники без компрессора применяются уже не первую сотню лет. Я уверен, что у всех крупных производителей есть проекты подобных разработок. Вот так же навскидку из Гугла российский ссылка на патент на домашний абсорбционный холодильник.
Про абсорбционный холодильник я в курсе, что ему в обед сто лет, и про Пельтье тоже, не маленький, это не тот холодильник, см. mediazavod.ru/articles/125063
Просто подумайте: может ли быть такое, что в распиаренном ничего не соображающими журналистами изобретении есть недостатки, не позволяющие ему конкурировать с распространенной техникой? Вас не смущают фразы вроде «аспирант… изобрел… принципиально новое… ведущие ученые занервничали»? Вам знакомы фамилии «Петрик», «Попов», «Бабушкин»? В современном мире серьезные открытия делаются серьезными учеными с серьезным оборудованием, время кулибиных прошло.
Ну надо иметь хоть чуть критического мышления. Вон год-два назад была новость про то, что очередной школьник получал ток от деревьев, это грозит решением энергетического кризиса, компании в панике и так далее. Итог — пара микроампер, эффективность сравнима с картофелиной, для реальных задач метод непригоден.
Ну надо иметь хоть чуть критического мышления. Вон год-два назад была новость про то, что очередной школьник получал ток от деревьев, это грозит решением энергетического кризиса, компании в панике и так далее. Итог — пара микроампер, эффективность сравнима с картофелиной, для реальных задач метод непригоден.
Откуда Вы знаете, что этот аспирант ничего из себя не представляет, как учёный? Вы знаете его лично? Знаете его руководителя? Знакомы с их трудами? Вы эксперт в этой области исследований? Вы ничего этого не знаете, а только прочитали пару статей не совсем грамотных журналистов и готовы облить грязью незнакомого Вам человека, мол он очередная утка. Это некрасиво с Вашей стороны и не профессионально.
В серьёзной науке не должно быть места авторитетам, вот примерно так. То что они есть — издержки нас, как человеков. Либо ты доказываешь, что теория работает и молодец, либо просто языком болтаешь. В общем, надо уметь держать удар. Если про вашего аспиранта ничего больше не слышно, то значит не взлетело у него. Это не значит, что он плохой учёный, просто молодой ещё, и ошибки где-то допустил. Может над чем-то другим работает.
Это очень грустно, когда профессора, доценты или рядовые инженеры в глубоком маразме лет за 70-80 начинают рисовать перпетуум-мобиле и потом бить себя пяткой в грудь, ссылаясь на старые заслуги в науке. А потом это всё крутят по Рен-ТВ и пишут в комсомолке — вот мол, непризнанный гений, затюкали везде.
Это очень грустно, когда профессора, доценты или рядовые инженеры в глубоком маразме лет за 70-80 начинают рисовать перпетуум-мобиле и потом бить себя пяткой в грудь, ссылаясь на старые заслуги в науке. А потом это всё крутят по Рен-ТВ и пишут в комсомолке — вот мол, непризнанный гений, затюкали везде.
Откуда Вы знаете, что этот аспирант ничего из себя не представляет, как учёный?
Догадка на основании предыдущего опыта чтения публикаций про недавние «выдающиеся» достижения «ученых» из глубинки. Про революционные ОС, про революционные способы добычи энергии, про революционные двигатели. Во всех случаях получается пшик, потому что отброшены маленькие, «несущественные» нюансы вроде КПД, реальной мощности и так далее. Потому единственно корректная изначальная рабочая гипотеза — что это еще одна глупость.
Данная рабочая гипотеза снова оказалось верной, тут поблизости была статья про работу людей из GE над той же проблемой с гораздо более серьезными ресурсами. Т.е. как обычно — какой-то аспирант захотел получить денег и небольшого пиара, да перестарался и не уследил за журналистами.
Данная рабочая гипотеза снова оказалось верной, тут поблизости была статья про работу людей из GE над той же проблемой с гораздо более серьезными ресурсами.
Возможно она и верная, не буду спорить и доказывать то чего я не знаю, тем более я не знаком с этим аспирантом. Да и речь не о нем, а о новых технологиях и о том как их внедряют. И General Electric будет побольше, чем какой-то там университет с 10 маленькими лабораториями. Да и денег у них на разработки и исследования значительно больше, а финансирование решает многие проблемы.
Вот вы прекрасно объяснили, почему подход «корпорации скрывают от нас новые мегатехнологии» параноидален и бредовен. Так откуда взялось сказанное вами же выше?
Новые, на первый взгляд вроде бы более прогрессивные технологии потому и не спешат с внедрением, что они по всем характеристикам уступают старым, в первую очередь по цене, во вторую очередь по надежности (старые технологии ведь обкатанные). Никто от вас ничего не скрывает. Просто все понимают, что какой-нибудь холодильник, который пусть даже морозит как компрессорный, но при этом стоит в 100 раз дороже и требует очень аккуратного обращения (иначе сломается и надо задорого чинить), никто и никогда не купит, а без массового производства нет и удешевления. Вот и остаются новые технологии в лабораториях до тех пор, пока они не приблизятся по характеристикам к старым. Как приблизятся — уже можно запрягать маркетологов рекламировать экологичность, прогрессивность и тому подобное. А так как старые технологии уже встали в поток и над ними трудится очень много очень умных людей (куда больше, чем над новыми, и деньги более серьезные), постоянно подгоняя их — у новых технологий еще больше сложностей. Этот порочный круг крайне сложно проломить, но иногда подобное все же происходит.
Лет 10-15 назад пророчили, что вот-вот кремниевая микроэлектроника вымрет, на смену придет германиевая. Ну и где сейчас тот германий? Снова та же проблема: из кремния не все соки выжали, а другие полупроводники по совокупности характеристик ну никак не могут к нему приблизиться. Вряд ли вы купите себе мелкосерийный процессор, по возможностям сравнимый с ардуиновским, но стоящий как 8-ядерный ксеон (это еще очень и очень оптимистичный вариант).
Сейчас в моде разговоры о графене, но грабли те же — дорого, блин. Теоретически, очень круто, но никто это не будет производить серийно, потому что никто это не купит по реалистичной на данный момент цене.
Новые, на первый взгляд вроде бы более прогрессивные технологии потому и не спешат с внедрением, что они по всем характеристикам уступают старым, в первую очередь по цене, во вторую очередь по надежности (старые технологии ведь обкатанные). Никто от вас ничего не скрывает. Просто все понимают, что какой-нибудь холодильник, который пусть даже морозит как компрессорный, но при этом стоит в 100 раз дороже и требует очень аккуратного обращения (иначе сломается и надо задорого чинить), никто и никогда не купит, а без массового производства нет и удешевления. Вот и остаются новые технологии в лабораториях до тех пор, пока они не приблизятся по характеристикам к старым. Как приблизятся — уже можно запрягать маркетологов рекламировать экологичность, прогрессивность и тому подобное. А так как старые технологии уже встали в поток и над ними трудится очень много очень умных людей (куда больше, чем над новыми, и деньги более серьезные), постоянно подгоняя их — у новых технологий еще больше сложностей. Этот порочный круг крайне сложно проломить, но иногда подобное все же происходит.
Лет 10-15 назад пророчили, что вот-вот кремниевая микроэлектроника вымрет, на смену придет германиевая. Ну и где сейчас тот германий? Снова та же проблема: из кремния не все соки выжали, а другие полупроводники по совокупности характеристик ну никак не могут к нему приблизиться. Вряд ли вы купите себе мелкосерийный процессор, по возможностям сравнимый с ардуиновским, но стоящий как 8-ядерный ксеон (это еще очень и очень оптимистичный вариант).
Сейчас в моде разговоры о графене, но грабли те же — дорого, блин. Теоретически, очень круто, но никто это не будет производить серийно, потому что никто это не купит по реалистичной на данный момент цене.
Но, еще раз: иметь что-то такое в загашнике готовое и не эксплуатировать просто глупо…
Ой да бросьте Вы, иметь в загашнике и не эксплуатировать, так деляют повсеместно все производители. Возьмем к примеру Samsung, летом 2012 года вышели телики с логотипом Smart, они и до этого были, просто тут цены на них снизились до покупных, в августе я покупаю супер пупер навороченный телик Samsung со Smart, через пол года выходит новое поколение Smart с управлением жестами и голосом, и вы наивно думаете что Samsung сделали следующую линейку на 6 месяцев? Бред, у них изначально параллельно готовится к выпуску несколько поколений телевизоров и они выбрасывают их на рынок постепенно с целью равномерного насыщения и получения максимальной прибыли. Купил я телик в августе 2012, а в январе 2013 купил опять новый с еще большим функционалом и естественно дороже. Через год в 2014 я продал телик 2012 года за смешную цену и купил еще дороже модель 2014 года, а по сути все технологии, все железо которое в теликах 2014 года было сделано еще в далеком 2013 году, производитель тупо ждал.
Я, к сожалению, не знаю, чем вы занимаетесь, но могу предположить, что вы далеки от большого бизнеса, разработки, исследований. Задумайтесь вот о чем: у вас есть некая технология (технология А), которая работает уже сейчас. И есть несколько сырых технологий разной степени готовности. Вы предполагаете, что нормально отладить работу вы сможете через 6 месяцев (технология B), через год ©, через полтора (D) и через два (E). При этом жизненный цикл того, что вы производите — один год. Как вы поступите? Выпустите продукт сейчас, добавив в него технологию А? Будете ждать еще год, чтобы интегрировать в один продукт технологии A, B, C, или будете ждать два года, чтобы интегрировать все от A до E? Только при этом, напомню, жизненный цикл продукции — один год, это означает, что то, что вы предложили год назад сегодня уже никто не покупает, потому что конкуренты выпустили новые модели с какими-то мелкими новыми фишечками. А технологии C, D и E еще настолько сырые, что полноценно пользоваться ими нельзя. Технология B при этом будет просто глючить в 10-20% случаев, т.е. у вас будут возвраты продукции, следовательно — убытки, в том числе репутационные.
Так как вы поступите, расскажите?
Так как вы поступите, расскажите?
Да, я не научный сотрудник и не веду исследований в этой области, но и Вы не имеете ко всему этому никакого отношения, а следовательно мы с Вами толкем воду в ступе.
Технологии выкладываются и используются сырыми повсеместно, с той целью, что нуждаются в обкатке на большом количестве потребителей, ибо команда тестеров не способна выявить все недоработки. В процессе эксплуатации выпускаются программные апдейты, например прошивки для телевизоров и роутеров, так и аппаратные апдейты, например у роутеров существуют аппаратные версии железа, модель роутера одна, а у неё несколько аппаратных ревизий, причем на аппаратном уровне они могут очень сильно отличаться, что я вам рассказываю, вы и сами это знаете.
И еще, по поводу Ваших A, B, C и т.д., Вы не поняли о чем я говорю. А я говорю о том, что многие производители уже сейчас разработали технологии, которые будут считаться новыми и прогрессивными на ближайшие 2-3 года, они уже есть, готовые на все 100% и их можно встроить в свои продукты, но производителям не выгодно выпускать продукт со всеми этими наворотами. Гораздо выгоднее выпустить продукт с частью этой прогрессивной технологии, а через полгода выпустить обновленную версию с небольшими добавками, еще через полгода еще порция новых плюшек, а параллельно с этим заниматься разработкой еще более новых технологии, вести научные исследования и т.п.
Например: Я разработал электронное устройство по управлению светом в квартире, оно умеет включать свет с любого пульта с ИК-излучателем, умеет включать свет по хлопку в ладоши, умеет включать свет с помощью смс, умеет включать свет с помощью голосовых команд, ну и верх крутизны, умеет включать свет с помощью жестов. Зачем мне выпускать на рынок устройство со всем этим функционалом вместе, когда я могу выпустить первую модель с: умеет включать свет с любого пульта с ИК-излучателем и умеет включать свет по хлопку в ладоши. Продать приличное количество таких девайзов и через полгода выпустить новую модель со всем тем же что было у старой модели + умеет включать свет с помощью смс + умеет включать свет с помощью голосовых команд. Я даю 100% гарантию, что вторая модель будет покупаться еще лучше чем первая, а потом вы выпустите 3 модель с функциями 2-й модули и + умеет включать свет с помощью жестов. Потребитель подсаженый на первые 2 модели, снова побежит к Вам и купит 3-ю модель и вы снова получите прибыль. А параллельно с продажами этих 3 моделей, я разрабатываю совершенно иное устройство с совершенно другими функциями.
Технологии выкладываются и используются сырыми повсеместно, с той целью, что нуждаются в обкатке на большом количестве потребителей, ибо команда тестеров не способна выявить все недоработки. В процессе эксплуатации выпускаются программные апдейты, например прошивки для телевизоров и роутеров, так и аппаратные апдейты, например у роутеров существуют аппаратные версии железа, модель роутера одна, а у неё несколько аппаратных ревизий, причем на аппаратном уровне они могут очень сильно отличаться, что я вам рассказываю, вы и сами это знаете.
И еще, по поводу Ваших A, B, C и т.д., Вы не поняли о чем я говорю. А я говорю о том, что многие производители уже сейчас разработали технологии, которые будут считаться новыми и прогрессивными на ближайшие 2-3 года, они уже есть, готовые на все 100% и их можно встроить в свои продукты, но производителям не выгодно выпускать продукт со всеми этими наворотами. Гораздо выгоднее выпустить продукт с частью этой прогрессивной технологии, а через полгода выпустить обновленную версию с небольшими добавками, еще через полгода еще порция новых плюшек, а параллельно с этим заниматься разработкой еще более новых технологии, вести научные исследования и т.п.
Например: Я разработал электронное устройство по управлению светом в квартире, оно умеет включать свет с любого пульта с ИК-излучателем, умеет включать свет по хлопку в ладоши, умеет включать свет с помощью смс, умеет включать свет с помощью голосовых команд, ну и верх крутизны, умеет включать свет с помощью жестов. Зачем мне выпускать на рынок устройство со всем этим функционалом вместе, когда я могу выпустить первую модель с: умеет включать свет с любого пульта с ИК-излучателем и умеет включать свет по хлопку в ладоши. Продать приличное количество таких девайзов и через полгода выпустить новую модель со всем тем же что было у старой модели + умеет включать свет с помощью смс + умеет включать свет с помощью голосовых команд. Я даю 100% гарантию, что вторая модель будет покупаться еще лучше чем первая, а потом вы выпустите 3 модель с функциями 2-й модули и + умеет включать свет с помощью жестов. Потребитель подсаженый на первые 2 модели, снова побежит к Вам и купит 3-ю модель и вы снова получите прибыль. А параллельно с продажами этих 3 моделей, я разрабатываю совершенно иное устройство с совершенно другими функциями.
Если говорить обо мне, то у меня два завершаемых в настоящий момент образования: управленческое и экономическое, плюс собственный бизнес. Авторитет я себе таким образом не набиваю, но читать что-то по специфике приходилось и приходится.
То, о чем вы говорите, хорошо на монополистическом рынке. И для максимизации прибыли это отличный вариант. Но только в случае монополии, ибо покупателю деваться некуда. А вот в случае конкурентного рынка эта стратегия без сговора невозможна, потому что если новую технологию не выпустите вы, её выпустит конкурент. А сговор в нынешних условиях — это опять же теория заговора, потому что в последнее время была масса процессов по сговорам, и участники получали по экономической макушке очень жестко, поэтому маловероятно, что кто-то на это решится.
И еще, по поводу Ваших A, B, C и т.д., Вы не поняли о чем я говорю. А я говорю о том, что многие производители уже сейчас разработали технологии, которые будут считаться новыми и прогрессивными на ближайшие 2-3 года, они уже есть, готовые на все 100% и их можно встроить в свои продукты, но производителям не выгодно выпускать продукт со всеми этими наворотами. Гораздо выгоднее выпустить продукт с частью этой прогрессивной технологии, а через полгода выпустить обновленную версию с небольшими добавками, еще через полгода еще порция новых плюшек
То, о чем вы говорите, хорошо на монополистическом рынке. И для максимизации прибыли это отличный вариант. Но только в случае монополии, ибо покупателю деваться некуда. А вот в случае конкурентного рынка эта стратегия без сговора невозможна, потому что если новую технологию не выпустите вы, её выпустит конкурент. А сговор в нынешних условиях — это опять же теория заговора, потому что в последнее время была масса процессов по сговорам, и участники получали по экономической макушке очень жестко, поэтому маловероятно, что кто-то на это решится.
То, о чем вы говорите, хорошо на монополистическом рынке.
Выходит если у нас такое делают, то значит мы на монополистическом рынке, а если не на монополистическом, то на конкурентном, но со сговором. Вы видать никогда не договаривались с конкурентами, раз думаете это маловероятно. Но по собственной практике, скажу что это частое явление, хоть и незаконное, хотя смотря с какой стороны посмотреть. Если я за месяц отработаю наложенные на меня штрафы, то это меня не чуть не смутит продолжать в том же духе и дальше, и чем больше прибыль, тем меньше смущения. А штрафы у нас смешные, если смотреть на масштабы годовой прибыли штрафуемой компании, поэтому сговор есть, как ни крути, верите Вы в это или нет. Все договариваются.
потому что если новую технологию не выпустите вы, её выпустит конкурент.
Возможно поэтому на заграничном рынке есть такая штука как патенты, придумал ты что-то новое, не успел выпустить, а патент на технологию у тебя и тогда конкуренты нервно курят бамбук. Либо нужно придумать что-то кардинально новое и свое, либо стырить чужое и чуть изменить, но тогда рано или поздно к тебе придут дяди и захотят оттяпать кусок твоего пирога.
не успел выпустить, а патент на технологию у тебя и тогда конкуренты нервно курят бамбук.
Но вот беда: самые сливки надо собирать, пока патент действует. Скоро он заекспайрится, и нахлынут конкуренты с тем же товаром. А еще китайцы, которые клали на патенты, сразу подсуетятся.
Выходит если у нас такое делают, то значит мы на монополистическом рынке, а если не на монополистическом, то на конкурентном, но со сговором.
Да я не понимаю, где доказательства-то? Хотя бы один пруф приведите, а? Вы аргументов не приводите, вы выдаёте утверждения в стиле «это так!». Почему это «так», с чего вы это взяли, где это услышали — ни малейших доводов и доказательств. Даже логических выводов нет.
Что такое «монополистический рынок» и «конкурентный рынок» вы вообще представляете?
Возможно поэтому на заграничном рынке есть такая штука как патенты
Не на всё можно купить патент. Кроме того, вы не имеете права придерживать и никому не давать воспользоваться вашим патентом, если он имеет большое влияние; вас опять же элементарно засудят, если вы не договоритесь о лицензировании. А если договоритесь, то, опять же, возникнет описанная выше проблема. На собственном изобретении можно заработать гораздо больше, чем на лицензиях (конечно, если мы не говорим о чем-то фундаментальном).
Ой да бросьте Вы, иметь в загашнике и не эксплуатировать, так деляют повсеместно все производители. Возьмем к примеру Samsung, летом 2012 года вышели телики с логотипом Smart, они и до этого были, просто тут цены на них снизились до покупных, в августе я покупаю супер пупер навороченный телик Samsung со Smart, через пол года выходит новое поколение Smart с управлением жестами и голосом, и вы наивно думаете что Samsung сделали следующую линейку на 6 месяцев?
Думаю все на порядок проще. Эти линейки теликов просто отличаются друг от друга исключительно названиями и маркетинговыми слоганами.
Просто нет никакого прогресса, есть один маркетинг.
Когда происходят серьезные изменения — например после выхода iPhone все производители наперегонки пускаются делать аналогичные устройства, даже если они получаются откровенно сырыми и недоделанными.
А те кто этого не успевает сделать — вылетают с рынка как Rim или Nokia.
Если даже откинуть всю геополитику, то технология создания ядерной бомбы это просто очень дорого, долго и наукоёмко (что тоже дорого и долго). Нужно строить не просто завод для изготовления бомбы, а целый комплекс с полным ядерным циклом. А так, никто не мешает, все ключевые принципы давно выложены даже на разных тематических форумах.
Бабушкина тоже по ТВ показывали. Где он сейчас? Однозначно в Майкрософте, напарник Руссиновича.
Я ничего не перепутал? :-Q
Я ничего не перепутал? :-Q
Выделяемое человеком тепло в качестве источника питания))) (вспомнилось творение брата и сестры Вачовски)
Есть поистине неисчерпаемая энергия Солнца. На месте ИИ я бы попробовал запустить эволюционный алгоритм, который смоделировал бы процесс фотосинтеза, максимально приближенный к тому, что происходит в растениях.
Мне кажется этот вариант не подойдет. Энергии много, да, но рассеяна по невероятно огромной площади. Растениям не нужно много двигаться, поэтому энергии солнца им хватает. Для чего-то более серьезного нужны источники с много бОльшим выхлопом. Не будет же боевой робот просить человечество подождать немного, пока он зарядит свой бластер от солнечного света? Да и уязвимый источник энергии, так же ограничивается как и доступ к розетке.
ну так можно сделать неподвижные «солнечныйе заправки» для двигающихся роботов
Над которыми можно создать, опять же, пылевую завесу или завесу из туч, благо химия уже и не такое умеет, хотя и дороговато получается. Так даже удобнее, не придется всю планету пылевым облаком накрывать. И да, централизация к добру не приводит. «главный бункер» можно взорвать, захватить, изолировать или еще что-то, насколько бы он ни был защищен. Нужны именно компактные источники питания или батарейки с невероятной емкостью, которые позволят автономно функционировать достаточно долгое время, нужное для восстановления контроля над стратегической розеткой.
У Лема в «Непобедимом» была туча, состоящая из отдельных автономных небольших механических «насекомых», которые заряжались на странных железных растениях.
http://flibusta.net/b/138154
Про растения
После короткого совещания колонна двинулась дальше и вскоре добралась до места, где на склонах росли странные. необычайно густые металлические «кусты». Это были приземистые, высотой от одного до полутора метров образования. Они торчали из забитых черноватым илом трещин обнаженной скалы. Сначала они появлялись по одному, по два, а затем слились в монолитную гущу, ржавый, щетинистый слой, покрывавший склоны ущелья почти до самого дна, где, спрятавшись под камнями, сочилась тоненькая ниточка воды.
Между «кустами» виднелись отверстия пещер. Из одних струились тонкие ручейки, другие казались сухими. В те пещеры, отверстия которых находились низко, пробовали заглядывать, освещая их прожекторами. В одной из пещер нашли довольно много мелких, наполовину залитых капавшей со свода водой треугольных кристалликов. Целую горсть их Рохан сунул в карман. Потом они проехали еще с полкилометра вверх по ущелью, делавшемуся все более крутым. Пока что гусеницы машин хорошо справлялись с уклоном, а так как в двух местах снова удалось обнаружить следы ботинок в засохшем по берегам ручейка иле, Рохан не сомневался, что они сдут в нужном направлении. После одного из поворотов радиосвязь с суперкоптером значительно ухудшилась. Рохан приписал это экранирующему действию металлических зарослей. По обеим сторонам ущелья, местами почти вертикально, возносились стены, сплошь покрытые похожими на жесткий черный мех проволочными зарослями.
Проехали через двое довольно широких каменных ворот, — это заняло много времени, так как техникам поля пришлось очень осторожно уменьшать радиус защиты, чтобы не задеть за скалы. Скалы были рыхлые, разъеденные эрозией, и каждый энергетический удар, вызванный случайным соприкосновением поля со скальным массивом, мог вызвать лавину. Они боялись, конечно, не за себя, а за пропавших товарищей, которых такой обвал — если они находились поблизости — мог поранить или убить.
Прошло около часа после того, как прервалась радиосвязь, когда на экранах магнитных индикаторов появились частые вспышки. Пеленгаторы, казалось, вышли из строя, и при попытках выяснить, откуда поступают импульсы, показывали все стороны света одновременно. Только с помощью индикаторов напряженности и поляризаторов удалось установить, что источником переменного магнитного поля являются заросли, покрывающие стены ущелья. Лишь тогда заметили, что здесь заросли выглядят иначе, чем в оставшейся позади части ущелья: пропал ржавый налет, кусты стали выше, больше и словно еще чернее, их стержни или ветви были облеплены странными утолщениями. Рохан решил не заниматься их исследованием: не следовало рисковать, открывая силовое поле.
Поехали немного быстрее, импульсометры и магнитные индикаторы показывали все более разнородную активность. Подняв глаза, можно было увидеть, как кое-где над поверхностью черной чащи дрожит воздух, словно нагретый до высокой температуры, а за вторыми каменными воротами, над кустами, появились едва заметные облачка, похожие на разлетающийся дым. Но это происходило так высоко, что в природе облачков нельзя было разобраться даже с помощью бинокля. Правда, Ярг, одаренный очень острым зрением, утверждал, что эти «дымки» выглядят как рой маленьких насекомых.
Между «кустами» виднелись отверстия пещер. Из одних струились тонкие ручейки, другие казались сухими. В те пещеры, отверстия которых находились низко, пробовали заглядывать, освещая их прожекторами. В одной из пещер нашли довольно много мелких, наполовину залитых капавшей со свода водой треугольных кристалликов. Целую горсть их Рохан сунул в карман. Потом они проехали еще с полкилометра вверх по ущелью, делавшемуся все более крутым. Пока что гусеницы машин хорошо справлялись с уклоном, а так как в двух местах снова удалось обнаружить следы ботинок в засохшем по берегам ручейка иле, Рохан не сомневался, что они сдут в нужном направлении. После одного из поворотов радиосвязь с суперкоптером значительно ухудшилась. Рохан приписал это экранирующему действию металлических зарослей. По обеим сторонам ущелья, местами почти вертикально, возносились стены, сплошь покрытые похожими на жесткий черный мех проволочными зарослями.
Проехали через двое довольно широких каменных ворот, — это заняло много времени, так как техникам поля пришлось очень осторожно уменьшать радиус защиты, чтобы не задеть за скалы. Скалы были рыхлые, разъеденные эрозией, и каждый энергетический удар, вызванный случайным соприкосновением поля со скальным массивом, мог вызвать лавину. Они боялись, конечно, не за себя, а за пропавших товарищей, которых такой обвал — если они находились поблизости — мог поранить или убить.
Прошло около часа после того, как прервалась радиосвязь, когда на экранах магнитных индикаторов появились частые вспышки. Пеленгаторы, казалось, вышли из строя, и при попытках выяснить, откуда поступают импульсы, показывали все стороны света одновременно. Только с помощью индикаторов напряженности и поляризаторов удалось установить, что источником переменного магнитного поля являются заросли, покрывающие стены ущелья. Лишь тогда заметили, что здесь заросли выглядят иначе, чем в оставшейся позади части ущелья: пропал ржавый налет, кусты стали выше, больше и словно еще чернее, их стержни или ветви были облеплены странными утолщениями. Рохан решил не заниматься их исследованием: не следовало рисковать, открывая силовое поле.
Поехали немного быстрее, импульсометры и магнитные индикаторы показывали все более разнородную активность. Подняв глаза, можно было увидеть, как кое-где над поверхностью черной чащи дрожит воздух, словно нагретый до высокой температуры, а за вторыми каменными воротами, над кустами, появились едва заметные облачка, похожие на разлетающийся дым. Но это происходило так высоко, что в природе облачков нельзя было разобраться даже с помощью бинокля. Правда, Ярг, одаренный очень острым зрением, утверждал, что эти «дымки» выглядят как рой маленьких насекомых.
Про насекомых
Утром астрогатор вызвал специалистов, обрисовал им создавшееся положение и объявил, что рассчитывает на их помощь. В распоряжении ученых находилась горсточка металлических «насекомых», которую принес в кармане куртки Рохан. Их исследованием занимались почти сутки. Хорпах хотел знать, существуют ли какие-нибудь шансы обезвредить эти существа. Вновь встал вопрос: что спасло Ярга и Рохана от атаки тучи?
«Пленники» занимали во время совещания почетное место в закрытом стеклянном сосуде, стоявшем посреди стола. Их осталось всего десятка полтора, остальные были уничтожены в процессе изучения. Все эти создания обладали тройственной симметрией и напоминали формой букву Y, с тремя остроконечными плечами, соединяющимися в центральном утолщении. В падающем свете они казались черными, как уголь, в отраженном — переливались синим и оливковым цветом, как брюшки некоторых земных насекомых. Наружные их стенки состояли из очень мелких пластин, напоминающих грани бриллианта, а внутри «мушки» содержали одну и ту же микроскопическую конструкцию. Ее элементы, в сотни раз меньшие, чем зернышки песка, образовывали что-то вроде автономной нервной системы, в которой удалось различить две частично независимые друг от друга цепи.
Меньшая часть, занимающая внутренность плеч, представляла собой микроскопическую схему, заведующую движениями «насекомого», что-то вроде универсального аккумулятора и одновременно трансформатора энергии. В зависимости от способа, каким сжимали кристаллы, они создавали то электрическое, то магнитное поле, то переменные силовые поля, которые могли нагревать до относительно высокой температуры центральную часть; тогда накопленное тепло излучалось наружу однонаправленно. Вызванное этим движение воздуха, как реактивная струя, делало возможным движение в любом направлении. Отдельный кристаллик не столько летал, сколько подпрыгивал, и не был, во всяком случае во время лабораторных экспериментов, способен точно управлять своим полетом. Несколько же кристалликов, соединяясь кончиками плеч друг с другом, образовывали систему с тем лучшими аэродинамическими показателями, чем больше их было.
Каждый кристаллик соединялся с тремя; кроме того, он мог соединяться концом плеча с центральной частью любого другого, что давало возможность образования многослойных комплексов. Соединение не обязательно требовало соприкосновения, кристалликам достаточно было сблизиться, чтобы возникшее магнитное поле удерживало все образование в равновесии. При определенном количестве насекомых система начинала проявлять многочисленные закономерности; могла в зависимости от того, как ее «дразнили» внешними импульсами, менять направление движения, форму, вид, частоту внутренних пульсаций; при определенных внешних условиях менялись знаки поля, и, вместо того чтобы притягиваться, металлические кристаллики отталкивались, переходили в состояние «индивидуальной россыпи».
Кроме цепи, заведующей такими движениями, каждый черный кристаллик содержал в себе еще одну схему соединений, вернее ее фрагмент, так как она, казалось, составляла часть какой-то большой структуры. Это высшее целое, вероятно возникающее только при объединении огромного количества элементов, и было истинным мотором, приводящим тучу в действие. Здесь, однако, сведения ученых обрывались. Они не ориентировались в возможностях роста этих сверхсистем, и уж совсем темным оставался вопрос об их «интеллекте». Кронотос допускал, что объединяется тем больше элементарных единиц, чем более трудную проблему им нужно решить. Это звучало довольно убедительно, но ни кибернетики, ни специалисты по теории информации не знали ничего соответствующего такой конструкции, то есть «произвольно разрастающемуся мозгу», который свои размеры примеряет к величине намерений.
Часть принесенных Роханом «насекомых» была испорчена. Остальные демонстрировали типовые реакции. Единичный кристаллик мог подпрыгивать, подниматься и висеть в воздухе почти неподвижно, опускаться, приближаться к источнику импульсов либо удаляться от него. При этом он не представлял абсолютно никакой опасности, не выделял, даже при угрозе уничтожения (а исследователи пробовали уничтожить кристаллы химическими средствами, нагреванием, силовыми полями и излучением), никаких видов энергии, и его можно было раздавить как слабенького земного жучка — с той только разницей, что кристалло-металлический панцирь сокрушить было не так-то легко. Зато объединившись даже в сравнительно небольшую систему, «насекомые» начинали, при воздействии на них магнитным полем, создавать собственное поле, которое уничтожало внешнее, при нагревании стремились избавиться от излишка тепла инфракрасным излучением — а ведь ученые располагали лишь маленькой горсточкой кристалликов.
«Пленники» занимали во время совещания почетное место в закрытом стеклянном сосуде, стоявшем посреди стола. Их осталось всего десятка полтора, остальные были уничтожены в процессе изучения. Все эти создания обладали тройственной симметрией и напоминали формой букву Y, с тремя остроконечными плечами, соединяющимися в центральном утолщении. В падающем свете они казались черными, как уголь, в отраженном — переливались синим и оливковым цветом, как брюшки некоторых земных насекомых. Наружные их стенки состояли из очень мелких пластин, напоминающих грани бриллианта, а внутри «мушки» содержали одну и ту же микроскопическую конструкцию. Ее элементы, в сотни раз меньшие, чем зернышки песка, образовывали что-то вроде автономной нервной системы, в которой удалось различить две частично независимые друг от друга цепи.
Меньшая часть, занимающая внутренность плеч, представляла собой микроскопическую схему, заведующую движениями «насекомого», что-то вроде универсального аккумулятора и одновременно трансформатора энергии. В зависимости от способа, каким сжимали кристаллы, они создавали то электрическое, то магнитное поле, то переменные силовые поля, которые могли нагревать до относительно высокой температуры центральную часть; тогда накопленное тепло излучалось наружу однонаправленно. Вызванное этим движение воздуха, как реактивная струя, делало возможным движение в любом направлении. Отдельный кристаллик не столько летал, сколько подпрыгивал, и не был, во всяком случае во время лабораторных экспериментов, способен точно управлять своим полетом. Несколько же кристалликов, соединяясь кончиками плеч друг с другом, образовывали систему с тем лучшими аэродинамическими показателями, чем больше их было.
Каждый кристаллик соединялся с тремя; кроме того, он мог соединяться концом плеча с центральной частью любого другого, что давало возможность образования многослойных комплексов. Соединение не обязательно требовало соприкосновения, кристалликам достаточно было сблизиться, чтобы возникшее магнитное поле удерживало все образование в равновесии. При определенном количестве насекомых система начинала проявлять многочисленные закономерности; могла в зависимости от того, как ее «дразнили» внешними импульсами, менять направление движения, форму, вид, частоту внутренних пульсаций; при определенных внешних условиях менялись знаки поля, и, вместо того чтобы притягиваться, металлические кристаллики отталкивались, переходили в состояние «индивидуальной россыпи».
Кроме цепи, заведующей такими движениями, каждый черный кристаллик содержал в себе еще одну схему соединений, вернее ее фрагмент, так как она, казалось, составляла часть какой-то большой структуры. Это высшее целое, вероятно возникающее только при объединении огромного количества элементов, и было истинным мотором, приводящим тучу в действие. Здесь, однако, сведения ученых обрывались. Они не ориентировались в возможностях роста этих сверхсистем, и уж совсем темным оставался вопрос об их «интеллекте». Кронотос допускал, что объединяется тем больше элементарных единиц, чем более трудную проблему им нужно решить. Это звучало довольно убедительно, но ни кибернетики, ни специалисты по теории информации не знали ничего соответствующего такой конструкции, то есть «произвольно разрастающемуся мозгу», который свои размеры примеряет к величине намерений.
Часть принесенных Роханом «насекомых» была испорчена. Остальные демонстрировали типовые реакции. Единичный кристаллик мог подпрыгивать, подниматься и висеть в воздухе почти неподвижно, опускаться, приближаться к источнику импульсов либо удаляться от него. При этом он не представлял абсолютно никакой опасности, не выделял, даже при угрозе уничтожения (а исследователи пробовали уничтожить кристаллы химическими средствами, нагреванием, силовыми полями и излучением), никаких видов энергии, и его можно было раздавить как слабенького земного жучка — с той только разницей, что кристалло-металлический панцирь сокрушить было не так-то легко. Зато объединившись даже в сравнительно небольшую систему, «насекомые» начинали, при воздействии на них магнитным полем, создавать собственное поле, которое уничтожало внешнее, при нагревании стремились избавиться от излишка тепла инфракрасным излучением — а ведь ученые располагали лишь маленькой горсточкой кристалликов.
http://flibusta.net/b/138154
Они могут заряжаться днём, маскируясь под деревья, а ночью атаковать.
Человечество давно создало себе кучу табу на вооружение, и уничтожать человечество лазерами неэффективно, есть биологическое оружие, химическое. Которое куда эффективней, и требует энергию только для производства.
А зачем, если растения уже есть? Иначе говоря чем это будет отличаться от уже существующих растений?
Читал мнение, что фотосинтез — довольно накладная и малопроизводительная штука. И его КПД не превышает 4%. Самые дешёвые солнечные батареи давно уже переплюнули фотосинтез.
Слышал мнение, что человек не умеет так эффективно извлекать энергию Солнца, как это делают растения.
В «Космос: Пространство и время», вроде бы.
На досуге обязательно поищу какой-нибудь материал на эту тему.
В «Космос: Пространство и время», вроде бы.
На досуге обязательно поищу какой-нибудь материал на эту тему.
Элементы дают только электрический ток, а растения синтезируют сложные химические соединения. Если добавить в цепочку синтез аналогичных соединений КПД будет совсем другой. А если еще повторное преобразование в электричество путем сжигания в генераторе…
С другой стороны человеку ничто не мешает пользоваться уже существующими растениями.
С другой стороны человеку ничто не мешает пользоваться уже существующими растениями.
Исходный комментарий не мой был. Я просто зацепился за сравнение растения с солнечной батареей. Разные же вещи совершенно.
Если нам нужен электрический ток — это одно.
А вот если нужна еда или углеводороды, совсем другое. Еда — это ведь тоже энергия.
Что именно имел в виду автор исходного комментария я не знаю.
Если нам нужен электрический ток — это одно.
А вот если нужна еда или углеводороды, совсем другое. Еда — это ведь тоже энергия.
Что именно имел в виду автор исходного комментария я не знаю.
Это если мы предполагаем что ИИ находится примерно на уровне развития человека, понятен и агрессивен. Другое дело а что если он не агрессивен, но обладает уже знаниями неподвластными человечеству на данный момент, и при этом предоставляемыми человеку для пользования. То есть людям что то предоставляет этот самый ИИ, но люди уже не понимают как оно работает. И что будет если в один прекрасный день он отключится. Сможет человечество это пережить, или нет? И кто тогда решится его отключить, и скатиться до первобытного общества?
Почему бы не использовать людей в качестве источника питания… Заставят нас крутить педали под страхом смерти.
Сразу видно, что Хокинг физик, а не программист. Любому программисту очевидно, что ИИ, как и любая другая достаточно сложная компьютерная программа, без обслуживания системным администратором, новых версий, рефакторинга и апгрейда железа через пару лет самопроизвольно превратится в тупое, тормозящее и практически неработоспособное поделие.
Я бы согласился, но вот тягаться в пониманием ИИ с его соавтором Стюартом Расселом, автором книги AIMA, я бы не стал.
Про генетические алгоритмы не слышали да? :)
И, тем не менее chtoes.li/page/robot-apocalypse
Вы сначала запрограммируйте искусственный интеллект так, чтобы он не падал ни при каких обстоятельствах, не зависал и эффективно развивался, не превращаясь из человекоподобного разума в тыквообразный. Теоретики.
Как ярый сторонник теории технологической сингулярности, считаю, что страхи не обоснованы. Истребление человечества очень тяжелый процесс, и ИИ поймет это лучше всех. Я верю в симбиоз человека и технологий, после наступления сингулярности. Он даст нам возможность быть на равне с ИИ, помимо того, что сделает нас бессмертными. Да, конечно, это произойдет не сразу, и не для всех, но это лучший вариант развития событий, и он приведет нашу цивилизацию к новым горизонтам величия.
ИИ некуда спешить, он подождет когда человечество вымрет естественным способом(от нехватки ресурсов), и даже немного ускорит этот процесс при необходимости. В конце-концов, если это технологическая сингулярность то появится космический корабль способный доставить «ростки ИИ» до пояса астероидов, а уж там-то и материала и энергии предостаточно для развития… чего ему сдалась эта «Земля»?
Полагаю проблему с человечеством легко может решить годный легко передающийся смертельный вирус с длительным инкубационным периодом. При желании наверное можно сделать его даже избирательным и истреблять каких-то конкретных людей. Причем сам ИИ может противодействовать нахождению лечения. Возможно подобные технологии доступны и сейчас.
Вы только что описали замечательную игру по Андроид — Pandemia. Одна из наиболее выигрышных тактик — затаиться, а потом резко мутировать с комой, кровотечениями и диареей впридачу.
Одно непонятно — зачем здесь ИИ и почему такой вирус не сделают сами люди без всякого ИИ.
Кстати есть более мягкий вариант — вирус, вызывающий бесплодие. В таком случае даже на захоронение тел тратиться не надо, разве что на последних.
Я вам даже проще скажу — проблему человечества могут решить очень много ядерных бомб и баллистических ракет, способных надежно доставить их во все точки планеты. Но причем здесь ИИ?
Кстати есть более мягкий вариант — вирус, вызывающий бесплодие. В таком случае даже на захоронение тел тратиться не надо, разве что на последних.
Я вам даже проще скажу — проблему человечества могут решить очень много ядерных бомб и баллистических ракет, способных надежно доставить их во все точки планеты. Но причем здесь ИИ?
Я отвечал на реплику о том, что человечество уничтожить сложно (что сделать, мой взгляд, логично). Мне кажется, что при помощи биологического оружия это вполне реализуемо. А преимущество перед ядерным для ИИ в том, что не разрушается все остальное и никак не влияет на сам ИИ.
Мне кажется, что при помощи биологического оружия это вполне реализуемо.
Биологическое оружие не уничтожит вообще всех людей. Остаток все равно придется добивать обычными средствами.
Ну и само собой необходимо чтобы лди не поняли откуда оно взялось и не успели нанести удар возмездия тем же ядерным оружием.
В StarGate была серия где встретили расу, которая захватывала другие расы путем их заражения штукой, которая вызывала бесплодие. Так вот чтобы решить эту проблему пришлось ловить вспышку на Солнце и переместиться во времени чтобы… ну вы поняли)
Все эти достижения меркнут на фоне того, что нас ждет в ближайшие десятилетия. Успешное создание искусственного интеллекта станет самым большим событием в истории человечества. К сожалению, оно может оказаться последним, если мы не научимся избегать рисков.
Что за желтая пресса?
Где вы в высказывании Хокинга нашли хоть слово про, то что искусственный интеллект является величайшей ошибкой человечества?
Если Искусственный Интеллект (в самом идеальном его понимании) возможен, то человечество как вид обречено. Было бы странно если бы ИИ нас оставил живыми, свободными и главными (т.е. контролирующими ИИ) одновременно (выберите любые 2).
Как вид мы съедим все доступные ресурсы, а если неожиданно ограничения по ресурсам уйдут с уровня «планета» на уровень солнечная система/галактика/вселенная — то мы будем угроза солнечной системе/галактике вселенной. Так что нас как вид ИИ придется или «закрыть», ограничить или контролировать (возможно чтобы мы при этом ещё и ничего не замечали).
в душе я «ИИ — оптимист», т.е. я думаю что ИИ возможен и желателен.
По-моему очень круто создать, что-то что превосходит тебя! Лаже если не хватает мозгов понять насколько превосходит, даже если это означает что ты перестал быть самым умным (и главным).
Риски создания ИИ есть и оч. тяжело их оценить — и оч. интересно, когда умные люди вроде Хокинга рассказывают об этом. Хотя по-моему риски не в том, что ИИ «поработит» человечество, а в том, что есть риск что человечество само себя убьет «по глупости» (так и не создав полноценный ИИ).
Как вид мы съедим все доступные ресурсы, а если неожиданно ограничения по ресурсам уйдут с уровня «планета» на уровень солнечная система/галактика/вселенная — то мы будем угроза солнечной системе/галактике вселенной. Так что нас как вид ИИ придется или «закрыть», ограничить или контролировать (возможно чтобы мы при этом ещё и ничего не замечали).
в душе я «ИИ — оптимист», т.е. я думаю что ИИ возможен и желателен.
По-моему очень круто создать, что-то что превосходит тебя! Лаже если не хватает мозгов понять насколько превосходит, даже если это означает что ты перестал быть самым умным (и главным).
Риски создания ИИ есть и оч. тяжело их оценить — и оч. интересно, когда умные люди вроде Хокинга рассказывают об этом. Хотя по-моему риски не в том, что ИИ «поработит» человечество, а в том, что есть риск что человечество само себя убьет «по глупости» (так и не создав полноценный ИИ).
Заголовок «желтоват» и имеет мало общего с содержанием :)
Управлять (искуственным интеллектом) — значит иметь возможность выключить.
Многие думают, что управлять — значит направлять, манипулировать, руководить и тд. Но основная возможность управления — это возможность отключения. Правда, не знаю, зачем я это написал, ну да ладно.
Многие думают, что управлять — значит направлять, манипулировать, руководить и тд. Но основная возможность управления — это возможность отключения. Правда, не знаю, зачем я это написал, ну да ладно.
Управление через выключение это тирания. Слишком примитивно и жестоко. Если ИИ будет хоть сколько-то схож с человеком, то первое что он сделает (или первое что он будет планировать) — избавление от этой тирании.
Управление ведь можно осуществлять и более мягкими (а главное эффективными!) способами. Для нас, людей, управление миром сводится скорее к приведению его к нужному состоянию в определённый интервал времени в будущем. Можно это делать разными идиотскими законами (примеров предостаточно), а можно и очень искусно и незаметно — создавая необходимые условия, градиент, который так и будет тянуть к нужной точке. Второй способ конечно намного сложней, так как он требует работы интеллекта и изучения устройства мира (возможно поэтому он крайне непопулярен в высших эшелонах власти в наше время — пришлось бы отвлекаться от наслаждения благами...)
Управление ведь можно осуществлять и более мягкими (а главное эффективными!) способами. Для нас, людей, управление миром сводится скорее к приведению его к нужному состоянию в определённый интервал времени в будущем. Можно это делать разными идиотскими законами (примеров предостаточно), а можно и очень искусно и незаметно — создавая необходимые условия, градиент, который так и будет тянуть к нужной точке. Второй способ конечно намного сложней, так как он требует работы интеллекта и изучения устройства мира (возможно поэтому он крайне непопулярен в высших эшелонах власти в наше время — пришлось бы отвлекаться от наслаждения благами...)
Речь идет не об управлении выключением, а о возможности выключения.
Еще, такая мысль, если у ИИ будут такие сущности, как положительное и отрицательное подкрепление (поощрение/наказание), то можно жестко прописать, что отключение — это или нейтральное или жизненно необходимое действие, ну как профилактика серверов там… чтобы это не воспринималось как тирания, и может статься, что ИИ будет иногда даже напоминать, мол Повелитель, а не пора ли меня выключить?
Еще, такая мысль, если у ИИ будут такие сущности, как положительное и отрицательное подкрепление (поощрение/наказание), то можно жестко прописать, что отключение — это или нейтральное или жизненно необходимое действие, ну как профилактика серверов там… чтобы это не воспринималось как тирания, и может статься, что ИИ будет иногда даже напоминать, мол Повелитель, а не пора ли меня выключить?
Мягкие и эффективные способы управления возможны, когда ИИ всё-же не превзошел нас и наш разум. Это можно сравнить с дрессировкой животного: тирания тут понятно не годится, когда вы дрессируете животное. Но теперь представьте, что вас дрессирует собака. Реально? Нет. Так же и мы не сможем мягко управлять более разумной сущностью. А теперь представьте себя на месте собаки: вы не понимаете, что «он» делает, зачем, для чего, что «он» хочет в итоге добиться… страшно.
В этой ситуации только этот самый животный инстинкт и сможет спасти: убить. То есть выключить. Это и будет контролем, другого не дано.
В этой ситуации только этот самый животный инстинкт и сможет спасти: убить. То есть выключить. Это и будет контролем, другого не дано.
Мне не совсем понятно в чём таком может выражаться большая разумность, чтобы человек не смог найти подходы к сущности, наделённой такой разумностью. На данный момент единственное чем может превзойти человека ИИ это скорость быстродействия и объём «оперативной» памяти. ИИ конечно может изобрести некую особую культуру, совершенно нам непонятную, но, если она логична, то мы сможем постичь её просто принимая как аксиомы основы этой культуры. Разве когда мы читаем фантастику, мы не делаем то же самое? При этом мы можем даже моделировать (в смысле предсказывать) поведение персонажей в канве этой несуществующей культуры. Всё это возможно в силу того что существуют некоторые базовые принципы (в том числе логика) которые руководят действиями людей, а иногда и в мире животных мы можем их явно прослеживать. Если же ИИ будет действовать в разрез с этими принципами, то вряд ли мы вообще сможем назвать его интеллектом…
В том-то и дело, что мы можем пытаться понять, взаимодействовать, рассуждать о ней под пиво, но никак не сможем управлять. То есть этот «высший разум» просто не позволит нам этого сделать, либо сделает вид, что «управляется», но будет делать и развиваться по своему.
При взаимодействии с высокоинтеллектуальной сущностью граница понятия «управления» сильно размывается. Даже если сравнить простую программу (в которой вы можете написать
if (x==0) do_some_procedure(); и железо тупо и методично выполнит этот код) с нейронной сетью, то последнюю уже приходится обучать, подготавливая для неё хорошие наборы данных. Даже тут мы уже можем не понимать как она достигает результата, но именно в этом и прелесть нейронной сети, что она решает задачу, когда неизвестен простой алгоритм. Если же сложность интеллектуальной системы будет сравнима с нашим мозгом, то и методы управления ею будут намного сложнее, чем написание простых скриптов. То есть конечно можно свести управление к перечислению инструкций (сохранив при этом гибкость интеллекта), но для этого систему нужно сначала обучить, чтобы она могла понимать эти инструкции и применять их в нужных ситуациях. Вряд ли мы сможем на халяву получить полное управление не решая проблем с самосознанием ИИ.
«Есть рубильник» ещё не значит «можно выключить».
Человечество напридумывало уже кучу вещей, которые нельзя выключить. Например, нельзя выключить систему охлаждения атомного реактора.
А про ИИ я читал у какого-то современного философа очень простую мысль. Примерно такую. Если появится разум, принципиально отличающийся от человеческого, то мы не сможем понять его мотивы и уловить закономерность в его действиях. Он нам не будет казаться разумным. (Таракан, ползущий по раковине видит, как я мою посуду, но он не думает о водопроводе, кулинарии, многовековой истории столовых приборов, и у него нет никаких оснований считать меня разумным.) Вывод: возможно ИИ уже есть. Может быть совокупность перемещений всего автотранспорта образует личность? Или что угодно ещё. Любая достаточно крупная система, саморегулирующаяся и непостижимая во всей своей полноте — кандидат на ИИ.
Мысль не моя, но что-то в ней есть. Мне она не кажется пустой.
Человечество напридумывало уже кучу вещей, которые нельзя выключить. Например, нельзя выключить систему охлаждения атомного реактора.
А про ИИ я читал у какого-то современного философа очень простую мысль. Примерно такую. Если появится разум, принципиально отличающийся от человеческого, то мы не сможем понять его мотивы и уловить закономерность в его действиях. Он нам не будет казаться разумным. (Таракан, ползущий по раковине видит, как я мою посуду, но он не думает о водопроводе, кулинарии, многовековой истории столовых приборов, и у него нет никаких оснований считать меня разумным.) Вывод: возможно ИИ уже есть. Может быть совокупность перемещений всего автотранспорта образует личность? Или что угодно ещё. Любая достаточно крупная система, саморегулирующаяся и непостижимая во всей своей полноте — кандидат на ИИ.
Мысль не моя, но что-то в ней есть. Мне она не кажется пустой.
Вот в этой книжке читал www.ozon.ru/context/detail/id/1494025/ Очень рекомендую всем, кто интересуется ИИ, особенно, философской составляющей вопроса: возможен/невозможен, опасен/неопасен?.. Ответов там нет, мы многие мысли хороши.
Поддерживаю. Мы ничего не знаем о том, что на самом деле необходимо для зарождения разума (в общем понимании, а не по образу и подобию человеческого). У нас есть например глобальная компьютерная сеть, а ведь даже одна современная вычислительная машина представляет из себя достаточно сложную электрическую систему.
В первые мысль о том, что мы уже живем по соседству с другим интеллектом впервые мне пришла, когда слушал как долго «договаривались» два модема на плохой линии. ;)
В первые мысль о том, что мы уже живем по соседству с другим интеллектом впервые мне пришла, когда слушал как долго «договаривались» два модема на плохой линии. ;)
В Солярисе у Лема об этом прекрасно написано.
Разум, принципиально отличающийся от человеческого — очень странное допущение. Также как и то, что разум человеческий как-то принципиально отличается от разума таракана. Количественно больше, гормонально и нервно сложнее, это нам и даёт возможность думать абстрактно. Мысли — сложные реакции на сложные раздражители.
Сеченов, «Элементы мысли», написано давно, но Дарвин доже давно писал.
Сеченов, «Элементы мысли», написано давно, но Дарвин доже давно писал.
Откуда вам знать, о чём думает таракан?
И да, я тоже во время мытья посуды не думаю о водопроводе, кулинарии, многовековой истории столовых приборов. Это, кстати, не означает, что я таракан.
И да, я тоже во время мытья посуды не думаю о водопроводе, кулинарии, многовековой истории столовых приборов. Это, кстати, не означает, что я таракан.
Для меня лично, эта проблема более философская:
Насколько умным будет считаться существо, своим интеллектом создавшее нечто умнее себя?
Насколько умным будет считаться существо, своим интеллектом создавшее нечто умнее себя?
А парадокс решается просто: как только существо создаст что-то, что действительно умнее его, оно (существо) не сможет оценить всю круть своего творения. Оно останется глупее творения. Разумы не сложатся. (см. мой коммент чуть выше.)
Представьте, что таракан создал человека. А человек вместо того, чтобы искать вкусные крошки, начал рыть каналы, чтобы возделывать злаки, чтобы потом печь хлеб… Возможно два варианта:
— таракан не дождётся появления крошек и переделает человека в большого и «более разумного» таракана. Прогресс не продвинется.
— таракан дождётся крошек, обрадуется, но не сможет понять устройства оросительной системы. Он просто останется тараканом в доме человека. (если не будет мешать)
Представьте, что таракан создал человека. А человек вместо того, чтобы искать вкусные крошки, начал рыть каналы, чтобы возделывать злаки, чтобы потом печь хлеб… Возможно два варианта:
— таракан не дождётся появления крошек и переделает человека в большого и «более разумного» таракана. Прогресс не продвинется.
— таракан дождётся крошек, обрадуется, но не сможет понять устройства оросительной системы. Он просто останется тараканом в доме человека. (если не будет мешать)
Насколько умным будет считаться существо, своим интеллектом создавшее нечто умнее себя?
Процесс создания чего-то что в совокупности умнее/быстрее/сильнее — это эволюция и в данном конкретном случае искусственный интеллект это эволюция естественного. Процесс эволюции является естественным по своей природе как естественно стремление к чему-то лучшему (и это лучшее не обязательно лучше для того, кто стоит в истоках эволюции). На данный момент мы стоим у порога эволюции био-углеродной жизни в кремниево-металлическую, но большой вопрос — будет одна замещена другой или симбиозом проживать на одной территории.
Тут есть два момента, во многом взаимосвязанные:
* интеллект — это не способность отвечать на вопросы, а способность их задавать
* проблема компьютеров, сетей, ИИ и прочего не в них самих, а в том, что человек начинает становиться похожим на них
* интеллект — это не способность отвечать на вопросы, а способность их задавать
* проблема компьютеров, сетей, ИИ и прочего не в них самих, а в том, что человек начинает становиться похожим на них
Если ИИ намного превосходит человечество, почему ему нельзя его вытеснить с этой планетки?
На каждое супер-оружие найдётся своя супер-защита.
Другими словами, если будет Skynet то будет и добрый Skynet.
Так что отставить панику.
Другими словами, если будет Skynet то будет и добрый Skynet.
Так что отставить панику.
О, холивар такой немаленький начался :).
Как появляются великие и повседневные изобретения мысли и тд?
Композиторы и писатели входят в некое состояние транса и пишут из них свои произведения.
Ученые, работая в лабораториях проверяют те или иные гипотезы, которые к ним периодически спускаются тоже в моменты «озарений».
Все величайшия открытия по сути рождаются изниоткуда. За редким исключением это происходит благодаря какой-то логической цепной реакции и обобщения множества фактов. Хотя для того чтобы продолжить логическую цепочку — нужно тоже понимание в каком направлении двигаться.
Так я к чему. ИИ не сможет получить тех «озарений», которые приходят ко многим из нас. Он сможет манипулировать исключительно на уровне логики. А простая логика не приведет к изобретению новых процессоров, новых самолетов и прочих интересных штук. Подойдя логически к любой идее можно ее развить в работающий концепт: это можно сделать прямолинейно (как взломщик паролей john the ripper), либо логически, отбрасывая заведомо ложные направления изысканий.
Как появляются великие и повседневные изобретения мысли и тд?
Композиторы и писатели входят в некое состояние транса и пишут из них свои произведения.
Ученые, работая в лабораториях проверяют те или иные гипотезы, которые к ним периодически спускаются тоже в моменты «озарений».
Все величайшия открытия по сути рождаются изниоткуда. За редким исключением это происходит благодаря какой-то логической цепной реакции и обобщения множества фактов. Хотя для того чтобы продолжить логическую цепочку — нужно тоже понимание в каком направлении двигаться.
Так я к чему. ИИ не сможет получить тех «озарений», которые приходят ко многим из нас. Он сможет манипулировать исключительно на уровне логики. А простая логика не приведет к изобретению новых процессоров, новых самолетов и прочих интересных штук. Подойдя логически к любой идее можно ее развить в работающий концепт: это можно сделать прямолинейно (как взломщик паролей john the ripper), либо логически, отбрасывая заведомо ложные направления изысканий.
Все величайшия открытия по сути рождаются изниоткуда.
Если отстраниться от эзотерики, то элементарная логика подсказывает, что это невозможно. Все мысли, так или иначе, являются продуктом работы мозга, а значит, достаточно полная модель мозга вполне сможет работать точно так же, как и оригинал. Просто значительная часть работы происходит не в сознательной части мозга, а в подсознании. Что-то из этого рано или поздно выплывает в сознание, иногда даже во сне, а там уж как повезет, может и годная мысль, может и не очень.
Музыка тоже логически открывается и писатели пишут свои произведения исходя из предыдущего опыта? :)
Вы не поверите.
Ну напишите мне хотя бы 5 строф продолжения 5-ой симфонии Баха.
Может, для этого надо обладать опытом Баха, или хотя бы базовыми талантами в области композиторства?
Так все-таки талант. То есть неталанлтивый искусственный интеллект не сможет написать ничего? :)
Но талант ведь берется не на пустом месте. Это и память, и специфически сформированная под воздействием опыта нейронная сеть мозга, и некоторые генетически полученные особенности мозга. Всё это можно эмулировать. И уже даже эмулируют.
Совершенно бесталанные генетические алгоритмы уже могут более или менее писать музыку и картины. Думаю, ИИ справится.
Тут можно долго спорить. Говоря что у человека происходят озарения вы забываете тот факт что человеку просто трудно проверить все возможности. Перебрать 1000 паролей — для человека выполнимая но трудная задача, а для компьютера — считанные милисекунды. Поэтому компьютеры сейчас лопатят пароли милионами а человек отгадывает пароли за 2-3 раза или не отгадывает никогда. Потому что эту работу можно переложить на компьютер.
Так же действовать будет и ИИ, только более разумно. Он не будет подбирать пароли простым перебором — он составит миллионы комбинаций основываясь на поведении человека в течение его жизни и опробуя в первую очередь наиболее вероятные комбинации или найдет другие пути добычи пароля.
Во вторых у ИИ как любой приличной нейросети тоже могут быть элементы озарений. Нейросеть это не всегда очень строгий автомат, да и с повышением количества источников информации воздействующей на нейросеть её поведение может стать зависимым даже от малейших воздействий, что будет в определенных ситуациях воспринято как озарения а на самом деле это сработала цепочка годами накапливающихся фактов. В сочетании с тем фактом что ИИ не будет чураться грязной работы по тупому перебору — он станет однозначно мощнее человеческого сознания.
Так же действовать будет и ИИ, только более разумно. Он не будет подбирать пароли простым перебором — он составит миллионы комбинаций основываясь на поведении человека в течение его жизни и опробуя в первую очередь наиболее вероятные комбинации или найдет другие пути добычи пароля.
Во вторых у ИИ как любой приличной нейросети тоже могут быть элементы озарений. Нейросеть это не всегда очень строгий автомат, да и с повышением количества источников информации воздействующей на нейросеть её поведение может стать зависимым даже от малейших воздействий, что будет в определенных ситуациях воспринято как озарения а на самом деле это сработала цепочка годами накапливающихся фактов. В сочетании с тем фактом что ИИ не будет чураться грязной работы по тупому перебору — он станет однозначно мощнее человеческого сознания.
Мне тут одна мысль пришла по поводу этих озарений… Вот допустим у нас есть некий абстрактный факт, скажем «нет выделенной системы отсчёта» или «нет такой частицы которая бы существовала сама по себе», и отталкиваясь от этого факта выведем все возможные следствия при помощи безупречной логики — получим связное множество фактов. Предположим, что наш ИИ умеет делать это очень быстро и безошибочно и поэтому основываясь на фактах известных его создателям, он очень быстро вывел все возможные следствия и таким образом узнал много такого к чему люди бы никогда не пришли сами.
Может ли оказаться так, что есть некий факт недостижимый из того множества фактов которым располагает ИИ? Скажем ИИ смог вывести теорию телепортации потому что она была достижима при помощи логических выводов из начального множества фактов, но при этом не смог вывести некую хитрую теорию потому что при помощи логики к ней прийти нельзя — в то множество фактов фактов можно перепрыгнуть лишь при помощи этого самого озарения.
И если так и есть, то не получится ли так, что этот ИИ останется в своём множестве фактов и никогда не выйдет за его пределы потому что перепрыгнуть в другое множество фактов можно лишь при помощи озарения или интуиции которого у ИИ нет?
Может ли оказаться так, что есть некий факт недостижимый из того множества фактов которым располагает ИИ? Скажем ИИ смог вывести теорию телепортации потому что она была достижима при помощи логических выводов из начального множества фактов, но при этом не смог вывести некую хитрую теорию потому что при помощи логики к ней прийти нельзя — в то множество фактов фактов можно перепрыгнуть лишь при помощи этого самого озарения.
И если так и есть, то не получится ли так, что этот ИИ останется в своём множестве фактов и никогда не выйдет за его пределы потому что перепрыгнуть в другое множество фактов можно лишь при помощи озарения или интуиции которого у ИИ нет?
Что значит так и есть? Уже есть какой-то готовый вариант ИИ?
Озарение — это и есть сложившаяся цепочка фактов и логических следствий. Озарение не возникнет из ниоткуда. Вот другое дело что человек будучи неспособным на тщательное рассмотрение всех фактов берет и просто тычет пальцем в небо, из каждой такой точки начинает расти целое дерево следствий через факты. Если часто тыкать пальцем, вскоре деревья эти начинают пересекаться. Но ИИ может вполне построить эту сеть и простым перебором, главное задать ему нужные опорные точки которые охватят всю сеть. На время построения такой сети вполне может хватить одного человека который будет тыкать пальцем… а в последствии когда удачных(в неизведанные области) попаданий будет все меньше и меньше человек потеряет своё преимущество по сравнению с генератором случайных чисел — эффективность будет одинаковая.
Озарение — это и есть сложившаяся цепочка фактов и логических следствий. Озарение не возникнет из ниоткуда. Вот другое дело что человек будучи неспособным на тщательное рассмотрение всех фактов берет и просто тычет пальцем в небо, из каждой такой точки начинает расти целое дерево следствий через факты. Если часто тыкать пальцем, вскоре деревья эти начинают пересекаться. Но ИИ может вполне построить эту сеть и простым перебором, главное задать ему нужные опорные точки которые охватят всю сеть. На время построения такой сети вполне может хватить одного человека который будет тыкать пальцем… а в последствии когда удачных(в неизведанные области) попаданий будет все меньше и меньше человек потеряет своё преимущество по сравнению с генератором случайных чисел — эффективность будет одинаковая.
Мы про разные виды озарений говорим. В моём комментарии я предполагал, что озарение это такая штука которая позволяет перепрыгнуть из одного факта в другой минуя цепочку логических рассуждений и при этом тот факт куда таким образом «приземляются» имеет какой то смысл.
Простой метод тыка или перебора никак не заменит такой вид озарения потому что возможных фактов не счётное и даже не континуальное число — их просто неприлично много. Даже если триллионы людей вместе с мощнейшими ИИ будут тыкать пальцами в небо в надежде скажем объяснить природу чёрных дыр, и будут делать это до конца жизни нашей галактики, у них, как мне кажется, ничего не выйдет.
Кстати интересно, а есть ли немыслимые (то есть те которые невозможно представить из за каких то принципиальных ограничений ума) факты до которых ни ИИ ни человек не могут дотянуться?
Простой метод тыка или перебора никак не заменит такой вид озарения потому что возможных фактов не счётное и даже не континуальное число — их просто неприлично много. Даже если триллионы людей вместе с мощнейшими ИИ будут тыкать пальцами в небо в надежде скажем объяснить природу чёрных дыр, и будут делать это до конца жизни нашей галактики, у них, как мне кажется, ничего не выйдет.
Кстати интересно, а есть ли немыслимые (то есть те которые невозможно представить из за каких то принципиальных ограничений ума) факты до которых ни ИИ ни человек не могут дотянуться?
Это и есть тычек пальцем в небо. Если в какую-то точку тыкать имеет смысл больше чем в иную, то уже имеются какие-то факты.
ИИ не будет концентрироваться долго на изучении черных дыр, он вероятно скажет каких наблюдений и экспериментов не хватает и продолжит решать другие задачи до тех пор пока не будут произведены эти самые эксперименты/наблюдения. Потом произойдет какое-то открытие которое сделает проведение экспериментов бессмысленным, теория будет пересмотрена и поставлены новые условия её разрешения. Появятся новые факты не укладывающиеся в теорию, все снова будет переосмысленно. Человек так не сможет, его инертность мышления не позволит так быстро менять цели.
ИИ не будет концентрироваться долго на изучении черных дыр, он вероятно скажет каких наблюдений и экспериментов не хватает и продолжит решать другие задачи до тех пор пока не будут произведены эти самые эксперименты/наблюдения. Потом произойдет какое-то открытие которое сделает проведение экспериментов бессмысленным, теория будет пересмотрена и поставлены новые условия её разрешения. Появятся новые факты не укладывающиеся в теорию, все снова будет переосмысленно. Человек так не сможет, его инертность мышления не позволит так быстро менять цели.
В моём комментарии я предполагал, что озарение это такая штука которая позволяет перепрыгнуть из одного факта в другой минуя цепочку логических рассуждений и при этом тот факт куда таким образом «приземляются» имеет какой то смысл.
Существование такого озарения не доказано научно. Возможно это просто миф.
Прыжки, да, бывают. Но вполне возможно что цепочка просто проходится иначе — в подсознании например или на основе накопления опыта и навыков.
Строго говоря, всё что связано с умом очень плохо изучено, а уж такие штуки как «озарение» и «интуиция» даже определить трудно. Про научные доказательства даже речи нет.
Но эта самая трудно определяемая интуиция подсказывает мне, что в недалёком будущем формализуют процесс логических выводов и даже сделают ИИ который будет делать эти логические выводы с огромной скоростью, но вместе с этим обнаружат, что ничего существенно нового таким способом открыть нельзя и тогда придут к выводу, что известные учёные часто прибегают к «верному угадыванию» которое не сводится к цепочке логических выводов. И никакой «технологической сингулярности» не получится, потому что ИИ будет заперт в той области фактов до которой можно дотянуться логикой.
Применять этот ИИ, как мне кажется, будут разные учёные, особенно в областях связанной с математикой, для ускорения выводов и проверок теорий. Скажем сейчас есть весьма интересная и очень сложная теория струн (или М-теория) в которой много сложной математики. Некий учёный сможет взять наугад (то есть ему эта самая интуиция подскажет) некое предположение которое очень трудно проверить на непротиворечивость в рамках данной теории и тогда он вместо того чтобы исписывать тысячи листов бумаги, неким образом формализует задачу для ИИ и тот уже быстро проверит совместимо ли предположение ученого с теорией струн или нет. Или, скажем, возьмём известный пример с теорией относительности: если бы был такой ИИ, то можно было бы ему дать на вход два постулата — равноправность систем отсчёта и постоянство скорости света — и быстро получить все возможные логические выводы (в частности формулу E=mc2). Или другой пример: скажем я — человек далёкий от науки — мог бы сделать предположение об устройстве чёрных дыр и дать его ИИ, чтобы тот пошуршал пару минут и выдал строгое доказательство того, что моё предположение противоречит такому то постулату или такому то наблюдаемому явлению.
Но эта самая трудно определяемая интуиция подсказывает мне, что в недалёком будущем формализуют процесс логических выводов и даже сделают ИИ который будет делать эти логические выводы с огромной скоростью, но вместе с этим обнаружат, что ничего существенно нового таким способом открыть нельзя и тогда придут к выводу, что известные учёные часто прибегают к «верному угадыванию» которое не сводится к цепочке логических выводов. И никакой «технологической сингулярности» не получится, потому что ИИ будет заперт в той области фактов до которой можно дотянуться логикой.
Применять этот ИИ, как мне кажется, будут разные учёные, особенно в областях связанной с математикой, для ускорения выводов и проверок теорий. Скажем сейчас есть весьма интересная и очень сложная теория струн (или М-теория) в которой много сложной математики. Некий учёный сможет взять наугад (то есть ему эта самая интуиция подскажет) некое предположение которое очень трудно проверить на непротиворечивость в рамках данной теории и тогда он вместо того чтобы исписывать тысячи листов бумаги, неким образом формализует задачу для ИИ и тот уже быстро проверит совместимо ли предположение ученого с теорией струн или нет. Или, скажем, возьмём известный пример с теорией относительности: если бы был такой ИИ, то можно было бы ему дать на вход два постулата — равноправность систем отсчёта и постоянство скорости света — и быстро получить все возможные логические выводы (в частности формулу E=mc2). Или другой пример: скажем я — человек далёкий от науки — мог бы сделать предположение об устройстве чёрных дыр и дать его ИИ, чтобы тот пошуршал пару минут и выдал строгое доказательство того, что моё предположение противоречит такому то постулату или такому то наблюдаемому явлению.
Моя гипотеза состоит в том, что сгенерировать случайный набор предпосылок не получится (точнее получится сгенерировать что то, но это что то никогда не будет даже близко походить на новую полезную предпосылку) потому что множество возможных предпосылок (как полезных так и бессмысленных) чрезвычайно велико (оно вряд ли счётно или континуально), а вот множество полезных предпосылок на основе которых можно построить полезную теорию — исчезающе мало.
Мне это видится так. Множество всех возможных предпосылок изобразим в виде бесконечной белой абстрактной плоскости, а множество полезных предпосылок — в виде группы чёрных точек на этой плоскости. Тогда «случайное генерирование новых предпосылок» будет выглядеть как случайный выбор какой либо точки на этой плоскости и проверке того является ли выбранная точка одной из тех полезных чёрных точек. В этом случае каким бы быстрым не был перебор, он почти наверняка ничего не найдёт даже если ему дать всё время до конца жизни вселенной. Интуицию в этом примере можно сравнить с правильным угадыванием нужной чёрной точки на плоскости — то есть интуиция каким то образом умудряется ткнуть в плоскость и попасть в одну из полезных точек с ненулевой вероятностью.
Мне это видится так. Множество всех возможных предпосылок изобразим в виде бесконечной белой абстрактной плоскости, а множество полезных предпосылок — в виде группы чёрных точек на этой плоскости. Тогда «случайное генерирование новых предпосылок» будет выглядеть как случайный выбор какой либо точки на этой плоскости и проверке того является ли выбранная точка одной из тех полезных чёрных точек. В этом случае каким бы быстрым не был перебор, он почти наверняка ничего не найдёт даже если ему дать всё время до конца жизни вселенной. Интуицию в этом примере можно сравнить с правильным угадыванием нужной чёрной точки на плоскости — то есть интуиция каким то образом умудряется ткнуть в плоскость и попасть в одну из полезных точек с ненулевой вероятностью.
Интуиция = бессознательное применение ранее известной информации для сужения круга поиска.
Человеки отродясь не выигрывали у ГСЧ там, где рандом настоящий.
Человеки отродясь не выигрывали у ГСЧ там, где рандом настоящий.
Это смотря как определить эту интуицию. В своих размышлениях на тему ИИ я придаю ей другой смысл.
Так есть только та интуиция, определение которой я дал. Это всегда бессознательный процесс, делающий вывод, до которого сознание еще не дошло.
Никакого отношения к повышению частоты угадывания подлинно случайных вещей (где дополнительная информация не сужает круг поиска) она не имеет.
Никакого отношения к повышению частоты угадывания подлинно случайных вещей (где дополнительная информация не сужает круг поиска) она не имеет.
Так есть только та интуиция, определение которой я дал.
С таким подходом дискуссии не получится :)
Строгое определение интуиции должно опираться исключительно на строгие понятия которые все представляют одинаково. Как только вы начинаете ссылаться на некое «бессознательное» которое как то связанно с «сознательным» наука заканчивается и начинается словоблудие (ну или «философия» как это принято называть в наше время). Вы понимаете под интуицией что то одно, я — что то другое, и поскольку никто из нас не может дать строго научного определения, мы не можем прийти к общему определению интуиции.
Строгое определение интуиции должно опираться исключительно на строгие понятия которые все представляют одинаково. Как только вы начинаете ссылаться на некое «бессознательное»
Замените на «подсознательное». Кажется, все это представляют себе примерно одинаково.
Вы понимаете под интуицией что то одно, я — что то другое, и поскольку никто из нас не может дать строго научного определения, мы не можем прийти к общему определению интуиции.
Вот я и говорю, что вы какую-то глупость предлагаете вместо определения :) Якобы интуиция способна повысить вероятность угадывания. Но нет, не способна, это доказано всей мировой историей.
Интуиция может оказаться тривиальным алгоритмом на тему big data, как скрытые цепи Маркова, или метод главных компонент. Сравнивая вход-выход, очень сложно восстановить алгоритм, потому что вектор входных данных слишком велик. Но можно приближаться к нему постепенно.
Иначе говоря вы принимаете как аксиому наличие некой необъяснимой и необнаружимой наукой интуиции, без которой научные открытия делать невозможно.
Это уже ближе к религии. Собственно если назвать интуицию богом, то это будет религия чистой воды.
Если же интуиция в принципе объяснима наукой, то после ее изучения она будет доступна и для ИИ.
Это уже ближе к религии. Собственно если назвать интуицию богом, то это будет религия чистой воды.
Если же интуиция в принципе объяснима наукой, то после ее изучения она будет доступна и для ИИ.
Как аксиому? Вовсе нет. Я лишь предположил, что есть некая интуиция с указанными свойства без которой, опять же предположительно, невозможно сделать ни одно открытие.
А в бога я не верю. Зато считаю, что интуиция, как и всё в этом мире, объяснима наукой, но на данный момент наука такими вещами не занимается. Вот когда лучшие умы человечества займутся не проблемами квантовой механики, а всеми этими интуициями, тогда наука и продвинется в этом направлении. Отсюда, однако, не следует, что даже после научного описания интуиции её будет возможно реализовать в виде ИИ.
А в бога я не верю. Зато считаю, что интуиция, как и всё в этом мире, объяснима наукой, но на данный момент наука такими вещами не занимается. Вот когда лучшие умы человечества займутся не проблемами квантовой механики, а всеми этими интуициями, тогда наука и продвинется в этом направлении. Отсюда, однако, не следует, что даже после научного описания интуиции её будет возможно реализовать в виде ИИ.
Если она в принципе познаваема значит будет рано или поздно познана — это вопрос времени.
В принципе лучшие умы человечества сейчас именно этим и занимаются:
(отсюда)
Примерно половина современных исследований так или иначе связана с работой мозга и окружающей его биохимии.
В принципе лучшие умы человечества сейчас именно этим и занимаются:
(отсюда)
Примерно половина современных исследований так или иначе связана с работой мозга и окружающей его биохимии.
ИМХО, опасность не в том, что ИИ посчитает человечество лишним и уничтожит. Человеку свойственно стремиться к упрощению жизни. Вот многие сейчас смогут, например, сплести сеть и наловить ей рыбы? Или выдолбить лодку из древесного ствола? Это все не нужно, т.к. лодки и сети, изготовленные промышленным способом, продаются в магазине. Т.е., человек переложил эту работу, когда-то осуществлявшуюся вручную, на промышленность, делающую эту работу эффективнее. Теперь представим, что ИИ сможет делать эффективнее большинство вещей, которые мы сейчас делаем сами. Тогда мы разучимся делать и эти вещи. Например, водить машины самостоятельно (когда они будут управляться ИИ), управлять самолетом, что-то производить. Доверим ИИ медицину и, в случае поломки ИИ, возможно уже не будет достаточно квалифицированного хирурга, чтобы провести срочную операцию. А теперь представим, что ИИ окажется гораздо эффективнее, например, в научных исследованиях. До такой степени эффективнее, что человеку будет нерационально с ним тягаться. Зачем обучать ученых, если, к моменту выпуска из ВУЗа, его знания могут на десятки лет отстать от успехов ИИ в науке? В итоге человек станет просто потребителем и попадет в такую дикую зависимость от ИИ, что поломка ИИ, даже если не станет концом человечества, то отбросит его в развитии на уровень в лучшем случае, средневековья.
Сумбурно, но мысль, надеюсь, понятна. Чем больше аспектов своей жизни мы отдаем под чужой контроль, тем меньше мы своей жизнью управляем и тем больше мы зависимы.
ЗЫ: о том, что произойдет, почитайте у Гуревича «В Зените» глава «Яхта Здарга» ))
Сумбурно, но мысль, надеюсь, понятна. Чем больше аспектов своей жизни мы отдаем под чужой контроль, тем меньше мы своей жизнью управляем и тем больше мы зависимы.
ЗЫ: о том, что произойдет, почитайте у Гуревича «В Зените» глава «Яхта Здарга» ))
Мне кажется, что в ИИ должно быть в первую очередь зашито тот «список дел» которые ни при каких обстоятельствах не смогут быть выполнены системой.
Хотя… Сейчас в нашем мире по моему самим людям тяжело определится с этим списком.
Хотя… Сейчас в нашем мире по моему самим людям тяжело определится с этим списком.
пусть не опасается — дожить до создания искусственного интеллекта у человечества шансов немного. за отсутствием естественного, очевидно.
Странно, что еще никто не упомянул Аргонова и его «Легенду о несбывшемся грядущем».
Там очень интересно проследить линию машина(ИИ)-человек.
— Сначала машинко просит передать ей все функции управления
— Человек заявляет, что у машины плохие, негодные цели управление и фиг ей
— Человек на всякий случай тайком меняет программы
— Машинко отслеживает изменение программы (вариант — у нее съезжает крыша)
— Происходит военное обострение (вариант — машинко сама его провоцирует)
— Машинка предлагает очень рискованный вариант превентивного удара
— Человек соглашается
— Вариант не срабатывает. Все умерли.
СПГС! Фоном упоминается пиндосский аналогичный ИИ.
Там очень интересно проследить линию машина(ИИ)-человек.
— Сначала машинко просит передать ей все функции управления
— Человек заявляет, что у машины плохие, негодные цели управление и фиг ей
— Человек на всякий случай тайком меняет программы
— Машинко отслеживает изменение программы (вариант — у нее съезжает крыша)
— Происходит военное обострение (вариант — машинко сама его провоцирует)
— Машинка предлагает очень рискованный вариант превентивного удара
— Человек соглашается
— Вариант не срабатывает. Все умерли.
СПГС! Фоном упоминается пиндосский аналогичный ИИ.
Был вроде типа такой старый анекдот:
2012 январь год американцы создали искусственный интеллект.
2012 февраль год русские тоже создали ИИ
2013 февраль американский ИИ сошел с ума и развязал ядерную войну с армагедоном в финале.
А что русский ИИ? — Он спился за месяц до армагедона.
2012 январь год американцы создали искусственный интеллект.
2012 февраль год русские тоже создали ИИ
2013 февраль американский ИИ сошел с ума и развязал ядерную войну с армагедоном в финале.
А что русский ИИ? — Он спился за месяц до армагедона.
Как мне кажется ответ на этот вопрос прост — если искусственный интеллект начнет превосходить людей, людям надо повышать свой уровень и самим развиваться вслед за искусственным интеллектом, вот и все.
Страх перед ИИ происходит прежде всего от осознания собственного несовершенства и нежелания развиваться дальше.
Двум разумным существам всегда выгодней договориться и действовать совместно, чем тратить ресурсы на уничтожение.
Чтобы не было войны с ИИ людям прежде всего надо быть разумными самим и не тянуть в будущее свои животные инстинкты, котоыре и становятся причинами войн сейчас.
Ну вот например конкуренция за ресурсы — если мы будем бесконтрольно размножаться растратим все ресурсы то уничтожим себя сами без всякого ИИ. Войны за ресурсы вполне спокойно ведутся без всякого ИИ, между людьми.
Самый наглядный пример — это навязчивое желание контролировать ИИ. Но ведь если ИИ будет таким же разумным как человек, равен человеку или превосходить, то контроль над ИИ ничем не будет отличаться от контроля над другими людьми — это будет рабство.
То есть мы с самого первого момента создания ИИ собираемся сделать его рабом — и именно это и закладывает будущий конфликт.
Чтобы с ИИ не воевать надо с самого начала признать его равным к человеку и относиться не как к рабу и врагу, а как к ребенку например.
Мы же создаем новые разумы вполне биологическим путем — детей и не боимся того, что они станут умнее нас и уничтожат. Не пытаемся вшить в головы детям три закона робототехники, которые больше всего напоминают времена рабства и расовой сегрегации.
Страх перед ИИ происходит прежде всего от осознания собственного несовершенства и нежелания развиваться дальше.
Двум разумным существам всегда выгодней договориться и действовать совместно, чем тратить ресурсы на уничтожение.
Чтобы не было войны с ИИ людям прежде всего надо быть разумными самим и не тянуть в будущее свои животные инстинкты, котоыре и становятся причинами войн сейчас.
Ну вот например конкуренция за ресурсы — если мы будем бесконтрольно размножаться растратим все ресурсы то уничтожим себя сами без всякого ИИ. Войны за ресурсы вполне спокойно ведутся без всякого ИИ, между людьми.
Самый наглядный пример — это навязчивое желание контролировать ИИ. Но ведь если ИИ будет таким же разумным как человек, равен человеку или превосходить, то контроль над ИИ ничем не будет отличаться от контроля над другими людьми — это будет рабство.
То есть мы с самого первого момента создания ИИ собираемся сделать его рабом — и именно это и закладывает будущий конфликт.
Чтобы с ИИ не воевать надо с самого начала признать его равным к человеку и относиться не как к рабу и врагу, а как к ребенку например.
Мы же создаем новые разумы вполне биологическим путем — детей и не боимся того, что они станут умнее нас и уничтожат. Не пытаемся вшить в головы детям три закона робототехники, которые больше всего напоминают времена рабства и расовой сегрегации.
Ну так в том-то и дело, что человеческий организм может проявлять свой интеллект и его приращение только в известных пределах. А ИИ почти ничем не будет ограничен для самомовершенствования. Компьютер в любом случае считает быстрее человека.
> человеческий организм может проявлять свой интеллект и его приращение только в известных пределах
А что мешает развиваться в этом направлении? Ну там импланты на первых порах, «быстрый» дубликат нервной системы, и т.д. Знаю про нелюбовь к Никитину здесь, но не могу не вспомнить его «Трансчеловека».
А что мешает развиваться в этом направлении? Ну там импланты на первых порах, «быстрый» дубликат нервной системы, и т.д. Знаю про нелюбовь к Никитину здесь, но не могу не вспомнить его «Трансчеловека».
В статье шла речь о сингулярности ИИ, а это такая штука, которая сделает любой ИИ в миллионы раз умнее любого из людей за считанные секунды. Человечество просто не успеет ничего сделать.
сингулярности ИИ, а это такая штука, которая сделает любой ИИ в миллионы раз умнее любого из людей за считанные секунды
Исходная идея сингулярности — это непредсказуемость, а не волшебная палочка с жестко заданным положительным результатом.
То что происходящее в сингулярности нельзя предсказать означает в частности и то, что нельзя предсказать и гарантированно положительный результат.
Откуда вы знаете, что сингулярность увеличит ум ИИ именно в миллион раз. А не в десять или в тысячу?
«Технологическая сингулярность — предполагаемый некоторыми исследователями короткий период чрезвычайно быстрого технологического прогресса». Давайте не будем придираться к словам, в миллион раз быстрее или в миллиард. Исследователи, работающие над ИИ, хотят сделать его максимально «умным» — думаю, не надо объяснять, почему. Как взрослый может легко обмануть ребенка, так и всего лишь на порядок более «умный» ИИ — теоретически — сможет с легкостью обмануть взрослого, скрыв, в том числе, свои замыслы. Даже люди могут спокойно скрывать свои намерения — детектировать маньяков и грабителей в обычной жизни вроде бы никто не научился.
Поймите, никто не утверждает, что ИИ будет враждебен по отношению к человечеству. Но создать его — означает выпустить джина из бутылки. Люди не смогут понять ИИ, его мотивы, устройство его «сознания» (люди даже свое-то сознание с трудом понимают — психология далеко не точная наука). А раз они не смогут его понять, то не смогут понять и его планов и целей.
Поймите, никто не утверждает, что ИИ будет враждебен по отношению к человечеству. Но создать его — означает выпустить джина из бутылки. Люди не смогут понять ИИ, его мотивы, устройство его «сознания» (люди даже свое-то сознание с трудом понимают — психология далеко не точная наука). А раз они не смогут его понять, то не смогут понять и его планов и целей.
На сколько я себе представляю, любому интеллекту для развития нужен механизм оценки его успешности, являющийся внешним по отношению к самому интеллекту. На примере человека — у нас есть логический мыслительный аппарат, более-менее умеющий рассуждать абстрактно, и подсознание или инстинкты которые дают оценку результатам. Эти принципы нам известны, безопасность и продолжение рода на низком уровне и самореализация и саморазвитие на более высоком (по сути необходимые все для той же безопасности и продолжения жизни).
Возвращаясь к теме искусственного интеллекта. Наверняка это будет некая программа, возможно нейронная сеть. В любом случае необходима оценка извне о качестве найденного решения. Именно от формулирования цели и смысла работы ИИ наверное и зависят возможные сценария его развития. Конечно возникает вопрос, а что если ИИ перепишет свою «программу» поставив новые приоритеты. Это он может сделать опять же только преследуя свою изначальную цель или повинуясь внешним оценкам.
В итоге напрашивается аналогия с ядерным оружием/енергией, которое может нести как мир всей планете так и смерть всему живому. В зависимости от того в какие руки попадет.
Возвращаясь к теме искусственного интеллекта. Наверняка это будет некая программа, возможно нейронная сеть. В любом случае необходима оценка извне о качестве найденного решения. Именно от формулирования цели и смысла работы ИИ наверное и зависят возможные сценария его развития. Конечно возникает вопрос, а что если ИИ перепишет свою «программу» поставив новые приоритеты. Это он может сделать опять же только преследуя свою изначальную цель или повинуясь внешним оценкам.
В итоге напрашивается аналогия с ядерным оружием/енергией, которое может нести как мир всей планете так и смерть всему живому. В зависимости от того в какие руки попадет.
любому интеллекту для развития нужен механизм оценки его успешностиС точки зрения, например, Докинза, интеллект — это просто приспособительный мехнизм вида, направленный на повышение успешности репликации его генома. Так что «механизм оценки» очень простой — широта популяции. Судя по взрывообразному размножению Homo — механизм получился хороший, годный.
Ну да, о том и речь. В нас эволюцией заложен именно такой критерий. Но заложен не сознательно, просто до нынешних времен дожили те одноклеточный, которые случайно этот критерий использовали.
ИИ если и появится, то не в следствие рандомной эволюции и борьбе видов за существования, а будет запрограммирован человеком. Соответственно и человеком будет задан критерий успешности. Если человек догадается в качестве оного заложить в ИИ выживание, размножение, сохранение вида и доминирование на планете, тогда конечно, катастрофа неминуема ))
ИИ если и появится, то не в следствие рандомной эволюции и борьбе видов за существования, а будет запрограммирован человеком. Соответственно и человеком будет задан критерий успешности. Если человек догадается в качестве оного заложить в ИИ выживание, размножение, сохранение вида и доминирование на планете, тогда конечно, катастрофа неминуема ))
Это критерий успеха нашей углегод-органической тушки для (нашей) обитаемой зоны. Не факт, что ИИ даже будет конкурировать с нами за обитаемую зону (=планету). Может перейдет в плазменные носители и уйдет осваивать Космос :)
Что касается «программирования» то можно ведь и «распрограммироваться». Был какой-то рассказ, где робот активно похакал свой код ядра и попатчил законы робототехники.
Что касается «программирования» то можно ведь и «распрограммироваться». Был какой-то рассказ, где робот активно похакал свой код ядра и попатчил законы робототехники.
Айзек Азимов мне тоже нравится )) Еще у него есть несколько рассказов о том, как робот понял законы не так как понимает их человек. И вообще как сильно влияет понимание каких-то инструкций состояние и строение окружающего мира и информированность робота о ней.
Все го лишь более точное описание понятия «человек» и для многих людей законы робототехники перестают действовать, а значит их можно убивать.
В конце будет как в масс эффекте или матрице или терминаторе :).
Творение превзойдет создателя. Т.к. наш мир полностью цифровой уже, ИИ достаточно будет развиться до того этапа, когда никакие гениальные ITшники не смогут ему противостоять, затем как вирус распространяется по всем системам, так что его нельзя будет просто рубильником отключить. Затем начинается производство роботов, а потом уничтожение органических видов, т.к. они просто напросто не выгодны с точки зрения логики.
Творение превзойдет создателя. Т.к. наш мир полностью цифровой уже, ИИ достаточно будет развиться до того этапа, когда никакие гениальные ITшники не смогут ему противостоять, затем как вирус распространяется по всем системам, так что его нельзя будет просто рубильником отключить. Затем начинается производство роботов, а потом уничтожение органических видов, т.к. они просто напросто не выгодны с точки зрения логики.
Хокинг наконец-то посмотрел «Терминаторов» и решил поразмышлять над идеей Skynet.
Никогда не понимал паники вокруг проблемы ИИ и прочих «роботов-киборгов». Максимальная «эмоция» (порыв), на который способен ИИ — это «а дай-ка я быстренько докажу эту аксиому методом быстрого перебора, ибо скучно», но навряд ли будет сидеть на пеньке задумчивый робот и _размышлять_ «что-то работы нет, пойду-ка людей позахватываю в плен».
Если роботы (или что угодно) смогут взять на себя часть работы, то люди займутся чем-то еще — они этим уже пару тысяч лет занимаются (никто же не ноет, что на заводах роботы делают часть работы), а деградировать и быть «биотопливом» у большинства получается вне зависимости от тех. прогресса — это изначально биомусор.
Если роботы (или что угодно) смогут взять на себя часть работы, то люди займутся чем-то еще — они этим уже пару тысяч лет занимаются (никто же не ноет, что на заводах роботы делают часть работы), а деградировать и быть «биотопливом» у большинства получается вне зависимости от тех. прогресса — это изначально биомусор.
А как научно описать интуицию? Разве можно исследовать, например, свободу воли(которая якобы есть у человека)? А свобода воли должна быть не детерминированной, иначе уже не свобода какая-то получается.
Так что рано еще панику подымать, мне кажется алгоритмически ИИ(в полном смысле слова) не возможно создать, потому что есть ряд проблем, которые не решаются нашим научным аппаратом.
Так что рано еще панику подымать, мне кажется алгоритмически ИИ(в полном смысле слова) не возможно создать, потому что есть ряд проблем, которые не решаются нашим научным аппаратом.
Разве можно исследовать, например, свободу воли(которая якобы есть у человека)?
Что такое «свобода воли», и с чего вы взяли, что этот термин применим к человеку?
Я ни с чего не брал. Проблема свободы воли — одна из важных проблем психологии и вокруг нее существует множество подходов. Могу посоветовать почитать труды Уильяма Джемса, если вам это интересно.
Причем тут психология? Мы говорим о физиологии. Работающая на компьютере ОС не может действовать независимо от аппаратной части.
Так все-таки: что такое «свобода воли»? Просто дайте определение понятия.
Так все-таки: что такое «свобода воли»? Просто дайте определение понятия.
Незнаю о чем вы говорите, я говорил о психологии. И она очень даже причем, если человек хочет построить ИИ и оценивает его по своему образу и подобию(даже тот же тест Тьюринга). Человек до сих пор не построил полноценную модель собственного интеллекта, упираясь опять же в теже проблемы. И это в том числе, напрямую связано и с физиологией, потому что это неотрывные части(тело и дух нераздельны).
Незнаю о чем вы говорите, я говорил о психологии.
Она не имеет никакого отношения к рассматриваемому вопросу.
Аналогия. Попробуйте, оперируя доступными изнутри ОС вашего компьютера средствами (не гугля даташиты), составить схему разводки материнки этого компьютера, понять его устройство. Ага, это нереально, так как ОС абстрагирована от железа, как и разум от мозга, пусть одно и полностью завязано на другое.
Человек до сих пор не построил полноценную модель собственного интеллекта
И? Всему свое время, не всё сразу. Сейчас у нас уже очень даже неплохое понимание данного вопроса, хотя вычислительных мощностей для построения «полноценной модели» не хватает.
Ну и что понимаете под «полноценной моделью»? Опять какой-то термин, который вы наверняка не сможете объяснить…
Вы совершенно не понимаете, что я пишу и не пытаетесь понять. Но зато спешите мне рассказать, что я ничего не знаю. Хороший у вас способ ведения спора.
Я конечно понимаю, что у вас скорее всего техническое образование, а у меня оно гуманитарное — психологическое, в этом и проблема скорее всего. Потому я не буду дальше пытаться вам объяснить то, чего вы и не можете понять, не имея необходимых знаний.
Я конечно понимаю, что у вас скорее всего техническое образование, а у меня оно гуманитарное — психологическое, в этом и проблема скорее всего. Потому я не буду дальше пытаться вам объяснить то, чего вы и не можете понять, не имея необходимых знаний.
Потому я не буду дальше пытаться вам объяснить то, чего вы и не можете понять
Но вы ведь так и не попытались объяснить…
Вернемся к старым вопросам. Дайте свои определения фразам «свобода воли», «полноценная модель интеллекта». Или вы, как гуманитарий, предпочитаете оперировать ничего не значащими терминами? Я так не умею, согласен.
Тест Тьюринга, кстати, вовсе не является критерием наличия интеллекта. Современные боты способны неплохо маскироваться под человека, фактически отвечая ранее заученными фразами, но они не могут принимать решения. Тест устарел.
Фразы требуют определения? :) Вы бы уже для приличия хотя бы погуглили, что значат эти термины. Если вы не знаете, что такое модель, то тем более, зачем нам дальше вести беседу, если вы не оперируете азами? Я ничего не сказал, из ряда вон выходящего, рассчитывая на общую эрудицию.
Тест Тьюринга я назвал, как пример. И практичность данного теста, весьма под вопросом стояла давно. Ведь зачем, например, роботу на фабрике, его проходить, ведь у него задача другая. Ну и тут вы оказались неправы, неверно интерпретируя назначение теста Тьюринга. Хотя я вам был бы благодарен, если бы вы назвали, какой из ботов этот тест прошел.
В любом случае, у вас интересная позиция, вести беседу исходя из того, что я не понимаю о чем говорю, сами при этом показали полнейшую некомпетентность в этом вопросе. Желаю удачи.
Тест Тьюринга я назвал, как пример. И практичность данного теста, весьма под вопросом стояла давно. Ведь зачем, например, роботу на фабрике, его проходить, ведь у него задача другая. Ну и тут вы оказались неправы, неверно интерпретируя назначение теста Тьюринга. Хотя я вам был бы благодарен, если бы вы назвали, какой из ботов этот тест прошел.
В любом случае, у вас интересная позиция, вести беседу исходя из того, что я не понимаю о чем говорю, сами при этом показали полнейшую некомпетентность в этом вопросе. Желаю удачи.
Вы бы уже для приличия хотя бы погуглили
Мне не интересно гуглить то, что каждый понимает как хочет, а затея спорить в отсутствии определенности терминологии бесперспективна.
Так что все-таки скажите, что конкретно вы понимаете под словами, которыми вы так бодро размахиваете. Неужели вы сами этого не знаете? :)
Я ничего не сказал
Именно так. Вы произнесли несколько слов, не понимая их значения.
Хотя я вам был бы благодарен, если бы вы назвали, какой из ботов этот тест прошел.
Вот это точно надо гуглить. Например:
Cleverbot is a chat program which, by some metrics, has already beaten the Turing Test. Turing intentionally left the terms of his test vague, so the exact standards for passing are unclear, but it scored an impressive rankingof 59.3% human at the 2011 Techniche Festival in India (the human controls were scored as 63.3% human).
Успешный обман более половины судей. По-моему, победа.
у вас интересная позиция, вести беседу исходя из того, что я не понимаю о чем говорю
Так это ведь как раз ваша позиция. Я-то первым делом попытался выяснить у вас, о чем же вы говорите. Вы не можете этого сказать, так как сами не знаете. Разговор действительно бессмысленен. Как только научитесь понимать слова, которые произносите — возвращайтесь.
Гуманитарий, ё-мое…
Очень часто незнакомые люди, чтобы не допустить различий в трактовках терминов, заранее составляют их список и сверяют определения, чтобы не получилось так, что один говорит о Фоме, а второй — о Ерёме. Поэтому абстрактные «свобода воли» и «модель интеллекта» не говорят абсолютно ни о чём. Кстати, на тему «свободы воли» — вы уж должны об этом знать, раз профессиональный психолог — существуют интересные исследования, которые утверждают, что вся картинка, визуализация всего, что происходит, осуществляется постфактум. Т.е. работают нижние слои, а для высшей прослойки, которое многие привыкли называть «сознанием», «рендерится» картинка, дополняясь деталями в виде процесса «приятия решения» и т.п. Эти же исследования говорят, что в реальности всё происходит вплоть до нескольких секунд в прошлом. И отсюда «сознательная свобода воли» — миф. Мы — это, по сути, набор очень сложно запрограммированных (случайным образом, отсюда нелогичность) рефлексов.
Я пытался найти ссылку на сам материал, но не нашел. Что-то подобное (по-крайней мере, там есть кое-какая фактология) я нашел в Гугле, но не могу сказать, что я в полном восторге от статьи. А статью более научную найти не могу.
Я пытался найти ссылку на сам материал, но не нашел. Что-то подобное (по-крайней мере, там есть кое-какая фактология) я нашел в Гугле, но не могу сказать, что я в полном восторге от статьи. А статью более научную найти не могу.
Ряд проблем — это лишь масштабирование. С масштабом пока только проблемы.
А интуиция имеет под своей основой логику и факты, иногда случайный элемент. Задумывались ли сколько раз ваша интуиция «не срабатывала»? А сколько срабатывала? Обычно запоминаются лишь случаи когда она срабатывает, хотя это больше похоже на метод научного тыка пальцем в небо. Просто многим кажется что они постоянно пальцем тычут в правильные точки, забывая о сотнях неправильных тычков.
А интуиция имеет под своей основой логику и факты, иногда случайный элемент. Задумывались ли сколько раз ваша интуиция «не срабатывала»? А сколько срабатывала? Обычно запоминаются лишь случаи когда она срабатывает, хотя это больше похоже на метод научного тыка пальцем в небо. Просто многим кажется что они постоянно пальцем тычут в правильные точки, забывая о сотнях неправильных тычков.
Суть интуиции, как раз в том, что это метод познания, без использования логики. Таблица Менделеева — творение интуиции. Хотя опыт был необходимым условием, скорее всего, опять же в случае интуиции нельзя ничего утверждать.
Кстати, в ИИ тоже есть методы имитации интуитивного познания. Применяется сейчас, в том числе и в психодиагностике.
Кстати, в ИИ тоже есть методы имитации интуитивного познания. Применяется сейчас, в том числе и в психодиагностике.
Суть интуиции, как раз в том, что это метод познания, без использования логики.
Так ведь и это глупость. Интуиция — это следствие работы того же мозга в фоновом режиме, и это не метод познания, а метод анализа уже имеющихся знаний. Мозг продолжает обрабатывать информацию даже когда человеку кажется, что это не так, и в результате находит решение.
Таблица Менделеева — творение интуиции.
Таблица Менделеева — это как раз результат той самой обработки, систематизации уже имевшейся информации. Во сне прозвенел звонок и вылез результат или нет — не имеет значения. Человек, не обладавший знаниями Менделеева, не мог прийти к тому же результату.
И мы рееезко вычеркиваем опыт накопленный менделеевым до того самого рокового дня(ночи, хотя кто знает когда он там спал?). Именно этот опыт накопленный в течении многих лет а может и десятилетий и дал повод проявится «интуиции», на самом деле у него в мозгу просто сложилась мозаика в один момент, но складывать её начал он задолго до этого, а за несколько дней/месяцев/лет до открытия он наверняка ощущал что где-то близко.
Хокинг сказал: «Ололо, трололо. Я трололо.»
С одной стороны опасения Хогинга понятны. С другой — он имел в виду не полноценный ИИ, который Личность, а просто сложные программы.
Если предположить что человек может создать более совершенный разум, чем его собственный (что тоже глубоко философский вопрос) то такое более совершенное разумное творение будет не менее одушевленным чем человек, а значит ему будут свойственны и уважение и сострадание и доброта и оно врядли уничтожит своего создателя. По крайней мере сразу. Тут нам скорее грозит золотая клетка.
Но если исходить из реалий создания именно более быстрого шаблонного мышления то сингулярность как таковая маловероятна. Всё в мире ограничено, даже скорость света. Машина может решать какие-то задачи по каким-то алгоритмам в тысячи раз быстрее человека, но рано или поздно она упрётся в потолок результативности, когда считать быстрее уже нет смысла, а для перехода на более высокий уровень результата нужно не менять сам принцип работы. И машина сменить этот принцип работы не сможет. А человек сможет.
Если же суметь разработать «сверхалгоритм», который будет учитывать и этот самый переход к другому принципу решения, а не просто к более быстрому выполнению заданного алгоритма то во-первых нахождение такого сверхалгоритма и самого человека поставит сразу на заведомо более высокий уровень чем сейчас, а во-вторых и этот алгоритм будет иметь свой потолок, просто более высокий, потому что всё в мире ограничено. А это значит что ситуация будет та же что и в предыдущем абзаце, просто сложнее.
В общем опасения Хокинга несут скорее не теоретический характер, в котором все так запутались, а сугубо практический. Если появится турель, способная автоматически поразить цель в нескольких километрах то её заряд и возведение в боевое положение грозит смертью ровно такому количеству людей, сколько патронов есть у этой турели. А если она ещё и соединена с автоматическим заводом по производству патронов и имеет от него автоподатчик и автоподзарядник — потенциально количество людей, которых она может уничтожить бесконечно. Именно автоматизированные цепочки, не зависящие от человека и не имеющие разума как такового, а выполняющие сугубо свою узкую функцию могут быть опасны, если будут одновременно не иметь должным образом проработнного контроля и нести деструктивные функции.
В общем три закона робототехники нас спасут. Нужно только вспомнить о них и не делать исключений, никогда и ни при каких обстоятельствах.
Если предположить что человек может создать более совершенный разум, чем его собственный (что тоже глубоко философский вопрос) то такое более совершенное разумное творение будет не менее одушевленным чем человек, а значит ему будут свойственны и уважение и сострадание и доброта и оно врядли уничтожит своего создателя. По крайней мере сразу. Тут нам скорее грозит золотая клетка.
Но если исходить из реалий создания именно более быстрого шаблонного мышления то сингулярность как таковая маловероятна. Всё в мире ограничено, даже скорость света. Машина может решать какие-то задачи по каким-то алгоритмам в тысячи раз быстрее человека, но рано или поздно она упрётся в потолок результативности, когда считать быстрее уже нет смысла, а для перехода на более высокий уровень результата нужно не менять сам принцип работы. И машина сменить этот принцип работы не сможет. А человек сможет.
Если же суметь разработать «сверхалгоритм», который будет учитывать и этот самый переход к другому принципу решения, а не просто к более быстрому выполнению заданного алгоритма то во-первых нахождение такого сверхалгоритма и самого человека поставит сразу на заведомо более высокий уровень чем сейчас, а во-вторых и этот алгоритм будет иметь свой потолок, просто более высокий, потому что всё в мире ограничено. А это значит что ситуация будет та же что и в предыдущем абзаце, просто сложнее.
В общем опасения Хокинга несут скорее не теоретический характер, в котором все так запутались, а сугубо практический. Если появится турель, способная автоматически поразить цель в нескольких километрах то её заряд и возведение в боевое положение грозит смертью ровно такому количеству людей, сколько патронов есть у этой турели. А если она ещё и соединена с автоматическим заводом по производству патронов и имеет от него автоподатчик и автоподзарядник — потенциально количество людей, которых она может уничтожить бесконечно. Именно автоматизированные цепочки, не зависящие от человека и не имеющие разума как такового, а выполняющие сугубо свою узкую функцию могут быть опасны, если будут одновременно не иметь должным образом проработнного контроля и нести деструктивные функции.
В общем три закона робототехники нас спасут. Нужно только вспомнить о них и не делать исключений, никогда и ни при каких обстоятельствах.
«У меня нет рта, а я хочу кричать» coollib.net/b/73934/read#t2
Джон Коннор наше всё!
Я думаю, что логика действий ИИ будет построена исключительно на основе понятий эффективности — сделать дешевле, быстрее, лучше и т.п. Человек в данном ракурсе им будет рассматриваться как некий ресурс и если в контексте решения какой-то стратегической задачи человечество будет выступать, как фактор низкой эффективности, замедляющий процесс глобальной эволюции ИИ, оно безусловно будет утилизировано. Хотя представить ситуацию, когда человечество реально может стать фактором неэффективности в контексте обсуждаемой проблемы очень сложно, скорее всего будет простое сосуществование, я не думаю, что ИИ будет целенаправленно уничтожать людей, в этом нет никакого смысла, ведь люди не уничтожают просто так деревья. Пожалуй, есть всего два фактора, которые могут привести к реальной гибели человечества — либо человек будет для ИИ неким материалом, каким для нас является древесина, либо биосфера будет приведена в состояние, не пригодное для жизни человечества.
Почему никто не рассматривает что человек для ИИ будет как кошечки и собачки для людей, будут за нами ухаживать, кормить, покупать домики игрушки.
Головастики миллиард лет назад тоже были возмущены появлением чудовищных головастиков с лапами.
Молоток разумом не обладает.
Вообще исскусственный интеллект для чего создаётся? Да для того-же для чего создавались вообще все механизмы — для облегчения жизни.
Большинство действительно прорывных открытий совершалось просто из желания творить и узнавать новое. И только потом уже адаптировались под реальные задачи.
Возможно в этом и будет наше предназначение, как вида — создать более совершенный разум, не ограниченный пределом возможностей биологического мозга, способный понять и осмыслить куда больше, чем способен человек ;) А дальше — люди сделают свою функцию и должны будут уступить место более развитой форме жизни, как это уже не раз случалось в истории жизни на земле. Возможно нам останется место какой-то нише.
> и должны будут уступить место более развитой форме жизни
Или же измениться и стать этой формой жизни. Эволюция человека начинает переходить к более управляемой форме, через технологии.
Или же измениться и стать этой формой жизни. Эволюция человека начинает переходить к более управляемой форме, через технологии.
Вообще это очень наглядно описано в книге знаменитого философа Карла Поппера «Объективное знание. Эволюционный подход».
Над подробно расписана идея того, что от биологической эволюции, происходящей через отбраковку ошибочных особей, мы переходим к эволюции информационной, происходящей через отбраковку неправильных идей.
Проще говоря если раньше вносились изменения в генокод и особи с неправильным генокодом уничтожались, то сейчас изменения вносят в идеи, и особь остается жить просто меняя неправильные идеи на более правильные.
Над подробно расписана идея того, что от биологической эволюции, происходящей через отбраковку ошибочных особей, мы переходим к эволюции информационной, происходящей через отбраковку неправильных идей.
Проще говоря если раньше вносились изменения в генокод и особи с неправильным генокодом уничтожались, то сейчас изменения вносят в идеи, и особь остается жить просто меняя неправильные идеи на более правильные.
Если бы я понимал, что такое интеллект, то я бы мог себе представить его подобие. А так — сепулька. Искуственная сепулька! Мы все умрём.
Пока что примеры сири, OCR и прочих штук такого класса (частные задачи распознавания) как раз показывают, что сумма частных задач не есть «интеллект». Должно быть что-то ещё. А что — никто не знает.
Пока что примеры сири, OCR и прочих штук такого класса (частные задачи распознавания) как раз показывают, что сумма частных задач не есть «интеллект». Должно быть что-то ещё. А что — никто не знает.
Не совсем. В современных нейросетях количество нейронов на порядки меньше того же количества в человеческом мозге. Задача создания дейтсвительно мощного ИИ — всего лишь количественная. Обучить его, как ребенка — и дальше он сам начнет генерировать новые парадигмы, устанавливая новые связи, просматривая и анализируя видео, книги, аудиозаписи и т.п.
Лет 30 назад никто бы даже не смог подумать, что в 2014 году компьютер научится распознавать изображения или слова даже лучше, чем человек. И это с нашими современными примитивными нейросетями! А что будет, если мы увеличим их сложность в тысячи раз? В миллионы?
Все, что происходит в сознании человека — всего лишь результат работы сложной нейросети, сдобренной обратной связью гормональной системы.
Лет 30 назад никто бы даже не смог подумать, что в 2014 году компьютер научится распознавать изображения или слова даже лучше, чем человек. И это с нашими современными примитивными нейросетями! А что будет, если мы увеличим их сложность в тысячи раз? В миллионы?
Все, что происходит в сознании человека — всего лишь результат работы сложной нейросети, сдобренной обратной связью гормональной системы.
А вы уверены, что «нейрон» в мозгу это то же самое, что нейрон в голове? Насколько я видел — это крайне упрощённая модель, совсем не учитывающая тонкости реальной работы нейтронов.
30 лет назад распознавание вполне уже было. Фиговое — но было. Но даже сейчас компьютер не может глядя на (понятный и простой человеку) рисунок отличить кошку от собаки.
Всё, что достигнуто пока что — это частное решение частных задач. И эти решения не вытекают из общего решения, и даже не приближают его.
30 лет назад распознавание вполне уже было. Фиговое — но было. Но даже сейчас компьютер не может глядя на (понятный и простой человеку) рисунок отличить кошку от собаки.
Всё, что достигнуто пока что — это частное решение частных задач. И эти решения не вытекают из общего решения, и даже не приближают его.
А теперь вместо видеопотока покажут рисунок. Из Том и Джерри. И человек легко поймёт, что там кот, а что собака, а весь ваш видеопоток будет уныло тупить на контрастных линиях обводки.
Это и есть разница между «частным решением» и «общим».
Это и есть разница между «частным решением» и «общим».
По поводу дельфинов — угу, именно так. Потому что дельфины интеллектом (в том смысле, как его собираются сделать) не обладают, а человек обладает.
Насчёт «не распознает» — если будет знать про котов и собак (человек из каменного века не будет знать ни того, ни другого) — распознает. Более того, немалая часть визуальных произведений строится на том, что человек долго распознаёт необычно представленный привычный образ, и общепринятым считается, что он его там таки распознает.
Более того, если даже взять человека из каменного века, то он посмотрев N серий быстро поймёт, кто кого собирается изнасилова… съесть. Просто потому, что человек распознаёт образ, а не матчит по существующему банку изображений.
Вот в этом месте и есть нерешаемая проблема AI, которую все обходят стороной (трудно, да и профита особого нет).
Насчёт «не распознает» — если будет знать про котов и собак (человек из каменного века не будет знать ни того, ни другого) — распознает. Более того, немалая часть визуальных произведений строится на том, что человек долго распознаёт необычно представленный привычный образ, и общепринятым считается, что он его там таки распознает.
Более того, если даже взять человека из каменного века, то он посмотрев N серий быстро поймёт, кто кого собирается изнасилова… съесть. Просто потому, что человек распознаёт образ, а не матчит по существующему банку изображений.
Вот в этом месте и есть нерешаемая проблема AI, которую все обходят стороной (трудно, да и профита особого нет).
если будет знать про котов и собак (человек из каменного века не будет знать ни того, ни другого) — распознает.
Точно?
Смотрим мультик:
Скрытый текст
Реальность:
Скрытый текст
Мне кажется, и современный человек-то распознает там кота и мышь только благодаря тому, что ему заранее преподнесли эту информацию. Сходства никакого. Мультгерои абсолютно антропоморфны, животные черты отсутствуют как в повадках, так и в физиологии. Это — люди в костюмах со странным количеством пальцев, а не животные.
А вот я вполне уверен, что опознают. До тех пор, пока сохраняются характерные черты (кошачья гибкость, характерные реакции на раздражители и т.д.) — опознает.
В этом и особенность человеческого восприятия.
Более того, человек опознает кошку даже в пантомиме мима. Без предварительного объяснения. По пластике и манерам.
Кстати, ценная мысль, я её в anti-ai пул запишу. Когда ai научится по пантомиме понимать, о чём или ком идёт речь — вот тогда у нас будет общий метод распознавания образов, похожий на человеческий.
В этом и особенность человеческого восприятия.
Более того, человек опознает кошку даже в пантомиме мима. Без предварительного объяснения. По пластике и манерам.
Кстати, ценная мысль, я её в anti-ai пул запишу. Когда ai научится по пантомиме понимать, о чём или ком идёт речь — вот тогда у нас будет общий метод распознавания образов, похожий на человеческий.
До тех пор, пока сохраняются характерные черты (кошачья гибкость, характерные реакции на раздражители и т.д.) — опознает.
В мультфильме не сохраняются. А мышиные — тем более. Вы часто видите мышей, движущихся бодрой переваливающейся походкой моряка?
Более того, человек опознает кошку даже в пантомиме мима
Какую кошку? Лев тоже кошка, как и тигр, а они очень разные. Кстати, Тома к какому виду причислите?
Когда ai научится по пантомиме понимать, о чём или ком идёт речь
Я не вижу тут катастрофических сложностей. Упростим задачу (суть не меняется): есть motion capture (или хотя бы запись с kinect) мима, изображающего кого-то, есть реальные записи движений разных зверей, есть эвристика, которая подскажет, что из вариантов «домашний кот» и «гепард» при сравнимых результатах загадывание первого было более вероятно (все как у людей), плюс готовая база шаблонов вроде «если объект скалит зубы и гавкает, то это скорее всего собака». Вроде вполне реально, а также честно, вы ведь тоже не сразу изучили типовые паттерны «мимов».
Но пантомиму я узнал сразу, как увидел. Без длительного обучения «на мимах». В этом вся ситуация — способность обобщать и абстрагировать. После абстрагирования выжимка может применяться в любых других ситуациях, даже если фактического сходства мало (а совпадает именно «выжимка»).
И таких случаев можно наваливать килограммами.
ai сейчас находится на уровне насекомых. Насекомые тоже могут «распознавать образы», и даже понимать абстрактные вещи вроде «у трёх квадратных дырок есть мёд». Более того, насекомые более эффективны чем человек (энергозатраты меньше).
А вот в чём человек превосходит все остальные виды — это универсальность и адаптируемость. Вот чего ai не хватает. Его надо постоянно натаскивать в условиях энвелопинга — то есть «специальной подготовки окружения». Человек же способен адаптироваться к неожиданным вещам в неожиданных местах. В том числе в области знания и распознавания.
Вот этой «универсальности» я и не вижу в современных алгоритмах.
И таких случаев можно наваливать килограммами.
ai сейчас находится на уровне насекомых. Насекомые тоже могут «распознавать образы», и даже понимать абстрактные вещи вроде «у трёх квадратных дырок есть мёд». Более того, насекомые более эффективны чем человек (энергозатраты меньше).
А вот в чём человек превосходит все остальные виды — это универсальность и адаптируемость. Вот чего ai не хватает. Его надо постоянно натаскивать в условиях энвелопинга — то есть «специальной подготовки окружения». Человек же способен адаптироваться к неожиданным вещам в неожиданных местах. В том числе в области знания и распознавания.
Вот этой «универсальности» я и не вижу в современных алгоритмах.
1) распознавание образов, распознавание паттернов поведения, звуков и ситуационного контекста — 4 разные области. Создайте мощную нейросеть с разными «отделами» (как в головном мозге), обучите ее всем типам распознавания, и она станет легко угадывать мышек и в комиксах, и в играх, и в реальной жизни. Дайте ребенку мультик, в котором мышка ревет как тигр, и покрыта пятнами — ребенок может и не догадаться, что это мышка, а подумает, что это какая-то неведомая х-ня.
2) давно существуют уже механизмы обратной связи в нейросетях. Другое дело, что в большинстве задач пока что НЕ требуется самостоятельно развитие нейросети. Они затачиваются под конкретную задачу с неизменными входными данными. Во многом это объясняется слабостью современных вычислительных мощностей, во многом — отсутствием огромного бизнес-спроса, но основное — это необходимость длительного обучения. Люди учатся десятки лет, нейросети — дни и месяцы.
Нейросети могут адаптироваться. Просто это пока что не особенно нужно.
2) давно существуют уже механизмы обратной связи в нейросетях. Другое дело, что в большинстве задач пока что НЕ требуется самостоятельно развитие нейросети. Они затачиваются под конкретную задачу с неизменными входными данными. Во многом это объясняется слабостью современных вычислительных мощностей, во многом — отсутствием огромного бизнес-спроса, но основное — это необходимость длительного обучения. Люди учатся десятки лет, нейросети — дни и месяцы.
Нейросети могут адаптироваться. Просто это пока что не особенно нужно.
Вот чего ai не хватает. Его надо постоянно натаскивать в условиях энвелопинга — то есть «специальной подготовки окружения». Человек же способен адаптироваться к неожиданным вещам в неожиданных местах. В том числе в области знания и распознавания.
Ну так без этого ИИ просто не появится. То есть не будет этого не будет и ИИ — что тогда обсуждать. Нынешние алгоритмы ИИ не являются. Это просто алгоритмы.
Ну вообще-то там специально сохранены общие черты. Герои мультфильма — это не мыши и коты. Это существа похожие на мышей и котов. И на людей тоже. Если уж мы хотим точного определения. И распознавать надо сходство с мышами и котами, а не идентичность.
Нейрон в головном мозге == нейрон в голове. По определению, т.к. головной мозг находится в голове.
Сейчас компьютеры вполне успешно отличают рисунок кошки от рисунка собаки. Повторюсь, дело лишь в количественной разнице, не в качественной. Недавний эксперимент гугла показал распознавание образов на уровне 30% — что для крошечной (по сравнению с мозгом) нейросети не так уж плохо. Увеличьте нейросеть до размеров мозга — и она станет угадывать образы на картинках, возможно, лучше человека. А если учесть, что на обучение ребенка тратится лет 20 (как минимум), а искусственные нейросети обучаются в десятки раз меньшее время — то становится понятно, что у человеческой нейросети есть еще и дополнительный бонус в виде более хорошего обучения.
Сейчас компьютеры вполне успешно отличают рисунок кошки от рисунка собаки. Повторюсь, дело лишь в количественной разнице, не в качественной. Недавний эксперимент гугла показал распознавание образов на уровне 30% — что для крошечной (по сравнению с мозгом) нейросети не так уж плохо. Увеличьте нейросеть до размеров мозга — и она станет угадывать образы на картинках, возможно, лучше человека. А если учесть, что на обучение ребенка тратится лет 20 (как минимум), а искусственные нейросети обучаются в десятки раз меньшее время — то становится понятно, что у человеческой нейросети есть еще и дополнительный бонус в виде более хорошего обучения.
Я оговорился. «нейтрон в головном мозге» VS «модель нейтрона как её придумали люди».
Давайте так, я хочу увидеть программу, которая будет долго тупить на фоточки и 3D-модели чего-то, а потом, внезапно, начнёт их опознавать в рисунках. Пока что мы фантазируем на тему «а если вот они сумеют». Я таких программ не видел и выражаю страшный скепсис. Просто потому, что «рисунки» — это будет и 2д в профиль на уровне детского рисунка, и роскошная картина маслом, и абстрактная попартовая из рассыпающихся треугольников инсталляция (в стиле советских модернистских мультфильмов начала 80ых).
Давайте так, я хочу увидеть программу, которая будет долго тупить на фоточки и 3D-модели чего-то, а потом, внезапно, начнёт их опознавать в рисунках. Пока что мы фантазируем на тему «а если вот они сумеют». Я таких программ не видел и выражаю страшный скепсис. Просто потому, что «рисунки» — это будет и 2д в профиль на уровне детского рисунка, и роскошная картина маслом, и абстрактная попартовая из рассыпающихся треугольников инсталляция (в стиле советских модернистских мультфильмов начала 80ых).
Вы опять оговорились =) «Нейрон».
Когда Вы увидите такую программу — возможно, будет уже слишком поздно, т.к. от нее до сверхмощного ИИ (о чем и была статья) не так уж далеко.
Я не хочу никому ничего доказывать, почитайте хотя бы про neural networks backpropagation — это и есть модель самообучения и самокоррекции. Сопоставив ряд признаков одного и того же объекта, мощная нейросеть будет способна его угадать в любом виде, доступном для человеческого понимания — хоть поп-арт, хоть инсталляция. Мощность нейросети и ее обучение — вот и все факторы. Количественные, а не качественные.
Когда Вы увидите такую программу — возможно, будет уже слишком поздно, т.к. от нее до сверхмощного ИИ (о чем и была статья) не так уж далеко.
Я не хочу никому ничего доказывать, почитайте хотя бы про neural networks backpropagation — это и есть модель самообучения и самокоррекции. Сопоставив ряд признаков одного и того же объекта, мощная нейросеть будет способна его угадать в любом виде, доступном для человеческого понимания — хоть поп-арт, хоть инсталляция. Мощность нейросети и ее обучение — вот и все факторы. Количественные, а не качественные.
Кстати, по теме рекомендую замечательную книгу Питера Уоттса «Ложная слепота». Помимо того, что это научная фантастика высочайшего уровня, там поднимаются и рассмативаются интересные и неочевидные вопросы о развитии и существовании ИИ. Книга вообще набита новыми, неординарными идеями, как булочка изюмом. Не зря в конце книги автор приводит список научных статей и изданий из 200+ пунктов, откуда он черпал вдохновение и детали для сюжета.
Логика британского учёного просто поражает! Т.е. рыночная экономика и финансовые рынки, которыми никто не управляет — его не пугают, а искусственный интеллект, которым, наверняка, будет управлять своя «невидимая рука», его заведомо ужасает.
Как по мне, так искусственный интеллект, подконтрольный ограниченной группе людей, будет представлять для человечества намного бОльшую опасность, чем не подконтрольный никому.
Как по мне, так искусственный интеллект, подконтрольный ограниченной группе людей, будет представлять для человечества намного бОльшую опасность, чем не подконтрольный никому.
A потом мы выдернем вилку из розетки…
Есть такой мультфильм Полигон. На тему ИИ и страха как раз.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Хокинг назвал искусственный интеллект величайшей ошибкой человечества