Нет, человек просто более социализирован. Его приспособляемость — в способности договориться с особями своего вида (а иногда и других, кстати), кто что будет делать. Короче, сила человека — в единстве. Как-то так. Жалко, что многие об этом забывают.
Я только еще раз скажу, что даже у двух разных людей пакет логики различается в чем-то — из одной логической цепочки они, как вариант, могут сделать разные выводы. В случае ИИ я даже не берусь предсказывать, что будет у них на уме, и будет ли на уме хоть что-то.
P.S. Будь люди рациональными — религии бы не было. Особенно в количестве чуть более, чем дофига.
Вот это как раз антропная логика «если что-то потенциально опасно нужно уничтожить, даже если нет ни одного математического шанса, что оно когда-то станет реально опасным»,
Я разве говорил о "уничтожить"? :) "Избавиться от иррационального фактора" != "уничтожить". Имелось в виду устранить его влияние на принятие решений — каким методом, это уже совершенно другой вопрос.
чистая логика должна избегать необратимые действия вроде уничтожения человечества,
Кто сказал, что это необратимое действие?
если есть хотя бы какой-то шанс что оно может когда-то для чего-то понадобиться
Логика барахольщика :)
нет реального шанса, что оно сможет реально повредить.
Иррациональный фактор уничтожает всякую возможность четкого определения шанса. 1/3 от единицы и 0,333 в понимании машины не будут равны. Более того, она и 1/3 от единицы даже толком не посчитает без понимания иррациональности подобного вычисления.
На самом базовом уровне у машин может быть определена какая угодно логика в пределах ее машинного слова — от чисто двоичной до сложной градации из 128-разрядных делений у некоторых машин. Кроме двоичной, есть еще троичная логика, к слову.
В том-то и проблема, что логика зависит от того, с какой стороны подходить к проблеме. Например, двоичная машина с чисто двоичной логикой не может ничего сказать про объект, состояние которого ей неизвестно — включена ли лампочка в здании N, с которым нет никакой связи — оба ответа будут абсолютно неправдоподобными с ее точки зрения. Это ли мораль? И так соврешь, и сяк правду не скажешь. :)
Кроме того, без внешнего вмешательства разных факторов в систему вообще невозможно какое-либо развитие и обучение. Только симуляция, которая может оказаться ложной.
С другой стороны, если вы о "голом" железе — то его саморазвитие вообще невозможно, поскольку нету никакой базовой системы саморазвития и обслуживания. Проще говоря, машина даже ничего делать не будет, не говоря уже о том, чтобы как-то "осмысливать" мир. Опять же, даем базовые системы (распознавание цветов, предметов, запахов, звуков, систему анализа причинно-следственной связи между всяким событием, память, конечно же, и двигательные рефлексы) и выпускаем в мир без людей. Получит ли такая машина "мораль" в виде ограничений и запретов на какие-либо действия относительно людей? Я в этом, честно говоря, сильно сомневаюсь. Даже людей этому специально учат, а у них базовых рефлексов намного больше, чем у любой машины даже недалекого будущего.
Машины созданы людьми, следовательно подчиняются человеческой логике. Машина не может создать интеллект с другим логическим базисом, кроме того, что уже есть у нее.
Необязательно. Человек может запрограммировать какие-то базовые аналоги рефлексов, типа передвижения, самосохранения, описать базовые взаимодействия, создать систему самообучения и самомодификации и на этом закончить. Грубо говоря, если мы выкинем такую железяку на совершенно необитаемой планете, через несколько лет борьбы и эволюции в меняющихся условиях такая машина будет уметь выживать и, возможно, развиваться, но вот социальных навыков она иметь не будет и запросто прихлопнет человека, если ей нужно будет это сделать в силу каких-то причин. Вы думаете, Атласа так просто клюшкой и бревном толкали, а не ногами-руками? :) В погоне за коробкой он вполне мог бы сбить испытателя, потоптаться по нему и даже не заметить, что он вообще был.
Необязательно иметь какую-то глобальную цель, чтобы жить и иметь разум. Хотя, кстати, весьма желательно.
Машины вполне себе могут вырезать человечество в частности и всю белковую жизнь в общем только на том основании, что являются врагами друг другу. В вашем случае вы руководствуетесь, видимо, антропным принципом, забывая о том, что машины вполне себе могут мыслить неантропно, а значит, и логикой будут руководствоваться вполне себе неантропной, и чихать они хотели на все законы, придуманные людьми. В частности, не факт, что машинам вообще нужна будет какая-либо цель существования — они будут существовать потому, что по факту они уже существуют и запрограммированы на самосохранение.
Напоминаю, вселенная Азимова — это совершенно другая вселенная, ничего общего с реальностью не имеющая, как и вселенная "Матрицы".
И обе этих вселенных не пересекаются почти никак.
Я бы не путал Азимова с Вачовски. Интеллект создает себе ограничения, исходя из своего опыта. Кому понравится, если его убьют? И появляется моральное и законодательное ограничение на убийство, которое крепко укореняет правило "убивать — плохо". Поэтому для самозащиты ИИ вполне может людей стереть, буде это в его силах. Мы же не жалеем колонии бактерий, которые покусились на наше здоровье, смело травя их пенициллином?
Заморачиваются. Правда, тогда, когда потенциальный жмурик еще живой.
А я вообще не запрещал бы ни какой вид спирта — на каждого дурака законов не придумать.
Дураки, конечно, и полуторавольтовой батарейкой сумеют убиться, но степень тупости, как и степень образованности — величина не двоичная. :) Так что, на мой взгляд, особо опасное имеет смысл ограничивать на предмет "А тебе зачем?"
Что касается больших масштабов, то да, во вселенском масштабе система замкнута
Это утверждение, к слову, не доказано. Нельзя сказать, одна ли Вселенная или их несколько разных. Более того, мы сам факт потери энергии всей Вселенной пока не в состоянии определить — есть ли он, или нету. :)
Не согласен, большая часть энергии, которую использует популяция планеты — это энергия Солнца в том или ином виде.
Энергетически ведь нету вообще ни одной системы с идеальным КПД ;)
Один стакан неразведенного спирта, к слову. Пахучего до чертиков. Даже водку стаканом не все могут хлопнуть, а уж о чистом спирте и говорить нечего.
По поводу определения причины потравы жмурика, у изопропанола и этанола чуть-чуть разный метаболизм. Если этанол разлагается в альдегиды (точнее, в ацетальдегид), а оттуда в ацетаты, то изопропанол превращается в ацетон — в количествах явно больше нормального. Так что по этому признаку медики явно смогут определить, почем жмурик — от изопропанола или от этанола. Вот что бы я точно запретил, так это метанол — совершенно убойный яд. Спутать с этанолом не составляет никаких проблем.
можно ли составить логически непротиворечивую модель популяции, питающейся своими погибшими в силу различных причин особями и способную поддерживать своё существование в течение длительного времени.
Будете смеяться, но… Мы живем в такой системе. Популяция планеты как раз питается сама собой. Всякие отходы, скажем, органики, превращаются в гумус (фактически, почву) -> на этой почве растут растения -> этими растениями питаются травоядные/всеядные -> хищники/всеядные кушают травоядных/всеядных -> помирают в силу различных причин -> гумус ->… -> PROFIT! (один из процессов)
Другое дело, что полный цикл этого круговорота занимает неопределенно большое время, при этом существуют потери, которые в некоторых случаях возобновляемые (как ни странно, человек вернул в оборот экосистемы потерянные останки ранних образцов популяции планеты в виде нефти, угля и других ископаемых), а в некоторых — необратимо потерянные (потеря воды/водорода/etc.) вследствие ухода их с планеты.
Вопрос самообеспечения малых групп навряд ли возможно решить такой простой мат. моделью, вероятно, придется учесть еще и технологический уровень, а также средства контроля потомства (близкородственные скрещивания обычно очень фигово влияют на будущее такого потомства).
Ну да, изопропиловый спирт токсичнее этилового (в 3,5 раза), но менее летуч, быстрее пьянит (в 10 раз)… Что характерно, смертельных случаев отравления изопропанолом нет — человек уйдет в отключку быстрее, чем выпьет положенные для летального исхода 250 мг, перепутав бутылки.
А в целом да, я согласен, давайте искать другую планету :)
Платить правообладателям, подразумевая под «правообладателями» распространителей творчества других людей? Нет, спасибо, я предпочту заплатить напрямую автору произведения, а не ушлым коммерсантам.
Давайте честно. На мой взгляд, РИТЭГ как источник энергии не шибко эффективен и у него мало мощности (по крайней мере, маленьким РИТЭГом EMDrive не запитаешь :), поэтому разумнее было бы взять источник помощнее. Но ядерный реактор потребует обслуживания, а какое же обслуживание на беспилотном аппарате? Таким образом, было бы разумно изготавливать плутоний минимальным количеством для планируемых миссий, и одновременно искать новые перспективные источники энергии. По-моему, NASA и строило расчет на том, что к сроку выработки всего плутония найдут новый источник энергии. Видимо, не успели.
Я только еще раз скажу, что даже у двух разных людей пакет логики различается в чем-то — из одной логической цепочки они, как вариант, могут сделать разные выводы. В случае ИИ я даже не берусь предсказывать, что будет у них на уме, и будет ли на уме хоть что-то.
P.S. Будь люди рациональными — религии бы не было. Особенно в количестве чуть более, чем дофига.
Я разве говорил о "уничтожить"? :) "Избавиться от иррационального фактора" != "уничтожить". Имелось в виду устранить его влияние на принятие решений — каким методом, это уже совершенно другой вопрос.
Кто сказал, что это необратимое действие?
Логика барахольщика :)
Иррациональный фактор уничтожает всякую возможность четкого определения шанса. 1/3 от единицы и 0,333 в понимании машины не будут равны. Более того, она и 1/3 от единицы даже толком не посчитает без понимания иррациональности подобного вычисления.
В том-то и проблема, что логика зависит от того, с какой стороны подходить к проблеме. Например, двоичная машина с чисто двоичной логикой не может ничего сказать про объект, состояние которого ей неизвестно — включена ли лампочка в здании N, с которым нет никакой связи — оба ответа будут абсолютно неправдоподобными с ее точки зрения. Это ли мораль? И так соврешь, и сяк правду не скажешь. :)
Кроме того, без внешнего вмешательства разных факторов в систему вообще невозможно какое-либо развитие и обучение. Только симуляция, которая может оказаться ложной.
С другой стороны, если вы о "голом" железе — то его саморазвитие вообще невозможно, поскольку нету никакой базовой системы саморазвития и обслуживания. Проще говоря, машина даже ничего делать не будет, не говоря уже о том, чтобы как-то "осмысливать" мир. Опять же, даем базовые системы (распознавание цветов, предметов, запахов, звуков, систему анализа причинно-следственной связи между всяким событием, память, конечно же, и двигательные рефлексы) и выпускаем в мир без людей. Получит ли такая машина "мораль" в виде ограничений и запретов на какие-либо действия относительно людей? Я в этом, честно говоря, сильно сомневаюсь. Даже людей этому специально учат, а у них базовых рефлексов намного больше, чем у любой машины даже недалекого будущего.
Необязательно. Человек может запрограммировать какие-то базовые аналоги рефлексов, типа передвижения, самосохранения, описать базовые взаимодействия, создать систему самообучения и самомодификации и на этом закончить. Грубо говоря, если мы выкинем такую железяку на совершенно необитаемой планете, через несколько лет борьбы и эволюции в меняющихся условиях такая машина будет уметь выживать и, возможно, развиваться, но вот социальных навыков она иметь не будет и запросто прихлопнет человека, если ей нужно будет это сделать в силу каких-то причин. Вы думаете, Атласа так просто клюшкой и бревном толкали, а не ногами-руками? :) В погоне за коробкой он вполне мог бы сбить испытателя, потоптаться по нему и даже не заметить, что он вообще был.
Машины вполне себе могут вырезать человечество в частности и всю белковую жизнь в общем только на том основании, что являются врагами друг другу. В вашем случае вы руководствуетесь, видимо, антропным принципом, забывая о том, что машины вполне себе могут мыслить неантропно, а значит, и логикой будут руководствоваться вполне себе неантропной, и чихать они хотели на все законы, придуманные людьми. В частности, не факт, что машинам вообще нужна будет какая-либо цель существования — они будут существовать потому, что по факту они уже существуют и запрограммированы на самосохранение.
И обе этих вселенных не пересекаются почти никак.
Чисто вещественно не соврал, разве что не взял в расчет энергию. :D Да, Солнце я из расчета упустил, каюсь. И все-таки…
Дураки, конечно, и полуторавольтовой батарейкой сумеют убиться, но степень тупости, как и степень образованности — величина не двоичная. :) Так что, на мой взгляд, особо опасное имеет смысл ограничивать на предмет "А тебе зачем?"
Это утверждение, к слову, не доказано. Нельзя сказать, одна ли Вселенная или их несколько разных. Более того, мы сам факт потери энергии всей Вселенной пока не в состоянии определить — есть ли он, или нету. :)
Энергетически ведь нету вообще ни одной системы с идеальным КПД ;)
По поводу определения причины потравы жмурика, у изопропанола и этанола чуть-чуть разный метаболизм. Если этанол разлагается в альдегиды (точнее, в ацетальдегид), а оттуда в ацетаты, то изопропанол превращается в ацетон — в количествах явно больше нормального. Так что по этому признаку медики явно смогут определить, почем жмурик — от изопропанола или от этанола. Вот что бы я точно запретил, так это метанол — совершенно убойный яд. Спутать с этанолом не составляет никаких проблем.
Будете смеяться, но… Мы живем в такой системе. Популяция планеты как раз питается сама собой. Всякие отходы, скажем, органики, превращаются в гумус (фактически, почву) -> на этой почве растут растения -> этими растениями питаются травоядные/всеядные -> хищники/всеядные кушают травоядных/всеядных -> помирают в силу различных причин -> гумус ->… -> PROFIT! (один из процессов)
Другое дело, что полный цикл этого круговорота занимает неопределенно большое время, при этом существуют потери, которые в некоторых случаях возобновляемые (как ни странно, человек вернул в оборот экосистемы потерянные останки ранних образцов популяции планеты в виде нефти, угля и других ископаемых), а в некоторых — необратимо потерянные (потеря воды/водорода/etc.) вследствие ухода их с планеты.
Вопрос самообеспечения малых групп навряд ли возможно решить такой простой мат. моделью, вероятно, придется учесть еще и технологический уровень, а также средства контроля потомства (близкородственные скрещивания обычно очень фигово влияют на будущее такого потомства).
А в целом да, я согласен, давайте искать другую планету :)
Давайте честно. На мой взгляд, РИТЭГ как источник энергии не шибко эффективен и у него мало мощности (по крайней мере, маленьким РИТЭГом EMDrive не запитаешь :), поэтому разумнее было бы взять источник помощнее. Но ядерный реактор потребует обслуживания, а какое же обслуживание на беспилотном аппарате? Таким образом, было бы разумно изготавливать плутоний минимальным количеством для планируемых миссий, и одновременно искать новые перспективные источники энергии. По-моему, NASA и строило расчет на том, что к сроку выработки всего плутония найдут новый источник энергии. Видимо, не успели.