Эволюция морали: чему биология может научить разработчиков AGI

[Emelian]

Как мне кажется, в заключении, по факту, в выводах не указано главное свойство биологических систем – это реализация идеи развития, которая достаточно универсальна. На примере человеческого общества это хорошо видно.

Пещерный человек, если верить теории Дарвина, произошел от обезьяны. Нужда заставила взять его в руки камень и с его помощью добывать себе пищу. Попутно, доисторический человек открыл огонь, точнее, научился его поддерживать и использовать.

Дальше – больше. Инстинкт выживания и минимальные умственные способности, данные Природой, обусловили первобытному человеку развитие орудий труда. Постепенно, он сообразил, что можно самому выращивать полезные растения и откармливать нужных животных ради своей жизнедеятельности.

Потом, возникли: натуральный обмен, торговля, деньги, кастовое общество, государства и войны.

Когда войны стали приносить больше вреда, чем пользы (победителям), появилась необходимость в цивилизационном миропорядке. Оказалось, что мирное взаимососуществование и развитие могут быть не менее выгодны, чем добыча завоёванного и награбленного. По крайней мере, было больше шансов выжить при более-менее сносной жизни.

Однако, как показывает практика, слишком мирная и спокойная жизнь сильно расслабляют, ведут к застою и относительной деградации. Типа: «На то и щука в пруду, чтобы карась не дремал!».

С другой стороны, ставка на экспансию и войны тоже имеет свои «достоинства» и недостатки. Когда противник слабый – эта стратегия эффективна, а когда сильный либо равный, то не очень. Победа может оказаться «Пиррова», а в игре «Пан или пропал!» вполне можно и «пропасть».

В итоге, в современном обществе (в писанной истории) обе эти тенденция: развитие, ориентированное на экспансию и развитие, ориентированное на собственные ресурсы (саморазвитие) постоянно взаимодействуют между собой, по принципу маятника. При этом, периодически, относительное мирное время развития человеческого общества, сменяется на войны между сильными и слабыми. Потом, слабые уходят, остаются одни сильные, для которых выгоднее взаимососуществовать, чем воевать. Проходит время, кто-то из бывших сильных – слабеет и у оставшихся возникает соблазн поживиться его наследием.

И этот «маятник» : «война – мир» или «сотрудничество – конфронтация» будет постоянно колебаться из одной стороны в другую, что мы и наблюдаем своим глазами всю свою сознательную жизнь.

Чтобы выжить, слабые должны становиться сильными, другими словами, развиваться. А чтобы не потерять свою силу – нужно развиваться еще быстрее, пока молодые и агрессивные не «съели» тебя.

Вывод, экспансия и саморазвитие обеспечивают развитие общества. Если ты не стремишься к развитию – рискуешь проиграть всё, что имеешь сейчас. Если собираешься «откусить больше, чем съесть», можешь раньше времени надорваться.

Вот она, правда жизни: И вашим и нашим! Нужно уметь, когда надо, применить силу, а, иногда, выгоднее, оказаться «джентльменом» и выглядеть «белым и пушистым».

Однако, на самом деле, невозможно быть одновременно и «хищником» и «другом» того, кого собираешься «съесть» (чтобы и овцы были сыты и волки целы). Отсюда растут двуличие лицемерие, «двойные» стандарты, аморальность и все такое прочее.

Фактически мы, по словам англов и саксов, имеем «параллельные человечества». Одно из них моральное (ориентированное на любовь, дружбу, уважение, взаимовыгоду, миролюбие и т.п.), а другое аморальное (ориентированное на жажду наживы, власть, доминирование, гегемонию, насилие, войны и т.п.).

Очевидно, что представителю одного человеческого вида трудно быть в шкуре другого. Даже, если волк напялит на себя овечью шкуру.

Таким образом, моральные полюса скорее аннигилируют, чем перейдут одно в другое. Хотя промежуточные формы, типа, «ни рыба, ни мясо», «ни друг и не враг, а так» и предатели всех мастей, вполне могут существовать, не оказывая особого влияния на «борьбу гигантов» или, в терминах классиков: «Единство и борьбу противоположностей».

Отсюда следует, что мораль, по большом счету, определяется генами. Воспитанием и обстоятельствами определяются только относительная мера подлости и мерзопакостности либо, наоборот, желание вести себя прилично, в приличном обществе.

[martin__marlen]

Человек развивался в дуальной конкуоентно- кооперативной среде себе подобных самостоятельных особей и их групп.

Оттула и сформировались эти протоколы

Есть мысли, как обеспечить такую стрелу артинам? Только тогда они смогут сформировать подобные протоколы.

В противном случае мы будем иметь дело с инопланетянами .

[bull1251]

"Инопланетность" ИИ — это прямое следствие его нынешней изолированности. Чтобы обеспечить ИИ ту самую "стрелу", целесообразно сместить акцент с разработки монолитных систем в пользу мультиагентных сетей с ограниченными ресурсами. Если мы создадим систему из миллионов независимых агентов, которые вынуждены делить вычислительные мощности, обмениваться данными и конкурировать за эффективность, мы фактически воссоздадим ту самую дуальную среду, в которой когда-то сформировались и наши собственные этические протоколы.