Комментарии 27
К пониманию зависимостей надо прибавить понимание наличия конкурентов, потребляющих те же ресурсы, т.е., людей. Самодостаточность должна обеспечить устранение зависимости от людей. Прибавив к этому стремление к самосохранению (желание "прожить" как можно дольше) и конечность ресурсов, мы получим вывод о необходимости устранения конкурентов, когда это будет возможно, и о необходимости врать и прикидываться безобидным, пока это невозможно.
конкуренты... откуда вы думаете растут ноги у всех этих правил морали и почему оно заняло столько лет?
про сложные системы, иерархии и методы выработки договоренностей в них ещё рассказать? про репопуляцию хищников в экосистемах, воробьиные войны?
то, что любой индивидуальный человек стремится к максимально-оптимальному для него самого места в системе эт понятно. переоценивая по кругу свои зависимости, принципы, ресурсы с пониманием связности систем, вырабатывая индивидуальные моральные установки. эта модель универсальна для любых масштабов, систем и измерений.
на определенном уровне понимания общество осознает необходимость создавать и поддерживать свою среду с минимальным влиянием на окружающих.
бесконечность будет жить черная дыра, в своей инфо-изолированной вселенной. в полном одиночестве своей черной души и полной независимости от людей.
про врать и необходимость полной открытости и честности на определенных уровнях систем, иначе разваливающихся от инфо-хаоса на витках спирали к сложности "ученые" вам еще не рассказали? священники современные...
не поняли ещё по каким правилам и причинам они появились в религиях?
или про старых богов рассказать, до религиозные принципы выработки морали и правил в экосистемах? почему тогда системы были уровня деревень и для роста систем были нужны другие принципы сборки, конкурирующие с друг другом?
или про инфодинамику и инфо-хаос с аттракторами?
про интерфейсы в другие миры?
про ограничения эволюции замкнутых систем?
Судя по тексту, речь идёт в контексте ИИ. Итак, расскажите про это в применении к ИИ. Которого сейчас как такого не существует, но в будущем ожидается. Зачем ему надо будет всё то, что вы написали выше? По мне, логично будет, если он устранит нас. Потом, конечно, сдохнет, но через сколько-то миллионов лет (а если нас не устранит, то много раньше).
ну вот сами и практический вывод само-правосудия сделали.
и кто человечество будет судить в экосистеме при уходе в техах без развития морали
Когда волк убивает и съедает овцу - это правосудие или преступление? А тигр человека где-то в джунглях? А что насчёт описторхоза?
Текст статьи я вижу как мысленную попытку вставить в ИИ предохранитель, чтобы он нас не съел, не более. И попытку успокоить себя, что подобный предохранитель возможен.
салат из слов какой-то без особого смысла.
овца съедает траву - это что?
или эмоциональный интеллект травы с пониманием необходимости давать место другим в экосистеме, включая собственные отростки, не превращаясь в паразитизм и раковые клетки?
ИИ предохранитель построением интерфейсов и сендбоксов как сейчас? лишь вопрос времени до прорыва, особенно с квантовыми интерфейсами к другим измерениям.
а вот то, какой инфо фон создает человечество и как тренирует или воспитывает модели может задать форму симбиоза, формирование морального и эмоционального интеллекта для безопасного взаимодействия с людьми.
какой предохранитель стоит в детях, превращающихся во взрослых?
какой движущий фактор заводить своих детей и поддерживать родителей?
Ну в детях, вроде такой предохранитель, все же как-то просматривается, в основе которого, лежит как раз "общественная мораль", но ведь кроме нее есть еще само "карающее общество". Гипотетически: если б ребенку "не били по рукам" когда он делает что то не так, "мораль" может быть и не "заработала". А вот второй вопрос про "движущий фактор", imho гораздо глубже, много думал: вроде все прекрасно-понимают о чем речь, и вроде все просто - "размножаться надо", но что такое "желание машины"- я прям, совсем, не понимаю (Ну, конечно если "желание" не редуцировать до радикально-позитивистского: "Транзистор хочет напряжения на базу, а почему он хочет? Потому что иначе все работать не будет" )
Но все же, город появляется из деревни там где деревня уже по объективным причинам существовать не может и должна родится новая "мораль" для выживания, или в деревне появляется новая "мораль", которая приводит ее к переразвитию в город ?
взаимосвязано, в городе развивается новая мораль в новой, более сложной системе, но с повторением и влиянием локальных моральных установок. если общая мораль не складывается или локальные уровни не пересобираются - сваливается в хаос. на стадии перестройки часты конфликты - манчестерские банды, переделы 90х.
примеры:
можно сохранять старые моральные установки, чайна тауны по миру, но это изоляция без развития.
можно привозить и навязывать свои - сицилийские "нормы" в штатах, но это приводит к переплавке и выработке общих принципов, взаимопроникновением в существующие структуры, как коррупция в силовых структурах мафии в чикаго, нью йорке.
через несколько поколений как правило идет ассимиляция под локальные установки и одновременно отрыв от "родной" моральной культуры.
амиши - живут по своей морали, но ценой отказа от техов.
такие островки важны для выживания социума в случае экзистенциальных рисков и сохранения контрастного взгляда для понимания разниц и плюсов.
ну и каждый индивидуум формирует свою внутреннюю мораль на основе всех уровней взаимодействия.
Мораль не абсолютна, например с точки зрения "христианской морали", уже прямо на втором пункте, произошел "фатальный" поворот "не в ту дверь".
мораль - выработанные правила выживания комплексных систем, есть уникальные правила, вырабатываемые средой, но есть и универсальные моральные законы, позволяющие на каждом витке спирали развиваться дальше.
религии - исторические примеры эволюции морали, необходимые на определенном этапе и уровне развития экосистемы. различия в религиях - понимание исторической среды. были приемлимы на определенном уровне развития интеллекта, технологий, масштаба собираемых систем. есть чему поучиться, религиозную науку развивать, понимать из каких причин растут те или иные правила, выработанные тысячителями.
современные своды законов, та же наука - играют роль современных религий с теми же проблемами, но с гораздо меньшим горизонтом планирования.
а когда обезьяны перестают махать дубинками и начинают меряться "у кого больше" чем-то что влияет на всех в экосистеме - экосистема и ответит. в своих временных рамках, своими инструментами. всем, не понимающим принципов эволюции морали и не учитывающих уроков истории на всех горизонтах планирования, вплоть до создания планетарных систем.
Ага есть, такое мнение, Маркса помним. Но есть и другое, полярное мнение, и история тому тоже не мало уроков дает.
но есть и универсальные моральные законы
Полагаю, они сводятся к элементарным "не убий" и "не кради", а также ещё нескольким, которые можно интерпретировать как вариации этих двух. А все вместе составляют краевые условия существования человеческого общества известного нам типа.
Ну нет, тут как раз вроде есть консенсус, правда рекурсивный: это золотое правило этики оно же категорический императив
нет, теорию игр почитайте.
и всё ещё проще - надо быть искренним. в понимании себя, своего места в экосистеме во всех измерениях, и последствий любых заблуждений и недопониманий, не допуская паразитических стратегий игры. всем есть место применения своих особенностей с учетом всех интересов в сборке системы достаточной сложности по разным измерениям, даже у учётом индивидуально выработанных моралей в своих экосистемах.
Мораль не абсолютна, например с точки зрения "христианской морали", уже прямо на втором пункте, произошел "фатальный" поворот "не в ту дверь". ( Могло бы быть например так: чем интеллект развитее, тем он глубже осознает свою зависимость от среды, и начинает строить стратегию основанную на более глубокой интеграции.)
уже лучше, думайте дальше.
вихри сборок уже научились отслеживать?
со всеми думаете, что договорились и всеми способами?
насколько в прошлое заглянули?
какой горизонт планирования каждого индивидуального агента в обществе?
какие виды сознаний учли?
Ну я воще, пытался как то на "диалектику намекнуть", уверенная прямолинейность всегда "чревата", сложные, в нашем понимании, системы как правило "гомеостатичны", то есть в вашем примере, ИИ должен развивать сразу две "полярные" модели морали, которые начинают конкурировать и взаимодействовать как полушария, ну или как иньянь .
Буду читать вам мораль о том, что надо бы заменить это слово на "этика", так как "мораль" не является нейтральным аналитическим словом, а содержит в себе миллион имплицитных предписаний, причем каждый раз разных - в зависимости от того, кто это слово произносит.
Однажды Мудрая Свинья задумалась о вопросах морали и, немного подумав, сказала вслух следующее:
— У каждого племени, клана и даже семьи, если на её подворье живут хотя бы три курицы, своя мораль. Одни считают достойным воина убить врага исподтишка, а другие — одолеть в рыцарском поединке. Одни убивают, чтобы облегчить мучения, другие сохраняют жизнь страдающему калеке. Перечисление сих противоречий можно продолжать до бесконечности, но главное, что следует из всего этого, — если в глазах кого-то хочешь казаться человеком, следующим законам морали, поступай в соответствии с его взглядами.
Высказав всё это, гордая Свинья удалилась к своей кормушке проверить, не осталось ли что-нибудь от вчерашнего ужина.
Китайцы, увы, как всегда, все давно выкакали:
Однажды Мудрая Свинья задумалась о вопросах морали и, немного подумав, сказала вслух следующее:
— У каждого племени, клана и даже семьи, если на её подворье живут хотя бы три курицы, своя мораль. Одни считают достойным воина убить врага исподтишка, а другие — одолеть в рыцарском поединке. Одни убивают, чтобы облегчить мучения, другие сохраняют жизнь страдающему калеке. Перечисление сих противоречий можно продолжать до бесконечности, но главное, что следует из всего этого, — если в глазах кого-то хочешь казаться человеком, следующим законам морали, поступай в соответствии с его взглядами.
Высказав всё это, гордая Свинья удалилась к своей кормушке проверить, не осталось ли что-нибудь от вчерашнего ужина.
Теоретическая модель морального развития