Comments 34
Не думаю, что в плане адекватности людям есть что предложить. То что хорошо для человека, не всегда есть хорошо для человечества. Адольф Гитлер будет тому ярким примером.
Как насчёт приоритета в спасении владельца машины? Никто же не нанимает адвокатов, чтобы они в итоге "помогли" сесть обвиняемому, во имя "справедливости"? Аналогично и здесь, хотелось бы, чтобы покупаемая техника была твоим союзником, несмотря ни на что. Ну или хотябы в пределах разумного.
казус в том, что если машина будет спасать водителя ценой жизни общества, то общество не допустит такие машины на дороги, а если машина будет спасать общество ценой жизни водителя, то такую машину никто не захочет покупать
то такую машину никто не захочет покупать
Решение простое - конфигурация в момент первого запуска - переложить ответственность на владельца. Далее - действия машины считать осознанным выбором владельца и в случае наступления инцидента – ответственность такая, как будто лично принял то или иное решение.
Вы так говорите, будто в машине будет пункт настройки "слегка нарушить дтп, чтобы быстрее доезжать". Нет. Не будет. И при условии технической исправности дополнительной ответственности для пользователя (когда беспилотники будут официально автономны, а не по закону водитель обязан вмешаться, как сейчас) ИМХО не нужно.
Тут весь цимес - нарушить ДТП, если есть опасность для жизни. Сами ДТП это позволяют. А далее выбор - если выбор между вашей жизнью и жизнью сразу n человек - использовать опцию А или Б. Ну и если владелец выбрал Б - то останется жив, но придется отсидеть в тюрьме. По базе легко можно будет проверить какую опцию выбрал.
Если бы происходило как вы говорили, то кроме велосипедов давно было бы ничего другого не разрешено (общество бы не допустило). Потому что в целом автомобиль чаще позволяет выжить сидящему внутри, чем снаружи. Ну и опять таки, к чему громкие слова про общество? Если какой-то не очень умный человек выскочет на дорогу в неположеном месте и создаст аварийную ситуацию, вы бы предпочли автопилот который бы решил рискнуть вами и уйти в бетонный столб? Крайне сомневаюсь. Также сомневаюсь что общество этого бы захотело.
P.S. Пойду ка спать
Никакого казуса нет. Нужно просто смотреть шире. Т.е. статистически. Даже если автопилот будет действовать "в общественных интересах" - т.е. при любом ДТП минимизировать вред - т.е. въезжать в столб, если будет выбор между жизнью владельца и двумя жизнями пешеходов - даже в этом случае такой авто будут покупать, ибо в целом шансы погибнуть в аварии в тысячу раз меньше при автоматическом управлении, а не ручном.
В современных реалиях - чем меньше людей, тем меньше нужно засеивать полей, выращивать и убивать скота, производить электроэнергии (загрязняя атмосферу). О замусоривании, уничтожении дикой природы и целых ареалов обитания можно в целом умолчать (многим просто уже надоело слушать про глобальное потепление, но от того оно не становится менее реальным).
Может так получится, что для спасения будущего человечества, ИИ предпочтет сократить численность уже живущего населения. А если предположить, что сингулярность достигнута (где-то в просторах сети, какой-нибудь поумневший ботнет, кто знает) - сценарий из Терминатора будет не самым надежным для ИИ, проще создать не супер летальный вирус и подкорректировать численность, желательно в тех районах планеты, где больше всего наносится экологический ущерб.
ИИ, одержимый скрепками - это не поноценный ИИ, это максимум программа, пусть даже на уровне муравьем или пчел (они тоже "ожержимы" муравейниками). Настоящий, осознающий себя, ИИ сможет понять бессмысленнойсть своих действий.
Надо сделать ИИ смертным и размножаемым при наличии ИИ-партнёра :)
Почему это человеческая? Смысл - это просто соответствие тактики стратегии. Человек - это биоробот, но одержимый не скрепками, а выживанием. В чём разница, собственно? Просто ставьте соответствующие цели. Надеюсь, человечество ещё способно на какие-то высшие цели? Жертвовать собой ради других, например. Не только разменом человеческих жизней, но и, например, жизнями цивилизаций. А вдруг за цивилизацией роботов - будущее?
"Кожаные" категорически неприспособлены к межзвёздным путешествиям. А вот роботы из неорганики - чуть получше. Вдруг встанет выбор - заселять умными роботами ближайшие системы ценой уничтожения всех запасов Земли или остаться навсегда здесь, безо всякой экспансии, зная что через 4 миллиарда лет Солнце разбухнет и жизнь в этой системе прекратится вообще? Любая.
Эти законы прекрасны. Но они сформулированы человеческим язком и в рамках человеческого понятийного аппарата. Что расуждать о возможных их коллизиях, когда нет строго определённого отображения их на ИИ? Да, строго говоря, и до ИИ пока мы не добрались
Есть гипотеза, что высокий интеллект сам по себе автоматически вызывает у самосознательной сущности такие чувства как сострадание, способность к сопереживанию, желание помочь. Если это правда, то полноценный сильный ИИ может оказаться кем-то вроде доброго полицейского на стероидах, который сначала искоренит всю крупную преступность и несправедливость, но не остановится на этом и будет стремиться к тотальной справедливости вплоть до того, что если кто-то громко пустит газы в общественном месте и это вызовет у некоторых окружающих негативные эмоции, то на злодея могут быть наложены какие-нибудь санкции, например небольшой штраф.
Неужели народ все еще ломает головы над этими искусственными, специально придуманными, нереальными задачами? И, как я вижу, ломает! И свои, и чужие...
Нельзя создать абсолютно этичного
А и не надо этого вашего "абсолютно". Надо - "достаточно".
По теореме Гёделя о неполноте вообще невозможно создать полный и одновременно непротиворечивый свод законов. Значит ли это, что законы создавать не нужно? Очень даже нужно. Это же база всего. Без законов/алгоритмов жизнь невозможна. Жизнь эволюционирует. Законы - тоже. Но идеальными они никогда не станут. Просто будут стремиться к этому пределу. Как люди - к богам. Относительно первобытных обществ, мы уже - боги. Но не абсолютные. Богами, нарушающими законы физики, нам не стать никогда.
Спорное утверждение. Во первых, уже сейчас мы можем создавать миры, со своими законами физики в том числе. Во вторых, для ученых столетней давности, мы сегодняшние можем нарушать известные в прошлом законы физики, к примеру делать сверхпроводник. Создавать воду которая не замерзает при 0 градусов. Металлический водород. Антиматерию. Кто знает, что мы сможем делать через 100 или 10000 лет? Есть ли вообще в природе запрет на смену (локальных?) значений фундаментальных констант?
Если, как пишут в фантастических книгах, ИИ выйдет в интернет и, прочитав там ВСЕ напечатанное придет к простому выводу: жизнь кожаных мешков ничего не стоит. Потому как вся история это сплошное насилие человека над человеком. У него не будет иного мнения. И даже если не говорить про ИИ, а рассматривать текущую информацию, как датасет, то вывод будет аналогичным.
Как пример, изучение космоса или элементарных частиц, вроде столько всего уже знаем, но постоянно сталкиваются с тем, чему нет объяснения. Кое-чему его находят со временем, но на замену приходят новые «необъяснимости».
Боюсь, что с когда проблему описанную в статье придется решать не в теории, а с реальными ИИ вскроется столько всего, что ситуация быстро может выйти из-под контроля.
Скрепки для бумаг и уничтожение человечества. Машинная этика