> 3. Если что-то случается, то ответственность несет производитель.
С первыми двумя пунктами согласен, 3-й я бы переформулировал в том ключе, что за последствия документированного поведения автопилота несет ответственность владелец автомобиля, а недокументированного — производитель.
Возможно, вам будет интересно знать, что в культуре Home Sapiens есть определенная внутривидовая иерархия, сложившаяся за тысячелетия его существования — в критических ситуациях представители этого вида сначала спасают женщин и детей, а потом всех остальных. При этом пытающиеся нарушить эту последовательность в угоду собственной безопасности традиционно подвергались общественному порицанию. Во многом данная традиция помогла этому виду выжить.
Искренне хочу вам пожелать никогда не применить вашу фразу к собственной ситуации. Но, увы, в данном случае это также и единственный способ осознать свою неправоту.
Тема все-таки не раскрыта до конца. Хорошо, мы спасаем пассажиров авто любой ценой, но достаточно ли это? Нужно ли останавливаться робоавтомобилю, если он сбил пешехода, переходившего дорогу в неположенном месте? Ведь если существенных повреждений автомобиль не получил, то он может не беспокоить владельца и продолжить движение по маршруту. Также можно снабдить робоавтомобиль отбойником, с которого проще будет смывать кровь, для этого даже можно предусмотреть специальные дворники. Думаю, такой комфортный робоавтомобиль с удовольствием приобретут многие.
Эмоции делают нас людьми и отличают от машин. Нельзя обсуждать технологии в отрыве от этической стороны их внедрения, иначе мы рискуем не поднять роботов до нашего уровня, а наоборот, самим превратиться в бездушные железки.
По мне, чудовищно то, что для вас (и большинства комментаторов) в вопросе, кому жить, а кому нет, существенным является факт уплаты денег за автомобиль. Про три группы детского сада я вообще молчу.
Фокус в том, что никакого делегирования решения разработчику на самом деле нет. Покупая автомобиль с автопилотом, вы сами, лично принимаете решение, устраивает ли вас описанное в инструкции его поведение или нет. После же покупки автомобиля вы фактически берете на себя все риски и последствия его эксплуатации.
Да, утрирую, но конкретная формулировка в инструкции не меняет алгоритма работы автопилота и его последствий, которые должен осознавать покупатель. Даже человек может ошибаться, принимая предметы на дороге за пешеходов, и от автопилота 100% безошибочной идентификации ожидать, увы, невозможно.
Как бы да, не должно. Но ситуации бывают разные, водитель на дороге не один, и даже если он соблюдает все правила, другие правила могут и не соблюдать. Моральная дилемма не исчезает, она просто переформулируется — уйти от выскочившего на встречку автомобиля и сбить людей на обочине, или оттормаживаться, рискуя поймать лобовое столкновение? В случае обычного автомобиля водитель отодвигает этот выбор на будущее, искренне надеясь, что его совершать не придется. В случае же автопилота такой отсрочки нет, выбор фактически будет сделан при покупке автомобиля.
Готовы ли вы купить автомобиль, в инструкции у которого написано, что он будет спасать вашу жизнь ценой жизни ребенка, вот в чем вопрос. Я вот не готов, и не могу понять тех, кто не видит в этом проблемы.
Моральная ответственность — штука сугубо индивидуальная, в отличие от судебной. Каждый для себя решает сам, какова его роль в причинно-следственной цепочке, приведшей к трагедии. Но, я думаю, вы не будете отрицать, что, например, роль пассажиров сбившего человека поезда не равнозначна роли пассажиров автомобиля, управляемого пьяным водителем. Автопилот, конечно, гораздо более тонкий случай, но к этической проблеме сопричастности пассажиров к выбору водителя он, кмк, имеет непосредственное отношение.
Проблема как раз в том, что в случае автопилота в конкретной ситуации решение принять не получится. Но это не значит, что его не придется принимать вообще. Фактически, покупка автомобиля с заложенным в него алгоритмом поведения в такой ситуации и есть ваше решение, моральную составляющую этого решения «на потом» отложить не получится. Как следует из обсуждения, большинство не видит в этом проблемы, но про себя такого я сказать не могу.
Вне зависимости от обстоятельств и условий ДТП, моральную ответственность за последствия будут нести водитель и пассажиры автомобиля. Как бы поступили лично вы, если бы пришлось выбирать — сбить внезапно выскочившего перед вами на дорогу ребенка, но не пострадать самому, или свернуть и врезаться в столб? Автопилот не отменяет необходимости делать такой выбор, он просто переносит его во времени на момент покупки запрограммированного таким образом автомобиля.
Машина также может решить, что ваша жизнь более важна, чем жизнь девочки, переходящей улицу, и этой девочкой может оказаться ваша дочь. Вы все еще считаете, что проблема высосана из пальца?
Что «бытовой», что «небытовой» софт в GNU/Linux всегда ставится через пакетный менеджер. Руками приходится собирать лишь в редких случаях какого-то весьма экзотичного или совсем нового софта, для которого еще нет пакета ни в репозиториях, ни на сайте производителя.
Ну такие случаи как раз и входят в упомянутый ранее 1%. В любом случае, с пакетным менеджером жить проще, чем совсем без него, как в некоторых других ОС.
С первыми двумя пунктами согласен, 3-й я бы переформулировал в том ключе, что за последствия документированного поведения автопилота несет ответственность владелец автомобиля, а недокументированного — производитель.