Мораль роботизированного транспорта: проблема вагонетки, риски и последствия

Автор оригинала: Brad Templeton
  • Перевод
image

Моральная сторона разработки роботизированного транспорта очень сложна. Разработчики твердо верят, что испытания нужно проводить на публичных дорогах, хотя они знают, что это подвергнет небольшому риску ни о чем не подозревающих участников движения. Автомобили, выпущенные после тестов, безусловно, будут попадать в аварии (в том числе с летальным исходом), и такое положение дел представляет собой пугающую и обескураживающую перспективу. В то же время успех сулит нам колоссальные улучшения дорожной безопасности и спасение жизней огромного числа людей, которые погибли бы, если бы не существовала возможность заменить более опасное человеческое вождение на поездку на беспилотном автомобиле.

Мы рассмотрим такие аспекты как:

  1. Понимание различных подходов к моральным рассуждениям людей в различных (или одинаковых) ситуациях
  2. То, как закон, общество и страховка относятся к рискованному вождению, авариям и несчастным случаям.
  3. Риски и потери при вождении (или обучении вождению), которые мы, похоже, охотно принимаем для получения небольших преимуществ.
  4. Как меняется наш взгляд на то, что «цель оправдывает средства» в зависимости от того, о чем идет речь: преднамеренные злодеяния или небольшие осознанные риски.
  5. Большие преимущества, которые мы получим, когда небольшой автопарк автономных автомобилей научится водить более безопасно, после чего их программное обеспечение будет скопировано в миллионы других машин – ситуация, которая невозможна в случае с водителями-людьми.
  6. Риски и принципы современных подходов к тестированию и разработке автономных автомобилей, и то, как Uber их нарушил.
  7. Огромная выгода, если мы сможем найти правильный подход.



Тот факт, что недавно в Темпе, штат Аризона был раскрыт случай аварии со смертельным исходом с участием автомобиля компании Uber только увеличивает необходимость понимания данной проблемы. Было написано много текстов и высказано множество мнений о том, как необходимо рассуждать о рисках и принципах морали в беспилотных автомобилях. В этой статье я надеюсь представить как чистый взгляд на эту проблему, так и руководство к рассуждению о ней.

image

Большинство аварий — это одиночные машины, и их можно предотвратить. И все же мы смирились с этим ужасным риском, не задумываясь.

Оказывается, что сочетание уроков, которые нам дает проблема вагонетки (именно с вагонетки, а не беспилотного автомобиля) и измерения действий, приводящих к рискам вместо трагедий, может помочь нам сформировать лучшее понимание и правовой режим для решения сложных вопросов о роботах, которые могут и спасать человеческие жизни, и угрожать им. Мы можем спасти миллионы жизней, если мы будем готовы принять те же риски, что и при обучении подростков перед тем, как они начнут водить (вместо подростков можете представить спешащих доставщиков пиццы). Почти все, кто работает над роботами, хотят, чтобы они спасали жизни, и чтобы они начали это делать как можно скорее, но для этого общественность должна понять и даже принять методики работы в этой сфере. Чтобы сделать это, мы должны понимать как наши моральные инстинкты и нашу внутреннюю математику, так и разницу между риском и трагедией.

image

Я осознал сложности в понимании этих проблем год назад, когда разговаривал дома за обедом со своим другом. Друг был весьма обеспокоен рисками, которые содержали в себе ранние прототипы. Я спросил его – была бы разумной ситуация, в которой при тестировании погибают 100 человек, но при использовании конечного продукта будут спасены миллионы жизней? Ему казалось очевидным, что это неправильно, и он не одинок в этом мнении.

Человеческая мораль сложна и хитра, и она может работать по-разному в зависимости от ситуации. Немногие из нас кристально чисты в своей принципиальности, и те принципы, которые мы используем в своих субъективных решениях могут отличаться от тех, который используются в коллективных решениях в обществе или в суде. Чтобы понять эту проблему и то, как прийти к лучшему решению, нам необходимо понять то, как люди рассуждают о подобной морали, и, возможно, изменить это мышление для того, чтобы добиться результата, который будет лучше по мнению большинства.

Ответ может заключаться в том, что, хотя мы не согласны с тем, что великие цели могут оправдать аморальные средства, оказывается, что мы готовы охотно признать, что даже скромные выгодные цели могут оправдывать средства с небольшими аморальными рисками.

Типы морали


Грубо говоря, философы выделяют два широких класса моральных систем. Первый требует кодекса правил и принципов, и определяет ошибку как нарушение этих самых правил и принципов вне зависимости от результата. Сложное название таких систем – «деонтологические», но мы будем называть их основанными на правилах. С другой стороны мы имеем системы, основанные на результатах, которые измеряют правильное и неправильное тем, что мы получаем в конечном итоге. Они также известны как консеквенциалистские. Одним конкретным подмножеством таких систем является утилитарная, следующая правилу добиваться наибольшего блага для наибольшего числа людей, либо же наносить наименьший вред наименьшему числу людей.

Иногда мы любим утилитарные моральные системы, особенно как общество в целом. Однако как личности, мы склонны не доверять им, поскольку они связаны с опасной идеей о том, что «цель оправдывает средства», а эта идея приводила к большому количеству моральных ужасов на протяжении всей истории. Большинство из нас не принадлежат строго к одной из школ. Как отмечалось ранее, наш подход меняется в зависимости от того, считаем мы себя отдельной личностью или обществом в целом, и мы меняем наш подход к рассуждениями исходя из наших личных взглядов сильнее, чем нам хотелось бы признать.

Чистый приверженец утилитарного подхода легко согласится на то, что машины погубят 100 человек для спасения миллиона – в случае утилитарной морали здесь даже не стоит вопроса. В то же время, многим будет нелегко это принять. Я подозреваю, что ответ заключается в том, чтобы понять, как мы, как отдельные лица, уделяем особое внимание инцидентам и трагедиям, в то время как в роли общества мы уделяем внимание оценке рисков и общественным благам.

Те, кто читал мои тексты, знают, что я терпеть не могу стандартное применение «проблемы вагонетки» к беспилотным автомобилям. В этом приложении люди представляют себе программное обеспечение в автомобиле, которое должно решить какую из двух разных групп людей убить в аварии. Мы болезненно охвачены идеей о том, что теперь машины решают кто должен умереть, хотя раньше это было полем деятельности богов. На самом же деле это исключительно редкая ситуация, и ее разрешение не входит ни в чей список приоритетов. Программисты и компании также не хотят писать алгоритмы, связанные с моральными выборами, они бы предпочли, чтобы политики отвечали на такие вопросы и писали законы, которым они с радостью будут следовать.

Однако у оригинальной проблемы вагонетки была реальная функция, которая может быть полезна в данной ситуации. Она была создана, чтобы помочь нам понять наше собственное мышление и помочь понять разницу между моральными системами, основанными на правилах, и теми, что ориентируются на результат, то есть в конечном итоге – с помощью проблемы вагонетки мы должны были лучше понимать философию. И она может помочь нам лучше разобраться в этой ситуации.

Как вы, возможно, помните, в исходной задаче, тележка мчится по рельсам со сломанными тормозами. Кто-то (действительно аморальный в этой ситуации) привязал 5 человек к основной дороге, и одного человека к ее ветке. Вы можете дернуть переключатель, чтобы убить одного человека, но спасти пятерых. До 90% людей выбирают утилитарный (основанный на результатах) подход и предпочитают дернуть рычаг, но некоторые отказываются. (На самом деле, эти люди скорее ведут себя таким образом в упражнении в классе. В шоу "Mind Field" на YouTube проводился эксперимент, в котором людей заставляли думать, что они действительно оказались в ситуации с несущейся вагонеткой и привязанными людьми. Внимание, спойлер: большинство испытуемых просто застыли в ужасе)



Мне нравится говорить, что инженерное решение этой задачи более простое – нужно починить тормоза вагонетки. Инженеры беспилотных автомобилей преимущественно будут работать над тем, чтобы их автомобили никогда не попадали в такие ситуации, пусть они и происходят очень редко.

Вариации проблемы вагонетки, которые придумали философы, гораздо интереснее оригинальной формулировки. В одном из вариантов вам нужно не дернуть переключатель, а толкнуть толстого человека на рельсы, чтобы остановить тележку — немногие пойдут на это, так как это преднамеренное убийство. В наиболее экстремальной версии у вас нет вагонетки, но есть 5 пациентов, которым срочно нужна пересадка органов. Вы можете схватить человека, идущего по улице, разрезать его и спасти пятерых человек – почти никто не согласен так поступить, хотя это та же самая проблема с точки зрения утилитарного подхода.

Почти никто так не поступит, потому что среди нас мало тех, кто строго принадлежит к той или иной моральной школе. Для нас сложнее изменить наше мышление. Чтобы понять и решить проблемы в области тестирования и выпуска беспилотных автомобилей, мы должны превзойти естественный и индивидуальный инстинкт, чтобы воспринимать различные случаи как «всего лишь» отдельные трагедии, которые они из себя представляют, и думать о том, какие риски приемлемы и могут быть разрешены как общество.

Кроме того, у нас гораздо более сильное отторжение вызывают трагедии, которые происходят со сторонними прохожими, хотя мы не возражаем настолько же сильно против того, чтобы подвергать этих людей меньшим рискам. Наконец, мы больше боимся того, что нам нанесут вред самостоятельные машины, а не люди.
Люди забавны в том, что хотя большинство боится смерти от роботов, скорее мы будем убиты нетрезвым преступником.

В основном люди считают, что убивать, чтобы спасать жизни, неправильно, это бесспорно. Реальный вопрос состоит в том, что на самом деле из себя представляет тестирование и выпуск беспилотных автомобилей на дороги – убийства для спасения жизней, или принятие рисков с той же целью. На самом деле, в большинстве случаев мы согласны на то, чтобы рисковать ради спасения жизней при условии хорошего результата.

Моральные аспекты вождения


Итак, какова связь между философией морали и автомобилями? Для того чтобы это выяснить, нам необходимо задуматься о моральном аспекте дорожных происшествий. Люди по отдельности и общество в целом по-разному относятся к этой проблеме. Общества в целом и закон в частности, предпочитают не описывать что-либо как безнравственное или злое, если только не было злого умысла, который в юриспруденции называют mens rea. Почти все уголовные преступления подразумевают злой умысел, а если его нет, то наказание (в большинстве случаев) смягчается. Из-за этого нередки ситуации, когда кто-то сбивает насмерть человека на машине и не несет за это уголовной ответственности. Водителю будет грозить финансовое наказание, но оно покрывается страховкой. Виновник выйдет из этой ситуации только с чувством вины за то, что произошло. Но все это верно только в том случае, когда убийство человека было совершенно непреднамеренным и фактически полностью противоречило намерениям водителя. Не может быть убийства (даже непредумышленного) без четкого намерения или серьезной и умышленной халатности за рулем.

В то же время, мы прилагаем все усилия, чтобы определить наличие злого умысла или халатности, потому что нас очень беспокоит тот факт, что что-то столь трагическое как смерть может остаться без ответа. Но если мы говорим о ситуации, в которой действительно произошел несчастный случай (под которым я подразумеваю, что он произошел в рамках обычных рисков осторожного вождения) – нет никаких юридических последствий, самое серьезное, что может произойти – последствия финансовые, которые полностью оплачиваются страховкой.

С другой стороны, рассмотрим превышение скорости. Превышение скорости незаконно, даже если оно часто совершается, но в некоторых местах наказывается редко. Когда вы ускоряетесь, вы знаете (или должны знать), превышаете вы или нет. При этом вы подвергаете дополнительному риску других людей, хотя, к счастью, как правило ничего страшного не происходит. Несмотря на то, что вы непременно получите штраф за превышение скорости, если это превышение привело к аварии, большинство штрафов выписывается за превышения, которые никому не навредили. Почти все из нас периодически превышают скорость, и мы делаем это по очевидной причине – мы хотим добраться куда-то немного быстрее. Это может противоречить интуиции, но преднамеренное превышение скорости в нашей системе более аморально и незаконно, чем случайное убийство, хотя мы как личности гораздо более терпимы к превышениям.

Я полагаю, что настоящая моральная проблема в вождении заключается в том, что мы умышленно подвергаем риску других людей. Или, для большей конкретики, неприемлемо высокому риску. Любое вождение подразумевает, что другие люди будут подвергнуты риску. На самом деле, вероятно, при вождении мы наиболее часто подвергаем других людей наибольшему риску. Все мы знаем ошеломляющее количество смертей, травм и случаев нанесения материального ущерба от вождения – в авариях погибло больше людей, чем суммарно на всех войнах и в результате терактов за всю историю Соединенных Штатов со времен войны за независимость. Все это пугающе рискованно, но для нас это так важно, что мы решили согласиться на этот относительно высокий риск для себя и людей вокруг. Мы делаем это намеренно, хотя и часто забываем об этом, и мы, безусловно, плохо помним математическую сущность этих явлений. Мы считаем этот базовый уровень риска «приемлемым» в наших законах и нашей жизни.

Общество решило, что неправильность и незаконность заключаются не в конкретных жертвах, а в преднамеренном и небрежном подвергании других людей чрезвычайному риску.

Мы написали законы, которые запрещают вам подвергать других людей исключительному риску, и вы получаете штрафы за превышение скорости, неправильную смену полосы движения и небрежное вождение. Мы считаем такие поступки аморальными, поскольку они совершаются умышленно или из-за халатности, хотя мы не считаем аморальным смертельный исход, который не был действительно непреднамеренным. Это не останавливает тех, кто видит в этом великую трагедию, и это абсолютно естественная реакция. Но как общество, которое пишет и исполняет законы, мы воспринимаем все иначе.

Мы считаем приемлемыми удивительное количество рисков, связанных с вождением:

  1. Вождение в плотном потоке
  2. Вождение в дождь, снег и ночное время
  3. Вождение в местах с большим количеством пешеходов и велосипедистов
  4. Вождение машины с небольшими механическими неполадками
  5. Вождение машин без автоматического экстренного торможения и других продвинутых технологий
  6. Вождение в сонном состоянии, даже когда мы засыпаем (в двух штатах есть законы, запрещающие сонливое вождение)
  7. Вождение беззаботных подростков, только недавно получивших права
  8. Вождение учащихся в сопровождении взрослых
  9. Вождение пожилых людей со сниженным восприятием и повышенным временем реакции
  10. Вождение с уровнем алкоголя в крови чуть ниже разрешенного
  11. Вождение в болезненном состоянии (несмотря на то, что это незаконно)
  12. Использование устройств и написание сообщений в процессе вождения (несмотря на то, что это незаконно)
  13. В США превышения скорости очень распространены, зачастую с большим отрывом от других машин

Давайте рассмотрим прототип беспилотного автомобиля. Когда команда разработчиков выводит такую машину на дорогу, они намеренно подвергают других участников движения риску. Разумеется, они не намерены вызвать какую-либо аварию, фактически они намерены ее не допустить.

В данный момент тестовые беспилотники, кроме нескольких исключений, всегда работают под контролем водителя-человека, готового взяться за дело в случае возникновения проблем. Почти всегда есть и второй человек, который следит за системами и время от времени поглядывает на дорогу. Это можно сравнить с ситуацией, когда водитель-тинейджер с ученической лицензией водит в сопровождении инструктора. У инструктора есть своя педаль тормоза, и он может перехватить руль, как и водитель в беспилотнике. Водители-подростки, сопровождаемые инструкторами, на самом деле имеют довольно неплохие показатели безопасности, как и почти все команды, занимающиеся беспилотными автомобилями – за исключением Uber, о котором я расскажу позже.

Эти подростки-водители, получив лицензию после прохождения минимального теста, становятся самыми опасными водителями на дороге. Мы выпускаем их на дорогу, чтобы дать им мобильность, на также потому, что это единственный способ сделать из них более осторожных взрослых водителей, которыми они станут в конечном итоге. Мы берем на себя риски, связанные с вождением водителя-подростка, в надежде в будущем получить более осторожного водителя. Из каждого рискованного подростка на дороге вырастает один взрослый, более осторожный взрослый (на самом деле чуть меньше одного, потому что не все подростки действительно достигают этого самого безопасного возраста).

image

Как отмечалось ранее, команда разработки беспилотных автомобилей подвергают людей вокруг некоторому риску, однако польза, которую приносит этот риск, огромна. Небольшая учебная поездка улучшит безопасность всех последующих автомобилей, которые будут созданы позднее, что в конечном итоге означает миллионы улучшенных автомобилей. Принимая первичные риски тестирования и разработки, мы получаем выгоду от значительного снижения рисков в будущем. Снижение рисков наступит тогда, когда машины начнут водить безопаснее, чем люди, а люди перестанут подвергать риску окружающих, выбирая поездку на беспилотном автомобиле вместо самостоятельного вождения. Это особенно верно, когда речь о людях, которые выпивали или связаны с каким-либо из пунктов списка выше.

Некоторые утверждают, что мы должны учитывать не просто чрезвычайные риски, а необходимые. Потому что может быть неверно подвергать людей обычному риску, если в этом нет необходимости. В частности, некоторые утверждают, что нынешние команды проводят больше тестов, чем необходимо, и что это неправильно. Возможно, это верный подход (хотя, конечно, необходимое количество тестов остается предметом споров). Тем не менее, если мы рассмотрим причины, по которым люди принимают рискованные решения на дороге – от доставки еды, до возвращения домой на минуту раньше, едва ли они удовлетворяют уровню необходимости, несмотря на то, что мы терпим эти риски.

Здесь мы должны рассуждать, отталкиваясь от результатов. Усилия команд, работающих над беспилотными автомобилями, снижает уровень риска по всему миру, и как общество мы должны относиться к этому положительно. Мы должны разочарованно покачать головой из-за того, что мы вообще допустили такие риски в человеческом вождении. Как и в случае водителя-подростка, мы можем заметить компромисс между принятием рисков в обучении и ранним началом водительской практики для снижения рисков в будущем. Подвергать риску других – неправильно, предотвращать его – правильно. Истина в балансе.

Измерение рисков


Очень хорошо, когда есть баланс. Мы можем позаимствовать термин из анализа рисков и сказать, что каждая миля автоезды производит 0.1 микроморт риска по всему миру. Микроморт – риск гибели, равный 1 к миллиону. В США это значение лучше среднего – около 0.013 микроморт на милю. Оказывается, что можно легко просчитать снижение рисков, связанное со скорым появлением безопасных беспилотных автомобилей. Необходимо вычислить насколько безопаснее будут эти автомобили в дальнем будущем – допустим, вдвое безопаснее, чем человеческое вождение в США, то есть 1/250 микроморт на милю. Затем вы умножаете это значение на мили человеческого вождения, которые накопятся за время, пока первичный выпуск беспилотных автомобилей будет откладываться. Таким образом вы учитываете предположение, что при задержке первичного выпуска беспилотных автомобилей на это же время задерживается и полная замена человеческого вождения на поездки на беспилотных автомобилях. Это не вполне точная оценка, но получается хорошее приближение. Таким образом, если вы отложите выпуск беспилотных автомобилей на год, то в результате вы получите более половины триллиона (это огромное значение) микромортов по всему миру, что равняется половине миллиона смертей. Задержка всего на один день принесет 1.5 миллиарда микромортов риска, которым будет подвергнут весь мир. Мы водим настолько много (по моим подсчетам около 1.7 световых лет каждый год), что только световые года могут быть единицей измерения человеческой активности.

Вы можете спросить, почему я пишу о «миллиардах микромортов», хотя проще написать о тысячах жизней? В этом весь смысл этого текста – научиться думать о тестировании как о миллионах небольших рисков, каждый из которых приносит все больше пользы, а не относиться к испытаниям как к обязательным сериям трагических смертей. Точно так же, как мы относимся к миллиардам доставок пиццы, которые представляют собой миллиарды крошечных рисков в обмен на миллиард простых ужинов.

Несколько тысяч прототипов роботизированных автомобилей создают риски, но их не настолько много. Если бы мы предположили, что они водят крайне небезопасно (а это совсем не так), то мы получили бы около 100 000 микромортов за все время их существования. Сравните это с 1.5 миллиардами за каждый день задержки выпуска беспилотных автомобилей. Эти цифры трудно игнорировать. 100 000 единиц риска против триллионов – с учетом осторожных предположений, которые учитывают порядка 10 миллионов миль тестирования и создание и выпуск на 2-3 года раньше.

Тем не менее, у нас все еще есть проблемы. В одном из вариантов проблемы вагонетки людям говорят, что если дернуть переключатель, то поезд не переедет только одного человека, привязанного к рельсам, а скорее сойдет с рельс и слетит с холма прямо в дом спящего человека, убив его. Люди гораздо более неохотно дергают переключатель. Предполагается, что это происходит потому что человек, привязанный к рельсам, непосредственно «вовлечен» в ситуацию, а спящий является сторонним наблюдателем. Будучи моральными личностями, мы не готовы взять на себя смерть кого-то, кто не имеет никакого отношения к этой ситуации. Но, похоже, мы легко готовы подвергать небольшому риску посторонних людей во время нашего вождения.

Насколько хорошо безопасное вождение?


Насколько велик риск? Ведущей компанией в этой сфере является Waymo. Я работал над их проектом 7 лет назад, когда он принадлежал Google. Их машины проехали более 10 миллионов миль и лишь один раз произошло незначительное повреждение имущества. У них было больше аварий по причинам, отличным от тех, которые мы обычно ожидаем услышать, но даже с учетом этих происшествий они добились очень хорошего показателя безопасности – лучше чем у среднего водителя, и конечно лучше, чем у подростка, который только недавно получил права. Весьма вероятно, что любая сеть пиццерий подвергает людей большему риску в соотношению на милю чем машины компании Waymo, при это все, что мы за это получаем – доставка вкусной еды, а не огромное снижение рисков, которое нам обещает выпуск роботизированных автомобилей. И в случае с пиццериями, мы не получим развития молодых водителей в зрелых и надежных.

Tesla публикует информацию о расстоянии, пройденном между авариями с машинами Tesla на автопилоте и на ручном управлении. Последними опубликованными цифрами были 4.3 миллиона миль в случае с автопилотом и 2.7 миллиона миль при выключенном автопилоте. Tesla не уточняет какой именно была авария, поскольку автопилот почти полностью является продуктом для шоссе, количество аварий будут ниже в тех местах, где он используется, но эти цифры хороши даже с учетом этих факторов. Они предполагают, что риск наличия только одного необученного потребителя в роли водителя, обеспечивающего безопасность (который находится за рулем во время работы автопилота) на шоссе находится в рамках допустимого риска, что подтверждает, что двух хорошо обученных водителей безопасности достаточно с большим запасом. Как ни странно, непонятно, что означает для необученных водителей-одиночек ситуация, в которой система становится настолько хорошей, что водитель становится самоуверенным, или же что это означает для езды по городским улицам. Однако, Tesla вскоре расширит предлагаемые услуги и добавит в автомобили информацию об улицах города, а также поможет ответить на различные вопросы, связанные с нашей темой. На эти вопросы уже есть ответы для опытных водителей безопасности, но большим исключением является компания Uber.

Uber


В марте 2018 года автомобиль компании Uber сбил насмерть Элейн Херцберг, жительницу Темпе, Аризона, которая пересекала пустую дорогу за пределами пешеходного перехода. Большинство людей в этой отрасли поражены тем, что автомобиль не обнаружил женщину и не затормозил с большим запасом времени. Причины этого отказа широко обсуждались, но в результате Национальный совет по транспортной безопасности, я сам, и многие другие пришли к выводу, что это была на 99.9% человеческая ошибка. Uber сделали очень плохое решение при выборе и обучении водителей, отвечающих за безопасность, и решили оставить только одного водителя вместо двух по каким-то глупым причинам, при этом они не следили за тем, насколько внимательно водители относились к безопасности. В результате водитель, отвечавшая за безопасность, проигнорировала все протоколы и, как заявляется, смотрела телешоу на своем смартфоне, в то время как система автопилота Uber, будучи плохо спроектированным прототипом, не смогла обнаружить пешехода, когда это было необходимо, и из-за еще большего количества глупых причин не смогла подействовать в момент, когда пешеход был обнаружен в последний момент. Работа водителя безопасности заключалась в том, чтобы следить за дорогой и вручную тормозить и поворачивать в случае таких неисправностей. Она этого не сделала, и результат оказался трагическим. Неудача была связана с водителем безопасности, ее подбором и обучением — у всех команд есть сбои в системе, которые требуют вмешательства, особенно в первые годы — но было и множество других обвинений. Uber прекратил тестирование и лишь спустя 18 месяцев компания вернулась к ограниченным испытаниям в Питтсбурге, хотя они надеются вернуться к большему.

Есть веский аргумент, что водитель безопасности была небрежна и подвергла общество совершенно неприемлемому уровню риска, пытаясь смотреть телешоу, в то время, как ее задачей было следить за дорогой и работой автомобиля. Если это так, она должна быть наказана за это. Люди утверждают, что компания Uber пользовалась плохими методами во многих областях и делала это либо преднамеренно, либо по халатности. И если это правда, то это за это компанию необходимо наказать, либо пытаться предотвращать подобные ситуации. На самом же деле из-за того, что жертва была бездомной, а также переходила дорогу в неположенном месте, суд не приговорил Uber к каким-либо тяжелым наказаниям, однако ответственность перед обществом и правительством была велика. Компании Uber запретили работать в штате Аризона на долгое время.

Для того чтобы отрегулировать безопасность испытаний и выпуска беспилотных автомобилей на дорогу, мы должны научиться оценивать величину риска, которому команды разработчиком могут подвергать других людей. Нам хочется, чтобы местные правила мотивировали команды держать риски ниже приемлемого уровня. Но было бы по меньшей мере глупо требовать, чтобы эти риски были значительно ниже тех, на которые мы согласны для получения гораздо меньших выгод. На самом деле, награда настолько велика, что мы должны мириться с тем, что тестирование беспилотных автомобилей является одной из самых рискованных вещей, который мы допускаем на дорогах, хотя мы не хотим и не должны соглашаться на неприемлемые ранее уровни риска. Но если мы собираемся позволить миллионам водителей путешествовать сонными по ледяным дорогам с содержанием 0,07% алкоголя в крови для получения очень малой выгоды, то было бы разумно согласиться с уровнями риска тестирования беспилотных автомобилей, которые намного ниже, чем в описанной ситуации.

Не то чтобы компании хотели брать на себя такой уровень риска. Фактически, многие из них вложили в эти проекты миллиарды долларов и свою репутацию. Еще до того, как Uber были вынуждены свернуть все работы (возможно навсегда), команды знали, что любой такой инцидент может быть губительным для их проекта, компании, а также для их собственной совести. Подавляющее большинство старается держать уровень риска настолько низким, насколько это возможно. Это не означает, что всем компаниям можно доверять – это невозможно. А также это не значит, что мы не хотим устанавливать хорошие принципы безопасности и создавать дополнительные средства сдерживания, которые уберегут нас от использования плохих методов. Но мы не должны упускать из виду то, что наши регулирующие органы могут рассказать компаниям о том, как изобрести совершенно новые способы повышения безопасности. Потому что каждый день отсрочки выпуска беспилотных автомобилей равен 3 миллиардам микромортов.

Заключение


Некоторые из нас рассуждают с позиции системы морали, основанной на правилах – мы хотим предотвратить любую возможную смерть, особенно в случае с посторонними наблюдателями. Но есть и часть людей, которая пользуется системой морали, основанной на результатах, особенно когда речь идет об оценке уровней рисков, а не трагедий. Мы одновременно поражаемся любой смерти, которую могли бы предотвратить, но все же стремимся пойти на небольшой риск для себя и других, когда речь идет даже об умеренном вознаграждении.

Мы можем сказать, что нам не нравится план, в котором 100 человек могут погибнуть ради создания того, что спасет миллионы жизней. В то же время, мы можем сказать, что мы не против того, чтобы пойти на множество небольших рисков, чтобы значительно уменьшить уровень нашего риска в будущем.

Мы смешиваем наши личные и общественные реакции, когда происходит настоящая трагедия. Наши суды и законы пытаются продвигать то, что лучше для общества, но в то же время наши моральные инстинкты означают, что даже на малейший дополнительный риск — тот, который обычно остается безнаказанным — охотятся и реагируют экстремальными способами. Нарушения правил, вроде превышения скорости, которые допускаются людьми каждый день, наказываются сурово в тех случаях, когда происходит что-то серьезное, и превышение скорости имело место, даже если оно не было причиной происшествия. Мы не хотим, чтобы закон был таким капризным, но мы также не можем допускать трагедии.

Страховые компании думают об общей картине, как и мы, когда мы покупаем их полисы. Правительства думают так же. Мы должны научиться рассуждать таким образом и принять позицию с согласием на допуск небольших рисков, если мы хотим разобраться с настоящей трагедией, которая является результатом плохой истории человеческого вождения.



image

О компании ИТЭЛМА
Мы большая компания-разработчик automotive компонентов. В компании трудится около 2500 сотрудников, в том числе 650 инженеров.

Мы, пожалуй, самый сильный в России центр компетенций по разработке автомобильной электроники. Сейчас активно растем и открыли много вакансий (порядка 30, в том числе в регионах), таких как инженер-программист, инженер-конструктор, ведущий инженер-разработчик (DSP-программист) и др.

У нас много интересных задач от автопроизводителей и концернов, двигающих индустрию. Если хотите расти, как специалист, и учиться у лучших, будем рады видеть вас в нашей команде. Также мы готовы делиться экспертизой, самым важным что происходит в automotive. Задавайте нам любые вопросы, ответим, пообсуждаем.

Читать еще полезные статьи:

НПП ИТЭЛМА
Компоненты для роботизированного транспорта

Комментарии 46

    +4
    Лично я считаю, что абсолютно нормально, что робомобили будут давить людей. Совсем не надо натягивать на это мораль. Люди смертны и умереть могут от чего угодно. Более того — они гарантированного умрут от всего чего угодно, просто если дать им неограниченное число попыток. Так что для любого изделия есть понятие — количества смертей на некий период работы устройства. Это позволяет сравнить две технологии с точки зрения безопасности для человека и выбрать ту, что убивает меньше людей в процессе использования. Количество жертв на миллион км есть и у самолетов и у поездов и у машин и велосипедов. Вообще у всего (даже у тележек из супермаркета — люди умудряются убиться и с ними) Вас вообще не должно заботить, принял ли робомобиль решение свернуть или давить. Есть статистика, которая показывает, что на миллион км жертв у автопилота меньше, чем у человека — следовательно автопилот уже можно выпускать на дорогу. С каждым ДТП будет разбор полетов и новые решения будут уменьшать и так низкий шанс жертв. Но чтоб собрать эти данные — надо чтоб дтп произошло. Опять же как выясняется — жертвами автопилота становятся те, кто плевал на ПДД… отсюда следует, что вины автопилота в этом нет и тут даже не требуется корректировки алгоритмов.
      +2
      Ну, раньше, как-то считалось, что системы управления например самолетом, должны быть испытаны специально подготовлеными испытателями, в специальных местах. И только после этого можно подпускать самолет к людям. А сейчас, как я понял, предлагается испытывать прямо на живых ни к чему непричастных людях. Даже не на заключенных.
        +3
        все, что могли — уже испытали специально обученные люди в специально отведенных местах — убедились, что автопилот давит заметно меньше людей чем человек, значит технология готова и может быть применена. Остальную информацию будут собирать по ходу дела. Без этого никто бы не выпустил автопилоты в город. Сначала они катались по виртуалкам, потом по полигонам, потом с надзирателями в городе. Теперь можно и без них. Напоминаю, что первые паровозы и самолеты с дирижаблями тоже собирали прилично жертв — но желающих их использовать становилось только больше.
          0
          Людей, которые кое-как научились рулить на площадке, можно учить на дорогах общего пользования, а роботов нельзя. В чем разница?
          Только в том, что один живой и его можно посадить в тюрьму?
            0
            Именно, есть ответственные лица и прописанные в законах и правилах процедуры.
              0

              Так и с роботами ответственные лица могут быть — компания-производитель. Или Вам обязательно кого-то за решетку отправить?

                +1
                Аннушка разлила масло отправила в продакшн.
                  0
                  Я за то, чтобы выпускать на дорогу так же, как выпускают людей. Т.е. тогда, когда есть четко прописанные процедуры и ответственные лица. И да, в случае аварий с человеческими жертвами должны быть следствие, суд и наказание виновных, если таковые есть.
                    0
                    Или Вам обязательно кого-то за решетку отправить?

                    Как бы, ответственность «компании производителя», в случае гибели людей — надо много странного и разного доказать.
                    А вот с роботами — уже есть проблемы. Уже есть робот, который «не заметил» и переехал человека вместе с велосипедом. Да, вне пешеходного перехода, да, БОМЖ, да, человек был пьян, да, на трассе…
                    Уже есть несколько «роботов», убивших «человеков», сидящих внутри, сделав вид, что езда против солнца или отсутствие понимания что есть что в кадре — вовсе не повод снизить скорость или потребовать ввода от сидящего внутри человека… Уже есть робот, который сказал «не может быть, чтобы едущая задом фура не могла меня видеть!»

                    Покажите мне хоть один пример ответственности «компании-производителя». Кто такой «компания-производитель» в случае «сбоя» распознавалки в ПО «робота»? Или будем применять стандартный дисклеймер, что каждый пользователь — сам дурак, что пользуется?
                      0
                      Не вижу ничего страшного нового и необычного в том, что люди гибнут в результате взаимодействия с роботами.

                      Лифты, эскалаторы, транспортеры, механические прессы и станки убивают сотни людей в год — а они тоже практически роботы. Большей частью в результате нарушения правил кожаными мешками. С робоавто добавится лишь еще один опасный фактор, который мы научимся учитывать. Что в этом такого?

                      PS: Я за роботизацию авто, нравится предсказуемость и безэмоциональность робоустройств. Дома использую банальный пылесос от xiaomi — так одно удовольствие посмотреть, как он работает — методично, не пропуская ни сантиметра площади, и, несмотря на малую мощность всасывания — отлично собирает пыль и мелкие крошки.

                      PPS: А жесткое следование правилам и более интенсивное использование автопарка позволит облегчить ситуацию с пробками в городах (с удовольствием буду пользоваться роботакси в городе).
                0
                Гм. Количество жертв Кометы противоречит вашему высказыванию.
                  +1
                  Количество жертв Кометы противоречит вашему высказыванию.

                  Вообще-то, формально, история с Кометой — вообще о другом.
                  Самолет был испытан испытателями, проблем с ним почти не было, какие были — были устранены. Самолет был сертифицирован и допущен на рейсы. Другое дело, что через какое-то время полетов (почти два года регулярных коммерческих полетов!) оказалось, что из-за усталости металла в углах прямоугольных иллюминаторов, первые серийные Кометы, иногда, от перепада давлений разрывает на очень мелкие кусочки.
                  Это еще один аспект изобретательства. Вроде бы очевидно, сейчас, что в углах под нагрузкой металл устает быстрее, возникают трещины и повышается риск катастрофического разрушения. (В паровых котлах и бойлерах этот косяк обнаружили и устранили полностью к 19-му веку.) А вот что в самолете на высоте 10 км примерно то же самое происходит, и металл, не сталь в три сантиметра толщиной, а пол миллиметра аллюминия… Теперь иллюминаторы в самолетах существенно круглее и меньше, а еще давление в кабине теперь достаточно прилично сбрасывают. Но ведь до Кометы пассажирские самолеты 40 лет летали, условно, с иллюминаторами из целлулоида, прибитого гвоздями к деревянной раме!

                  А с саморулящимися автомобилями сейчас почти то же самое, но хуже. Проверяют все в тепличных условиях, под присмотром специальных людей на пустых дорогах самых малонаселенных штатов. А что там будет на дорогах твориться, когда в камеру Тесле на Манхеттене будут одновременно светить 30-40 лидаров 10-15 разных производителей… Это будет потом.
                  Еще один вопрос, который, кажется, даже еще не поднимали: что будет твориться с глазами пешеходов, когда их будут одновременно облучать 30-40 лазеров (из которых половина «китайских» со случайными характеристиками длины волны и мощности)? Или как в Изумрудном городе CSI выходить на улицу или выглядывать в окно только надев оранжевые очки?
                –1
                Всё ещё веселее. В некоторых арабских странах — если ты не увернулся от автомобиля — сам дурак. Если вдруг, ты не увернулся, а автомобиль в это время ехал не по дороге — водитель автомобиля заплатит твоим родственникам компенсацию… Небольшую. Ибо, если ты не увернулся — сам дурак.

                Соответственно, в таких странах — просто обозначить ярко и явно зоны на дороге, где имеют право быть робомобили. Все, кто погиб внутри — сами виноваты.

                Если робомобиль убил кого-то за пределами выделенноой зоны — все робомобили этого производителя «максимально безопасно паркуются и отключаются», производитель оплачивает все издержки и компенсации, которые сможет изобрести суд, и, в то же время, отзывает все свои робомобили. Т.е. примерно «прекращает деятельность, возвращает 100% денег всем, кто когда либо использовал его робомобили».

                Всем разработчикам, касавшимся робомобилей этого производителя и ПО для них — X лет «запрета на профессию».

                И вдруг пропадает проблема вагонетки и все такое. Если люди зашли в зону, разрешенную для движения робомобилей — сами виноваты. Если робомобиль какого-то производителя выехал по каким-то причинам из зоны для робомобилей — такого произовдителя и всех его программистов больше нет. Навсегда. Ну да. Через год не останется робомобилей и их производителей… Но, вроде, хорошо же, когда по каждому поводу можно посадить конкретного виноватого?
                А когда робомобиль… Ищи потом среди полутора миллиардов населения Индии того самого автора той самой строчки в коде, которая переводится «слава роботам, убить всех человеков»…
                  0
                  Если робомобиль убил кого-то за пределами выделенноой зоны — все робомобили этого производителя «максимально безопасно паркуются и отключаются», производитель оплачивает все издержки и компенсации, которые сможет изобрести суд, и, в то же время, отзывает все свои робомобили. Т.е. примерно «прекращает деятельность, возвращает 100% денег всем, кто когда либо использовал его робомобили».
                  Всем разработчикам, касавшимся робомобилей этого производителя и ПО для них — X лет «запрета на профессию».
                  И вдруг пропадает проблема вагонетки и все такое.

                  Конечно пропадает — какой дурак согласится разрабатывать с такими рисками?!


                  Вы как себе эту разработку представляете? Работал, работал, потом случился факап, и всё — возвращай все (уже потраченные) деньги, вон из профессии. Зачем вообще на таких условиях работать? Вы видели людей, кто на такое согласится? Или хотя бы сами согласитесь?

                +1
                Мы болезненно охвачены идеей о том, что теперь машины решают кто должен умереть, хотя раньше это было полем деятельности богов

                На протяжении истории это решение в основном исходило от людей. Причем причины были намного хуже тех, которые указаны в проблеме вагонетки

                  0
                  Вообще, на дороге нет проблемы вагонетки. По правилам, ИМХО, водитель должен тормозить, не меняя полосы движения.
                    0
                    По правилам, ИМХО, водитель должен тормозить, не меняя полосы движения.

                    Не надо «ИМХО», в правилах нет «не меняя полосы».
                      0

                      В разных странах разное ПДД.

                        0
                        ПДД: маневрировать или тормозить?

                        ПДД: маневрировать или тормозить?
                        Как правильно действовать в экстренной ситуации

                        Что требуют правила?

                        На случай описанной ситуации ПДД отвечают пунктом 10.1, который отправил в колонии не меньше водителей, чем все остальные пункты вместе взятые. Процитируем его фрагмент: «При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».

                        Проще говоря, ПДД требуют, чтобы в случае выявления на дороге препятствия водитель тормозил. И если понадобится, тормозить до полной остановки.

                        Это одно из тех правил, которые написаны кровью. Торможение, даже если не позволяет избежать аварии, снижает тяжесть ее последствий. Кроме того, ПДД учитывают тот факт, что далеко не все автомобилисты обладают приемами контраварийного вождения, которые позволяют в иных случаях технично увернуться от опасности, совершив объездной маневр. Торможение, особенно на современных автомобиля с АБС, является самым доступным контраварийным приемом для среднестатистического водителя.
                          0
                          Это всё прекрасно. И этому учат в автошколах. И возможно это наилучшая стратегия в определённых условиях. Тем не менее «не меняя полосы» в правилах нет.
                            0
                            Ну да, в правилах не написано, не меняя полосы. Это так. Тут я согласен. В правилах написано, какие действия обязательно нужно предпринимать, для того, чтобы у суда не было претензий. В случае препятствия — снизить скорость, вплоть до полной остановки. За другие действия, можно с точки зрения суда сесть. С точки зрения дорожной логики другими действиями можно ухудшить обстановку.
                            Перед сменой полосы должны быть осуществлены следующие действия:
                            Правила перестроения из одного ряда в другой четко регламентированы законодательством и прописаны в десятом разделе ПДД. Как гласит этот нормативный документ, каждый водитель, при осуществлении любого маневра и смене направления движения, должен убедиться в том, что его действия не станут причиной создания аварийно-опасной ситуации на дороге. Помимо этого, перед осуществлением смены полосы движения необходимо проинформировать об этих намерениях других водителей путем включения соответствующего поворотного сигнала.
                        0
                        Проблема вагонетки не техническая. Это абстрактная морально-этическая дилемма, она вообще может быть никак не связана с путями, тормозами и тому подобным. Читайте ее как: есть ситуация, в которой если ничего не предпринимать погибнут индивиды А, Б, В, Г, Д (количество по желанию), а если предпринять действие, то погибнет индивид Х, изначально риску не подвергавшийся.
                          0
                          ПДД для людей написаны так, чтобы не ставить водителей в такие ситуации, когда они должны решать морально-этические дилеммы во время движения. Водители должны, насколько это возможно, руководствоваться максимально простыми и четкими правилами.То же самое ИМХО должно выполняться при написании нормативных актов для роботов. И роботы должны этим правилами руководствоваться. Если приходится решать мутные дилеммы, значит что-то не так и мы не готовы для выпуска роботов на дорогу.
                          0

                          Проблема морального выбора возникает тогда, когда этот выбор нельзя предотвратить. Человек как правило даже не успеет сделать этот выбор, а вот компьютер — может, в этом его преимущество

                            0
                            Это слепая вера во всемогущество техники и одновременно отвергание утоявшихся в технике подходов. Не очень хорошее сочетание.
                              0

                              Здесь нет веры, есть лишь наука. Реакция человека (особенно средне-статистического) довольно медленная, не говоря уже о том, чтобы не просто отреагировать на внезапное изменение ситуации, а еще и проанализировать и выбрать наилучший вариант

                        +5
                        Мне нравится говорить, что инженерное решение этой задачи более простое – нужно починить тормоза вагонетки.
                        Задача про вагонетку — это классический пример ложной диллемы, а не инженерная задача. Подобные исследования проводятся не для того, чтобы решить проблему с вагонеткой, а для наблюдения за психикой людей, попавших в безвыходную ситуацию. С тем же успехом можно было бы упомянуть военных пилотов, которые сбрасывали бомбы, но не считали себя убийцами — легче нажимать на кнопку сброса, когда не видно глаз человека.
                        Страховые компании думают об общей картине, как и мы, когда мы покупаем их полисы. Правительства думают так же. Мы должны научиться рассуждать таким образом и принять позицию с согласием на допуск небольших рисков, если мы хотим разобраться с настоящей трагедией, которая является результатом плохой истории человеческого вождения.
                        Предлагаете научиться откладывать моральные ограничения в сторону, когда речь заходит о благе общества? Похоже на зыбкую тропу через болото. Мне казалось, что статья идет к другому выводу — тестировать нужно аккуратнее, а не смиряться с «неизбежными» потерями во благо будущего процветания.
                          0
                          Просто с таким подходом ребятам надо заниматься не гражданскими, а военными заказами. Там чем больше урон, тем круче вагонетка).
                          +1

                          Имхо, это подход к проблеме автономного транспорта с неверной стороны. Вместо того, чтобы разглагольствовать, кого будет давить несуществующий робот в несуществующей ситуации, нужно писать код, блеать. Нужно писать новые алгоритмы, новые правила и законы организации движения, выбивать деньги на их реализацию. Система должна быть построена так, чтобы исключать жертвы абсолютно. Или хотя бы сразу уменьшить процент жертв по сравнению с текущими значениями.
                          Но вести неразрешимые философские споры — гораздо проще, чем создавать ИИ или законодательство, позволяющее безопасно этот ИИ использовать.

                          • НЛО прилетело и опубликовало эту надпись здесь
                              +1
                              мораль роботизированного транспорта ровно одна: год задержки перехода = плюс миллион трупов
                                0
                                Не вижу логики. Если, как указано в статье, основные причины смертей это ошибки водителя, превышение скорости и вождение в нетрезвом виде, то роботы их не отменят, а лишь дополнят новыми рисками на дороге, связанными с несовершенством технологий.
                                  +1

                                  Очевидно, когда за рулём конкретного ТС робот-водитель, человек-водитель ошибки сделать не может независимо от состояния, т.к. он не за рулём (да и вообще не является водителем в данной ситуации).

                                +1
                                Диллема вагонетки не в психологии выбора — она в законодательстве.

                                Если человек тронул стрелку — он сядет при любом исходе. т.к. возникает причинно следственная связь — между его действием > конкретной жертвой.
                                А если не тронул — сядет директор вагонеточной конторы, как владелец средства повышенной опасности, допустивший саму эту ситуацию.
                                  –1
                                  > А если не тронул
                                  Не может не тронуть если он только не просветлённый или в коме в тот момент. Будет потом думать всю жизнь и не известно ещё чем закончится. Ну это так, дополнение.
                                  +1
                                  Число погибших в ДТП в России в 2019 году составляет более 16 000 человек.
                                  И что-то никто по этому поводу не беспокоится. Ну увольняют главаря ГИБДД, не устанавливают максимальную скорость 20 км/ч. Привыкли, наверно.

                                  Проблема вагонетки. Когда и где такая проблема возникает в реальной жизни и сколько таких случаев бывает за год?
                                    +1

                                    Беспокоятся. К 2030 году планируют достичь нулевой смертности на дорогах. Да, в РФ.
                                    В это даже можно поверить — перед глазами опыт Швеции, правда там пока не снизили до нуля. Но если поставить цель и учитывать готовый чужой опыт — может и получится.

                                      0
                                      А в 2018-м погибло больше 18 тысяч. А в 2017-м — больше 19 тысяч. В 16-м — больше 20 тысяч. В 15-м — больше 23 тысяч погибших.

                                      И что-то никто по этому поводу не беспокоится.

                                      А надо беспокоиться, что смертность на дорогах за пять лет снизилась почти в два раза? Это плохо? Надо было повышать смертность? Или вы хотите чтобы… рраз, и все на новых машинах с радарами, пристегнутые ремнями безопасности?..
                                      До сих пор больше половины водителей даже в Москве даже на приличных машинах — не пристегиваются. Пассажиров пристегивают — вообще еденицы. Вплоть до того, что когда доводится ехать на такси, 9 раз из 10 мне приходится заставлять водителя пристегнуться.

                                      Число погибших в ДТП в России в 2019 году составляет более 16 000

                                      А где вы взяли информацию? Пока есть официальные данные только про 15 тысяч за 11 месяцев. Данные за декабрь обещают опубликовать к середине февраля. Конечно, теоретически, 15 + 15/11 будет больше 16. Но официальных данных — пока нет. Вдруг именно в декабре все решили пристегиваться, ездить особенно аккуратно и не гибнуть на дорогах?

                                      Проблема вагонетки. Когда и где такая проблема возникает в реальной жизни

                                      Ну тут примерно все случаи, которые видел я, это отказ тормозов у большегрузов. И да, в почти каждой подборке ДТП с регистраторов пара-тройка таких случаев присутствует. Так что, речь идет о сотнях случаев в год. И, по мере увеличения массы самоуправляемого автомобиля (помните? Тесла обещает вот-вот выкатить в продажу фуру?) — важность правильного решения «проблемы вагонетки» будет возрастать.
                                        0
                                        Ну тут примерно все случаи, которые видел я, это отказ тормозов у большегрузов. И да, в почти каждой подборке ДТП с регистраторов пара-тройка таких случаев присутствует. Так что, речь идет о сотнях случаев в год. И, по мере увеличения массы самоуправляемого автомобиля (помните? Тесла обещает вот-вот выкатить в продажу фуру?) — важность правильного решения «проблемы вагонетки» будет возрастать.

                                        Среди решений "Давить человека А" или "Давить человека Б" нет правильного. Правильное решение здесь из разряда "На автомагистралях и дорогах — полностью огородить грузовики от пешеходов, мелких машин и встречного потока (чтобы исключить серьезные столкновения); во дворах — ограничить скорость настолько, чтобы машина не могла никого убить (уменьшить опасность мелких столкновений)" (по мотивам Vision Zero). То есть придётся полностью переделать дорожную инфраструктуру под некие новые стандарты, не пропуская ни одного переулка, что стоит много денег.


                                        Короче, реальная проблема — на одной чаше весов "имеем 15к+ смертей в год", на другой — "тратим N охулиардов денег на дороги и прочее" (и решение "тратим", наверно, очевидно). А вагонетки на данный момент — не проблема.

                                          0
                                          полностью огородить грузовики от пешеходов

                                          Во-первых, вопрос не в пешеходах, а в выборе — бить вот тот универсал с рассадой, или вот тот Майбах с олигархом, или ту ржавую гранту, где дама с тремя детьми (хотя, год назад, дама в битой по кругу Гранте с тремя детьми до 3-х лет в машине, решая обратную задачу вагонетки (об кого убиться будет менее больно) на перекрестке, выбрала мою машину...)? Пешеходы, что интересно, в критической ситуации чисто на адреналине очень часто успевают увернуться.

                                          Что интересно, практически полное разделение грузового и пассажирского трафика — уже изобретено и работает скоро 200 лет как! Называется «железная дорога». На многих ветках ЖД машинист сейчас выполняет всего две функции — 1) надо же над кем-то поиздеваться и поставить «павловские» опыты: чтобы не спал и вовремя жал педальку, что он не спит, сериалы чтобы не смотрел, в танчики не играл, все это время тупо пялясь вперед...; и 2) готовый виноватый, если что-то случится (с компании, если что, попытаются содрать миллиарды, а когда есть виноватый, обычный человек, с доходом чуть-чуть ниже среднего… Ну назначит ему суд выплачивать миллиард с зарплаты… Всего каких-то 150 тысяч лет, если без процентов…

                                          При этом, вся необходимая автоматика для того, чтобы железные дороги работали на 99% без участия оператора — есть уже лет 40. И уже лет 30 как работает на каких-то из веток метро в Париже. Добавив к автоматике чуть-чуть тесловского «автопилота», который бы еще визуально распознавал светофоры, знаки и путейцев на путях… мы могли бы разом избавиться от профессии «машинист поезда». Просто 40 лет назад машинисты обходились существенно дешевле.
                                          Кстати, похоже, что сейчас, по крайней мере в Европе, всвязи с увеличением зарплат водителей и законодательных жестких ограничений на время, которое водитель имеет право находиться за рулем в сутки, объем железнодорожных грузовых перевозок уже лет 10… чуть-чуть… но растет.

                                          PS: «Обратная задача вагонетки» ((с) Я 13.01.2020)… Это чуть более важна задача для легкового робомобиля на трассе: при убивании об кого меньше людей погибнет и меньше людей посадят?
                                            +1
                                            вопрос не в пешеходах, а в выборе — бить вот тот универсал с рассадой, или вот тот Майбах с олигархом, или ту ржавую гранту, где дама с тремя детьми

                                            Если ехать достаточно медленно (т.е. по грамотно спроектированным дорогам на грамотно спроектированным транспорте), от любого удара пострадает лишь железо, и нет дилеммы, кого бить. Ну или пешеход увернётся.


                                            Полагаю, на жд машинист нужен в том 1% случаев, когда что-то идёт на так. Как и пилот самолёта.

                                              0
                                              Если ехать достаточно медленно (т.е. по грамотно спроектированным дорогам на грамотно спроектированным транспорте)

                                              «Ехать достаточно медленно» — это с тождественно нулевой скоростью. Любая не нулевая скорость любого из участников движения — гарантирует, что рано или поздно кто-то погибнет в «ДТП». Предельный случай: бывает, что человек ногой о собственную ногу спотыкается и падает головой об что-то твердое. Люди, бывает, получают серьезные травмы просто столкнувшись с другим человеком.

                                              А машинист сейчас… Что он может сделать? Максимум — включить режим экстренного торможения. Так это и автоматика легко сделает.
                                                +1
                                                Любая не нулевая скорость любого из участников движения — гарантирует, что рано или поздно кто-то погибнет в «ДТП».

                                                Да, небольшая вероятность всегда остаётся, но малая скорость даёт возможность успеть среагировать водителю, или пешеходу, или какой-то автоматической системе торможения.

                                                  0
                                                  но малая скорость даёт возможность успеть

                                                  — посмотреть сериал;
                                                  — почитать новости;
                                                  — написать сообщения в десяток чатов о том, какие жуткие пробки;
                                                  — обзвонить друзей, знакомых, родственников;
                                                  … а в результате…
                                                  — просто уснуть;
                                                  И во всех вариантах люди вообще не пытаются реагировать на изменение дорожной ситуации.
                                                  Или наоборот, вдруг начинают тормозить в пол, уловив боковым зрением зажегшуюся яркую красную лампочку, хотя впереди расстояние до ближайшей машины 500 метров и она не тормозит…

                                                  Кстати, как раз сегодня где-то встретилось утверждение, что последние несколько лет происходит резкий рост количества ДТП со смертельным исходом, вызванных слишком низкой скоростью.
                                                    +1

                                                    Идея в том, что на 20-30км/ч, даже если водитель заруливает в стену, машина спроектирована так, что люди не страдают. Но наказание рублем за такие похождения всегда остается.


                                                    — просто уснуть

                                                    На низкой скорости это не такая уж проблема (но не для кошелька, конечно). Ещё можно добавлять электронику, которая автоматически тормозит перед препятствием, или когда водитель уснул. Или прямо выписывать штрафы за смс-ки за рулем. Технических возможностей масса, не все из них хороши, правда, но что-то можно пробовать.

                                                      +1
                                                      Кстати, поддержу — когда ездил на НГ в Финляндию, где максимальная скорость на трассах зимой 80 и жестко контролируется — столкнулся с тем, что очень хочется спать. Едешь 79 на круиз-контроле, впереди еще 300-400 километров, темный зимний день, все остальные едут так же, никакой активности — начинаешь терять концентрацию.

                                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                      Самое читаемое