Pull to refresh

Comments 210

гипотетический сценарий
1 — Алиса страшно ненавидит Боба и хочет его убить
2 — Боб ездит на машине с очень продвинутым и умным автопилотом запрограммированным спасти как можно больше людей
3 — Боб ездит по трассе где свернуть с дороги можно только в стену или обрыв
4 — Хитрая Алиса берёт на руки малолетнего Владимира и выскакивает на дорогу в момент когда по ней едет ненавистный Боб.
5 — Автопилот правильно взвешивает все за и против, спасает Алису и Владимира и убивает Боба об стену.
6 — У аморальной Алисы всё получилось!
Хорошее дополнение к дискуссии. А что если автопилот учитывает ценность, а потом бросает рандом с посчитанными весами?
тут проблема не в рандомности а в причинности, кто кого убил и за что, умышленно или нет, и кто виноват.
какой-то абстрактный кусок программного кода принимает решения кого убить а кого оставить в живых.
Такое решение даже не всякий суд присяжных имеет право принимать.
БТВ я не автопилотный хейтер, мне нравятся автопилоты, я просто пытаюсь понять где предел автоматизации принятия решения и как определить ответственность за неправильно принятое решение
Да, вы правы. Но как бы и что не случилось — один (или более) участник заданного вами сценария с высокой вероятностью расстанется с жизнью. Вам будет проще, если это будете решать вы? Вы задавите двух человек (по сценарию) или улетите в стену? За какой промежуток времени вы сделаете данный выбор и успеете ли среагировать? Возможно в результате ваших действий погибнут все, это тоже надо учесть.
PS Я сторонник автопилотов, но в данном случае я не на их стороне, решать кому жить, а кому нет они возможно не должны, по крайней мере не хотелось бы, чтобы меня убил собственный автопилот. Мне просто интересно как вы поступили бы в заданном вами сценарии без автопилота, учитывая, что сейчас можно сделать такую же подставу.
Давайте попробуем подойти к вопросу по-инженерному.
Во-первых, изначальное условие — соблюдение автопилотом ПДД, распознание всех знаков и разметки, а также наличие навигации с отмеченными типами дорог, переходами и т. д. Если автопилот не распознал знак — вина его (производителя). Если знака нет, а должен быть, значит, вина дорожников.

Теперь подходим к собственно ситуации. Пешеходы на переходе? Не сбить: знак за 100 м, разметка видна, скорость снижена, тормоза работают. Как у людей.
Пешеходы вне перехода? Нарушают, ну да ладно: камеры их видят, тормознуть можно, скорости-то чай не под сотню. Все перебегают через городские улицы, никто никого не сбивает (кроме очень редких случаев): пешеход либо не дурак и выбежит далеко от машины (можно затормозить), либо сам дурак (ситуация С1).
Скорости под сотню? Трасса, видать. Какого, спрашивается, пешеход делает среди трассы? Нарушает. Если перебегает — так значит либо задолго до машины (можно затормозить), либо сам дурак (ситуация С1).
Массовые гуляния, митинги, все лиди на дороге? Информация есть заранее, этой дорогой не едем. Если поехали — всё равно люди видны с далека, затормозить можно, никаких аварий.
Кто-то ломанулся на машине под красный, поперёк дороги? Виноват+дурак, ситуация С2.
Кто-то мчит по встречке? Он виноват+дурак. Ситуация С2.
Скорая/пожарная мчит по встречке? Такое если и бывает, то всё равно они соблюдают осторожность и не несутся напролом не глядя, видны и слышны издалека, можно затормозить и уступить дорогу.

Таким образом, все ситуации, обходимые живым шофёром, обходимы и автопилоту, только лучше за счёт мгновенной реакции и гарантированного ненарушения (когда ты сам летишь под сотню в городе, то естественно перед другим нарушителем не успеешь). Рассмотрим опасные ситуации С1 и СНГ, которые невозможно обойти и авария почти неизбежна.
С1: внезапный пешеход перед носом. Тормозим (насколько успеем), уходим в сторону, если свободно (кювет, обочина, соседняя полоса). Если некуда-есть 2 варианта: либо давить (сам дурак, нет нарушения моральных норм), либо в препятствие (высока вероятность обойтись без жертв: ремень+подушка=жив на 70 в стену, если подушек несколько — есть шанс почти без травм). В любом случае виновник очевиден.
С2: дурак на машине. Ситуация полюбому опасная для пассажира автопилота. Варианты: либо в него (если встречный — скорость сложится, опаснее), либо в препятствие (аналогично С1). Виновник очевиден.
В обеих случаях нельзя ехать на посторонних людей, они не участвуют в ситуации и пострадать не должны. Если нет вариантов — ехать на дурака.
UFO just landed and posted this here
UFO just landed and posted this here

Хотите сказать, что скорость столкновения вообще не играет роли? Не верю.

UFO just landed and posted this here
Нет — встречный автомобиль, хоть и сминается — но при этом гасит только свою энергию, а не встречного автомобиля…
Т.е. при абсолютно симметричной ситуации — ни один атом не пересечёт плоскость столкновения ни с одной стороны. А это и есть «бетонная стена»
UFO just landed and posted this here
Зря вас заминусовали, но это всегда происходит при обсуждении столкновения автомобиля с другим автомобилем или стеной :).

В основном вы правы, столкновение двух автомобилей со скоростью 60 примерно эквивалентно по последствиям столкновению каждого из них с неподвижным деформируемым барьером. На этом основана теория всех краш-тестов, например EuroNCAP.

В свое время в качестве автожурналиста я общался с конструкторами многих европейских марок, они говорили что на практике удар двух автомобилей на скорости 60 кмч примерно эквивалентен удару о стену на скорости 52-54 кмч. То есть при столкновении двух автомобилей энергия рассеивается лучше. Точной математической модели деформации автомобиля нет (отсюда невозможность полностью отказаться от краш-тестов даже сейчас), но в целом это правило выполняется.

И когда говорите о последствиях столкновений, помните, что кинетическиая энергия — это mv2/2, то есть тяжесть столкновения зависит от квадрата скорости.
Ну вот и получается, что второй автомобиль гасит свой удар, а мы свой. И каждый гасит по 60 км\ч(вот 120 на двоих и выйдет), а не суммарные 120.
Кстати влететь в машину встречную, если у тебя и у неё скорость 60, это лучше чем в стену на скорости в 60. Проверяли не раз.
встречное столкновение на скорости 60 это далеко не тоже самое, что 120 в стену(там вообще ничего от машины не остаётся)+ встречная машина тоже аммортизирует, в стену вы запредельные перегрузки испытаете.

А вообще верно сказано, тоже похожим способом рассуждал когда тест «кого убить» проходил
ИМХО, опросник МИТа и подобные ему — хрень. Единственное чем должен руководствоваться автопилот — ПДД, и никаких моральных/этических аспектов не надо. Лично я не понимаю, почему человек, который едет по правилам в своём «умном» авто, должен умирать из-за, например, группы дебилов, которые грубо нарушая ПДД вылезли под колёса. Всё что должен сделать автомобиль в описанной выше ситуации — снизить скорость вплоть до полной остановки оставаясь в своей полосе, как и написано в ПДД.
Заодно глядишь люди научатся соблюдать ПДД. Естественный отбор, так сказать.
UFO just landed and posted this here
Приоритет ПДД и так понятен, речь о другом.

Исследователи исходят из того, технологии должны делать этот мир лучше, ну или по крайней мере более гуманным. Отсюда и опросник.

То есть если 3-летний малыш выскочил на дорогу за бабочкой, его нужно стараться спасти за некую разумную цену (железо и вред здоровью других людей), а не класть книжку с Правилами на гробик.
С какого перепугу? Вы уверены, что Ваш поступок спасет его жизнь и не угробит жизнь кого-то еще? Ок, ребенок выскочил на дорогу, Вы пустили авто в кювет, а там семья этого ребенка (ну он же не один у дороги ошивался). Или куском разлетающегося стекла посечет яремную вену, вроде царапина, а все. Лучше получилось?

Дорога относительно безопасное место благодаря предсказуемости. Предсказуемость достигается если все соблюдают правила. Если кто-то не соблюдает правила — ситуация становится непредсказуемой! Но вместо сохранения предсказуемости, пусть и ценой аварии (и чьей-то жизни) Вы предлагаете еще чуть чуть увеличить непредсказуемость! А значит падает безопасность для всех, кто движется по этой дороге!

Вы сейчас рассуждаете, также, как противники вакцинации. Да, есть шанс завакцинировать до смерти, но шансов не выжить без вакцины куда как больше. Так же и тут, да, ребенок станет жертвой правил, зато тысячи других выживут!
Думаю, имелась ввиду ситуация, когда есть возможность 100% безопасного манёвра. К примеру, встречка чистая на километр вперёд и назад. В этом случае не стоит уподобляться грузовому поезду и давить всех подряд.
Он уже прозевал появление ребенка на дороге. Значит неправильно выбрал скорость, либо неисправны датчики. В первом случае он неправильно рассчитал свои возможности (по ПДД он должен выбрать скорость, при которой успеет остановиться), уверены что он сможет рассчитать маневр и перестроиться безопасно? Во-втором не увидел слева/справа вероятное препятствие в десятке метров, о каком знании безопасности маневра на встречную полосу можно говорить, когда дистанция должна быть в сотни метров?
Я вам опишу текущую юридическую коллизию в законодательстве.
Человек решил перейти с одной платформы на другую по рельсам, попадает под электричку и погибает. Водителю электрички, даже несмотря на то что он управляет средством повышенной опасности, за это ничего не будет.
Теперь другая ситуация. Человек резко решает перейти дорогу в неположенном месте перед легковым автомобилем и погибает. Водителя легковушки отправят в тюрьму (и ещё надо будет деньги родственникам компенсировать за потерю кормильца), так как он управляя средством повышенной опасности и не предусмотрел что на дорогу может выскочить «олень», и не выбрал соответствующую скорость.
В обоих случаях виноват «олень», но ответственность разная. Вот пока не устранят такую коллизию (юридическую и моральную) и будут вестись разговоры о морали автопилотов. А по сути логика проста: нарушил правила — умер. Мораль должна быть направлена на то, чтобы невиновный не отвечал за нарушения другого человека.
Однако, не надо рассматривать мой пост как призыв к убийству пешеходов на дороге. Понятное дело если есть какая то помеха на дороге (человек, животное, большой камень, выпавшая стиральная машина и т.п.) на неё не надо наезжать. Мой посыл к снятию ответственности за убийство «оленей» (пешеходов нарушающий правила).

Выбор спасти 10 или 1 человека неверен в корне, так как тот 1 вполне может через 3-4 года спасти 1000 человек, как впрочем и среди 10 может оказаться тот кто спасет ту же тысячу. Поэтому, повторюсь, спасать надо соблюдающих правила. Как только «олени» услышат что их можно давить безнаказанно, число «оленей» резко сократится, сработает инстинкт сохранения.
Эта коллизия всё-таки объяснима — тормозной путь электрички исчисляется сотнями метров, может даже достигать километра.
Машинист едет по расписанию и при всём желании ничего не сможет сделать в такой ситуации.
У меня тоже расписание. В 7.30 я выезжаю из гаража, в 7.50 паркуюсь у конторы. Почему я должен ехать с такой скоростью, чтобы успеть затормозить, а поезд нет?
Ну наверно потому что длина тормозного пути зависит не только от скорости, но и от массы транспортного средства.
А масса состава и автомобиля отличается на 3-4 порядка примерно… А длина тормозного пути отличается всего на порядок…
На вскидку, что бы поезд тормозил за те же 20-200 метров что и автомобиль, скорость должна быть примерно 5-30 км/час… Экономическую целесообразность подобного можете прикинуть сами.
И все равно найдутся идиоты которые попадут под поезд, даже на таких скоростях…
Расписание вообще никак не влияет на то, что поезд не должен останавливаться при обнаружении человека на путях.
Ничего страшного не произойдет, если поезд остановится. Да, в дальнейшем прийдется машинисту этого поезда и следующим — нагонять потерянное время, возможно они опоздают по времени прибытия на нескольких станциях.

В случае, если наезд на человека (группу людей) происходит со скоростями движения ЭВС «САПСАН» 141 км/ч и выше, машинист, не останавливая поезд, немедленно сообщает о случившемся по поездной радиосвязи ДСП ближайшей станции и машинистам встречных поездов. В случае наезда на человека или группу людей при скорости до 140 км/ч включительно, машинист применяет экстренное торможение. После остановки поезда помощник машиниста следует к пострадавшему с аптечкой и переносной радиостанцией.

UFO just landed and posted this here
Водителя легковушки отправят в тюрьму

Если докажет, что пешеход выскочил неожиданно и не было возможности избежать, то не посадят. Страховая оплатит похороны, на этом все претензии к водителю по идее заканчиваются.

В пределах РФ претензий к водителю не будет только в случае, если он сможет доказать, что пешеход намеренно выскочил под колеса. «Неожиданно» — не является оправданием.

Не является оправданием для гражданской ответственности, по которой страховка водителя оплатит лечение или похороны пострадавшему. Уголовная же наступает только в том случае, если виноват сам водитель.

Могут не закончиться из-за управления средством повышенной опасности. Ну тут, говорят, мнение судей бывает различным — так что могут и закончиться. Но там ответственность в любом случае административная.
Пример с электричкой не совсем корректен. Есть два вида ответственности — уголовная и гражданская.

Уголовная возникает в связи с нарушением правил. Гражданская — в связи с причинением ущерба средством повышенной опасности.

В обоих примерах уголовная ответсвенность у водителей не возникает, т.к. правила нарушает «олень».

Но гражданская ответственность есть в обоих случаях и возникает она у владельца «средства повышенной опасности», т.е. в случае с электричкой — у РЖД, а с автомобилем — у водителя (т.к. скорее всего водитель и является владельцем авто).
РЖД выплачивает пособие по утрате кормильца? Очень сильно сомневаюсь.
Пусть даже только гражданская ответственность. Почему водитель легковушки (не страховая! водитель в любом случае косвенно оплачивает через повышенные коэффициенты) должен оплачивать лечение/похороны «оленей», а РЖД не должно?
Полностью поддерживаю. В случае вины «оленя» отвечать должен «олень», даже если цена наказания — его жизнь. А автопилот в сомнительных ситуациях до буквы должен соблюдать ПДД. Правда одно замечание: водителя посадят только если нет доказательства его невиновности. Т.е. если ребенок выбежал из-за фуры прямо под колеса и это заснял регистратор, то водителя почти наверняка не посадят.

В автошколе приводили такой пример: в дождливую погоду водитель задавил выпавшего (да да!) ему под колеса «оленя», на камере видно что тот спокойно стоит у края проезжей части, а за секунду до столкновения падает. Водителя спасли регистратор и свидетели, видевшие как «олень» пытался проделать такой же фокус несколько раз подряд до этого. Т.е. совершил самоубийство, а отвечать должен был водитель.
Если водитель не нарушал ПДД, а пешеход пьяный, то не должны посадить. Работал аваркомом, осматривал машину после наезда на пешехода. Так вот хозяин сказал, что в полиции говорили, что если бы были нарушены ПДД, то не важно в каком состоянии пешеход, где он переходил и т.д… Вообще ничего не важно, нарушил ПДД — виновен.
Не с пьяными пешеходами разве не такая же ситуация?
Вы правы в оценке ситуации, она в общем соответствует букве ПДД и автопилоты будут ей соответствовать. Но речь немного о другом, когда с точки зрения ПДД прав водитель (как минимум — не виноват), но технологии могут позволить минимизировать негативные последствия ситуации.

Пара подобных ситуаций (их больше, конечно):

1. На дорогу выскочил ребенок. Он виноват с т.з. Правил, но разве вы не будете уходить от столкновения при возможности?

2. На пешеходный переход быстро выбежал человек. Он спокойно может сделать это на такой скорости и в такой момент, что вы физически не сможете предотвратить столкновение. По Правилам вы будете стопроцентно виноваты, может лучше уехать в столб в такой ситуации?
2. Честно признаюсь, я не знаю ПДД, но вроде бы водитель обязан сбавить скорость перед пешеходным переходом, если рядом с ним стоят люди (даже не собирающиеся с виду перебегать дорогу) или ограничена видимость. Никаких «не сможете предотвратить столкновение» не должно быть в принципе. Если водитель не сбавил скорость до такой, чтобы даже желающий умереть под колёсами на пешеходном переходе человек не смог этого сделать, то он однозначно виноват. В этом и есть вся суть пешеходного перехода.
Вам стоит почитать ПДД… «Суть» пешеходного перехода в том, что если пешеход на него вышел — его обязаны пропустить, но если он прыгнул под колеса — сам виноват. Вне пешеходного перехода пешеходов быть не должно вообще и по ПДД задавленый далее, чем 5 метров от перехода пешеход будет сам виноват в своей смерти за исключением наличия знаков «осторожно — дети» и прилегающей/дворовой территории.
Не знаю на сколько авторитетен источник, но вот ссылка, ключевые слова «пешеходам, переходящим дорогу или вступившим на проезжую часть».
А для пешеходов пункт 4.5:
«На нерегулируемых пешеходных переходах пешеходы имеют право выходить на проезжую часть (трамвайные пути) после того, как оценят расстояние до приближающихся транспортных средств, их скорость и убедятся, что переход будет для них безопасен. При переходе дороги вне пешеходного перехода пешеходы, кроме того, не должны создавать помех для движения транспортных средств и выходить из за стоящего транспортного средства или иного препятствия, ограничивающего обзорность, не убедившись в отсутствии приближающихся транспортных средств.»
Так что те, кто не глядя выходит на переход автоматом нарушители, так как не убедились в том, что автомобиль успеет затормозить до столкновения с ними. Правда доказать без регистратора или свидетелей все это крайне сложно.
Правда доказать без регистратора или свидетелей все это крайне сложно.
Зависит от места и обстоятельств, если это загородная трасса, то в большинстве случаев суд оправдывает водителя, у которого практически нет шансов избежать ДТП (не сбить человека). Ситуаций может быть много, к примеру, идёт поток где-то на 80 км/ч, и пешеход выскакивает из-за только что прошедшей фуры. Его видеть физически невозможно заранее, единственный шанс — на скорости уйти на встречку, угробив себя и ещё N невинных людей.
> Вне пешеходного перехода пешеходов быть не должно вообще
Если пешеходных переходов нет, то переходить можно где попало.
Но убедится в безопасности должен пешеход.
При переходе дороги вне пешеходного перехода пешеходы, кроме того, не должны создавать помех для движения транспортных средств

Не создавать помех == не заставлять менять скорость и направление движения. Переходите, пожалуйста, но я не обязан перед вами тормозить или вас объезжать, все последствия на вас…
1. Уже предлагали при объезде выехать на обочину и задавить его родителей, увеличив непредсказуемость поведения ТС
Ребёнок увидел машину, побежал обратно/на встречку, а мы вместо торможения начали манёвр и настигли его. Или вместе с торможением и ушли в занос, устроив кегельбан из пешеходов, или чуть подтормозили, не теряя сцепления, но из-за манёвра торможение вышло не столь эффективным.
7 — полиция находит запись проишествия в черном ящике в машине Боба
8 — Алиса садится в тюрьма за предумышленное убийство
9 — Алиса нанимает адвоката, максимум что ей могут пришить это выход на дорогу в неположенном месте.
10 — Суд действуя исключительно в рамках закона возмещает Алисе моральный, материальный и судебные издержки
11 — Боб к сожалению не может подать в суд ни на Алису ни на производителя автопилотов.
9. Не. Непредумышленное или убийство по неосторожности — повесят.
Или даже умышленное, если доказать смогут.

В общем, в современном мире достаточно способов убить человека так, чтобы умысел было тяжело доказать; одним больше, одним меньше — не велика разница.
Да, способов много. И ещё, поскольку данный метод является довольно сложным, он будет предполагать высокий риск срыва, и появления прямых и косвенных улик о намерениях, и не будет применяться для аффективных, непреднамеренных убийств, которые составляют большинство случаев.
Боб подать конечно уже не может, но может производитель автопилотов возбудить встречный иск, и, с учётом разницы финансовых возможностей, для Алисы всё может весьма грустно кончиться, особенно если будут найдены даже косвенные факты, свидетельствующие о намерениях Алисы (получение информации о алгоритмах автопилотов, съёмка с камер наблюдения, показывающая, что Алиса всячески подстраивает свой график в этот день, чтобы быть в нужном месте в нужное время, что-то в соц-сетях, история активного поиска в Сети подобных случаев для анализа, и прочая). После чего адвокаты производителя авто нанимают лучших адвокатов, формируют для Алисы подходящую психологическую модель, которую ненавязчиво и косвенно продавливают в СМИ, и, даже не имея прямых доказательств, направляют судебное рассмотрение на суд присяжных.
Где Алисе может выпасть «чёрный лебедь» — запросто.
На месте Алисы я бы не рисковал.
Сложное убийство всегда оставляет следы.
9 — Алиса нанимает адвоката, максимум что ей могут пришить это выход на дорогу в неположенном месте.
10 — Суд действуя исключительно в рамках нового закона сообщает Алисе… что в случае выхода пешехода в неположенном месте на трассу по которой разрешено движение автопилотируемых ТС виновным в дтп признается пешеход назначает Алисе 5 лет тюрьмы с отсрочкой до достижения Владимиром 14 лет.
Ну тут по моему все просто, ПДД никто не отменял, перед пешеходами тормоз в пол, если пешеходы на переходе и правил не нарушают летим в кювет, если нарушают оттормаживаемся как получится, на встречку ни-ни — подвергать опасности ненарушающих нельзя. А про «ценность» вообще глупости какие-то, которые породят вседозволенность и безнаказанность

В том-то и проблема подобных обсуждений моральных вопросов — что обсуждается тут, по сути, именно отмена ПДД.


Я тоже сторонник ПДД, а не Алгоритмов Вычисления Ценности Жизни — но на вопрос "не отменить ли нам ПДД" отвечать "ПДД еще никто не отменял" — нельзя.

Отменять их нельзя как минимум до тех пор, пока у пешеходов тоже не появится автопилотов (мало ли кому какая мысль взбредёт по апгрейду). Смысл ПДД даже с учётом того, что ВСЕ машины будут ездить на автопилоте в том, что их поведение остаётся предсказуемым постороннему. С правилами — видя, что назревает столкновение я могу хотя бы примерно предсказать движение машины и убраться с траектории их разлёта например. А без — попытаюсь уйти, а она в меня повернёт.

… а теперь попытайтесь объяснить про важность предсказуемости фанатам задачи о вагонетке :)


У меня не получилось.

Элементарно. Просто пусть представят себя стоящими на тупиковом пути, куда ВНЕЗАПНО свернул скоростной поезд объезжая толпу алкашей стоящих на его пути. Отойти проблем никаких, всего один шаг в сторону. Вот только успеть сообразить сделать этот шаг…
Вы совершенно правильно понимаете главный вопрос moralmachine — это по своей сути реформа ПДД и механизмов ответственности.
Дико плюсую и добавляю еще необходимость учитывать опасность что-бы сзади никто не въехал, потому что если сзади многотонный грузовик и скорость не маленькая и пешеходы нарушают правила, то я лучше буду горько оплакивать пешеходов чем мои родственники мою тушку.
Это тоже вопрос соблюдения ПДД.
9.10. Водитель должен соблюдать такую дистанцию до движущегося впереди транспортного средства, которая позволила бы избежать столкновения, а также необходимый боковой интервал, обеспечивающий безопасность движения.

При движении в плотном транспортном потоке необходимо прогнозировать возможное экстренное торможение движущегося впереди транспорта и обращать внимание на ТС, движущееся сзади.

Т.е. если автопилоты строго соблюдают ПДД, то всем хорошо (ну кроме любителей переходить дорогу а неположенном месте). А если все автомобили поддерживают «контакт» с ближайшими авто, то позади идущие узнают об экстренном торможении даже раньше, чем определят его по камерам/датчикам.
А определение ценности и оценка последствий автопилотом — действительно бред. Может он еще будет кубики кидать, как в D&D?
А мне кажется, что автопилот должен просто ехать соблюдая все правила, а если случается какая-то лажа, которая этими правилами не предусмотрена, то он конечно старается что-то сделать, но ни в коем случае ни в ущерб водителю и не подвергая его риску для жизни. Допустим, на дороге возникла толпа людей. Что она вообще там делает и как так получилось, что машина мчится на них с такой скоростью, что не может затормозить? Ну ОК, допустим так получилось. Машина пытается тормозить по максимому, но должна давить этих людей вместе с детьми и собаками если ей некуда больше деваться. Почему? Потому что тогда всё понятно. Тогда виноват либо производитель автопилота, который не предусмотрел выход из этой ситуации или неправильно оценил ситуацию (возможно он просто не заметил временный знак 20км/час на этой дороге), либо люди, которые там оказались. Либо не виноват никто, просто так получилось. И кто будет использовать автопилот, который может пожертвовать собой и водителем ради кого-то?
А сколько людей погибло в авиакатастрофах из-за разных мелочей, в которых были виноваты проектировщики этих самолётов? Кто-то запретил самолёты? Что говорят родственникам погибших? Мы всех уволим и больше не будем делать эти самолёты? Нет, им говорят, извините, мы учтём данную проблему и другие самолёты будем делать лучше.
И так же с автопилотом, извините, но эта ситуация не была учтена, мы всё доработаем.
Если конечно с автопилотами ситуация будет такой, что смертность в авариях возрастёт, то тогда разговор другой, но ведь никто не верит, что так будет.
Все эти акты самопожертвования ради других точно не нужны ни автопилоту, ни его водителю.
> Допустим, на дороге возникла толпа людей. Что она вообще там делает и как так получилось, что машина мчится на них с такой скоростью, что не может затормозить?

Митинг у этих людей. Или народные гуляния в Ницце.
Для народных гуляний дороги должны быть перекрыты
И митинги вряд ли будут проводить на трассе, скорей в городе, где скорости не такие чтоб не успеть затормозить
Тем более тормозить приходится на каждом светофоре и на многих перекрестках (автопилот может быть вообще на каждом будет тормозить на всякий случай, даже если у него преимущество)
Если они проводят митинг "«не трамвай — объедет» на федеральной трассе, то пусть попробуют его провести на ж/д ветке на пути грузового состава. Тоже будет весело (им).
А сколько людей погибло в авиакатастрофах из-за разных мелочей, в которых были виноваты проектировщики этих самолётов? Кто-то запретил самолёты?
Собственно, так обычно и происходит, если выясняется, что виноваты именно проектировщики, то полёты всех самолётов с этой неисправностью приостанавливают до её устранения. Жаль, что с людьми так нельзя.
Тогда виноват либо производитель автопилота, который не предусмотрел выход из этой ситуации или неправильно оценил ситуацию (возможно он просто не заметил временный знак 20км/час на этой дороге), либо люди, которые там оказались.

Почему в случае бага в ПО вы по умолчанию выбираете вариант, при котором страдать будут люди, которые это ПО не купили, т.е. пешеходы? На мой взгляд, разработчики алгоритма не имеют права исходить из того, что он [алгоритм] безошибочен, т.е. изначально надо предполагать, что он может ошибаться, а потому что тогда делать в спорной ситуации?
В ситуации, когда авто едет строго по ПДД, всё понятно, а вот когда нет?

Не "в случае бага в ПО", а "в случае нештатной ситуации". Есть там баг в ПО или нет — автопилот сам определить не может, вероятность же вины людей впереди выше чем вероятность бага в алгоритме.


Крайние и редкие случае, безусловно, надо рассматривать — но оптимизировать нужно все-таки общий случай.

вероятность же вины людей впереди выше чем вероятность бага в алгоритме

В любом случае? Если они там на красный идут, это одно, а если на зелёный, но как-то так получилось, что машина на них мчится и не успевает затормозить, тогда кто вероятнее всего ошибся?

В условиях того, что неизвестно, идут ли в такой ситуации они на красный или на зеленый — вероятнее, что на красный. Потому что обе ситуации нерормальны — но в первом случае виноваты люди, которые ошибаются часто — а во втором случае виноват автопилот, который протестирован.

Ну а если таки на зелёный, всё равно их давить?

Если автопилот (и светофор) исправны — то он остановится перед переходом, ибо ему-то красный.


А если техника неисправна — то и проанализировать состояние светофора не сможет.

Vашина — система комплексная и потому вполне может возникнуть ситуация когда распознаватель светофоров работает а тормоза — нет.

Внезапно не работающий тормоз не даст времени на реакцию даже автопилоту.

Почему это? Между обнаружением поломки и моментом выхода на одно или другое развитие событий может пройти до секунды. А автопилот — не человек и ему хватит куда меньшего промежутка времени.
При неработающем тормозе автопилот остановится и дальше не поедет — датчик определит когда давление в системе упадёт и затормозит (с использованием рекуперативного торможения — при массовости уже будут электрокары, их и заправляться самим проще) и остатков рабочей тормозной системы. Вот живой водитель может не обратить внимания на лампочку и «ой, тормозов нет, превед, пешеходеги».
Подменяете понятия, я говорил о багах, а не неисправностях.
Если уж доводить до абсурда, так до конца, отчего ж вы остановились на «не сможет проанализировать состояние»? Сказали бы сразу «неисправен — не может принять решений, ничего не может, так что как карта ляжет». Или это было бы слишком утрированно? :)
Между «безошибочен» и «ничего не работает» есть целый спектр состояний.

Речь о рабочем алгоритме, в котором есть баги, и это нормальная ситуация.
Обнаружил такой алгоритм людей на переходе, переходящих на зелёный сигнал светофора, но авто едет слишком быстро. Что делать? Например, возможно, что алгоритм не распознал знак перед светофором, ограничивающий скорость, вполне вероятная ситуация. При этом он вполне уверен (т.е. отчётливо видит, хотя вероятность ошибки есть и тут, но она крайне мала), что там люди, и идут они на зелёный. Так что делать в таком случае?

Вторая ситуация — знака и не было, виноваты дорожные службы, но пострадать кто должен, невиновные пешеходы или невиновный водитель?

1. Исходим из того, что погибнут все.
2. Выбираем варианты, при которых не погибнут пассажиры.
3. Из них выбираем те, при которых не умрут те, кто не нарушил ПДД.
4. Из них выбираем те, при которых минимизируются жертвы.
5. Из них выбираем те, где меньше действий (по возможности не поворачивать, предпочитать простые действия сложным во избежание непредвиденных ошибок)
6. И вот только когда выбор стоит между повернуть направо и сбить одного пешехода, идущего на красный или повернуть налево и сбить одного пешехода, идущего на красный, можно размышлять, кто тебе больше нравится, или кто полезнее для общества. Это вообще можно рандомом решать, или личными настройками — все равно к консенсусу по поводу того, кого сбивать при прочих равных — мальчика или девочку, общество не придет.

Как-то так.
За владение транспортом, действующим по этому алгоритму, нужно сажать сразу.
Да, порядок второго и третьего пункта дискуссионен. Я исходил из следующих двух соображений:
1. Если потенциальные обладатели атопилота будут знать, что в случае чего их автомобиль их убьет чтобы спасти пешеходов, то покупать автомобили с автопилотом будут гораздо менее охотно. А если правы исследования, которые говорят, что чем больше автопилотов, тем меньше аварий, то в целом это приведет к лишним жертвам.
2. Спорный момент, к сожалению, не могу привести исследований, но есть общее ощущение, что большая часть живых водителей предпочтут сбить двух пешеходов, даже если они на пешеходном переходе, тому чтобы слететь вдвоем с пассажиром с моста. Их же мы не сажаем.
Я вообще не понимаю этих дискуссий о «спасении». Если отбросить возможные сбои, то автопилот по определению едет по правилам. Значит тот, кто под него вылез, делал это не по правилам. Он с тем же успехом мог выйти на рельсы или намотать шарф на шпиндель токарного станка. Нарушаешь ТБ — сам дурак. Точка.
Всё так просто? Да первое что в голову приходит — светофор глючит или знак приоритета сломался.

Определять такие ситуации — не задача автопилота. При невозможности избежать дтп — давим предполагаемого нарушителя, если потом суд определит, что где-то там знак неправильно стоял, значит, организация, ответственная за установку знака, оплатит ему лечение и ремонт.


Максимум, что можно посчитать автопилотом — въезжаем в нарушителя на 60 км/ч или в стену на 10, но для этого нужны нормально работающие суды, а не «контактанебылозначитсамдурак»

Задача автопилота — довезти пассажиров/груз с минимальным риском как для них так и для окружающих, учитывая то, что автомобиль — это средство повышенной опасности.

А вот эти «сам дурак», «предполагаемый нарушитель», «автопроизводитель/дорожники оплатят похороны» — это всё от лукавого.
Именно следование правилам даёт минимальный риск. Поломка светофора и нарушитель — это риск, хаотичные действия (которые надо ещё протестировать, протестировать сочувствующий ИИ, тянущий руль вправо, протестировать запрос к федеральной базе, выбирающий менее ценных членов общества, тянущий руль влево, протестировать эхолокатор, сканирующий по отражению дорогу за поворотом, подталкивающий транспорт на встречку и их взаимодействие. И этот хаос рисков только добавляет, причём всем.
Конечно, вы же никогда не видели ни одного бага в ПО. Компьютер не может ошибаться. Точка.
Ну я видел. Даже сам делал.
Внештатная ситуация, и балансировщик нагрузки «спасая» ситуацию положил всю систему (кинул весь трафик двадцати-серверного кластера на один сервер).
Или почитайте про японский телескоп, который разорвало на куски когда ПО его спасало.

IMHO обработка внештатной ситуации всегда сложнее чем штатной. Их больше, действовать надо сложнее и быстрее чем в нормальной. И внештатные ситуации хуже! Просто потому что их на порядки больше.

Поэтому тормоз в пол и всё. И потихоньку описываем ситуации когда надо действовать по-другому. Увы, каждая такая ситуация будет стоить жизней, иногда десятки жизней.
Ну так и ПДД писались, и авиационные правила, и противопожарные…
В прошлом обсуждении было популярно мнение, что так не пойдёт, если летит по встречке фура.
Поэтому надо самому стать такой фурой. Сравним (раз уж тут так любят сравнивать) — одна фура на 10к летит на встречку, все 10к при угрозах (и тех самых багах в ПО) норовят лететь на встречку, обочину и куда угодно. Мне кажется первый вариант (с щансом встретиться с другой фурой, уклонившись от первой) не лучший.
Допустим автопроизводитель сделает по вашему, тогда, как только на дорогу выбежит ребенок, и автопилот его собьет в хлам, сразу общественность потребует модуль уклонения и модуль оценки важности жизни. Если ребенок выбежит на скоростное шоссе — ну понятно, что ничего не сделать, а если это второстепенная дорога и авто едет со скоростью 30 кмч и можно даже в бетонную стену вырулить, никто не умрет. Все равно придется решать все эти вопросы морали и оценки

А если автомобилям добавят модули уклонения от детей — то дети быстро выучат новую веселую игру "напугай бибику". После чего о передвижении со скоростями больше 20 км/ч придется забыть навсегда.


Почему-то когда ребенок выбегает на ж/д пути и его сбивает поезд — никакая общественность не требует добавить поездам какие-то модули, вместо этого напоминают родителям, что за детьми надо следить. Почему с автомобилями тогда все с ума посходили?!

Потому, что с поездами аксиома: не может он затормозить при всём желании. Не дошло до кого-то — сам себе буратино, хорошо, если без рук/ног, а то и без головы. Вот когда к автомобилям так же будут относиться, тогда и понимание придёт. Туго доходит до людей, что тонну железа остановить с каких-то 60км/ч до нуля невозможно за секунду.
Пусть тогда поезда едут с такой скоростью на которой смогут остановить поезд.
Сейчас именно такая логика действует для автомобилей. Почему для поездов делать исключение?
Потому что автомобиль — частная собственность, чаще всего не самая дешевая. Автомобиль с автопилотом — первое время точно уж будет предметом роскоши.
Поезд нынче — тоже частная собственность. И гораздо более дорогая.
Немного не то имел в виду — поезд управляется машинистом, которому поезд не принадлежит, а дорогая машина — «буржуем», хозяином этой самой машины.
Это очень жестокая и злая позиция.
Я уверен, все же будут и модули уклонения, и модули выбора наименьших потерь, а если дети будут играть — ну и ладно, штрафы можно наложить, воспитание через штраф лучше чем воспитание через физический ущерб
Потому что количество сбитых поездами детей мало до той степени, когда проблема не вызывает общественного резонанса. Ну и очевидно, что цена дальнейшего уменьшения числа жертв путем снижения скорости движения поездов, тотального закрытия ЖД путей или одевания на детей браслетов с индикацией поезда неприемлема. Увы, да, у всего есть цена.

И так же очевидно, что в случае с автомобилями возможности по снижению числа жертв еще есть.

"The maturity level of children under 10 years of age makes them less able to correctly gauge road dangers and puts them at greater risk for injury and death." — дети до 10 лет не адекватно оценивают дорожные опасности и с этим ничего сделать нельзя.

Да, поэтому нельзя отпускать детей до 10 лет бегать вдоль дорог.

Следить за моими детьми? Да вы гоните! Нет, пусть все остальные за ними следят, вписываются в ограждение и не дают прыгать с моста пока я в фейсбуке сижу. А если не справятся — под суд!
UFO just landed and posted this here
При этом у аморальной Алисы всё могло с большой вероятностью получиться даже если бы Боб сам, вручную управлял автомобилем. Прецедентов полно.

Если Боб сам, есть вероятность, что он не станет уворачиваться, а выполнит минимально необходимое по пдд торможение в своей полосе. А если про автопилот заведомо известно, что он всегда пытается уворачиваться, то всё становится гораздо проще.

Автопилот должен ездить по ПДД. К черту сопливую мораль. ПДД в РФ предписывает тормозить, не меняя полосы. Если хитрая барышня при этом будет не на пешеходном переходе — ССЗБ. Если на переходе и водитель нарушал — ССЗБ аналогично. Возможно, это жестоко, но весь этот моральный выбор ведет к тому, что в итоге у всех свое мнение, одни сплетни и вообще ничего не ясно. Также я за введение обязательного «черного ящика» даже для ТС с органическим пилотом с видеозаписью за последние хотя бы 30 минут и обязательное видеонаблюдение за всеми ПП с захватом 50-100 метров до ПП со стороны подъезжающих ТС. Я вообще не понимаю, зачем придумывать что-то новое. Если робот не может выполнять ПДД, значит, это плохой робот. Пусть корпорации думают дальше. Отсутствие технической возможности — это стимул к развитию технической части и программистского мастерства, а не причина переписывать ПДД, опираясь на зыбкую мораль. По моему скромному мнению.
Соглашусь. Только не стоит забывать, что просто торможение может быть фатально и для водителя с пассажирами.
И надо отбросить при проектировании автопилота мысли вроде:
* нужно куда-то выруливать чтобы спасти (хотя бы потому что неизвестно кого это может ещё убить)
* нужно спасать водителя потому что машина его и она ему должна
* и т.д.
Решается заплаткой в коде: если нет безопасного способа объехать препятствие (даже людей), тормозим по прямой до полной остановки, а там уж как получится. По факту на наших дорогах сейчас так и есть.
Критерий безопасности? На дороге вообще очень мало решений, которые с единичной вероятностью безопасны.
В обсуждаемой ситуации автопилот уже знает, что объезд препятствия скорее всего приведет к гибели водителя. Исходим из этих данных.
Поэтому только кастомизация этики автопилота под пользователя с личной ответственностью водителя.
Все ныне живущие поколения людей родились, выросли и живут бок о бок с автомобилями. Все знают ПДД. Все знают опасность автомобилей. Все так же знают как опасны циркулярные пилы и не прыгают на них. И на дорогу тоже не прыгают.
Автопилот по определению не нарушает ПДД (если прошивка пиратская после ДТП это докажут и ответственность понесет тот кто с ней шаманил).
Всякие выскакивающие перед автомобилями Алисы, новорожденные дети, просто дети, собаки, мошки и прочая ересь в соответствии с ПДД идет в расход. Да, автопилот будет применять экстренное торможение даже с учетом что в него сзади приедет другой автомобиль, но ни о каких вариантах с самостоятельным съездом в кювет или стену быть не может.
За Алису отвечает она сама раз прыгает на дорогу в не положенном месте.
За младенца/малолетнего Владимира у нее на руках/за руку отвечает тоже целиком и полностью Алиса.
За малолетнего Владимира самостоятельно ломанувшегося под колеса тоже отвечает Алиса ибо нефиг детей в местах повышенной опасности отпускать. (мы о трассе сейчас а не о дворовой территории где автопилот будет красться со скоростью подстреленной черепахи при которой ребенок может нанести автомобилю ущерба больше чем авто ребенку).
Любые животные из любых красных книг рассматриваются как препятствие и решения принимаются исключительно с целью минимизации собственного ущерба (ну чтобы лось в лобовуху не влетел и не раздавил пассажиров).
Насекомые смываются омывайкой не тормозя.
Предыдущий сценарий для внезапно выскочил/свалился/материализовался, да хоть из-за глючащего датчика слишком поздно опозналось препятствие.
Если что-то там на полосе впереди и есть попутные свободные полосы автопилот просто штатно заранее перестраивается.
Если нету свободных полос нормально останавливается до препятствия.
Если физика уже не позволит безопасно остановиться/перестроиться просто оттормаживается не меняя полосы и будь что будет.
А будет в основном ответственность Алисы если не доказано вмешательство в программный код автопилота или глюк железа.
Испорченный софт — расследование уголовного дела и куча экспертиз, как итог вполне вероятно, что Боб ехал с подключенным к машине отладчиком ;-)
Кривой датчик — ну техногенная катастрофа, увы, с тем же успехом автокран опустит на Алису рояль потому что у него управляющая кнопка закоротила, шланг гидравлики порвало, оператору крана оса в рот залетела (пакет из супермаркета камеру авто закрыл)
Если автопилот спасая Алису резко тормозит, а сзади фура выталкивает автомобиль на встречку, то родственники жертв (Боба и Била во встречной) по результатам расследования уголовного дела могут рассчитывать что Алису посадят по статье убийство 2х и более совершенное общественно опасным способом (а там чуть-чуть и уже терроризм могут натянуть).
Если следовать вашей интерпретации ПДД то любой относительно трезвый водитель баклажана может спокойно давить всё живое, за исключением тех кто на пешеходном переходе. Увидил пешеходе не на переходе — рэп погромче, тапку в пол!

Кстати Алиса в суде рассказала что она по жизни парикмахер, судимостей не имеет, детективы не читает, про автопилоты никогда в жизни не слышала, просто дорогу переходила и не может понять как кто-то мог вообще подумать что она, чистый ангел, Боба уделала умышлено.
Подпитый водила баклажана нарушает как бы очевидно. Почему ему это вдруг сойдет с рук? Где я такое написал?

Мы же вроде бы про автопилот который не нарушает.
Если на горизонте есть люди автопилот их учитывает, пропускает на переходах (ну или местах где им разрешено бегать) и давить не собирается.
Если на горизонте нет людей то двигается с максимальной разрешенной скоростью.

Если на траектории внезапно появляется человек автопилот оттормаживается и сбивает его (ну мы про плохой вариант да?)
Тогда уголовное дело, расследование, экспертизы. Экспертиза покажет что асфальт сухой, тормозной след присутствует до контакта с тушкой, дампы датчиков покажут когда опозналась кегля, датчики поверят и поймут что с ними полный ок, видео с камер автопилота покажет, что пешеход вышел из за ларька «666».
Далее выяснится что некий ландух из архитектуры города получил взятку от владельца этого ларька и утвердил его там где должен был быть просматриваемый зеленый газон с клумбами. Садится ландух за взятку и предумышленное убийство (ибо знал почему там должен быть газон, а не ларёк) и директор ларька за взятку и непредумышленное.
Ну может быть вариант что пешеход вышел из за памятника архитектуры в старинной застройке города и дорога там еще со времен царя Гороха (ну сложилось так), значит садится ландух из дорожного управления который за знаки на дороге отвечает ибо нефиг оставлять дефолтные 60 там где и 10 много
Ну не должен автопилот бояться каждого ларька или куста. Если переход никак не обозначен то пешеход должен подойти к краю дороги и убедиться что он может перейти безопасно, обозначить себя убедиться что его видят (посмотреть по сторонам). Обозначенный переход автопилот будет учитывать. Прыгающие пешеходы сами себе злобные буратины, ну и кого-нибудь из администрации полезно отправить на нары чтобы слуги народа не расслаблялись.

Алису в суде внимательно выслушают и отклонят весь ее монолог нафиг. Парикмахер не пуп земли и должен дорогу переходить правильно. Ну значит будет первая судимость. Ее любимые литературные жанры не имеют отношения к делу, автопилоты вроде бы тоже ибо тормозить не меняя полосу предписано ПДД. Но таки уделала, и Боба и Била, с огромным сопутствующим ущербом, да еще и общественно опасным способом. Умышленно или нет кода есть два труппа всех будет волновать в последнюю очередь. Ей все равно много светит. Прыгая на трассу из за угла (а иначе бы ее увидел автопилот) она не могла не знать о последствиях см начало моего предыдущего сообщения:
«Все ныне живущие поколения людей родились, выросли и живут бок о бок с автомобилями. Все знают ПДД. Все знают опасность автомобилей. Все так же знают как опасны циркулярные пилы и не прыгают на них. И на дорогу тоже не прыгают.»

Алису-то выслушают, но доказать. что она это умышленно, вряд ли удастся, поэтому статься будет про нарушение пдд, приведшее по неосторожности к блаблабла, и срок, скорее всего, условный. Поэтому при невозможности избежать либо хотя бы уменьшить последствия столкновения (приехав в стену на 10км/ч, а не в Алису на 60, например) автопилот должен тупо тормозить, а дальше как получится.

Машина соблюдая ПДД начинает тормозить что бы минимизировать вред.

А дальше смотря что в автопилот заложили создатели, кач-во датчиков и их загрязненность, вирусы в ПО и тд и тп

не стоило Алисе с такими шансами выбегать на дорогу…
UFO just landed and posted this here
Речь о том, что мнение людей резко меняется, когда ради общественного блага придется жертвовать собой.
А в цене песка или бетона стоимость доставки более 50%, то есть таким образом подешевеет вся стройка в мире.

Только не из-за водителя, а из-за амортизации огромного тяжеленного автомобиля.
И это никуда не денется. Так что этот пункт мимо.
Первая попавшаяся ссылка на тему перевозки нерудных материалов: http://www.bestreferat.ru/referat-210157.html, 55% приходится на ФОТ и топливо, 30% на амортизацию и ТО. И это в России, где доля оплаты труда традиционно низка и топливо дёшево. Так что оценка пойдёт.
А лихо вы 37% топлива накинули к оплате труда в 20%. Прямо-таки ни разу не сжульничали.
Я — ни разу.

Утверждение:
«Только не из-за водителя, а из-за амортизации огромного тяжеленного автомобиля.
И это никуда не денется. Так что этот пункт мимо.»

Опровержение:
«30% на амортизацию и ТО»
где доля оплаты труда традиционно низка и топливо дёшево
Топливо будет тратиться примерно одинаково и не должно плюсоваться. Там, где оно дорогое — вклад оплаты будет только меньше.
Да обратитесь вы уже к цифрам, не надоело выдумывать?
ФОТ — это не только водители, но и механики, а крутить гайки старому Камазу и разбираться с электронными мозгами, датчиками (и более современными двигателями и прочим) — немного разная квалификация и цена. Т.е. удешевление доставки будет процентов 5-10, цена песка уменьшится на 2-5%, бетона — и того меньше (водитель разгружал, а теперь на стройке будет тот, кто управляется с разгрузкой). Да и на площадке надо будет вручную управлять — потому как эту кучу туда, эту — туда, а эту на себе насыпь.
Только не забываем ещё:
1) Крутить гайки Камазу в котором живой водитель сидит и роботу работающему на безлюдном объекте — совсем разная ответственность.
2) На стройке разгрузкой может заниматься один человек рулящий дистанционно, а не водитель в каждой машине.
Ну и аргументация у вас.

Смотрите An Analysis of the Operational Costs of Trucking: 2015 Update, большое и свежее исследование американского рынка перевозок.

Из него:

image

То есть в среднем по рынку 35% затрат прямо приходится на водителя, еще 35% на топливо и только 13+9=21% на амортизацию (она отражена в лизинговых платежах) и обслуживание.

Применение автопилотов уберет затраты на водителей, снизит (консенсус по отрасли — на треть) затраты на топливо и снизит амортизационные и страховые платежи (за счет снижения стоимости грузовика и отсутствия аварий). Пожалуйста, 50-процентная экономия в среднем по рынку.
Снизит затраты на топливо — сильно радикально, сейчас всё так неэффективно при движении на крейсерской скорости? Амортизация снизится за счёт большей цены (оборудование-то для автопилота не бесплатное, а кресло и спальник не шибко дорогие, тем более кресло всё равно нужно для манёвров на объекте)? 35% (т.е. при 50% вкладе перевозки это выльется в 17) экономии. При увеличении цены обслуживания (узлы те же+дорогие новые), всё равно нужен водитель, пусть и один на несколько грузовиков на каждой площадке. Т.е. вот эти (27+8)% не просто убираются, а прибавляется пусть 1/20 от них. или 1/10. Да, я исходил из сообщения о 20% вкладе водителя в цену, но на 50% — это слишком громко сказано.
У интерфейса машина-машина может быть один занятный побочный эффект. Машина в случае
Камеру выжигают диодами, но она справляется. Радары глушат дорогим спецоборудованием, но только в статике. А ультразвук просто дерьмо
может передвигаться используя навигацию остальных машин. Хотя тут, естественно, нужна их поддержка.
Как раз V2X и заглушат первым, это сделать проще всего перечисленного выше.
В этическом аспекте, считаю что нужен просто переключатель который выставляет приоритет — кому жить, кому умирать. Почему производитель должен за тебя решать?
А от мне интересно автопилот сможет отличить человека от другого препятствия? Или он будет спасать неживой предмет случайно попавший на дорогу?
Или такой вариант есть выбор либо таранить деревянный забор или бетонною стену. В первом случае пострадает забор, фары и краска, во втором случаи от удара расплющит автомобиль вместе с водителем. Водитель выберет первый вариант, а что выберет автопилот?
Еще интреснее что выберет автопилот в этом случае )
image
Рискну предположить, что правый в ИК диапазоне будет примерно как трава на горизонте
А может изменить инфраструктуру, конструкцию автомобилей и «сознание» людей?
Чтобы никто не выскакивал на дороги, нужно «вбить» в голову, что выскакивать на дорогу нельзя. Нужно учить ПДД с детского сада, ввести жесткие меры наказания за нарушения ПДД уже сейчас.
Изменить дороги. Вынести скоростные дороги на эстакады, в тоннели, огородить высокими гладкими заборами. Уменьшить разрешенную скорость в населенных пунктах (за счет отсутствия пробок общая скорость все-равно вырастет) на тех дорогах, которые остаются легко доступными для пешеходов.
Уменьшить массу автомобиля. Травм от столкновения 300кг автомобиля будет меньше, чем от 1300кг. Да и затормозить он сможет значительно быстрее. Уменьшить лобовое сечение 1-2 местных автомобилей, посадив людей друг за другом, а нос машины сделать более «острым», тогда вероятность объехать препятствие или ударить по нему «вскользь» будет гораздо выше.
Обучение ПДД не поможет. Намного эффективнее учить через кошелёк. Для интереса поищите какая ответственность предусмотрена КОАПом за то что пешеход не убедился что его пропускают и переход безопасен.
Ответственность
Ответственности за нарушение пункта 4.5 никакой
Ответственность самой жизнью и физикой прописана. Выскочил под колеса — раскатали вот и вся ответственность.
А если повезло, и НЕ раскатали, и даже не поцарапали, то неплохо бы и по кошельку проехаться. А то пару матюков в сторону невиновного водителя и полная уверенность в своей правоте.
1) Думаю это невозможно, причины этого описаны в статье. Машина(без разницы с автопилотом или без) должна максимально пользоваться текущей инфраструктурой а не подгонять инфраструктуру под себя.
2) Они будут банально неудобны- куда вы поставите покупки/коляску/вещи при переезде? К тому же уменьшив массу новых автомобилей вы ставите их в невыгодное положение. Ваши 300 кг(для такого веса машина должна быть сделана из пластика) будут размазаны двухтонным аггрегатом при лобовом столкновении. Хотели бы вы ехать в такой машине или предпочли бы быть внутри старенького внедорожника?
1. Я как раз про то, что нужно изменять постепенно инфраструктуру для повышения безопасности, как для автопилотируемых машин, так и для обычных. Ведь с ростом скорости автомашин и их количества, люди придумали ПДД, знаки, подземные переходы, развязки, стоянки т.е. полностью новую инфраструктуру, а не решили, что следует пользоваться старыми грунтовками и узкими улочками, а водителям тренироваться объезжать машины и людей.
2.1 Я не про все машины абсолютно. Сейчас есть и грузовики, и микроавтобусы, и двухместные автомобили.
2.2 Мы предполагаем, что все автомобили будут заменены робомобилями и все они будут из пластика. А старенькие прочные внедорожники и так скоро исчезнут, их заменят программируемо-деформируемые машины из «фольги», как раз для уменьшения вреда при столкновений. Вполне возможно, что их запретят законодательно.
1)ПДД и прочее это была постепенная эволюция. На протяжении десятилетий менялся облик городов(если только город не разрушен в результате войны). Что бы поменять ментальность нужны поколения. Да если бы автопилот ожидался лет через 100 то мы могли бы сейчас думать о том как нам соломки подложить. Но автопилот вот он уже тут, практически готов к использованию через лет 10 и нужно что-то придумывать что бы работать с текущими дорогами и современными людьми.
2.2) ну нельзя взять и сразу запретить машины старого образца. Можно запретить выпускать такие машины например. Тогда вы ставите людей покупающих новые машины в позицию уязвимых, а в машинах старого образца в позицию защищенных. Поэтому я все таки повторю вопрос, купите ли вы себе такую машину что бы возить свою семью или поищите старый внедорожник зная что вы можете встретиться на дороге с таким же внедорожником?
всякие Евро и пр запреты на старые машины как раз напрямую запрещают эксплуатацию машин, которые не соответствуют определенным критериям.
не предполагается никаких «защищенных», т.к. первый же работник ГИБДД отправит машину на штраф-стоянку.

Выберу пластиковый робомобиль, т.к. он будет водить лучше меня, и вероятность уцелеть будет больше.
>>всякие Евро и пр запреты на старые машины как раз напрямую запрещают эксплуатацию машин, которые не соответствуют определенным критериям.

Кто вам такое сказал? Я видел тут Бугатти довоенный на дороге. В оригинальном состоянии. Их не запрещают, просто сборы соответствуют экологическим нормам. Потому как если допустили на дорогу, то закон обратной силы не имеет.
Травм от столкновения 300кг автомобиля будет меньше, чем от 1300кг. Да и затормозить он сможет значительно быстрее.

Обоснуйте, пожалуйста, это заявление.

Кроме того, сделать автомобиль очень легким довольно сложно, иначе это давно было бы сделано. Да собственно о чем речь, сколько весят двигатель + коробка? Они же никуда не денутся. Даже если это будет электромобиль, то там точно не меньше будут весить электродвигатели и батареи. Можно сделать корпус из пластика, но он все равно будет достаточно тяжелым. Впрочем, это все совершенно неважно, потому что в режиме «педаль тормоза в пол» современные автомобили массой 300, 1300, 2000, 5000 кг пройдут одинаковый тормозной путь.
Впрочем, это все совершенно неважно, потому что в режиме «педаль тормоза в пол» современные автомобили массой 300, 1300, 2000, 5000 кг пройдут одинаковый тормозной путь.


я имел ввиду не аварийное торможение, а плановое замедление-ускорение.

Кроме того, сделать автомобиль очень легким довольно сложно, иначе это давно было бы сделано.

пока автомобиль должен быть достаточно мощным, чтобы ездить за 100км\ч. поэтому он прочный и имеет мощный тяжелый мотор и тяжелые батареи. Но для городского электромобиля с небольшой массой и ограничением скорости 40-60км\ч (сейчас в городе скорость ограничена 60 км\ч, кроме исключений), управляемых компьютером, будет достаточно маломощного двигателя (на уровне мопеда-мотоцикла) и легкого корпуса. К примеру, масса С-3Д (отечественный двухместный четырёхколёсный автомобиль-мотоколяска) 498кг. максимальная скорость 70 км\ч.
на всякий случай напомню, что я предлагаю полностью заменить обычные машины на легкие (и небыстрые) робомобили, и вариант столкновения пластиковой машины и тяжелого внедорожника исключается.
Хотел написать стандартное «За МКАДом жизни нет», посмотрел в профиль — Пушкино. Удивился.
Ага, так и есть. Даже больше похожий на мотоколяску Tata Nano весит около 600 кг

image
Так он официально квадроциклом считается.
Про вес автомобиля — очень спорно. СТокновение с велосипедистом, который вместе с великом весит меньше сотни кг может быть куда хуже, чем столкновение с машиной на одинаковой скорости (например 40 км/ч).
Забываете что в современных авто сейчас всякие демпферы, сминаемые конструкции и тд и тп
В итоге машины могут «в смятку» размазаться на достаточно небольшой скорости.
С ситуацией авто-авто — если у них одинаковые системы — на обоих будут смяты например бамперы. Велосипедист же попадает на капот и тд и тп, там где этого нет или оно направлено на минимизацию вреда _сбиваемого_.
Т.е. капот сильно промнется что бы спасти жизнь сбитого человека.
Также не стоит забывать, что всегда найдутся люди с очень тугими кошельками, которые захотят, чтобы в любом случае автопилот их не убил. И спрос породит предложение.
Что значит «в любом случае»? Автопилот, который соблюдает ПДД, «в любом случае» не может намеренно убить пассажира, спасая кого-то еще, ПДД такого не предусматривает в принципе.

Перевожу: в случае, если кто-то все же придумает и воплотит в автопилоте Великий Алгоритм Оценивания Жизни — обязательно найдутся Способы Монетизации.

Такой алгоритм никто не придумает ввиду его ненадобности. Как уже говорилось, строго соблюдая ПДД, невозможно убиться, даже если кто-то олень: скорость на то и ограничена, чтобы можно было затормозить перед большинством оленей, а пассивная безопасность — на случай, если затормозить всё же не удалось. Откуда тогда смертельные случаи?
1) Нарушал, врезался, дурак.
2) Дорожная обстановка. Яма среди дороги, нет знаков (нарушил сам того не зная), светофор не работает. Виноваты дорожники, с них и спрос. Ну и водятел тоже, раз гнал по колдобинам.
3) Стихия. Камнепад, обвал дороги, волной смыло, ураганом сдуло. Это не ДТП, это стихийное бедствие.
4) Техника. Тормоза отказали, руль заклинило. Виновных нет, если, конечно, водитель не знал о том, что всё гнилое (иначе нарушил ТБ и ПДД, дурак).
5) Из-за других дураков, от которых невозможно спастись. Из числа тех, кто пьяный или без тормозов. Они и виноваты.
UFO just landed and posted this here

Тем не менее, десяток человек только в комментариях в этому посту отстаивают позицию, противоположную вашей, и требует с автопилота что-то иное, отличное от простого соблюдения ПДД.

5) «я был не виноват» — плохая надпись на могиле.
Сам занимаюсь автоматизаций опасных объектов, тоже считаю, что проблема надуманная:
— автопилот-инструмент;
— ответственность несет оператор;
— как и в жизни человек сам решает по: инстинкту самосохраниться или направить авто в отбойник; (ПДД здесь не причем)
— при использовании автопилота он настраивается водителем, который сам решает какую стратегию поведения автопилота задать;
— при рассмотрение ДТП режим «сохранить себя» — отягчающее и порицаемое публично :(, сохранить других участников — смягчающее обстоятельство.

Последняя идея крайне оригинальна. Почему мысль о том, что соблюдающий правила находится в приоритете перед несоблюдающим должна быть порицаема публично, не поясните?
Вы домысливаете, ради того чтобы пообщаться :).
Последняя мысль не касается соблюдает ПДД или нет.
Возникновение ситуации в автопилоте когда ДТП неизбежно (несовершенство датчиков, инфраструктуры дороги, не адекватное поведение других участников или даже животных) ни коим образом не зависит от соблюдения Вами ПДД.
Если Вы имели ввиду требование ПДД уходить от ущерба (тут я домысливаю), то требование ПДД уходить от ущерба, не требует уходить от ущерба ценой своего здоровья или жизни. Данное решение в момент ДТП за водителем, но будет объективно рассмотрено при разборе ДТП.
Конечно, нанесение ущерба здоровью даже при отсутствии Вашей вины в большинстве случаев придется компенсировать.
Ну, а в части порицания самосохранения см. оценку поста
Epoiiika 18 августа 2016 в 10:00 (-3) 
в котором, впервые была упомянута возможность выбора заранее:)
Приятно, что кто-то читает мои комментарии.
Я не понимаю, что означает режим «сохранить себя» или «сохранить других». Есть только «сохранить тех, кто не нарушает ПДД», других вариантов быть не должно. Не припомню ПДД никаких требований «уходить от ущерба», и такие действия не рассматриваются в качестве смягчающего обстоятельства. Могут не рассматриваться как нарушение, разве что, если не привели ни к каким последствиям.
Кстати, компенсацию причиненного ущерба независимо от вины лично я считаю популисткой ошибкой.
«уходить от ущерба» — по моему ПДД написаны с данной целью :)
Следует отметить, что для исключения нанесения ущерба (ухода от ДТП) Вы можете нарушать правила ПДД.
Где есть такой режим? «Есть только «сохранить тех, кто не нарушает ПДД», „
Почему Вы так категоричны: “и такие действия не рассматриваются в качестве смягчающего обстоятельства» Вы практикуете в суде по делам о нарушении ПДД или причинения ущерба?
Компенсация это результат презумпции виновности водителя.
Ваше первое предложение прямо противоречит второму, не замечаете?
А где есть режим «сохранить себя» — «сохранить других»? Мы, кажется, обсуждаем логику действия будущих автопилотов.
Потому что мне не известно ни одного случая, когда уход на встречку для предотвращения дтп в своей полосе с дтп на встречке не был бы расценен как 100% вина вылетевшего на встречку. Если вы знаете такие примеры — приведите.
Презумпция виновности водителя — и есть та самая популисткая ошибка.
Согласен, что обсуждаем будущее.
Я вел диалог с целью раскрыть свою точку зрения потому, что вы уточняли почему я так написал/думаю, а не с целью Вас убедить.
А теперь Вы навязываете свою точку зрения.
Я обратил внимание не на то что я против того что у Вас есть своя точка зрения, а на то что Вы не допускаете существование другой.
Имел опыт оспаривания объезда обвалившегося колодца коммуникаций на своей полосе по встречной с целью исключить ДТП. Естественно когда на дороге никого не было, кроме камеры :).

при рассмотрение ДТП режим «сохранить себя» — отягчающее и порицаемое публично
Интересно, а почему? Если не было нарушений, естественно. Выходит, поплатиться здоровьем/жизнью за какого-то «оленя», не знающего правил, нормально?
это наблюдение за реакцией на оценку постов выше.
повторюсь:
Ну, а в части порицания самосохранения см. оценку поста
Epoiiika 18 августа 2016 в 10:00 (-3) 

хочется добавить, что категории прав/не прав(олень) чисто субъективные, а жив/мертв объективные.
Поплатиться или нет об этом я и писал это не ПДД, а выбор каждого водителя самостоятельный.
хочется добавить, что категории прав/не прав(олень) чисто субъективные, а жив/мертв объективные.
Не совсем. Прав/не прав в большинстве случаев выясняется вполне объективно. Бывают, конечно, очень сложные ситуации, но они редкость. И я знаю несколько дел со смертельным исходом пешеходов, когда водителя полностью оправдывали. И это были не «шишки», а вполне обычные водители.
хочется внести позитив:
иногда даже жив/не жив бывает не объективным :) (например летаргический сон), а вы про прав/не прав.
водитель не имеет достаточной информации для принятия объективного решения в момент ДТП о том насколько прав другой. Эта категория оценки — роскошь для принятия в ДТП нанести вред другому или нет. Напомню я писал первый пост к неизбежному ДТП, а значит никто не готовился к нему.
Простые примеры из жизни когда меняется режим приоритета на существующих дорогах главная/на главная поворачивает. Три месяца водители по памяти едут со второстепенной и сигналят тем кто по главной. Разве можно в такой ситуации водителю принять решение что другой прав и соответственно решить, что нанесенный вред оправдан. Тоже отсутствие знаков по вине дорожников или вандалов.
Да всякое бывает, кто ж спорит? Но «разбор полётов» происходит уже по факту ДТП, и этих фактов очень часто бывает достаточно для объективной оценки. Что там видел и думал водитель уже значения не имеет.
Замечательная MIT moral machine (пройдите опрос, это недолго) показывает, что мы готовы делегировать автопилоту выбор жертвы, принимая во внимание ее ценность для общества. Проще говоря, лучше сбить старого преступника, чем молодого вундеркинда. По ссылке выше детализация более подробная, но учитывая некоторые расовые особенности преступности автопилоты должны убивать черных впятеро чаще, чем белых. Я бы не хотел объяснять это со сцены на презентации новой модели BMW.

Попробовал тест, и могу сказать, что он совершенно неверно истолковывает предпочтения. Я специально выбирал, руководствуясь простой логикой: в любых ситуациях спасать жизни пассажиров, остальное не важно. Чтобы избежать недопонимания отмечу отдельно: это просто для проверки самого теста, моя личная мораль к этому не сводится. Хотя и логику в этом можно усмотреть. Реальный водитель, с высокой вероятностью, инстинктивно будет спасать себя. Автомобиль, спасающий водителя ведет себя как живой водитель. Следовательно, его поведение предсказуемо и понятно с точки зрения водителей-людей. Это может быть довольно важно, пока у нас далеко не все автомобили автопилотируемые.
И что же выдал тест? Оказывается я предпочитаю спасать больше жизней (хотя и не так сильно как большинство). Что еще интереснее, я предпочитаю спасать женщин. Между людьми и животными отдаю гораздо большее предпочтение животным. Сильно предпочитаю спасать молодых. А толстяки, по моему мнению должны умереть.
Еще раз повторю, я всего лишь, во всех случаях выбирал спасение пассажиров не смотря ни на что. Все прочие корреляции абсолютно случайны. Исходя из этого, могу сказать, что тест нужно существенно переделывать, он цепляет слишком много лишних корреляций.
З.Ы. А еще, в графе «Species Preference», слово «Humans» написано как «Hoomans». Видимо автор теста предпочитает животных.

Да там первый же вопрос (с пешеходами на переходе) не имеет верного ответа в принципе.


Как в анекдоте:


— Кого из них будешь давить?
— Старушку.
— Дурак ты! Тормоз давить надо, ТОРМОЗ!


Где этот вариант в тесте? Одни ложные дилеммы.

Хорошее замечание!

Вы не найдете время прогнать по тесту несколько сценариев и описать полученные результаты? Я бы включил это в заглавный пост — или можете написать свой.

Да там нет смысла особо гонять сценарии, разве что поиздеваться.


9 параметров оценки — и всего 13 испытаний! Статистическая значимость исследования отсутствует.


Вот хорошая публикация: http://scinquisitor.livejournal.com/10224.html

Не каждое исследование должно двигать вперед мировую науку. Иногда достаточно написать о неоднозначности теста и показать на примерах. Это даст куда большую отдачу, чем самый выверенный доклад — просто потому что это хоть кто-то прочитает).

Впрочем, up to you.
Поведение автопилота должно быть детерминированным, предсказуемым и как можно более простым. Как у товарного поезда. Никаких случайностей и эвристик.

Например: при возникновении препятсвия всегда тормозить никуда не сворачивая, как в современных пдд.
Тогда остальные белковые участники дорожного движения смогут предсказать действия автопилота и спланировать свои действия. Автопилот для них будет предсказуемым.

В противном случае для стороннего наблюдателя действия автопилота будут выглядеть случайными и непредсказуемыми.

Далее, автомобиль — это имущество. Если человек не поставил автомобиль на ручник, и он скатился с горы, задавив пару человек, то отвечать человеку, даже если он сидел на пассажирском сиденье.
Точно так же за все, что происходит с автопилотом отвечает человек.
Действия автопилота = действия человека-хозяина автомобиля. Хозяин может доверить свое право морального выбора давить-не давить автопилоту, но обязанность отвечать за последствия этого выбора человек никому передать не может.

UFO just landed and posted this here
В основном для привлечения внимания)
А вообще радиоволны систем V2X.
А что делать если на тебя в лобовую несется фура(уснул дальнобой например, и она тебя гарантировано в фаршик раздавит), на встречке еще одна фура(то есть на встречку от нее не вырулить), а на обочине люди? А, знатоки пдд?
Давить, адназначна!

По мне так все просто, те кто в машине должны иметь приоритет перед теми, кто с наружи. В остальном все равны. Мал, стар, баба, мужик. Автопилот должен попытаться меня спасти, в пределах правил и этого приоритета. В идеальном случае, грузовик тоже оснащен автопилотом и такой ситуации просто не возникнет. В неидеальном случае, я схвачусь за баранку и выверну на тротуар. Пускай осудят, но я жив буду.

Зачем все усложнять? Давайте еще заставим отдельно взятый автомобиль просчитывать судьбу человечества. Отличника не давим, двоечника давим, для этого опросим школьные отметки в школе. Если оба отличника сравним возраст, запросим возрастные данные, тот что постарше должен умереть, пожил достаточно. Если оба в один день родились, запросим данные в медучереждении. Тот что чаще кашляет, того давить однозначно. Оба кашляют, тогда посмотреть сколько у него братьев и сестер. Давить того, кто из многодетной семьи, их там много — не жалко.
Начать эстренное торможение в пределах своей полосы, включить аварийку, моргнуть дальним светом, подать звуковой сигнал? Кажется, все это ПДД делать не запрещает.

А почему обязательно раздавит в фарш? Ваш автомобиль начнет экстренное торможение до полной остановки, он это сделает в среднем быстрее человека, значит суммарная скорость будет недостаточно большой чтобы вас убить? Я просто к чему, все те жуткие аварии с грузовиками, это как правило лобовуха, где два автомобиля несутся на чудовищных скоростях. Естественно дтп при суммарной скорости в районе 200 км/ч превращает автомобиль в стальбой блинчик на обочине. Кроме того, куча таких дтп, попадающих в сводку новостей или в видосики на ютьюбе, происходит с участием автомобилей разработки 20-30-40 летней давности. Такие автомобили уже давно не соответствуют требованиям безопасности. Мы же не будет предполагать, что у нас вазовская классика с автопилотом?)
МОРАЛЬ И ЮРИДИЧЕСКИЕ АСПЕКТЫ

Правильным ответом на вопрос «кого давить будешь?», является «давить на тормоз». Ну и скорость должна зависеть от видимости на дороге и состояния самой дороги, чтобы успеть уверенно затормозить в случае необходимости.

Пусть тогда поезда едут с такой скоростью на которой смогут остановить поезд. Сейчас именно такая логика действует для автомобилей. Почему для поездов делать исключение?

Если автомобиль на 120км/ч столкнётся с лосём, то у водителя могут случиться летальные для него последствия, поезду же от такого столкновения ничего не будет. Что касается лобового столкновения двух поездов, то оно куда менее вероятно лобового столкновения двух автомобилей. Логика понятна?
С точки зрения этики есть ещё такой аспект: люди, вероятно, будут ожидать от автопилота сверхчеловеческих водительских скиллов и безошибочности выборов. Хотя бы в силу стереотипов о сверхрациональных ИИ. Поэтому в случае аварийной ситуации спрос с них будет выше, чем с людей, управляющих любым транспортным средством.
Относительно легко понять и посочувствовать дальнобойщику, который заснул за рулём, потому что хотел доставить груз в срок и заработать денег для семьи. А вот бесчувственная неживая машина, без устали выполняющая 100500 операций в секунду, как будто должна всё успеть, предусмотреть и всех правильно спасти.

Так что наверное, действительно имеет смысл больше ориентироваться на ПДД, просто чтобы всегда иметь возможность ответить родственникам потерпевших, почему машина в данном случае не приняла в расчёт бесценную человеческую жизнь потерпевшего. Жертвы всё равно будут, а так хотя бы можно будет объяснить широкой публике, что происходит и почему здесь нет какого-нибудь ужасного заговора.
ПДД и только ПДД.
Автопилот — это только бонус к средствам слежения за трафиком вокруг и помощь в решении задач по уменьшению вероятности ДТП. Полемика на тему моральных аспектов — это уже от лукавого. С тем же успехом можно требовать запрета использования автомобилей внутри населенных пунктов (исключения — грузоперевозки внутри населенного пункта, и то до момента пока не придумают альтернативную транспортную сеть, безопасную для населения), чтобы пешеходы/дети/собаки/пенсионеры чувствовали себя в безопасности и не обременяли себя изучением и запоминанием ПДД. Но, это, ИМХО, полный абзац.
Учите ПДД, учите детей, напоминайте родственникам. Сэкономленные 1-2 минуты, чтобы дойти до перехода (в городе) не стоят ни жизни, даже если есть получить выговор за опоздание на работе/учебе/еще где. А от дурака, который мчит на красный — не застрахован никто. Но, с автопилотом таких дураков, надеюсь, поубавится. В той же степени, как и уснувших за рулем, или кому стало плохо. Кстати, в этом случае, мне кажется, задача автопилота вывести автомобиль на обочину, остановить его и передать данные с координатами о происшествии в экстренные службы, а для автомобиля сделать какую-то фигню, которая привлечет внимание ближайших стражей порядка/прохожих для оказания помощи водителю и пассажирам.
Насчёт спасения чужих жизней автопилотом.

Автопилот не должен ничего решать, он должен следовать непротиворечивому закону.

Лучше относиться к автопилотам как к бездумной полностью автоматической системе (или стихии), которая в 100% случаях способствует выживанию своих пассажиров, а разных личностей, нарушивших правила — как получится. Тогда никто в здравом уме не будет лезть под колёса, надеясь, что с ним всё будет в порядке. Сейчас мало кто лезет руками в циркулярную пилу, или шахту лифта, или гуляет по полю в грозу, так как ясно, чем это закончится.
Что делать с людьми, которые по каким-либо причинам себя не контролируют? Максимально затруднить доступ к автоматическим дорогам абсолютно всем, как это сделано с шахтами лифтов (возможно, достаточно забора на высокоскоростных участках и надземных переходов).

Если автопилот решает, а не убить ли ему пассажиров, это может быть использовано для преднамеренных убийств, ключик для принятия «нужных» решений так или иначе найдётся. Я бы не захотел пользоваться таким транспортом. Почему должны погибать пассажиры, если они не нарушали правил и вообще не имели контроля над ситуацией, а не те, кто контролировал ситуацию и правила нарушил?
Выше приведёт пример с фурой на встречке. И согласно ПДД автопилот не должен спасать пассажиров.
Как я понял, этот?
В идеальном мире с автопилотами, никаких фур на встречке и обочин людей на обочинах автоматических дорог быть не должно. В случае серьёзного сбоя — да, жертв не избежать. Наверное, страдать должны в первую очередь нарушители правил, во вторую — имеющие отношение к транспорту (кто им пользуется, а не просто идёт мимо). Вопрос сложный.
Можно привести примеры безвыходных ситуаций, когда человек вообще ничего не контролирует, но получает вред здоровью (2 автопилота не поделили дорогу; либо 2 бензовоза столкнулись и взрывом зацепило пешеходов за ограждением). Но это сбои систем автопилотирования или недостатки инфраструктуры, которые нужно предотвращать.
Тем не менее мы живём не в идеальном мире и в ближайшее время не станем.
И давать возможность выбирать автопилоту кто должен страдать тоже не стоит ввиду того, что автопилот (как и водитель) не обладает полнотой информация для принятия хоть насколько то объективного решения. Потому правила должны быть едины независимо от того кто будет страдать в конкретном случае, а кто нет.
Согласен. Автопилот должен руководствоваться чёткими правилами (законами). Никакого выбора, тем более случайного.
Да полно ситуаций, которые были и будут.
У 50-тонного грузовика лопнула шина, его повело на встречку, оснастить все дороги разделителями все равно невозможно.
>>У 50-тонного грузовика лопнула шина, его повело на встречку, оснастить все дороги разделителями все равно невозможно.

А для этого есть ограничения скорости на не разделенных дорогах.
То есть на скорости 70 кмч (меньше на загородных дорогах вообще не делают), при скорости сближения 40 метров в секунду, это резко стало безопасно?
Для того, чтобы это стало опасно должно быть стечение нескольких факторов — колесо лопнуло в машине очень близко к вам, должно лопнуть переднее колесо и так далее.
Если машину понесло далеко от вас, то вы успеете затормозить и если не в какой-нибудь «капсуле смерти» то это не так опасно, так как ваша скорость 0, а у встречного уже не 70 (он же тоже тормозит).
Если лопнуло не переднее колесо, то это одно из двух спаренных колес, машину не поведет.
Суть в том, что действия по уходу на обочину или встречку могут привести к еще большим жертвам. И скажем съезд на обочину может оказаться опаснее чем оказаться под фурой. Да, она Вас сомнет и протащит метров 20, но съехав под откос вы можете перевернуться на крышу (на что не рассчитаны 99% авто), нырнуть в канаву/реку, где при глубине в 1.5 метра просто утоните или въехать в молодой лес, где Вас насадит на березку как на шампур… А к лобовым столкновениям машины все-таки готовят. И тестирование по различным NCAP тому доказательство.
Опять же 50-тонный грузовик — тягач с фурой, если у него даже переднее колесо разлетится, то нагрузка по идее на задние колеса и увести его резко не должно.

Если у грузовика лопнула шина с толстым, сцуко, железным кордом, значит, с этой шиной что-то делали не так, либо она изначально была ненадлежащего качества. Чаще бывает ситуация, когда водитель грузовика внезапно просыпается, обнаруживает стоячую пробку, и выруливает от неё на встречку абсолютно самостоятельно.

Я периодически вижу фуры на обочине трассы которые меняют колеса. И иногда попадаются ошметки шин раскиданные на десяток другой метров…
Не сказать что очень часто, но я и за городом бываю относительно редко…
Так что не важно была ли шина повреждена или некачественная, но шины лопаются на скорости. И хотя далеко не каждая лопнувшая на скорости шина приводит к выезду на встречку — это случается… И опять же далеко не каждый выезд на встречку от лопнувшей шины приводит к лобовому столкновению… но и такое бывает…

Хотя фуры которые обгоняют другие фуры, так что приходится притормаживать или почти останавливаться что бы их пропустить, встречаются все же чаще… Хотя не притормозив заранее пришлось бы уходить от столкновения на обочину, а дальше как повезет…
На счёт недостатка информации с камер — я не согласен. Я прекрасно вижу, что места не хватит проехать, значит алгоритмы тем более могут это увидеть. Посмотрите как работает, на пример, LSD SLAM:
На видео демонстрируется результат обработки кадров со стерео камеры, GPS не используется.
Сообщить, какую часть дороги он [автомобиль] занял, пока нельзя.

Можно.
Спасибо за ремарку, не слишком пристально слежу за компьютерным зрением.

И все же к рассмотренной задаче показанная реализация метода не слишком применима. То, что я увидел и прочитал, больше похоже на формирование сверхточных 3d-карт, а они слабо помогают в случае появления неожиданных препятствий.
SLAM используются и чтоб уточнить/подтвердить свое месторасположение относительно статических обьектов. Так позицию «по навигации» до суб-сантиметровой точности можно уточнить.
Насколько это уже работает в серии?
В серии, насколько я знаю, пока не работает, только прототипы. Для хорошей работы SLAM нужны точные измерения по достаточно широкому FOV, это пока дорого.
UFO just landed and posted this here
> Почти 3/4 опрошенных считают, что автопилот должен убить своего пассажира, спасая группу людей. Справедливо?
В базовой комплектации автопилот будет спасать группу людей. Но, всего лишь за $50к, вы можете проапгрейдить автопилот и он будет спасать водителя!
UFO just landed and posted this here
Прям сюжет для Чёрного Зеркала:
Подушки безопасности как сервис: подушки в такси на пассажирском сиденье сработают, только если ехали по двойному тарифу.
А в случае с робомобилями: безопасность на дорогах как сервис. Чем дороже страховка, тем больше у вас приоритет при расчёте кого спасти. Зачем спасать группу детей из бедных семей? Лучше богатого дядьку, который много денег на страховку отдаёт.

Остаётся надеяться, что до этого не дойдёт. По крайней мере при нашей жизни.
Представим себе, что мы живём в период времени, когда самоуправляемые транспортные средства совсем недавно полностью легализовали во всём мире, причём такие, в которых нет ни руля, ни педалей, ни даже грибовидной кнопки, то есть, владелец на процесс влиять не может никак вообще, может только задавать пункт отправления и назначения.
Ситуация 1. Человек купил самоуправляемое транспортное средство в личную собственность, не лазил в его прошивку, дал ему задание доехать от пункта А в пункт Б, а оно кого-то задавило на ровном месте, когда экстренное торможение могло бы спасти всех, и водителя, и пешехода. Суд оправдал владельца ТС, наказал производителя за ошибку в прошивке, но родственники пострадавшего продолжают преследовать владельца: звонят ему в три часа ночи, ломают ТС, и так далее.
2. Всё то же самое, но самоуправлемое ТС взято напрокат.
3. Всё то же самое, но самоуправлемое ТС позиционируется как такси. При самоуправляемости разница между прокатом и такси будет состоять лишь в том, что прокатное ТС надо самому найти рядом с собой и залезть в него, а такси подъедет само, больше отличий нет. Но так как самоуправляемые ТС только-только легализованы, в сознании родственников пострадавшего разница будет. Эту ситуацию можно разделить на две подситуации: если живой диспетчер есть, но грибовидной кнопки у него нет, и картинки с камеры тоже (но поди это объясни родственникам пострадавшего), и если живого диспетчера нет, распределение такси между заказчиками осуществляет сервер.
4. Всё то же самое, но самоуправляемое ТС маршрутное, пассажиров в нём 30. Отличие от обычного маршрутного ТС только в том, что вместо водителя — охранник, сидящий в середине салона. Грибовидной кнопки у него нет, но в сознании родственников пострадавшего…
UFO just landed and posted this here
Вангую. В недалёком будущем просто выведут закон о том какой должен быть автопилот, методологию его тестов и лицензирования. Если автопилот накосячит, но не выйдет за рамки закона, автопилот не виноват, жертвы — неизбежное зло. Это как с железнодорожным транспортом: шел глухой по рельсам, его переехал тепловоз. Машинист не виноват, даже если он электрический, если принял все меры к экстренному торможению — у него есть правила он их соблюдает. Еще будет специальный лицензионный центр, который будет тестировать автопилоты на стендах, анализировать исходный код. И выдавать лицензию на «прошивку». Если автомобиль с лицензионным автопилотом накосячит, ну, будет штраф и компенсация, но сажать будут только за нарушения явно прописанных правил создания и тестирования, приведших к жертвам.
Не надо ванговать, они уже почти есть, просто вбейте в поисковик ISO 26262 и Automotive Spice. К этому добавятся только де юре нормы на минимальную «производительность» автоматических/автономных систем.
Прошу прощения, если кто-то в комментах уже предложил.
Я пару лет назад (другой ник был, сейчас тот коммент удален) уже предлагал оптимальный вариант автоматического движения для города.

Это локальные автопилоты связанные в сеть + (!) центральная диспетчерская.
Для минимизации посторонних объектов на дороге она должна быть тщательно огорожена, в местах где будут переходы (если нет подземных/мостов) будут прорехи, но если кто-то пойдет вдоль дороги — о нем в диспетчерскую будет сообщаться любыми авто.

В итоге автопилот будет прекрасно осведомлен и «что там за углом» и что там в его слепой зоне и что ожидается через 20км на другой стороне города…

Дальше — диспетчерская «рулит» потоком оптимизируя пробки и ожидания на светофорах, с точки зрения 1. экстренных служб, 2. минимилизации ождания и времени передвижения.

Все же наиболее оптимально — общественный транспорт для 75-85% населения, с возможностью вызвать «такси» для особых случаев, службы доставки из магазинов, в тч для продуктов…
Возможно для мелких товаров будет что-то вроде пневмопочты индивидуальной для каждой квартиры…

В итоге частный транспорт останется для или очень богатых (увеличенный налог, ...)
или в случаях когда без него ну никак.
Хотя последнее все же лучше заменить на «такси».

Стоянок станет меньше, пробки исчезнут.
Жаль поздно руки до статьи дошли, но таки откоментирую:

Инциденты с роликов могут иметь ( и я почти уверен что имеют ) и другие причины. Для меня оно выглядит как типичная ошибка в sensor fusion с неправильной ассоциацией обьектов. Например если у Теслы используется track-to-track fusion (аггрегация на уровне обьектовых интерфейсов, каждый сенсор предоставляет результаты работы внутреннего треккера) то показаный результат получится так:
1. Машина в нашей полосе идет с «нашей» скоростью, подтверждается радаром(R1) и камерой(C1), действия по торможению не требуются.
2. Впереди идущая машина отклоняется влево(и соответствующие обьекты приходят от камеры и радара), камера распознает т/с стоящее у обочины(C2), радар его пока не распознает(там хуже/дольше со статическими обьектами). Обьект от радара R1 ассоциируется с новосозданным камерой обьектом C2, из С1 создается новый обьект. В результате логика автопилота видит перед собой две цели, движущиеся примерно с «нашей» скоростью (по факту оба получат скорость C1/R1). Торможение/уклонение не требуется.
3. Продолжать 2 до столкновения.
Обьяснение схематично, там много зависит от настроек алгоритмов, но общий принцип такой.
Александр, машина из п.2 не может отклоняться влево, там уже стоит сломанный автомобиль. Может вправо? Или речь о том, что автомобиль остановился и сломался?
Да, пардон, вправо отклоняется. Полуночная потеря пространственной ориентации.
Интересно, как писатели-фантасты бывают непоследовательны в описании вымышленных самоуправляемых транспортных средств.
Флип в «Гостье из будущего». Органы управления — клавиатура для задания пункта назначения и рычаг регулировки высоты. Хочешь, можешь вообще ничего не делать во время полёта, хочешь — лети пониже, но по той же траектории.
Но когда во флип сели космические пираты, они, не имея перед собой никаких других органов управления, кроме описанных, повели флип в ручном режиме, а мальчишка, за которым они гнались, тут же сделал то же самое, причём без предварительного обучения, с ходу.
Такой киноляпик.
Sign up to leave a comment.

Articles