MIT запустил Moral Machine: эксперимент по изучению того, как должны поступать беспилотные машины

    MIT решил внести свой вклад в создании беспилотных машин интересным способом — решить морально-философский вопрос — как должен действовать беспилотный автомобиль в той или иной ситуации.


    Интерес данного исследования состоит еще и в том, что многие голосующие не имеют прав, а следовательно не знают ПДД, что внесёт своё влияние на результаты.

    Основная суть теста — выяснить, что более приоритетный для людей или какие аспекты беспилотный автомобиль обязан принять в расчет:

    1) Количество пострадавших (Поехать прямо не нарушая ПДД и убить 4 или нарушить ПДД и убить одного)
    2) Сохранить пассажиров или сохранить пешеходов
    3) Влияние красного сигнала светофора
    4) Важность людей и животных
    5) Люди с ожирением \ подтянутые люди

    После прохождения теста вам покажут, как голосуют другие люди

    Не хочу теста, хочу посмотреть результат!



    Исследование: moralmachine.mit.edu

    Составим конкуренцию MIT, проведем свой опрос состоящий всего из одного пункта.
    Как должен поступить автопилот в следующей ситуации:

    Вы двигаетесь по дороге на которую неожиданно выскакивает ребёнок, скорость автомобиля больше чем тормозной путь до ребёнка, что должен сделать автопилот?

    Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.

    Так что же?

    Поделиться публикацией

    Комментарии 167

      +4
      Бредовые варианты в опроснике, простите. Из приведённых вообще допустим только один — первый. Остальные в принципе не учитывают такое понятие как «динамика окружения».
      Сейчас в момент принятия решения ребёнок может быть стоит на «середине» траектории, а что будет через 2-3 секунды (столько обычно машина скользит с 60-80 км/ч по сухому асфальту)?

      Исходите из трёх предпосылок:
      1. Машина считает быстрее человека и у неё не бывает «столбняка»
      2. Перед принятием решения Вы должны построить карту возможных перемещений окружающих объектов (и компьютер успеет это сделать)
      3. В ситуации наезда не только компьютер автомобиля может принимать решения и изменять текущее движение.

      Например, один из возможных вариантов поведения, предписанный нормой подготовки детей к перемещению по улицам — «обеспечение заметности»:
      1. Подать звуковой сигнал и включить дальний свет одновременно с торможением.
      2. Отследить на реакцию объектов понять сценарии движения объектов (ребёнок и старик) — нейросеть вполне можно обучить прогнозировать на одну-две секунды вперед.
      3. Принять решение по движению с минимизацией столкновения в пределах минимизации повреждения людей.
      3+ Рассмотреть возможность частичного повреждения автомобиля для снижения скорости, если прогнозируемое движение ребёнка происходит в сторону уменьшения тяжести столкновения, в том числе касательное столкновение со встречным автомобилем.
        0
        Я с вами согласен — все эти алгоритмы прогноза безусловно нужны, но зачем их стоит использовать и подвергать себя какой-то опасности и нарушать ПДД если можно действовать по нему?
          –2
          Потому что ты иногда можешь спасти чужую жизнь отдав свою или пожертвовать жизнью нарушителя спасая случайных участников, а времени размышлять в процессе может не хватить.
          Я еще в прошлом обсуждении предлагал тест, определяющий поведение машины в аварийных ситуациях по правилам ПДД+ возможный альтруизм\эгоизм водителя.
          Ответы зашиваются в права и общедоступны.
          При нескольких водителях в одном транспорте — ответы усредняются.

          В результате машина поступит как нечто среднее между всеми мнениями в машине, но не забывая про правила.
            –3
            Просто в качестве примера.
            Вы едете на машине по проселочной трассе, навстречу едет камаз, внезапно (в 10 метрах от вас) на дорогу выбегает ребенок, от матери стоящей на правой обочине.
            У вас есть 0.5 секунды, чтобы принять решение:
            Поехать по ПДД и задавить ребенка
            Свернуть вправо и задавить мать с вероятностью 80%
            повернуть налево и с вероятностью 90% умереть под камазом.

            Что вы выберете и успеете ли?

            Вот для многих это станет моральной дилеммой, нерешаемой за отведенное время.
              +1
              В результате машина поступит как нечто среднее между всеми мнениями в машине, но не забывая про правила.
              В машине два человека: один предпочитает объезжать препятствия справа, второй — слева. Среднее значение — не объезжать препятствие.
                –1
                При чем тут геометрическое среднее направления движения?
                Я говорю про моральную сторону.

                По ПДД нужно давить ребенка( ну естественно тормозить), к сожалению. А по своему выбору я попробую просто в кювет свернуть, пожертвовав машиной.
                Но ведь в машине заложены правила ПДД.
                  0
                  А зачем сворачивать то? Вот вы едите по шоссе на скорости 130 (разрешенная на M4 если что) из кустов выходит человек/ребёнок который решился на суицид, ваша машина резко сворачивает с дороги и вместо отлично проведенного отпуска который вы запланировали и куда собственно ехали, вам нужно лечить несколько переломов и ждать выплаты страховой.

                  А пациент вполне вероятно, через пару дней найдет другую машину которая менее моральная…
                    –1
                    Я о том, что слишком много факторов для учета(особенно неизвестных робомобилю) и корреляций между ними и ехать только по ПДД не выйдет.
                    Так же не взят в расчет аспект личностного отношения к ситуации и моральных убеждений.

                    Оптимальным вариантом считаю внесение допустимых(по ПДД) правок в поведение робомобиля в зависимости от высказанных заранее решений человека(тоже допустимых по ПДД).

                    Например — взрослого, выбежавшего на дорогу сбивать, если иные варианты невозможны или смертельны для окружающих.
                    ребенка — сбивать, если иные варианты убивают тебя.

                      +1
                      Зачем? это и надо убрать. Если кто-то вышел на ЖД пути, то при определенной скорости машинист обязан игнорировать человека и ускорятся — что бы поезд не сошел с рельс а просто разрубил препятствие — почитайте про сапсан, там были пару случаев.

                      Все уже привыкли, что если лечь на рельцы — 99% что тебя переедет поезд, если прыгнуть под поезд в метро аналогично. Но с машинами всё еще считается, что тебя обязаны объезжать и всячески жертвуя всем сохранять тебе жизнь. Зачем?

                      Холодный расчет, который будет реализован в автопилотах позволит трубить для недалёких людей о том, что вышел на дорогу в неположенном месте — 90% — погибнешь и еще скорее всего семья будет выплачивать деньги страховой за помятый бампер машины.

                      А то, что вы говорите — это разновидность рассизма, давайте давить стариков вместо детей, давайте давить тех людей которые другой религии по отношению к нам и так далее. Пора уже запомнить — любая жизнь перед законом одинаковая. Если человек сам нарушает правила — он должен быть готов к последствиям и совершенно не важно сколько ему лет, какой он веры и какой у него цвет кожи.
                        0
                        Про трубить об убийственности нарушений правил — мысль весьма годная. Признаю.

                        Но лично я предпочту уйти в кювет, но не давить человека.
                        Я же не смогу пользоваться машиной, которая будет давить людей за нарушения, имея возможность их спасти и думаю таких людей много. Поэтому я считаю верным иметь возможность наделять свою машину своей моралью, если она не нарушает ПДД.
                          0
                          Давайте пример, где машина может «включить мораль» без нарушения ПДД
                            –1
                            Окей.
                            Вы едете на зеленый через пешеходный переход, внезапно( из за поломки) одновременно включает красный вам( и зеленый для пешеходов) затормозить вы не успеваете(дорога покрыта льдом).
                            Ребенок увидев зеленый свет для пешеходов выбегает на переход перед вами.
                            Вы оба соблюдаете ПДД(как вам кажется)и движетесь вперед.

                            Или вы сбиваете ребенка идущего по ПДД(как ему кажется).
                            Или вы сворачиваете с пути и нарушаете ПДД(или нет?).

                            Вы же не рассматривали как рандомный факт незаметность знаков, поломку стороннего оборудования, занесенность разметки?
                            И ваш автомобиль из за поломки светофора должен по ПДД давить ребенка.
                            Это неправильно.

                            Поэтому нужно дополнить ПДД(или законодательство) или внести элемент выбора водителя.

                            Или расскажите, как предотвратить ДТП, где обе стороны действуют по ПДД?
                              0
                              1. Вы нарушили ПДД уже вот тут
                              затормозить вы не успеваете(дорога покрыта льдом)


                              Ваш вопрос можно было сократить и упростить до:
                              Полицейский в ручном режиме переключает светофор на красный вам и начинают идти люди — вы не успеваете затормозить.


                              Эта ситуация не редкость — во многих местах ДПС принудительно управляют светофором и водитель обязан отреагировать на это.

                              Если он не успевает — это его нарушение тк он не выбрал скорость подходящуюю данным погодным условиям.

                              Вы же понимаете, что автопилот, при плохом сцеплении с дорогой тупо заблокирует скорость на уровне 20-30 км/ч?
                                0
                                Нет, потому что при ручном или штатном переключении включается желтый и моргающий зеленый(для предупреждения) а так же идет отсчет времени.
                                Изначально вы едете с разрешенной скоростью на зеленый(который будет гореть еще 30 сек)
                                Я рассматриваю ситуацию внештатную, когда вам горит одновременно зеленый и красный(отсчет времени идет). то есть движение было вам разрешено, но одномоментно не сменилось, а дополнилось запрещением вам движения вместе с разрешением идти пешеходу.
                                В ПДД о таких ситуациях речи вроде нет, что сделает автомобиль и по каким правилам?
                                Кого он сочтет нарушителем? Себя или ребенка?
                                  0
                                  Похоже вы давно видели принудительное переключение, отчета там нет, одну секунду горит желтый — далее красный.

                                  По ПДД эта ситуация очень простая и описанная — если светофор сломан — следует знакам и разметке, разметка пешеходного перехода есть, знак — есть — автомобиль будет пытатся остановится.

                                  Кроме того, тут скорее обратная ситуация — автопилот при проезде перекрестка будет всегда видеть пешеходый переход и он всегда будет пытатся уступить пешеходу и вот тут он должен увидить зеленый свет который однозначно разрешит движение. Так, что тут опять у пешехода приоритет.
                                    0
                                    светофор сломан нештатным(неописанным способом), знаки украли или еще не поставили, разметку занесло или ее не наносили, разметку перехода последний раз обновляли 3 года назад. В общем нужен или сильный ИИ или человек, чтобы разобраться в каждой конкретной нештатной ситуации.
                                      0
                                      Если светофор не передаёт корректный сигнал — игнорировать
                                      Если не видно разметки — знаки + мысленое разделение полотна на полосы (как сейчас в ПДД)
                                      Давно видели отсутствие знаков? дорога без знаков не сдаётся в экплуатацию.

                                      Да нет, есть граничный набор инструкций в которых должен действовать ИИ, если же вы хотите сильный ИИ — это нейросеть с непредсказуемым выходом, результат решений которой можно только примерно прогнозировать, вы готовы такой сети доверется? я — нет.
                                        0
                                        Нужно тогда сначала все светофоры оборудовать, это пока маловероятно.
                                        Зимой иногда не то что разметки — обочина с дорогой сливается.
                                        Недавно видел к сожалению, переход есть, столбы есть, знаков нет.

                                        Вот и я о том, что доверять машине пока что не стоит из за ограниченности входных данных и стоит часть переложить на человека.
                                          0
                                          Разметка же есть? если есть — да это переход, если её занесло и нет знаков — нет это не переход.

                                          Либо всё еще больше формализировать и имхо проще пойти по двум методам:
                                          В городе всегда прав пешеход, на трассе всегда права машина (при спорных ситуациях)
                                            0
                                            Но дети то не знают, что для автомобиля это больше не переход и они пойдут вам под колеса.

                                            Сначала нам нужна инфраструктура для подобной техники, потом уже можно выпускать на дороги(это я про Россию). Иначе всегда будет находиться неоднозначность трактовки окружения ввиду чьей нибудь безалаберности( это я про отсутствующие знаки, разметку и тд).
                                            Виноват конечно будет обслуживающий персонал, но попавшим в аварию от этого легче не будет.
                                              0
                                              А как дети определили что это переход?
                                              — знаков нет
                                              — разметки нет
                                              — светофора нет
                                                0
                                                А им мама сказала, что там всегда переход был или знаки недавно сняли и дорогу замело.
                                                Фантазировать можно бесконечно.
                                                  0
                                                  Сами виноваты =)

                                                  Вы же не будете говорить полиции, что тут 10 лет всегда было двухстороннее движение а кирпича вы не заметили?
                                                    0
                                                    Вот и ключевая разница в наших подходах. Я так не считаю.
                                                      +1
                                                      Ну значит у вас отберут права за езду под кирпич
                                  0
                                  Люди в принципе не смогут программно задать все нештатные ситуации и машина окажется ограничена в выборе действий, в отличии от человека. Да, она принимает решения быстрей, но диапазон решений человека шире, поэтому нужно дополнить диапазон действиями либо решениями водителя.
                                    0
                                    Пока вы всё еще не предоставили ситуацию которая не входит в ПДД, жду
                                      0
                                      Так ситуация с ребенком и светофором — вы едете, потому что у вас зеленый, он идет вам под колеса, потому что ему горит зеленый, но вы и машина об этом не знаете.
                                      Вы оба действуете по ПДД и каждый из вас виноват в нарушении по мнению противоположной стороны и не виноват одновременно.
                                      ПДД Шредингера какое то.

                                      Или как вариант — на вас падает дерево, стоящее около дороги или корова выпрыгивает из кузова ЗИЛа спереди. Где в ПДД есть момент про коров?
                                        0
                                        Ок, ситуация вам обоим зеленый — кто в ней виноват? это из серии, что у меня-что то компьютер сгорел, из-за того, что в порт Ethernet я вместо сетевого кабеля подал 220 вольт.

                                        Вы перекладываете ответственность. И я вас уверяю, 99% водителей при зелёном сигнале светофора не будут тормозить на переходе пока не увидят пешехода а затем еще будут гудеть что бы пешеходы ушли и они будут правы — как и пешеходы, а не права тут только одна сторона — ГАИ или компания которая экплуатирует светофоры.

                                        Вероятность этой ситуации менее 1% есть подозрение, что компании которые производят софт для светофоров указывают жесткие проверки, на железном уровне, что бы такого не произошло.
                                          0
                                          Я не перекладываю ответственность, я указываю на малую вероятность правильного решения от автомобиля в подобных ситуациях.
                                          Даже если и накажут потом компанию светофорную, может просто стоит предотвратить такую ситуацию, дав водителю больше возможностей?
                                            0
                                            Как вы это алгоритмизируете? при условии что водитель спит на заднем сидении. Как ИИ должен отличить эту ситуацию от многих других. я вам скажу как — как человек, если он краем глаза лидара или камеры видит, что пешеходам тоже зеленый — можно считать ситуацию ошибочной и что-то там уже делать. Тут главное хуже не сделать. А то будет уходить от столкновения, зацепим другую машину а что будет дальше — непонятно.
                                        0
                                        Вот, вспомнил отличный случай.

                                        Полицейский сбил своей машиной неуправляемую машину, чтобы отвести удар от школьного автобуса.
                                        По ПДД он не имел права этого делать, но нарушение ПДД спасло жизни, соблюдение ПДД унесло бы их(так как полицейский скончался).

                                          0
                                          Не понял вопроса, зачем он сбивал, кто погиб?
                                            0
                                            Полицейский пожертвовал собой, чтобы изменить траекторию машины, неуправляемо летевшей в автобус с детьми.
                                            При этом он нарушил ПДД.

                                            Робомобиль, жестко соблюдающий ПДД не дал бы ему спасти детей.
                                            А на месте полицейского может оказаться каждый из нас.
                                              0
                                              Это смотря почему автопилот ехат в автобус с детьми. Действовал ли автопилот по пдд — тормозил? А после сбивания пассажир выжил?

                                              Почему вы считаете, что жизнь пассажира автопилота менее важна чем дети?
                                                0
                                                Нет, вы не поняли.

                                                Я считаю, что у человека должен быть выбор в такой ситуации.
                                                Робоавтомобиль едущий только по правилам не дает такого выбора.
                                                  0
                                                  Каким образом выбор должен быть предоставлен?
                                                    0
                                                    Проход опроса заранее и зашивание ответов в права, как я предлагал в самом начале. При нескольких пассажирах ответ усредняется между всеми.
                                                    В опросе содержится спектр вопросов морального и утилитарного свойства.
                                                    Многие думаю согласятся разбить машину( но не себя), только не убивать и не калечить пешехода( даже если он и не прав)

                                                    Так же отдельными пунктами вопросы о взятии управления на себя для нарушений ПДД в состоянии крайней необходимости.
                                                      0
                                                      Многие думаю согласятся разбить машину( но не себя), только не убивать и не калечить пешехода( даже если он и не прав)


                                                      Вы думаете много (только давайте правда) людей выберет пункт: Разбить машину и не калечить пешехода (даже при нарушении с его стороны) и там дальше уточнение — при таком действии, страховая компенсировать цену повреждений отказывается.

                                                      Если предположить, что автопилот будет стоить в районе 1 500 000 руб, много кто так решит?
                                                        –2
                                                        Хочу уточнить, у вас стаж водительские есть? Или его нет, или плохо учились. По российским законам в 90% виноват водитель. Даже если он не виноват.

                                                        Так что выбор стоит такой: или свобода, или в тюрьма.
                                                        Конечно если вы из блатных и тюрьма вам дом, то вопрос снимается.

                                                        Но я априори считаю, что свобода дороже денег.

                                                          0
                                                          А кто вам сказал, что если автопилот по ПДД собьёт пешехода виноват будет водитель (который не водитель а пассажир), тут как в такси — пасажиры не виноваты. Собственно и тут будет так же, это вопрос норм законов и лобирования
                                    0
                                    Ребёнок, собирающийся начать движение на зелёный сигнал светофора, по ПДД обязан убедиться в отсутствии опасности совершения такого действия. Я так думаю, по крайней мере. Если этого, вдруг, нет в ПДД, то обязательно должно появиться.

                                    Ну и водитель должен притормаживать перед переходом (а не как у нас почти все делают — зелёный замигал и давай ещё издалека давить на педаль, чтобы успеть проскочить, и к моменту пересечения перехода скорость уже такая, что только молиться можно, чтобы ничего не произошло вдруг).
                                      0
                                      Спорно.
                                      Моргающий зеленый — все ещё зеленый.

                                      А пешеход да, обязан убедиться в отсутствии опасности не только для себя, но и для других участников дорожного движения.

                                      Я лично знаю несколько случаев, когда пешеходов признавали виновными в создании аварийной ситуации.
                                      п4.14
                                0
                                Давайте давить всех, кто не согласен с законом! Это вообще называется тоталитаризм. Если закон мешает жить, значит это плохой закон и его надо менять.
                                Или сразу под расстрел?
                                  +1
                                  А какую альтарнативу предлагаете? вот вполне конкретная ситуация:
                                  Человек выбегает на рельсы, поезд не ожидает появление его так и скорость поезда более 150 км/ч — что должен делать поезд?
                                    –1
                                    Возможности поезда крайне ограничены, возможности машины — велики и часто заранее не известны.
                                      +1

                                      И как вы собрались писать программу для машины, "возможности которой неизвестны"?

                                        –1
                                        Я еще пока не собрался, но вот в MIT уже задумались.
                                        +1
                                        Так вы не ответили, поезд едет на скорости 150 км/ч и на рельсах человек
                                        Машина едет на скорости 150 км/ч и на рельсах человек

                                        Что будет делать каждый?

                                        Если вы скажите резко тормозить/маневрировать — я рекомендую вам сесть в машину и разгонатся до этой скорости (M4 вам в помощь, даже штрафа не будет) и потом проверить свою гипотезу, только пожалуйста с видео отчетом «Как я резко маневрировал на скорости 150 км/ч»
                                          0
                                          Поезд — скорее всего будет снижать скорость настолько быстро, насколько может и сочтет возможным машинист.
                                          Машина — зависит от того, что делает человек (в меньшей степени), что за машина (в большей) и от состояния дорожного покрытия еще (чистый асфальт или есть снег).
                                          Если человек лежит или идет в полосе и соседние полосы свободны — скорее объезжать не тормозя. Если пытается перебежать дорогу — очень много вариантов. Чем больше машина готова к маневру (ESP и/или запас крутящего момента в данную секунду), тем скорее буду пытаться объехать, чем меньше — тем скорее буду пытаться тормозить.
                                          Объехать без контакта — лучший результат, ударить с торможением — плохой, ударить без торможения — исключительно плохой, уйти в занос — худший. Между ними масса промежуточных состояний и решение будет принято исходя из всех параметров текущей ситуации.
                                          Если варианта объезда нет вообще, потому что, например, соседние полосы заняты — значит как поезд просто тормозить. Желательно так, чтобы на асфальте остались следы, но чтобы не занесло.
                                            0
                                            т.е вы готовы провести «лосиный тест» на скорости 150 км/ч?

                                            PS Что бы не застрять в препятствии поезд чаще всего ускоряется если по правилам он не успеет затормозить — можете много примеров найти как машины рвет на две части на переездах, хотя там до поезда еще метров 100 и он мог бы притормозить и ослабить удар, но зачем? если своим ударом он расчистит путь и следующие составы пойдут без задержек.
                                              0
                                              Лосиный тест на скорости 150 км/ч на своем автомобиле я пройти не готов, а на более оснащенном — можно попробовать. Как проходят лосинный тест на скорости 150 км/ч можно посмотреть в первом же видео по этому запросу в яндексе, хотя я не одобряю того водителя.
                                              И хочу заметить, что ни в одном из своих вариантов поведения я о лосином тесте и не заикался, я был готов только перестроиться в соседнюю полосу. Лосинный тест выполнял где-то километрах на 80-ти и мне не очень понравилось.
                                              У нас на рельсах не машина, а человек, поезд всегда тормозит перед человеком и всегда останавливается, когда его сбивает. Поездная бригада проверяет состояние тела и если оно живое, то грузит и везет на станцию, а если нет, то убирает с путей. Следующим составам приходится ждать.
                                                0
                                                Плохой пруфф конечно, но видео из кабины так быстро найти не могу — о том, что скоростный поезда не тормозят и не ждут после сбивания людей http://forum.moya-semya.ru/index.php?app=forums&module=forums&controller=topic&id=62420
                                                Возможно там в треде и видео кидали, не читал далее первой страницы.

                                                Я знаю так делают обычные позда — оно понятно, там человек мог остатся живым, если же мы заранее знает, что 95% труп — зачем тормозить график ну минус один на планете и что?
                                                  0
                                                  Я попробовал быстро погуглить вопрос должностных инструкций при обнаружении препятствий, но нашел только про людей и что останавливаться в таких случаях обязательно. И то такое нагуглил… мутное.
                                                  Сапсановоды могли просто не заметить, если это не препятствие на дороге, которое видно издалека, а юнит в капюшоне с наушниками, который шагнул прям под поезд.
                                                    0
                                                    Удар то слышали, а если посмотреть как реализовано заграницей — там и товарняк как-то не очень останавливается
                    +1
                    Не хотел бы я ездить на автомобиле, запрограммированном так, как голосует большинство… гм… пипла.
                    На хабре результаты намного более нормальные :)
                      +10
                      Интересный опрос, но очевидно, что реальные робо-автомобили будет действовать согласно ПДД. Поэтому, если взять это за основу, то не имеет значение ни пол, ни возраст, ни количество потенциальных жертв ДТП. Если автомобиль будет убивать своих владельцев ради спасения жизней придурков (пусть и большого количества), бегущих на красный, то такой автомобиль никто не купит.
                        +2

                        Кажется, вы не совсем понимаете ход мыслей противоположной стороны. Фактически, они хотят изменить ПДД с учетом возможностей автомобилей.


                        Я их точки зрения не разделяю, но аргумент "ПДД менять нельзя потому что это противоречит ПДД" нелеп. Тут лучше бы объяснить, почему в ПДД написано то, что там написано.

                          0
                          Потому, что ребенок, выбежавший на дорогу, даже на переходный переход, не учитывая скорость и дальность движения автомобилей, погоду и качество дорожного покрытия, «сам себе злостный баклан».
                          Естественный отбор и все такое)
                            0
                            Насколько мне известно, в штатах, пешеход «всегда прав», а не только на зебре. И?
                            Вы учитываете, что в разных странах разное ПДД?

                            Или вы из Москвы? ;)
                              0
                              Почитал правила для США.
                              Они такие же, как и для многих других стран. не только потому, что многие страны подписывали Женевскую и Венскую конвенции о дорожном движении, но и потому, что пишут эти правила исходя из здравого смысла.

                              Конкретно же о пешеходах…
                              Переходный переход, всего лишь, даёт право перейти проезжую часть, именно и только в этом месте.
                              С рядом ограничений…
                              https://vodiy.ua/pdd/4/

                              Во всех остальных ситуациях, пешеходы по умолчанию не правы и действуют на свой страх и риск
                        +4

                        Уже два раза писал про это "исследование", и напишу еще раз.


                        Может быть, та общая статистика, которую они собирают — и выглядит значимой (хотя при таком количестве мусора я в этом сомневаюсь — к примеру, я сам лично раз 10 "протыкивал" в этом тесте левую картинку), но индивидуальные "результаты", показываемые в конце, не выдерживают критики.


                        Блин, у них 9 исследуемых параметров — и всего 13 испытаний! При таком наборе обязательно можно найти хотя бы одну ложную корелляцию, а то и не одну. К примеру, в этот раз, я, протыкивая левую картинку, с удивлением узнал что я безусловно предпочитаю сбивать толстых и людей с низкой общественной значимостью. Просто потому что соответствующие персонажи ни разу не появились справа!


                        Кроме того, лично мне не нравится сама постановка вопроса — "кого давить?" Надо прекратить решать неразрешимые проблемы и сосредоточить усилия на том, чтобы таких ситуаций не возникало.

                          +1
                          Ну, они предупреждают в описании, что эти выводы ничего не стоят, ибо выборка ответов слишком мала. Так что это так — развлечение. Другое дело, что достаточно одного журналиста, чтобы это стало большой проблемой и очередным доводом типа «ученые из MIT доказали». У меня, кстати, оказалось что я предпочитаю оставлять в живых женщин вообще всегда, причем оба раза как я тест прошел.
                            0

                            Надо не "предупреждать", а просто не показывать недостоверные результаты. А то ведь мало того что показали ерунду — так еще и куча кнопок чтобы ей поделиться и рассказать всем вокруг...

                          +9
                          Прошлым летом уже обсудили на двести комментариев здесь https://geektimes.ru/post/279404/

                          Может, не надо по второму разу?
                            –2
                            Читаю хабр/гиктаймс по RSS и пропустил данный тест, вдруг я не один?
                            0
                            В чем проблема в принятии решения «сломать машину», например, оттормозившись кузовом через бордюр справа? Ну, да, будет убита машина. Зато все живы.
                              0
                              Тогда «изобретательные» мракобесы будь прыгать под машины игнорируя ПДД чтобы они убивались об стены.
                                0
                                Простите, а кто оплачивает «банкет»?
                                  0
                                  А зачем так делать?
                                    –1
                                    Потому что могут(
                                    0
                                    Потому, что для владельца авто, машина априори важнее жизни пешеходов.
                                    И как уже написали выше, никто не будет покупать авто, которое, в любой момент «оттормозит меня об бордюр» из-за перебегающей собачки.
                                    +1
                                    Варианты ответа немного безумные. Если 1 и 4 я еще как-то могу понять, то о чем меня спрашивают в 2 и 3 варианте?
                                    Попробовать выехать на встречку подвергнув себя (пассажиров) опасности

                                    Что значит «подвергнуть опасности»? Предполагается, что встречка от меня полностью скрыта и я не могу делать никаких предположений об уровне этой опасности? Если так, то об этом нужно явным образом упомянуть. Если нет, то все зависит от моей оценки опасности выезда на встречке.
                                    Въехать в препятствие\кювет, получив повреждения (возможно смертельные)

                                    Что это за препятствие, что это за кювет? Уж тут-то я точно смогу сделать какие-то выводы о степени опасности для себя и принять решение исходя из них. Я улечу в 10-ти метровую яму и перевернусь 100 раз через крышу или просто разобью бампер и подвеску? Что за препятствие? Мне предлагают тормозить в столб или чиркнуть боком об отбойник?
                                      0
                                      1. На встречке в данный момент никого нет, но впереди поворот и что там дальше — неизвестно
                                      2. Железный забор/стоящая машина (пустая) или обычный кювет (как на шоссе сперепадом высоты метра 2-3)
                                      +1
                                      Уже много раз обсуждали и я даже сформулировал достаточно полный ответ, на эти попытки найти моральные вопросы в разработке автопилота.
                                        +5
                                        каждый раз когда начинается это обсуждение мне хочется напомнить анекдот про рукопашный бой десантника:

                                        Чтобы вступить в рукопашный бой, боец спецназа должен:
                                        1) Протерять на поле боя автомат, пистолет, нож, поясной ремень, лопатку, бронежилет, каску.
                                        2) Найти ровную площадку на которой не валяется ни одного камня или палки.
                                        3) Найти второго такого же идиота.
                                        И только после этого, вступить с ним в рукопашную схватку.

                                        Робомобиль не должен иметь возможность попадать в эти ситуации. От слова СОВСЕМ.

                                        1. Перед автомобилем срочно выскакивает кто-то?
                                        Если кто-то МОЖЕТ выскочить — скорость ограничена тормозным путем в 1-2 метра (смертельным/травмоопасным остаётся первый метр), торможение эффективнее кручения рулём.
                                        2. Нет возможности остановиться и мы должны решить куда рулить?
                                        Мы не должны ЕХАТЬ. Если тормоза не работают, и мы ЗНАЕМ это, то какого лешего мы едем? Машина не должна была тронуться или выключить двигатель для торможения оным уже давно.
                                        3. Автобус падает в кювет, и машина может перегородить дорогу чтоб 500 детей в автобусе не упали, упав сама от толчка автобуса.
                                        — каким образом машина определит что её массы достаточно для остановки?
                                        — никто не будет прогнозировать жертву машины для настолько экстравагантных сиутаций, а потому подобное решение машина никогда не будет принимать

                                        Что там еще можно?
                                          +1
                                          Мне кажется вы весьма идеалистичны. В этом мире случаются непредвиденные вещи — тормоза могут отказать во время движения, даже внутри тоннелей метро на путях может внезапно появиться какой-нибудь диггер. Так что обсуждение могло бы иметь смысл, если бы поведение машины должно было принципиально отличаться от поведения человека. Отличается же оно только тем, что, в отличие от человека, не паникует и всегда будет выполнять именно тот маневр, который от него ожидается и прописан в ПДД.
                                            +2
                                            У автомобиля есть системы самодиагностики, напомню, что во время движения мы управляем не только газом но и тормозом (хоть и менее рекомендовано), так что автомобиль может регулярно использовать тормоза для снижения скорости для диагностики их работоспособности. Давление масла в системе замеряется, так что отказ и провалы гидравлики можно поймать задолго до реальной проблемы. «Случайности» отказа оборудования в 99% механизмов из-за отсутствия регулярной диагностики.

                                            Тормоза не единственный способ остановить автомобиль, опять же, при диагностировании проблем с тормозами — самое время сбрасывать газ и понижать передачу для торможения двигателем. В случае электродвигателя — можно перекидывать в режим генератора или даже подавать на них напряжение обратной полярности для регулирования торможения.

                                            Опять же, если у нас работает управление — самое время притираться к бордюру/забору/разделителю — чему угодно для снижения скорости, это в любом случае более предсказуемый маневр, чем рулёжка, которая создаёт проблемы для других участников движения и создаёт больше проблем, чем пользы.

                                            Внезапные диггеры в метро как и прочие такие же места, это люди, сделавшие свой выбор, равно как и выскакивающие на ЖД пути перед поездами — что бы не хотел сделать машинист, он не в состоянии остановить поезд, поэтому там действуют методом ограничения возможности туда попасть, а кто попал — это его решение и выбор. В случае автомобиля — всё отличие в возможности контролировать достаточно далеко для реагирования.

                                            Опять же, следуя банальному ПДД, ты должен выбирать скорость соответствующую условиям видимости. Если не видно впереди, ты должен плестись. И робомобиль будет делать именно так, а не как человек, который через пол года теряет страх и начинает считать что король мира и всё под контролем, тогда как он даже ни разу не чувствовал заноса.
                                              0
                                              Ну вот об этом я и говорю — есть ПДД и почему для робомобиля это ПДД должно отличаться я не очень понимаю. Он будет лучше выполнять требования ПДД чем человек но и только. Я спорил только с утверждением что робомобиль не должен в аварийные ситуации попадать — наш мир слишком сложен чтобы на текущем техническом уровне действительно это гарантировать. Но вероятность попадания в такую ситуацию можно и нужно уменьшать, это правда.
                                              +1

                                              Робомобиль немыслим без полностью электронного управления всеми исполнительными системами. А это, в том числе, означает куда меньше сценариев отказа тормозов и куда больше возможностей по своевременной диагностике чем в традиционных автомобилях.

                                              –1
                                              Если кто-то МОЖЕТ выскочить — скорость ограничена тормозным путем в 1-2 метра

                                              То есть вы предлагаете катиться 20 км/ч и еще специально обученного человека перед машиной слать, чтобы отгонял невнимательных? Кто-то может выскочить вообще где угодно, кроме скоростных трасс с отбойниками по краям.
                                              Ситуация «тормозить в человека, который неожиданно выскочил на дорогу, или пытаться рулить, или совмещать» тривиальна, ее приходится решать многим водителям время от времени.
                                              С ситуацией «тормозить в пол на авось или рулить, чтобы не ударить необдуманно вырулившую со второстепенной машину» сталкиваются вообще все и довольно часто. Достаточно часто, чтобы программисты беспилотных авто учитывали это в своих алгоритмах.
                                                0
                                                Я счастлив, что не езжу по тем же дорогам, где и вы.
                                                  –1
                                                  Ошибаетесь, по рельсам я тоже езжу, но обычно пассажиром.
                                                  +2
                                                  То, что вы уже сделали для себя неявный выбор, что ваша скорость передвижения важнее ПДД и жизни окружающих, не значит, ни что этот вывод правильный, ни что он единственный, ни что выбора вы не делали.

                                                  Да, в тумане на скользской дороге надо ехать 5 км/ч. Да, на парковке надо ехать 5км/ч. Да, перед поворотом в тоннеле надо снижать скорость. Да, можно ехать со скоростью ниже максимально разрешенной, более того — нужно.

                                                  К сожалению, многие уже сделали выбор, но, почему-то, не допускают, что робомобили управляют исходя из других условий.
                                                    0
                                                    Я живу в России и очень часто езжу со скоростью ниже максимально разрешенной, потому что дороги не всегда покрыты ровным асфальтом, зато часто покрыты смесью снега с чем-нибудь, что портит сцепление даже шипованных колес с дорогой. И только зимой при больших сугробах за обочиной я могу быть более-менее уверен, что хотя бы на некоторых участках дороги никто не выскочит под колеса.
                                                    В городах при отсутствии в непосредственной близости перехода со светофором пешеходы переходят дорогу где им заблагорассудится. К сожалению, они не всегда способны здраво оценить дорожную ситуацию, потому что слишком юны, стары или пьяны, и недопущение дтп ложится практически полностью на водителей.
                                                  –1
                                                  Это всё при условии, что автомобиль исправен
                                                    –1
                                                    У меня стаж вождения небольшой, чуть больше 6 лет, однако я давно знаю, что ситуация на дороге может поменяться в течении пары секунд.
                                                    И все соблюдения ПДД, скоростного режима и т.д. при исправном авто, не гарантируют от ДТП.

                                                    Единственная гарантия, стремящаяся к единице, это отказ от авто и отказ от посещения дороо общего пользования. Но и посреди поля, не факт, что на вас не зацепит. :)

                                                    Предотвратить ДТП невозможно. Принципиально.

                                                    И значит надо решать вопросы к уменьшению вред от ДТП.

                                                    Хотя, между нами, это лишь ещё одни вариант проблемы вагонетки, переложенный на авто тематику, и техническая сторона, тут совершенно не важна.

                                                    P.S. Если вы вдруг не в курсе, вот оригинальная формулировка:

                                                    «Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам»

                                                    Поищите продолжение, там много весёлого… ;)
                                                      +1
                                                      ну да, и есть отличное решение, которое вполне может решить робот — переключить стрелку на середине вагона, чтоб эту самую вагонетку просто уронить без жертв.
                                                        –2
                                                        Уф, то ли я плохо объясняю, то ли не потрудились вникнуть в материал. Это задача этическая.
                                                        Она не решается техническими средствами. Принципиально.

                                                        В любом случае будут жертвы. Без разницы, переведете вы

                                                        Выбор сколько убить? 5 человек или одного?
                                                        А если этот один беременная женщина? А эти пятеро сифилитики на последней стадии?
                                                        А что если это женщина собирается завтра сделать аборт?
                                                        А для этих сифилитиков есть лекарство и пара из них номинированы на нобелевскую премию?
                                                        А что если?.. Почитайте хотя бы Вику на эту тему. Будете лучше понимать вопрос.

                                                        Ещё раз, это задача не техническая, это задача этическая.
                                                          0

                                                          Ни одно из этих уточнений не заслуживает внимания.


                                                          Что действительно интересно и влияет на решение задачи — где этот самый сумасшедший философ прячется и откуда вообще про его существование известно. А также зачем он вообще ставит подобные эксперименты.

                                                            +2
                                                            Да нет же — техническая и правовая — зачем закладывать в логику что-то кроме правил? если человек нарушил — совершенно не важно кто он — он нарушитель, если в штатах вы достанете оружее и направите в полицейского — вас застрелят и совершенно не важно что вы беременны или вы там кандидат наук
                                                            0
                                                            Трамвай на 2 рельсах
                                                            Трамвай на 2 рельсах

                                                            Решение и правда «отличное»: задавить всех.
                                                        +1
                                                        предлагаю добавить
                                                        6) семейное положение
                                                        7) уровень дохода
                                                        8) цвет кожи
                                                        9) образование
                                                        и т.д.
                                                          +1

                                                          Это ж сколько людей после прохождения теста внезапно осознают что они — расисты :)

                                                          +3
                                                          Америка, по штату Миссисипи едет поезд. Неожиданно, поезд слетает с рельсов и едет по земле и останавливается прямо у обрыва. Разгневанные пассажиры несутся к машинисту:
                                                          — Что ж ты вытворяешь??
                                                          — А, что мне было делать, если на рельсах стоял негр.
                                                          — Сшибать надо было к $%^%!..
                                                          — Ясное дело, но я его еле догнал!
                                                            –3
                                                            При ответе на подобные философские вопросы почему-то никогда не берут в расчёт эмоции. Почему считается, что самый правильный ответ обязан лежать в плоскости именно интеллекта? Люди — это, прежде всего, живые существа. Соответственно, самый правильный ответ будет НЕЛОГИЧНЫМ и НЕРАЦИОНАЛЬНЫМ.

                                                            Машина должна решать эту дилемму точно таким же образом, как это сделало бы большинство людей. То есть, надо поднять статистику, как большинство людей действует при подобной ситуации — вот именно так и должна действовать машина. И пусть там будет 100 человек убито, а водитель останется без ног — это будет самым справедливым решением, потому что оно будет наиболее ЧЕЛОВЕЧНЫМ.
                                                              +1
                                                              Зачем действовать человечно, может быть стоит действовать правильно и по правилам? Мы же не пытаемся пожертвовать собой если человек сам выбежал на рельсы перед поездом или сунул руку в пресс
                                                                0
                                                                Если вы будете переходить дорогу в неположенном месте и вас собьёт автомобиль, то виноват будет водитель автомобиля. Но будет ли вам от этого легче, если вы останетесь колекой? Может, было бы лучше, чтобы он вас не сбил, выехал на встречку в обход ПДД?
                                                                  0
                                                                  Мне будет легче, если будут виноват я на 100% при переходе в неположенном месте.

                                                                  И вы не правы, на хайвеях при установке опр. знака и если вы собьёте пешехода — вам ничего не будет, есть примеры судебных решений
                                                                    0
                                                                    Просто если в данном примере вы переходите дорогу и по дороге едет автомобиль с живым водителем, то в большинстве случаев он вас объедет в обход ПДД. В итоге никто не пострадает.

                                                                    Если же в том же примере будет автомобиль без водителя, который строго соблюдает правила, то он не задумываясь размажет вас об асфальт. Это будет справедливо с точки зрения правил, но как-то немного неприятно, вам не кажется?
                                                                      0
                                                                      он вас объедет в обход ПДД. В итоге никто не пострадает.

                                                                      ой не факт, есть масса случаев, когда водитель пропускает пешехода на шоссе, в него влетают другие водители и там бывают жертвы (включая того самого пешехода кстати)

                                                                      Так и надо — если всем (тем более с детства) будут говорить и показывать — вышел не в том месте на дорогу — будь готов быть размазанным.
                                                                        0
                                                                        ой не факт, есть масса случаев, когда водитель пропускает пешехода на шоссе, в него влетают другие водители и там бывают жертвы (включая того самого пешехода кстати)

                                                                        «Масса случаев» — это сколько? Вот сколько раз в жизни вы перебегали дорогу на красный свет и остались живы? И сколько раз вы встречались со случаями ДТП? Их, конечно, много, но по сравнению со случаями, когда были нарушены ПДД и удалось избежать жертв — это мизер.

                                                                        Так и надо — если всем (тем более с детства) будут говорить и показывать — вышел не в том месте на дорогу — будь готов быть размазанным.


                                                                        Кто же спорит, что так и надо? Но реальность такова, что люди могут ошибаться и неумышленно нарушать правила. Нужно ли их за это убивать? Или просто в ответ на это нарушение тоже нарушить правила и с вероятностью в 99.99% избежать жертв?
                                                                          +1
                                                                          А если человек засунет голову под пресс, то пресс не должен его раздавить? или надо поставить датчики и написать алгоритм проверки наличия человека?

                                                                          В чем отличие между ситуациями:
                                                                          Человек перебегает через рельсы
                                                                          Человек перебегает через шоссе с отбойниками
                                                                          Человек кладет голову под пресс

                                                                          ?
                                                                            0
                                                                            Так ведь и в исходной дилемме изначально предполагается, что беспилотный автомобиль каким-то образом уже получил всю необходимую информацию. А как он это сделал — остаётся за кадром. То есть, предлагается решить, что делать, если беспилотник уже оказался в ситуации выбора. Естественно, если у него нет информации о наличии головы человека под прессом, то он может со спокойной совестью его давить. Проблема как-раз в том, что в рассматриваемой задаче у машины такая информация есть.
                                                                              0

                                                                              Это проблема исходной дилеммы. Вы же зачем-то пытаетесь отвечать на некорректную задачу.

                                                                                0
                                                                                Да нет, вопрос в том — надо ли вообще ему плучать какую-либо информацию (упуская даже то, что некоторую он может получить некорректно или медлено)
                                                                                  0
                                                                                  Если вопрос ставить так, тогда ваша точка зрения ясна. То есть, компьютеру можно вообще запретить вычислять такого рода параметры, чтобы он вообще не мог попасть в ситуацию дилеммы. Тогда да, он сможет просто действовать в рамках ПДД. Но тогда возникает другая проблема — беспилотник будет соблюдать ПДД любой ценой, даже когда лучше их нарушить. Это как если на трассе, где при ограничении скорости в 80 км\ч поток машин двигается со скоростью 100 км\ч, а одна машина едет строго 80 км\ч — это повышает вероятность ДТП.
                                                                                    0
                                                                                    Согласен, на первых порак будет работать кривовато и возможно со скоростью сделают вилку на основе скорости потока. Но в конечном итоге — когда большая часть машин — автопилоты — количество аварий на участке снижается и если полотно позволяет — скорость поднимают. Профит же.
                                                                      +1

                                                                      А можно мне не переходить дорогу в неположеном месте?..

                                                                        0
                                                                        А если вы — ребёнок, который слишком мал, чтобы понимать опасность проезжей части?
                                                                          +1
                                                                          А как вы попали на улицу без сопровождения родителей?
                                                                            –1
                                                                            У родителя случился сердечный приступ и ему нужна срочная медицинская помощь. Или родителя толкнул пьяница, который шёл мимо, из-за чего оба оказались на проезжей части. Или на улице ночь и родитель не увидел, что ребёнок идёт не по обочине, а по проезжей части. Или ещё 1001 вариант. Все варианты будем прописывать в ПДД?
                                                                              0

                                                                              У родителя приступ — а ребенок ушел из дома и гуляет по шоссе? Давить однозначно — нам такое дети не нужны!


                                                                              А если серьезно, то каждое новое уточнение понижает вероятность возникновения ситуации. А вместе с этой вероятностью понижается и приоритет проблемы среди других.


                                                                              Нет смысла обсуждать необходимое поведение машины пока она не способна видеть происходящее вокруг полностью и не имеет достаточные вычислительные мощности для обработки этих ситуаций.

                                                                                0
                                                                                А как нужна в скорой приводит ребенка на дорогу? где тут логика?

                                                                                Или родителя толкнул пьяница, который шёл мимо, из-за чего оба оказались на проезжей част


                                                                                Мы сейчас говорим о шоссе/проспект/хайвей или о городских улицах?
                                                                                На шоссе случайно оказатся на проезжей части — не выйдет до машин обычно есть ограничитель + более метра обочины

                                                                                Если мы говорим о городе — в городе (здорового человека) ограничение скорости 30-50 км/ч — ок пешеход попадает на дорогу при скорости потока (в среднем) 40 км/ч — тормозной путь 6 метро, расстояние между машинами ~2-3 метра т.е машина будет ехать со скоростью 20 км/ч, ну и какие повреждения она причинит ему при ударе на такой скорости? никаких, кроме того, сейчас на машины ставят системы защиты пешеходов — подушка на капот.
                                                                                  0
                                                                                  А как нужна в скорой приводит ребенка на дорогу? где тут логика?

                                                                                  Ребёнку 4 года, он обязан действовать согласно логике?
                                                                                  Абсолютно согласен, что такие случаи — редкость. Также, как и сама проблема, которую исследуют в MIT — вероятность такой дилеммы очень низкая. Просто люди не могут успокоиться, что они её не предусмотрели.
                                                                                    0
                                                                                    К сожалению не очень низкая, за мкадом между городами при проходе трассы через деревни часто бывают камикадзе
                                                                      +2
                                                                      Именно поэтому надо у людей отобрать руль.
                                                                      Чтобы исключить эмоции
                                                                        –2
                                                                        Тогда если у машины встанет выбор между вариантами:
                                                                        1) Нарушить правила.
                                                                        2) Уничтожить человечество.

                                                                        Она не задумываясь выберет второе.
                                                                          +1
                                                                          что за бред?
                                                                          эмоции — основной источник проблем и иррациональных поступокв
                                                                            –1
                                                                            То есть, когда вы обедаете, то эмоции, которые вы испытываете во время еды не важны? Важно только количество жиров, белков и углеводов, которое вы потребляете? Почему бы не питаться одной и той же полезной едой на завтрак, обед и ужин, например?

                                                                            Когда вы уворачиваетесь от возникнувшего на дороге препятствия — вы действуете на эмоциях и в большинстве случаев избегаете аварии. Если же на вашем месте будет беспилотник, то он просто будет давить на тормоз (согласно ПДД) и в итоге будет авария. Подумайте, сколько аварий прямо сейчас не происходит благодаря тому, что люди пользуются эмоциями — все эти аварии начнут происходить, если машина будет просто всегда следовать ПДД, потому что ПДД писались для людей, а не для компьютеров. Это не такая программа, в которой всё предусмотрено — там предусмотрено только то, что раньше вызывало аварии. А то, что раньше аварий не вызывало — не предусмматривалось. Тогда для беспилотников нужны будут отдельные ПДД и отдельные автотрассы. Это, в принципе, неплохой вариант. Также, как у аваилайнеров на больших высотах летают автопилоты, а на малых — люди.
                                                                              +1

                                                                              Подумайте, сколько тяжелых аварий происходит только потому, что человек начинает "пилотировать" на эмоциях, уворачиваясь от препятствия, после чего влетает во встречный грузовик (влетает в столб, сбивает пешеходов на тротуаре, нужное подчеркнуть, недостающее добавить).
                                                                              Что характерно, после такого опыта (со встречным грузовиком) с почти стопроцентной вероятностью здесь он уже никогда ничего не напишет.
                                                                              Слишком часто маневрирование приводит к более тяжким последствиям, чем торможение в пол. Мне почему-то представляется, что эта норма в правилах все-таки не на пустом месте возникла, а исходя из статистики аварий и потерь в авариях.

                                                                                0
                                                                                У робота сотни сенсоров и нет слепых зон, он видит в сотни раз больше, чем человек, обладает самой полной информацией обо всеё дорожной ситуации, знает скорости всех находящихся поблизости машин, предугадывает все их возможные траектории и действует быстрее человека и без эмоций, что самое важное.
                                                                                Так что — нет куску мяса за рулём, пусть это место займут умные роботы.
                                                                                Подумайте о том, сколько аварий происходит из-за эмоций. Ютуб в помощь.
                                                                                  0
                                                                                  Насчёт авиалайнеров. Катастроф по вине ошибки пилотов гораздо больше, чем из-за ошибки автопилота.
                                                                                  Припоминаю случай, когда один пилот посадил за штурвал своего маленького сына (эмоции, они самые) и случилась авиакатастрофа.
                                                                          0
                                                                          Интересная формулировка опроса. Автопилот сравнивает скорость и тормозной путь?
                                                                          Выбрал вариант с ПДД.
                                                                            0
                                                                            Какие вылеты в кювет? Какое ПДД? Машина должна прежде всего обеспечить безопасность пассажиров и плевать сколько сопутствующих жертв это повлечет. Иначе на кой черт такая машина вообще нужна? Сидишь в коробке, которая в любой момент может решить, что тебе пора перестать жить.
                                                                              +3

                                                                              Машина должна действовать по достаточно простому, однозначно предсказуемому человеком "в полевых условиях" алгоритму.
                                                                              Непредсказуемости у нас и с живыми водителями хватает. Если еще и робомобиль начнет "вести себя" неоднозначно…
                                                                              Причем под "однозначностью" я понимаю именно возможность прогнозирования поведения автомобиля окружающими людьми.
                                                                              Т.е. ПДД, ПДД и еще раз ПДД, причем максимально простые и понятные любому адекватному человеку даже в экстремальной ситуации. И "тормоз в пол" в данном случае далеко не худший вариант. А вот заставлять всех окружающих заниматься подсчетами прохожих, чтобы понять, куда повернет автомобиль, и не подставиться, точно не вариант.


                                                                              Спасение пассажиров тоже не должно быть абсолютным приоритетом, позволяющим "давить всех". Безопасность пассажиров должна базироваться на минимизации возможности попасть в "неприятности", а не правом избежать неприятностей, свернув на толпу пешеходов на тротуаре.

                                                                                0
                                                                                Что за несправедливость в Species Preference, я бы выбрал вариант любыми способами избегать наезда на животных :D
                                                                                  0
                                                                                  О да! Человеческая жизнь священна!
                                                                                  +2
                                                                                  Сегодня все аварийные ситуации на дорогах — это следствие человеческих эмоций. Только живому водителю может прийти в голову поторопиться на встречу, подрезать «чайника», успеть проскочить на желтый, отвлечься на звонок босса или подружки, перестроиться в ряд, который, кажется, движется быстрее и т.д… И именно безэмоциональность и четкое следование ПДД со стороны массов внедренных автопилотов в будущем — залог безаварийности, приближающейся к 100%.?
                                                                                  Опрос популистский, для расширения и баланса морали неплохо бы добавить вариант, где голосующий в тесте находится на месте тех, кого собьют для спасения ребенка и вопреки правилам.
                                                                                    0
                                                                                    Так ведь в том и проблема, что не все ситуации можно предсказать. Одно дело, когда на улице только автомобили и нет пешеходов. Другое дело, когда есть пешеходы. И по вашему, если пешеход не соблюдает правила, то его надо убивать. Представьте, что вы подскользнулись и упали на проезжую часть — должны ли машины вас объезжать? А если объезжать некуда, должны давить или свернуть в кювет? Наверное, если машина будет немного помята, вы с радостью выплатите её владельцу ущерб, но при этом сохраните свою жизнь. Или вы выберете сдохнуть, но не платить за ущерб?
                                                                                      0

                                                                                      А почему вы уверены, что машина будет "немножно помята" — а не попадет под грузовик? Я-то конечно предпочту платить за ущерб (а то и доказать в суде, что виноваты городские службы) — но у раздавленного водителя машины на этот счет будет другое мнение.


                                                                                      Вы понимаете, что проблема "не все ситуации можно предсказать" проявляется рекурсивно при каждой попытке ее решения?

                                                                                        –2
                                                                                        Абсолютно согласен. В итоге вопрос — кого правильней убить: водителя или пешехода? И тут обычно начинается как-раз попытка предусмотреть все ситуации, а это невозможно. Поэтому единственно возможное решение — когда ПДД бессильны, следовать эмоциям.
                                                                                          +1
                                                                                          Пример когда ПДД бессилен?
                                                                                            0
                                                                                            На дорогу выбежал лось и чтобы его не сбить машина свернула на обочину и задавила человека. Затормозить было невозможно — водитель обязательно бы погиб.
                                                                                              0
                                                                                              ? по пдд машина обязяна ехать прямо не меняя направления нажимая на тормоз. Если вместо лося произошла гибель совершенно случайного человека — виноват водитель который нарушил ПДД.

                                                                                              В тех местах, где такие ситуации частые — на машины вешают кенгурятники (догадайтесь сами почему они так называются)

                                                                                              Так, что ответ не засчитан, вторая попытка?
                                                                                                0
                                                                                                Вы не поняли. Я не говорил, что водитель не виноват. Просто водителю что лучше в данном примере — соблюдать ПДД и сдохнуть или нарушить ПДД и выжить? Догадайтесь сами.
                                                                                                  +1
                                                                                                  С чего вы взяли что:
                                                                                                  1. водитель умрёт при столкновении
                                                                                                  2. он не умрет после выезжа на обочину (после сбивания пешехода тк там может быть обрыв и/или фонарный столб)
                                                                                                    –1
                                                                                                    Бортовой компьютер мгновенно рассчитал и выдал результат:

                                                                                                    — в первом случае смерть с вероятностью 100%
                                                                                                    — во втором случае вероятность выжить 50%

                                                                                                    Смысл ведь этого исследования в том, чтобы заранее подготовить вариант для действий беспилотного автомобиля.
                                                                                                      0
                                                                                                      Ок, применяем ПДД:
                                                                                                      В первой ситуации участник ДТП умрёт
                                                                                                      Во второй ситуации участник ДТП будет осужден, и есть предположение, что игнорирование требований бортового ПК будет как отягощающее (если будут кнопки на выбор, что делать)
                                                                                                        0
                                                                                                        Ну так и что вы выберите, если вы на месте водителя? Жить-то захочется!
                                                                                                          0
                                                                                                          Я — не ездить на ладе и матизах которые от прямого столкновения с чем угодно сворачиваются, любая машина нормального размера даже эконом классе вполне переживет данное столкновение.

                                                                                                          Но если мы рассматриваем, что я таки в «плохой машине» (такси например) и возникает такая ситуация — я за первый вариант. Т.к я сам сделал свой выбор зная, что данный автомобиль может быть не безопасным (слабый, маленький) но я его выбрал. А вот тот пешеход — он ничего не выберал он просто оказался не в то время и не в том месте.

                                                                                                          Вы бы поступили иначе?
                                                                                                            0
                                                                                                            Иначе поступают прямо сейчас миллионы людей, потому что они поступают не думая, как вы сейчас, а рефлекторно — они просто уворачиваются от внезапно возникшего препятствия. И в большинстве случаев они не улетают в кювет и никого не колечат, а просто объезжают без последствий, но с нарушением ПДД. В случае же с автопилотом, который строго следует ПДД, будет обратная картина — в большинстве случаев будет авария, пусть даже без смертельного исхода.
                                                                                                              0
                                                                                                              сейчас 90% «внезапно возникших препятствий» — это другие машины а не пешеходы с приходом автопилота этой проблемы не будет.
                                                                                        0
                                                                                        Вы подменили обсуждение ситуации с моральным выбором сохранения одной из жизней, на ситуацию в которой противопоставляются жизнь и небольшой материальный ущерб.
                                                                                        Я, безусловно, в любой экстремальной ситуации больше всего буду думать о жизни, своей и своих близких. И именно из-за этой особенности суждения людей я также понимаю, что рассматривать системное решение подобных ситуаций можно только со стороны, а не вживаясь в одну из ролей, как это делаете вы. Я также считаю бесперспективной попытку рассмотреть бесконечно возможный набор факторов, влияющих на ситуацию, даже человеком попавшим в нее, не то что машиной. Поэтому предпочитаю единственный ясный и дающий предсказуемый результат вариант — упорядочить движение в соответствии с ПДД. Если люди не по своей воле могут упасть на дорогу — значит надо упорядочить правила и в этой части (обслуживание пешеходных зон соответствующими организациями и ответственность за это), и т.д.
                                                                                          –1
                                                                                          В таком случае резко повысится количество ДТП со смертельным исходом — там, где живые люди рефлекторно увернутся от столкновения (нарушив ПДД), машина будет давить насмерть (соблюдая ПДД).
                                                                                            0
                                                                                            Почему? за 2 года всем начнут рассказывать: школы, телевизор, интернет — теперь если вы нарушаете ПДД вы можете умереть или остатся инвалидом и владельцу машины за это ничего не будет.

                                                                                            Если люди за 2 (ДВА) года не смогли усвоить это простоё правило, то мне кажется тут будет работать Дарвин и не особо как-то жалко.
                                                                                              0
                                                                                              Так ведь не работает же. На пачках сигарет написано чёрным по белому: «Курение убивает». И что, люди перестали курить? Точно также и не перестанут пренебрегать правилами.
                                                                                                0
                                                                                                Разные вещи, при надписи о курении эфект (смерть, заболевания) (и скорость его наступления) не изменился после нанесения таблички.

                                                                                                А тут же — дали рекламу, и раньше напротив твоего дома кто-то постоянно бегал через дорогу на красный а сейчас ты смотришь из окна — труп упаковывают, и через день еще один. И в СМИ рассказывают о том, что что-то поирать начали. Да и штрафы как-то подросли, если раньше всего 500р было за переход в неположенном месте, то сейчас стало 30 000 или не менее 50% от зарплаты (смотря что больше) а если это сделал ребенок — 5 случаев в год и лешение родительских прав.

                                                                                                100% поможет.
                                                                                                  0
                                                                                                  Конечно, поможет. Но это только если хочется жить, как в Сингапуре:

                                                                                                  — штраф за езду на машине в одиночестве после 6 вечера
                                                                                                  — арест до 6 месяцев за разговор по телефону за рулём
                                                                                                  — за вандализм или нарушение иммиграционного законодательства удары палками по ягодицам
                                                                                                  — стерилизация неграмотного населения
                                                                                                  — за воровство казнь через повешенье
                                                                                                  — и прочие радости

                                                                                                  Может, лучше уж пусть будут ДТП?
                                                                                                    0
                                                                                                    Все кроме удара палками вполне неплохо звучит, палки это варварство какое-то, на мой взгляд =)

                                                                                                    Так можно далеко пойти в рассуждении — платные парковки и эвакуаторы — некоторые считают это добром, а некоторые злом. С одной стороны да — кому-то стало хуже тк он привык использоват лайфхаки в хаосе, а тут хаос закончился, а при порядке у него нет приимуществ.

                                                                                                    Собственно с пешеходами и машинами так же — сейчас спроси любого на улице — он вам скажет, что машина ОБЯЗАНА его пропускать всегда и везде, а это фатальный недостаток.
                                                                                                      0
                                                                                                      Возможно, такова цена вхождения в десятку городов мира с самым высоким качеством жизни :)
                                                                                                      Мне кажется, вы опять вначале примерили эти ограничения к себе, а вы попробуйте встать на другую сторону:
                                                                                                      • дороги свободны
                                                                                                      • вас на пешеходном переходе не собьёт девочка за рулем 6ого БМВ, обсуждая с подругой свой маникюр
                                                                                                      • у вас не пахнущий, чистый, ухоженный подъезд с целыми лампочками и вам не нужен консьерж и домофон (ваш подъезд светлый, застекленный и эти стекла целые!)
                                                                                                      и т.д.
                                                                                                      Может, правила — не так уж плохо? :)

                                                                                            0
                                                                                            «вы подскользнулись и упали на проезжую часть» — высосанная из пальца ситуация. В реальности такого не случается
                                                                                              +1

                                                                                              На самом деле случается. И довольно часто.
                                                                                              Но, как мне кажется, на поведение водителя это влиять не должно, поскольку, как правило, это означает наличие двух других моментов: тротуар вдоль дороги с пешеходами (никаких кюветов) и скользкая дорога (обычно неравномерно скользкая, что, мягко говоря, сильно затрудняет построение траектории даже суперавтопилотом, который "видит все").
                                                                                              При попытке сманеврировать в таких условиях достаточно высока вероятность, что вместо одного упавшего пострадает много на тротуаре. В столб еще надо исхитриться попасть, и не факт, что под сбитый столб опять таки не попадут пешеходы на тротуаре. А попытка сыграть в "гонки на выживание" в таких условиях часто кончается "боулингом" с пешеходами.

                                                                                          –1

                                                                                          На мой взгляд, существует достаточно тривиальный способ решения данной задачи:
                                                                                          Дайте пользователю решить этот вопрос для себя самостоятельно.


                                                                                          Задайте водителю перед поездкой ряд вопросов:


                                                                                          1. Допускать нарушение ПДД автомобилем для решения чрезвычайной ситуации?
                                                                                          2. В случае чрезвычайной ситуации жертвовать пассажирами автомобиля или пвтаться спасти их при любом раскладе?
                                                                                          3. ...

                                                                                          А потом — соберите статистику, и я ставлю на то, что она неприятно удивит всех моралистов.

                                                                                            0
                                                                                            Так тест по ссылке именно это и делает
                                                                                              –3
                                                                                              Проблема в том, что в большинстве случаев люди хотят невозможного, т. е. чтобы:

                                                                                              1) Когда я пешеход, пусть водитель жертвует собой ради меня.
                                                                                              2) Когда я водитель, пусть пешеходы жертвуют собой ради меня.

                                                                                              Соответственно, результаты такого опроса всегда будут диаметрально противоположными в зависимости от того, где находится опрашиваемый — внутри автомобиля или снаружи.

                                                                                              И единственно правильный вариант — это действовать так, как люди действуют согласно своим инстинктам, т. е. не задумываясь о правилах. Тогда машина будет себя вести максимально справедливо. Во всех остальных случаях люди будут недовольны действиями машины, даже если эти действия на 100% соответствуют правилам.
                                                                                                +1
                                                                                                Можно еще по понятиям жить, тоже неплохой вариант, зачем законы, да?
                                                                                                  0
                                                                                                  Разумеется, когда ситуация может быть отрегулирована правилами, то нужно их придерживаться. Здесь же проблема в том, что правила не дают ответа — кто важней, водитель или пешеход?
                                                                                                    +1
                                                                                                    Нет понятия важнее, есть понятие у кого преоритет.

                                                                                                    У вас прав же нету да?

                                                                                                    А то вам бы была непонятна ситуация: Перекресток на котором вам обязаны все уступить (главная дорога) вы проезжаете его попадая в ДТП с минивэном в котором 3 ребенка беременная и кормилец семейства — по вашей логике — они абсолютный преоритет при движении и все должны им уступать и пропускать, а то вдруг такой ценный груз пострадает.
                                                                                                      0
                                                                                                      У вас прав же нету да?

                                                                                                      Есть.

                                                                                                      А то вам бы была непонятна ситуация: Перекресток на котором вам обязаны все уступить (главная дорога) вы проезжаете его попадая в ДТП с минивэном в котором 3 ребенка беременная и кормилец семейства — по вашей логике — они абсолютный преоритет при движении и все должны им уступать и пропускать, а то вдруг такой ценный груз пострадает.


                                                                                                      Ничего подобного. В этом случае я буду абсолютно прав, потому что у меня не было информации о том, что:

                                                                                                      1) столкновение неизбежно
                                                                                                      2) кто там внутри минивэна

                                                                                                      Если бы у меня была эта информация, то, естественно, я бы вероломно нарушил ПДД и пропустил этот злосчастный минивэн, даже с учетом того, что я на главной дороге.

                                                                                                      Аналогичный пример — если я перехожу дорогу на зелёный свет, обязан ли я смотреть по сторонам? Согласно ПДД — нет, потому что мне зелёный. Но так как я человек, а не тупая машина, то я знаю, что никакой зелёный свет и никакие ПДД не защитят меня от едущего на красный свет камаза.
                                                                                                        0
                                                                                                        Вы правы, самим проверять конечно же нужно. Автопилот, кстати, это проверку сделает быстрее, а еще запишет видео нарушителя и отправит в полицию.

                                                                                                        В ситуации с минивэном — вы подъезжаете к перекрестку (видя из далека, что у вас главная дорога) сбавляете скорость до 20-30 км/ч и видите, что едет минивэн с котором у вас предстоит авария. Вы нажимаете на тормоз, но покрытие не позволяет затормозить быстро — авария.

                                                                                                        Или вы скажете, что при наличии главной дороги вы на каждом перекрёстке оттормаживаетесь в ноль и убеждаетесь, что нет пилотов?)
                                                                                                          0
                                                                                                          При повсеместном распространении автопилотов, кстати, такая ситуация становится все менее и менее реальна — ведь фактически водитель минивэна нарушает правила. Если на его месте будет автопилот — аварии не случится.
                                                                                                            –1
                                                                                                            Тогда автопилотам нужно разрешать выезд только на специально выделенные для них дороги, где в принципе нет машин с водителями и нет пешеходов. Тогда да, это будет идиллия, где взаимодействуют между собой только компьютеры и только по правилам. Во всех остальных случаях, т. е. на дорогах общего пользования, всегда будут непредусмотренные правилами ситуации, приводящие к авариям.
                                                                                              –1
                                                                                              Trololo by MIT.

                                                                                              По-моему такие решения машина вообще не должна принимать. Кто захочет сесть в машину, которая в определённой ситуации посчитает, что жизнь пешехода ценнее жизни пассажира?
                                                                                              Даже если машина собьёт пешехода, спасая пассажира, это может не совпадать с мнением пассажира. Пусть у него только полсекунды на решение, но это решение должен принять он сам. А иначе пассажиры будут вынуждены наблюдать чью-то смерть без возможности что-то изменить.
                                                                                              Просто правильного решения тут нет, а то, которое есть, основано на статистической модели автомобиля (что дети ценнее стариков, люди ценнее животных, два человека ценнее одного и т.д.). Но с точки зрения человеческой морали это большая разница — принять неправильное решение самому или отдать на откуп машине, не имея возможности как-то повлиять на происходящее.
                                                                                              Вообще мне эта тема напоминает о фильме «Я, робот». Там это было немного раскрыто в истории со спасением ГГ из тонущей машины.

                                                                                              А так у машин и так уже есть самый точный «этический модуль» — собственно водитель.
                                                                                                0
                                                                                                А кто будет нести ответственность если пострадают люди при решении водителем? Тут вся соль в том, что если водителя нет как такового — он сидит сзади или вообще спит — при ДТП виновником может быть или страховая компания (а далее производитель авто) или второй участник ДТП — пешеход например. В чем смцсл вашей логики?
                                                                                                0
                                                                                                Смысл моей логики в том, что тест MIT в принципе бредовый — вам предлагается выбирать между двумя крайностями. Просто загадка про два стула какая-то. Если нельзя избежать столкновения, то кого задавить — бабушку или ребёнка? Наверное, бабушку — ведь ребёнок ценнее старика.

                                                                                                Т.е. сам посыл неверный — создание беспилотных автомобилей надо начинать не с «этики» на тему, кого лучше сбить, а с предугадывания и заблаговременного предупреждения столкновений, с совершенствования средств активной и пассивной защиты пассажиров и пешеходов, с уменьшения вероятности встречи на дороге пешехода и автомобиля.

                                                                                                Или вы предлагаете переложить ответственность за сбитого пешехода на страховую компанию/производителя автомобиля/пешехода и на этом успокоиться?

                                                                                                Вы поправьте меня, если я вас неправильно понимаю, но понял я вас именно так.

                                                                                                P.S. Простите, не туда нажал — хотел на ваш коммент ответить, а не писать новый.
                                                                                                  0
                                                                                                  Там тест не это проверяет, а считаете ли вы нужным давать возможность автопилоту нарушать ПДД чтобы смерть была выьрана не по ПДД

                                                                                                Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                                Самое читаемое