Если вопрос ставить так, тогда ваша точка зрения ясна. То есть, компьютеру можно вообще запретить вычислять такого рода параметры, чтобы он вообще не мог попасть в ситуацию дилеммы. Тогда да, он сможет просто действовать в рамках ПДД. Но тогда возникает другая проблема — беспилотник будет соблюдать ПДД любой ценой, даже когда лучше их нарушить. Это как если на трассе, где при ограничении скорости в 80 км\ч поток машин двигается со скоростью 100 км\ч, а одна машина едет строго 80 км\ч — это повышает вероятность ДТП.
В таком случае резко повысится количество ДТП со смертельным исходом — там, где живые люди рефлекторно увернутся от столкновения (нарушив ПДД), машина будет давить насмерть (соблюдая ПДД).
Так ведь и в исходной дилемме изначально предполагается, что беспилотный автомобиль каким-то образом уже получил всю необходимую информацию. А как он это сделал — остаётся за кадром. То есть, предлагается решить, что делать, если беспилотник уже оказался в ситуации выбора. Естественно, если у него нет информации о наличии головы человека под прессом, то он может со спокойной совестью его давить. Проблема как-раз в том, что в рассматриваемой задаче у машины такая информация есть.
А то вам бы была непонятна ситуация: Перекресток на котором вам обязаны все уступить (главная дорога) вы проезжаете его попадая в ДТП с минивэном в котором 3 ребенка беременная и кормилец семейства — по вашей логике — они абсолютный преоритет при движении и все должны им уступать и пропускать, а то вдруг такой ценный груз пострадает.
Ничего подобного. В этом случае я буду абсолютно прав, потому что у меня не было информации о том, что:
1) столкновение неизбежно
2) кто там внутри минивэна
Если бы у меня была эта информация, то, естественно, я бы вероломно нарушил ПДД и пропустил этот злосчастный минивэн, даже с учетом того, что я на главной дороге.
Аналогичный пример — если я перехожу дорогу на зелёный свет, обязан ли я смотреть по сторонам? Согласно ПДД — нет, потому что мне зелёный. Но так как я человек, а не тупая машина, то я знаю, что никакой зелёный свет и никакие ПДД не защитят меня от едущего на красный свет камаза.
А как нужна в скорой приводит ребенка на дорогу? где тут логика?
Ребёнку 4 года, он обязан действовать согласно логике?
Абсолютно согласен, что такие случаи — редкость. Также, как и сама проблема, которую исследуют в MIT — вероятность такой дилеммы очень низкая. Просто люди не могут успокоиться, что они её не предусмотрели.
Вы не поняли. Я не говорил, что водитель не виноват. Просто водителю что лучше в данном примере — соблюдать ПДД и сдохнуть или нарушить ПДД и выжить? Догадайтесь сами.
Разумеется, когда ситуация может быть отрегулирована правилами, то нужно их придерживаться. Здесь же проблема в том, что правила не дают ответа — кто важней, водитель или пешеход?
На дорогу выбежал лось и чтобы его не сбить машина свернула на обочину и задавила человека. Затормозить было невозможно — водитель обязательно бы погиб.
У родителя случился сердечный приступ и ему нужна срочная медицинская помощь. Или родителя толкнул пьяница, который шёл мимо, из-за чего оба оказались на проезжей части. Или на улице ночь и родитель не увидел, что ребёнок идёт не по обочине, а по проезжей части. Или ещё 1001 вариант. Все варианты будем прописывать в ПДД?
ой не факт, есть масса случаев, когда водитель пропускает пешехода на шоссе, в него влетают другие водители и там бывают жертвы (включая того самого пешехода кстати)
«Масса случаев» — это сколько? Вот сколько раз в жизни вы перебегали дорогу на красный свет и остались живы? И сколько раз вы встречались со случаями ДТП? Их, конечно, много, но по сравнению со случаями, когда были нарушены ПДД и удалось избежать жертв — это мизер.
Так и надо — если всем (тем более с детства) будут говорить и показывать — вышел не в том месте на дорогу — будь готов быть размазанным.
Кто же спорит, что так и надо? Но реальность такова, что люди могут ошибаться и неумышленно нарушать правила. Нужно ли их за это убивать? Или просто в ответ на это нарушение тоже нарушить правила и с вероятностью в 99.99% избежать жертв?
Абсолютно согласен. В итоге вопрос — кого правильней убить: водителя или пешехода? И тут обычно начинается как-раз попытка предусмотреть все ситуации, а это невозможно. Поэтому единственно возможное решение — когда ПДД бессильны, следовать эмоциям.
Так ведь в том и проблема, что не все ситуации можно предсказать. Одно дело, когда на улице только автомобили и нет пешеходов. Другое дело, когда есть пешеходы. И по вашему, если пешеход не соблюдает правила, то его надо убивать. Представьте, что вы подскользнулись и упали на проезжую часть — должны ли машины вас объезжать? А если объезжать некуда, должны давить или свернуть в кювет? Наверное, если машина будет немного помята, вы с радостью выплатите её владельцу ущерб, но при этом сохраните свою жизнь. Или вы выберете сдохнуть, но не платить за ущерб?
Проблема в том, что в большинстве случаев люди хотят невозможного, т. е. чтобы:
1) Когда я пешеход, пусть водитель жертвует собой ради меня.
2) Когда я водитель, пусть пешеходы жертвуют собой ради меня.
Соответственно, результаты такого опроса всегда будут диаметрально противоположными в зависимости от того, где находится опрашиваемый — внутри автомобиля или снаружи.
И единственно правильный вариант — это действовать так, как люди действуют согласно своим инстинктам, т. е. не задумываясь о правилах. Тогда машина будет себя вести максимально справедливо. Во всех остальных случаях люди будут недовольны действиями машины, даже если эти действия на 100% соответствуют правилам.
Просто если в данном примере вы переходите дорогу и по дороге едет автомобиль с живым водителем, то в большинстве случаев он вас объедет в обход ПДД. В итоге никто не пострадает.
Если же в том же примере будет автомобиль без водителя, который строго соблюдает правила, то он не задумываясь размажет вас об асфальт. Это будет справедливо с точки зрения правил, но как-то немного неприятно, вам не кажется?
Если вы будете переходить дорогу в неположенном месте и вас собьёт автомобиль, то виноват будет водитель автомобиля. Но будет ли вам от этого легче, если вы останетесь колекой? Может, было бы лучше, чтобы он вас не сбил, выехал на встречку в обход ПДД?
При ответе на подобные философские вопросы почему-то никогда не берут в расчёт эмоции. Почему считается, что самый правильный ответ обязан лежать в плоскости именно интеллекта? Люди — это, прежде всего, живые существа. Соответственно, самый правильный ответ будет НЕЛОГИЧНЫМ и НЕРАЦИОНАЛЬНЫМ.
Машина должна решать эту дилемму точно таким же образом, как это сделало бы большинство людей. То есть, надо поднять статистику, как большинство людей действует при подобной ситуации — вот именно так и должна действовать машина. И пусть там будет 100 человек убито, а водитель останется без ног — это будет самым справедливым решением, потому что оно будет наиболее ЧЕЛОВЕЧНЫМ.
Есть.
Ничего подобного. В этом случае я буду абсолютно прав, потому что у меня не было информации о том, что:
1) столкновение неизбежно
2) кто там внутри минивэна
Если бы у меня была эта информация, то, естественно, я бы вероломно нарушил ПДД и пропустил этот злосчастный минивэн, даже с учетом того, что я на главной дороге.
Аналогичный пример — если я перехожу дорогу на зелёный свет, обязан ли я смотреть по сторонам? Согласно ПДД — нет, потому что мне зелёный. Но так как я человек, а не тупая машина, то я знаю, что никакой зелёный свет и никакие ПДД не защитят меня от едущего на красный свет камаза.
— в первом случае смерть с вероятностью 100%
— во втором случае вероятность выжить 50%
Смысл ведь этого исследования в том, чтобы заранее подготовить вариант для действий беспилотного автомобиля.
Ребёнку 4 года, он обязан действовать согласно логике?
Абсолютно согласен, что такие случаи — редкость. Также, как и сама проблема, которую исследуют в MIT — вероятность такой дилеммы очень низкая. Просто люди не могут успокоиться, что они её не предусмотрели.
«Масса случаев» — это сколько? Вот сколько раз в жизни вы перебегали дорогу на красный свет и остались живы? И сколько раз вы встречались со случаями ДТП? Их, конечно, много, но по сравнению со случаями, когда были нарушены ПДД и удалось избежать жертв — это мизер.
Кто же спорит, что так и надо? Но реальность такова, что люди могут ошибаться и неумышленно нарушать правила. Нужно ли их за это убивать? Или просто в ответ на это нарушение тоже нарушить правила и с вероятностью в 99.99% избежать жертв?
1) Когда я пешеход, пусть водитель жертвует собой ради меня.
2) Когда я водитель, пусть пешеходы жертвуют собой ради меня.
Соответственно, результаты такого опроса всегда будут диаметрально противоположными в зависимости от того, где находится опрашиваемый — внутри автомобиля или снаружи.
И единственно правильный вариант — это действовать так, как люди действуют согласно своим инстинктам, т. е. не задумываясь о правилах. Тогда машина будет себя вести максимально справедливо. Во всех остальных случаях люди будут недовольны действиями машины, даже если эти действия на 100% соответствуют правилам.
1) Нарушить правила.
2) Уничтожить человечество.
Она не задумываясь выберет второе.
Если же в том же примере будет автомобиль без водителя, который строго соблюдает правила, то он не задумываясь размажет вас об асфальт. Это будет справедливо с точки зрения правил, но как-то немного неприятно, вам не кажется?
Машина должна решать эту дилемму точно таким же образом, как это сделало бы большинство людей. То есть, надо поднять статистику, как большинство людей действует при подобной ситуации — вот именно так и должна действовать машина. И пусть там будет 100 человек убито, а водитель останется без ног — это будет самым справедливым решением, потому что оно будет наиболее ЧЕЛОВЕЧНЫМ.