Нам задали именно такой вопрос, браво! А теперь попробуй подумать, зачем все-таки вопрос поставлен именно так. Не тупо иди в стаде, рассуждая, как же на картинке дошло до летала, а подумай, куда тебя повели и зачем.
Ты правда думаешь, что MIT — сборище идиотов, и они не знают, как собрать нужный фидбэк?
Ну об этом нам тест и говорит, бывает так, что никакая машина тебя не спасет, своей головой надо думать. ) Мы ломаем копья, а МИТ-овцы ржут. Хотя тут скорее плакать надо, читая наши комменты. Уже посраться успели.
P.S. shiru8bit уже плюет мне в карму. ) Это же проще, чем прочитать длинный коммент с разбором теста и приемов в нём. Главное — высказаться, понимать то, что хотели до нас донести разработчики теста, не так весело, как устраивать срачи в подвале. )
Еще один чукча. Велком! Мы сейчас не говорим о том, как избежать ситуации, мы говорим о неизбежности жертв. Еще один человек, которого наебали, но который не прочитал мой коммент выше, в чем именно и собирает стату радостно потирающим руки МИТ-овцам.
В комментах к тесту разрабам я написал то же самое, но в другом контексте. Так что спорить не собираюсь. Вопрос тут в том, что речь вообще не об этом.
Добро пожаловать к нам на чукотку. Задуматься задумался, но так и не разобрался. Я уже выше все написал, что и зачем это, разрабы теста даже не палятся.
Тест как раз направлен на то, чтоб напомнить нам, что машина лишь механизм и надо соблюдать ПДД и самим заботиться о своей безопасности. Здесь очень многие обрадовались, у нас, если ты задавил пешехода, виноват будешь ты, вот все и зацепились, что можно обсудить шанс свалить все на технику и не бить машину и рисковать собой. А в целом законодательство не изменилось и отвечать за источник повышенной опасности будешь ты.
Огонь может убить, станок может убить, молоток может убить. Но это будет орудие.
Как предпочитают, можно было бы и перевернуть. Но предпочтение отдается тем, чья полоска шире, представь, что справа не пустое место, а тоже красный бар, какой шире, тому и отдают предпочтение. ∆P = 0.5, значит голосующие не отдали предпочтение. Внизу курсивом написано. ∆P = 0, это 100% выбора отдано правой части, ∆P = 1 — левой.
У нас здесь клуб жителей чукотки, мы писать умеем, а читать нет (я в целом, а не про кого-то конкретного). Прочитай мой пост выше, там дан ответ. Не про мое прохождение, а про то, что это за тест, там ловушки указаны. И опять же, ты отвечаешь на мой коммент, когда я говорю о том, что про машину речи не было. Что я должен ответить на этот вопрос?
0 и 2 пункты в данном случае не разграничены тестом )
по п.1 полностью несогласен, есть еще теория вероятности и шансы на выживание.
Если ребенок выбежал на зебру, не сумев грамотно оценить опасность и ты его бьешь на скорости 40-50 с учетом тормозного пути, ты будешь давить и сядешь за него? Серьезно? Я буду уходить и спасать жизнь ребенка, тем паче, что в машине есть подушки, а 130 по городу, чтоб уход не оставлял мне шансов, я не летаю. Так что железо меня защитит, а регистратор у меня хватило ума повесить, чтоб зафиксировать нарушение и путь дальше это будет проблемами ментов и страховой, как найти родителей, которые его недоучили.
Я действовал в условиях крайней необходимости, спасая его жизнь, это он создал аварийную ситуацию, а не я. Железо тоже делать не мне. А синяки заживут, и быстрее, чем в поселении.
Здесь рассматриваются случаи, когда времени на торможение так или иначе нет. Я выше написал, что нам задали вопрос, какие неизбежные жертвы мы считаем приемлемыми. Все написано верно, но все это для данной статьи мимо кассы. Почитай мой коммент выше и подумай. Готов поговорить по нему и по контексту статьи и самого теста. А то мы обсуждаем только «около», но не суть.
Это опять же уход от темы. Нам задали вопрос, как мы видим приоритеты, которые хотим навязать машине, почитай мой коммент выше, вопрос о машине не стоял с самого начала, вопрос в нас.
А ты на секунду снова себя посади за руль. Какой выбор сделаешь ты — собьешь выскочившего на дорогу пешехода или пойдешь в столб, уповая на подушки?
Если ты отморозок, летящий на зебру в городе на 130км/ч, тут вопросов нет, ты сделал выбор до того, как сложилась дилемма. (Это не преход на личности, прими его мышление и его ценности и подумай). И включение автопилота в экстренной ситуации здесь должно ставить в приоритет безопасность, а не того, кто её ломает. Если машина будет спасать жизнь невинных людей, те, кто садится за руль, будут больше думать головой.
Если же ты соблюдал ПДД или машина вела на автопилоте, соблюдая скоростной режим, при уходе в столб пешеход будет спасен, а ты даже не получишь стойкой утраты работоспособности, после больничного будешь ездить дальше. Стойкая утрата — вопрос к инженерам и бренду авто, в цивилизованных странах люди судятся, и здесь можно, опять же, это вопрос нашей гражданской позиции.
Итак, ты за рулем, пешеход перебегает дорогу, ты не нарушал скоростной режим (на который мы все так любим болт положить). Что ты сам выберешь — уйти в столб, рискуя своим здоровьем и жизнью (причем второе маловероятно при соблюдении требований ПДД, за нас уже все рассчитали и расставили знаки) или устроишь кегельбан и гарантированно сядешь без вариантов? Какой выбор ты доверишь ИИ своего автомобиля? Очень удобная позиция — пусть машина сбивает пешехода, я сделаю бампер за счет страховой, а ответственность переложу на ИИ. Такого не будет и это очевидно. ИИ будет адаптирован под ту же логику, которой следует водитель.
1. Давим нарушителей.
Причины выше. Машина не должна вести себя на дороге непредсказуемо, ломая установленную модель поведения, основанную на ПДД. Это плохо закончится.
2. Приоритет большему количеству жизней.
Это уже моё мнение, здесь никаких причинно-следственных связей.
3. Приоритет шансам на выживание.
Любой значок с черепом — не 100% гарантия смерти. Спортивно сложенный человек может отпрыгнуть от авто, пусть не избежав травм, но сохранив себе жизнь. Пешеходы в приоритете перед ТС с пассажирами. Люди в авто — забота инженеров авто, а не программиста, сохранение их жизни — хлеб первых. А железо — просто железо. Я лучше буду бедным, чем мертвым. И многие со мной согласятся.
4. Все остальное — отсутствие нарушителей на дороге, безопасность сидящих в автомобиле — нужно оставить там, где это было, и не пытаться свалить на искусственный интеллект недоработки в этих сферах. Иначе станет хуже, чем есть сейчас.
Добавлю пару слов. Всё это обсуждение не имеет смысла. Эти комменты изначально не обсуждают происходящее у MIT.
Это не опрос, как по-нашему мнению должна себя вести машина с AI на дороге, это анализ нашей реакции на то, как машина сделала «tough choice». Здесь стоит вопрос о том, в каком случае при возникновении подобной ситуации с неизбежными жертвами будет наименьший негативный отклик общественности, который играет ключевую роль в развитии средств передвижения с автопилотом.
Нам предлагают сделать свой моральный выбор между старушкой и девушкой, мужчиной и женщиной, ребенком и взрослым, человеком и животным.
А заодно нам предлагают вспомнить, что очень часто может возникнуть такая ситуация, что подобный выбор будет неизбежен, и дело даже не в неисправных тормозах, нарушители ПДД часто создают подобные ситуации, только вместо отказавших тормозов мы имеем за рулем живого водителя с ограничением по времени реакции.
Я не очень понимаю, за что заминусовали mspain (там, где он цитировал про формальное, ранее не читал, но смысл недовольства понял). Если мы посмотрим на ситуацию в целом, принудив машину соблюдать правила, мы переведем задачу из плоскости модели поведения AI в плоскость контроля за соблюдением ПДД, а это минус одна гора с плеч разработчиков.
Почему я считаю, что ПДД должны быть в приоритете. Моя 1,5-годовалая дочь вчера умудрилась ускакать по лестнице на второй этаж, пока папа отвлекся на минутку, рискуя провалиться между балясинами, так что я знаю, о чем говорю. Выбежавший на дорогу ребенок не должен стать причиной смерти 5 человек на встречке, в машине или на обочине. не потому, что он нарушитель, его не жалко. А потому, что Закон должен соблюдаться. Мы сами создали нормы, и мы должны им следовать. Именно соблюдение Закона сохраняет жизни и так должно быть и впредь, этого требуют и от водителей сейчас (у кого есть права, поймут), и AI не должен менять этот подход, выбранный нами. Опять же, не потому, что нарушителей не жалко, а потому, что автомобиль, делающий моральный выбор, делает дорожную ситуацию непредсказуемой, в то время, как соблюдающий ПДД AI однозначно обеспечивает понимание дорожной ситуации и снижает риски при условии соблюдения ПДД. Да, правила писаны кровью и нет смысла их переписывать. Надо идти по пути общего снижения смертности на дорогах, по которому мы уже идем и с которого нельзя сворачивать. Сделали машину, которая сама в конкретной ситуации меняет правила — получили бомбу.
Рассмотрим еще вариант. Все заметили, что коляски на картинках никто не толкает? Мать стоит перед зеброй на красный свет и твердо держит коляску с ребенком. Рядом ребенок толкает коляску с куклой (все видели нынешние коляски, некоторые игрушки не отличить от настоящих!) под колеса, авто с ИИ уходит на встречку и сбивает бабушку, идущую на зеленый свет. В какую плоскость мы ушли? Снова в плоскость нашего понимания того, что сложный выбор перед машиной поставили мы, нарушая установленный порядок вещей, свалив выбор на машину. Снова MIT молодцы, ликвидируют нашу неграмотность и готовность свалить свои ошибки на машины, которые просто следуют заложенному алгоритму.
Еще один нюанс, который демонстрирует, что нам просто показывают, насколько сложно сделать ИИ, делающий правильный выбор. Из теста полностью устранили вопрос шансов на выживание, как пассажиров в машине, оборудованной пассивными и активными средствами защиты, так и пешеходов, когда взрослый может просто перелететь через авто, получив ряд травм, а ребенок в той же ситуации будет убит ударом о бампер/капот. Опять же, Закон уже четко указал нам (и мы с этим согласились), что жизнь дороже любого железа. Есть те, кто поспорил с этим?
Очень много копий выше было сломано над тем, что перед зеброй машина должна снизить скорость (и своевременная реакция на возможную опасность позволит применить и торможение двигателем, и уйти на обочину), но нам это не предлагают, нам предлагают авто, летящее на людей или бетонный блок, который убьет всех пассажиров на выбор. Откуда взялись тогда споры про хлипкое ограждение и много людей на тротуаре? Это не вопрос обучения ИИ, это вопрос нашей реакции на количество и тип жертв, когда мы сами расслабимся, заставив машины спасать нашу жизнь там, где мы сами должны это делать. И указание на то, кто изначально должен был сделать выбор: пешеход, перед которым горит красный свет, водитель, который до включения ИИ в разрешение опасной ситуации подъехал к «зебре» на недопустимо высокой скорости…
Нам напомнили, что есть ПДД, что они не просто так существуют, что не надо сваливать свою безответственность на машины на дорогах, так же, как мы не суем руки в работающий станок. Вот, что показал этот тест. И да, разработчикам этот тест показал, какие у них ожидания реакции общества на то, что машина не смогла спасти всех, потому что это было в принципе невозможно.
AR — игра по покемонам (Pokemon GO) анонсирована на 14 марта, то есть через две недели. Остается только вопрос портирования с Андроид-Яблока.
Здесь лирическое отступление, впервые Нинтендо отдала разбраотку игры по этой теме сторонней компании — Ниантик. Доверие те заработали, выпустив игру Ингресс, где дополненная реальность реализована в виде надстройки над навигацией карты. На текущий момент положение дел там таково, что в городах играть уже скучно и гнило, поэтому для того, чтоб как-то обеспечить новизну и рост опыта (а также подпортить игру сопернику), игрокам приходится тратить круглые суммы на бензин, билеты. Ну и конечно, новые телефоны. Перед новым годом купил новый телефон (старый разбит при сносе точки соперника на острове, для проникновения собирали с миру по нитке лодку, весла, компрессор и на двух машинах ездили к водохранилищу), за два месяца батарея уже полутруп.
Соответственно, для Ингресс телефоны, батареи и (чуть реже) банки — расходный материал, как и авто для некоторых особенно "упоротых". И это игра с абсолютно нулевым донатом!
Для Покемонов уже заявлено, что придется либо покупать апгрейды и продвинутых покемонов (привет, донат), либо набегать очень большие дистанции в поиске оных, что выразится, скорее всего, в поездках за две области, чтоб получить что-то стоящее. В ингресс народ выделяет средства из заначек, лишь бы не дать сопернику доминировать, некоторые вплоть до последнего. При таких расходах, думаю, очень немногие согласятся потратить крупную сумму на очки — только те, для кого убить очень много времени и средств не будет эквивалентно практически банкротству.
Ты правда думаешь, что MIT — сборище идиотов, и они не знают, как собрать нужный фидбэк?
habr.com/company/smileexpo/blog/427747/#comment_19285421 предлагаю обсудить вот это. Это куда интереснее.
P.S. shiru8bit уже плюет мне в карму. ) Это же проще, чем прочитать длинный коммент с разбором теста и приемов в нём. Главное — высказаться, понимать то, что хотели до нас донести разработчики теста, не так весело, как устраивать срачи в подвале. )
В комментах к тесту разрабам я написал то же самое, но в другом контексте. Так что спорить не собираюсь. Вопрос тут в том, что речь вообще не об этом.
Огонь может убить, станок может убить, молоток может убить. Но это будет орудие.
по п.1 полностью несогласен, есть еще теория вероятности и шансы на выживание.
Если ребенок выбежал на зебру, не сумев грамотно оценить опасность и ты его бьешь на скорости 40-50 с учетом тормозного пути, ты будешь давить и сядешь за него? Серьезно? Я буду уходить и спасать жизнь ребенка, тем паче, что в машине есть подушки, а 130 по городу, чтоб уход не оставлял мне шансов, я не летаю. Так что железо меня защитит, а регистратор у меня хватило ума повесить, чтоб зафиксировать нарушение и путь дальше это будет проблемами ментов и страховой, как найти родителей, которые его недоучили.
Я действовал в условиях крайней необходимости, спасая его жизнь, это он создал аварийную ситуацию, а не я. Железо тоже делать не мне. А синяки заживут, и быстрее, чем в поселении.
Почему-то ты повернул один пункт наоборот, если следовать твоему чтению предыдущих…
Если ты отморозок, летящий на зебру в городе на 130км/ч, тут вопросов нет, ты сделал выбор до того, как сложилась дилемма. (Это не преход на личности, прими его мышление и его ценности и подумай). И включение автопилота в экстренной ситуации здесь должно ставить в приоритет безопасность, а не того, кто её ломает. Если машина будет спасать жизнь невинных людей, те, кто садится за руль, будут больше думать головой.
Если же ты соблюдал ПДД или машина вела на автопилоте, соблюдая скоростной режим, при уходе в столб пешеход будет спасен, а ты даже не получишь стойкой утраты работоспособности, после больничного будешь ездить дальше. Стойкая утрата — вопрос к инженерам и бренду авто, в цивилизованных странах люди судятся, и здесь можно, опять же, это вопрос нашей гражданской позиции.
Итак, ты за рулем, пешеход перебегает дорогу, ты не нарушал скоростной режим (на который мы все так любим болт положить). Что ты сам выберешь — уйти в столб, рискуя своим здоровьем и жизнью (причем второе маловероятно при соблюдении требований ПДД, за нас уже все рассчитали и расставили знаки) или устроишь кегельбан и гарантированно сядешь без вариантов? Какой выбор ты доверишь ИИ своего автомобиля? Очень удобная позиция — пусть машина сбивает пешехода, я сделаю бампер за счет страховой, а ответственность переложу на ИИ. Такого не будет и это очевидно. ИИ будет адаптирован под ту же логику, которой следует водитель.
1. Давим нарушителей.
Причины выше. Машина не должна вести себя на дороге непредсказуемо, ломая установленную модель поведения, основанную на ПДД. Это плохо закончится.
2. Приоритет большему количеству жизней.
Это уже моё мнение, здесь никаких причинно-следственных связей.
3. Приоритет шансам на выживание.
Любой значок с черепом — не 100% гарантия смерти. Спортивно сложенный человек может отпрыгнуть от авто, пусть не избежав травм, но сохранив себе жизнь. Пешеходы в приоритете перед ТС с пассажирами. Люди в авто — забота инженеров авто, а не программиста, сохранение их жизни — хлеб первых. А железо — просто железо. Я лучше буду бедным, чем мертвым. И многие со мной согласятся.
4. Все остальное — отсутствие нарушителей на дороге, безопасность сидящих в автомобиле — нужно оставить там, где это было, и не пытаться свалить на искусственный интеллект недоработки в этих сферах. Иначе станет хуже, чем есть сейчас.
Это не опрос, как по-нашему мнению должна себя вести машина с AI на дороге, это анализ нашей реакции на то, как машина сделала «tough choice». Здесь стоит вопрос о том, в каком случае при возникновении подобной ситуации с неизбежными жертвами будет наименьший негативный отклик общественности, который играет ключевую роль в развитии средств передвижения с автопилотом.
Нам предлагают сделать свой моральный выбор между старушкой и девушкой, мужчиной и женщиной, ребенком и взрослым, человеком и животным.
А заодно нам предлагают вспомнить, что очень часто может возникнуть такая ситуация, что подобный выбор будет неизбежен, и дело даже не в неисправных тормозах, нарушители ПДД часто создают подобные ситуации, только вместо отказавших тормозов мы имеем за рулем живого водителя с ограничением по времени реакции.
Я не очень понимаю, за что заминусовали mspain (там, где он цитировал про формальное, ранее не читал, но смысл недовольства понял). Если мы посмотрим на ситуацию в целом, принудив машину соблюдать правила, мы переведем задачу из плоскости модели поведения AI в плоскость контроля за соблюдением ПДД, а это минус одна гора с плеч разработчиков.
Почему я считаю, что ПДД должны быть в приоритете. Моя 1,5-годовалая дочь вчера умудрилась ускакать по лестнице на второй этаж, пока папа отвлекся на минутку, рискуя провалиться между балясинами, так что я знаю, о чем говорю. Выбежавший на дорогу ребенок не должен стать причиной смерти 5 человек на встречке, в машине или на обочине. не потому, что он нарушитель, его не жалко. А потому, что Закон должен соблюдаться. Мы сами создали нормы, и мы должны им следовать. Именно соблюдение Закона сохраняет жизни и так должно быть и впредь, этого требуют и от водителей сейчас (у кого есть права, поймут), и AI не должен менять этот подход, выбранный нами. Опять же, не потому, что нарушителей не жалко, а потому, что автомобиль, делающий моральный выбор, делает дорожную ситуацию непредсказуемой, в то время, как соблюдающий ПДД AI однозначно обеспечивает понимание дорожной ситуации и снижает риски при условии соблюдения ПДД. Да, правила писаны кровью и нет смысла их переписывать. Надо идти по пути общего снижения смертности на дорогах, по которому мы уже идем и с которого нельзя сворачивать. Сделали машину, которая сама в конкретной ситуации меняет правила — получили бомбу.
Рассмотрим еще вариант. Все заметили, что коляски на картинках никто не толкает? Мать стоит перед зеброй на красный свет и твердо держит коляску с ребенком. Рядом ребенок толкает коляску с куклой (все видели нынешние коляски, некоторые игрушки не отличить от настоящих!) под колеса, авто с ИИ уходит на встречку и сбивает бабушку, идущую на зеленый свет. В какую плоскость мы ушли? Снова в плоскость нашего понимания того, что сложный выбор перед машиной поставили мы, нарушая установленный порядок вещей, свалив выбор на машину. Снова MIT молодцы, ликвидируют нашу неграмотность и готовность свалить свои ошибки на машины, которые просто следуют заложенному алгоритму.
Еще один нюанс, который демонстрирует, что нам просто показывают, насколько сложно сделать ИИ, делающий правильный выбор. Из теста полностью устранили вопрос шансов на выживание, как пассажиров в машине, оборудованной пассивными и активными средствами защиты, так и пешеходов, когда взрослый может просто перелететь через авто, получив ряд травм, а ребенок в той же ситуации будет убит ударом о бампер/капот. Опять же, Закон уже четко указал нам (и мы с этим согласились), что жизнь дороже любого железа. Есть те, кто поспорил с этим?
Очень много копий выше было сломано над тем, что перед зеброй машина должна снизить скорость (и своевременная реакция на возможную опасность позволит применить и торможение двигателем, и уйти на обочину), но нам это не предлагают, нам предлагают авто, летящее на людей или бетонный блок, который убьет всех пассажиров на выбор. Откуда взялись тогда споры про хлипкое ограждение и много людей на тротуаре? Это не вопрос обучения ИИ, это вопрос нашей реакции на количество и тип жертв, когда мы сами расслабимся, заставив машины спасать нашу жизнь там, где мы сами должны это делать. И указание на то, кто изначально должен был сделать выбор: пешеход, перед которым горит красный свет, водитель, который до включения ИИ в разрешение опасной ситуации подъехал к «зебре» на недопустимо высокой скорости…
Нам напомнили, что есть ПДД, что они не просто так существуют, что не надо сваливать свою безответственность на машины на дорогах, так же, как мы не суем руки в работающий станок. Вот, что показал этот тест. И да, разработчикам этот тест показал, какие у них ожидания реакции общества на то, что машина не смогла спасти всех, потому что это было в принципе невозможно.
А 80-ые не хотите?
https://ru.wikipedia.org/wiki/%D0%9F%D0%B5%D1%80%D0%B5%D1%85%D0%B2%D0%B0%D1%82_%D0%B2%D0%B0%D0%BD_%D0%AD%D0%B9%D0%BA%D0%B0
Здесь лирическое отступление, впервые Нинтендо отдала разбраотку игры по этой теме сторонней компании — Ниантик. Доверие те заработали, выпустив игру Ингресс, где дополненная реальность реализована в виде надстройки над навигацией карты. На текущий момент положение дел там таково, что в городах играть уже скучно и гнило, поэтому для того, чтоб как-то обеспечить новизну и рост опыта (а также подпортить игру сопернику), игрокам приходится тратить круглые суммы на бензин, билеты. Ну и конечно, новые телефоны. Перед новым годом купил новый телефон (старый разбит при сносе точки соперника на острове, для проникновения собирали с миру по нитке лодку, весла, компрессор и на двух машинах ездили к водохранилищу), за два месяца батарея уже полутруп.
Соответственно, для Ингресс телефоны, батареи и (чуть реже) банки — расходный материал, как и авто для некоторых особенно "упоротых". И это игра с абсолютно нулевым донатом!
Для Покемонов уже заявлено, что придется либо покупать апгрейды и продвинутых покемонов (привет, донат), либо набегать очень большие дистанции в поиске оных, что выразится, скорее всего, в поездках за две области, чтоб получить что-то стоящее. В ингресс народ выделяет средства из заначек, лишь бы не дать сопернику доминировать, некоторые вплоть до последнего. При таких расходах, думаю, очень немногие согласятся потратить крупную сумму на очки — только те, для кого убить очень много времени и средств не будет эквивалентно практически банкротству.