Комментарии 173
Очень странно. Мне кажется, при обнаружении любого плюс-минус крупного препятствия на пути следования, автопилот обязан как минимум затормозить, а не лететь вперёд на полном ходу. Без включения "логики высокого уровня". Лидар засёк препятствие на пути- тормозим.
Всё сложно. Будь всё просто — давно бы уже сделали.
Ну лучше в 1% случаев понапрасну затормозить перед пакетом, чем в 1% случаев не затормозить перед пешеходом. Да и все-таки пакет значительно меньше человека с велосипедом.
к сожалению приходиться констатировать что обычные дороги не подходят для автоматического транспорта, цена обучения ИИ автопилота — жизни людей.
В идеале транспорт должен уйти под землю, где в уютных тоннелях никто не выбежит на дорогу, нет перекрестков со светофорами и можно двигаться с максимальной скоростью все время.
а) определить возможную необходимость торможения и подать сигнал следующим водителям (зажечь стопари) намного быстрее чем человек
б) определить дальность до препятствия и вектор его движения и рассчитать необходимое ускорение торможения
в) мгновенно определить наличие транспортных средств сзади и дистанцию до них
будет при каждом удобном случае тормозить в пол?
P.S. Транспорт под землю это очень круто, но обслуживание тоннелей это очень дорого.
Проблема в том, что общество не договорилось о конкретном решении «проблемы вагонетки» — и, соответственно, нет ТЗ проектирования/обучения автопилота.
К слову, в правилах чётко написано, что в (почти) любой непонятной ситуации надо тормозить, если надо — экстренным торможением. Но на практике многие ДТП избегаются (или уменьшается их последствия) другими манёврами (хотя на ютюбе очень много иллюстраций, того, что нужно именно «умирать в своей полосе»)… И вот, если человек-водитель может отклониться от правил, то как обучить этому робота, если это прямо противоречит закону?
Но тут резко стал «виноват» Uber, сперва заключивший досудебное соглашение с семьей, потом (возможно) Коммисией по расследованию.
Какие светоотражатели? Интересно если убер по результатам проверки опубликует что МО данным сенсоров объект был виден за километр а задавили из-за подписания вы будете продолжать утверждать что сама виновата? В следующий раз будет стоящая по правилам машина с аварийкой и знаком а робот впечатается на полной скорости, только потому что любое дело можно замять деньгами(что убер и сделал).
]]Пункт 4.5. ПДД РФ.
На нерегулируемых пешеходных переходах пешеходы могут выходить на проезжую часть (трамвайные пути) после того, как оценят расстояние до приближающихся транспортных средств, их скорость и убедятся, что переход будет для них безопасен. При переходе дороги вне пешеходного перехода пешеходы, кроме того, не должны создавать помех для движения транспортных средств и выходить из-за стоящего транспортного средства или иного препятствия, ограничивающего обзорность, не убедившись в отсутствии приближающихся транспортных средств.
Я более чем уверен, что в ПДД США есть подобный пункт, возможно с незначительными различиями. Понимаете, никто не пытается сказать, что Убер имел право не тормозить и убивать нарушающих ПДД человеков. Тут фишка в том, что в ситуации когда нарушают оба, страдать будет именно пешеход, а потому именно он наиболее сильно заинтересован в соблюдении ПДД.
«Пешеход! Умирая на пешеходном переходе ПОМНИ: Ты был прав!» (с)
Цель ПДД в первую очередь — сохранение жизней и здоровья. Выяснение кто прав, а кто виноват — это уже вторичная функция.
Нет смысла шагать под несущуюся на огромной скорости машину, даже если для неё горит красный, для вас зелёный, а под вашими ногами разметка пешеходного перехода.
Я выше привёл выдержку из ПДД, в которой чёрным по белому написано, что обеспечение безопасности пешехода — это прямая обязанность пешехода. Не водителя, не дяди Стёпы, и даже не того регулировщика в погонах на перекрёстке который вместо прописанных в ПДД жестов крутит полосатой палкой на верёвке. Но если водитель таки нанёс вред здоровью или жизни человека, он несёт за это ответственность в 99% случаев, кроме ситуаций когда он «не имел физической возможности предотвратить ситуацию» (читать как «пешеход бросился под колёса»), а это ещё доказать надо.
Ну и да, если вы идёте ночью по неосвещённой улице, на которой было 10 ограблений за месяц, и освещаете себе дорогу новеньким айфоном, то вы таки не самый умный человек, пусть грабитель и «не имел права вас грабить».
а к водителю возникала [в общем-то, не заслуженная им]
Если Вы не уважаете человека за рулем, то почему он должен уважать (либо оказывать уважение пропуская на ПП) Вас? Потому что так в ПДД написано или штрафы для него высокие?
Почему вдруг возник разговор про уважение?
Меня вот раздражают водители, которые ведут себя на дороге не по правилам, а по совести или по уважению. Пропускают в зависимости от пола или расы, или останавливаются и пропускают, когда я стою не на переходе и на сплошной. И пешеходы бывают странные, которые стоят и машут на пешеходном переходе, чтобы проезжал.
Почему вдруг возник разговор про уважение?
Отношение пешехода к водителям: «ни один четырёхколёсный мудак».
Лично я не выделяю водителей и пешеходов, а только нарушителей, хамов и др.
Меня вот раздражают водители, которые ведут себя на дороге не по правилам
Пропустить водителя на левый поворот, разворот и выпустить с прилегающей и второстепенной, моргнуть фарами/поворотниками никто не обязан, но пропускают из вежливости, хотя в ПДД (российских) это не регламентировано.
А если потом, например, не оценив дистанцию, она резко пошла вперёд (классическое «бросилась под колёса»), то тут уже автопилот должен править законы физики, инерцию
В идеале транспорт должен уйти под землю
А в реальности, когда машины станут достаточно умными — под землю уйдут люди.
к сожалению приходиться констатировать что обычные дороги не подходят для автоматического транспорта, цена обучения ИИ автопилота — жизни людей.
так же как и цена обучения живых водителей. только с той разницей, что одна авария ИИ — обучает все ИИ этого производителя, а одна авария живого водителя — «обучает» только его одного.
В идеале транспорт должен уйти под землю
не обязательно под землю — можно и наземный, но — на огороженных магистралях с развязками, без перекрестков.
Хотя лучше огородить дороги так, как они огорожены на МКАДе и ТТК в Москве, например
Рыть тоннели довольно дорого. Бетонировать, поддерживать, откачивать воду. Иначе бы в каждом Кукуево был бы метрополитен или сеть подземных дорог.
Вероятность успеха родственников была не велика, но мало ли какие подробности могли вскрыться в ходе суда… вот посему адвокаты убера дали денюжку.
по крайне мере я больших летающих пакетов не виделБПЛА: Большой Пакет Летающий в Атмосфере. Вы их просто не смогли разглядеть.
Лобовик — в мелкую крошку, естественно.
Так что летают :-)
Вы распознаете, или начнете резко тормозить?
не стоит ради него ставить раком всю дорогу.
Вообще-то стоит.
Только что дошло, по опыту Ворлд ов Танкс. Если туда-сюда дергаться, навестись на тебя сложно.
Говорить о логике «ИИ» можно бесконечно, но логика эта ему не принадлежит, потому что интеллекта у него нет.
Поэтому автомобильные автопилоты, и прочие скайнеты, можно оставить для Голливуда.
Я думаю управление автомобилем человеком можно оставить для голивуда.
программный глюк в той же Тойоте, где больше 3 тысяч ошибок нашли
Это тот случай, когда они отвечали «да вы просто педали перепутали», когда сигнал педали тормоза блокировался из-за ошибки контроллера?
А с дизелем в случае АКПП где сцепления нету, ничего не сделаешь. Разве что сразу в стенку зарулить пока не успел разогнаться.
Можно конечно что-то изобретать типа перехода на пониженные передачи (если такие режимы есть в КПП), тот же ручник, и т.п., но в ситуации стресса на это уйдут лишние секунды, которых в плотном городском трафике может и не быть, и в любом случае это не избавит от ДТП, только лишь возможно сократит его последствия.
А с человеком и помощником который 1. Следит за водителем, 2. Тормозит при виде препятствия. Будет ещё лучше. Но продать то хочется замену а не помощника.
но есть одна беда. автопилот создан человеком. тем самым, который отвлекся, устал, заснул, перепутал газ с тормозом и тд. совершенный автопилот от несовершенного человека? только в голивуде. в реальности все это должно пилиться очень-очень долго. и не факт что запилится до идеала
Любой водитель, увидевший какое-либо препятствие на дороге или перестроится на свободную полосу, или начнет тормозить. Неважно, какие у препятствия характеристики. А уж плавно или резко, зависит только от расстояния до препятствия и скорости ТС.
Упс… не туда
Мой первый день за рулем запомнился мне на всю жизнь. Еду я значит с инструктором по городу, 45км.ч. и тут внезапно на МОЙ зеленый сбоку вылетает фура и начинает ТОРМОЗИТЬ. Его поцеловали все три ряда. Открываем дверь, а оттуда такая пьянь вываливается… Менты приехали, а он песни орет.
Понимаешь, дочь родилась, в дороге начал отмечать…
Ну и автопилот, который не тормозит в случае появления на пути препятствий?.. Жаль что это была велосипедистка, а не прицеп какой-нибудь выкатившийся, тогда бы пострадали те, кто должен был а не посторонние.
Может ли статься так, что контуры человека с велосипедом и качающимся шлемом на руле более размытые на уровне капота, чем отдельно человека, велосипеда и велосипедиста? Например, система плохо натренирована на них. Днём она их распознаёт хорошо с камер, а с лидара ночью — не очень надёжно. Тогда для такой системы это будет то же самое размытое пятно, как и пакет. И, что хуже, из-за этого может быть сложно определить скорость движения человека с велосипедом и её направление.
Вина водителя: сложные дорожные условия, условия ограниченной видимости. Автомобиль необходимо вести скоростью позволяющей остановить транспортное средство перед препятствием появившимся в свете фар ближнего света. Водитель обязан был видеть, что скорость для данных условий превышается(56 км/час).
Вина автопилота: примерно на 7-ой секунде отчетливо видно препятствие на полосе, никаких мер к ээкстренному торможению не предпринимается, на 9-ой секунде наезд на пешехода. Даже если бы 1 секунду производилось торможение, вероятно пешеход был бы жив. Замедление для машин с дисковыми тормозами на асфальте не менее 10м/с2, скорость снизится с 15 м/с (56 км/ч) до 5 м/с2 (9км/час), а учитывая время дополнительное при замедлении, то и больше. Возможно пешеход покинул бы опасную зону.
Или я неправ?
То что вина автопилота или водителя — не вызывает сомнений.
Сбитая женщина переходила в неположенном месте. Конечно, водитель всё равно должен смотреть, но без таких вот переходящих где попало безопасность на дорогах была бы выше. Например, элементарно можно выскочить перед быстрым потоком так, что даже самый внимательный водитель окажется перед выбором — сбить нарушившего пешехода, или устроить массовую аварию из-за резкого торможения, либо поворота.
окажется перед выборомВыбрасывайте свои права и идите сдавать повторно. По ПДД водитель нажимает тормоз, а не сбивает пешехода по свому выбору и не поворачивает.
И если сзади кто-то влетит — это его вина, бзв.
сбить нарушившего пешехода, или устроить массовую аварию из-за резкого торможения, либо поворота
А что в 100% случаев на дороге за вами будет строй машин? И дистанцию надо соблюдать.
Это ПДД? И по своему опыту и по опыту других людей это очень маловероятно, что будут так делать. У нас пьяных не могут победить, а тут надо заставить ездить в сумерках и темное время суток не более 20-30 км в час. Даже сложно представить как этого добиться, чтобы радикально не снизить количество машин на дорогах. Что-то типа спец. разрешений для нахождения на дорогах. Но в таком случае трафика так мало будет, что роботы будут не нужны.
надо заставить ездить в сумерках и темное время суток не более 20-30 км в час.Очень просто. Поставить знаки и фиксаторы скорости. Если это начнет спасать жизни даже ценой ярости некоторых водителей — цель достигнута.
PS Работаю в маленьком городке в Германии, путь от дома до офиса проходит через через несколько улиц с ограничением в 20! км и 30 км (могу предоставить пруфы если нужно) и на этих участках никто не превышает (ну ок, никто = 99% водителей).
И зачем тогда машина нужна? 20-30 км/ч это скорость велосипеда.Мы же не говорим про весь город. Таких участков на пути в офис всего два, при том что суммарная длина пути на порядок больше этих участков.
В таких случаях логичнее делать велопешеходные зоны.
В том то и дело, что это и есть вело-пешеходная зона, и длится она метров двести от силы.
Факт в том, что на этих участках не превышают.
Замедление для машин с дисковыми тормозами на асфальте не менее 10м/с2То есть, одно «же» и больше? Как они достигают коэффициента трения больше единицы? (Антикрыло и якоря с гвоздями?)
При торможении загружается передняя ось.(1) На чём основано это утверждение?
(2) Как это может улучшить торможение всего автомобиля до 1g+?
2. Тем, что максимально возможная сила, которая будет тормозить автомобиль, равна коэффициенту трения, умноженному на силу, с которой колеса давят на асфальт. Увеличивая силу давления, можно сделать ее больше веса автомобиля и получить ускорение больше 1g.
1. Сигналим всем «пакетам» и «солнечным зайчикам» на пути.
2. Если реагируют — значит живые, пытаемся объехать.
Ещё вариант — отслеживать подозрительные объекты на далёком расстоянии, заранее предвидя, например, что это велосипедист, вдруг решивший перебежать дорогу, а не внезапно нарисовавшийся пакет.
Эти оба варианта можно даже очень эффективно отладить, используя непосредственно авторов кода в качестве манекенов, внезапно переходящих дорогу в тёмное время суток.
Во-вторых, если побибикать пакету в то время, когда поменяется ветер — может показаться, что он среагировал (например, он «начнёт перелетать дорогу быстрее», или развернётся, или «застынет перед машиной от недоумения или страха»). В общем, пакет якобы будет живой.
Как можно было не распознать <...>
Собственно, об этом и пост — всё было точно распознано, но проигнорировано. Почему — другой вопрос, потому и говорится, что косяк в «высокоуровневой системе логики». Кстати, с обычными водителями тоже бывает, не раз приходилось слышать что-то подобное:
— Ты что, меня не видел?
— Видел, хорошо видел
— Что же не притормозил?
— Хз, затупил что-то…
Или ещё банальнее — баг, когда который при некотором стечении логических условий просто не подаст никакого управляющего сигнала.
И это не говоря о прочих препятствиях — пакетах, ямах, раздавленных котах, деталях подвески и чем угодно, неизвестно как оказавшемся на дорогах. Водитель решает эти ребусы с некоторой вероятностью.
всё было точно распознано, но проигнорировано.
Тут вся новость вида "ученый изнасиловал журналиста". Кто хоть раз работал с классификаторами и машинным обучением, кучу раз видел такую конструкцию: классификатор выдает какой-то сигнал — совсем грубо говоря — вероятность, что он видит объект. Для решения есть ли объект или нет, эту вероятность сравнивают с каким-то заранее выбранным числом. Если это число очень маленькое, то будет куча ложноположительных, если число большое — ложноотрицательных. Идеальных классификаторов для сколько-нибудь нетривиальных задач нет. Всегда можно подобрать входные данные на границе.
Классификатор убера выдал некоторое число, меньшее границы принятия решения. Это значит только то, что классификатор недостаточно точный.
Неисправность в системе распознавания объектов, которая не смогла классифицировать женщину и её велосипед как пешехода. Но такой вариант кажется маловероятным, потому что велосипеды и люди принадлежат к тем классам объектов, которые система должна распознавать лучше всего.
События не было, потому что его не должно было быть?
Т.е. в причине так и не разобрались (что «увидела» машина)...?
А по поводу причин — уже была статья, где автор сетовал о проблеме того, что нейросети не могут объяснить принятые ими решения.
Инструкции по разминированию написаны кровью саперов.
Логика работы автопилота будет обильно полита кровью пешеходов…
Логика работы автопилота будет обильно полита кровью пешеходовА Вас не смущает то обстоятельство, что простые правила дорожного движения для
Генри Форд "Моя жизнь, мои достижения" насколько помню.
Федеральный список экстремистских материалов
459. Книга Генри Форд. Международное еврейство. Перевод с англ. — М.: Витязь, 2000 (решение Советского районного суда г. Иваново от 13.11.2008 и определение Советского районного суда г. Иваново от 22.09.2009).
2955. Книга «Международное еврейство», автор Генри Форд, Москва, издательство «Витязь», 1994, 215 стр. и приложение к ней автора В.И. Корчагина под названием «Как нас, русских, грабит еврейская мафия» (решение Центрального районного суда г. Красноярска от 18.03.2015);
minjust.ru/ru/extremist-materials?field_extremist_content_value=%D0%93%D0%B5%D0%BD%D1%80%D0%B8+%D0%A4%D0%BE%D1%80%D0%B4
ALexhha, вы еще раз подсветили пока еще не решенную, однако фундаментальную проблему автопилотов в машинах — отсутствие ощутимой ответственности.
Живой водитель может ехать агрессивно, может затупить, чихнуть, однако почти всегда сохраняются правила:
- Человек не хочет умирать
- Человек не хочет сесть/получить штраф за свои действия
Ну то есть резкий поворот или перестроение совершается только тогда, когда человек думает, что всё будет хорошо. Да, он ошибается. Однако в большинстве случаев у человека есть стопор.
У менеджера среднего звена в отделе разработки такого нет. У него нет желания сохранять жизнь ни водителю, ни пассажиру, ни пешеходу. Он не будет отвечать за убийство. Однако у него есть обещания перед начальством, личные амбиции и зачастую непонимание всей системы в целом. Помрет или нет водитель еще неизвестно, а вот алгоритм выдачи квартальных премий четко обозначен.
Факты ваше приводят нас к главному: в нынешней ситуации автопилоты будут убивать в том числе и потому, что всем было плевать на качество, на проверку и тестирование. Однако компании будут разводить маркетинговую полемику (причина — см. комментарий от muhaa выше).
Как исправить эту проблему? Только законодательно. Я вижу, например, то же решение, как и с медицинскими приборами: жесткая сертификация, тестирование и страхование. Возможно, достаточно лишь последнего (страховые компании сами найдут способ).
Я даже не вижу, что тут ужесточать — тут наоборот надо. Боты уже водят лучше мяса. А вот возможностей в законе меньше не пущать нету. Есть только больше налогов, сборов, пошлин, и акцизов.
вполне может случиться так что разработчики даже мысли допустить себе не могут что яму не заделают за 2 недели и поэтому считают что смысла запоминать ее координаты нет.
Квартальные премии это зло чистейшее. Кто их выдавал, тот и слуга дьявола.
в год автопилот давит 20 человек, родственникам выплачивают 1 миллион $ и заминают дело. (цифры с потолка, не в них суть)
при таком балансе корпорациям нет никакого стимула что-то радикально менять, ведь и так баланс сходится.
собственно подобные случаи уже бывали, когда крупным производителям авто было проще выплатить семьям жертв компенсацию нежели делать отзыв сотен тысяч авто всей модели с редким критическим багом (навскидку вспоминается тойота с заклинивающей педалью газа, причем кроме всего прочего баг еще старательно заминался в стадии экспертизы и даже потом в СМИ).
Although many carriers voluntarily modified the cargo doors, no airworthiness directive was issued to require reworking of the locking system, due to a gentlemen's agreement between the heads of the FAA, John H. Shaffer, and McDonnell Douglas, Jackson McGowen. McDonnell Douglas did make modifications to the cargo door, but the basic design remained unchanged and problems persisted.Джентельменское соглашение, ага.
Не усложняйте, ответственность как в лифтах.
Стало известно, почему автопилот Uber не затормозил перед пешеходом
можно предположить два варианта
мы не можем комментировать специфику инцидента
alizar прошел преподготовку на курсах, где учат как из кликбейта, говна и домыслов создать статью, набирающую плюсы на гике. Отличная иллюстрация к вопросу о качестве статей на гике, спустя пару лет после разделения.
з.ы. конечно нельзя пускать автопилот от Васи на улицу без водителя, каждый автопилот выпущенный на улицу должен сдать слегка услоднённый тест на права.
Автопилот сейчас не идеален, но он по крайней мере сознательно не идет на нарушение прав ПДД и сдается мне, что даже такой кривой автопилот в процентном соотношении будет меньше давить людей, чем живые водители.
По тротуарам ездить не всегда удобно, очень сильно мешают пешеходы,
Чота ржу с такого подхода.
Что здесь смешного? Скорости велосипедиста и пешехода сильно отличаются, велосипед сильно уступает в маневренности. Недаром в Европе везде строят велодорожки. И на них не место уже пешеходам.
24.6. Если движение велосипедиста по тротуару, пешеходной дорожке, обочине или в пределах пешеходных зон подвергает опасности или создает помехи для движения иных лиц, велосипедист должен спешиться и руководствоваться требованиями, предусмотренными настоящими Правилами для движения пешеходов.
Прочитайте правила дорожного движения.
Использовать тротуар велосипедист старше 14 лет может, только если перевозит ребёнка меньше 7 лет или в случае невозможности проехать по правому краю проезжей части.
или в случае невозможности проехать по правому краю проезжей части.
Пункт, встречающийся достаточно часто на наших дорогах (припаркованные машины или просто машины на аварийках), плюс его весьма широко можно трактовать
А ездить по нашим дорогам вместе с автомобилями — надо на мой взгляд самоубийцей быть (и время от времени на нашем Петргофском шоссе, дороге со скоростным активным движением, я таких самоубийц наблюдаю упакованных в черные пакеты)
Только велодорожки, причём отделённые желательно не разметкой (на неё пешеходам всегда наплевать), а бордюром или газоном.
(Это не предвзятость, я участвую в движении во всех трёх перечисленных ипостасях: как пешеход, как велосипедист и как водитель.)
-Речь о том, что, т.н «ИИ» не среагировал на препятствие, непосредственно преграждающее ему путь.
Не могут подобное обработать? Так пускай датчики приближения нацепляют( как на тех барахлящих китайских игрушках ), на основе данных от которых, авто будет стремиться объехать препятствие, а не ехать на него.
Вроде бы, и на мусорные баки автомобилю внимание можно не обращать, но, если он будет стоять посреди дороги, тот кончится это, в лучшем случае, разгромленным баком и машиной.
Равно как и с чем угодно другим.
На самом деле, даже не ожидал такой эпичной тупости от полномасштабных испытаний на реальных дорогах с реальными людьми — это ведь уровень внутренних испытаний( если вообще не на эмуляторе с подачей записанных «видосиков» реальных поездок на вход камеры и отслеживание корректности реагирования… реагирования на препятствия при езде )
А что будет, когда господа начнут тестировать «реальный супер-ИИ»… или, привет, скайнет :)
Многие инфантилы тут с умным видом поддерживают типа технический прогресс, во чтобы то ни стало, не представляя себя на месте его жертвы.
Ребята, взрослейте быстрее.
То самое видео аварии появилось почти сразу после инцидента. Чб картинка очень тёмная, однозначно дающая понять что человек не успел бы среагировать. Но это — не человек. Где поинтклауды с лидара, картинка с ИК камер(ы), ведь у автопилота было гораздо больше данных чем эти видео с регистратора. Хотя с репутационой точки зрения слив того видоса — вин.
Мэр, между прочим, заинтересован в процветании всего города. Ну или большей его части.
А потому отпугивать из города компанию, которая сорит деньгами [инвесторов], это глупо. Поэтому в развитых странах города и области(штаты) соревнуются друг с другом, кто сможет привлечь более жирного якорного налогоплательщика. Некоторые города специально правят налоговую нагрузку или законы, чтобы привлечь тот или иной бизнес.
«Ложноположительное срабатывание». Стало известно, почему автопилот Uber не затормозил перед пешеходом