Как стать автором
Обновить

Комментарии 84

Судя по видео, водитель спокойно подрёмывал, и на дорогу особо не смотрел. Как будто ради законов его туда и посадили. Смысл наличия человека же был в другом — дублировать автопилот, причём быстро, очень быстро. Секунды всё решают.
Как уже сказано, человек в такой ситуации очень быстро расслабляется и забивает на все. Для таких испытаний нужны специально подготовленные испытатели, которые будут сохранять концентрацию.
Дело не только в специальной подготовке. Продолжительность такой работы вряд ли может составлять более двух часов без перерыва и более 4-6 в день для одного человека.
А скорее всего, цифры будут еще ниже, это значительно сложнее работы водителем или оператором видеонаблюдения.
и более 4-6 в день для одного человека
У учителей вождения в автошколах та же задача — коррекция поведения автопилота водителя в режиме реального времени. Не знаю, работают ли они по 4-6 часов в день.
Они хотя бы активно общаются с обучаемым, комментируя его действия.
комментируя его действия
Алгоритму автопилота могут «лайки» за верные решения проставлять :)
С ними масса нюансов:
1) Скорости не те. До максимальной разрешенной (60ти в России) они позволяют разогнаться уже опытным ученикам практически перед экзаменом
2) Маршруты выбирают безопасные
3) Постоянно ведут диалог с учеником
4) Ученик, хоть и не опытен, но всё-же человек, и его внимание и реакцию никто не отменял даже на начальных стадиях обучения. Он может ошибиться в принятии решения касаемо ПДД, нюансов вождения, и т.д., но ударить по тормозам может всегда. И эта реакция приплюсовывается к реакции инструктора, ибо тормоз дублирован.

Инструктор может тоже ошибаться, и уже ученик его страхует. И, как правило, этот тандем работает неплохо. Часто бывает, когда какой-нибудь идиот пришел учиться, инструктор выходит весь в мыле и пересказывает весь словарь русского мата, так как за этот час напряжение такое, что хоть отпуск бери.
? Я уже на третьем или четверни занятии вождения ехал на автодром со скоростью 50-60. При том, что опыт вождения у меня изначально был нулевой.
Ну и я так же. Одногруппники, у которых был этот же инструктор, удивлялись. Оказалось, не всем он такое позволял.
Инструкторы в автошколе боятся за свою машину и жизнь)) Водители же робомобиля за пару поездок привыкают к его адекватности и расслабляются.
У меня инструктор спать начал где-то с третьего занятия.
Он просто привык, что его внимание не требуется и когда мы ездили из А в Б — он расслаблялся и спал.
У пассажира в автопилоте это будет еще сильнее проявлятся, потому что у инструктора ученики постоянно делают херню и держат его в тонусе, а если автопилот будет день изо дня ездить нормально — пассажир-страховщик тупо к этмоу привыкнет и расслабится.
Они же решили по-простому — закон штата запрещает, чтобы оно само ездило.
Простое решение — нанять полуспящих мужиков со второй смены, чтобы не нарушать законы.
А вот человек, в такой ситуации «сиделки за рулём» — естественно начинает расслабляться. Убер же, оплатят если что. А я что? Я оператор автомобиля с рулево-педальным управлением.
у которых надо отобрать смартфон, эл книгу и прочую лабуду.
Читал на англоязычных ресурсах что на ранних этапах у Убера два человека было в машине — собственно водитель и техник с ноутбуком который тоже смотрел на дорогу и контролировал что там распознавалка пишет в логи. Потом техника убрали.

Ибо техник дороже оператора-водителя, да и платить аж двум людям. А "накатывать" мили нужно, и чем больше, тем лучше для автопилота.

Как долго можно продержаться неусыпно смотря на дорогу и сидя в пассажирском кресле? Меня хватило бы минут на 30 только.
Женщина под кайфом, ночью, без отражателей переходит дорогу в неположенном месте полностью игнорируя дорожнее движение… Робомобиль просто её казнил. А так бы это мог быть обычный автомобиль и водитель…
«Кайф» «кайфу» рознь. Амфетамины наоборот, должны были сделать ее более внимательной и осторожной.
Робомобиль просто её казнил
Не робомобилей это занятие — «правосудие» вершить.
I For One Welcome Our New Robot Overlords
1. если бы на запасном водителе был шлем или другое устройство дополненной реальности, которое отслеживает положение головы (не в телефон), и выводила бы на визор объекты — возможность ДТП уменьшилась бы. Не панацея, но одно из возможностей.
2. корректировка ПО.
Скрытый текст
image
Ну это уже не гуманно. Мигать-то как то надо, иначе глаза высохнут.
На фотке как был в глаза капают как раз. Так что с этим проблем не будет.
НЛО прилетело и опубликовало эту надпись здесь

Неизвестный объект может быть столбом рядом с дорогой. На его идентификацию в качестве движущегося объекта, с которым возможно пересечение траекторий движения, нужно время. И именно так сработал алгоритм — сначала "увидел" объект, потом распознал его как потенциально опасный. Но из-за внешних условий — время распознавания оказалось фатально большим.

НЛО прилетело и опубликовало эту надпись здесь
Летающий целофановый пакет является неизвестным объектом. Но если перед ним совершать экстренное торможение, то можно собрать хвост из движущихся сзади автомобилей.
Дался вам этот летающий пакет. Да, если впереди летает фигня, похожая на пакет, надо как минимум притормозить — вы не знаете, пакет ли это на самом деле, и не знаете, что там дальше творится в секторе, перекрытом этой летучей фигнёй. То, что вы беглым взглядом на большой скорости приняли за пакет, может быть куском льда, доски или жестяного листа — удивительно много вещей, знаете ли, склонны порхать над дорогой. И даже большой пакет подарочек ещё тот — вполне может вам «удачно» повиснуть на дворнике и перекрыть обзор, с самыми далеко идущими последствиями.
В контексте робомобиля и формы надстройки с камерами у убера пакет может прекрасно повиснуть на камерах и/или лидаре. Что, возможно, даже хуже чем пакет на дворнике для человека.
НЛО прилетело и опубликовало эту надпись здесь
Ну, если так, то это косяк и упущение. Адекватные живые водители обычно смотрят не только на объекты, которые движутся по пересекающей траектории, но и на объекты, которые потенциально могут начать это делать. Припаркованые автомобили с включенным поворотником или лампой заднего хода, пешеходы, мнущиеся у бордюра… Сюда же — более сложные случаи, типа автобуса, по какой-то причине тормозящего в соседней полосе или автомобиль в соседней полосе на корпус впереди вас, на пути которого находится нечто, что с высокой вероятностью может заставить его захотеть перестроиться в вашу полосу. Видимо, модуль распознавания дорожной ситуации все-таки недостаточно хорош пока еще.

Можно просто ездить с меньшей скоростью. Ибо дистанция тормозного пути имеет квадратичную зависимость от скорости.
Да еще и в условиях недостаточной видимости, тут уж ПДД велело.

Давно для себя выработал алгоритм действий при езде по ночной трассе — если видишь что-то подозрительное, не до конца понимаешь что за странные блики впереди на обочине, не понимаешь зачем впереди столб освещения воткнули после тёмного участка трассы — притормози. И чуть ли не в половине случаев это бывает обосновано — или камера, или реальная опасность, или что-то что требует на самом деле повышенной бдительности. Казалось бы, что машина должна тоже действовать с некоторой перестраховкой, но нет. Похоже у них просто ложных срабатываний много было, вот они и попытались решить эту проблему таким способом.
или камера

Вы ночью ездите с превышением?
А что в этом такого?
Ночью даже езда с разрешенной скоростью не обеспечивает должного уровня безопасности. А уж с превышением…
Ну я не судья, просто удивлен что адекватные люди так делают.
Я б сказал, что и днем соблюдение все ПДД и ДДД, не гарантируют невозможность ДТП. Да, я превышаю разрешенную скорость, но в пределах разумного, учитывая свои возможности, авто, а также др. условия.
Обсуждалось же уже в прошлый раз. Ночью на не освещенной дороге, даже дальний свет не дает уверенную видимость больше чем на 60 км/ч.
Я не спорю, но каковы шансы встретить человека на трассе ночью?
Я понимаю, что есть возможность встретить и пьяного посреди трассы, выбегающего лося или кабана, но на самом деле их не так уж и много.

А часто вы по межгороду ездите ночью 60 и менее?
но каковы шансы встретить человека на трассе ночью?


Вот так же думали и убер-автомобиль со своим водителем.
Не тот случай. Убер-автомобиль видел человека но не тормозил, а водитель-человек на дорогу не смотрел.
Надеюсь увидеть комментарий минусующего о причинах, а также хочется понять ЧТО он прочел в моих сообщениях.
Машина будет останавливаться на светофорах, но не остановится перед животным, перебегающим дорогу

Перед лосём тоже тормозить не станет?!
Это же смертельно опасно для водителя и пассажиров!
Лоси — они в канаде, в лучшем случае в миннесоте где нибудь, а то аризона/калифония. Нет, я серьезно, они вполне могут там не догадываться о том что полутонная туша на тоненьких ножках-спичках может причинить несопоставимо большой вред когда на скорости перевалится через капот и передавит пассажиров. Что-то подобное было же пару лет назад когда аппле выпустил айфон отключающийся даже на минимальном морозе — тогда судя по всему ни в калифонии где их дизайнят, ни в шеньжене где собирают люди просто не догадывались что человечество живет не только в тропическом климате.
На дороге засыпанной снегом (да, и песком, где-нибудь в Аравии) — ещё и плохо видно дорожную разметку, и автопилот привыкший к идеальной дороге с идеальной разметкой, рискует уверенно выехать на встречную полосу. :(
В оригинальной статье и отчете сказано, что оператор схватил руль менее чем за секунду и начал тормозить уже после столкновения примерно через секунду.

По крайней мере остановился он более чем в 30 метрах от места столкновения и велосипед с телом валялся там же. Неужели у volvo такие плохие тормоза, скорость то небольшая была.

Может, сделать для таких систем на период отладки и тестирования режим «передача управления человеку через случайные промежутки времени»?
Это не даст водителю расслабится и отвлечься, а вынудит того правильно следить за дорогой и быть готовым в любой момент взять управление на себя.
А если не успеет взять?

На всех железных дорогах есть "таймерное привлечение внимания". Машинист тоже может задремать смотря на рельсы-рельсы шаплы-шпалы. Вот там и придумали, что каждые N минут в кабине раздаётся прознительный звук, и если машинист не нажмёт специальную кнопку, то система автоматом врубает тормоза и весь состав стоит.


Машинисты на систему не забивают, потому что тормоза там вроде как аварийные, с ними возни много, а за "не успел" от штрафа до увольнения.

В США вообще большая проблема с пешеходным передвижением. Вот сейчас приходится брать убер потому что из магазина нет выхода кроме как на хайвей.
Инцидента могло и не быть если были какие-то переходы.

Сделали бы ограничение 20-30 км в час для таких авто, пока они проходят тесты. И не было бы трупов.
Ага. Зашибись идея.
«ну мы тестировали все на 20 км/ч, все было ок, зарелизили, а потом машины стали сбивать пешеходов и наш софт к этом оказался не готов»
Чего уж мелочиться, на 5 км/ч тестировать.

В этом и соль тестирования на улицах в реальной среде. Если будет тестирование только с низкой скоростью — никто никогда и не позволит автопилотам ездить быстро, т.к. это по умолчанию будет считаться опасным.

Ну а в чем проблема? Начать с 20 и повышать на 5 км в час каждый год, например. А не сразу херачить 60 с абсолютно сырым софтом.

Вообще да, звучит неплохо. Только видимо все упирается в деньги, коммерческим компаниям хочется побыстрее и без согласований все внедрить(
Проблема в том, что этот «сырой софт» уже водит лучше и безопаснее согласно статистике чем «сухой человек».У гугла по крайней мере.
Проблема в том, что, еще 3-4 такие аварии – и эти испытания вообще запретят. В США по крайней мере. И никакая статистика не спасет.
Какая статистика? Читайте внимательно:
Кроме того, агентство узнало о том, что «запасные» водители, то есть сотрудники Uber, сидящие в салоне, должны реагировать на проблемные ситуации. И чаще всего именно люди останавливают робомобили, которые не успевают среагировать на проблемную ситуацию.

Если Uber опубликует количество опасных ситуаций, предотвращенных водителями-людьми, на пройденные километры, тогда и можно будет судить о «лучше».
Про Google интересно, т.к. они начали сначала с безлюдных территорий, а уже затем пошли в города.
Заранее приношу извинения за тавтологию.
> что сотрудница Uber (да, это женщина)
Это НЕ женщина.

И нам до сих пор не ответили на вопрос «почему программа сработала не так как ожидалось». В убермобиле же не ИИ используется а детерминированный алгоритм. Нужно чтобы было логирование всех инструкций и входящих данных, чтобы можно было грубо говоря поставить брекпоинт и тыкая F8 воспроизвести по шагам какие команды исполнялись и кто закоммитил этот кусок кода.

P. S. И по прежним сообщениям было ощущение что отключено не торможение в алгоритме убермобиля а штатная Volvo collision warning.
В принципе, все куда как более чётко и сухо написано в самом отчёте, на который в статье есть ссылка.
The vehicle was factory equipped with several advanced driver assistance functions by Volvo Cars, the
original manufacturer. The systems included a collision avoidance function with automatic emergency
braking, known as City Safety, as well as functions for detecting driver alertness and road sign
information. All these Volvo functions are disabled when the test vehicle is operated in computer control
but are operational when the vehicle is operated in manual control
.
И далее по тексту:
According to Uber, emergency braking maneuvers are
not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle
behavior. The vehicle operator is relied on to intervene and take action. The system is not designed to
alert the operator.

Т.е. система в принципе не способна экстренно тормозить, и при этом даже не пикнет биппером и не замигает красным светодиодом. Не исключено, что даже красной плашечки «WARNING» на дисплее не появлялось.
Нет, это уберовцы отрубили вольвовский набор АВТОМАТИЧЕСКИХ примочек, и понятно почему — им свой софт нужно пилить без привязки к производителю машины. Из текста не следует, что уберовский софт не имел технической возможности инициировать экстренное торможение. Думаю, что имел — там скорее всего тупо стык с автомобильной шиной передачи данных. И фейл уберовского софта ровно в том, что он поздно решил «давить тормоз». Ну и красный варнинг для водителя конечно же был бы отличной идеей.
В этом и проблема фраз, выдранных из контекста. Полный текст абзаца:
According to data obtained from the self-driving system, the system first registered radar and LIDAR
observations of the pedestrian about 6 seconds before impact, when the vehicle was traveling at 43 mph.
As the vehicle and pedestrian paths converged, the self-driving system software classified the pedestrian
as an unknown object, as a vehicle, and then as a bicycle with varying expectations of future travel path.
At 1.3 seconds before impact, the self-driving system determined that an emergency braking maneuver
was needed to mitigate a collision (see figure 2).
2
According to Uber, emergency braking maneuvers are
not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle
behavior. The vehicle operator is relied on to intervene and take action. The system is not designed to
alert the operator.

Из этого следует, что речь идёт именно о том, что Уберовская система не предпринимает никаких попыток снижения скорости при детектировании ситуации требующей экстренного торможения, но при этом и не оповещает водителя о возникновении такой ситуации. Видимо, предполагается, что водитель должен неотрывно следить за дорогой, а не пялиться в дисплей компьютера или собственного телефона. Речь о City Safety от Volvo шла в первом абзаце и больше эта система никак по тексту не упоминалась. То, что нет никакого алерта — отлично видно по реакции водителя. Он поднимает взгляд на дорогу тогда, когда объект уже хорошо освещён и движется наперерез машине. Стандартное секундное замешательство (т.е. водитель видел и анализировал ситуацию только визуально, никаких алармов он не видел и не слышал) и запоздалое торможение. Согласно отчёту, водитель нажал на тормоз почти через секунду после факта столкновения. Каких либо попыток торможения автопилотом в отчёте не упоминается, потому что *читаем абзац выше*.
Ночью, в неожиданном месте, без отражателей, в темной одежде — кто-то правда верит, что в этой ситуации у обычного водителя был бы шанс избежать столкновения? Отвечать желательно тем, кто хотя бы имеет права. Это не отменяет фейл с отключением автоторможения в экстренном случае, если он имелся.
Согласен. Недавняя авария на мкаде с мотоциклистом, когда пассажирка вылетела на встречную полосу (освещенную между прочим), но ее переехал автомобиль примерно через 10-15 секунд ( время, вполне достаточное для реагирования).

Судя по видео (гуглится) с момента вылета пассажирки до момента как ее сбили прошло не больше 4 секунд.

Прошу прощения, теперь досмотрел до конца, да, там секунд 15 а то и больше. Странно, что проезжающие по соседним полосам не остановились...

Остановились же, видно на видео, но что это могло исправить? Вы можете сами остановится на мкаде ночью и проверить через сколько вам в зад въедут.

Т.е. зад машины важнее, чем лежащий человек на автомагистрали? К тому же тут
ночь, объехали бы, трафик не плотный, есть куда маневрировать. Если первый автовладелец не успел среагировать и УЕХАЛ, то второй мог остановится.

Прошу прощения, он остановился дальше на полосе. Но почему не побежал к пострадавшему со знаком Аварийной остановки?

Кстати, занимаюсь некропостингом, конечно, но знак аварийной остановки — бесполезная штука даже просто в городе, не говоря о таких трассах, как МКАД.
На МКАДе он и минуту не простоит даже днём, слишком уж незаметный для таких скоростей. Даже в обычных городских условиях он обычно «живёт» не более 15 минут по инфе от людей, которые постоянно занимаются оформлением ДТП. Нужно конусы с собой возить :)
Лежачий?
Вот это:
image
убер-автопилот тоже не распознает, и попытается проехать не снижая скорости?
Мне вот интересно, как все эти автопилоты реагируют на выбоины, особенно залитые по весне водой, когда о размере и характеру выбоины можно судить только по проваливающимся в неё впереди идущим машинам и по волнам, расходящимся по водной глади.

Это надо было тогда минимум за 70 метров её увидеть и мгновенно сообразить, что надо перед ней остановится. Я не уверен что даже 10 процентов водителей на такое способны, единицы.
А стоять после уже смысла не имеет и при этом опасно, и надеюсь вам не придёт в голову сдавать назад, будете подом сидеть, и думать как хорошо что жив остался, в отличии от того, кто вам влетит в зад, который вам не жалко.

Это надо было тогда минимум за 70 метров её увидеть и мгновенно сообразить, что надо перед ней остановится.

Для начала нужно сообразить сбросить скорость, чтобы было время на прочие размышления…
Т.е. зад машины важнее, чем лежащий человек на автомагистрали?

С тем же успехом могут въехать не в зад, а в вышедшего водителя.
Да даже если и в машину — последствия непредсказуемые. Массовое ДТП, например.
Разница в том, что водитель вжал бы тормоз, и велосипедистка (получив травмы) осталась бы жива. А убер-автопилот даже не собирался тормозить (тормоз позже нажала водитель, офигевшая от того, что убер-автопилот даже не снизил скорость и продолжал гнать).
Я бы не назвал голубые джинсы темной одеждой.
хоть немного опытный водитель-человек не ехал бы там 60кмч. точка.
Там прекрасно освещённое место. Она переходила под фонарями.
marks по какой-то причине игнорирует ссылки на записи других людей с места проишествия.
В итоге в каждой новости возникает такой вопрос как и у вас.
youtu.be/CRW0q8i3u6E?t=31
Разумеется для обычного водителя не составило бы проблем снизить скорость заранее.
Сама авария стала причиной появления дискуссии специалистов и обывателей о возможностях робомобили.


Текст писал нейронный сеть.
Точнее — плохо натренированный нейронный сеть.
Но в принципе не слишком понятны обсуждения. Водитель ответственный есть? Контроль за управлением не был нарушен? А о готовности именно ПО рассуждать обывателям, станет возможно лишь глядя на подробную статистику и логи, которые вряд ли будут в открытом доступе.
Вот смотрю я видео и честно могу сказать — я бы тоже ее сбил без всякого автопилота. Скорость была бы на результате ниже, но факт остается фактом.
А по факту когда распознавалки хорошо натренируют, то ситуация будет как с коробкой автоматической передач — будет действовать гораздо быстрее человека.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации

Истории