Автопилот электромобилей Tesla плохо распознает велосипедистов



    Илон Маск уже несколько лет активно работает над тем, чтобы электромобили его компании стали колесить по дорогам всего мира. Надо сказать, что у него неплохо получается, хотя бывают, конечно, и неудачи. В любом случае, капитализация Tesla Inc. составляет сейчас около $54 миллиардов. Частью успеха компания обязана технологии Autopilot, которая позволяет водителю на короткое время снять с себя управление, отдав его компьютеру. Автопилот достаточно хорошо справляется с определением различных препятствий и в случае необходимости электромобиль может быстро ликвидировать потенциально аварийную ситуацию на дороге. Но есть у него и проблемные места. Одна из проблем известна многим — это влияние ярких солнечных лучей на способность системы «видеть», что происходит вокруг.

    Есть и менее известная, но важная проблема. Речь идет об идентификации автопилотом на дороге велосипедистов. По мнению Хизер Найт, специалиста по интерфейсам типа «человек-робот», у Tesla есть одна проблема — велосипедисты по какой-то причине игнорируются автоматической системой управления автомобилями. Исследователь изложила все подробности в работе «Tesla Autopilot Review: Bikers Will Die». Название, конечно, претенциозное и вовсе не научное, хотя интересные моменты там есть.

    Найт, в частности, описывает детали своей поездки на Tesla с включенным автопилотом и на реакцию системы на проезжающих мимо велосипедистов. Как оказалось, работа системы в этом отношении оставляет желать лучшего. А ведь велосипедисты, предпочитающие дороги обычного пользования, рассчитывают на внимание водителя или автопилота. Конечно, рассчитывают, в противном случае по дорогам никто бы из них не ездил. Но автопилоту, похоже, слишком рано доверять жизни всех любителей своих велосипедов.


    Да, автопилот работат отлично большую часть времени, отведенного на путешествие по южной части Калифорнии. Но вот реакция системы на велосипедистов «пугает», как написала Найт. Она считает, что система компьютерного управления электромобилей Tesla игнорирует большую часть велосипедистов, встречающихся на дороге, а значит, подвергает их жизни опасности.

    «Я считаю, что Autopilot правильно оценивает количество и поведение находящихся рядом других автомобилей (примерно 30% окружения) и лишь 1% — велосипедистов», — говорит Найт. Она также добавила, что пока не может сказать, «видит» ли автопилот велосипедистов или нет. Тем не менее, рекомендация, которую она дала владельцам Tesla, звучит несколько неожиданно: «Никогда не включайте автопилот рядом с велосипедистами!».

    В Сети практически нет информации о том, случались ли инциденты у электромобилей Tesla с велосипедистами. Зато был один случай, который произошел в Норвегии в 2016 году, который, по мнению Найт, показал обнаруженную ею проблему компьютерной системы Tesla: автопилот просто не распознал мотоциклиста, в результате чего произошло ДТП и он получил повреждения.

    После публикации этой информации данными о способности программно-аппаратной платформы Tesla распознавать велосипедистов на дороге поделилось издание Wall Street Journal. Уже после этого стали появляться сообщения о том, что автопилот все же в состоянии идентифицировать велосипедиста на дороге. Один из владельцев Tesla рассказал, как электромобиль помог ему избежать столкновения с велосипедистом, который ехал, буквально уткнувшись в мобильный телефон, ни на что больше не обращая внимания.

    Исследовательница заявила, что ей нравится Tesla. По ее словам, она старается обратить внимание, в первую очередь, на проблемные места, а затем уже хвалить систему.



    Стоит отметить, что сама компания не рекомендует кому бы то ни было бросать руль по среди дороги и начинать расслабляться в машине. Нет, Tesla Inc честно говорит о том, что функция автопилота — это только кратковременная помощь водителю, вся ответственность за происшествия на дорогах лежит на человеке, а не компьютера.

    Ранее компания заявила о том, что во втором поколении автопилотов Tesla будет присутствовать функция полностью автономного управления. Несмотря на то, что этой функции пока нет, водители стали более активно использовать автопилот, не обращая внимания на предупреждение. В свете этих событий странно обвинять компьютер в том, что он не слишком хорошо реагирует на велосипедистов или мотоциклистов. Некоторые специалисты считают, что проблема вовсе не в автопилоте, а в водителях, которые используют эту систему не по назначению.

    Сейчас идет «доводка» системы, после чего она, скорее всего, будет различать объекты на дороге более качественно. Ну а до того момента водители должны сами следить за всем, что происходит по ходу движения. Не зря в руководстве Tesla говорится о том, что водителям не рекомендуют снимать руки с руля во время поездки — всякое может случиться, а система автопилотирования пока вовсе не идеальна. Что касается функции автономного автопилота, то она появится не ранее, чем в конце года.
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 55

      –3
      В какой-то статье по Тесле уже всплывало обсуждение — выпускать фичу с таким названием, это всё равно что выпускать ложку и заявлять, что «вы ею только суп не ешьте, она только для макарон предназначена». Назвали Autopilot — люди и пользуются как автопилотом.
        –2
        Если у Вас родится ребёнок — он же будет полноценным человеком и гражданином своей страны? Что мешает посадить его за хулиганство, если он разбил камнем витрину?
          0

          Что-то я вообще не понял у чему это

            0
            Сами же употребили специальное слово — родился «ребенок». «Взрослым» он станет (и будет называться) уже потом.
            +3
            Видов ложек весьма дофига, и суп можно етсь далеко не всеми. И существующие автопилоты никогда не были чем-то более сложным чем автоматоны для поддержания курса и простых операций.
              0

              Не буду разводить очередной срач, там это всё уже проходили. Если коротко — я с этим согласен, но для многих автопилот это "та штука, которая сама водит"

                0
                Согласен с формальным определением автопилота.

                Но блин. Вот уже в статье появляется «автономный автопилот», как противопоставление текущему «автопилоту». Что дальше? «Полностью автономный автопилот», «идеально автономный автопилот»?
                  +1
                  по аналогии с комиксом xkcd про телескоп:
                  Абсолютно автономный автопилот
                  Бесконечно автономный автопилот
                  Автопилот опустошения
                  Окончательный автопилот
                    0
                    Автопилотный автопилот :)
                      0
                      Самостоятельный автономный автопилот водитель.
                        0
                        Звучит как название товара на Aliexpress
                        0
                        Робомобиль?
                    +2
                    Проблема с видимостью в ярких лучах есть и у живых водителей, не?
                      +1
                      Разница есть, живой водитель понимает что его слепит солнце и впереди может быть то чего он не видит, автопилот же просто ничего не видит.
                        +2
                        Понимание помогает не всем.
                        http://news.ngs.ru/more/50389211/
                          0
                          Это компенсируется тем что живой водитель может отвлечься на кучу вещей кроме солнца. Девушка в короткой юбке, другое ТС, банально задуматься.
                            +2
                            Автопилот тоже может понимать, что о данной зоне достоверной информации нет, надо снизить скорость и в нее стараться не заезжать. Проблему не полной информации при сбоях датчиков специалисты по ИИ еще в прошлом веке рассматривали.
                              0
                              Да я в общем-то теоретизировал, честно говоря не понимаю как вообще может появиться проблема «засвета», там же не только камеры но и радары/лидары всякие, так что о «препятствии» информация в любом случае должна прилететь, разве что точная идентификация будет затруднена, но это уже не столь критично.
                                0
                                Я могу ошибаться, но я так понимаю алгоритм работы.
                                К примеру камера является основной, а остальная картинка уточняется уже после анализа информации с камеры/лидара… или что там впереди планеты всей. Вычислительные ресурсы явно ограничены и в начале нужно выделить нужные объекты и потом следить за ними. При этом вполне возможно, что пока не выделится информация (к примеру) с камеры остальная информация будет проигнорирована или проанализирована позже, с существенной задержкой. Лидар тоже может быть засвечен отражениями от асфальта судя по инету.
                              0
                              Нет разницы, автоматике ничего не мешает оценивать достоверность данных датчиков еще надежнее, чем человеку. И на ютубе есть достаточно видео, где люди гонят\обгоняют в тумане, и что из этого выходит.

                              Другое дело, что производитель может плохо реализовать такую оценку, посчитав данные радара 100% достоверными, а потом машина видит свободную дорогу между колесами фуры и…

                              Но это хотя бы можно чинить. Ставить больше датчиков, усложнять и стандартизировать тесты, много всего. А вот людям зашивать в голову уже выстраданный набор практик — пока получается плохо.
                                0
                                Автопилоту солнце вроде мешать же не должно, там свой излучатель и уловитель
                              0
                              Распознавание велосипедистов от Яндекса
                                +4
                                Ну так себе распознание, метров на 50 работает максимум. А остановившегося велосипедиста в конце ролика вообще проигнорировало.
                                • НЛО прилетело и опубликовало эту надпись здесь
                                    0
                                    Скажите пожалуйста, а почему приложение для распознавания велосипедистов должно «замечать» машины?
                                    • НЛО прилетело и опубликовало эту надпись здесь
                                        0
                                        Потому что видео подписано Cyclist?
                                    0
                                    На первом кадре я вижу цифры 89 и 128. А остановившийся велосипедист, согласно логике, и есть неподвижное препятствие на дороге. На сколько понял из обсуждения этого ролика, проблема ПО «Теслы» именно в том, что оно не распознает двухколесный транспорт как участников движения, точнее, в очень малом количестве случаев распознает.
                                      0
                                      Если вы про цифры на баундбоксе, то они вообще непонятно что обозначают, поскольку прыгают с 60 до 120 и обратно.
                                      0

                                      Ну невозможно же опознать велосипедиста в пятне из сотни пикселей.
                                      Тем более, что и формально, и по сути тот стоЯщий велосипедистом и не являлся.
                                      Это пешеход.

                                      0
                                      а что значат циферки над велосипедами?
                                        +11
                                        Здоровье.
                                          0
                                          У едущих по встречке его, должно быть, очень много.
                                          0

                                          Возможный лут.

                                          0
                                          Видео мало что демонстрирует.
                                          За городом, при малом трафике, дороги полупустые, по обочинам мало что есть.
                                          Вот если бы в городе, в трафик большой, когда по обочинам насаждения, столбы и прочая объекты инфраструктуры, когда людей много, и велосипедисты тоже близко к обочине…
                                          Мне кажется, основная проблема, что у Яндекса будет, что у Теслы и кого угодно — это определить, что это именно велосипедист, а не пешеход на том же тротуаре рядом. Что он участник дорожного движения. Расстояние между велосипедистом и человеком на тротуаре порой метры, а то и менее, скорости их относительного движения тоже могут быть примерно равны (особенно если учесть, сколько сейчас на скутерах, скейтах и прочая колёсах), и задачка не такая простая в общем виде.
                                          В современных городах человек слишком часто переходит туда-обратно границу тротуар-дорога, и становится полноценным участником на дороге. Бегуны по обочине тоже та ещё проблема… Как выделить именно велосипедистов? И стоит ли выделять именно их?
                                          Просто надо научить автопилот не сталкиваться с таким классом целей. Это, имхо, самые непредсказуемые на дороге объекты.
                                          –1
                                          Как я понимаю, в отличие от других компаний, тесла разрешает убрать руки с руля на продолжительное время и вместо того чтобы сделать как у других (функция отключается если руки убраны на более 10 сек), проще втирать людям понятие «У нас есть автопилот, но не полноценный автопилот, поэтому вы в отвечаете если что.»
                                            +1
                                            По мнению Найт, водители имеют право знать об ограничениях автопилота. Tesla принимает меры к тому, чтобы так и было: компания постоянно напоминает, что это вспомогательное средство, и что водитель в любом случае должен держать руки на руле, наблюдая за дорогой. Если водитель снимает руки с руля на продолжительное время, автопилот отключается и не возобновляет работу до остановки машины.
                                            Подробнее: http://www.cnews.ru/news/top/2017-05-30_vse_bajkery_umrut_avtopilot_tesla_ne_schitaet
                                            +1
                                            Она также добавила, что пока не может сказать, «видит» ли автопилот велосипедистов или нет

                                            Т.е. новости как-бы и нет?

                                            Помнится у MB с адаптивом от Bosch'а была конкретная проблема:
                                            Датчик терял мотоциклиста при дистанции меньше 2х метров.

                                            Думаю и в данном случае протестировать можно, используя манекен прицепленный через мягкую сцепку к впередиидущему ТС.
                                              0
                                              TLDR. Хотелось бы знать какой процент среднестатических водителей в тех же условиях заметит велосипедиста. По крайней мере у нас т.н. «водители» столь волшебноглазы, что не увидят и КАМАЗа.
                                                +1
                                                Велосипедистов правда плохо видно, особенно вечером, и часто они едут змейкой или резко ускоряясь/оттормаживаясь. Мне тоже случалось сбивать велосипедистов, причем пешком.
                                                +2
                                                Странно как-то. Велосипедист, вроде, не настолько маленький объект чтобы он мог «потеряться» для автопилота. Я так и не понял — из чего автор сделала вывод что автопилот не видит велосипедов? Там есть какой-то экран который показывает распознанные объекты?
                                                  0
                                                  Велосипедист существенно прозрачный)
                                                  –1
                                                  Мне вчера под колеса бросилась белка. Автопилот ее точно не заметил бы.
                                                    +1
                                                    А зачем ему её замечать? Чтобы не поскользнуться что-ли? :) Так это уже дело ESP)
                                                      0
                                                      Чтоб не было ДТП. Животное же может быть и покрупнее белки. Столкновение на приличной скорости может привести к смерти животного и поломке авто в т.ч.
                                                        0
                                                        Хотя бы из соображений гуманизма — белка хоть и дура, но существо живое. Вместо белки могла быть собака весом около 15-20 кг или даже маленький кабан весом 60-80 кг. При столкновении с такими животными простым «поскользнулся» дело может не обойтись.
                                                          0
                                                          Не стоит на дороге делать поправки на бегущих белок или даже собак (если вы не на мотоцикле, конечно). Потому что потом этот «гуманизм» может очень печально закончиться. Постоянно случаются аварии в стиле «выбежала собака — крутонул руль чтобы объехать — в кювете 4 трупа, собачка убежала». Или «затормозил перед собакой — фура едущая сзади манёвр не оценила». Поэтому, большого смысла в распознавании белок нет. Вот маленький кабан — тут да, есть опасность и себе, но фигура такого размера, по-идее, и так обязана быть распознанной, если не в виде животного то в виде огромного камня так точно.
                                                            0
                                                            Мы же говорим не о человеке, который может спонтанно крутануть руль, а о автоматической системе, которая может принять правильное решение, если вовремя обнаружит опасность. Если велосипедист не распознается, то кабанчик еще более мелкий объект и менее предсказуемый. Его тушка может быть выброшена ударом на встречку в лобовое стекло другого автомобиля.

                                                            Раздавленная белка, еж или голубь представляют опасность для двухколесных ТС, особенно если их тушка лежит на крутом повороте.
                                                      0
                                                      Статья ни о чем. Не было собрано никаких реальных данных, а саму стаью нужно было назвать — «мои впечатления после 1 дня езды на тесле»
                                                        0

                                                        да я все время велосипедистов и мотоциклистов как увижу рядом так сразу перехожу в режим напряга
                                                        пока минимум 100 метров от него не отъеду.
                                                        Часто замечал что реально ниоткуда появляются, так что думаю что видит автопилот их плохо, но лучше чем человек

                                                          0

                                                          Нашел картинку получше качеством, тут видно, что велосипедист как бы за пределами дороги (справа после линии там где велосипедист, видно лавочку, явно не дорога). Для полноты картины не хватает реакции на велосипедиста уже на полосе дороги

                                                            0
                                                            Эта картинка вряд ли имеет что-то особенно общее с «исследованием», поскольку является стоп-кадром из агитки Tesla.

                                                            И на этой же агитке видно, что автопилот вполне себе определил велосипедиста. И как объект по траектории движения (на перекрестке), и как просто объект.

                                                            ps. хотел вставить видео, но не смог, простите.
                                                              0
                                                              Я видео видел. Но вот результаты исследования (если оно было) в материале при беглом изучении я не нашел, эта статья на них тоже не ссылается. Нашел только это:
                                                              Найт, в частности, описывает детали своей поездки на Tesla с включенным автопилотом и на реакцию системы на проезжающих мимо велосипедистов. Как оказалось, работа системы в этом отношении оставляет желать лучшего.
                                                              Ни логов, ни видео с регистратора (не знаю, что насчет их установки в авто в стране проживания исследователя), ничего доказывающего. С другой стороны, как вы правильно заметили, на стоп-кадре из видео теслы, велосипедист распознался. Кому больше верить — неясно
                                                            0

                                                            Autopilot’s agnostic behavior around bicyclists to be frightening


                                                            И это то, что написано в оригинальной статье, с указанием, что Тесла распознает один процент велосипедистов.
                                                            Вообще непонятно какое такое пугающее поведение у машины и как она насчитала 1%.

                                                              0
                                                              После вашего комментария пошел читать оригинальную статью. Вот этот абзац:

                                                              A+ [SITUATION AWARENESS DISPLAY] — this display helps the human drivers have a mental model of what the car sees. I’d estimate that Autopilot classified ~30% of other cars, and 1% of bicyclists. Not being able to classify objects doesn’t mean the tesla doesn’t see that something is there, but given the lives at stake, we recommend that people NEVER USE TESLA AUTOPILOT AROUND BICYCLISTS! this grade is not for the detection system, it’s for exposing the car’s limitations. a feature telling the human to take over is incredibly important.


                                                              То есть:
                                                              1. Тесла в режиме автопилота выводит на экран картинку с дорожной обстановкой. Видимо, вот эту:
                                                              image
                                                              2. На этой картинке по прикидкам автора статьи показывается примерно треть автомобилей и почти никогда не показываются велосипедисты.
                                                              3. Сама автор не в курсе, что бы это значило, но опасается.

                                                              В общем, заголовок желтушный, а реальной информации — ноль.

                                                            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                            Самое читаемое