Uber возобновил тесты своих робомобилей спустя девять месяцев после аварии со смертельным исходом



    Компания Uber вернула свои робомобили на общие дороги Питтсбурга. Машины с автопилотом появились на дорогах впервые за девять месяцев — испытания робокаров прекратились после аварии со смертельным исходом. Тогда роботакси с водителем-оператором сбило женщину в темное время суток. Жертва аварии переходила дорогу в неположенном месте, держа велосипед.

    Программное обеспечение робомобиля неверно оценило обстановку, приняв решение следовать далее, а не останавливаться. Сейчас, по словам представителей Uber, робомобилей станет больше, проект масштабируют. Но сам принцип тестирования изменился.

    Программа испытаний Uber стартовала в начале 2018 года, тогда роботакси компании выехали на дороги Питсбурга и Феникса. Несколько десятков машин с автоматическим управлением колесили по городам, накатав в тоге более 3 млн км в общем зачете.

    После аварии руководство компании Uber приняло решение остановить испытания робомобилей по всей стране, до момента, пока не будет прояснена ситуация, которая привела к аварии. Обновленная программа тестирования предусматривает увольнение большинства операторов робомобилей и работу с новыми специалистами.

    Изначально в тестах будет участвовать ограниченное количество робомобилей, причем в каждом, кроме оператора, будет еще один человек, который будет вести наблюдение за работой автопилота. Максимальная скорость транспортного средства изначально будет достигать 35 км/ч.

    По словам представителей корпорации, инженеры провели огромную работу по модернизации программного обеспечения автопилота и расширению его функций.

    Стоит отметить, что у Uber постепенно появляется все больше конкурентов. Недавно стало известно о скором запуске сервиса роботизированных такси от Daimler AG и Bosch. По словам разработчиков, запуск тестовой фазы запланирован на вторую половину 2019 года.

    Уже работает сервис роботакси Waymo One, который, впрочем, пока не слишком активен. Количество пользователей сервиса крайне ограничено, а регион работы — маленький.

    С течением времени, насколько можно судить, робомобилей на дорогах общего пользования будет появляться все больше, а системы автопилотирования постепенно станут совершеннее.
    Поделиться публикацией

    Комментарии 53

      –1
      Стоит отметить, что у Uber постепенно появляется все больше конкурентов. Недавно стало известно о скором запуске сервиса роботизированных такси от Daimler AG и Bosch. По словам разработчиков, запуск тестовой фазы запланирован на вторую половину 2019 года.

      Уже работает сервис роботакси Waymo One, который, впрочем, пока не слишком активен. Количество пользователей сервиса крайне ограничено, а регион работы — маленький.

      С течением времени, насколько можно судить, робомобилей на дорогах общего пользования будет появляться все больше, а системы автопилотирования постепенно станут совершеннее.
      Совершенно непонятно — по чему судить: по сказанному выше в статье, по прогнозам аналитиков, по расположению звезд? И откуда такая уверенность, что «системы автопилотирования постепенно станут совершеннее»? М.б. уткнулись в потолок и дальше, без кардинальной смены подхода, никаких серьезных совершенствований сделать невозможно?
        0
        Уверенность от того, что опыта нарабатывается всё больше, всё больше редких и особых ситуаций накоплено и учтено, больше миллионов километров наезжено, больше библиотек написано и протестировано и будет использовано в дальнейшем. А вот оснований говорить о достижении некого «потолка» пока не видно.
        Кроме того потребность толкает инвестировать в эти технологии и конкуренция подгоняет. Так что всё верно написано.
          +1
          В истории ИИ часто высказывалась подобная уверенность. Так в 1960х солидный московский н-т. журнал утверждал, что за текущую пятилетку ЭВМ будет сочинять стихи уровня Пушкина ;) Основания о «потолке»: за много лет нет ничего похожего на сильный ИИ.
            +1
            Интересно. Википедия говорит, что Путешествия Трурля и Клапауция из Кибериады (в одном из которых фигурировала машина, сочиняющая стихи) вышли в 1965 году.
            Это кто-то кого-то прочитал и вдохновился (Лем «солидный журнал» или наоборот — автор из журнала Лема), или подобные идеи на тот момент витали в воздухе?
              0
              Вроде, уже тогда были программы сочиняющие стихи выбирая случайную рифму.
              0
              > стихи уровня Пушкина

              А там в журнале не уточнялось в чём измеряется Уровень Пушкина? Может ЭВМ давно пишет, мы просто измерить не пытались
                0
                Не. Не уточнялось. М.б. можно измерять экспертной оценкой: собирают группу экспертов, и они оценивают. Нобелевки по литературе так присуждают.
                  +2
                  Я боюсь, если Нобелевки по литературе будут присуждать двойным слепым тестированием, нас ждет много сюрпризов безо всяких ЭВМ.
                    0
                    Нобелевки по литературе за инновациидостижения выдают, а не за уровень. Как сравнивать уровень разных стилей — не понятно. Ну или так: какой стих Пушкина самый высокий по уровню?

                    А формально надергать Пушкинских рифм Весна справлялась ещё лет 15 назад, не знаю уж как это оценивать. Подозреваю, что н-т. журнал именно этого ожидал.
                      0
                      не знаю уж как это оценивать.
                      ИМХО формально похоже, но не формально — полная неуловимость смысла.
                  0
                  Не знаю что там утверждал кто-то когда-то, но успехи машинного обучения за последние 10 лет более чем очевидны. Если утверждения кого-то из 1960х ваш единственный аргумент в пользу достижения «потолка», то он не убедителен :-)
                    +1
                    У ЭВМ появилось самосознание себя, как личности? Как у C-3PO? )))
                      +2
                      отож!
                      if(read() == "ты бот") write("сам ты бот! я личность! пи-пиу...");
                        0
                        Тест Тьюринга пройден! Зачет )))
                          0
                          тест тьюринга — он не про самосознание, а про имитацию.

                          Вы, кажется, хотите C3PO «чисто позырить». А практические задачи и без гуманоидизации приборов решаются
                        0
                        А зачем оно вам нужно-то, самоосознание это?
                          0
                          М.б. самосознание робомобилю и не нужно, но уровень Элизы явно недостаточен. Пока ИМХО ИИ гораздо ближе к Элизе, чем к C3PO.
                          0
                          А если оно не появилось, то всё, это уже потолок развития робомобилей?
                            0
                              0
                              Статья не так категорична: «Нейросеть превосходит результат человека в более чем 40 из 57 игр Atari». И даже в пределах уже достигнутого нейросетями можно сделать ещё много для улучшения качества управления робомобилями. И это вовсю делается. Они уже сейчас водят лучше среднестатистического гастарбайтера за рулём маршрутки ( если поделить число ДТП и ДТП со смертельным исходом на количество пройденных километров). К тому же у гастарбайтера только два глаза и нет лидаров, сонаров, ИК-зрения, GPS/GLONASS, задних и боковых глаз и много ещё чего. А у робомобиля есть и всё это ещё предстоит оптимизировать в использовании.
                                0
                                Да. И не только нейросети, но и другое ПО во многом превосходит человека :) Нпр.:
                                задача рассортировать несколько десятков тысяч слов по алфавиту для человека будет утомительной, делать он ее будет долго, а вероятность ошибок для среднего исполнителя со средним уровнем ответственности будет значительной. Современный компьютер выполнит эту задачу без ошибок за очень короткое для человека (доли секунды) время.
                                Но есть (пока?) еще задачи, которые компьютер решает заметно хуже человека. Нпр., распознавание, доказательство теорем и т.д. Дэвид Минделл в своей книге отметил, что
                                при всех посадках на Луну, начиная с Нила Армстронга, – все астронавты выключали автоматическую посадку и садились вручную, пользуясь при этом информацией бортового компьютера, аналогично было при посадке Шатлов на Землю

                                И про гугломобили:
                                Как это ни забавно, именно такая высокотехнологичная компания, как Google, в своей риторике шагает назад в XX век, архаически выставляя водителя пассивным наблюдателем. Их «новый» подход становится жертвой всех трех порожденных XX веком мифов о роботах и автоматизации: 1) автомобильная техника должна логически развиваться до полной, утопической автономности (миф о линейном прогрессе); 2) автономные системы управления освободят водителя от обязанности водить (миф замещения); 3) автономные машины могут действовать полностью самостоятельно (миф о полной автономности).

                                  0
                                  Вы как-то спорите обо всём и ни о чём. Я лишь опровергаю ваш тезис о некоем достигнутом «потолке», который, якобы остановит прогресс робомобилей. В рамках исключительно этого спора не понятно зачем вы написали весь предыдущий пост.
                                  Доказательство теорем для управления автомобилем не требуется. И среднестатистический водитель этим не владеет :-) Что касается посадки на Луну (как и на Землю и другие планеты), советские АМС и другие аппараты безупречно справились с этим ещё 50 лет назад без участия человека на аналоговой ламповой электронике. Думаю, в нынешних условиях это вообще не проблема.
                                  Упомянутые вами «мифы» так же спорны, т.к. это бездоказательные утверждения в стиле «компьютер никогда не сможет отличить кошку от собаки». Многие так думали, пока не увидели, что смог.
                                    0
                                    Вы как-то спорите обо всём и ни о чём. Я лишь опровергаю ваш тезис о некоем достигнутом «потолке», который, якобы остановит прогресс робомобилей.
                                    Я не спорю, а только задаю вопрос. По моим впечатлениям из приведенных источников прогресс ИИ не столь заметный, как, нпр., в области «железа». Если нет (или почти нет) прогресса в доказательстве теорем, да и в задаче «отличить кошку от собаки» процент ошибок заметный, то очевиден вопрос о потолке. Если Вам угодно выступить адвокатом робомобилей — я с интересом готов выслушать Ваши доказательства. Но доказывать Вам, а не мне. ИМХО изначально это должен был сделать автор обсуждаемой здесь статьи, но, к сожалению, статья больше похожа на рекламный проспект.

                                    Что касается посадки на Луну и т.д., то насколько я знаю советские АМС и другие аппараты управлялись операторами с Земли и сами решений не принимали. Для этого достаточно аналоговой ламповой электроники. Что касается мифов, то я указал их источник: в книге они не показались мне бездоказательными, тем более что автор сам участвовал во многих из упоминаемых проектов.
                                      0
                                      Задержка сигнала управления объектом на Луне около 2 секунд. На Марсе от 3 минут до 22 минут в зависимости от расположения планет. Так что никакие операторы удалённо сажать ничего на Луну и тем более Марс не могли. Только Луноходом удалённо управляли, но даже при его скорости это было проблемой. Попробуйте управлять хотябы велосипедом с задержкой управления 2 секунды.
                                      Доказывать вам прогресс робомобилей и Машинного Обучения вцелом (не люблю маркетинговый термин ИИ) как-то странно, когда каждый месяц читаешь о новых достижениях.
                                        0
                                        Так что никакие операторы удалённо сажать ничего на Луну и тем более Марс не могли.
                                        Почему не могли? Задержка была заранее известна и она учитывалась. Спутник подлетал к Луне и периодически отсылал телеметрию, на Земле в ЦУПе ее обсчитывали, давали команды тормозным двигателям для выхода на расчетную орбиту. Потом с Земли ее корректировали. Потом давали команду на торможение для посадки.

                                        как-то странно, когда каждый месяц читаешь о новых достижениях.
                                        Да, «достижения»: то робот в фонтане самоубился, то робомобиль пешехода сбил. Могу еще предложить тест на перевод, который можно проделать не отходя от кассы компа:
                                        Тест:
                                        Сегодняшние программы могут распознавать лица и записывать речь. У нас есть программы для обнаружения тонкого финансового мошенничества, для нахождения релевантных веб-страниц в ответ на неоднозначные запросы, для прокладки оптимального маршрута практически в любом месте, эти программы побеждают гроссмейстеров в шахматы и Go и переводят между сотнями языков.


                                        Прочитав до этих строк проделал любимый тест.
                                        Перевел в гугле приведенную цитату на английский:

                                        Today's programs can recognize faces and record speech. We have programs for detecting subtle financial fraud, for finding relevant web pages in response to ambiguous requests, for laying the optimal route almost anywhere, these programs defeat grandmasters in chess and Go and translate between hundreds of languages.


                                        А потом назад:

                                        Сегодняшние программы могут распознавать лица и записывать речи. У нас есть программы для обнаружения тонкого финансового мошенничества, поиска соответствующих веб-страниц в ответ на неоднозначные запросы, для оптимального маршрута почти везде, эти программы побеждают гроссмейстеров в шахматах и идут и переводят сотни языков.



                                        Не совсем плохо. Но заметная часть смысла испарилась. Такие вот достижения.
                                          0
                                          Если говорить именно о посадке на небесное тело с неровным рельефом, а не о манёврах на орбите, то неровности и высоты в месте посадки заранее не известны. Нужно тормозить и зависать в зависимости от реального рельефа, который измеряется радиовысотомером прямо здесь и сейчас. И терять 2 секунды во время этой эквилибристики не возможно (ещё раз подумайте о езде на велосипеде с задержкой 2 с). А следящие системы на аналоговых элементах (АВМ — аналоговые вычислительные машины) к тому времени строить уже вполне научились. (Пример тому — самонаводящиеся зенитные ракеты С-125 — ровесники АМС). И работали они лучше оператора-человека.
                                            0
                                            Луна-9:
                                            3 февраля 1966 года впервые в истории освоения космоса совершила мягкую посадку на поверхность Луны и впервые передала на Землю телепанорамы лунной поверхности.

                                            В контейнере установлены радиосистема, программно-временное устройство, аккумулятор, система терморегулирования и научные приборы. Четыре лепестковых антенны автоматически открываются после мягкой посадки. Они установлены на верхней полусфере лунной станции. Имелись также два надувных баллона-амортизатора, которые со всех сторон закрывали лунную станцию, чтобы смягчить прилунение

                                            М.б. программно-временное устройство было не сложнее, чем автоматика в стиральной машинке тех же лет. Но если знаете достоверные источники — будет интересно прочитать.
                                              0
                                              Да, контейнер — это шарик массой 100 кг, который был доставлен на поверхность. А мягко прилунял его полётный блок массой 1,5т: «Перелётный блок состоял из корректирующе-тормозной двигательной установки КТДУ-5А с четырьмя управляющими соплами, топливного бака из алюминиевого сплава в виде тора, и сферического бака окислителя диаметром 90 см, герметичного отсека системы управления, двух сбрасываемых навесных отсеков системы астроориентации и радиовысотомера больших высот». Вот система управления и совершала таинство мягкой посадки с помощью высотомера и системы астроориентации и КТДУ. А «программно-временное устройство» в шарике просто выполняло циклограмму — открыть лепестки, включить антенны, начать передачу сигналов и т.п
                            0

                            Сначала говорили, что бы играть в шахматы, нужно сознание (давно это было).


                            Потом — что бы отличать кошек и собак — оно уж точно нужно, слишком неформализуемые признаки. Это было лет 10 назад.


                            Что сознание нужно для компьютерных игр — уже никто не говорит. А вот сейчас вы намекаете, что оно нужно, что бы водить автомобиль. А нужно ли? Зачем?

                              0
                              А нужно ли?
                              Ok. Докажите, что не нужно :) ИМХО изначально это должен был сделать автор обсуждаемой здесь статьи, но, к сожалению, статья больше похожа на рекламный проспект.
                                0

                                Waymo докажет. На практике. Считаете, что нет? Ваше право, через 5 лет сравним. Лично я не вижу там ни одной функции, требующей мистической, неформализованной сущности "сознание", но для меня нейронки — это хобби, считаете, что я что-то пропустил?

                                  0
                                  считаете, что я что-то пропустил?

                                  Почему именно «нейронки»? Могут быть и другие подходы. А в существующих нейронках принципиальные проблемы, и пока неизвестно: решаемы ли они. Нпр.:
                                  Проверка адекватности обучения

                                  Даже в случае успешного, на первый взгляд, обучения сеть не всегда обучается именно тому, чего от неё хотел создатель. Известен случай, когда сеть обучалась распознаванию изображений танков по фотографиям, однако позднее выяснилось, что все танки были сфотографированы на одном и том же фоне. В результате сеть «научилась» распознавать этот тип ландшафта, вместо того, чтобы «научиться» распознавать танки[20]. Таким образом, сеть «понимает» не то, что от неё требовалось, а то, что проще всего обобщить.

                                  Тестирование качества обучения нейросети необходимо проводить на примерах, которые не участвовали в её обучении. При этом число тестовых примеров должно быть тем больше, чем выше качество обучения. Если ошибки нейронной сети имеют вероятность близкую к одной миллиардной, то и для подтверждения этой вероятности нужен миллиард тестовых примеров. Получается, что тестирование хорошо обученных нейронных сетей становится очень трудной задачей.
                                  Вики
                                    0
                                    PS Вопрос не только в том нужно ли сознание робомобилю, но и в том — может ли человек или группа людей создать сильный ИИ. Т.е. достаточно ли для этого человеческого сознания, ума и т.д.? Доказательство теорем — хороший пример. Факт, что из поколения в поколения математики успешно учат студентов доказывать теоремы. А научить этому ИИ никто пока не смог. Аналогично никто не может объяснить, как он распознает речь или картинки. Может ограниченность нашего ума, рефлексии — основная проблема для создания сильного ИИ.
                        0
                        Это как улучшить качество распознования изображений используя однослоный перспетрон и увеличивая выборку MNIST
                          0

                          А в чем конкретно проблема? Уж для MNIST однослойный перцептрон без проблем покажет человеческий уровень распознавания.

                            0
                            Человеческий уроверь распознования это 100%
                      +6
                      «спустя девять месяцев»…
                      Мне показалось, или они на самом деле попытались компенсировать убыль населения? )))
                        0
                        Допускаю, что перепуганное население будет десять раз глядеть нет ли вблизи на дороге робомобилей, и только если нет, то переходить. Повысится осторожность на переходах. Т.о. число жертв на дорогах станет заметно меньше)))
                          +1
                          Пока перепуганое население нападает на автомобили Waymo. Возможно из-за того что не хотят участвовать в тестировании насколько хорошо сработает автомобиль, если ты будешь катить рядом тележку и т.п.
                          +2

                          Емнип, недавно проскакивала информация, что все их автопилот верно распознал, а вот затормозить просто не смог по причине жесткого запрета на экстренное торможение.

                            +1
                            Занятно, если это правда.
                            Задолго до автопилотов на сложных алгоритмах с распознаванием изображения и множества параметров, машинного обучения и нейросетей Станиславом Лемом был написан рассказ «Ананке».
                            Суть такова:
                            На Марсе при посадке терпит крушение новый космический корабль, внезапно отказавшийся от посадки на малой высоте. Он управлялся бортовым компьютером.
                            В конце главный герой узнает, что компьютер обучал пилотированию знакомый ему человек, страшный педант и невротик, списанный за это с должности командира корабля. Этот параноидальный придира наобучал бортовой компьютер такому количеству всяких выдуманных на ровном месте аварийных ситуаций, такому скрупулезному анализу всех параметров посадки, что при первой реальной посадке компьютер попытался получить как можно больше информации и данных и заддосил сам себя, в последнюю минуту аварийно включив взлетный режим.

                            Если это правда, то ситуация не точно такая, но принципиально похожая.

                              +4
                              Любопытное совпадение. Выходит разработчики NASA, не имея возможности прочитать Лема (1971 г.), тем не менее предсказали и решили подобную проблему в 1968 г.
                              Суть такова:
                              У Маргарет Гамильтон есть несколько конкретных заслуг. Одна из них имеет прямое отношение к высадке спускаемого модуля «Аполлона-11» с Нилом Армстронгом и Баззом Олдрином на борту. Незадолго до его приземления на лунную поверхность компьютер модуля начал выдавать одну ошибку за другой. Он начал выполнять больше операций, чем был способен обработать, хотя должен был сосредоточиться исключительно на приземлении модуля с первыми людьми на Луне. Благодаря настойчивости Гамильтон и других программистов команды NASA программное обеспечение было написано таким образом, что позволяло компьютеру заняться наиболее важной в данный момент задачей — высадкой — и не обращать внимание на выскакивающие ошибки. В итоге модуль успешно сел, а Армстронг первым в истории человечества ступил на поверхность Луны.
                                0
                                Можно только поражаться, что Лем угадал проблемы, которые будут актуальны при современном развитии роботизации. К сожалению, Минделл не упоминает Лема, а могли бы быть интересные параллели. Если относится к выдуманным Лемом ситуациям как к моделям, то многие из них подтверждают утверждения Минделла.
                                См. подробнее. И там про еще одну опасность:
                                робот, зараженный вирусом, может совершать крайне неадекватные и опасные действия
                              0
                              > Обновленная программа тестирования предусматривает увольнение большинства операторов робомобилей и работу с новыми специалистами.

                              Там вот так прямо в оригинале и написано?
                                –2
                                Эх… Жалко в Питтсбурге запустили, а не у нас в Филадельфии. Я бы только на беспилотных и катался. Ну ничего, подождём. ))
                                  0

                                  Предлагаю на того человека, который сидит в водительском кресле и готов в любой момент перехватить управление, навесить монитор сердечного ритма и микрофон. Если внезапно или ритм подскочит, или человек заорёт "АААААААА" — автопилоту реагировать.

                                    0

                                    И ещё за мордой лица его следить: не спит ли, не читает ли.

                                    0
                                    А еще разгоняться быстрее 40 км/ч они будут иметь право только если в машине сидят два сотрудника Uber которые контролируют машину.

                                    Наконец то до них дошло.
                                      –1
                                      Такси с водителем спокойнее, человек более адекватен, чем программа, и плюс подсуден за неадекватные действия (т.е. может получить срок и знает об этом). А так выскочит этот uber на встречку, а владельцы только скажут: ой, извините, ошибка программы, уголовной ответственности никто не несет. В лучшем случае компенсируют семье погибшего похороны.
                                        0
                                        А так выскочит этот uber на встречку, а владельцы только скажут: ой, извините, ошибка программы, уголовной ответственности никто не несет. В лучшем случае компенсируют семье погибшего похороны.
                                        То есть, сейчас люди не нарушают ПДД и умышленно не выезжают на встречку?
                                          0

                                          В России 20 тыс смертей в ДТП в год, 200 тыс травм. Не знаю, все ли участники были адекватные и подсудные, но, похоже, это не настолько надёжно работает, как вы утверждаете.

                                          0
                                          Изначально в тестах будет участвовать ограниченное количество робомобилей, причем в каждом, кроме оператора, будет еще один человек, который будет вести наблюдение за работой автопилота.

                                          Теперь вместо одного водителя — у нас 2 водителя! Оператор автопилота и контролер оператора автопилота. Ждем введения должности борт-программиста-автопилота и борт-механика-автопилота. А 4 человека — это уже маленький отдел, и любому отделу, как известно, требуется начальник отдела. Как раз 5-ро в машину влезают…
                                            0
                                            Когда появились первые автомобили, то были специальные люди, которые шли впереди автомобиля, ибо мало ли.

                                          Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                          Самое читаемое