Comments 36
Епт, мы до сих пор не знаем что там сбойнуло у Убера в Тампе, а здесь еще «черные ящики».
Пока такая инфа, профессиональные программисты выставили криво фильтр. Из за чего машина начала игнорить важные объекты.
"Cамоуправляемый автомобиль Uber насмерть сбил велосипедистку в Аризоне из-за сбоя программного обеспечения, определяющего, какие объекты на дороге нужно игнорировать, а на какие обращать внимание. Об этом сообщили The Information источники, близкие к расследованию инцидента.
По данным собеседников издания, система не могла «не увидеть» велосипедистку Элен Херцберг перед столкновением, так как та находилась прямо перед лидаром («глазами» автомобиля) и передними камерами. Однако машина не стала сигналить и даже не снизила скорость.
Источники The Information пояснили, что во всём виновата часть программного обеспечения машины, отвечающая за логику после распознавания объектов. Чтобы самоуправляемая машина «не паниковала» при виде каждого нового препятствия, в систему заложили возможность на манер людей игнорировать какие-то незначительные вещи, например, припаркованный у дороги мотоцикл.
Cпециалисты вручную устанавливали чувствительность этой функции. И, похоже, что машина, сбившая велосипедистку, была настроена игнорировать даже те объекты, на которые должна была обращать внимание. Она распознала девушку, но не посчитала её присутствие на дороге причиной для остановки.
19 марта самоуправляемая машина Uber насмерть сбилавелосипедистку, когда та переходила дорогу в неположенном месте. За рулём машины был водитель, но он отвлёкся от управления на несколько секунд, как раз в тот момент, когда автомобиль ещё мог остановиться.
После этого Uber принесла семье погибшей соболезнования и договорилась о досудебном урегулировании инцидента. Все испытания самоуправляемых машин приостановили на неопределённый срок, а к расследованию подключились американские власти."
Во-первых, целлофановый пакет может залететь на лобовое стекло и закрыть обзор, что у неопытного водителя вызовет реакцию которая приведет к еще большим последствиям
Во-вторых, я как опытный водитель начну как минимум притормаживать оценив ситуацию сзади.
При любом раскладе, лучше робот начнет торможение и в жопу войдет другой автомобиль, чем ситуация которая произошла в данной истории.
Там проще. Вот так корпят-корпят суперпрограммеры над модулями распознавания, а какой-нить контрактор индус потом все это интегрирует через пень-колоду в единую систему. Вот так и работают все эти конторы разработчики, так называемых автопилотов с индусским ИИ.
Всегда можно упирать на статистику. Люди делают по трупу каждые x км, а наша система каждые 15X.
Люди несут ответственность за это. А кто несет в системе ответственность и каким образом?
Никто. Пора бы уже уходить от системы, в которой у каждого косяка есть виновный.
Ответственность — не главная ценность. Она вообще нужна только для того, что бы предотвращать инциденты в будущем. Поэтому малые дети и идиоты (в медицинском смысле) ответственности не несут — бесполезно, в предотвращении будущих инцидентов это не поможет.
Если реально в десять раз меньше аварий будет — это отлично, даже если вообще ответственности не будет. А она будет, как минимум финансовая (и это будет побуждать снижать количество аварий в сто раз).
Нейросеть можно по крайней мере дотренировать. Проблема пока в том, что способность к генерализации у существующих сетей отличается от человеческой. Ну и отсутствие мета-знания — знания о том, что сети известно, а что — нет.
Кроме того, насколько я знаю, высокоуровневые решения принимаются не нейросетью.
У человека есть предел, до которого его можно дотренировать. Не каждый будет Шумахером. Нейросеть, в теории, может быть и лучше.
Лучше было бы развивать это через помощь человеку. Т.е. добавлять такие вещи которые будут ненавязчиво помогать человеку вести машину, при этом ответственность о выборе будет все еще лежать на человеке. Что-то настолько простое, но эфективное и надежное, без чего со временем будет казаться невозможно. И тут целый простор для идей. Авто-парковщики. Помощь в соблюдении правил движения и скоростного режима, дистанции. Автодиагностика ТС. Те вещи которые можно было бы втыкать даже в бюджетную комплектацию. При этом сделать упор на визуальном информировании. Обкатать все это к тому же на экстремальных сферах типа спортивных.
Тогда пользователи смогут дать обратную статистическую связь и контролировать насколько эфективны те или другие алгоритмы. Так постепенно перехватывая автоматизмы от человека и прийти к автоматическим автомобилям.
Если же говорить о небольших населенных пунктах, удаленных от центров на десятки и сотни километров, то сколь-нибудь регулярное обновление просто невозможно.Очень даже возможно.
Необходимо, чтобы робомобили обменивались картами — один проехал по дороге (под контролем водителя), и любой другой после этого сможет проехать по ней же, попутно обновляя всем остальным информацию о близлежащих объектах.
Карты не содержат и не могут содержать информацию о безопасности участка дороги — а только о вещах вроде «по выезде из туннеля будет резкий поворот на 270 градусов» и «предыдущие авто проезжали этот участок в такую-то погоду с такой-то скоростью».
P.S. конечно, они могут содержать и информацию «там раньше стояло дерево», так что по его исчезновению АИ сможет предположить, что оно упало, и снизить скорость.
PS. Правка орфографии, сам не знаю как такое слово написалось.
Не нужно это богатым, не будет здравый человек так рисковать своей жизнью. Бедным тоже не нужно — т.к. дорого. Среднему классу — тоже не нужно, ибо некогда в это вникать, нужно деньги зарабатывать.
А всё чего ради?Например, ради:
+2-4 свободных часа каждый рабочий день каждому, кто ездит на своём авто на работу.
+свободные от припаркованных автомобилей пешеходные дорожки, так как авто сами возвращаются на свою стоянку.
-необходимость платить дальнобойщикам
-необходимость учитывать потребности водителей при проектировании грузовых транспортных средств. Кабина — не нужна, элементы безопасности — не нужны. В случае ЧП — смогут тормозить хоть с перегрузкой 500G, выстреливая якоря в дорогу.
+круглосуточная работа
Не будет робот выходить зимой на дорогу и одевать цепи на колёса. А вот даже персональный водитель, за грош цену — будетНи одному роботу не будет лень заехать на станцию одеть цепи. Ни одному роботу не захочется выпить горячительных напитков. Ни один робот не заснёт от усталости. Ни у одного робота не будет внезапных проблем с сердцем.
MIT и Toyota хотят освободить робомобили от картографической зависимости