Pull to refresh

Comments 160

Ну всё. Если это полные беспилотники, i.e. без какого-либо контроля со стороны человека, то привет, ДТП, которых внезапно станет в стопицот раз больше и все новые ДТП будут как раз с участием этих самых полных беспилотников.
В некотором смысле вы правы, только вот ДТП будут происходить по причине «ух ты беспилотный автомобиль, а что будет если его подрезать?» и подобным провокациям со стороны других участников движения.
Не думаю что обычные пешеходы, в худшем случае ставшие инвалидами благодаря этим полным беспилотникам, а в лучшем случае отправившиеся благодаря этим полным беспилотникам в морг (я не оговорился, в морг отправиться гораздо лучше чем остаться инвалидом на всю жизнь, говорю это как вот уже 20 лет инвалид после столкновения правда не с беспилотником, а с вполне себе «пилотником») попадут в ДТП из-за того что будут подрезать эти безмозглые гробы на колёсах.
Немного странно, на мой личный взгляд, что вы так скептически относитесь к беспилотникам после происшествия именно с «пилотником».
Простите за жестокость, но я не могу не спросить после таких категорических высказываний с вашей стороны.
Вы утверждаете что смерть лучше инвалидности.
При этом вы сами почему-то уже 20 лет предпочитаете инвалидность смерти.
Как так?
Это вы об инвалидности решили по этому его комментарию?
Некогда мне Git изучать, работать надо


Тем не менее, отвечу: эвтаназия запрещена во многих странах, а другой способ «решения» проблемы некорректен.
А мне что, надо было в открытую кричать о том что я уже 20 лет как инвалид, нигде не работаю и всё моё занятие только в том, чтобы сидеть и ностальгически читать хабр? Нет, я создавал хотя бы видимость что я «как все», что я нормальный. Я и тут-то десять раз подумал прежде чем открыться. Но всё же открылся. Потому что всё что связано с автомобилями для меня 20 лет как реально больная тема, а уж с автомобилями которые давят всех подряд ездят сами по себе тем более.
Попробуйте взглянуть на проблему с другой стороны. Для людей с тяжелой формой инвалидности, не позволяющей водить а/м, наконец-то появится возможность ездить на персональном авто самостоятельно.
А есть статистические данные про беспилотных автомобилей которые «давят всех подряд»?
Вопрос из серии «А есть статистические данные сколько колонизаторов Марса были съедены заживо марсианскими чудовищами?»

Вот когда беспилотные автомобили будут не в проекте, а будут спокойно разъезжать по дорогам, тогда и появятся такие статистические данные. А пока естественно таких данных нет и быть не может. Просто надо немного вдаль смотреть и о будущем думать, а не только о сиюминутном хайпе «Вау! Беспилотный автомобиль! Круто!»
А почему вы так агрессивно реагируете? Мне просто очень интересно узнать ваше мнение, почему вы опасаетесь беспилотников. Я то думаю, как и наверное большинство здесь, что автомобиль который не подвержен эмоциям, постоянно контролирует скорость/ускорение, не устает после рабочего дня и не сонный утром на 99% искореняет аварии вина которых будет лежать на стороне автомобиля.
Хотелось бы услышать аргументированное мнение ваших опасений насчет БПА.
Я не предпочитаю. Просто считаю что лучше бы меня в своё время машина сбила насмерть. Нет, безусловно ещё лучше чтобы меня машина не сбила вообще, но если уж сбила, то лучше бы насмерть. Потому что инвалидом быть это намного хуже. Во всяком случае тут, где пандусы начали делать хорошо если лет 10 назад и то далеко не везде, где половина лестниц с перилами, а половина без — как хочешь, так на них забирайся или с них сползай, где зимой дороги не чистят, а пройти по льду или по снегу, который под ногами разъезжается невозможно чисто физически, где Собянин выложил весь город плиткой, которая в отличии от асфальта в холодное время года превращается в поверхность катка, а не в дорогу, где для того чтобы сойти с тротуара надо подождать какого-нибудь прохожего и попросить его помочь потому что самому сделать шаг с «огромной высоты» бордюра начиная от 5 сантиметров и выше и при этом не упасть — нереально (да, для вас «прямоходящих» высота 5 сантиметров это фигня, а для меня вот нет!) и т.д.

PS: минусите, минусите дальше. Не забудьте ещё и карму регулярно сливать. Вам, прямоходящим, никогда не понять понять инвалидов и их проблемы. Как и мне тоже это было непонятно ровно до тех пор, пока сам инвалидом не стал. Так что продолжайте минусовать, это не так страшно, как быть инвалидом. Вернее эти ваши минусы это не ничто, пшик по сравнению с инвалидностью.
Да нет, ваши проблемы вполне понятны.
Я, кстати, тоже считаю что в ряде случаев смерть лучше инвалидности.
Правда я считаю что только овощная инвалидность хуже смерти, потому что остаешься неспособным ни на что, лишь обуза для близких, а не любая инвлидность.
Но минусуют вас не потому, что не понимают ваших проблем. А потому что вы категорически высказываете очень странные мысли. Например, что беспилотники будут сбивать людей чаще, чем водители.
Это очень странное утверждение. Сейчас часто сбивают по трём причинам:
1) Водитель мудак
2) Пешеход идет напролом, думая что водитель «не трамвай, объедет», не понимая как реально выглядит дорожная сиутация со стороны водителя.
3) Пешеход мудак

Так вот. Беспилотники убирают две первых причины. Первую убиранием водителя. Вторую — потому что пешеходы не смогу полагаться на «умность водителя», как с поездом. Нарушил — тебя собьет. Не объедет, не затормозит — собьет.
Ну а если пешеход мудак — то какая разница водитель или автопило его собьет?
Не объедет, не затормозит — собьет.

Ну я думаю скорее всего будет как в правилах все же — экстренное торможение. А не как сейчас часто водители пытаются увернуться, зачастую только усугубляя ДТП.
Безусловно автопилот не поезд. Но я надеюсь, что в общественном сознании закрепится, что автопилот не человек и в любом случае виноват будешь ты, если кинешься под автопилот. Надеюсь, что это изменит отношение к переходу в неположенном месте.

Проблему перехода у неположенном месте решит только адекватная установка положенных мест, а не по переходу на 500 метров. Где люди массово переходят — это идеальное место для установки пешеходного перехода, а не где в голову кому-то пришло. Беспилотники не решат эту проблему, но могут усугубить, если их ПО будет исходить из того, что все соблюдают правила. Будем надеяться, что ПО будет исходить из того, что любой может нарушить правила и нужно быть к этому готовым (держать расстояние, снижать скорость при виде пешехода, рассчитав путь торможения и т.д.). Но сами по себе беспилотники — однозначно благо, особенно в качестве такси)

Проблему перехода у неположенном месте решит только адекватная установка положенных мест, а не по переходу на 500 метров.

Около работы наземный переход со светофором, в 50 метрах от него — подземный переход. Но приличная часть людей переходит улицу в рандомном месте, а не с помощью переходов.
Вам, прямоходящим, никогда не понять понять инвалидов и их проблемы. Как и мне тоже это было непонятно ровно до тех пор, пока сам инвалидом не стал.
Да при чём здесь это? Просто вас сбил человек, а атакуете вы беспилотные автомобили — за непоследовательность и минусуют.
Если бы я вступил в какое-нибудь сферическо-ваккумное общество «Антидроид» или «DROIDLESS» и выкрикивал тут их лозунги тогда да, можно было бы сказать что я именно атакую беспилотные автомобили. А так я вовсе не атакую, я просто выразил своё мнение. У нас ведь свобода слова пока что, не так ли?

Автопилоты на спутниках? Ничего не имею против, в космосе вообще врезаться некуда. Автопилоты на самолётах? Тоже ничего не имею против — при таком трафике как при полётах столкнутся с чем-то, а тем более с кем-то нереально. Но автопилоты на автомобилях, при нынешнем автодвижении, при нынешних пробках, при нынешних «а это мы объедем по обочине»… Тут и человек-то не всегда адекватно вырулит и избежит ДТП, а уж автопилот точно не сможет.

Минусуйте и дальше, я своё мнение не изменю.
Автопилоты на самолётах? Тоже ничего не имею против — при таком трафике как при полётах столкнутся с чем-то, а тем более с кем-то нереально.

Вы удивитесь, но 3-4 самолета на ВПП при посадке - это просто 12-ти бальные пробки в автомобильном мире.

У нас в городе есть регулярные случаи с опасным вождением (ака шашечки), несоблюдением скоростного режима, дрифтами и тому подобными вещами. Уверен, такое есть в любом крупном российском городе.
Считать надо, что будет в целом безопаснее: не совсем развитые слабые ИИ, или живые водители, в т.ч. такие, как из моего первого абзаца.
Мне при всем при этом не нравится только приоритет безопасности объектов, чем-либо похожих на пешеходов, а не пасажиров (которые за это платят).
Я не удивлюсь если перед таким беспилотником выкинуть (надуть пиротехникой) резиновую куклу, то этот интелект в безвыходной ситуации спасая куклу пожертвует жизнями пасажиров.
Беспилотники водят на порядок лучше чем человек в определенных условиях. Да, у них есть достаточно много ограничений. Но беспилотник не сложно запрограммировать эти ограничения соблюдать, в отличие от человека. Так что там, где будут ездить беспилотники ДТП будет как раз в разы меньше, а не больше. Беспилотник не поедет пьяный, не превысит скоростное ограничение, не будет вести машину одновременно смотря фильм и говоря по телефону, не попытается «научить» водить другого водителя и не будет «подгонять» пешеходов переходить дорогу. Если беспилотник увидит по диагностике что у него что-то неисправно, то либо никуда не поедет, либо поедет до сервиса со скоростью киллометров в 5 (зависит от программы). Это человек может понадеяться на авось и гнать за сотню в городе с неисправными тормозами. Не стоит бояться непонятных беспилотников, гораздо разумнее опасаться уже известных человеческих водителей.
Вот произошла авария, подходишь к авто, а там нет никого…
Что же делать в правовом плане.
Вот у меня есть водительское удостоверение, а вот у беспилотника что есть?
Номер, по которому можно определить владельца?
Что же делать в правовом плане.

Звонить в ГИБДД. Не в саппорт же Яндекса писать.

а вот у беспилотника что есть?

Запись с камер с круговым обзором и куча телеметрии.
Запись с камер с круговым обзором и куча телеметрии.

Если я поставлю такое на машину, права мне не нужны уже, да?

В плане — у меня есть право водить ТС, закреплённое экзаменами и тп, у беспилотника оно есть, это право?
UFO just landed and posted this here
у беспилотника оно есть, это право?

Беспилотник не наделен собственной волей. Зачем ему право? (право, не «права» в смысле водительского удостоверения). Кстати, ваше право водить тс закреплено законодательством, а не экзаменами. Сдача экзаменов подтверждает, что вы выполняете требования законодательства.

Так же и с беспилотниками примут законы и всё. Там уже будет конкретно написано, каким требованиям должен соответствовать автопилот.
На заводах, где стоят роботы на сборочных конвейерах, кто сдаёт технику безопасности и получает доступ в цех — эти самые роботы или люди? По вашей логике и самолётам на автопилоте летать нельзя, так как у пилотов пилотные удостоверения есть, а у автопилотов — нет.
Я не писал о том, что беспилотным ТС нельзя быть участником дорожного движения. Вопрос о машина без водителя — почему она может быть участником дорожного движения.

По моему у самолетов автопилот это аналог круиз контроля у машины — на сколько я понял из уровней автономности — это 1-й уровень, у самолетов возможно 2-ой или 3-й, но явно не 5-й, который возможно будет требованием к беспилотным ТС. И в любом случае пилот в кабине.
У беспилотника нет в багажнике биты, он не начнет кидаться на вас с кулаками и не попытается сбежать с места аварии. Кто будет ответственный — отдельный вопрос, но такой человек/организация точно найдется, я сомневаюсь что хоть где-то разрешат ездить беспризорным беспилотникам. Но да, придется решать все по закону, запугать неопытного водителя уже не получится, это правда. Я надеюсь, впрочем, что это не то, что вас беспокоило.
не попытается сбежать с места аварии

вот тут не уверен.
детектирование ДТП, если это легкое касание, технически не такая простая задача.
Как робот может понять что его кто-то задел? По звуку и/или по акселерометру. Звуков вокруг полно, пойди распознай нужный. Дороги кривые и показания акселерометра так же спорные. Допускаю, что алгоритмы такого детектора несовершенны и при этом его тестам уделяют меньше внимания чем пилотированию. Так что если хотите чтобы робот не сбежал, тараньте его как можно сильнее :)
если это легкое касание, технически не такая простая задача.

Но в таком случае и человек тоже может не заметить легкого касания (тихий звук в закрытом салоне может быть вообще не слышен). С роботом, по крайне мере, можно поднять логи/видео и найти, когда было касание, кто виноват и кто кому должен.
Уже сейчас, в той же Теслы при касании срабатывает система, и сохраняются записи. Вообще нет проблем с детекицей в ближайшем будущем.
А беспилотные авто уже обучили уступать дорогу спец авто с сиреной? А то в нашумевшем случае Тесла проигнорировала требование остановиться
Возможно будет (в далеком будущем) так: спец авто с сиреной задает маршрут движения, по маршруту выделяется своя полоса, и все автопилотируемые машины вообще не заезжают на эту полосу, а те, что уже по ней едут, заблаговременно освобождают ее. Вот радости-то будет для сиренщиков, педаль в пол и топи хоть все 200 км в час.
заходишь, в лифт, а лифтера, внезапно — нет!
UFO just landed and posted this here

Интересно, если ему посигналить, он примет на свой счет и будет реагировать как-то.

А как он может отреагировать?
У него либо есть достаточно информации чтобы ехать и тогда ваш сигнал нафиг не нужен, либо информации недостаточно и ваш сигнал по прежнему нафиг не нужен.
Сигнал в случае челвоека сообщает ему, что надо сместить фокус внимания. У автопилота нет фокуса внимания.
Подрежет, остановится, откроет багажник — а внутри бейсбольная бита и тот самый робот Boston Dynamics, которого пинали, толкали палкой и заставляли ходить по шкуркам банана.
Насколько я знаю — не один из существующих беспилотников не реагирует на гудки. Они «видят» существенно дальше, чем живой водитель, поэтому им гудки дополнительной информации не несут.

Дело в том что нормы поведения на проезжей части для участников движения обоснованы ПДД. И подача звукового сигнала — это часть коммуникации между участниками. В России кстати не принято часто его использовать, а во многих странах на опережение, как застолбить приоритет при прочих равных условиях — очень частая картина.

В России, кажется, звуковой сигнал можно использовать, чтобы избежать аварии. В остальных случаях формально — нет.

ПДД 19.10 — Звуковой сигнал
Звуковые сигналы могут применяться только:

Для предупреждения других водителей о намерении произвести обгон вне населенных пунктов;
В случаях, когда это необходимо для предотвращения дорожно-транспортного происшествия.
По утрам регулярно вижу, как сворачивает с Мичуринского на Лобачевского (легкий правый поворот в сторону Аминьевского). Судя по идеальному выдерживанию полосы и очень заблаговременному торможению — автопилот уже испытывают (водитель в машине).
Пару раз видел, как активно перестраивается в потоке в р-не м.Раменки, но это уже, наверняка в ручном режиме. Уж слишком на «человеческий» стиль вождения похоже )

Я по вечерам возвращаюсь домой через метро Раменки, и часто вижу автомобили с надписью "Яндекс. Беспилотный автомобиль". Но все время за рулем кто-то есть, и он усиленно крутит руль, лавируя между машинами. Может, на поворотах с Мичуринского на Лобачевского беспилот испытывают, но в районе м. Раменки — точно нет

Я видел поздно вечером на Мичуринском из центра тойоту Яндекса с водителем, однако со стороны езда казалась неестественной.
Опять же, испытания — это не только непосредственное «дать порулить». Управлять может и человек, а испытывают системы ориентации, реакцию автопилота… Потом анализируют, какие решения он принимал.
Да, вполне можно записывать расхождения с решениями человека. Не очень понятно насколько их можно анализировать, так как не будет данных о результатах решений автопилота, если ему не давали самому рулить, но мне кажется все равно можно какие-то выводы делать.

А может датасет для нейросети писался на автопарке Яндекс-такси.

UFO just landed and posted this here
Интересно как будет поступать автопилот если разметку занесло снегом. По базе данных? А если базу забыли обновить для этого участка, а там новые правила? Или светофор глючит: быстро мигает, горят все цвета и т.п.? Если дорога перекрыта аварией, то он объедет по тротуару? Чувствую ответственное лицо в салоне всётаки понадобится чтобы давать согласие совершить автопилоту некоторые манёвры. /вод. правами не обладаю/
UFO just landed and posted this here
Ну разметку думаю робот будет видеть лучше чем человек — машины уже несколько лет как распознают образы лучше человека. Если не видно совсем, то согласно ПДД — на глаз, по расстоянию от края дороги. Только у робота лазерный глаз с точностью до сантиметра это «от края» отмерит.
К прошлой статье о Яндекс-мобилях прикладывали видео интервью с разработчиками.
В подобных ситуациях машина будет просто останавливаться и требовать вмешательства человека. Она не запрограммирована на явное нарушение ПДД (на момент снятия видео).
В том примере на двухполосной дороге со сплошной по середине на проезжей части стоял авто, нарушающий правило стоянки (закрывал проезжую часть). Яндекс-мобиль не стал его объезжать, просто остановился.
И тут выплывает важный нюанс, сказанный Badimagination:
/вод. правами не обладаю/
Это может быть и удаленное управление.
В подобных ситуациях машина будет просто останавливаться и требовать вмешательства человека. Она не запрограммирована на явное нарушение ПДД (на момент снятия видео).
Игнорирование неисправного светофора или объезд аварии, для которого требется пересечение запрещающей разметки, не являются нарушением ПДД. Ситуации эти вполне формализуемые, так что кучу таких ситуаций-исключений можно прописать в алгоритм поведения машины и не ждать ответа человека.
Ну по тем видео которые выкладывал яндекс, пешеходов он не очень пропускает. Кого будут судить за ДТП?
Кто отвечает за уголовную часть ДТП с пострадавшими? Понятно, что Яндекс, как компания, отвечает за оборудование повышенной опасности. Но что делать с уголовной частью?

Непосредственно — никто. Уже отлажено с убером. В России может сработать и по-другому, но смысл в этом есть. Нет пользы в том, что бы просто сделать кого-то крайним. Если у кого-то будет умысел, то он и сядет. Если умысла ни у кого не будет, тогда просто последование причин и приостановка эксплуатации.

Если у кого-то будет умысел, то он и сядет

Вот это очень тонкая грань. Почему человек виновен априори с пострадавшим/погибшем, а машина нет? Ведь в первом случае умысла может и не быть, а уголовка вешается на человека.

Основная задача уголовного кодекса — предотвратить (показывая границы). Во вторую — наказать. Прямой пользы в наказании нет, но есть непрямая — показывает людям, что справедливость есть (не идеальная, конечно).


Говорить, что машина "виновата" нет смысла — ей всё равно и наказание машины не предотвратит следующие аварии. Справедливостью тоже не пахнет — машин на конвеере тысячу сделают, какая разница если эту конкретную уничтожат.


Значит наказывать нужно человека. Если он специально подстроил аварию — ясно, за что и кого наказывать. Если он забил на тестирование — возможно наказание за халатность. Но если это недообучение сети в какой-то исключительной ситуации — тут сложнее. Потому что это недообучение есть 100%. И аварии точно будут. Сажать всех инженеров после каждой аварии бессмысленно. Сажать одного, случайно выбранного? Сажать генерального (тоже каждый раз)?


Вот и получается, что либо мы просто запрещаем такие автомобили в принципе, либо сажаем только при наличии умысла или халатности.

Если это недообучение сети в какой-то исключительной ситуации — тут сложнее. Потому что это недообучение есть 100%. И аварии точно будут.

В случае, человека может быть такое же «недообучение сети» (сколько водителей умеют правильно дрифтовать при диком гололеде?), более того если водитель сделал все возможное для усреднего водителя, но ДТП все равно произошло, с большой вероятностью ему не дадут уголовное наказание за то что его скорость реакции оказалось не такой как у гонщика формулы 1 (так как в законе именно смерть или тяжкий вред по неосторожности).
Вот и получается, что либо мы просто запрещаем такие автомобили в принципе, либо сажаем только при наличии умысла или халатности.

я о той мысли, что с введением «невозможности наказания машин», можно было внедрить и ослабление в виде удаление из закона «средств повышенной опасности» и т.д. когда по не умыслу человека, уголовного наказания ему можно было бы избежать.

А какая связь? "Если наказывать машину нет смысла, то автомобиль больше не считается средством повышенной опасности" — мне такая логика не понятна.


И как ниже отметили, если к вам под колеса в нарушение правил на шоссе кто-то выбежал, даже условного при правильном адвокате не будет. Потому что виноват пешеход.

Почему человек виновен априори с пострадавшим, а машина нет? Ведь в первом случае умысла может и не быть.

Это не так. Уголовное наказание при ДТП допускается только при опьянении или неосторожности, которое повлекло тяжелые последствия для здоровья или смерть.

Если человек никак не мог предотвратить ДТП, то именно в тюрьму его при правильном адвокате не посадят (знаю по нескольким случаям с знакомыми и друзьями), платить возможно придется (но владельцу/производителю автопилота тоже), но тут уже пункт средство повышенной опасности, плюс есть страховки.
то именно в тюрьму его при правильном адвокате не посадят

Я не говорю про тюрьму, скажем при погибшем будет условка, в лучшем случае.
Я не говорю про тюрьму, скажем при погибшем будет условка, в лучшем случае.

Вы уверены? Знакомый ехал по ночной трассе с разрешенной (приличной) скоростью, из кустом под колеса выпрыгнул из кустов (или выкинули) бомж или типо того. Был труп, суд, долго проводили экспертизы, полностью оправдали без условки, так как эксперты заключили, что физически невозможно было успеть среагировать и остановиться/избежать столкновения.
Ключевое слово в вашей истории:
бомж или типо того

К тому же, если человек остается жив после ДТП, но с сильными травмами, тогда ему будет нужна реабилитация, стоимость которой может превысить страховой лимит, и тогда регрессом будут брать у того кто с «средством повышенной опасности» без исключений. Вот я как раз против этого.
Вот я как раз против этого.

Ваше право.

Только причем тут беспилотные авто? Сейчас владелец/производитель беспилотного авто точно так же будет платить пострадавшему, если его страховка все не покроет, то есть тут совершенно равные условия (более того с большой вероятностью заплатит производитель, а не владелец, что уже лучше).

P.S. На самом деле, очень часто можно оказаться без вины виноватым, например, если у вас дома прорвет трубы или замкнет проводку, скорее всего соседи засудят и заставят вас заплатить ущерб даже если в этом никакой лично вашей вины не было (очень сомнительно, что ущерб вы сможете перевесить на управляющую компанию или ремонтников). От таких случаях спасает только страховка с большим покрытием.
В случае убера сел страхующий водитель.

Если машина полностью автономная, то я считаю, что это преступная халатность, повлекшая смерть, халатность со стороны сотрудника, решившего выпустить небезопасную машину на дорогу.

То есть работника гаража сажать? За уязвимость в нейросети? Или под "выпустил" вы имеете ввиду работника приемки на заводе? Или главного инженера?


В последнем случае главный инженер сядет он 100%. Ведь не будет такого, что б вообще в принципе без аварий. Когда-то авария точно произойдет. Но по такой логике его можно посадить прямо сейчас. За подготовку к убийству. Ведь мы точно знаем, что смерть будет, просто не знаем даты.

Ну, в случае с лифтами сажают человека, не проверившего лифт. А если проверку надо было провести, а управляющая компания не заключила договор, то её директора.

Ситуация мало отличается от смерти от кипятка от прорвавшей трубы.
Главного инженера спросят: а почему вы не предприняли мер достаточных для предотвращения ДТП? И он будет виноват. Может оказаться так, что он не виноват (например, колдобина и шину рвануло) — тогда будет виновата обслуживающая организация.

Но так не бывает, чтобы убило устройством и никто не был виноват.
сажают человека, не проверившего лифт

Если он не проверил машину/лифт, то да. Если он проверил и сделал всё по инструкции, то нет.


так не бывает, чтобы убило устройством и никто не был виноват

Это же неправда. Есть несчастные случаи. И вы умолчали вариант, когда виноват тот, кто пользовался устройством. Или перебегал дорогу в неположенном месте.


Может оказаться так, что он не виноват

Например, нейросеть не распознала блик на солнце. Виноват или нет?


Кстати, Тесла убила уже несколько человек, никто не сел. Если вы скажете, что виноват водитель, то отвечу — найти крайнего можно. Для автономных можно, в теории, приписать в документах о владении, кто крайний, кто будет сидеть. Но инженеров Теслы не посадили. Маска — тем более.

Мы пропускаем тривиальные варианты, когда виноват пешеход.

Если нейросеть не распознала блик на солнце, то виновен тот, кто разрешил машине ехать с такой скоростью, что случилась авария.

Модель «этой не я, это глюк в компьютере» не работает в тот момент, когда робот выезжает на дороги общего пользования. Ровно так же, если дрон упадёт на голову человеку, то виноват будет либо тот, кто дроном владеет, либо компания, которая не предусмотрела такого случая (нормальная компания просто напишет в инструкции «не летайте над головами прохожих»).

Вся суть уголовной ответственности в том, чтобы у человека, который делает опасную вещь (которая может убивать) не было возможности отмазаться «это не я, это баг в компьютере». Баг? Халатность.

Пешеход не подписывался на EULA и его жизнь охраняется УК РФ, в котором есть статья

1. Халатность, то есть неисполнение или ненадлежащее исполнение должностным лицом своих обязанностей вследствие недобросовестного или небрежного отношения к службе либо обязанностей по должности, если это повлекло причинение крупного ущерба или существенное нарушение прав и законных интересов граждан или организаций либо охраняемых законом интересов общества или государства, — 2. Деяние, предусмотренное частью первой настоящей статьи, повлекшее по неосторожности причинение тяжкого вреда здоровью или смерть человека, — наказывается принудительными работами на срок до пяти лет с лишением права занимать определенные должности или заниматься определенной деятельностью на срок до трех лет или без такового либо лишением свободы на срок до пяти лет с лишением права занимать определенные должности или заниматься определенной деятельностью на срок до трех лет или без такового.

Модель «этой не я, это глюк в компьютере» не работает

Мы рассматриваем как должно быть или как есть? Просто для этих двух случаев у меня разный набор доводов, потому уточните сразу.


Мы пропускаем тривиальные варианты, когда виноват пешеход.

А не тривиальные? Например, когда пешеход переходит в неположенном месте в темноте? (Да, это намек на убер)


виновен тот, кто разрешил машине ехать с такой скоростью, что случилась авария.

Кого конкретно вы имеете ввиду? Того, кто проектировал нейросеть, того, кто делал приёмку или главного инженера? Или это "группой лиц"? Иначе ваш довод просто не до конца ясен.

Виноват будет тот, кто принял решение о выпуске машины на дороги общего пользователя без водителя. Главный инженер, гендиректор, начальник отдела. Если всё было устно и без свидетелей — линейный сотрудник, который enter нажал.

Собственно, смотрите.

Вот мы решаем, что «блик у нейросети из-за которого смертельное ДТП» — это ок.
А поделить на ноль?
А если программист в коде поленился проверить, что индекс не выходит за массив и у нас undefined behavior?
А если в процессе вождения прилетел апдейт tzdata и ssd ушла в двухсекундный flush из-за dpkg (кто-то забыл отключить unattended upgrades)?

Сколько смертей в час мы можем разрешить роботу?
А главное, чем смерть от робота на дороге отличается от смерти от прохудившегося вентиля на химзаводе, выпустившего 1000 тонн хлора на населённый пункт?

Машина убила — виноват человек. Точка. Иначе мы открываем ящик пандоры, в котором «это не я, это компьютер» по любому поводу.

Мы заранее знаем, что смерть будет. И главный инженер знает. Должен ли он отвечать за подготовку с убийству и если нет, то почему?


чем смерть от робота на дороге отличается

Отсутствием надёжной модели. Предсказать, будет ли вентиль надёжным, можно со значительно бОльшей вероятностью.


Сколько смертей в час мы можем разрешить роботу?

В 10 раз меньше, в расчете на километр, чем текущая аварийность.

То есть инженер, зная, что он не может быть уверен в надёжности модели, решил поставить эксперимент на пешеходах без их согласия. И за это не в тюрьму?

А можно, я «в отсутствие надёжной модели» начну так проверять медицину? Например, добавляя её в питьевую воду.
И за это не в тюрьму?

Это вы мне скажите. Главного инженера автономных автомобилей Яндекса нужно сейчас сажать за подготовку к убийству или потом, когда смерть произойдет?


Повторюсь, она точно произойдет, мы просто не знаем когда.


Если сажать потом, то почему?


И уж если вы хотите сделать должность, на которой с гарантией нельзя проработать больше года (а потом в тюрьму), то почему бы вообще в принципе не запретить такие автомобили в России? Какой смысл ждать смертей, как считаете?

Если вы точно знаете, что произойдёт смертельное ДТП по вине робота, то вы не имеете права его выпускать на дороги общего пользования.

"не имеете права" — это категория морали. Главный инженер скажет, что аварий не будет.


Я (и вы) точно знаем, что они будут, но запретить авто не можем. Да я и не хочу. На светофорах вероятность ДТП равна нулю (робот не бухает и не спит), а ночью я темные шоссе не перехожу.

Замените модные «самоуправляемые машины» на «новый химический процесс» и ситуация станет проще. Завод выпустил хлор на город — кто-то сел. точка.
UFO just landed and posted this here
За рулём транспортного средства находится человек, который за него и отвечает.

А вот за мухлёж и халтуру при производстве машин можно вполне себе сесть, как и показывает дизельгейт.
UFO just landed and posted this here

Вы настаиваете, что так должно быть или что так уже есть?

Уже прямо сейчас директор завода, который выдаст 1000 тонн хлора на населённый пунк сядет, и надолго.

Можно даже не хлора, достаточно чуть-чуть недобдеть с пожарной безопасностью (см судьбу владельца Хромой Лошади).
Уже прямо сейчас директор завода, который выдаст 1000 тонн хлора на населённый пунк сядет, и надолго.

Даже если на завод упадет метеорит или долбанет землетрясение в 12 баллов?

Директор завода сядет только если ситуация заранее учитывалась и описывалась в инструкциях и их сотрудники нарушили. И не сядет, если ситуация оказалось никем не предусмотренной.

В случае, «самоуправляемых машин» должны быть специальные серфицированные тесты (много миллионов разных ситуаций на дороге), если их машина не прошла или они оказались фальшивыми — можно сажать виноватых, если же ситуация оказалось вообще не предусмотренной — то нет.

Водитель-человек тоже не каждой из миллионов ситуаций сможет не допустить жертв (и если ситуация явно выходит за рамки способностей обычного водителя его скорее всего никак не накажут)

Ну конечно, вы заменили одну спорную смерть на десятки, неясную причину на явный косяк безопасности и считаете это доводом.


С другой стороны, главный инженер Теслы ещё не сел, хотя смерти уже были. Конечно, может сказать, что крайний — водитель, но доказаны именно ошибки алгоритма. Если ориентироваться на вашу логику, должен сесть, но не сел. Значит что-то в ваших рассуждениях не верно.


В частности мысль, что после каждой смерти от техники кто-то садится — не верна. Это не подтверждается реальными наблюдениями. В нашем существующем мире это не так и вы это знаете.

Замените «самоуправляемые машины» на «космические ракеты» или «гражданские самолеты» и обнаружите, что чаще всего никто из разработчиков из-за катастроф не садиться, просто потому что невозможно учесть все на свете, понятно, что если гайку какую-нибудь не завернули, то есть шанс, что техник сядет, а вот если в самолет долбанула молния, а защита от молний была не очень надежной — тут уже ничего не поделаешь.

Вон когда шатал упал, а потом оказалось, что НАСА знала о недостатках проектирования и приняла их как допустимый риск — никого толком не наказали.

Просто в любом самолете или ракете всегда есть детали, которые могут привести к катастрофе, с мизерной, но реальной вероятностью и если вы будете сажать проектировщиков никто и никогда не выпустит новую ракету или самолет.
Я с интересом смотрю на свежую историю с Боингом. Подозреваю, что кто-то сядет.
Эксперимент Убера показал, что от роботов смертность выше, чем текущая аварийность. Сколько там километров они накатали пока ДТП не случилось?
  1. Покатушки убера остановили.
  2. Статистически некорректно считать километраж по единственной смерти. Да, это человек, да смерть, но от этого ошибка не перестает быть ошибкой. Пытаться считать статистику по одной смерти — ошибка.
Сколько должно быть смертей в ДТП с роботами для статистически значимого утверждения «роботы убивают людей на дороге чаще, чем люди»?

Статистические формулы начинают хоть как-то работать от трёх. Но тут есть вариант — оценивать не смертность, а количество любых ДТП.


Если предположить, что соотношение ДТП/смерти для роботов и людей одинаковые, то получить надёжный ответ на ваш вопрос можно быстрее.

Значит через 10 лет такситы отправятся в историю вслед за извозчиками…
UFO just landed and posted this here

Таксисты — да, водители — нет!


На мой взгляд, полностью автономных(без участия человека) беспилотников пока не будет.


Оптимальным вариантом был-бы операторский центр, что-то в стиле армейских модулей управления БПЛА:

Только масштабней, где на каждого оператора приходилось-бы определенное число автомобилей.
В случае ситуации, требующей вмешательства человека, управление передавалось-бы незанятому водителю.


В общем, почти как в колл-центрах.

В случае ситуации, требующей вмешательства человека, управление передавалось-бы незанятому водителю.

В общем, почти как в колл-центрах.

«Ваш звонок очень важен для нас, пожалуйста, оставайтесь на линии...»
«Ваше ДТП очень важно для нас, дождитесь соединения с оператором.»
«Время ожидания составит ТРИДЦАТЬ МИНУТ НОЛЬ СЕКУНД»

И город остановился…

Надо пускать беспилотные рейсовые автобусы — тогда благоразумные водители перестанут выезжать на улицы, и ВСЕ! Проблема пробок решена!
UFO just landed and posted this here
беспилотные автобусы в разы интереснее с точки зрения городской эксплуатации

Зато в разы менее прибыльны, чем легковые автомобили.
Поэтому будут делать, что приносит прибыль, а не то, что удобно большинству.


Я тоже поддерживаю автоматизацию общественного транспорта. Можно было бы вообще с трамваев начать. Там с дорогой все очень просто.

Коммерческий транспорт дорогой. Не факт, что прибыльность в этом сегменте ниже, чем легковой автомобиль среднего ценового диапазона.

Если рассматривать его в целом, то он дешевле. Выгоднее на одном автобусе возить 20 человек, чем гнать 20 автомобилей. А к каждому автомобилю еще целая инфраструктура нужна.

А уже есть. Недавно как раз беспилотный трамвай показали

В случае ситуации, требующей вмешательства человека, незанятый водитель не успеет взять на себя управление. Так что это не просто не оптимальный вариант, он бессмысленный. Ни одна компания такие варианты даже не обсуждает и не пробует.

«Полуавтоматический» режим опасенее. И за 10 лет AI сильно превзойдет лучщего из мясных водителей…
Хорошо бы, как по мне, так это самые худшие водители из всех, ну кроме тех лихачей — детей чиновников на дорогущих авто, но последних гораздо меньше.
UFO just landed and posted this here
Вот не будут из вредности ему давать перестроиться и как тут быть ИИ?

Снять видео с номерами машин и фио владельцев, а потом выложить в ютуб.

А если серьезно: Мне кажется так же как начиающему водителю-человеку — ждать пока найдется тот кто пропустит (а рано или поздно невредный водитель найдется всегда) или переключить управления на оператора.
А что делать нормальному водителю когда его из вредности не пропускают? Не на таран же идти. Автопилот хотя бы запас терпения имеет бесконечный и реакция у него должна быть получше.
UFO just landed and posted this here
Зачем? Пусть сигналят. Роботу всё равно. А нервным пассажирам — валерьяночки.
А негроамериканцев в черных куртках будет пропускать на переходе?
UFO just landed and posted this here
UFO just landed and posted this here
UFO just landed and posted this here
UFO just landed and posted this here
UFO just landed and posted this here
А вы путаете общий капитал Теслы с тем, что она может выделить под эту задачу.
Я вчера вечером смотрел презентацию в полусонном виде и Маску задали как раз вопрос по поводу денег на эту систему, так я что-то не понял, что он сказал, но то что понял — крайне много. Думаю, что как раз ресурсов на автопилот Тесла тратит больше, чем Яндекс. К тому же, делать автопилоты для своих автомобилей и со своим железом бывает значительно проще. Так что, условия немного не одинаковые.
UFO just landed and posted this here
Да, правильно сказали, главное как потратить ресурсы. Можно значительно меньше, но эффективно. Не знаю. Но в моем понимании автопроизводитель со своим автомобилем и железом должен быть в более выгодной позиции, чем просто софтверная компания.
UFO just landed and posted this here
UFO just landed and posted this here
UFO just landed and posted this here
UFO just landed and posted this here
UFO just landed and posted this here
Вот нашел на ютубе нужный момент по поводу денег на автопилота. Я не смог расшифровать или правильно перевести то, что сказал Маск.
2020-й год — это будущее, а не реальность. В Тесла говорили, что АП 5-го уровня — это дел на несколько лет. Прошли эти несколько лет, 5-го уровня нет. Я не говорю, что не будет, возможно и будет, даже в 2020-м, но это пока фантазии, а не реальность.

Беспилотное такси уже ездит в иннополисе, так что не первая машина это точно. Да, условия там практически тепличные, но все же.

Тесла всегда "готова" на пару лет раньше реального срока. В их достижениях не сомневаюсь, но в 20-м не будет точно.

Интересно, он отрабатывает пробитие колеса?
наверняка, что в этом сложного. Даже обычные автомобили часто оснащены датчиком давления в шинах. А уж автомобиль, который полностью самостоятельно контролирует своё состояние наверняка такую систему должен иметь.
Да. Это Prius, в люксовой комплектации есть датчики давления.
Не знаю как у Приуса, но в бюджетном сегменте снимается скорость вращения с датчиков ABS и сравнивается, если какое-то колесо крутится быстрее остальных, значит у него уменьшился радиус, т.е. вероятно сдуто. Т.е. все машины с ABS могут иметь такой функционал, но «включают» его обычно только в старших комплектациях. Зачастую в дешевых комплектациях достаточно включить эту опцию в мозгах авто у сервисменов в прошивке. Т.е. функционал программный, без какого-то специального отдельного датчика давления.
Во внебджетном сегменте беспроводные датчики ставятся в ниппели.
TPMS на новых машинах уже обязательна во многих странах.

У меня такой, чисто практический вопрос. Я допускаю что Москва отличается в плане движения от Спб и остальной России (по Москве ездил очень мало), но как автопилот будет работать в условиях, когда ПДД — это скорее рекомендации?


  • Как насчет соблюдения рядности в полосе, когда туда впихнулось целых два ряда?
  • Как насчет поворота налево без стрелки в час пик (да еще в 2-3 ряда в нарушение знаков)?
  • А кольца? Это же ад, когда перед вами кольцо в 3-4 полосы да еще и с плохой разметкой.
  • Припаркованная третьим рядом машина с аварийкой?
  • Безумные маршрутки и непредсказуемые пазики, перестаривающиеся через три ряда сразу, потому что пассажир попросил?
  • Защита от "дурака" — если автопилот затупит в потоке и соберет за собой 2-3 машины, водители которых, в лучших традициях, начнут яростно сигналить, потом резко объедут и хорошо если не подрежут (чем только усугубят и без того сложную ситуацию).
  • Скорость движения в потоке. Попробуйте проехать с фиксированной скоростью в 60 км/ч когда поток поголовно превышает — узнаете много нового.
  • Чуть не забыл — трамваи. Это отдельный аттракцион, особенно когда рельсы в один уровень с дорогой и поворот налево регулируется знаком "направление движения по полосам" (или его отсутствием), но каждый водитель выбирает для себя какую-то свою траекторию, наплевав на знаки/разметку, как обычно порождая 1-2 дополнительных ряда. Ну или просто поворот налево с пропуском трамвая.

Я не пытаюсь предсказать успешность испытаний, просто прочувствова упомянутые выше "особенности национального автомобиледвижения", хочется понять, как в Яндексе решили эти проблемы, потому что я полагаю, что даже более продвинутые автомобили с автопилотом не смогут проехать в Москве из А в Б (хоть я и видел успешные тесты Теслы, кажется, на МКАД, чего конечно недостаточно). Отсюда следует два вывода:


  • либо Яндекс не осилит российский трафик но сможет экспортировать свое решение в страны с более стабильным движением,
  • либо Яндекс превзошел всех конкурентов и их автомобили способны выжить даже в условиях Москвы.

P.S.: не очень ясно, откуда взяты предполагаемые области применения автопилота от Яндекса, но наличие "военный транспорт" в списке несколько напрягает.

У меня нет никаких инсайдов насчет яндекс автопилота, но я предполагаю что автопилот будет запрограммирован на максимальное соблюдение правил. При этом ему проще следить за разметкой в сложных случаях, поэтому для него не должно быть сложностей конкретно с этим. Также ему совершенно неважно что о нем думают те, кто поголовно в потоке превышает — это же автопилот. Люди сначала конечно будут возмущаться, но я думаю достаточно скоро привыкнут, тем более что официально автопилот обвинить будет не в чем. А то может и сами, хотя бы кто-то, соблюдать больше правил начнут.
Чтобы совсем не получилось проехать — это вряд ли. Но поначалу вполне может оказаться что время поездки сильно дольше планируемого. Но мне кажется что к моменту когда эксперимент закончится и реально поедут такси на автопилоте ситуация станет получше. Именно благодаря тому что люди привыкнут и адаптируются. Какой смысл сигналить и орать автопилоту если он не реагирует? Какой смысл подрезать если благодаря реакции автопилота и множеству его камер ты либо ничего не достигнешь, либо окажешься виноватым?
Военный транспорт это, кстати, эффективное применение. Колонны автомобилей, по два человека в кабине, монотонное движение с определенным интервалом… Отличная задача, решение которой будет несколько проще, чем «автопилот всем и каждому». Эти автопоезда можно автоматизировать. Начать со всех машин, кроме головной, потом и головную.
UFO just landed and posted this here
Военный транспорт это, кстати, эффективное применение. Колонны автомобилей, по два человека в кабине, монотонное движение с определенным интервалом… Отличная задача, решение которой будет несколько проще, чем «автопилот всем и каждому». Эти автопоезда можно автоматизировать. Начать со всех машин, кроме головной, потом и головную.

В мирное время, БЛИН! *фейспалм*
В каком-нибудь Афганистане, того что вы пишете — ПЕСЕЦ недостаточно!
Нужна ещё реакция на боевую обстановку и угрозы, а так же решение давить или нет бросившегося под колёса ребёнка с рюкзаком в котором может находиться пояс шахида или противотанковая мина, которая сработает, если юный шахид окажется под колёсами.
afmedia.ru/node/1833
image
80% атак смертников в стране совершают дети и подростки

Я упомянул военный транспорт в том смысле, что в других странах и других компаниях сотрудники протестовали против разработки и применения определенных технологий в военных целях (что, насколько я помню, тем не менее не повлияло на результат). Мне стало любопытно, как разработчики отечественного автопилота относятся к его применению в военных целях (если таковые запланированы).

эта «новость» появляется примерно раз в квартал. Да только воз и ныне там…
У нас по городу (Иннополис) уже с год такая штука ездит. Периодически сталкиваюсь с ней на дорогах, когда езжу на велосипеде. По большей части за рулём сидит водитель (оператор?), но иногда бывает, что за рулём вообще никого. Ездит очень-очень осторожно, у меня к ней уже больше доверия чем к большинству водителей.
Беспилотники сдают экзамены в ГИБДД?
Интересно, чем обусловлен выбор Яндексом подопытного автомобиля?
Почему Тойота Приус V?
Гибрид в кузове «универсал».
Много оборудования?
Или потому, что на таких в Нью-Йорке таксуют?
UFO just landed and posted this here
UFO just landed and posted this here
На первом этапе в качестве беспилотников будут использовать серийные автомобилей Hyundai и Kia

на фото ведь Тойота?
Интересно как будут себя вести бп в разную погоду. Снег, когда нет разметки, или полоса смещена, есть колея. Сильный дождь. После дождя, когда машины бороздят океаны из-за плохих сливов. Туман и другие достопримечательности.
А так же противоречивые знаки ПДД
image

UFO just landed and posted this here
UFO just landed and posted this here
Sign up to leave a comment.

Other news