Комментарии 196
С одной стороны оператор, безусловно, виновата. Но с другой стороны ее работа — сидеть и осмысленно смотреть в окно поезда, замечая каждую деталь контролировать автомобиль и быть готовым перехватить управление. Это явный недосмотр Uber, практически все подобные деятельности выполняются минимум двумя людьми (хотя бы дублируются, если не сидят вместе).
Я вообще не представляю, как сохранять внимание оператору целый день. При том не вмешиваясь в управление.
Ровно так-же как машинистам поездов, полагаю.
У машиниста поезда, в процессе столько задач, что без дела он не сидит вообще никогда.
И раз уж с редактированием опоздал, там ещё со времён ссср стоят системы контроля бдительности. Нет подтверждения -> срыв эпк -> остановка поезда.
НЛО прилетело и опубликовало эту надпись здесь
Возможно это надмозговый перевод, где должно было быть что-то «система классифицировала объект как ложную помеху, которую следует игнорировать», так как системы компьютерного зрения никогда не имеют 100% точности распознавания и всегда существует пороговый процент успешного распознания, ниже которого система выдаёт что-то вроде «не знаю что это, наверное показалось».
Лучше привести пример летчиков ГА. Когда в компьютер забит маршрут, самолет вышел на нужный эшелон, полет трансконтинентальный (да даже когда пару часов)… Летчик абсолютно ничего не делает, кроме употребления пищи/чая/кофе и редких контактов с диспетчерами.
И вот тут для сохранения бдительности на случай проблем — действительно нужно мастерство и опыт.
И вот тут для сохранения бдительности на случай проблем — действительно нужно мастерство и опыт.
Ну так их не просто так двое, а на длинных полетах вообще четверо емнип, двое плюс двое сменных. Потом за погодой смотри, по сторонам смотри на всякий случай, за самолетом самим смотри, за состоянием систем и все такое. Так-то там есть чем заняться. Бумажки опять же заполняют, пока летят.
Погода в сводках и в процессе полета редко изучается, разве что диспетчер обратит внимание, а так метеорадар работает при необходимости — но, опять таки, на эшелоне редко происходят какие-то серьезные метеоявления.
Собственно говоря и по сторонам можно смотреть только ради любования красотами — на таких высотах и с такими скоростями это особого смысла не имеет, не зря там полеты только по IFR (по приборам), никакого VFR (визуального).
Смотреть за самолетом особо тоже смысла нет — всем же ведь управляет автопилот (и если на малой авиации надо хоть двигателем управлять, то на авиалайнерах и автоконтроль тяги тоже есть). Состояние систем опять же контролируется компьютером, который при отклонениях уведомляет. Да и просто так — быстро наскучит смотреть почти статичную картинку на мониторчиках :)
Ну а бумажки — да… Бумажной работы достаточно. Но это опять же равноценно просмотру телешоу :) Просто последствий таких серьезных быть не может.
Собственно говоря и по сторонам можно смотреть только ради любования красотами — на таких высотах и с такими скоростями это особого смысла не имеет, не зря там полеты только по IFR (по приборам), никакого VFR (визуального).
Смотреть за самолетом особо тоже смысла нет — всем же ведь управляет автопилот (и если на малой авиации надо хоть двигателем управлять, то на авиалайнерах и автоконтроль тяги тоже есть). Состояние систем опять же контролируется компьютером, который при отклонениях уведомляет. Да и просто так — быстро наскучит смотреть почти статичную картинку на мониторчиках :)
Ну а бумажки — да… Бумажной работы достаточно. Но это опять же равноценно просмотру телешоу :) Просто последствий таких серьезных быть не может.
В целом разумно. Про погоду я имел в виду погоду в пункте прибытия, это может повлиять на маршрут уже на эшелоне.
Но тут есть еще один фактор. Насколько я слышал и общался с пилотами, там по большей части люди, которые горят своей работой, горят небом. Возможно, это спасает их от фатальной потери внимания.
Но тут есть еще один фактор. Насколько я слышал и общался с пилотами, там по большей части люди, которые горят своей работой, горят небом. Возможно, это спасает их от фатальной потери внимания.
ну и там необходимое время реакции всё же не секунды, а десятки секунд в большинстве случаев. На дороге ситуация более напряженная
А еще пилотам самолетов платят на два если не на три порядка больше чем тестеру робомобиля убера.
Нельдя сравнивать. В небе вокруг ничего нет. Тысячи диспетчеров следят за воздушным пространством. Летишь себе болтаешь со вторым пилотом. А тут вокруг постоянно что-то происходит. Пешеходы, машины, собаки, светофоры. Постоянный стресс. Ну его нафиг такие автопилоты вообше.
Вот, так в этом и вся проблема с этими автопилотами!
В самолетах автопилот лишь помогает пилоту, выполняя за него поддержание запланированного пилотом профиля полета. Причем, насколько я знаю ситуацию, авиастроители не сильно то стремятся к тому, чтобы научить автопилот чему-то большему — хотя, теоретически, эта задача проще, чем в случае с автомобилями. Как раз ввиду бо'льшей стандартизации движения и меньшему числу его участников на единицу объема пространства даже с учетом более высокой скорости.
В самолетах автопилот лишь помогает пилоту, выполняя за него поддержание запланированного пилотом профиля полета. Причем, насколько я знаю ситуацию, авиастроители не сильно то стремятся к тому, чтобы научить автопилот чему-то большему — хотя, теоретически, эта задача проще, чем в случае с автомобилями. Как раз ввиду бо'льшей стандартизации движения и меньшему числу его участников на единицу объема пространства даже с учетом более высокой скорости.
Дам там за весь полет в штатной ситуации ниодного пересечения траекторий нет. Встречные самолёты летят на разной высоте. Взлет посадка стремно да но это пару процентов от общего полета
насколько я знаю ситуацию, авиастроители не сильно то стремятся к тому, чтобы научить автопилот чему-то большему
Насколько я знаю, таки были попытки, но их прекратили, временно, после того, как экспериментальный автопилотируемый самолёт, совершивший свой первый 15-минутный полёт с двумя пассажирами, на втором полёте разбился, угробив пассажиров.
Я тут последнее время залипаю в видеоблог одного машиниста поезда… Там с одной стороны реально нужно управлять поездом — подъемы, спуски, стрелки, светофоры, которые требуют действий от машиниста. Плюс к этому есть системы контроля машиниста. Проезд светофора — должен подтвердить нажатием определенных кнопок. Плюс, нужно примерно раз в 20 секунд отпускать и нажимать специальную педаль. Если проезд светофора не подтвержден, или педаль не отпустили-нажали за заданное время — автоматически включается режим экстренного торможения.
Почему подобных систем не сделали «оператору» в Убер? Видимо, сложное сочетание самоуверенности, самонадеянности и необразованности.
Как минимум, обнаружив «неопределенное препятствие» автомобиль должен был просигналить оператору и, в случае бездействия оператора, прибегнуть к экстренному торможению. Что было бы логично… Но… Проще всех собак на оператора повесить.
(Ну и да, не смотрела бы она шоу на телефоне, так спала бы… Может быть даже с открытыми глазами. Это никого бы не спасло.)
Почему подобных систем не сделали «оператору» в Убер? Видимо, сложное сочетание самоуверенности, самонадеянности и необразованности.
Как минимум, обнаружив «неопределенное препятствие» автомобиль должен был просигналить оператору и, в случае бездействия оператора, прибегнуть к экстренному торможению. Что было бы логично… Но… Проще всех собак на оператора повесить.
(Ну и да, не смотрела бы она шоу на телефоне, так спала бы… Может быть даже с открытыми глазами. Это никого бы не спасло.)
НЛО прилетело и опубликовало эту надпись здесь
Законов робототехники на Убер нету
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
1. Можно через случайные промежутки времени возвращать управление от компьютера — оператору.
2. Можно добавить оператору какую-нибудь постоянную задачу, связанную с управлением но не требующую прямого вмешательства — например, не давать указывать сразу конечный пункт маршрута, а требовать каждую сотню-другую метров указывать следующую точку.
2. Можно добавить оператору какую-нибудь постоянную задачу, связанную с управлением но не требующую прямого вмешательства — например, не давать указывать сразу конечный пункт маршрута, а требовать каждую сотню-другую метров указывать следующую точку.
НЛО прилетело и опубликовало эту надпись здесь
На железной дороге подобная система давно применяется — машинисты должны проходить регулярную проверку внимания реагируя на специальный сигнал. Если реакция отсутствует, то включается аварийное торможение.
Но на железной дороге требуется (как мне с дивана виднеется) совершенно другая скорость реакции. Там не нужно реагировать быстро — все равно тысячетонный состав моментально не остановится, и вильнуть в сторону не сможет. Поэтому реакция на этот сигнал там вроде в течение нескольких секунд требуется. Этого вполне достаточно чтобы проверить, что человек не заснул.
В случае с автомобилями такое не будет работать, так как там требуется быстрая реакция. А если включить такую проверку на очень короткий срок (человек должен нажать например в пределах секунды на кнопку после сигнала) то собственно все внимание человека будет направлено на этот сигнал чтобы успеть среагировать, а не на обстановку на дороге. Что к повышению безопасности опять-таки никак не приведет.
В случае с автомобилями такое не будет работать, так как там требуется быстрая реакция. А если включить такую проверку на очень короткий срок (человек должен нажать например в пределах секунды на кнопку после сигнала) то собственно все внимание человека будет направлено на этот сигнал чтобы успеть среагировать, а не на обстановку на дороге. Что к повышению безопасности опять-таки никак не приведет.
У дальнобойщиков есть системы слежения за направлением глаз.
Опять же, у дальнобойщиков цель системы другая. Надо только следить, что человек не заснул. Если не заснул, то скорее всего он более-менее внимателен, ведь машина сама не управляется. Но если человек освобожден от управления, то концентрироваться трудно. Можно смотреть прямо через лобовое стекло и ничего не видеть, думая о своем.
Я пробовал сидя на пассажирском сидении активно наблюдать за дорожной обстановкой. Через несколько минут всегда обнаруживаю себя внутри своих мыслей.
Я пробовал сидя на пассажирском сидении активно наблюдать за дорожной обстановкой. Через несколько минут всегда обнаруживаю себя внутри своих мыслей.
Пробовали ли Вы ездить с самым простым классическим круиз-контролем на дальнее расстояние по трассе? Когда я впервые испытал это, сначала почувствовал как же это удобно, а затем — что расслабляешься и несколько теряешь контроль за дорогой (как минимум из-за того, что нога оказывается физически дальше от педали тормоза/газа, оперативно затормозить/ускориться сложнее). В итоге стал включать круиз эпизодически, чтобы передохнуть, а затем вновь переключаться в обычный режим.
Не представляю, насколько расслабляет адаптивный круиз-контроль или, тем более, автономная система. Честно говоря, пока производитель не готов гарантировать безопасность каким-то образом (страховкой там, например), я бы не смог, как героиня статьи, смотреть ТВ-шоу в движении, слишком уж ответственность за себя, пассажиров и окружающих чувствую…
Не представляю, насколько расслабляет адаптивный круиз-контроль или, тем более, автономная система. Честно говоря, пока производитель не готов гарантировать безопасность каким-то образом (страховкой там, например), я бы не смог, как героиня статьи, смотреть ТВ-шоу в движении, слишком уж ответственность за себя, пассажиров и окружающих чувствую…
По поводу круиза хочу не согласиться. Из собственного опыта:
1. На круизе обычно едешь по трассе. Когда едешь без круиза – фактически нога на педали находится в одном и том же положении, по этому в целом никакой разницы нет, залипать что так что так начинаешь.
2. Чтобы не было проблем с «нога оказывается дальше», я держу её на педали газа, не нажимая на неё. Обратного сопротивления педали хватает, чтобы нога без приложения усилий лежала на ней, при том не было элемента нажатия.
3. На абсолютно пустой трассе с ногой можно сделать что-то ещё, чтобы размяться.
4. Проездив не один год с круизом, возьмусь утверждать, что это гораздо выгоднее и с точки зрения штрафов (отвлёкся, чуть на педаль нажал, попал на камеру), и с точки зрения времени (сложно всегда держать 108-110 км без круиза, обычно получаетя медленнее, так как лучше меньше, чем больше).
1. На круизе обычно едешь по трассе. Когда едешь без круиза – фактически нога на педали находится в одном и том же положении, по этому в целом никакой разницы нет, залипать что так что так начинаешь.
2. Чтобы не было проблем с «нога оказывается дальше», я держу её на педали газа, не нажимая на неё. Обратного сопротивления педали хватает, чтобы нога без приложения усилий лежала на ней, при том не было элемента нажатия.
3. На абсолютно пустой трассе с ногой можно сделать что-то ещё, чтобы размяться.
4. Проездив не один год с круизом, возьмусь утверждать, что это гораздо выгоднее и с точки зрения штрафов (отвлёкся, чуть на педаль нажал, попал на камеру), и с точки зрения времени (сложно всегда держать 108-110 км без круиза, обычно получаетя медленнее, так как лучше меньше, чем больше).
1. Без круиза мне приходится «подгазовывать», потому что дорога плавает-вверх вниз, ты отпускаешь педаль, чтобы не превысить скорость на спуске, а потом нажимаешь на подъеме, чтобы удержать темп…
2. У Вас электронная педаль газа? У меня педаль легко нажимается уже под весом ноги, если ее расслабить. Чтобы не нажимать, но держать над педалью — приходится напрягать. Я в таком случае ставлю ногу на тормоз, который как раз более «упругий», но эта педаль выше и на ней нога еще больше устает… Замкнутый круг)
4. Про временную и экономическую выгоду полностью соглашусь с Вами, особенно в части времени!
Ехал я тут, правда, каюсь, ибо грешен, 148 км/ч по участку М11 с ограничением 130 км/ч (по GPS скорость была 142 км/ч), пришел штраф с мобильного комплекса фиксации за 156 км/ч… Пойди, вот, докажи теперь, что ехал с круизом и насколько превысить не мог… Посмотрел еще запись с видеорегистратора, график скорости представляет собой идеальную прямую на одном и том же значении, никакого намека на 156 км/ч… Так и заплатил штраф ни за что…
2. У Вас электронная педаль газа? У меня педаль легко нажимается уже под весом ноги, если ее расслабить. Чтобы не нажимать, но держать над педалью — приходится напрягать. Я в таком случае ставлю ногу на тормоз, который как раз более «упругий», но эта педаль выше и на ней нога еще больше устает… Замкнутый круг)
4. Про временную и экономическую выгоду полностью соглашусь с Вами, особенно в части времени!
Ехал я тут, правда, каюсь, ибо грешен, 148 км/ч по участку М11 с ограничением 130 км/ч (по GPS скорость была 142 км/ч), пришел штраф с мобильного комплекса фиксации за 156 км/ч… Пойди, вот, докажи теперь, что ехал с круизом и насколько превысить не мог… Посмотрел еще запись с видеорегистратора, график скорости представляет собой идеальную прямую на одном и том же значении, никакого намека на 156 км/ч… Так и заплатил штраф ни за что…
1. Хм, странно. Держу педаль в одном положении, на подъёмах теряю максимум 2-3км, на спусках скорость стабильно держится.
2. Педаль газа электронная, но сопротивления хватает.
У меня с круизом так бывает, что он в горку пытается набрать обороты, и немного выходит за 110 (разгоняется до 112 и сбрасывает). Несколько раз попадал, когда сверху подъёма стоит камера, и я в неё на 112 влетаю. Стал ездить 108 по трассе ) По времени эти 2км ничего не дают совсем.
2. Педаль газа электронная, но сопротивления хватает.
У меня с круизом так бывает, что он в горку пытается набрать обороты, и немного выходит за 110 (разгоняется до 112 и сбрасывает). Несколько раз попадал, когда сверху подъёма стоит камера, и я в неё на 112 влетаю. Стал ездить 108 по трассе ) По времени эти 2км ничего не дают совсем.
Это у нас любят… Я год назад получил смешной штраф — 500 рублей, как за от 20 до 40 км/ч превышения, при этом скорость «измеренная» была 132 км/ч на трассе с ограничением 90 км/ч… При этом я ехал с включенным ограничителем скорости на 110 км/ч, что значит, что ехал не быстрее 106 км/ч…
Не знаю, как у вас, но у меня (Skoda, электронная педаль) нет ничего особенного в том, что педаль газа может быть чуть нажата при езде на круизе. Фактически, она и так нажата самими мозгами круиза, мы лишь слегка выбираем её свободный ход.
На эту тему есть отличная ф-ция «ограничитель скорости», которая не даёт разгоняться выше установленного лимита. Есть на многих машинах, где есть круиз. На трассе всегда настраиваю её на лимит дороги и еду держа педаль у «кик-дауна». При этом не надо контролировать скорость (не нарушишь), не так устаешь ибо не надо точно дозировать усилие на педаль и нога не устает, всегда можешь быстро ускориться (если надо на обгон) — нужно всего-то дожать до кик-дауна.
да и в городе сильно спасает от штрафов, но приходится чаще включать-отключать и менять лимиты =)
да и в городе сильно спасает от штрафов, но приходится чаще включать-отключать и менять лимиты =)
Как бы так сказать… Когда обнаруживается баг в работе диспетчеров и светофоров в виде мчащей в лоб на 150 км/ч электричке — реакция должна быть молниеносная — врубить экстренное торможение и валить во вторую кабину…
В случае Убера — достаточно бы было показывать оператору все «неопознанные препятствия» с подтверждением действия. Секунда — это очень много. Секунды более чем достаточно для того, чтобы понять, внимателен ли оператор, и начать торможение при необходимости.
В случае Убера — достаточно бы было показывать оператору все «неопознанные препятствия» с подтверждением действия. Секунда — это очень много. Секунды более чем достаточно для того, чтобы понять, внимателен ли оператор, и начать торможение при необходимости.
выполняются минимум двумя людьми (хотя бы дублируются, если не сидят вместе).
Да.
И в недоосознании этого принципа я вижу одну из главных опасностей хайпа вокруг нынешней волны роботизации всего и вся.
У машиниста поезда, в процессе столько задач, что без дела он не сидит вообще никогда.
Спросите у машинистов что такое «Рукоятка Контроля Бдительности». Если мне память не изменяет — так называлось это устройство, которое я имею ввиду.
(я говорю о 80-х и Белжд)
уже упомянули в комментах выше…
Почему для робомобиля стали проблемой «темное время суток» и «темная одежда»? Разве сонарам/лидарам не плевать на оптические характеристики среды? В ультазвуке, и при активной подсветке, эта дамочка выглядела, как огромный кусок мяса. В чем была сложность в таком случае?
впереди — неопределенное препятствие, которое можно игнорировать
Что могло пойти не так? Отличный алгоритм.
Вокруг автомобиля обычно куча обьектов. И естественно отслеживать все принципиально невозможно. Скорее всего оптика не смогла «выцепить» силуэт человек, лидар скорее всего просто определил как неподвижное не индентифицируемый обьект. И естественно этот обьект был проигнорирован.
НЛО прилетело и опубликовало эту надпись здесь
впереди — неопределенное препятствие, которое можно игнорировать
Что могло пойти не так? Отличный алгоритм.
Если «неопределенное препятствие» = Лось, то это крайне стрёмный алгоритм.
М-да.
— Впереди ХЗ что.
— Продолжаем движение не снижая скорости.
— Впереди ХЗ что.
— Продолжаем движение не снижая скорости.
Не впереди в смысле прямо по траектории автомобиля, а впереди в соседней полосе. Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса. Хотя такое иногда и происходит, к сожалению. Хотелось бы, конечно, чтобы робомобили могли с большей уверенностью предсказывать такое поведение.
Ну она же двигалась по направлению к полосе движения автомобиля. При этом относительно траектории движения авто оставалась неподвижной. Насколько я понял, было целых 6 секунд, чтобы понять, что то самое "неопределенное препятствие" движется и что столкновение с ним неизбежно, если сохранять текущие параметры. Даже за секунду она проделывала какую то пути. И вовсе она не кидалась, судя по видео. Так что алгоритм — кривой.
Согласен с Вами. Электроника должна уметь «предсказывать» положение объекта, основываясь на его текущих параметрах движения. Это не так уж сложно реализовать и если бы это было сделано, то мы бы сейчас не обсждали эту статью
Как я понимаю — по причине темноты не были чётко определены границы объекта и он был воспринят как неподвижный.
Если человек стоит на разделительной линии — это не значит, что будет стоять бесконечно, а значит, то что находится в процессе перехода дороги.
PS а человека стоящего возле пешеходного перехода, Убер тоже воспринимает как неподвижного и гонит не сбавляя скорости?!
PS а человека стоящего возле пешеходного перехода, Убер тоже воспринимает как неподвижного и гонит не сбавляя скорости?!
Там не было разделительной линии, дороги «туда» и «обратно» разделены нехилым «островом» с растительностью.
На который пешеход вообще не может попасть соблюдая правила (но об этом автопилот конечно знать не мог)
Т.е. велосипедистка шла с края дороги.
Насчёт PS — вопрос очень интересный.
Возможно если переход отдетектирован — то замедлит, а если просто у края дороги стоит — нет.
На который пешеход вообще не может попасть соблюдая правила (но об этом автопилот конечно знать не мог)
Т.е. велосипедистка шла с края дороги.
Насчёт PS — вопрос очень интересный.
Возможно если переход отдетектирован — то замедлит, а если просто у края дороги стоит — нет.
Имхо, это обычная дорога с двумя полосами. Я сейчас на секунду оставлю в стороне способность предсказывать развитие событий. Соблюдал пешеход правила дорожного движения или нет, здесь не имеет значения. В наших реалиях тем более. Я это к тому, что машина сбила "неопределенное препятствие", когда велосипедистка находилась прямо перед ней, даже не замедляя скорости. Т.е. будь это кусок арматуры, мирно катившееся колесо или танк она бы повела себя точно также? Ну как ни крути, даже восприняв объект как неподвижный шесть секунд назад, этот самый объект через какое-то время оказался около бортика авто, а потом и вовсе прямо перед ним. Ну замедлить скорость машина же должна была, видя перед собой препятствие вовсе немаленького размера.
Я смотрел то место в гугльмапе — обычная односторонняя двухполосная дорога.
В общем никто и не спорит что автопилот сглючил. Но как препятствие на дороге она могла в самом деле за 6 секунд до столкновения появиться.
В общем никто и не спорит что автопилот сглючил. Но как препятствие на дороге она могла в самом деле за 6 секунд до столкновения появиться.
Странно что он за 6 секунд до столкновения идентифицировал объект как неподвижный неопределенный объект и больше не следил за ним хотя за эти 6 секунд объект активно перемещался.
При условии, что автомобиль и пешеход двигались в одном направлении, строго параллельно, определить двигался ли пешеход действительно трудно. Сравните скорости и прикиньте на сколько сильно поменяются относительные габариты пешехода и, например, столба за 6 секунд. Авто проедет 116 метров, человек около 5 метров, в состоянии алкогольного/наркотического опьянения ещё меньше.
Вот да, даже если это не человек, а любой другой предмет, базовой установкой для автопилота должно быть ожидание, что из за этого предмета вылетит хоть человек, хоть животное. Т.е. сбавляем скорость, до такой, на которой авто успеет затормозить перед внезапно возникшим препятствием, проезжаем препятствие, ускоряемся.
Вы перед каждым столбом предлагаете тормозить?
Перед каждым столбом, кустом, коробкой, сбитой лисой и ещё чем, стоящими на обочине авто и вообще всем, что на проезжей части и рядом с ней неожиданно появляется.
Не понимаю, что в нормальных условиях может делать столб на разделительной полосе.
Не понимаю, что в нормальных условиях может делать столб на разделительной полосе.
Между прочим, правила так и предписывают действовать, только не тормозить, а выбирать такую скорость, которая
«Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил
При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».
п 10.1 ПДД РФ
Т.е. в условиях ограниченной или недостаточной видимости, надо выбирать безопасную скорость движения, которая позволит вам контролировать ситуацию.
«Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил
При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».
п 10.1 ПДД РФ
Т.е. в условиях ограниченной или недостаточной видимости, надо выбирать безопасную скорость движения, которая позволит вам контролировать ситуацию.
При возникновении опасности для движения, которую водитель в состоянии обнаружить
Если водитель не предположил, что из-за куста может кто-то выскочить, то он так и поедет не снижая скорости. Что и сделал робомобиль. Это, конечно не корректная оценка обстановки зачастую приводящая к печальным последствиям и такого не должно быть ни в том ни в другом случае, но, к сожалению, случается.
У меня слабое зрение. Если я вижу что-то, а что это оценить не могу (и тем более не могу оценить скорость), я сбавляю скорость. Учитывая размеры (сопоставимо с лосем) все могло кончиться действительно плохо. И нет, она не из-за куста выпрыгнула (такое бывает, да, но тут совсем иной случай).
Ну так вы и расцениваете ситуацию как потенциально опасную для вождения, когда не можете оценить что это. Робот вот оценил в этом случае обстановку как не опасную. Поймите меня правильно, я не защищаю «автопилот» и те алгоритмы, которые привели к таким последствиям. Я не согласен с формулировкой и её трактованием, как в начале этого треда
— Впереди ХЗ что.Согласитесь, одно дело, когда что то прямо на траектории движения, а совсем другое, когда в соседней полосе. Оценка действий и последствий совсем другая должна быть.
— Продолжаем движение не снижая скорости.
Это ХЗ что может выкатиться на вашу полосу. Упасть. Съехать. Скатиться. Доползти. Прыгнуть. Побежать. Вы не можете оценить предмет, вы не знаете что это, как вы можете предсказать его поведение, если это неопределенный предмет с неопределенными свойствами?
Впрочем, я оставляю за вами и другими людьми право делать не так. В конце концов, многие ездят 79/60 и не видят в этом ничего плохого — наказания же нет, значит и государство тоже так считает.
Но только потом им всем нужно не забывать, что они а) не контролировали ситуацию б) управляли средством повышенной опасности.
Впрочем, я оставляю за вами и другими людьми право делать не так. В конце концов, многие ездят 79/60 и не видят в этом ничего плохого — наказания же нет, значит и государство тоже так считает.
Но только потом им всем нужно не забывать, что они а) не контролировали ситуацию б) управляли средством повышенной опасности.
Проблема в том, что когда это ХЗ оказалось на дороге — Убер-пилот даже не попытался сбросить скорость.
Так я и не говорю, что не надо соразмерно ситуации сбрасывать скорость, вплоть до полной остановки. В конце концов даже правила (писаные на крови) говорят о том, что если в соседней полосе ТС по какой-то не ясной причине замедлились, то и вам необходимо сделать тоже самое. Я говорю о том, что если вы движетесь в левом ряду и на разделительной полосе установлены мачты освещения (бывает, когда есть физическое разделение) или вы выезжаете из тоннеля вы скорее всего не тормозите возле каждого столба и на каждом выезде. Вы просто абсолютно не ожидаете, что оттуда может выйти человек прямо под колёса.
Если обьект правда неопознан, то оттормозиться до 40 не грех — это лишь немного снизит комфорт езды, радикально снизив вероятные последствия.
А если объект распознан как отсутствие объекта, то есть ложный? У компьютерного зрения всегда есть ложные распознания. Так уж оно работает. Если реагировать на все ложные объекты — автомобиль сможет ездить на 5 км/ч, останавливаясь каждые пять метров.
Вы передергиваете. Машины, которые каждые 5 метров видят «неопознанное препятствие» не выпустили бы на дороги общего пользования.
А других пока нет.
Вы утрируете.
Или у вас есть пруф, что все существующие машины непрерывно видят неопознанную фигню? Понятно, что ложные срабатывания есть у любой нейросети, но они вряд ли близки к 100%.
Мы же рассматриваем ситуацию, когда неопределенная фигня наблюдалась в течение аж 7 секунд — это достаточное время чтобы отбросить гипотезу о ложном срабатывании и признать, что что-то там таки есть (что обьект реален, хоть мы и не можем его распознать). Разумеется, это не повод для экстренного торможения, но газ сбросить не грех.
Или у вас есть пруф, что все существующие машины непрерывно видят неопознанную фигню? Понятно, что ложные срабатывания есть у любой нейросети, но они вряд ли близки к 100%.
Мы же рассматриваем ситуацию, когда неопределенная фигня наблюдалась в течение аж 7 секунд — это достаточное время чтобы отбросить гипотезу о ложном срабатывании и признать, что что-то там таки есть (что обьект реален, хоть мы и не можем его распознать). Разумеется, это не повод для экстренного торможения, но газ сбросить не грех.
Не скрет, что там машинное обучение какое-то работает. Теперь посмотрите на любую модель: от нейронных сетей, до байесовских классификаторов — модель везде выдает число, грубо говоря, от 0 до 1. 1 означает 100% уверенность что это такой-то объект, 0 означает 100% уверенность, что это не он. Всегда программисты ставят некую границу. Типа от 0.65 — надо бы скорость снизить, от 0.8 — объезжать препятствие/тормозить. Ну вот тут попалась такая форма объекта, что он, грубо говоря, все время выдавал 0.6495. Как-то адекватно реагировать, что уже 7 секунд примерно там модель что-то почти опознает — невозможно. Она все время везде какие-то ненулевые оценки выдает. Можно ввести третий уровень рекации, типа если оценка от 0.5 до 0.65 несколько секунд, тогда притормажеваем. Но ничто не защитит от ситуации, когда какой-нибудь пьяный мужик с аккордеоном будет выдавать оценку в 0.498.
Это просто означает, что у них плохая модель. Если ее больше тренировать на лучших данных, есть шанс, что такая ситуация будет происходить реже. Но полностью от такого никто защитится не может.
Это все понятно, но речь о другом.
Я клоню к тому, что до тех пор, пока автопилот не сертифицирован для полностью самостоятельной езды, должны быть более жесткие критерии. Например, нужно учитывать размер и стабильность «неопределенного препятствия». Если у вас неопределенность размером со слона лося в 50 метрах, то газу бы можно поубавить, верно? Если с кошку петно, то фиг с ним, так и быть. При этом человеку можно дать право принудительно игнорировать эти ограничения. То есть, если автопилот бросил газ, человек может снова втопить. При этом данные такого обхода можно использовать для обучения с учителем и улучшения работы сети в дальнейшем.
Я клоню к тому, что до тех пор, пока автопилот не сертифицирован для полностью самостоятельной езды, должны быть более жесткие критерии. Например, нужно учитывать размер и стабильность «неопределенного препятствия». Если у вас неопределенность размером с
Если у вас неопределенность размером со слона лося в 50 метрах, то газу бы можно поубавить, верно?
Нет у неопределенности размера. Есть тупо набор пикселей с ненулевыми оценками. Непонятно, это ландшафт или 4 объекта рядом или один большой объект далеко или маленький близко.
Опять же, какие бы вы эвристики ни предложили, нет гарантии, что какой-то набор препятствий они не пропустят.
Тут даже у «мясных» водителей бывают сбои.
Я однажды встретил на встречке Газель у которой бампер был серого цвета, идеально совпадающего по оттенку с асфальтом в этом месте в это время, а кабина была темно-зеленая, идеально совпадающая с цветом леса на заднем плане. А граница между бампером и кабиной попала практически идеально на визуальную границу асфальта и леса с моего уровня глаз…
Чудом с ним разминулись…
В принципе, ситуация практически полностью аналогична той неприятности, где Тесла под грузовик заехала. А если посмотреть подборки записей с регистраторов, то там с половину ситуаций — ошибка распознавания у одного из участников.
Я однажды встретил на встречке Газель у которой бампер был серого цвета, идеально совпадающего по оттенку с асфальтом в этом месте в это время, а кабина была темно-зеленая, идеально совпадающая с цветом леса на заднем плане. А граница между бампером и кабиной попала практически идеально на визуальную границу асфальта и леса с моего уровня глаз…
Чудом с ним разминулись…
В принципе, ситуация практически полностью аналогична той неприятности, где Тесла под грузовик заехала. А если посмотреть подборки записей с регистраторов, то там с половину ситуаций — ошибка распознавания у одного из участников.
Если автопилот учится под руководством водителя, то в рассчет всегда должен приниматься худший сценарий. Соответственно, должны быть приоритетны максимально безопасные действия.
один большой объект далеко или маленький близко.Для этого у робомашин и есть сверка между набором датчиков включая всякие лидары и тд. Опять же мы по дороге едем а не по произвольному ландшафту, что дает много эвристик. Если у вас в пределах дороги «непонятно, это ландшафт или 4 объекта рядом», то лучше уж точно тормозить, тк там может и столб/бревно поперек лежать. Вы уж совсем-то за бесполезную железку их не выдавайте.
Если у вас в пределах дороги
Это если у вас идеальный лидар с разрешением 1/100500 угловых секунд и погрешностью пару см — у вас есть шанс понять, что это что-то в пределах дороги.
Там у них вообще лидар-то был, кстати?
Даже разрешение в единицы минут не нужно в обсуждаемом случае — мы ж не канореек выцеливаем.
И лидар, и ультразвуковой сенсор не идеальны — плохо работают с людьми (и другими препятствиями) в меховой или вязанной одежде, хорошо поглощающей падающие на них сигналы. В результате сенсоры видят не цельный объект, а разрозненные объекты небольших размеров, которые легко сойдут за облачко листьев на ветру или целлофановые пакетики.
Вы же сами говорите —
Поэтому даже 1% ложных распознаваний каждую секунду дадут вам в среднем один ложно классифицированный объект каждые полторы минуты. Представьте себе, как каждые полторы минуты автомобиль останавливается, чтобы человек сам решал, что там такое — ребёнок в странной одежде, газета на ветру, зацепившаяся за ветку, лужа или даже просто помеха на датчике.
ложные срабатывания есть у любой нейросети
Поэтому даже 1% ложных распознаваний каждую секунду дадут вам в среднем один ложно классифицированный объект каждые полторы минуты. Представьте себе, как каждые полторы минуты автомобиль останавливается, чтобы человек сам решал, что там такое — ребёнок в странной одежде, газета на ветру, зацепившаяся за ветку, лужа или даже просто помеха на датчике.
Во-первых, ваши оценки взяты от балды.
Во-вторых, я не предлагаю полную остановку в минимально неясной ситуации.
P.S. Помеха на датчике не будет устойчивой. А если будет, то это повод остановить испытания и отправить машинку на ТО.
P.P.S. Какой риск аварийности лично вы посчитали бы допустимым? Вы же понимаете, что человек, который просто следит за работой АП намного медленнее реагирует, чем настоящий водитель? Просто потому, что он ждет действий от АП и вмешивается только когда понимает, что АП тупит.
Во-вторых, я не предлагаю полную остановку в минимально неясной ситуации.
P.S. Помеха на датчике не будет устойчивой. А если будет, то это повод остановить испытания и отправить машинку на ТО.
P.P.S. Какой риск аварийности лично вы посчитали бы допустимым? Вы же понимаете, что человек, который просто следит за работой АП намного медленнее реагирует, чем настоящий водитель? Просто потому, что он ждет действий от АП и вмешивается только когда понимает, что АП тупит.
ваши оценки взяты от балды
А ваши аргументы, разумеется, из научного исследования?
Помеха на датчике не будет устойчивой
Она будет периодической.
Какой риск аварийности лично вы посчитали бы допустимым?
Ниже риска аварийности биоводителей.
Я не против робоводителей, я просто в курсе, что ДТП с ними неизбежны.
неопределенная фигня наблюдалась в течение аж 7 секунд
Мифическое время «наблюдения» выросло уже до семи секунд, хотя оно нигде не фигурирует в отчётах, оно выдумано читателями (это время, в течении которого водитель не смотрела на дорогу). Они (читатели) тоже способны сбоить, да.
Тут я не прав уже :)
Автомобиль действительно зафиксировал помеху за 6 секунд до столкновения, но классифицировал как помеху движению только чуть больше чем за секунду до столкновения.
In a preliminary report released late last month, the National Transportation Safety Board found that Uber’s vehicle detected Herzberg a mere six seconds before the crash, and initiated emergency braking 1.3 seconds before impact.
Автомобиль действительно зафиксировал помеху за 6 секунд до столкновения, но классифицировал как помеху движению только чуть больше чем за секунду до столкновения.
Ну так я изначально исходя из этого и веду рассуждения. Вместо того чтобы игнорировать непонятности а потом экстренно тормозить лучше сразу чутка газ сбросить, разобраться, а потом либо вернуть скорость либо более спокойно тормозить, верно?
Всякие листья и пакеты на ветру не будут давать стабильно детектироваться аж 6 секунд на такой скорости — они просто как шум отсеются.
Всякие листья и пакеты на ветру не будут давать стабильно детектироваться аж 6 секунд на такой скорости — они просто как шум отсеются.
Мне таки кажется, что частично видимый человек, перебирающий ногами, для компьютера гораздо ближе к листикам в вихре, чем полноценно видимый человек.
У компьютера нет злого умысла, и мы имеем то что имеем — либо иногда препятствия будут игнорироваться, либо периодически автопилот будет тормозить машину без видимых для человека причин, так уж устроено компьютерное зрение.
У компьютера нет злого умысла, и мы имеем то что имеем — либо иногда препятствия будут игнорироваться, либо периодически автопилот будет тормозить машину без видимых для человека причин, так уж устроено компьютерное зрение.
Я и не отрицаю проблем полностью. Но во-первых, я считаю, что вы завышаете оценки частоты их возникновения, а во-вторых, я считаю, что до тех пор, пока автопилот не допущен к самостоятельному вождению, у него должен быть четкий приоритет в терминах «лучше перебдеть». Со временем он доучится и будет ездить быстрее.
во-первых, я считаю, что вы завышаете оценки частоты их возникновения
Я просто понимаю как оно работает и какие у таких систем недостатки.
пока автопилот не допущен к самостоятельному вождению, у него должен быть четкий приоритет в терминах «лучше перебдеть»
Я и говорю, что это приводит к скорости до 15 км/ч с остановками каждые несколько минут. Зато с гарантией, что авто на автопилоте не врежется во что-то, но без гарантий что что-то не врежется в авто на автопилоте.
Со временем он доучится и будет ездить быстрее.
Нет, не доучится, оно не может учиться, это не человек. Пока не появится аппаратная платформа какого-нибудь нового типа, ничего не поменяется в этом вопросе.
Почитайте например pikabu.ru/story/kak_obmanut_bespilotnyie_avtomobili_i_ne_tolko_ikh_5220470
Эм, ну я тоже понимаю. Но это качественные недостатки, а не количественные.
Я и говорю, что это приводит к скорости до 15 км/ч с остановками каждые несколько минут.Пруфы-то у вас появились уже?
А что для вас будет пруфом? Видео испытаний подойдёт? Там именно так и ездят такие авто.
Это испытания другой системы. Мы оба понимаем, что у нас обоих нет хороших реальных данных, так что я предлагаю просто закончить на этом.
Система примерно у всех такая же. Вот, например, Яндекс.такси:
Обратите внимание на скорость на цифровом спидометре — она не превышает 14 км/ч.
Обратите внимание на скорость на цифровом спидометре — она не превышает 14 км/ч.
У сабжа ведь не 1st демо, да? Да и негде тут скорость больше разогнать.
Я как бы не отрицал, что существуют такие сочетания машин и условий, когда невозможно быстро передвигаться без проблем. Но вы же понимаете, что частный пример не может доказывать общее утверждение?
Я как бы не отрицал, что существуют такие сочетания машин и условий, когда невозможно быстро передвигаться без проблем. Но вы же понимаете, что частный пример не может доказывать общее утверждение?
Послушайте презентацию Криса Урмсона, директора отдела Гугла по беспилотным автомобилям, где он говорит, что беспилотники никогда не будут гарантировать отсутствие инцидентов, и что разработчики хотят чтобы инциденты случались реже, чем с обычными живыми водителями при низком уровне ложных торможений, которые тоже невозможно свести к нулю:
Аварии неизбежны. Важна частота их на километраж пробега.
Аварии неизбежны. Важна частота их на километраж пробега.
Да, алгоритм — кривой ну или по крайней мере не идеальный. По видео и объяснениям мне показалось, что пешеход двигалась параллельно движению автомобиля (видимо в течении этих 5-6 секунд) и сменила направление в последний момент. Да, не кинулась в буквальном смысле, но для алгоритма это оказалось неожиданным событием. Человек, скорее всего, распознал бы пешехода на дороге и предположил, что тот может «выкинуть» что-то непредсказуемое раз уже идёт в странном месте дороги. Хотя… если посмотреть ночные записи с регистраторов.
Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса
Вообще-то жду. И если проезжая часть там достаточно узкая (т.е. он сможет сигануть мне под колеса за один шаг) то я даже скорость сброшу и ногу на педаль тормоза перенесу. Потому что придурков, шагающих не глядя на проезжую часть хватает.
От автопилота разумно ожидать похожего поведения.
Вы же, когда управляете автомобилем, не тормозите перед каждым идущим по обочине пешеходом и не ждёте, что они кинутся вам под колёса
Она не по обочине шла, а по разделительной полосе, тут даже дурак догадается, что она переходит дорогу.
PS Если кто-то идёт рядом с нерегулируемым пешеходным переходом, то это тоже ситуация в которой стоит ожидать перехода дороги и нужно подъезжая сбросить скорость. Как и в случае когда рядом со школой стоит знак «осторожно дети!».
Таких пешеходов, шарахающтхся в тёмное время суток по краю проезжей части на пригородных дорогах регулярно привозят уже не живыми в городской морг. Мне знакомый показывал видео со своего регистратора, где он просто чудом не сбил такого.
На третий день после получения прав, при обычной поездке по Москве, один такой пешеход просто упал с пешеходной дорожки на дорогу мне под колеса. Расстояние было приличное, я легко остановился. Но пешеход и не думал вставать! Упал он при причине отказа вестибулярного аппарата при интоксикации алкоголем.
Лично я, в норме, перед велосипедистами и пешеходами перестраиваюсь, либо притормаживаю и увеличиваю боковой интервал. Если вечером, пару раз подвозил, но сейчас подвожу только тех, кто явно голосует, по личному опыту, вдоль дороги вечером в основном, выпившие в неадеквате разной степени ходят.
И? А если бы на месте велосипедистки была бы корова? В Финляндии вон «тысяча чертей, проклятые лоси...»
Т.е. система полюбому требует какой-то доработки. Мало ли чего может выпереться на трассу посреди леса в любых метеоусловиях.
Т.е. система полюбому требует какой-то доработки. Мало ли чего может выпереться на трассу посреди леса в любых метеоусловиях.
Я когда то был в Грузии. Там этих коров, гуляющих вдоль и по дорогам ооочень много. А на обочине очень много сбитых коров. Особенно это заметно когда едешь ранним утром. Ехав около часа между двумя небольшими городами я насчитал 8 тел.
Это я к тому, что грузинские водители прекрасно осведомлены о коровах, и имеют большой опыт взаимодействия с дорогой в таких условиях, что не мешает им регулярно их сбивать.
Это я к тому, что грузинские водители прекрасно осведомлены о коровах, и имеют большой опыт взаимодействия с дорогой в таких условиях, что не мешает им регулярно их сбивать.
Если Вы считаете, что боулинг на дороге — это нормально, то подскажите мне, на какой машине ездите. Буду обходить Вас за километр.
О нет, нет. Вы меня не так поняли. Я это скорее к тому, что есть люди, которые идеализируют других людей, наделяют их супер-способностями объезжать всех коров на дороге или велосипедисток, ощущающих себя ракетами.
Я в том смысле, что изначальная попытка сравнивать ошибки людей и ошибки современных алгоритмов порочна. И вести диалог в ключе, существующая система автопилота ущербна — «вон видите человека сбила которого зафиксировала за 6 секунд до» не имеет под собой никаких оснований, в силу принципиальной разницы в том, кто и в какие внештатные ситуации попадает, и каким обладает способами их разрешения.
И начинать подобные обсуждения нужно с формальной статистики накатаных километров к количеству ДТП.
Я в том смысле, что изначальная попытка сравнивать ошибки людей и ошибки современных алгоритмов порочна. И вести диалог в ключе, существующая система автопилота ущербна — «вон видите человека сбила которого зафиксировала за 6 секунд до» не имеет под собой никаких оснований, в силу принципиальной разницы в том, кто и в какие внештатные ситуации попадает, и каким обладает способами их разрешения.
И начинать подобные обсуждения нужно с формальной статистики накатаных километров к количеству ДТП.
Но из-за совокупности ряда факторов (темное время суток, темна одежда велосипедистки, переход ею дороги в неположенном месте и т.п.) программная платформа робомобиля никак не могла определиться с тем, что именно находится впереди. В конце концов компьютер сформировал «мнение», что впереди — неопределенное препятствие, которое можно игнорировать.Что очень смущает понимание алгоритмом термина «впереди», зачем он продолжает ехать на то, что впереди или 6 секунд недостаточно, чтобы затормозить или сменить траекторию?
А вдруг там бы просто бочка нарисовалась посреди дороги или небольшое полено, просто знак аварии в конце концов.
Если объект неподвижен, это же вроде не означает, что на него нужно ехать?
Миои догадки — человека с велосипедом из-за необычной формы, низкой скорости и недостатка освещенности система распознала как неподвижное препятствие на разделительной…
Заметка «кривая», в ранних сообщениях говорилось, что велосипедистка шла не прямо перед автомобилем, а по краю дорожного полотна и внезапно начала пересекать дорогу в результате чего пересекла траекторию движения авто. Робомобиль, не поняв, что это человек (или вообще живое существо) видимо решил, что спокойно минует «объект».
Одно дело — оператор. Не отвлекаться от дороги — это его прямая обязанность. Но я не очень понимаю как можно включать автопилоты 2 и 3 уровня (автопилот большую часть ведёт автомобиль сам, но водителю нужно постоянно быть начеку на случай непредвиденных ситуаций) на коммерчески выпускаемых машинах.
В этом случае водитель переключается в режим пассажира, и наблюдение за дорогой становится тяжёлой работой. Представьте себе, что вы за рулём, и едете по скоростной магистрали на скорости 130 км/ч. Вы отвлекаетесь от дороги? Вряд ли. А если вы стоите в пробке и машины перед вами еле ползут, а то и вообще стоят на месте. Отвлекаетесь? Думаю да. Мозгу становится скучно, и он начинает искать себе другое занятие. Даже если не смотреть сериалы можно задуматься, залюбоваться пейзажем, уснуть в конце концов.
Т.е. с одной стороны мы провоцируем водителя быть менее внимательным, а с другой стороны в случае аварии говорим, что вся вина на водители, который не уследил за автопилотом.
В этом случае водитель переключается в режим пассажира, и наблюдение за дорогой становится тяжёлой работой. Представьте себе, что вы за рулём, и едете по скоростной магистрали на скорости 130 км/ч. Вы отвлекаетесь от дороги? Вряд ли. А если вы стоите в пробке и машины перед вами еле ползут, а то и вообще стоят на месте. Отвлекаетесь? Думаю да. Мозгу становится скучно, и он начинает искать себе другое занятие. Даже если не смотреть сериалы можно задуматься, залюбоваться пейзажем, уснуть в конце концов.
Т.е. с одной стороны мы провоцируем водителя быть менее внимательным, а с другой стороны в случае аварии говорим, что вся вина на водители, который не уследил за автопилотом.
Думаю, тут важно, сколько времени оператор уже была «за рулём». Помнится, человек может удерживать внимание в течении 2-х часов. После чего нужен перерыв в пару часов. Инфа, от военных, дескать, именно поэтому часовых на посту каждые 2 часа меняют.
Вернее так, скорее всего оператор смотрела ТВ шоу в рабочее время не впервые. Т.е. вина руководства в том, что это дело вовремя не отследили и не пресекли. Но если руководство построило рабочий график оператора с нарушением эргономики, то, на мой взгляд, вина оператора уменьшается, а руководства увеличивается.
Вернее так, скорее всего оператор смотрела ТВ шоу в рабочее время не впервые. Т.е. вина руководства в том, что это дело вовремя не отследили и не пресекли. Но если руководство построило рабочий график оператора с нарушением эргономики, то, на мой взгляд, вина оператора уменьшается, а руководства увеличивается.
НЛО прилетело и опубликовало эту надпись здесь
Тут я говорю только про оператора, который следит за системой и вмешивается, судя по всему, не каждую неделю. Водителю легче, он может ускориться и притормозить просто потому, что так захотелось. Может остановиться, в конце концов, его внимание требуется для того, чтобы принимать мелкие решения. Т.е. он решает не долго одну большую задачу, а много мелких.
Даже по себе и супруге судить могу. Если куда то долго едем, то тот кто не за рулём к середине дороги обычно засыпает, и к концу пути устаёт больше, чем тот, кто за рулём был.
Даже по себе и супруге судить могу. Если куда то долго едем, то тот кто не за рулём к середине дороги обычно засыпает, и к концу пути устаёт больше, чем тот, кто за рулём был.
Чтобы иметь возможность приехать обратно, с дикого отдыха, с турбазы или из деревни Малые Пикуля.
Кстати, все забывают, что раньше на дорогах как раз были именно такие автопилоты.
Конные повозки с кучером. Выехал на дорогу между городами… и что дальше? лошадь идет себе, а кучер дремлет
Конные повозки с кучером. Выехал на дорогу между городами… и что дальше? лошадь идет себе, а кучер дремлет
Ну дык скорости поменьше были, да и интеллект «автопилота» и его способность определять движущиеся препятствия, имхо, были повыше чем у современных.
Когда-то давным давно читал среднеазиатскую книгу, там была следующая история:
мужчина путешествовал с сыном где-то за городом, как водится, в качестве транспорта был осёл. И вот дошли они до дерева с раскидистой кроной и ослик сам остановился. Сын спросил отца, почему ослик встал. Отец ответил, что год назад он путешествовал этой же дорогой и сделал привал под этим деревом и ослик запомнил это место.
А далее был случай с мальчиком, когда он попал в неловкую ситуацию, потому что ему дали поручение, касающиеся отца и третьего человека, а он забыл детали и не смог его выполнить. И автор как бы проводил параллель между ребенком и осликом.
Жаль, не вспомню как называлась книга… я бы с удовольствием перечитал ее еще раз.
мужчина путешествовал с сыном где-то за городом, как водится, в качестве транспорта был осёл. И вот дошли они до дерева с раскидистой кроной и ослик сам остановился. Сын спросил отца, почему ослик встал. Отец ответил, что год назад он путешествовал этой же дорогой и сделал привал под этим деревом и ослик запомнил это место.
А далее был случай с мальчиком, когда он попал в неловкую ситуацию, потому что ему дали поручение, касающиеся отца и третьего человека, а он забыл детали и не смог его выполнить. И автор как бы проводил параллель между ребенком и осликом.
Жаль, не вспомню как называлась книга… я бы с удовольствием перечитал ее еще раз.
6 секунд наблюдали крутые датчики, а когда мог заметить человек? Я на видео заметил за 0.5с, если не меньше.
Да и при таких данных «велосипедистка мало того, что переходила дорогу в неположенном месте, на ее одежде и самом велосипеде начисто отсутствовали светоотражатели. Кроме того, в крови женщины обнаружены наркотические вещества» было бы грустно, если б признали водителя и uber виновными.
Да и при таких данных «велосипедистка мало того, что переходила дорогу в неположенном месте, на ее одежде и самом велосипеде начисто отсутствовали светоотражатели. Кроме того, в крови женщины обнаружены наркотические вещества» было бы грустно, если б признали водителя и uber виновными.
На мой взгляд оператор/водитель виноват в невыполнении своих прямых служебных обязанностей, Убер виновата в отсутствии контроля за персоналом, велосипедистка виновата в отсутствии светоотражающих элементов и нарушении ПДД…
Вероятно, если б автоматика запищала «Обнаружен неизвестный объект возле трассы» и начала б плавно тормозить до взятия управления человеком, было б лучше. Грубо говоря: а может ли человек несколько месяцев смотреть за скучной дорогой, чтобы однажды обнаружить проблему и затормозить? Да, работница нарушила трудовой режим, но где гарантии, что другие не нарушают (и главное, а может ли вообще человек работать в таком режиме?).
Запись крайне некачественная, на самом деле с освещением там всё Ok, человек бы нормально увидел и без светоотражателей.
www.youtube.com/watch?v=CRW0q8i3u6E
www.youtube.com/watch?v=CRW0q8i3u6E
«Глупый» Mobileye начинает истерично пищать если ему кажется, что впереди человеческий силуэт.
В данном автопилоте не предусмотрены звуковые сигналы?
В данном автопилоте не предусмотрены звуковые сигналы?
Нет, не предусмотрены: habr.com/post/374531/#comment_16590641
Езда по городу с ним, наверное, сплошное "удовольствие"?
Если не ехать по тротуару, то он не мешает. Сенсор смотрит вперёд, а не по сторонам.
Да не, нормально. Он расчитывает скорость сближения, интенсивность писка зависит от скорости и потенциальной опасности. Ну и если перестраиваться без поворотников, но в этом случае он тише сигналит. Если ездить спокойно и соблюдать дистанцию он не мешает.
НЛО прилетело и опубликовало эту надпись здесь
Пока ещё не создано автопилотов 4 уровня, которые 100% (или 99.9999%) ситуаций смогут разруливать сами. Для того, чтобы такой автопилот рано или поздно появился и проводятся все эти испытания. Оператор отлично знала, что автомобиль не во всех случаях отреагирует как надо, но всё равно предпочла смотреть шоу вместо наблюдения за дорогой. Хотя я отлично понимаю как это сложно пялиться в одну точку ничего не делая.
То есть ненадежность по перекладывают на того кто это по в глаза не видел.
А много ли водителей видели в глаза софт своих обычных автомобилей? Автопилот пока что всего лишь вспомогательная система, никто этого не скрывает, и да, поэтому там должен быть живой человек, который следит за дорогой, имеет руль и педали и может забрать управление на себя. В этом нет ничего крамольного.
Если бы у оператора хотя бы «руки на руле» были, то да — спорим о крайности. Тут же оператор пялился в ТВ-шоу во время работы. Как бы неисполнение своих обязанностей.
Стандартная проблема обученной нейросети — человек с велосипедом уже и не человек вовсе. То ли еще будет.
Мне кажется все оправдания Uber — это просто отговорки для отвлечения внимания от того факта, что автопилот не отработал корректно в простейшей ситуации в которой он мог и должен был отработать. Автопилот должен: 1.определять координаты, габариты и траекторию движения всех обьектов вокруг; 2.избегать столкновения с опасными объектами если траектории автомобиля и объектов пересекаются. Объект размером с женщину на траектории достоен экстренного торможения чем бы он ни был. Если автопилот не справляется с этой общей задачей всегда, то это не автопилот а русская рулетка. Хочется надеяться, что с этой задачей автопилот убер как раз справляется, но произошел некий простой сбой в котором пока не хотят признаться. Хуже если автопилот едет вслепую, не имея полной модели движения объектов вокруг.
Может робомобилю просто стоило бы комментировать свои решения оператору, а в случае любых «неопределенных препятствий» и вовсе требовать внимания оператора?
Выскажу еще одну мысль. 70 км/час и 6 секунд реакции, это значит, что за 70 метров до препятствия автомобиль его видел, а раньше — нет. Это как очень густой туман, я в таком еду не 70 км/час. Если бы машина ехала 40/20 км в час было бы нормально. Но какие 20км в час на дороге? — спросите вы. Тогда ответ — машина должна выдеть обстановку дальше, чем на 60 метров для уверенной езды (должен на сотни метров), либо снижать скорость и отключать автопилот, чтобы человек рисковал сам.
6 секунд — это вполне достаточно, чтобы пересекающий дорогу человек пересёк полторы полосы.
Т.е. до того возможно велосипедистка находилась вне дороги.
Т.е. до того возможно велосипедистка находилась вне дороги.
Откуда вы 70 метров взяли? 6 секунд на скорости 70 км/ч — это 70/3,6*6=116.7 метров. И 6 секунд — достаточное время, чтобы остановиться (торомозной путь на скорости 60км/ч на мокром асфальте — 92м. Тут скорость чуть больше, но зато погода хорошая).
Видать был сонный. Вы правы — ~117 метров. А теперь представьте, что у вас на расстоянии 117 метров перед машиной стена — комфортно ездить? Я к тому, что машина должны была заранее (на максимальной видимости, доступной минимум глазу человека) видеть препятствие и анализировать его движение. Так как обычно делает водитель. Вряд-ли водитель посчитал бы женщину за столб, а был бы готов к внезапному изменению траектории, как мы бываем готовы, когда на шоссе стоит человек и явно хочет его перебежать в неположенном месте (и может он и бухой, и обкуренный, но надо быть готовым). Я поднимаю не сколько вопрос виновности, сколько вопрос общей недоработки автопилота. Он хорошо подходит и подходил (помните, как показывали площадки, где тестируют?) для небольших скоростей. В пробке: там где нудно. Но (сложную) трассу ему еще рано. Это мое мнение по автопилотам.
По-моему этот случай вскрывает ещё одну серьёзную проблему, вдобавок к проблеме определения ответственного.
Если рассмотреть ситуацию, например, с точки зрения однозначной вины «автопилота» (собственно алгоритма или разработчика этого алгоритма, не суть), то что это меняет для человека-оператора? На первый взгляд, конечно же, существенно всё меняет — человек не виновен в гибели другого человека. Но будет ли он чувствовать себя невиновным? Думаю, вряд ли.
Полагаю, эта женщина до конца своих дней будет возвращаться к мысли о том, что было бы, если бы она держала руки на руле, а ноги на педалях? Или даже о том, что было бы, если бы она просто не смотрела это шоу.
Скорее всего, в подобных ситуациях человек всегда будет спрашивать себя, а сделал ли он всё, чтобы предотвратить ошибку машины. вне зависимости от того, сколь совершенна бы эта машина не была.
Если рассмотреть ситуацию, например, с точки зрения однозначной вины «автопилота» (собственно алгоритма или разработчика этого алгоритма, не суть), то что это меняет для человека-оператора? На первый взгляд, конечно же, существенно всё меняет — человек не виновен в гибели другого человека. Но будет ли он чувствовать себя невиновным? Думаю, вряд ли.
Полагаю, эта женщина до конца своих дней будет возвращаться к мысли о том, что было бы, если бы она держала руки на руле, а ноги на педалях? Или даже о том, что было бы, если бы она просто не смотрела это шоу.
Скорее всего, в подобных ситуациях человек всегда будет спрашивать себя, а сделал ли он всё, чтобы предотвратить ошибку машины. вне зависимости от того, сколь совершенна бы эта машина не была.
Ваша ошибка в мнении, что всех мучает совесть (за причинение вреда другому).
В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).
В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).
Ваша ошибка в мнении, что всех мучает совесть...А зачем «всех»? Я верю, что не всех, но многих. Этого уже достаточно для того, чтобы это считалось проблемой.
В данном случае женщина — не совсем женщина (в прошлом мужчина) и не обычный человек (ранее судимый).Ну, это вообще не имеет никакого отношения к предмету разговора о «муках совести». Ничего не мешать ей/ему испытывать или наоборот не испытывать эти муки.
Если бы этой женщине продали автомобиль и сказали, что он ездит сам, вы только адрес укажите, она может и была бы не виновной. А тут ее посадили контролировать недоработанную технику, которая может быть опасна для окружающих, если что-то пойдет не так. Что-то пошло. Весь смысл наличия там оператора, единственная причина, по которой она оказалась в салоне — не дать автопилоту совершить дтп. Разумеется, она виновна. Тот факт, что алгоритм и/или железо оказались говном этой ситуации не меняет.
Разумеется, она виновна.А я этого и не отрицал. Мне даже кажется, что вполне возможно, что и она этого не отрицает (ну, может быть не вслух). Об этом и был мой комментарий.
Простите, я неправильно понял ваш комментарий.
Но теперь совсем запутался — в чем же проблема? По крайней мере в данном случае.
Но теперь совсем запутался — в чем же проблема? По крайней мере в данном случае.
Проблема в том, что в случае связки человек-машина, при различных трагических происшествиях машине в любом случае по фигу виновата она или нет, а человеку наоборот, в любом случае может быть не по фигу. И простое перекладывание ответственности на машину или её разработчика может не решить проблему и люди всё чаще не будут доверять машинам операции, которые могут привести к подобным трагическим последствиям.
Для решения этой проблемы машина и её разработчики должны не просто взять ответственность на себя, а полностью забрать её у пользователя.
Для решения этой проблемы машина и её разработчики должны не просто взять ответственность на себя, а полностью забрать её у пользователя.
Виноват, как мне кажется, скорее Убер — ну как можно предполагать, что оператор, который почти нефига не делает весь день, будет сохранять концентрацию и внимание? Нужны какие-то меры контроля, нужно его чем-то занимать все время (хоть ту же статистику собирать вручную, да что угодно, лишь бы занять его чем-то)
НЛО прилетело и опубликовало эту надпись здесь
Система не смогла распознать человека с велосипедом.
Но виноватым делают стрелочника, который предпринял бы действие на 0,5 секунды быстрее, если бы смотрел на дорогу.
А если бы за секунду до этого взглянул на экран смартфона, то результат все-равно был таким же из-за перепада яркости.
Но виноватым делают стрелочника, который предпринял бы действие на 0,5 секунды быстрее, если бы смотрел на дорогу.
А если бы за секунду до этого взглянул на экран смартфона, то результат все-равно был таким же из-за перепада яркости.
Ага, то есть они теперь пытаюсь спихнуть вину на некую Васкез. Очень круто. Сколько они там ей платили, кстати? 15 в час? Судя по всему дело было так. Убер наговнокодил нейросеть которая более-менее распознаёт человеков на дороге: то есть камера смотрит на дорогу, а нейросеть выдаёт число от -1 до +1, где -1 это «точно не человек» а +1 это «точно человек». Как обычно, нейросеть выдаёт в основном пограничные значения, скажем 0.6: такое значение может выдать картинка велосипедиста или картинка дерева. Проблема известная. Сроки как обычно поджимали, хотелось выйти на рынок как можно быстрее, и Убер выпустил на дороги недопиленную версию. Чтобы избежать проблем с законом в случае аварии, а также сохранить репутацию, в машину посадили стрелочника за смешные деньги. Уберу ничего не стоило посадить туда двух водителей по ставке $1000 в час, чтобы они были ппц как внимательны, но Убер этого не сделал — хотелось как обычно сэкономить на булавках. Ну а «в крови женщины обнаружены наркотические вещества» — совсем дешевая лажа (простите за выражение, но других слов у меня нет) потому что если Убер нанимает условных прокуренных уборщиц за минимальную ставку следить за машиной которая может сбить кого то (при этом зная, что софт недопилен), то виноват тут только Убер. Это как если бы самолёт во время приземления въехал в терминал и убил несколько пассажиров, а компания-владелец самолёта начала плести лапшу на тему «ну… пилот смотрел нетфликс в этот момент и вообще был под веществами и вообщем он во всём виноват» то летать бортами этой компании лучше не надо — у них там серьёзные проблемы с набором персонала и махровая экономия на безопасности.
Всё верно, но "ничего не стоило" и "экономия на булавках" у меня вызывают сомнения. Сколько там этих машин ездит, по $1000 в час не наплатишься. Тем более, масштабы роботизации наверняка предполагались гигантские.
На тестировании на дорогах можно было и не экономить. Пусть будет 100 в час (это нехилая ставка даже для продвинутого спеца) и пусть будет два водителя: то есть один может управлять, а у второго есть педаль тормоза. Пусть они чередуются в смотрении. И добавим ещё датчик внимания по типу грузовиков. Итого: 250 в час, пусть даже 24 часа в день, 6 месяцев = 1 миллион за одну машину. Пусть таких машин будет сто. Итого: 100 миллионов. Это крохи для компании которая ворочает миллиардами. Почему это не было сделано? Потому что жадное руководство сделало эти рассчёты и решило, что 100 миллионов в виде бонуса гораздо приятнее чем абстрактная безопасность.
Наркотические вещества нашли у женщины с велосипедом, а не у оператора. А так да убер просто нанимает стрелочников за гроши. Вряд ли 15, а раза в два меньше (минималку). А так могли бы контролировать работу вплоть до того что бы заставить оператора считать сколько людей было на обочине. И платить им нормально.
Сейчас минималка в Аризоне 10/час. Скорее всего, именно 15 и платили.
Упустил этот момент. Впрочем и тут Убер слажал: олени вон на дорогах можно сказать, что под веществами 24 часа в сутки — им ничего не стоит перебежать дорогу в любое время когда им удобно. Надо полагать, что если автопилот Убера въедет на полной скорости в оленя то виноват будет олень который не соблюдал правила.
Надо оператору робомобиля виртуальное ружьишко давать. Выскакивает кто-то на дорогу перед робомобилем — бздыщ из ружья. В конце смены — премия по результатам подсчёта фрагов. Вот и не будут отвлекаться.
НЛО прилетело и опубликовало эту надпись здесь
Может кто-то прочел больше чем эта статья (спасибо автору) и может объяснить зачем вообще Uber'у свой автопилот? У них бизнес модель такая что они последние перейдут на роботакси (бабушки себе студентов заказывать будут до последнего, а студенты будут последние кто купит новую машину с автопилотом) и если перейдут это будет совсем другой бизнес.
Теперь взяли и подставили свой доход под удар. Голова не знает что делает хвост… Или это такой панический страх? А и подсознательное: «насбивать побольше — нарождающуюся индустрию заторомозить»…
Теперь взяли и подставили свой доход под удар. Голова не знает что делает хвост… Или это такой панический страх? А и подсознательное: «насбивать побольше — нарождающуюся индустрию заторомозить»…
Виноват Убер, целиком и полностью. Причем не в багах автопилота а в полном пофигизме при организации тестирования опасной технологии.
С самого начала нужно было не набирать кого попало с водительскими правами и сажать в автомобили с инструкцией «вы уж там, пожалуйста, следите за дорогой» а разрабатывать систему, при которой оператор (а лучше два) будет действительно все время следить за работой автопилота. Что бы любая ошибка автопилота была им замечена. Причем не только те ошибки которые привели к аварии, а желательно все. Например автопилот «не заметил» знак ограничения скорости, но правила не нарушил, потому что поток двигался медленно, такие ошибки тоже должны отслеживатся. И с самого начала нельзя давать оператору возможность забивать на свою работу, это должно быть заложено в архитектуру тестирования.
Но дешевле, разумеется, набрать людей по объявлению и надеятся что пронесет.
С самого начала нужно было не набирать кого попало с водительскими правами и сажать в автомобили с инструкцией «вы уж там, пожалуйста, следите за дорогой» а разрабатывать систему, при которой оператор (а лучше два) будет действительно все время следить за работой автопилота. Что бы любая ошибка автопилота была им замечена. Причем не только те ошибки которые привели к аварии, а желательно все. Например автопилот «не заметил» знак ограничения скорости, но правила не нарушил, потому что поток двигался медленно, такие ошибки тоже должны отслеживатся. И с самого начала нельзя давать оператору возможность забивать на свою работу, это должно быть заложено в архитектуру тестирования.
Но дешевле, разумеется, набрать людей по объявлению и надеятся что пронесет.
Какая то странная формулировка- Незначительное препятствие, можно игнорировать. По моему на первых этапах развития автономных автомобилей почти любое препятствие- важное.
Случись это всё в России, сейчас бы депутаны запрещали шоу «Голос»…
Случись это всё в России, сейчас бы депутаны запрещали шоу «Голос»…
По моему на первых этапах развития автономных автомобилей вахно понимать что это ассистент водителю.
Имхо вина полностью «Оператора робомобиля». Система очень не совершенна и для этого его туда и посадили. Вы же не будете гаишникам доказывать что это навигатор сказал повернуть на лево где это запрещено, что случается довольно таки часто!? (Это не повод вставлять палки в колеса разработчикам навигаторов)
А вот для того что-бы понять степень вины водителя есть следственный эксперимент. Достаточно при тех же условиях определить за какое время до столкновения водитель мог увидеть пешехода. И что-то мне сдается в данной ситуации могло обойтись даже без резкого торможения.
Имхо вина полностью «Оператора робомобиля». Система очень не совершенна и для этого его туда и посадили. Вы же не будете гаишникам доказывать что это навигатор сказал повернуть на лево где это запрещено, что случается довольно таки часто!? (Это не повод вставлять палки в колеса разработчикам навигаторов)
А вот для того что-бы понять степень вины водителя есть следственный эксперимент. Достаточно при тех же условиях определить за какое время до столкновения водитель мог увидеть пешехода. И что-то мне сдается в данной ситуации могло обойтись даже без резкого торможения.
И некоторые «блондинки» именно это и говорят. Одна такая даже будку ГИБДД снесла.
Такое объяснение не катит потому что водитель этот ничего не понимает в том как работает автопилот. Если бы за рулём сидел ML Research Scientist, он бы руль вообще из рук не выпускал, потому что знает как эти нейросети работают, точнее не работают.
И сказано напрашивается Рафик пешеход был неуиноват хоть и переходил в темноте, в темной одежде в неположенном месте.
Вообще-то ответственность несут все участники движения, а не только те, кто на автомобилях.
Вообще-то ответственность несут все участники движения, а не только те, кто на автомобилях.
Прошлым летом немного побыл в состоянии, близком к этим операторам — брал в Европе в прокате машину с активным круиз-контролем (поддержание скорости + контроль дистанции до впередиидущей машины) и системой удержания на полосе. Несмотря на то, что проехать за один день надо было километров 700 — поигрался с этой системой минут 10 и выключил, далее включал только круиз. Оно действительно неплохо удерживается на полосе (только немного покачивает в поворотах), но возможности до конца не понятны, и на поддержание нужной концентрации уходит куда больше сил, чем на обычное вождение.
Оно действительно неплохо удерживается на полосе (только немного покачивает в поворотах), но возможности до конца не понятны, и на поддержание нужной концентрации уходит куда больше сил, чем на обычное вождение.«Не шалите» так больше, в автомобилях с удеражнием плосы руки с руля снимть нельзя — вы все еще остаетесь активным и основным водителем ТС. Удержание полос призванно выправить ситуацию если вы вдруг случайно потеряли контроль над дорогой. Следуя этому правилу вам не потребуется дополнительные усилия для поддержания концентрации, поскольку вы продолжите следить за дорогой почти как обычно. И в конченом итоге даже получите определенные послабления, так как автомобиль «поможет» вам оставаться в полосе (а не сделает работу за вас).
В принципе, требование регулярно голосом сообщать дорожную обстановку в черный ящик «скорость 70, слева никого, справа кусты, дорога прямая, виден впереди автобус» и контролировать это — показания спидометра можно считать, контроль зеркал — по движению глаз, упростило бы такие случаи… Также, как и с вариантом, когда человек купил себе робомашину. По идее, он мог мы некими маркерами ее даже обучать: машина сомневается, впереди ремонт дороги или мусор, и спрашивает, как поступить, или считывает управление водителем в данной ситуации.
Чем дальше в лес, тем больше душераздирающих подробностей. Дважды судимый 44-летний трансгендер испытывает для транснациональной корпорации экспериментальный робомобиль, но, засмотревшись на телешоу, не успевает исправить ошибку автоматики…
Мы живём в чёртовом фантастическом фильме категории Б.
Мы живём в чёртовом фантастическом фильме категории Б.
НЛО прилетело и опубликовало эту надпись здесь
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Оператор робомобиля Uber, сбившего велосипедистку, в момент столкновения смотрела шоу «Голос»