Pull to refresh

Comments 49

И что? Обычному водителю прожектором в глаз посветить и ситуация будет не сильно лучше, а стоит гораздо дешевле.

Да, машины, например, сильно уязвимы к кирпичу в лобовое стекло. Учитывая, что кирпич дешевле Ардуины, можно ожидать эпидемию таких атак.
Люди способны гибко реагировать на угрозу. Обычный водитель поймёт, что происходит что-то плохое, и постарается остановится.

А автопилот теслы в нынешнем состоянии, увидев, что бетонный блок справа мгновенно «испарился», а слева и спереди наоборот мгновенно появились новые, уверенно свернёт направо.

В автопилоте должна быть система определения, что с ним самим или с окружающей дествительностью что-то сильно не так. Это исследование показывает её необходимость.
Обычный водитель после этого, в соответствии с ПДД и здравым смыслом, примет меры к снижению скорости вплоть до полной остановки, а затем примет меры к поиску источника света и, вероятнее всего, к содержательной дискуссии.

Напротив, Tesla Autopilot, если я правильно понял статью, тормозить не будет и морду набить обидчику не сможет.
и морду набить обидчику не сможет.
Существенная недоработка!
морду набить обидчику не сможет.

Думаю, это до поры — до времени
UFO just landed and posted this here
Не то, чтобы я с вами спорил, но солнце-то конечно всегда понятно где находится, однако точное положение грузовика со стеклопакетами в кузове, от которых зайчик полтора на три с четвертью аккуратно засветил все сенсоры теслы прямо перед светофором…
Нет, я не против теслы и даже считаю, что автопилотом ее круиз-контроль зовется правильно, понятно и вполне закономерно, то есть по аналогии с авиационным автопилотом. И тут всё ок, разве что самолет с автопилотом доступен не каждому, кто готов побаловаться. Выше правильно сказали, что нужно развивать механизмы непрерывной самодиагностики и самоконтроля в таких системах, да и вообще во всех smart-системах. Тесла — это первая ласточка. Я удивлён даже, что она взлетела так рано. Мне казалось человечество гораздо консервативнее в плане всех этих моторизованных повозок.
Первая ласточка Google, полный автопилот, без участия человека. В отличие от Tesla.
Да все они в чем-то первые. Я имел в виду, что Тесла первая вышла на рынок с продуктом для людей. Эдак можно Бостон Динамикс вспомнить и говорить, что у нас уже есть самоходные чемоданы. Нет, первой ласточкой в той нише будет первая контора, которая начнет продавать доступные и относительно практиченые чемоданы.
1. Не надо переоценивать всех водителей. Есть водители что впадают в панику и ведут себя глупее автопилота.

2. Автопилот после пары таких случаев может получить обновление, что делать при умышленных помехах. Да хотя бы вызвать полицию, предоставив им всю телеметрию. Лазер в глаз это не шутки. И как было отмечено, Тесла переносит лазер лучше человека. Сам пытался сжечь камеру тестовую, самую дешевую, лазером зеленым на 2Вт, бесполезно, засвечивает, но после отключения лазера картинка восстанавливается. А вот глаз не восстановится.
Думаю очевидно, что разработчики Тесла прочитали отчет о создании помех, и уже включили обновление как в ПО, так и аппаратно в датчики. Великолепный тест проведен.

3. Тут предлагают устраивать самосуд. Иногда это не лучшее решение. Может пострадать как водитель, так и остальные. Например дети в машину снежок запустили, их что, убивать за это? А кого-то может и «переклинить», инстинкты они такие. Например водитель накричал на детей, рядом появился отец детей, кто-то не так что-то понял и готов очередной случай бытовых разборок, каких в год сотни тысяч.
За такие деньги можно купить вертолет и уронить с него рояль, хотя бы выглядеть прикольно будет.
Это они за ардуину, HC-SR04. и повербанк заплатили 40 баксов? Ребята на алиэкспрессе это могли за ~10 всё вместе взять и поддержать отечественного прозводителя.

Ну не суть — таким образом не только теслу а любую машину можно с датчиками парковки обмануть я думаю.
Так же впрочем и с радаром — уже множество машин его еспользуют.
UFO just landed and posted this here
Секция информатики и кибернетики Российской академии естественных наук, согласно данным с сайта организации, имеет некоторое количество действительных членов и член-корреспондентов.

А если серьезно, у нас этому примерно соответствует «доктор технических наук, профессор». Доктор — это звание, а профессор — должность. Соответственно, можно скомбинировать, если название структуры «кафедра компьютерных наук» — то будет «профессор кафедры компьютерных наук». А отдельного образования по computer science с прямо таким названием в нашей стране, кажется, нет.
lurkmore.to/РАЕН
или
https://ru.wikipedia.org/wiki/%D0%A0%D0%BE%D1%81%D1%81%D0%B8%D0%B9%D1%81%D0%BA%D0%B0%D1%8F_%D0%B0%D0%BA%D0%B0%D0%B4%D0%B5%D0%BC%D0%B8%D1%8F_%D0%B5%D1%81%D1%82%D0%B5%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D1%85_%D0%BD%D0%B0%D1%83%D0%BA
РАН и РАеН — это абсолютно разные вещи. Вторые — могут дать хоть звание «Магистр йода»
Товарисч как всегда забыл тэг сарказма/иронии проставить
кандидат таких-то наук, доцент, профессор, академик — это звания (рядовой-лейтенант-генерал), завхоз, завлаб, заведующий кафедрой, проректор, ректор и декан — должности (старшина (ага это и звание и должность, но в реалии это в звании прапор на должности старшины или вариации зависимости мнения командира вч), зампотех, замполит, комвзода, комроты итд) за которые и платят конкретные деньги. Профессор — не должность, это «состояние души + добавка к зарплате за должность и +1 комната к нормам жилья»
Итак, друзья, есть у меня одна история, которая начинается примерно так: Хакер приходит в общественную столовую.
А если серьезно — можно кусачками тормозную магистраль повредить, например, которая никак снаружи от этого не защищена, а потом злоумышленникам нужно будет просто ждать пока владелец поедет и устроит аварию. Но кто-нибудь на полном серьезе считает что это уязвимостью?
Современная машина будет при этом настойчиво оповещать водителя, что ехать нельзя и с тормозами проблема. Если утечка жидкости начнется в движении, то на некоторое количество торможений после сообщения о проблеме ее все равно хватит. Собственно от автопилота нужно примерно это же — чтобы не препятствие впереди «исчезало», а машина сообщала, что данные сенсоров недостоверны, рулите руками.
Возможно загорится сигнальная лампа АБС (которая желтого цвета как правило, а не красного) и согласно мануалу водитель должен будет незамедлительно проследовать в сервисный центр. А вот после первого же нажатия на тормоз вся жидкость из бачка расширительного вытечет и тогда-то и загорится красная лампа, сигнализирующая о низком уровне тормозной жидкости.

А по поводу сообщения о данных сенсоров — есть ли какие-либо способы отличить погашенную волну интерференцией от отсутствия сигнала?
> А по поводу сообщения о данных сенсоров — есть ли какие-либо способы отличить погашенную волну интерференцией от отсутствия сигнала?

Можно комбинировать данные от сенсоров.
Например, данные с радара и с камер дают сильно разные результаты по поводу препятствия — сообщаем водителю, что что-то не так, пусть смотрит глазами и рулит руками.
Я к чему про хакера в столовой-то сказал — там всё точно так же начиналось. Я согласен с вами, что пресловутый автопилот (который на самом деле никакой не автопилот, а всего лишь контроль полосы и скорости) требует постоянной доработки и усовершенствования, это факт. Но подобные изыскания магистров компьютерных наук — излишне и проходят не в том ключе, который был бы полезен. Ну будут комбинировать данные, опять азиаты придут с двумя интерферометрами и лазером, посветят и скажут — вот, уязвимость. И так до бесконечности.
Если разработчики будут, действительно, реагировать на все изыскания об уязвимостях, то мир устройства (в т.ч. автопилоты) будут все лучше и лучше. А пользователям и их окружающим — профит.
После первого нажатия она не вытечет, ее довольно много. При этом, как только уровень снижается в бачке, например, у Пежо начинает мигать красная лампа «Stop» на приборке, красная лампа значка тормоза, появляется непрерывный писк и надпись «Braking Fault» на центральном экране. Более чем достаточно, чтобы понять и остановится (тем более есть еще торможение двигателем и ручником в качестве резерва).
А вот после первого же нажатия на тормоз вся жидкость из бачка расширительного вытечет

тут, конечно, классическое противостояние брони и пули, но по-хорошему нормальный автопилот, как и нормальный водитель, ИМХО, должен «попробовать» тормоза в безопасной обстановке и время от времени аккуратно повторять проверку.
Меня всегда сильно удивлял этот анекдот. Для решения проблемы достаточно убрать солонки со столов и выдавать вместе с едой, и не использовать их содержимое повторно(как и остальную еду, которую не доели). А там таких ужасов нагородили.
Так было же, выдавали вместе с едой, оказалось что любой может стырить солонку.
Да пусть тырят, главное посетителей отравить не могут, а хищение посуды — уже менее критичная проблема.
Надо просто выдавать не солонки, а одноразовые пакетики с солью.
Сколько итераций солевого режима потребовалось бы директору, чтобы дойти до пакетиков с солью?
Как мне кажется, сейчас идет серьезная волна антирекламы Теслы, за которой вполне вероятно стоит кто-то из авто-производителей. Когда серьезные авто-концерны вроде VW обвинили в том что они НАМЕРЕННО обманывали клиентов, занижая уровень выбросов в атмосферу, или же когда GM скрывали проблему с зажиганием, которая приводила к аварии и довольно часто к смерти, то такой шумихи в прессе не было. Все это наоборот замыливалось. Но когда появились конкуренты, которые лучше абсолютно по всем параметрам, то находятся малейшие проблемы к которым можно придраться и раздуваются до проблем вселенского масштаба.
Если серьезно кто-то захочет устроить аварию на дороге, он устроит ее. И не нужно будет покупать не то, что антирадар за $90 000, даже адруино не нужен. Достаточно купить моток проволоки и сделать ежей и набросать на дорогах. И это не определят никакие сенсоры, никакой водитель в движущемся автомобиле не заметит.
Проблема с тем, что сенсор не увидел фуру, могла случиться и с обычным водителем, которого ослепило солнце. Все это высосано из пальца, а потом раздуто в прессе, а пресса как известно кругом честная и неподкупная (сарказм).
Проволка и ежи — явная диверсия.
Заглушить радар перед поворотом — можно списать на глюки автопилота.

Думаю эти исследования полезны, чтобы дать понять — автопилоты уязвимы к подставам. Как минимум все надо логировать, разрабатывать детектор глушилок, вводить в алгоритм функции, что если была машина и вдруг пропала — сразу пищать водителю, что что-то не так, возможно глушат или сбой.
Я имел ввиду, что подобную «уязвимость» можно найти в любом приборе, в том числе и в самих светофорах, которые можно хакнуть.
Меня больше волнует не сам факт уязвимости, а факт усиленного поиска этих самых уязвимостей. Так скоро начнут писать о том, что если в лобовое стекло Теслы бросить камень, то сенсоры его не заметят и не среагируют (особенно если камень будет белого цвета).
Всё это — попытки потопить конкурента и ничего более. Создать абсолютно безопасную систему невозможно, особенно в плане намеренного вмешательства. Большая часть аварий на дорогах происходит от невнимательности, плохой видимости, не возможности среагировать вовремя. Эти проблемы автопилот решает. Но он не должен решать проблему того, что вас кто-то пытается намеренно убить. Он не для этого предназначен.
на самом деле факта усиленного поиска нет. Просто сама Тесла — раскрученное явление, и активность вокруг нее тоже раскручивается. Уверен, что подобные вещи есть для всего. Если погуглить — полно случаев про глушилки телефонов, сигнализаций, еще чего-то. Просто всем пофиг. Парочку раз промелькнуло в новостях, когда заглушили уж очень много народу, или в каком-то кафе хозяин сделал пассивную клетку и все. А про Теслу тут же набегает куча народу почитать.
Скорее всего, это просто вирусная реклама.
«Работу автопилота и сенсоров можно намеренно нарушить при помощи специального оборудования»

Сдается мне, что работу чего угодно можно нарушить при помощи специального оборудования. В любом случае такие исследования полезны, т.к. позволяют понять границы допустимых диапазонов эксплуатации и уточнить действия на случаи различных нештатных ситуаций.

В общем, больше тестов хороших и разных.

Особенно, если учесть, что оборудование для обмана радара стоит как тесла… Явно хулиганы не будут этим баловаться.

любопытно, можно ли организовать некую автодиагностику, которая будет определять работоспособность радара и ультразвукового датчика, как-то детектировать их ослепление? Ведь в указанных случаях они фактически не были работоспособны, хотя это никак не определялось.

Например, условно говоря, на углу поля зрения этих систем на расстоянии нескольких сантиметров — десятка-другого сантиметров держать искусственный мелкий объект (да хоть монетку на бампер — или где там эти датчики располагаются? — наклеить), который будет служить для контроля систем: детектируется — работает, не детектируется — не работает, и показаниям системы верить нельзя вовсе.

С условной монеткой, наверно, могут быть проблемы из-за длины волны излучения, но общий принцип простой — держать на краю поля зрения объект, который должен достоверно детектироваться, и при отсутствии сигнала от него бить тревогу. С ультразвуковыми датчиками посложнее (можно что угодно обернуть одеялом, глушащим звук, и тогда именно это «что угодно» станет «невидимым», к работе системы это отношения не имеет), а вот ослепление радара так, как будто, вполне можно обнаружить
Нельзя, монетка будет видна пока между монеткой и датчиком не возникнет источник интерференционного сигнала. При этом «снаружи» монетки можно все сигналы погасить словно они и не отражаются, а между монеткой и приемником всё так и будет работать. Думаю, если уж говорить о злоумышленниках, то есть смысл заморочиться и сделать изменяемую длину волны. Тогда интерферометр будет бесполезен. По крайней мере, пока злоумышленники не начнут использовать специальное оборудование которое будет подстраиваться под изменяемую длину волны.
Но тогда уже нужно детектировать и этот момент и отключать автопилот при обнаружении того самого «остающего» сигнала — когда передатчик теслы уже сменил частоту, а в приемник попадает еще прошлая частота (из оборудования, которое не успело сменить её).Военные технологии уже какие-то, честное слово.
Эээ… я вовсе не специалист в данной области, сужу из общих соображений, поэтому заранее признАю возможную ошибочность. Однако, кажется, есть контраргумент.

во-первых, если «монетка» отбрасывает полную тень от источника интерференционного сигнала на датчик — то да, она будет видна, а все остальное — уже под вопросом. Однако если датчик будет только в полутени, то тогда отклик от «монетки» уже будет искажен. Поскольку штатный сигнал от «монетки» должен быть очень хорошо известен (постоянный объект в постоянном расположении по отношению к радару), то, вероятно, можно детектировать сравнительно малые искажения штатного сигнала. Расположение «монетки» так, чтобы датчик оказывался в полутени (и вообще возможность этого добиться) — это уже вопрос конкретных геометрических параметров, но общий ход мысли, мне кажется, вполне возможный.

во-вторых, можно разместить две «монетки» по противоположным краям поля зрения. Если источник вмешивающегося сигнала не слишком далеко удален, то на такой базе вполне может быть заметный параллакс, чтобы хотя бы одна «монетка» отбрасывала полутень, по которой детектировалось бы вмешательство.

Ну а про «Военные технологии уже какие-то, честное слово.» — интересно поразмять мозги, как можно преодолеть — пусть и довольно искусственно созданный — баг системы. Может, и без военных технологий обойдется, решение-то от постановки задачи зависит. Мне кажется интересным сам по себе вопрос, как контролировать работоспособность радара Теслы вне лабораторных условий.

Для человека есть же какие-то способы различения реалистичного сна и обычного бодрствования (посмотреть на руки, на часы), наверно, что-то подобное есть и про зрительные галлюцинации (вспоминается что-то про совет надавить на глаз, но толком не помню и не уверен, что это не байка). Что-то такое интересно думать и про опосредованное через приборы восприятие — как можно убедиться в достоверности картинки, которая выглядит как достоверная?
Новость с канала Рен-ТВ: о ужас!!! автопилот Тесла можно обмануть взрывом водородной бомбы на пути следования!
А по теме: чтобы злоумышленники устроили аварию достаточно всего лишь…
Правильно, кинуть банку краски с серебрином с обгоняющей машины в морду Тесле: лобового обзора нет, камер нет, ультразвуковых радаров нет.
> Более простой и дешевой атакой является ультразвуковая система, при помощи которой специалисты решили воздействовать на ультразвуковые сенсоры машины. Они обычно используются для автоматической парковки и «призыва» машины к водителю. В этом режиме она может самостоятельно выехать из парковки и приблизиться к владельцу.

Гораздо интереснее было бы не препятствия убирать/добавлять во время парковки, а заставить машину приехать к злоумышленнику — тогда угнать ее будет гораздо проще. Более того — едет ли машина к хозяину, если хозяин перемещается и насколько долго она может так ехать?
>тогда угнать ее будет гораздо проще
Теслы бесполезно угонять :)
https://tjournal.ru/p/vancouver-tesla-hijack
Ну если подойти к делу подготовившись — выбрать нужное время, найти место не сильно далеко и поставить там оборудование чтобы быстро например разобрать машину или просто заглушить от нее сигнал. Я уверен что это все вполне возможно. Этого пока что не делают скорее всего просто из-за того что угнать обычную машину выгоднее — меньше затрат и проще получить прибыль.
Этого не делают потому что нету спроса на разборки для тесла ) И скорее всего его еще очень долго не будет, если не никогда
Аккумуляторы имеют ценность сами по себе. С Toyota Prius воруют именно аккумуляторы.
Давайте лучше подпишем петицию:

https://www.change.org/p/elon-musk-help-us-elon-musk-you-re-our-only-hope

Sign up to leave a comment.

Articles

Change theme settings