Бен Насси, аспирант Университета Бен-Гуриона, под руководством профессора Ювала Эловичи провел серию успешных спуфинговых атак (атак подмены) на систему помощи водителю Mobileye 630 Pro с использованием недорогих беспилотников и проекторов с батарейным питанием.
Теперь же аспирант провел аналогичные эксперименты с Tesla Model X. Он представит результаты своей работы на конференции Cybertech Israel в Тель-Авиве.
Студенту удавалось имитировать атаки благодаря разнице между распознаванием изображений человеком и ИИ. По большей части изображения, которые Насси и его команда спроектировали, чтобы обмануть Tesla, не ввели бы в заблуждение типичного человека-водителя.
Видео Насси описывает опасность ложных атак, которые он назвал «Призрак ADAS».
Все эксперименты проводились с участием помощника, держащего проектор, из-за законов о запрете беспилотников. Однако отмечается, что поддельную атаку можно осуществить и при помощи дрона.
При этом команда использовала несколько проекторов стоимостью от $200 до 300, один из которых был рассчитан только на разрешение 854x480 и 100 люмен. В худшем варианте эксперимента Tesla пыталась следовать фальшивым маркерам на дороге.
Однако проблема не в том, что автопилот можно обмануть, а в том, что, как показал опрос 2019 года, почти половина водителей полагают, что можно безопасно снимать руки с руля, когда включен автопилот, а 6% ответили, что можно даже вздремнуть. При этом сама Tesla в описании системы подчеркивает, что автопилот предназначен для использования только с полностью внимательным водителем, который держит руки на руле и готов вступить в управление в любое время. В нынешнем виде автопилот не является системой с самостоятельным управлением, он не превращает Tesla в автономное транспортное средство и не позволяет водителю отказаться от ответственности. При правильном использовании он снижает общую нагрузку на водителя, а восемь внешних камер, радар и 12 ультразвуковых датчиков обеспечивают дополнительный уровень безопасности.
Ранее Национальное управление безопасности движения на трассах США опубликовало петицию, которая содержит 127 обращений владельцев Tesla с жалобами на аварии, которые произошли из-за внезапного увеличения скорости электромобиля при парковке в гараже или на обочине, а также во время движения при срабатывании системы помощи водителю. Авторы жалоб потребовали провести официальное расследование и отозвать электрокары Tesla Model S 2012-2019 годов выпуска, Tesla Model X 2016-2019 годов выпуска и Tesla Model 3 2018-2019 годов выпуска (почти 500 тысяч машин). Однако Tesla заявила, что все потенциальные инциденты изучили при помощи данных бортовых систем и пришли к выводу, что автомобиль вел себя в соответствии с ситуацией.
См. также: «Промышленные дизайнеры о Tesla Cybertruck: почему он такой, что в нем хорошо, а что плохо»
