Комментарии 48
Ну что тут сказать, бывает...
Что сотрудники между собой использовали клипы с автомобилей это конечно серьезный инцидент, но кликбейт про конфиденциальность не до конца понятен. В Tesla есть отдельная настройка которая позволяет выбрать хочет ли владелец делиться с компанией видео для улучшения системы или нет. Не могу говорить про 100% добросовестность, но что-то мне подсказывает что эти люди могли добровольно согласиться передавать данные в компанию.
https://www.teslarati.com/tesla-model-3-data-autopilot-cameras-fsd-push/
"Делиться с компанией видео для улучшения системы" и "делиться с компанией видео для того чтобы у сотрудников были прикольные видосики" это слегка разные вещи.
То есть проблема, если она вообще есть, именно в том что разрешение пользователи давали на одно, а произошло совсем другое.
Да всё как обычно
Продолжить -> Согласен -> По умолчанию -> Я ознакомился -> V Принимаю -> Далее -> Далее -> C:\ProgramFiles -> Далее -> Завершить
Никто не хочет читать 100500 страниц
Прикол в том, что там не какое-то огромное соглашение где это спрятано в 25 пункте, там буквально 4 вопроса и чекбокс на каждый. Т.е. можно например передавать данные о траффике для их карт, но не передавать видео об инцидентах.
и что-то мне подсказывает, что это как раз тот момент, где нужно законом закрепить требование: если система может работать без выбора опции - то запретить задавать вопрос "а хочешь опцию?". если пользователю нужна фича, без которой система и так может работать - пусть идет в настройки и выбирает галку.
Более того, некоторые записи были сделаны с припаркованных и выключенных электромобилей.
Все это сильно раздражает. Особенно тот факт, что нет физических переключателей и шторок на устройствах.
А как же старая добрая синяя изолента?)
Есть шанс, что "особо умные" автомобили в таком случае тупо заглушат двигатель.
Или отключат подписку на авто.
Или просто свернут в отбойник. Если уж фантазировать, то с огоньком
С огоньком? Закоротит батарею и заблокирует двери.
А "умные" авто так любят делать, уже.
Например, при резком перестроении, если "умное" авто увидит после обгона при двухполосном движении сзади другое авто, то может принять решение резко перестроиться обратно. В машину.
И заклеивание камер мало поможет - прошивки давно уже прилетают по воздуху, и в неопределенный момент времени эта прошивка решит, что пора бы требовать с водителя всех работающих камер.
Но, как правило, код пишут лишь бы работал, поэтому заклеенная камера может просто постоянно распозноваться как удар - и лишь создатель знает, к чему это может привести.
умное авто может принять решение. а может не принять. а может кто-то нафантазировал?
прошивки в тачки не ставятся без "нажми что хочешь поставить прошивку". может тесла там что-то и ставит без ведома, но не теслой единой, и нормальные производители ничего не ставят сами - едешь к дилеру и дилер всё ставит.
ну и вишенка на торте: если вы пишите код "лишь бы работало" - это не значит, что так все делают. аномальные значения с датчика = датчик отвалился/не работает, его показания не учитываются. именно так работают с железом, а не как вам придумалось.
Два раза встречался с ситуацией, когда слишком агрессивный стиль вождения водителя мешает умному авто принять правильное решение, и происходит именна та ситуация, которую я описал.
Прошивки - может и не ставятся. Но за последнее время было достаточно много подтверждений тому, что шины данных в современных авто плохо защищены.
Например - вот, оно легко гуглится.
https://habr.com/ru/companies/cloud4y/articles/713312/
Насчет кода: мне интересно, а на каком основании вы решили, что мне что-то придумалось? За последние три года я достаточно много перекопал информации по SLAM, LiDAR и прочим CV, и видел как хорошие решения, так и плохие.
Самое пугающее в таких разработках - это когда отдают важный код на аутсорс.
https://snob.ru/entry/173714/?ysclid=lg6q45p75j948290750
Инцидент с боингом привожу просто как принципиальный пример возможных аварий при раздувании кодовой базы.
Не знаю, может, я как-то слишком резко выражаюсь, но мысль, надеюсь, донес.
Чтобы не быть голословным для вашего взгляда, пожалуй, приведу частичное подтверждение своих слов.
На раннем этапе программное обеспечение имело привычку поражать полицейские патрули. Никто не знал почему, хотя у инженеров Теслы было несколько хороших догадок: неподвижные объекты и мигающие огни, казалось, обманывали ИИ. Автомобиль ехал нормально, компьютер хорошо контролировал, и внезапно он отклонялся вправо или влево и — разбивался — по крайней мере, 10 раз за три года.
https://www.nytimes.com/2023/01/17/magazine/tesla-autopilot-self-driving-elon-musk.html
Учитывая, что авто-гиганты типо VAG, Mersedes, Ford часто отдают разработку электроники на аутсорс - просто вопрос времени, когда возникнет та или иная проблема с компьютерным зрением.
Особенно учитывая маниакальную потребность некоторых людей избавляться от систем "слежки".
а не задумывались почему?)))
Люди сами же начнут плеваться от этих шторок. Камеры же там не по приколу, а для автопилота.
Блин, уже столько людей знает, а он до сих пор не в курсе, да? :)
Неизвестно, в курсе ли Маск существования такого видео и того, что им делились его подчинённые.
запросто, когдато я работал в одной конторе (ни конторы ни связанной с ней банков уже давно нет)
там сотрудники развлекались тем что трекали клиентов просто так, кто где жрачку покупает, в какие рестораны ходит, когда ДР, сколько денег подарили. (в т.ч. и учетки высшего руководства тоже)
думаете высшее руководство банков и самой конторы было в курсе что они это делали?
аттракцион, "немного" подрезали когда народ начал борзеть и по приколу блокировать карты своим знакомым… и какойто знакомый пожаловался… но это продолжалось много лет
насколько я знаю концептуально такое развлечение отрубили только в середине десятых когда стали проверять необходимость доступа у сотрудников… т.е. запрашивание данных клиента только если есть звонок этого клиента или какоето заявление
Есть камера +
Есть интернет +
Значит рано или поздно кто то будет смотреть фото/видео с вами, как бы они не обещали что не будут.
Извиняюсь, не автолюбитель, а откуда автомобили получают интернет? судя по тому что видосики гигабайтами гонять - безлимит.
мобильний, симка какая то есть? а если сети нету? кто платит за удовольствие?
Не знаю как это конкретно сделано у Теслы. Но обычно там симка и владелец машины платит абонентку.
Иногда производитель/продавец "дарит" бесплатную абонентку на первые полгода-год.
В теслах мобильный интернет (платный на новых моделях), безлимит. Можно ещё видосики не стримить, а хранить на диске до доступа к домашней точке.
У меня к примеру симка стоит в головном устройстве. А так как писали ниже..может потерпеть до файфая, а может и сразу...тесла ведь умеет открываться из приложения, это я так понимаю тоже через интернет реализовано, потому что когда сервера теслы прилегли люди не могли в машину попасть.
Разве не должно быть аппаратной защиты таких данных? Видео — принадлежность "черного ящика" автомобиля. Доступно либо физически при подключении к устройству в случае аварии (и необратимо заметно для владельца, т.е. факт съема данных ему становится сразу известен). Либо в случае противожуликовой операции с участием правоохратнительной стороны — рабротают в паре два ключа: производителя и полиции для удаленного съема данных. В черном ящике автомобиля необратимо остаются метки ключей, которыми снималась информация, так же факт подключения доступен владельцу всегда, невозможно следить за человеком без его ведома. Это минус для полиции, но это правильно с точки зрения личной информации.
В одиночку ни полиция ни производитель удаленно доступ получить не могут. А при доступе история запросов (как физических так и удаленных) становится доступна клиенту и при просмотре журнала в автомобиле и через сетевой ресурс производителя. Достоверность данных должна быть основана на блокчейне — любая коррекция журнала обнаруживается.
Иначе скажите всем, что их смартфон по желанию сторонних лиц включает втихаря камеру и микрофон и передает это все, в виде "посмотреть и скопировать". Официально скажите, а не "конспирологически".
Я поясню на простейшем примере. Было дело, в машине жены стоял спутниковый маячок. Запрос местоположения доступен и ей и мне. Я за ней не слежу (это принципиальный момент для меня), хотя имею возможность. В ответах маячка присутствует счетчик. И жена может заметить разрыв в счетчике — значит я получил ответы. Далее вопросы ко мне. Без физического доступа к автомобилю изменить счетчик я не могу, с доступом только обнулить (или при большом усердии обнулить и накрутить до нужного значения).
У ряда автомобильных марок(и судя по комментариям и у Теслы тоже) вы можете добровольно согласиться отправлять видео или просто разные собранные данные производителю для "улучшения качества".
То есть именно то, что видео уходили Тесле, совсем не обязательно какое-то нарушение.
Было бы неплохо, чтобы в принципе "для улучшения качества" из автомобиля наружу могли уходить только постобработанные кадры: глубина пространства, сегментация на объекты, нормали… что там еще нужно для автопилота? Детектор лиц на самом низком уровне пикселизирует их, таблички (тексты) аналогично. А выкатывать в прод софт, который требует отладки по живому видео именно этих базовых навыков — извините, признание собственной сырости и детских болячек.
Мне кажется производитель вправе сам решать какие данные ему нужнее. И пока он не собирает эти данные без вашего разрешения и использует их по назначению лично я никаких проблем не вижу.
Вот это и можно заявлять. Чтобы владелец "умного устройства" знал, что все попадающее в поле зрения камеры доступно без ограничений определенному кругу лиц. И дальнейшая отвественность за распространение этой информации лежит лишь в административной области. Т.е. пока не пойман — не вор. Аппаратных средств ограничения доступа к этой информации не существует. Боюсь, не все пользователи осознают данный факт.
Ещё раз: пользователи, как минимум часть из них, добровольно дали разрешение Тесле собирать видео и/или информацию с камер. Добровольно и про активно.
На данный момент нет никаких причин полагать что Тесла когда либо собирала эти данные без разрешения владельцев машин.
Проблема не в том что Тесла получила эти видео. Проблема в том их использовали не по назначению.
Так для улучшения сегментации и нужны сырые данные. Чтобы автопилот засомневался и отправил, человек обработал и автопилот запомнил новые вариации перевозки велосипедов на крыше (это машина с грузом, а не высокий велосипед) или нарисованной таксы на задней стене фуры (это рисунок, а не собака посреди трассы).
Исходники могут понадобиться для выяснения причин разных сбоев. Например, если на дороге есть полосы, которые ведут с стену.
Вот вы действительно так думаете? Что если вы на телефоне отключили камеру и микрофон то он выключился)? и если Вы не дали согласия Тесле, то она не мониторит все вокруг)?
Просто в настройках гаджета стоит что ВАМ это опцию видеть не НАДО)
Большой брат следит за тобой…и не только он
Cотрудники Tesla сливали в групповой чат «избранные» записи с камер электромобилей; Илон Маск тоже попал в эту коллекцию