Как стать автором
Обновить

Комментарии 39

Очень странно звучит робомобиль без подушек безопасности и тормозов…
И зачем там руль… он только мешает, вполне логично, что люди будут брать простую машину с ручным управлением для отдыха и понта и робота без управления для ежедневных поездок… я бы вообще предпочел. чтоб там был затемненный салон с длинным мягким диваном — сказал адрес — и ложишься спать, по приезду робот тебя разбудит. Разве то вот аварийный тормоз в салоне нужен… но не думаю, что у пассажира вообще будет возможность им воспользоваться ввиду того, что он будет занят совсем другим и тупо не успеет, а для обычной остановки можно просто сказать роботу прекратить движение.
Идея сделать и выпустить робомобиль на дороги общего пользования мне кажется сравнимой с идеей построения коммунизма. Вроде бы коммунизм хорошо — справедливое общество, общее достояние, свобода, равенство и братство. Робомобиль — классно. Но дъявол кроется в деталях. Меня интересует будут ли опубликованы исходные тексты робомобилей? Вероятно — нет, а значит нет никаких причин, почему это ПО может быть надежным и безопасным. Насколько ПО такого автомобиля будет защищено от хакерских атак? Будет ли автоматическое обновление ПО и как оно будет происходить (не во время движения ли)? Будет ли ПО автомобиля привязано к вендору как сейчас привязаны телефоны андроид к гуглу и айфоны к эпл (в смысле вендор теоретически может манипулировать девайсами)?
Очень не хотелось бы вот такого: www.wired.com/2015/07/hackers-remotely-kill-jeep-highway

Вы правы, и есть несколько моментов, которые либо все это зарубят в итоге на корню, либо ездить станет невероятно опасно. Чтобы система вождения работала действительно эффективно и правильно нужен обмен с другими авто. Только своих сенсоров мало. Чтобы обойтись только своими нужен реально сильный ИИ, как водила. Но! Любая система на основе глубокого обучения может быть достаточно просто дезориентирована ложными данными или специальными артефактами, как сейчас делают со знаками, модифицируя рисунок. Представьте, что будет на заполненном скоростном хайвее если робопилот словит ложные данные? Случайно или по злому умыслу. Простор для хакеров, спецслужб и террора открывается необъятный.
Но вот сильный ИИ за рулем отдельная тема, по моему мнению невозможная тема. Т.к. такой ИИ открывает другие риски, к которым мы не готовы. Общество не готово. Да и не захочет сильный ИИ быть просто водителем.

Но вот сильный ИИ за рулем отдельная тема, по моему мнению невозможная тема. Т.к. такой ИИ открывает другие риски, к которым мы не готовы.

Это какие?


Да и не захочет сильный ИИ быть просто водителем.

Откуда у него возьмутся желания?

У того, что все подразумевают под сильным ИИ будут и желания и все прочее, как у человека.


Риски того, что тот, кто будет обладать сильным ИИ может, используя его способности, радикально изменить весь мир под себя, не в лучшую для остальных сторону. И там уже будет не до робомобилей совсем.

Что делать, бить по голове хакеров, любителей модифицировать знаки и тд. Если кто то бомбу на дороге заложит или по гаражам прошвырнется ломая тормоза? Люди так же хакаются, смотри новости про водителей с промытыми мозгами врезающимися в толпу, так же легко ловят артефакты и тд.

С робомобилями жертв булет больше и чаще. Я имею в виду именно террор.
Любая сетевая комп.техника хакается на раз-два. Нет ничего невзламываемого. А тут будет целая сеть из сотен тысяч устройств на дорогах.
Ладно бы просто безобидные офисные компы или IoT, но в нашем случае это тысячи потенциально смертельных снарядов.
Это как винда и линукс. Линукс не особо ломали пока его использовали немногие, теперь куда чаще. Винду же из-за массовости каждый день долбают и патчи то и дело отгружают пачками. Вот и Тесла пока была потыкана только чуть. Будут десятки брендов и сотни тысяч авто — вот тогда вспомните мои комменты. Я предвижу ад. Если чего-то еще не случится раньше.


Я пишу это не просто так, потому как сам в разработчиках сверхнадежных систем. Но все равно вижу достаточно потенциальных дыр, которые просто невозможно заткнуть. И дело даже не в бюджете и человеко-часах… То же самое и с робомобилями, т.к. бизнес-процессы в больших компаниях одни и те же. Все не заткнешь. А хакеров много.

Таки зачем делать сеть между робомобилями, они и без неё лучше людей справляются.
НЛО прилетело и опубликовало эту надпись здесь

В том то и дело, предотвращение столкновений хотят реализовать через обмен данными между участниками движения. Так и смогут выучить фейк, толкнуть авто наоборот на столкновение.

НЛО прилетело и опубликовало эту надпись здесь
Чтобы система вождения работала действительно эффективно и правильно нужен обмен с другими авто.

Я делаю ставки, скорее, на альтернативы для дорог общего пользования в виде дорог исключительно для робоавтомобилей, и с централизованным управлением, а не с общением автомобилей между собой.


Любая система на основе глубокого обучения может быть достаточно просто дезориентирована ложными данными или специальными артефактами, как сейчас делают со знаками, модифицируя рисунок.

Не зная параметров и коэффициентов нейросети, этого сделать нельзя.

Я делаю ставки, скорее, на альтернативы для дорог общего пользования в виде дорог исключительно для робоавтомобилей, и с централизованным управлением, а не с общением автомобилей между собой.

Железные дороги придумали давно. А тут вся фишка именно в использовании дорог общего пользования робомобилями.
Для этого нужны централизованные системы управления. Робомобиль въезжает в город и передает управление городской автомобильной системе. Та уже распределяет маршруты автомобилей учитывая пробки и все такое. Зная обо все автомобилях города.
хех, к чему эти мысли о безопасности? Просто доведут количество трупов до приемлемых значений и все. Не существует абсолютно безопасных систем. Пользуясь чем угодно, вам просто нужно осознать, что на определенное количество использований этого предмета приходится некоторое количество трупов… примите это и смиритесь… ну и помолитесь всемогущему рандому, чтоб вы не стали тем статистическим трупом. Опасны лестницы — люди с них падают, опасны эскалаторы в метро — на их счету тысячи трупов, опасны лифты — они тоже собирают кровавый урожай… опасны авто и абсолютно независимо от того, водитель вы или пассажир — машинами пользуются несмотря на дикую смертность. И робомобилем вы тоже будите пользоваться, хоть разбиватся они будут может чуть реже — просто смиритесь с этим — за удобства надо платить — и вы платите вероятностью смерти.
Не согласен с Вами.
Опасность компьютерных технологий принципиально отличается от опасности лестницы или даже «обычного автомобиля». Я вот вспоминаю случай когда апдейт антивируса Symantec убил тысячи персональных компьютеров в Китае за один день. То есть была стабильная рабочая версия ПО, ей доверяли и с ней работали. Потом ррраз! И все, готово… И кто там виноват: толи апдейт windows, толи апдейт антивирусных баз данных, кто-то чего-то недоглядел.
В случае с робомобильным ПО нам неизвестны технические детали реализации. Будет ли там встроенный механизм апдейта? Будет ли там система плагинов-расширений функционала сторонними производителями ПО? Будет ли там антивирус?

Ну да, там еще антиаируса не хватало. Чем проще система и меньше прог — тем будет лучше. Но все равно главная дыра — компоненты построенные на глубоком обучении. Их всегда можно обмануть, потому, что они построены на неполноте, значит, всегда есть входной набор, позволяющий получить нужный нам выход, даже если входной набор далек от тренировочного. И это пока неустранимая проблема на нашем текущем уровне знаний и разработок.

Я скорее соглашусь со Zmiy666.
Да — причины смертности будут другие. Но — те что есть существенно уменьшатся. Вот примеры из личного опыта. Еду с фестиваля, пробка, ночь, дико хочется спать. Два раза засыпал и чуть не въезжал в переднюю машину. Почему не остановился и не поспал? Домой быстрее хотелось. Выезжаю с заправки и чуть не попадаю под удар маршрутки несущейся в правом ряду; устаю ждать на пробочном светофоре, вылезаю чтобы объехать пробку и в меня чуть не въезжают; не замечаю авто цвета свежевыпавшего снега — и оно в меня въезжает; знакомая (в сердцах) резко стартует во дворе на узком и высоком джипе — переворачивается; друг превысил скорость на мокрой дороге — улетел в кювет с полуторным сальто. Всё это обошлось или обошлось без травм, но… могло и не обойтись. А причины были вовсе не сложноастральные, а наибанальнейшие-дурацкие. Думаю вот таких аварий по глупости станет на порядок меньше. Но да — появятся странно-новые. Типа той попытки проезда под фурой.

При чем там, так сказать, естесственные причины смертности? Я о массовых побоищах, о терроре. Можно направить один большой трак зигзагами по загруженному хайвею и будут сотни жертв. Поверьте, мы не видим реально массового террора только потому, что даже очень идейные фанатики все-таки хотят жить и каждый наденет на себя бомбу или сам залезет в авто давить народ, чооб быть застреленным. А тут будет возможность все делать дистанционно, без присутствия. И в этом большая разница.

хех, а слепить бомбу из бытовых газовых баллонов, банок с бензином, термитной смеси и мобильного телефона вам религия не позволяет? Дистанционно или нет, массово или нет, вирусы или хулиганство или еще какая причина — все это учитывается при расчетах количества жертв при использовании устройства. Есть допустимые риски и допустимое количество жертв. Если робомобиль будет укладываться в эти рамки — его выпустят на дороги. А так с таким подходом как у вас — так у нас все запретить надо. У нас и сейчас дистанционно кучу народа убить можно — отравить питьевую воду и все… поймите если б террор существовал независимо вы бы сто раз подумали прежде чем выйти из дому и купить например пачку сока — отравить продукты в магазине вообще плевое дело. А если отбросить эту ерунду с преднамеренным террором, то робомобиль вполне безопасный и весьма нужный транспорт.
И сейчас можно отправить один большой трак зигзагами. Сотен жертв кстати не будет. И его даже можно сделать без водителя немного «починив» систему автокруиза и он сможет ездить зигзагами по хайвею. Это не сложнее чем взломать систему дистанционного управления. Просто люди обладающей подобной квалификацией не особо идейные фанатики, а обогатиться можно и менее рискованным способом чем устраивать теракты.
открыл flightradar24. самолетов куча.
По моему ни ейрбас ни боинг исходные коды не опубликовали.
Не боитесь что коварный автопилот направит самолет вам в дом?
Пока что за «коварными автопилотами» следят опытные пилоты и диспетчеры на земле.
ага, те самые, которые напиваются до состояния нестояния, занимаются онанизмом, курят гаш прямо в кабине или крепко спят там. Таких случаев уже десятки были. Они не всплывают только по тому, что пассажиры редко видят пилотов, а начальство если и спалит пилота — тихо выпрет его, не поднимая скандалов.
Диспетчер же кроме воплей в эфире вообще ничего не может сделать, ведь возможности перехватит управление у него нет.
напиваются до состояния нестояния, занимаются онанизмом, курят гаш прямо в кабине или крепко спят там

А чем еще на эшелоне несколько часов заниматься?

Автопилот самолета и автопилот автомобиля — штуки, которые вообще, по моему мнению, нельзя сравнивать, поскольку автопилот самолета контролирует количество параметров, исчисляемых количеством, в худшем случае, пальцев двух рук. Что там у нас: курс, высота, скорость, вертикальная скорость, задаваемые комбинациями тангажа, крена, рысканья, оборотов. Систему предупреждения столкновений можно добавить, что-то еще, возможно. Суть в том, что, как ни странно на первый взгляд, но автопилот даже тяжелого лайнера куда проще во всех аспектах, чем автопилот автомобиля. Ему не нужно видеть дороги, различать помехи, знаки, разметку, светофоры, принимать сложные решения в зависимости от комбинации входных данных (въехать в одного человека или в группу, например) и так далее, и так далее, и так далее.
Ну на счет информации от знаков и светофоров мы опять сталкиваемся с тем, что ИИ пытаются заставить думать как человека…
Робомобиль это не водитель, с ним можно куда проще.
Во первых во все номерные знаки вставлять чипы идентификации — их легко обнаружить с расстояния десятков метров и отследить движение и габариты ТС по перемещению чипа.
Во вторых во все дорожные знаки вставлять такие же чипы, чтоб в любой туман, дождь, темноту и тд — знаки прекрасно читали радиосканером,
В третьих в светофоры добавить радиомаяки, чтоб авто всегда знали, какой сигнал светофор показывает. В четвертых краску делать радиозаметной, чтоб легче было отследить положение разметки на дороге сквозь снег, лед, туман, грязь — а не полагаться на оптику, копируя человека.
И еще много каких мелких улучшений. КУда проще подстроить окружающую среду под робомобиль, чем заставлять несчастного робота имитировать живого человека со всеми его недостатками.
Меня интересует будут ли опубликованы исходные тексты робомобилей?
Вы так говорите, как будто у Вас сейчас на руках есть исходный текст человека и уверенность в физически-психологическом состоянии каждого водителя.
Глубоко имхо, но мне кажется что для того чтобы сделать робомобили безопасными нужно исключить водителей-людей, дать возможность автомобилям общаться между собой.
А представьте ситуацию, что на дороге встретились автомобили разных производителей: БМВ, Лада, Тесла и китайский Geely и все разных годов выпуска. Как думаете, они смогут договориться? Тут бывает иной раз сетевое оборудование одно с другим не работает нормально, хотя вроде бы и стандарты есть и протоколы.

Лучше робомобили пока исключить и оставить все как есть. Даже не знаю до каких пор. У меня нет решения сейчас. Можно по шагам: сначала улучшенные алгоритмы глубокого обучения с переподстраховками от нескольких сетей поддержки и подтверждения, потом нужны реально безопасные механизмы обмена авто между собой, нужен единый безопасный протокол. Много чего там нужно до тех пор пока можно будет массово выпускать робомобили. Но корпорациям же надо все вот почти првмо сейчас, повеяло большими деньгами на замене всего автопарка в сжатые сроки.

Не понимаю, почему в робомобиле не должно быть органов управления? А как управлять авто, если у нее "мозги поплыли", хотя бы банально остановить.

НЛО прилетело и опубликовало эту надпись здесь
Удивительное дело, робомобили уже начали выпускать на дороги общего пользования, а «Охоту на дикие грузовики» так до сих пор никто и не экранизировал.
а у нас где нибудь разрешили тестить?
КамАЗы же должны уже испытывать на трассе Москва-Питер. Насколько помню в машинах должны быть пилоты-тестировщики.
За последний год поисковил выдал всего 1 заметку об испытаниях КамАЗов на трассе Казань-Н.Челны, и то страничка в газете не открылась.
Но у КамАЗа есть ещё один концепт-беспилотник — ШАТЛ.
В случае аварии придется очень много юристам попотеть. Не так легко сделать роботов полноправными участниками движения.
зато легко сделать роботов полноправными юристами! и не надо никому потеть…
В нашей стране не легко
Зарегистрируйтесь на Хабре , чтобы оставить комментарий

Публикации