Комментарии 99
Мечты не сбылись.
Интересно, будут ли какие-нибудь изменения в законодательстве, если Тесла(а там и другие подтянутся) например, наплодит много вроде бы автономных машин, которые иногда будут превращаться в тыкву, а пассажиры к этому не будут готовы.
Любой автомобиль может на ходу превратиться в тыкву, хоть ржавая «копейка», хоть обвешаный электроникой футур-мобиль. Вся ответственность прописана, есть технические стандарты, есть практика страхования, гарантий и прочего.
есть технические стандарты, есть практика страхования,В том-то и дело, что для «автопилота» их нет. Пока это единичные случаи, всем пофиг. Но когда «лётчики на автопилоте» начнут биться пачками, общественность потребует крови, и тогда подобные требования будут делаться в большой спешке и очень радикально. Например «запретить на дорогах общего пользования технологии ассистента вождения кроме 1-го и 5-го уровней». Поэтому, лучше бы таким регулированием озаботиться заранее.
Да не обязательно биться пачками. Достаточно остановиться в дождь/снег на однополосной дороге а ты там пьяный в пятницу с матча едешь.
Ошибка автопилота по сути не отличается от отказа тормозов или рулевого управления, оно происходит не по вине водителя, значит отвечает производитель или исполнитель ТО. Далее включаются уже отработанные схемы — страховки, компенсации, суды и прочее.
Тут как раз и возникнет тормоз внедрения, когда до производителей дойдет, что именно они будут отвечать за каждое ДТП, произошедшее по вине автопилота. Если не смогут переложить это на страховые, значит придется заморозить автопилот в статусе «ассистента водителя», тогда ответственность будет на водителях, если не доказано именно техническая неисправность. Как и с обычными авто.
Имхо, это было сразу понятно любому технически грамотному человеку. А желтушные заголовки и обещания — необходимое "зло" для создания хайпа и привлечения инвестиций под предлогом, что вот-вот и всё заработает, а не под реальный 20-30 летний срок реализации, ибо иначе бизнес не раскрутишь. А даже если кто-то и понимал, то всё равно вкладывал, ибо несолидно не поддержать. Да и в любом случае вкладывать надо, если не хочешь оказаться последним.
Против плохой видимости разметки и знаков — сделали бы уже электронную разметку дорог, специально для беспилотного транспорта. Закатать в асфальт пассивных RFID чипов, и поставить антенну считывателя на дно автомобиля. В этих же метках можно было бы хранить (и записывать при необходимости смены) дорожные знаки.
RFID чип это не про прогнозирование движения. Условно говоря разметка из чипов вам не сильно поможет, если на крутом горном повороте машина вдруг обнаружит что пересекла/потеряла эту RFID чипованную разметку. Там реагировать нужно было ДО, а не ПОСЛЕ. Задача прогнозировать скорость и движение на основе информации о погодных условиях, разметке дороги, состоянии дороги, наличия преград. RFID чип лишь пассивная метка которая говорит, что ты правильно едешь по дороге, но не говорит что на ней гололед.
Полноценная их реализация требует серьёзного железа и датчиков — за очень серьёзные деньги.
Мало кому нужно одно экстренное торможение перед препятствием за дополнительную стоимость пары новых авто…
Вы серьёзно? Экстренное торможение реализовано почти на всех машинах. Во многих странах эта функция будет обязательна с 2022 года. Удержание полосы и адаптивный круиз контроль стоит уже на всех люксовых авто. Тесла уже как год умеет перестраиваться. С прошлой недели Тесла умеет тормозить на Стопах и на светофорах.
Все эти функции работают без лидара а значит железо не слишком дорогое.
Сомневаюсь, что многим понравится экстренное торможение от какого-нибудь пакета, пронесённого ветром.
1) Беспилотное метро.
Уже. В дубае все метро ездит само. В остальных странах мира постепенно вводятся различные системы автоматизации, машинист становится все более и более не водителем поезда, а страхующим систему.
2) Беспилотные трамваи и поезда. (в отличии от предыдущего шага есть другие участники движения, но маршрут строго задан)
Прям на хабре ребята постили и про трамваи и про поезда. И да у нас в России. Причем поезда у них были в самой сложной части маневровый тепловоз.
Пункт 3-4 появится в ближайшие годы.
Беспилотные фуры с той или иной степенью автоматизации испытываются, но это уровень 5 на самом деле.
если уж совсем по правде говоря, то автопилот в том виде, как его нам хотят преподнести — это классическая вундервафля, существование которой невозможно в отрыве от окружающей инфраструктуры такого же уровня развития и проникновения во все аспекты жизни. Мне сразу приходит на ум аналогия, как если бы раздать племени аборигенов новенькие смартфоны… В лучшем случае они не начнут колоть ими кокосы… Очевидно, что такие утопичные и прорывные вещи должны постепенно и долго проникать буквально во все части нашей жизни, и только тогда ИИ обретёт опыт и понимание окружающей обстановки и сможет отличить картонную коробку от металлической балки на дороге. Причем на 99% я уверен, что ИИ обучится это делать на обучающих сетах совсем не из множества дорожных ситуаций. И именно поэтому ИИ должен развиваться последовательно и в самых разных задачах и обстановках, а не только в вождении.
мораль была именно в том, что инженеры только из сферы автомобилестроения не способны осознать и составить всеобъемлющие обучающие сеты для автопилота авто городского типа в том понимании, которое мы от него ждём. Каждый должен внести свой маленький вклад в то, как нужно обучать нейросеть в разрешении самых разных ситуаций. А так как вождение на обычной дороге включает в себя широчайший комплекс проблем, то и взращивать единую сетку надо на основе опыта обучения намного более базовых ситуаций, как, например, ситуация отпугивания нежелательного животного от себя подальше. Этим должен заниматься биолог в общем случае и затем поделиться наработками с автомобилистами с их частным случаем встречи авто с лосём или медведем (а медведя отпугивать гудком вряд ли хорошая идея, но точно об этом скажет только биолог) на дороге. Но на сегодня пока еще слишком мало кто занимается такими вещами в других сферах, чтобы хоть как-то упростить жись автопилоту.
Я вижу автопилот как суммирование многочисленных более примитивных моделей, обученных на адекватную реакцию на самые разные раздражители. А это возможно только с равномерным развитием и применением ML технологий вообще везде вплоть до чайников, а не только в виде Сири в мобилках и фильтрах для фоточек. Как бы тренд-то на это есть… спору нет, и это прекрасно, что холодильники учатся предсказывать когда закончится молоко и заказывать заранее (и даже это умение, как ни странно, применимо к автопилоту, ибо ему тоже надо планировать когда заправляться), но это всё равно пока что капля в море.
Мне кажется что вы усложняете. Никакой биолог не нужен. Пока автопилот должен просто повторять за человеком. Если человек объезжает зайца то и автопилот должен его объехать. Понятно что автопилот сможет это сделать в разы безопаснее чем человек.
Насколько я знаю, сейчас делают отдельные сетки на разметку, пешеходов, дорожные знаки и т.д. Потом добавляют сетки выше уровнем, которые отвечают за поведение на дороге.
Я думаю сейчас главная сложность это правильная архитектура для совместной работы всех этих сеток.
Если человек объезжает зайца то и автопилот должен его объехать.А лису? А барсука? А волка? А футбольный мячик? А баскетбольный мячик? и т.д.
Для автопилота любой объект, который его специально не учили распознавать — это просто шум во входных данных, каким именно образом он должен отличать, что вот кучку пикселей объезжать надо, а вон ту не надо?
Куча машин умеет держать полосу по разметке, куча машин читает дорожные знаки лимита скорости.
Нет оснований подозревать что автопилот НЕ СПОСОБЕН на такаю сложную деятельность.
Разметку они держат отвратительно. По сути это ассистент на пару секунд при условии очень маленького угла к разметке. В поворот с таким устройством не войти.
Очень часто распознавание знаков в нашей стране отключают т.к. работает это ненадёжно. Но даже в их родных странах камера не способна понять какой полосе ограничение. Допустим знак для соседней полосы уходящей на съезд будет показан как применяемый.
Заметьте, это мы ещё очевидные вещи обсуждаем. А как быть если за поворотом стоит лось и тормозить уже поздно? С какой стороны его объехать? Можно ли выехать на встречку?
Я не знаю как там камеры в Москве сделаны но на Тесле определение разметки даже в снег очень стабильное.
https://youtu.be/i4cfVXy6rJ4
По правилам если есть возможность безопасно объехать то нужно объезжать. Я думаю автопилот сможет решить этот вопрос намного быстрее человека благодаря быстрой реакции, обзору 360 и точным подсчётам скорости.
Однако такие цифры не фигурируют не только у GM. Большая часть промышленности тратит огромные суммы одновременно. Ford, например, инвестировал 1 миллиард долларов в Argo AI; Toyota вложила 1 миллиард долларов в Toyota Research Institute; GM инвестировала 500 миллионов долларов в Lyft, Inc.; Volvo вошла в совместное предприятие с Uber Technologies Inc. и вложила 300 миллионов долларов, а Intel, как говорят, потратила 15,3 миллиарда долларов на приобретение Mobileye.
То, во что выливается конкуренция в мире, порой сильно раздражает и обескураживает. Именно нерациональной тратой ресурсов, и особенно это чувствуется в отраслях, где нужны усилия всего человечества, а не интересы отдельных корпораций или стран. Это как делать 5 разных, но функционально схожих спутниковых навигационных систем, или когда каждая страна отдельно делает свои ракеты-носители примерно равных характеристик вместо того, чтобы объединиться и пилить общемировые космические программы с чётким разделением задач.
Также и здесь. Десятки компаний вкладывают миллиарды в десятки ПАРАЛЛЕЛЬНЫХ программ автопилота, и приходят к примерно равным успехам — автоматическое торможение, контроль полосы, оценка дорожной поверхности, автоматическая парковка. И каждый пытается сделать АВТОНОМНЫЙ автопилот, хотя абсолютно очевидно, что создание автопилота 5-го уровня (без элементов управления в машине) — это задача не отдельного автопроизводителя, а общемировая задача, причём высшего приоритета — потому что правильно организованная схема управления трафиком может решить или снизить множество проблем.
1) Создание единых стандартов и протоколов автопилотных элементов автомобилей — радаров, лидаров, их воздействия друг на друга, на другие автомобили, стандарты точности, погрешности, качества изготовления, мест размещения.
2) Стандартизация ПО и логических элементов автопилота. Какая степень ошибок допустима, какое количество баллов в стандартизированных тестах, стандарты оценки дорожной ситуации, нормируемая степень тяжести последствий ошибок автопилота.
3) Юридическое нормирование. Какую ответственность несёт создатель автопилота, какую — владелец автомобиля или обслуживающая автомобиль компания, какую — местные власти, отвечающие за создание разметочно-информационной инфраструктуры и общего состояния дорог. Отдельно — ответственность для тех, кто попытается «обмануть» автопилоты или взломать систему управления трафиком.
4) Создание этой самой разметочно-информационной инфраструктуры, причём на протоколах, единых для всех производителей. Когда автопилот не гадает «Чо это за знак? Где я еду? А какая это разметка? А что показывает светофор?», а получает дублирующую (к обычной визуальной) радиоинформацию, что это такая-то улица, с такими-то полосами, что светофор светит таким-то, что ограничение такое-то и что разметка — тут, а бордюры — там. Особенно актуально для случаев, когда разметка или бордюры занесены снегом или плохо видны в дождь — тут и человеку зачастую сложно справиться. А так же актуально для временных случаев — авария, дорожные работы, яма на дороге, сезонный фактор (на таком-то участке дороги сильный гололёд, будьте готовы снизить скорость), урегулирование противоречий временной и постоянной разметки.
5) Создание общегородских систем управления трафиком на основании этих систем (собственно, именно это — основная цель и интерес для человечества в целом, а не для отдельных автокорпораций). Не когда автопилот подстраивается под кучу разношерстных по поведению машин, а когда городской сервер определяет, где какая машина должна находиться, как ехать. От человека потребуется только ввод маршрута, остальное сделает сервер — проложит маршрут, определит место парковки, сообщит ожидаемое время прибытия.
Как быть с теми, кто захочет управлять автомобилем сам, не имея автопилота? Система управления трафиком должна будет внедряться на этапах, когда автопилотных автомобилей будет уже большинство, и при проценте более 60-70% в не-автопилотные автомобили должны будут внедряться «голосовые помощники», которые будут говорить «едьте по такой-то полосе с такой-то скоростью, поверните туда-то», а после 90% — запрет на не-автопилотные автомобили в принципе.
6) Запрет на незаконную модификацию прошивок автопилотных автомобилей — снятие ограничений, подделка сигналов датчиков.
Всё это — не вопрос отдельной корпорации или даже страны. Это вопрос либо межгосударственный, либо по пути IT-компаний, которые создают общие протоколы и стандарты. С учётом фактической ситуации в мире, думаю, через год-два автопроизводители должны осознать необходимость кооперации усилий по созданию автопилота и должны начать появляться первые попытки нормативного урегулирования статуса автопилотов на уровне континентальных групп концернов — американских, европейских, японских, китайских, с целью получения доступа к крупнейшим инвесторам — государственным бюджетам.
Поэтому, вместо того, чтобы подстраивать автопилот под человеческий фактор, нужно создавать принципиально новую дорожную инфраструктуру, изначально заточенную на автопилотный транспорт с минимизацией этого самого человеческого фактора. И чисто технически и экономически это можно было бы начать делать уже сейчас, а не ждать ещё много лет до появления полноценных ИИ и полноценных автопилотов 5-го уровня.
Вождение это простая механическая задача немного сложнее чем ходьба. Полноценный ИИ совсем для этого не нужен.
Вождение это простая механическая задача немного сложнее чем ходьба
Вождение в смысле кручения руля и нажимания педалей для прохождения по намеченной траектории — да.
Составление этой траектории в реальном времени в физическом мире с его разнообразием — нет.
На данный момент проблема автопилота в том что для них реальный мир не детерминирован. Но с каждым месяцем автопилоты понимают мир лучше. Я думаю они очень быстро дойдут до необходимого уровня распознавания. Так как им не нужно знать кто вылез на дорогу, заяц или волк. Им нужно определять категорию, человек или животное. Так же с транспортными средствами, им нужно знать машина это впереди или забор. Для всех неизвестных объектов нужно определить подвижное это средство или нет. У Теслы сейчас миллионный автопарк, она может спокойно посчитать статистику по всем объектам (категориям объектов) которые сейчас уже распознаются и которые не распознаются, и постепенно работать над самыми важными, доводя общее понимание мира до приемлемого уровня.
Как я говорил, в играх мир известен, пути и препятствия размечены, можно автопилот на одних IF-ax написать. А вот в настоящем мире мало что размечено, и разметка может в любой момент поменяться как из за ремонта так и из-за погоды, не говоря уже о полностью динамичных объектах которые могут появится в любой момент на пути.
Во-первых, всё, что хотя бы теоретически может произойти с машиной в виртуальном пространстве, заранее известно, если не агенту ИИ, то как минимум разработчику.
Во вторых, для ИИ данные предоставляются не в виде массива пикселей, а как готовая модель, на которой уже размечено, где можно ехать, как реагировать на какие препятствия и т.д.
В третьих, разработчик контролирует поведение мира. Он может «подправить мироздание», если что-то работает не так, как ему хочется, например заставить машинки проходить сквозь некоторые предметы, не реалистично разгоняться и тормозить, телепортировать их из безвыходных ситуаций и т.д.
В четвёртых, в 99% случаев там вообще нет ИИ, машинки просто ездят по заранее нарисованным траекториям, отрабатывая только минимальные раздражители, вроде остановки при занятости полосы. Они даже не следуют по маршруту «из пункта А в пункт Б», они просто ездят по видимой части дороги, чтобы создать иллюзию трафика.
Но с каждым месяцем автопилоты понимают мир лучше.В том-то и дело, автопилот не может «понять мир», это задача гораздо более высокого порядка. И при текущем подходе автопилот принципиально не способен справиться с ситуацией, которая возникает впервые, к которой его не готовили.
Да его и не учат «понимать мир», его учат «крутить баранку».
Я так и сказал. В играх мир детерминирован а реаальный мир для автопилота нет.
Автопилот видит и понимает мир, не на 100% но достаточно хорошо.
Вот гляньте на этом видео автопилот Теслы в дебаг мод. Там видно что автопилот распознаёт окружение и объекты.
https://youtu.be/fKXztwtXaGo
С чего вы взяли что автопилот принципиально не способен справиться с ситуацией, которая возникает впервые, к которой его не готовили?
Автопилот умеет вести по заданному курсу и реагировать на препятствия. Вы сами сказали что если мир детерминирован то водить по нему не такая большая проблема. Я пересмотрел много видео с автопилотом, я думаю что его главная проблема сейчас это сложные участки дорог с необычными развязками, всякие сужения полос, нестандартные перекрёстки. Он там часто путается, как и люди впрочем.
Вы сами сказали что если мир детерминирован то водить по нему не такая большая проблема.Но реальный мир не детерминирован. И не будет никогда, как минимум из-за человеческого фактора.
С точки зрения автопилота, человек так же детерминирован как и другие объекты. Он определённого размера, передвигаться с определённой максимальной скоростью. Этого достаточно чтобы знать где может потенциально находиться человек через Х секунд. А вот например велосипедист для автопилота уже не человек.
— сидеть за рулём другой машины
— нарисовать кривую разметку, повесить знак вверх ногами или криво настроить светофор,
— повредить дорожное полотно
— рассыпать на дороге ведро гвоздей
— допустить дефект при сборке, и сбить калибровку управления,
— нарушать ПДД всеми способами, которые позволяет физика,
— составить схему движения, противоречащую ПДД,
— внести в ПДД пункт, противоречащий логике,
— внезапно перекрыть все дороги на пару недель
— ввести карантин с пачкой слабо формализуемых требований, которые нужно начинать выполнять уже завтра
— прилечь поспать посреди проезжей части
— поставить картонную фигуру лося в натуральную величину
— повесить пучок шариков рядом со светофором
— и так можно до бесконечности.
Причём всё это может быть сделано как по дурости или неосторожности, так и намеренно.
Автопилот должен несколько лет поездить под присмотром водителей. И он обязательно должен иметь систему которая будет сообщать дорожным службам о кривых знаках, плохой разметке и так далее. Ни знаю как в России, в Канаде у дорожной службы есть только 24 часа что бы исправить проблему или поставить ограждение, после того как кто то сообщил о большой яме, кривом или заросшем знаке.
Объединять усилия можно, когда есть одна, конкретная и безусловно правильная идея. Например построить МКС или БАК.
В данном случае, очевидного решения по ИИ, автопилоту и прочим проблемам нет, поэтому пускай эволюция и естественный отбор решат, кто станет доминирующим видом на дорогах. Или вообще не станет.
А вообще такие системы строятся по теории ограничений — разбитыми на множество частей управляющих отдельными областями, в каждой из которых свои буферы пропускной способности, так что выход из строя любой небольшой части только немного снижает эффективность пока буфера хватает.
Как быть с тем, что белковые могут глушить управляющий сигнал из чувства мести за ваш красивый план?
Роботов делают люди чтобы решить свои проблемы. Не будет людей, не будет у них проблем, зачем и кому будут нужны роботы? До состояния самосознания мы их пока не доработали.
Есть вариант когда роботы приберут за нами, но это опасная тема. Волли вон убирал, убирал, а потом в порыве чувств обратно планету людьми заселил.
Планета дольше жила без людей чем с людьми и тем более роботами. Если мы исчезнем Земля справится без наших роботов.
Хотя уже писал на хабре — у меня была ситуация, когда уже готов был остановиться. В Сибири ранним утром после хорошего снегопада на дороге Алтай-Кузбасс — просто ровное белое поле, на дороге слой снега около 15 см, ограждений и столбиков нет, кюветы занесены вровень с дорогой, за ними поля. Но как-то угадывал дорогу по вибрации колес и ехал.
А тут лидары, камеры, микроволновые и ультразвуковые датчики и не получается…
Рассмотрим в качестве примера высказывание «либо P, либо Q и не P» и предположим, что P одновременно истинно и ложно. Тогда «либо P, либо Q» тоже одновременно истинно и ложно независимо от значения Q. Но если P одновременно истинно и ложно, то и «не P» одновременно истинно и ложно, и тогда «либо P, либо Q и не P» тоже одновременно истинно и ложно. Но если принять истинность высказывания P, а Q («либо Луна сделана из зеленого сыра») при этом будет ложно, то, согласно принципам дизъюнктивного силлогизма, мы будем вынуждены перейти от истинных посылок к ложному следствию.
Мы получили жизнеспособное решение парадокса лжеца, но оно сработает, только если перейти к неклассической логике, в которой отказались от принципов дизъюнктивного силлогизма.
Парадокс Карри, названный в честь американского математика Хаскелла Б. Карри, основан на импликации. Возьмем для примера высказывание «Если это утверждение истинно, то Луна сделана из зеленого сыра».
Предположим, что высказывание истинно, тогда, согласно принципу modus ponens — «если P, то Q», — следует, что Луна сделана из зеленого сыра. Мы не доказали, что Луна сделана из сыра, но доказали, что если высказывание истинно, то Луна сделана из зеленого сыра. Но это и есть исходное высказывание, а значит, оно истинно. В первый раз мы пришли к выводу, предположив, что высказывание истинно, во второй раз мы избавились от предположения, доказав истинность высказывания, не используя для этого дизъюнкцию.
Диалетический метода — это «теория логических условий» — она должна пройти парадокс Карри. Обычно для этих целей используется правило сокращения. В случае «Если это высказывание истинно, то если это высказывание истинно, то Луна сделана из зеленого сыра» два предположения «если это высказывание истинно» сокращаются до одного. Мы двигаемся от «Если P, то если P, то Q» к «Если P, то Q». Но если условие сокращается или мы решаем предположить его два раза — это то же самое, что и предположить один раз. И в этом заключается проблема диалетеических решений парадокса брадобрея.
Автопроизводители признаются, что до полностью беспилотных автомобилей ещё очень долго