«Быстро приблизившись, автомобиль остановился у тротуара, и дверцы его открылись.
— Где же водитель? — с недоумением спросил Незнайка, заметив, что водителя за рулем не было.
— А водителя и не нужно, — ответил Кубик. — Это автоматическая кнопочная машина. Вместо водителя здесь, как видите, расположены кнопки с названиями улиц и остановок. Вы нажимаете нужную кнопку, и машина сама везет вас куда надо»
Н. Н. Носов, «Незнайка в Солнечном городе»
Неунывающий Илон Маск, который, вполне возможно, тоже читал Носова в переводе, вот уже девятый год подряд (первый раз он высказался на эту тему в 2014 году) заявляет, что в самое ближайшее время мы получим полноценный беспилотный автомобиль, но… каждый год что-то не срастается. А в регулярно появляющихся статьях на эту тему авторы рассуждают о том, что до полноценного внедрения этого технологического чуда предстоит еще очень много работы. (например, как здесь). Порассуждаем о проблемах, которые возникают перед разработчиками автомобильного ИИ.
Факторы, мешающие распространению беспилотных авто
Плохая погода. Беспилотные автомобили оснащены камерами с искусственным интеллектом, которые помогают им ориентироваться на улицах и идентифицировать некоторые объекты, дорожные знаки и пешеходов (хотя и не всегда корректно, как показал недавний случай с девушкой на пешеходном переходе. Однако зимой на заснеженной дороге камера просто не увидит разметки на дорогах, что делает беспилотное вождение в это время года попросту опасным.
Исследователи до сих пор так и не нашли способа решить эту проблему, поэтому многие испытания проводятся в странах с теплым климатом или в любое время года, кроме снежной зимы. В настоящее время исследователи работают над усовершенствованием лазерных датчиков с различной длиной волны, которые пытаются «заставить» видеть сквозь снег. Кроме того, разрабатывается и дополнительное программное обеспечение, которое позволит алгоритмам ИИ отличать реальные препятствия от снежинок, капель дождя и других атмосферных явлений.
Дорожная разметка. Здесь проблема в том, что разметка на дороге может сильно отличаться даже в пределах одного государства (например, США), не говоря уже об отдельных странах и регионах. Но даже в пределах одного населенного пункта разметка порой крайне неоднородна, и это очень проблематично для беспилотных автомобилей, поскольку их фактически приходится заново обучать вождению в каждом новом месте. Например, на одном перекрестке размечены широкие линии, которые определяют, где машины должны останавливаться перед перекрестком. А перед другим перекрестком стоп-линии затерты или их нет вовсе: сможет ли ИИ понять, что нужно остановиться перед знаком «СТОП», а если его нет, то перед светофором?
А ведь бывают ситуации, когда близко к дороге расположены здания, и автомобиль не сможет «видеть» другие транспортные средства, едущие через перекресток, и тогда отсутствие привычной для ИИ разметки может спровоцировать серьезную аварию. Поскольку существует множество типов перекрестков, ИИ может быть очень трудно понять, что делать в каждом конкретном случае. А во многих случаях не будет даже бордюров, которые помогли бы определить ширину полосы движения. Решение этой проблемы остается одной из главных загадок для исследователей ИИ и по сей день.
Левые повороты (а для британцев, японцев и австралийцев — правые). Правила дорожного движения в ряде случаев разрешают поворачивать налево прямо перед встречным транспортом (например, если едешь по главной дороге, которая уходит налево на перекрестке), но даже людям бывает порой непросто принимать такие решения. Поэтому поворачивать налево без наличия на перекрестке светофора с разрешающей зеленой стрелкой алгоритмам машинного обучения по-прежнему очень сложно.
Еще один дополнительный фактор, играющий против автомобилей с ИИ, заключается в том, что три четверти водителей вовсе не желают отказываться от управления своими авто. Причем часто из-за обоснованного недоверия к ИИ, репутация которого в этом деле уже отнюдь не безупречна, а за последний год опустилась до рекордного низкого уровня по причине резкого увеличения числа ДТП с беспилотными авто.
Одним из возможных решений этой проблемы является привлечение большего числа водителей для тестирования беспилотных автомобилей. Так, генеральный директор Waymo Джон Крафчик рассказал, что автомобили его компании показывают водителям много информации на экране: и это не только маршрут в навигаторе, но и та картинка, которую видят сами автомобили. Также Крафчик добавил, что, чем больше люди ездят на беспилотных автомобилях, тем меньше они смотрят на экран, постепенно начиная доверять машине. Но если «беспилотники» стали попадать в аварии так часто, массовым тестированием с целью повышения доверия ситуацию уже не исправишь.
Взаимодействие с живыми водителями и с пешеходами на дорогах. Когда мы сами находимся за рулем, то часто замечаем водителей, нарушающих определенные правила дорожного движения. Человек, как правило, может находить способы обходить такие опасности, а вот самоуправляемым автомобилям бывает трудно принимать подобные решения. И это, наверное, одна из самых сложных проблем, которую ученым придется решить, если прогрессивное сообщество хочет увидеть беспилотные автомобили на дорогах в ближайшей перспективе.
Пока получается не очень, и в следующей главе мы наглядно проиллюстрируем это примерами, а далее рассмотрим достаточно типичный случай с неизвестно откуда выскочившим на дорогу пешеходом, с чем то и дело сталкиваются живые водители.
Резонансные аварии и обезоруживающая статистика
Неприятная авария произошла в 2018 году в Питтсбурге (США), когда беспилотный автомобиль Argo попал в аварию на перекрестке: в него врезался грузовик, который проезжал этот перекресток на красный свет. В результате двое пассажиров беспилотника попали в больницу с травмами средней степени тяжести.
Можно ли было предотвратить эту аварию, находись за рулем человек? Или поставим вопрос по-другому: насколько безопасным будет сосуществование на дорогах водителей-ИИ и водителей-людей? Вопрос, на который пока нет удовлетворительного ответа.
Еще один случай произошел совсем недавно (декабрь 2021 года). Tesla, управляемая роботом, едва не сбила девушку, которая переходила дорогу строго по правилам, то есть по пешеходному переходу и на зеленый сигнал светофора. На видео хорошо видно, как автомобиль лишь слегка притормозил на повороте, однако поехал дальше, совершенно не обратив внимания на начинающего движение пешехода. То есть ИИ не смог понять, что в этом месте нужно остановиться, потому что не учел сочетания факторов (поворот, пешеход, светофор, разметка), с каждым из которых в отдельности он бы наверняка разобрался.
Может показаться, что эти нашумевшие случаи единичны, но это не так. В июньском обзоре от WP говорится, что за последний год только беспилотные автомобили Tesla попадали в аварии 273 раза. В статье приводится любопытная статистика: Tesla далеко не единственная компания, тестирующая ИИ-водителей, но почти 70% аварий (273 из 392 зарегистрированных) с автомобилями, управляемыми искусственным интеллектом, приходится именно на компанию Илона Маска, наиболее активно продвигающего эту технологию.
Усугубляет ситуацию тот факт, что во многих случаях участники ДТП получили серьезные травмы, а в шести случаях не удалось избежать человеческих жертв. В этой же статье указывается, что, согласно данным, опубликованным NHTSA, с 2016 года по июнь 2021 года беспилотные автомобили Tesla попадали в ДТП всего лишь 35 раз, то есть в среднем всего 7 раз за год. И вот 273 аварии за июнь 2021 – июнь 2022, что аж в 39 раз больше! Согласитесь, одним увеличением количества испытываемых автомобилей объяснить это нельзя, тем более, что ИИ в любом случае должен совершенствоваться.
Вот и получается, что поводов для оптимизма немного: число неприятных инцидентов растет в геометрической прогрессии, что говорит об отсутствии прогресса в развитии технологии. Так что количество желающих видеть машины, управляемые ИИ, в своих городах явно не прибавилось. При этом главная проблема управляющего беспилотным авто ИИ лежит совершенно в иной плоскости, и это то же самое, что мешает работать корректно DALL-E 2, Gato и гугловским алгоритмам (смотрите нашу предыдущую статью, последняя часть которой посвящена проблемам общих ИИ).
Всемогущий ИИ оказался не таким всемогущим, как представляли его создатели
Да, проблема всё та же: алгоритмы ИИ отлично справляются с узконаправленными задачами, но нередко теряются, когда выходят «из зоны комфорта», то есть за рамки этих задач. Слишком много факторов нужно учитывать, чтобы безопасно управлять автомобилем в городской черте. Здесь мало не превышать скорость и соблюдать другие правила дорожного движения — ведь их соблюдают далеко не все. К тому же серьезные проблемы ИИ доставляет разметка, с которой обычно нет проблем у водителей-людей даже в тех случаях, когда они ее не видят.
Тем не менее некоторые авторы (и Илон Маск) уверены, что по мере развития искусственного интеллекта и появления новых разработок беспилотные автомобили появятся на дорогах раньше, чем думает большинство людей. Но такие заявления делаются уже более десяти лет, а «беспилотники» не просто не доминируют, но даже не признаны безопасными, тем более в свете последних событий. Да, скажете вы, но ведь водители-люди регулярно попадают в серьезные неприятности, однако никто не поднимает вопрос о том, чтобы отстранить человека от управления автомобилями.
Верно, но во-первых, летальные исходы с самоуправляемыми авто уже тоже перестали быть исключением. Более того, ДТП с их участием стало в десятки раз больше, хотя самих «беспилотников» на улицах всё еще очень немного. А во-вторых, есть и еще одна сторона, с которой следует подходить к вопросу о делегировании ИИ полномочий на управление любыми транспортными средствами. Для примера давайте рассмотрим следующий случай, с которым нередко сталкиваются водители-люди, а потому непременно столкнется и ИИ, если беспилотные машины получат широкое распространение.
Автор одного из авторитетных авто-журналов предлагает вполне типичный выбор для водителя в городских условиях. По улице едет с максимально разрешенной скоростью (60 км/ч) легковой автомобиль. В салоне водитель и три пассажира. И вот в паре десятков метров впереди переходит дорогу типичный пешеход, уткнувшийся в свой смартфон. Тормозить на такой скорости практически бесполезно — серьезно смягчить удар не получится. Крутануть рулем вправо — въехать прямо в остановку, на которой собрались люди в ожидании автобуса. Влево — вылететь на встречную полосу с неизвестными последствиями. Очевидно, что давить людей на остановке водитель не имеет права, подвергать риску лобового столкновения пассажиров в салоне — тоже. Балбеса впереди, конечно, тоже жалко, поэтому водитель-человек, избегая самого страшного, постарается в худшем случае задеть того по касательной. Но как поведет себя в такой ситуации ИИ? С учетом сотен прошлогодних ДТП с одними только «Теслами», есть серьезные сомнения в том, что «беспилотник» сможет с честью выйти из такой ситуации.
И если технические проблемы решить как-то можно (например, автономная система-дублер, перехватывающая управление и обеспечивающая безопасную остановку транспортного средства в случае отказа основной, выглядит удовлетворительным решением), то с этическими уже куда сложнее. Помните этот пример с роботом-судьей? Подсудимый хоть и удивился вердикту, но вряд ли остался им доволен. Вот только на дорогах страдают не только виноватые. А ведь есть еще зима, странная разметка с ее периодическим отсутствием, левые повороты и непредсказуемые водители, порой нарушающие всё, что только можно.
Поэтому со сроками повсеместного внедрения автомобильного ИИ эксперты пока не торопятся и осторожно заявляют, что это возможно, но, по крайней мере, не в ближайшие несколько лет. Тем не менее, не всё так плохо, и беспилотные технологии продвигаются вперед значительными темпами там, где они способны легко конкурировать с обычным транспортом, управляемым человеком.
Перспективы есть
8 июля на сайта Минтранса России появилась новость, посвященная экспериментальному движению грузового беспилотного транспорта на одной из российских автомагистралей. Грузовики по управлением ИИ будут ездить по выделенным полосам на трассе М-11 «Нева». Движение планируется организовать к 2024 году, а экспериментальный режим сохранят в течение трех лет с момента запуска выделенки.
Одним из главных заинтересованных участников проекта является крупнейший российский производитель дизельного грузового транспорта, компания «КамАЗ». ИИ-разработки на предприятии ведутся уже достаточно давно, поэтому назрел вопрос об их тестах «в боевых условиях». И надо сказать, перспективы у проекта хорошие, поскольку на трассе ИИ чувствует себя куда лучше, чем в городе, а кроме того, он не устает, в отличие от человека. Также в статье указывается, что использование беспилотных грузовиков уже в ближайшие годы сократит издержки компаний на топливо (до 28%) и зарплаты водителей (до 30%). А к 2030 году планируется создать 19500 км выделенных дорог для грузовых «беспилотников» на трассах.
А вот Яндекс решил пойти другим путем — воздушным. Компания уже в самое ближайшее время собирается внедрить новый для России вид транспорта — аэротакси. Аэротакси или воздушные такси представляют собой небольшие летательные аппараты с вертикальным взлетом и посадкой. Понятно, что в этом случае ИИ будет гораздо легче, ведь в воздухе нет разметки и светофоров, а также не мешают пешеходы, так что на перспективы своего транспорта в Яндексе смотрят с оптимизмом.
Интересно, что воздушные такси в Москве были анонсированы уже год назад, однако на тот момент в России еще не была принята программа электронного правового регулирования (ЭПР). Правила ЭПР стали действовать в марте 2022 года, обеспечив правовую основу для беспилотных технологий. Добавим, что за рубежом технологиями воздушного ИИ занимаются такие известные производители, как Hyundai.
Еще больше перспектив у ИИ на железнодорожном транспорте. На всем известных поездах «Ласточка» машинисты пока еще есть, но они занимаются только контролем посадки-высадки пассажиров и перехватывают управление, если случаются какие-то внештатные ситуации. Всем остальным управляет ИИ, который превосходит человека по обнаружению габаритных препятствий на рельсах как в дневное, так и в ночное время. Например, ИИ может распознать опасность на расстоянии 800 метров днем, а человек с нормальным зрением видит только на 500 м перед собой. Разумеется, у ИИ выше и скорость реакции: 0,3 сек. против 1,3 сек. у человека. В условиях, когда нужно действовать мгновенно, это становится решающим. Чтобы полностью автоматизировать движение «Ласточек», РЖД осталось внедрить всего два модуля: дистанционно управляемые тормозные системы и автоматические двери с функцией контроля безопасности.
Итак, ИИ уже успешно внедряется на железных дорогах и в воздухе, а также имеет хорошие перспективы для управления грузовым транспортом на трассах. Будем надеяться, что прорывы в этих областях рано или поздно приведут к тому, что и легковой беспилотный транспорт будет безопасно работать в сложных городских условиях. Тогда мы с полным правом заявим, что сбылось еще одно пророчество фантастов — на этот раз нашего гениального детского писателя.
НЛО прилетело и оставило здесь промокод для читателей нашего блога:
— 15% на все тарифы VDS (кроме тарифа Прогрев) — HABRFIRSTVDS.
