Waymo готова запустить такси без водителей с минимальным федеральным надзором
Waymo, проект робомобилей от Google, в следующие три месяца планирует запустить такси без водителя в г. Финикс шт. Аризона. Это будет не пробный проект и не рекламный трюк. Waymo планирует запустить общедоступный коммерческий сервис – без человека за рулём.
И пока что технология от Waymo привлекает удивительно мало внимания со стороны правительственных чиновников, как в городе Финикс, так и в Вашингтоне, О.К.
Если компания хочет продавать новый самолёт или медицинский прибор, ей придётся пройти всестороннее исследование и доказать федеральным регулятором его безопасность. Для робомобилей пока не существует схожих требований. Федеральные законы и законы штата позволяют Waymo выводить на дороги общественного пользования Аризоны робомобили без всякого формального одобрения.
И это не недосмотр. Это результат двухпартийного консенсуса в Вашингтоне, заключенного благодаря мнению, что жёсткий надзор за робомобилями нанесёт больше вреда, чем пользы.
«Очень сложная задача»
«Если подумать, что потребуется от правительственной организации для проверки схемы работы робомобиля и принятия решения о его безопасности – становится понятно, что это трудная задача», — сказал Эд Фелтен, специалист по информатике из Принстона, бывший советником по технологиям в Белом доме при Обаме.
Федеральное правительство, и при Обаме, и при Трампе, особенно не заботится регулированием робомобилей. Вместо того, чтобы вводить новые правила для безопасности, говорит Фелтен, чиновники пытались «гарантировать, чтобы правила по безопасности для робомобилей не затруднили их выход на улицы».
Робомобилям необходимо удовлетворить существующим правилам безопасности, «федеральным стандартам безопасности для моторизованных транспортных средств» (FMVSS). Но на практике это не такая уж большая проблема. Waymo планирует преодолеть её, просто используя для своего сервиса фургоны Chrysler Pacifica, которые уже удовлетворяют этим стандартам.
Тем временем, Конгресс рассматривает законопроект, который должен упростить производство робомобилей, не полностью удовлетворяющих стандартам FMVSS. Это позволит GM производить автомобиль без руля уже в следующем году.
Такой мягкий подход к регулированию деятельности бесит некоторых сторонников безопасности.
«Я думаю, это просто невероятно», — говорит Кэти Чейз, глава общества «Сторонников безопасности на шоссе и в автомобилях», комментируя тенденцию к ослаблению регулирования.
Мэри Каммингс по прозвищу «Мисси», профессор инженерного дела в Университете Дюка, соглашается с ней. «Я думаю, совершенно бессовестно не требовать никаких проверок перед тем, как выпускать их на дороги».
Но пока что требования этих активистов остаются неуслышанными. Частично потому, что федеральные регуляторы не собираются замедлять введение технологии, способной спасти множество жизней в долгосрочной перспективе. Частично потому, что они считают, что обязательства заставит компании вести себя ответственно. Частично потому, что никто не уверен, как именно можно эффективно регулировать робомобили.
В плане робомобилей «нет всеобщего согласия по поводу того, что такое безопасность или как её обеспечить», — говорит Брайант Уокер Смит, учёный юрист из Университета Южной Каролины.
В других индустриях правила строже
Производство самолётов очень строго контролируется
Чтобы представить себе, как работает надёжная платформа строгих правил, полезно изучить то, как федеральное правительство регулирует другие сложные и требовательные к безопасности технологии. Каммингс сделала это в недавней работе, сравнивающей регулирование самолётов, медицинских устройств и автомобилей.
Производитель самолётов должен удовлетворять правилам Федеральной авиационной администрации (FAA) ещё на этапе планирования самолёта. Вместе они составляют план, куда входит «временная шкала проекта, список необходимых пунктов для перехода к следующим фазам, способы удовлетворить требованиям, планы испытаний, другая информация по управлению проектом», — пишет Каммингс. FAA участвует во всех этапах процесса разработки, подтверждая, что оговорённые испытания проходят успешно, перед тем, как позволить выпускать самолёт на рынок.
Если FAA вовлекается в процесс с самого начала, то Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) обычно ждёт до тех пор, пока медицинское устройство не будет готова для испытаний на людях, а потом уже вмешивается.
До клинических испытаний первого в своём роде устройства изготовитель должен передать детальную техническую информацию в FDA, включая «описание устройства, чертежи, компоненты, спецификации, материалы, принципы работы, анализ потенциальных отказов, предполагаемые варианты использования, данные по пациентам, инструкции, предупреждения, требования к обучению работе с устройством, критерии клинических оценок и параметры испытаний, итоги испытаний на животных или опыта предыдущего клинического использования». Затем создатель устройства проводит испытания, передаёт данные в FDA, и ждёт одобрения агентства перед тем, как выпустить продукт на рынок.
У Waymo не будет ничего подобного. Компания проводила неформальные обсуждения с чиновниками на федеральном уровне, на уровне штата и на местах. Но никакого формального процесса, который бы требовал от компании отправлять информацию о своей технологии и результатах испытаний регуляторам из Финикса или Вашингтона, не существует. Закон просто не требует от Waymo доказать, что её технология робомобилей безопасна, перед тем, как выпустить машины на дорогу.
Тщательное одобрение самолётов и медицинских аппаратов обходится дорого. Каммингс говорит, что на вывод новой модели самолёта на рынок может уйти до восьми лет. Опрос компаний, производящих медицинские устройства, показал, что у FDA на подписание разрешения на использование устройства в среднем уходит по четыре с половиной года (процесс в FDA проходит быстрее, чем в FAA, в частности, потому, что агентство не вмешивается в процесс до тех пор, пока продукт не будет полностью разработан). Вывод медицинского устройства на рынок обходится в среднем в $94 млн.
Сторонники робомобилей утверждают, что замедление разработки робомобилей может привести к потере большего количества жизней, чем этот процесс сможет сохранить. В 2016 году более 37000 человек умерло в авариях на шоссе, многие из которых произошли из-за человеческой ошибки, поэтому у робомобилей есть потенциал предотвратить тысячи смертей в ближайшие годы.
Проблемы с регулированием робомобилей
Автомобиль подрезает робомобиль Waymo на испытательном треке Castle в рамках испытаний технологии.
Даже сторонники безопасности, например, Чейз и Каммингс, не имеют в виду, что автомобили необходимо подвергать таким строгим проверкам, как это делается в случае с самолётами и медицинским оборудованием. Но им хотелось бы видеть, что правительство принимает более активное участие в проверке робомобилей – до того, как выпускать их на дороги общего пользования.
Но Эд Фелтен из Принстона задаётся вопросом, реалистично ли это. Он указывает на то, что в деле испытаний робомобилей существуют уникальные препятствия.
«Количество происшествий или жертв на одну милю, пройденную машиной, должно быть очень, очень маленьким», — говорит он. Водители-люди попадают в происшествие с летальным исходом примерно раз на 100 млн миль. Поэтому, чтобы определить, что безопасность робомобиля не ниже человеческого водителя, необходимо понять, как он обрабатывает редкие ситуации – такие, с которыми водитель-человек столкнётся, возможно, раз в жизни.
«Чтобы понять, что это безопасно, требуется огромное количество симуляций и проверок в контролируемых условиях, — говорит Фелтен. – Сложно представить, как правительство сумеет это сделать».
Чейз, к примеру, ратует за то, чтобы испытать зрение робомобилей, чтобы они показали, что «могут увидеть и среагировать на то, что происходит на дороге». Непонятно, однако, насколько это будет полезно на практике. Такие возможности восприятия, безусловно, необходимы для полностью автономного робомобиля, но их далеко не достаточно для того, чтобы доказать, что программы, водящие автомобили, не опаснее водителя-человека.
И хотя Каммингс сказала мне по поводу машин от Waymo, что «никаких испытаний в реальном мире не проводилось», это было нечестно по отношению к компании. В прошлом году я ездил на испытательный полигон в Калифорнии, где компания помещает машины в сотни контролируемых сценариев. Я смотрел, как машина Waymo замедляется, когда её подрезает другая, останавливается, когда «грузчики» роняли перед ней кучу коробок, давала проехать машине, съезжающей с парковки у дома.
Возможно, федеральные регуляторы и могли бы придумать испытания, до которых не додумались инженеры Waymo. Но в целом трудно поверить, что они смогли бы придумать более скрупулёзный набор испытаний, чем те, что компания уже проводит в калифорнийской пустыне и других местах.
В итоге, единственным способом проверить, как робомобиль ведёт себя на реальных улицах с людьми, будет поместить его на реальные улицы с людьми.
Waymo могла бы действовать более открыто
Вот в чём критики Waymo совершенно правы, так это в том, что компания не была достаточно открытой по поводу своих испытаний.
В соответствии с подходом трамповской администрации, заключающемся в уменьшении регулирования, компаниям предлагается (но не требуется) отправить отчёт, детально описывающий свойства робомобилей, связанные с безопасностью. Waymo стала первой компанией, отправившей такой отчёт в этом году.
Когда я говорил с Кэти Чейз в августе, она язвительно отзывалась по поводу отчётов от Waymo и других автопроизводителей. «Они больше похожи на глянцевые рекламные брошюры, чем на набор данных», — сказала она.
«Нам нужна информация по Waymo», — сказал Генри Джасный, юрист из общества «Сторонников безопасности на шоссе и в автомобилях», вскоре после публикации Waymo отчёта в прошлом году.
Waymo в своём заявлении утверждает, что их отчёт на 43 страницы на самом деле даёт огромное количество информации по поводу безопасности их транспортных средств.
«Мы намереваемся рассказать общественности и регуляторам об этой новой технологии, которая, по нашему мнению, способна спасти тысячи жизней, и о скрупулёзном процессе, который мы используем для её испытаний», — писала в электронном письме представитель компании на прошлой неделе. Она утверждает, что отчёт по безопасности Waymo «даёт детальное описание наших испытательных программ, как в текстовых разделах, описывающих испытания, так и в примечаниях, где конкретно описываются определённые виды испытаний, специально разработанных для того, чтобы быть информативными для регуляторов и общественности».
И действительно, в отчёт от Waymo входит длинный список тестовых сценариев, выполненных в компании. К примеру, Waymo говорит, что её машины способны справиться со сценарием под названием «полностью автономное средство передвижения приближается к тормозящему ведущему средству передвижения».
Но в этот отчёт не вошла подробная информация, которая позволила бы провести независимый анализ испытательного процесса Waymo. Каковы точные параметры тестов? Сколько раз их прогоняли? Как повёл себя автомобиль? В отчёте этого нет.
То же верно и для испытаний машин на дорогах общего пользования. Waymo прошла девять миллионов миль испытаний на таких дорогах [14 млн км], многие из которых машины проехали с водителем за рулём. Но у общественности очень мало информации по поводу того, как проходили эти испытания. Это особенно верно для Аризоны, в которой (в отличие от соседней Калифорнии) компаниям, разрабатывающим робомобили, не обязательно отправлять регулярные отчёты об испытаниях.
К примеру, в августе ресурс The Information опубликовал статью, где было написано, что некоторые жители Финикса были раздражены необходимостью делить дороги с машинами Waymo, которые часто вели себя неуверенно там, где живой водитель так бы себя не вёл. Житель Маунтин-Вью выложил несколько видеороликов, на которых машины от Waymo замирали в ситуациях, которые не смутили бы водителей-людей.
Означают ли эти сообщения, что у ПО от Waymo есть большие проблемы? Или это несколько слишком сильно раздутых отдельных происшествий? Сложно сказать без подробных данных о том, как ведут себя робомобили в реальном мире. У Waymo такие данные, без сомнения, имеются; она просто не сделала их доступными для всех.
Лично мне кажется, что Waymo в итоге посрамит критиков. Компания начала разработку робомобилей задолго до других конкурентов, поэтому у неё была возможность спокойно и постепенно идти к коммерциализации.
Но испытания всегда бывают более надёжными и доскональными при наличии независимого надзора. У общественности есть все основания скептически относиться к ним, пока компания не докажет безопасность своих машин, подкрепив слова всеобъемлющими данными и независимым анализом. По текущим федеральным законам и законам штата компания не обязана этого делать. Но, возможно, в её интересах всё же сделать это.
«Если компания выдаст больше информации о том, как ведут себя её машины, это пойдёт ей на пользу, поскольку, в конечном итоге нужно, чтобы люди доверяли автомобилям, а это доверие можно заслужить, доказав их безопасность», — говорит Чейз.
Если Waymo запустит коммерческую услугу, не выпустив значимых данных об эффективности машин, или не позволив провести независимый обзор технологии, это обозначит прецедент, который позволит другим компаниям – возможно, менее добросовестным – сделать то же самое.
По имеющимся правилам, «каждый может вывести робомобиль на дорогу, — говорит Чейз. – Джо Гаражкин может построить такую машину, вывести её на дорогу, а потом она попадёт в ужасную аварию».
Модель надёжной компании
Если формальную проверку в стиле FDA провести не получится, что могут сделать регуляторы вместо этого? Брайант Уокер Смит ратует за то, чтобы использовать для регулирования робомобилей то, что он называет моделью «надёжной компании». Вместо прописывания подробных технических стандартов для робомобилей, говорит он, регуляторы должны сконцентрироваться на одобрении процессов разработки и испытаний робомобилей самих компаний.
Смит хочет, чтобы «правительственные чиновники сказали: заслуживают ли эти компании доверия? Честно ли они передают информацию? Подтверждают ли свои заявления?»
«Регулирование – это не просто правила или одобрения, — отмечает Смит. – Регулирование – это все инструменты, доступные чиновникам: расследования, запросы, отзыв разрешений, наказания за неверное представление информации».
В этой модели регуляторы будут концентрироваться не на прямой оценке технологии, а на гарантировании того, что компании, производящие робомобили, поддерживают корпоративную культуру и набор процессов, ставящие безопасность на первое место. Регуляторы должны заставлять компании подробно доказывать безопасность их транспорта, подкрепляя это фактами.
Пока что Waymo ничего такого не делает – по крайней мере, публично. С момента запуска компании почти два года назад, она подчёркивала безопасность своей технологии. «Безопасность находится в самом сердце миссии Waymo и всего, что мы делаем», — написала мне представитель компании по почте.
Но компания пока не выпустила достаточно данных для подтверждения своих заявлений по поводу безопасности. Мы знаем, что Waymo зарегистрировала миллионы миль, проделанные по дорогам Аризоны, но мы мало что знаем о том, как вели себя их машины.
Waymo нужно не просто создавать безопасную технологию, но и убеждать общественность в её безопасности. Этому может помочь большая прозрачность как по поводу технологии, так и по поводу её испытаний.
