Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 43
Да ладно "автопилоты", таким даже люди страдают.
Люди имеют полное право ошибаться, когда дело касается их собственной жизни.
А платная нейросетевая услуга - не имеет. Точнее ее создатели не имеют права на то, чтобы их сервис допускал подобные ошибки.
Она должна работать идеально и безукоризненно.
Конкретно Илон Маск не имеет права выпускать в общее пользование подобные средства.
Если регуляторы уничтожат эту часть его деятельности, то поделом.
Я в чем-то даже с вами согласен и разделяю негодование. Несмотря на то, что эта новость мне просто напомнила про такую же, но про человека (явно проблема в картах), я все же отвечу вам.
Видите ли в чем дело, когда человек за рулём, дело касается не только его жизни. Это касается вообще всех жизней вокруг. И почему-то ему мы разрешаем ошибаться. А инженеру - нет.
Я не призываю всем разрешить "автопилоты", но и не нравится, что раздувают из мухи слона. По правилам человек должен следить за дорогой и быть готовым в любой момент перехватить управление. Человек берет на себя такую ответственность, используя этот "автопилот". Человек из новости молодец и все сделал правильно. Пост в твиттере - это окей, раздувать из этого новость и всерьёз негодовать - такое себе, имхо.
Вы будете вынуждены разрешать человеку ошибаться по той же причине, по которой допускаете вероятность собственной ошибки. Если вы оказались за рулём, то вы такой же человек с примерно такой же вероятностью ошибки, как и все остальные водители в потоке. Таким же человеком вы можете перестать быть, если, например, напьётесь. И тогда с вас по закону три шкуры спустят и будут правы.
Рядовому инженеру нейросетей ошибаться лично я не запрещаю. Пусть ошибается. Ответственность за его деятельность будет нести руководитель - владелец корпорации. В данном случае Илон Маск. Он будет решать, выводить на рынок или нет, равно как увольнять инженера или оставить. Сделает что-то неправильно - будет нести все денежные и репутационные издержки.
И лично я ему ничего не прощу, так как в его положении даже близко не нахожусь. Пусть ему сочувствуют другие миллиардеры.
А кто сказал что человеку разрешено ошибаться?
Человек за причинение вреда другому своими действиями может в тюрьму загреметь.
А Автопилоту что за это будет?
Все имеют право ошибаться, в т.ч. люди, которые делают автопилот. Вот только компьютеры ошибки делают статистически реже человека. Почему-то вы человеку разрешаете ошибаться, а автопилот должен быть идеальным.
Не бывает идеального ПО без ошибок и никогда не будет. Но это не мешает прогрессу.
Маск уже сам признал, что обучить нейронку ехать по дороге легко, а вот корректно обработать все возможные нестандартные ситуации (тени на дороге, озеро в темноте, велосипеды на багажниках) это совсем другая история. Жалко, что для осознания очевидного факта требуется так много жертв.
"так много жертв" - это сколько?
Зачем вырывать пост из контекста?
Это было сказано после того как NVidia выпустила свой симулятор и грозилась решить проблему автовождения за счет синтетических данных. На что Маск возразил, что проблема не в симуляции, она была у них еще много лет назад и куда более совершенная, а в данных реального мира, без которых «марш девяток» не решить.
Ничего такого он не признавал.
Тесла, Тесла, Тесла. Всегда в новостях только и исключительно Тесла. И Хабр туда же.
Когда увешанная «безопасными» лидарами Waymo блокирует средь бела дня трафик на дороге или врезается в бочину другой Waymo, в медиа полная тишина. В лучшем случае напишут нейтральное «инцидент с беспилотной машиной». Но стоит только Тесле задеть другую машину или заехать в лужу так все — аршинные заголовки по всем газетам в стиле ИЛОН МАСК УБИВАЕТ ЛЮДЕЙ!!111. И регулирующие органы почему-то «растут» тоже только на Маска.
Для информации: не важно, насколько свежая прошивка стоит на частной машине. Она все равно остается supervised. Водитель обязан контролировать поведение машины. Прошивки такси раскатываются и контролируются отдельно.
Сколько уже можно ездить без предзагруженных карт?
"Вы совершенно правы, впереди было озеро. Если хотите, я могу написать вам перечень всех ближайших озёр или сочинить про озеро стих!"
Но всё равно будут разговоры про то что нейронка может заменить человека в критичных вещах😁
Выше же написано, что люди так же ошибаются https://habr.com/ru/news/1000614/#comment_29543474
Почему люди не летают на самолётах, на которых установлен не принятый госкомиссией автопилот, а коммерческий продукт за $99? Хотя - свобода выбора...
Автопилот на самолёте, на мой взгляд, проще и безопаснее. Ввел исходные данные, и дальше он оперирует известными величинами (координаты, вес, тяга, скорость) . Рандомных препятствий нет, других участников движения по минимуму.
И несмотря на это он проходит строжайшей проверку. А тут сел и поехал. Это русская рулетка
А на дороге опасней, 1 секунда и уже врезаешься во встречку или столб. А самолёт предупредит за минуту до возможного столкновения
Поэтому их и нельзя выпускать на дороги. Что самолёт упадет мне на голову - не боюсь, а что Тесла на меня наедет - гораздо больше вероятность
Поэтому их и нельзя выпускать на дороги
Когда появились первые автомобили, некоторые люди тоже говорили, что их нельзя выпускать на дороги. И настолько боялись эти самоходные повозки, что даже ряд законов более 30 лет действовали (закон о локомотивах (Locomotive Acts), закон о красном флаге (Red Flag Acts)):
Человек с флагом: Перед каждым самоходным транспортным средством должен был идти человек .
Предупреждение: Этот человек обязан был нести в руках красный флаг днем (или красный фонарь ночью), чтобы предупреждать пешеходов и наездников на лошадях о приближении «чудовища».
Ограничение скорости: Самоходные повозки не могли ехать быстрее 6 км/ч (4 миль/ч) за городом и 3 км/ч (2 миль/ч) в черте города.
Фактически, машина должна была двигаться со скоростью пешехода.
Вы до сих пор считаете, что перед самоходными повозками должен идти человек с флагом или всё-таки прогресс не стоит на месте?
Вы считаете, что трезвомыслящий человек, оценивающий реальную статистику, - обязательно ретроград? Ездить сейчас с автопилотом - примерно как заглядывать в бензобак, подсвечивая спичкой.
Закон о красном флаге был отменен в 1896 году, когда убедились в безопасности автомобиля. Тема статьи - реальные ДТП, произошедшие по вине ИИ. Что правильнее - игнорировать их или разобраться в причинах и устранить их?
трезвомыслящий человек, оценивающий реальную статистику
И какую статистику вы оценили? По подобным хайповым статьям?
Ездить сейчас с автопилотом - примерно как заглядывать в бензобак, подсвечивая спичкой
Сильное заявление :) Про статистику дам ниже в этом комментарии
был отменен в 1896 году, когда убедились в безопасности автомобиля
автомобиль так и остался ОПАСНЫМ, а закон отменили поняв, что он ТОРМОЗИТ РАЗВИТИЕ (в том числе отмену или изменения в законе лоббировали производители автомобилей).
И ведь после отмены "красного флага", автомобили не перестали БЫТЬ причиной смертельных аварий, "пугать лошадей", "мешать жителям ночью". Все эти проблемы сохраняются до сих пор.
Но при этом плюсы от использования автомобилей стали перевешивать "риски" и "помехи".
Так будет и с автопилотами. Да, на миллион километров может случиться эпизод, когда автопилот решил форсировать реку. Этот случай изучат, логику подправят. Но не выпуская такой авто в жизнь, никогда не додумаешься сам, до такого варианта. Если бы люди могли всё предусмотреть, то в простых программах для компа не было бы багов.
А большинство багов находят лишь выпустив прогу на рынок, и тогда пользователи найдут гораздо больше багов.
Что касается статистики, то вот, например Waymo публикует такое:
Waymo (полный беспилот):
На 91% меньше аварий с серьезными травмами по сравнению с водителями-людьми на тех же дорогах.
На 80% меньше аварий с любыми травмами.
По данным страховых выплат, количество исков о возмещении ущерба имуществу у Waymo на 88% ниже, чем у обычных водителей.
Tesla (Autopilot / FSD):
В Q3 2025 года зафиксирована одна авария на каждые 6,36 млн миль (ок. 10,2 млн км) с включенным автопилотом.
Для сравнения: средний показатель по США составляет одну аварию на каждые 702 тыс. миль (ок. 1,1 млн км). Таким образом, Tesla заявляет, что автопилот в 9 раз безопаснее среднего водителя.
Даже без включенного автопилота автомобили Tesla попадают в ДТП реже среднего (одна авария на 1,51 млн миль) благодаря активным системам безопасности
Да, человечеству нужен риск, адреналин и естественный отбор и это выбор каждого. Плохо, что пострадать могут и те, кто это не выбирал. Я, например, не наступаю на грабли потому, что убираю их до того, а не после первого раза.
В Москве автобус въехал в подземный пешеходный переход!
Срочно запретить автобусы! Опасно, как можно выпускать такую сырую технологию?! "Пострадать могут и те, кто это не выбирал!" (с) :)
Да, номинантов премии Дарвина много, но не надо стремиться расширить категорию участников
Я приму врачебную ошибку человека и категорически не приму ошибку ИИ. Да, я субъективен
Я приму врачебную ошибку человека и категорически не приму ошибку ИИ
Нужно смотреть на статистику. Если условно человек хирург ошибается в 5 случаев на 100 операций, а робот будет ошибаться в 1 случае на 100 операций. То на стол к кому будут пытаться попасть люди?
Не бывает 100% надежных вариантов. Всегда есть риск. Оценивают его приемлемость. И выгоду от внедрения.
Сейчас всё выглядит так, что автопилоты могут (и будут!) косячить, но такие случаи происходят в 9 раз реже, чем у кожаных мешков. Так что уже выгода от внедрения очевидна.
Вы выше говорили, что "трезвомыслящий человек, оценивающий реальную статистику", вы же это про себя? Можете дать ссылку на ВАШУ статистику, на основе которой вы считаете, что автопилоты - это "русская рулетка" и "их нельзя выпускать на дорогу"?
Full Self-Diving
Селф-дайвинг же.
"тефла, афтифвейд фулл сэф-дайвин мод"
Маск не сможет сделать полностью автопилот только на камерах , без лидара , если дороги не оцифруют. Все равно будут инцеденты.
Пьяному человеку за руль нельзя. Трезвого автопилота никто не видел (опьянение бывает не только алкогольным, а зависимости у каждого свои). Как можно выпускать на дорогу ИИ, не имея полного понимания его поведения и гарантий правильных действий?
Почему только от человека для получения прав требуют справку от психиатра?
Почему способность человека управлять авто оценивают множество сторонних специалистов (ГАИ, врачи), а автопилота - только производитель?
а как ещё обучать на случаях, о которых даже предположить не могли, если не выпускать их в реальную жизнь?
До ограничений и проверок обычных мясных водителей и ПДД тоже не сразу ведь дошли. Случаются какие-то случаи (или если учащаются какие-то ранее не прописанные случаи) - законы дорабатывают, требования дописывают. Или вы думаете, что текущие ПДД в текущем виде сразу были приняты в 1909 году (первый международный свод правил принятый в Париже).
а как ещё обучать на случаях, о которых даже предположить не могли, если не выпускать их в реальную жизнь?
А как обучают людей? Рассказывают ПДД, дают ключи и говорят - езжай? Если уже есть столетний опыт обучения самых разных индивидов, почему он игнорируется при обучении системы, алгоритм работы которой не может подробно описать даже ее создатель?
почему он игнорируется
с чего вы взяли, что игнорируется? Человека не выпускают на дорогу, пока он не научится на закрытой площадке (при этом выпуск человека на дорогу не означает, что они теперь безаварийный гуру езды, да ведь?).
Автопилот не выпускают на дорогу, пока он не научится ездить виртуально в симуляции, затем проверяют его работу в какой-то закрытой области (кампус разработчика, закрытая территория Сколково, территория Иннополиса в Казани и т.п.), и только потом выпускают на дороги общего пользования ПОД КОНТРОЛЕМ человека ,который может вмешиваться в управление, а уже только потом, набрав достаточную статистику, можно выпускать и полную автономку уже без дублирующего живого водителя.
Вот так вот итерациями всё и происходит.
алгоритм работы которой не может подробно описать даже ее создатель?
глупости, прекрасно известно как работают ИИ, известно что и как они видят ,как распознают, как они обучаются (обучение с подкреплением) и что у них там в мозгах происходит, это никакая не магия.
Я не особо силен в вопросе, но насколько мне известно автопилот не работает если руки на руле и необходимо внимание водителя, автопилот не заменяет водителя он помогает ему.
Никого не смутила вменяемость человека, который в ночи неизвестно где, с каким то озером доверился автопилоту и плевал на свою безопасность прежде всего. Раздувают проблему, а основная проблема тут человек.
"Автомобиль будущего даст сигнал себя откопать и почистить от снега, нальёт мужикам за работу и развезёт их обратно по домам." (с)
шутки шутками, но ведь с автомобилем будущего нет необходимости его держать возле дома.
Он может стоять где-то далеко на каком-нибудь мегамногоуровневом паркинге и заряжаться. А по сигналу от владельца приезжать к нужному времени к подъезду. И возле домов будет больше лужаек, не будет необходимости в таком количестве парковочных мест как сейчас.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Система автопилота FSD Tesla пыталась направить электромобиль в озеро