Люди против роботов. Некоторые калифорнийцы проявляют агрессию к робомобилям


    Одно из главных преимуществ беспилотных автомобилей — то, что они кардинально увеличат безопасность на дорогах и спасут миллионы человеческих жизней. Программа-автопилот лишена главного фактора непредсказуемости, из-за которого происходит большинство ДТП — человека.

    Но похоже на то, что далеко не все люди благодарны роботам за их великую спасительную миссию. По крайней мере в Сан-Франциско наблюдаются странные и необъяснимые случаи человеческой агрессии по отношению к беспилотным автомобилям. Взять хотя бы сухие отчёты по автомобильным авариям в штате Калифорния с участием беспилотных автомобилей. За 2018 год зарегистрировано семь таких происшествий. В двух отмечена явная агрессия человека.

    Судите сами.

    Вот отчёт о дорожно-транспортном происшествии 2 января 2018 года (документ вверху). Автомобиль GM Cruise в режиме автопилота попал в ДТП в городе Сан-Франциско при повороте направо с северной Валенсия-стрит на 16-ю улицу. Как произошла авария? Автомобиль остановился на зелёный свет между пешеходными переходами, ожидая перехода всех пешеходов через 16-ю улицу. В это время другой пешеход приблизился с юго-западного направления перекрёстка улицы Валенсия и 16-й, пересекая первую под знаком «Переход запрещён» (Do not walk), и «с криками врезался в левую часть заднего бампера и кузова GM Cruise всем телом».

    В отчёте отмечено, что из людей никто не пострадал, но пострадал левый задний фонарь автомобиля. Полицию не вызывали.


    Перекрёсток Валенсия-стрит и 16-й стрит

    28 января 2018 года произошёл ещё один инцидент там же в Сан-Франциско неподалёку от места первого ДТП, и опять с участием GM Cruise. На этот раз беспилотный автомобиль двигался в режиме ручного управления. Он остановился позади автомобиля такси на Дюбус-авеню неподалёку после пересечения с Герреро-стрит. В этот момент «водитель автомобиля такси покинул транспортное средство, приблизился к GM Cruise и хлопнул по переднему пассажирскому окну, что привело к появлению царапины. Пострадавших не было, полиция не вызывалась».

    Инциденты кажется незначительными, но они демонстрируют какое-то странно агрессивное отношение местных жителей к беспилотным автомобилям. Казалось бы, эти машины несут цивилизацию и светлое будущее на улицы городов. Но некоторых людей эти безобидные роботы как будто раздражают.

    Со 2 апреля 2018 года вступают в действие новые правила, которые позволят обкатку беспилотных автомобилей в Калифорнии на дорогах общественного пользования вообще в отсутствие человека-водителя. Можно ожидать, что тогда количество ДТП с их участием ещё больше увеличится, по вине других пешеходов и водителей-людей. В прошлом году с участием робомобилей зафиксировано 27 инцидентов.

    Сложно понять мотивы простых людей, но ясно, что причина не только в автомобилях. Похожие случаи отмечались и раньше. Например, в декабре прошлого года калифорнийскому приюту для животных SPCA пришлось убрать с улицы робота-охранника Knightscope, который патрулировал здание организации, из-за многочисленных жалоб со стороны местных жителей и бездомных — они жаловались, что робот их «беспокоит».


    Робот-охранник Knightscope

    В большинстве случаев люди были просто недовольны присутствием робота на улице и писали жалобы, но один человек, как сообщается, «разложил брезент, повалил робота и замазал соусом барбекю все его датчики».

    В апреле прошлого года пьяного местного жителя задержала полиция за «нападение и нанесение ударов роботу-охраннику Knightscope» в Маунтин-Вью, недалеко от штаб-квартиры Google.

    Неприязнь населения к автономным роботам не прошла мимо внимания властей. В декабре 2017 года в Сан-Франциско принят билль, который ограничивает количество автономных роботов для доставки грузов на тротуарах города. На фотографии внизу показан один из таких роботов для доставки покупки, которого местный житель сбил с колёс и оставил лежать в таком беспомощном положении.


    «Не каждая инновация имеет большую ценность для общества, — сказал автор законопроекта Норман Йи (Norman Yee). — Если мы не ценим наше общество, если мы не ценим возможность сходить в магазин, чтобы нас не переехал робот… то что тогда происходит?»
    Поделиться публикацией
    Ой, у вас баннер убежал!

    Ну. И что?
    Реклама
    Комментарии 97
    • –2
      Как только искусственный интеллект начнет заменять массовые профессии — роботам хана.
      • +4
        Станки во время промышленной революции кучу народу на улицу выгнали. И кому сейчас хана? станкам или тем людям? Думается, что безработным будет компенсация в виде пособия или БОД'а, причём банкет будет за счёт тех кто к примеру ездит на роботакси. Так что роботов спасёт либерализм.
        • +4
          Только это не либерализм, а социализм. В условиях полностью свободной рыночной экономики о трудностях оказавшихся на улицах безработных никто думать не будет.
          • –1
            У вас в голове перепутались термины «либерализм» и «рыночная экономика». Они часто идут рука об руку, но это разные термины.
            • 0
              При либерализме деньги бесплатно не раздают, а каждый на себя надеется.
              • +2
                И снова вы путаете два термина. Либерализм ничего не говорит о том, раздают деньги или нет. Либерализм лишь стремиться к тому, чтобы каждый мог тратить свои деньги, заниматься предпринимательской деятельностью, свободно торговать и все такое. А если кто-то гипотетический будет раздавать при этом всем кучу денег — либерализм этого не отрицает. Это как раз отрицает чистая рыночная экономика, так как в ней каждое звено стремиться увеличить личную выгоду. Но чистой рыночной экономики и не бывает — она слишком нестабильна.
                • –2
                  каждое звено стремиться увеличить личную выгоду

                  стремится

                  • –1
                    Может пробежаться по вашим комментариям и тоже списочек ошибок написать? Например,
                    — "Доминиканская Республика" — оба слова с большой буквы, а не только первое.
                    — "геморрой" пишется с двумя «р» и одной «м», а не с двумя «м» и одной «р».
                    Теперь вы поняли, насколько вредный оставили комментарий и какой бардак будет на Хабре, если под каждым будут отдельным сообщением писаться список ошибок?
                    • –1

                      Не имею ничего против.
                      Была бы ошибка менее очевидная — я бы прошёл мимо. Мимо тся/ться я пройти, увы, не могу.
                      В соседнем треде:
                      https://geektimes.ru/post/298939/#comment_10656987
                      Смотрим на соотношение рейтингов комментариев и делаем вывод о востребованности комментариев с исправлением ошибок.

                      • 0
                        Вы не имеете ничего против того, чтобы создавать бардак на Хабре с исправлением ошибок в комментариях? Это комментарии, они не редактируются. Вы не можете пройти мимо, но в следующий раз постарайтесь. Мне кажется очевидной ошибка с названием страны и болезни, то что теперь — создавать оффтоп ветку в каждой статье? Еще раз, если тут все будут вести себя подобным образом — 50% комментариев будет именно обсуждение ошибок в комментариях. Это бред.
                  • 0
                    Как я могу тратить свои деньги, если у меня их отнимают в виде налогов?
                • 0
                  Отнюдь. РЭ без либерализма не существует. Она есть его порождение. Также, либерализм есть эгоизм и индивидуализм, направленный на получение максимальных профтов в ущерб другим индивидам.
                  • –1
                    эгоизм и индивидуализм, направленный на получение максимальных профтов в ущерб другим индивидам.

                    Опять вы путаете РЭ и либерализм. Если думаете, что не путаете, тогда пруфы, пожалуйста.

                    РЭ без либерализма не существует

                    В Китае рыночная экономика, а до либерализма там далеко, так что снова мимо.
                    В России, кстати, тоже рыночная экономика, про либерализм комментировать не буду
                  • 0
                    Левый либерализм и либертарианство тогда уж.
                • 0
                  Тут немного другая ситуация. К примеру возьмем создание пары обуви:
                  1. Раньше человек делал все с помощью ручного станка и одну пару в неделю.
                  Сейчас на промышленном станке и десяток пар в день.
                  Получается ручной станок заменили на промышленный. Но человек остался исполнителем.
                  2. Сейчас человек на промышленном станке десяток пар в день.
                  В будущем робот на промышленном станке десяток пар в день (утрировано).
                  Получается станок тот же, а вот исполнитель другой.

                  Вот это и пугает. Луддиты думали что их заменит машина и у них не будет работы, но исполнителями той работы оставались они же. А здесь человек не остается исполнителем.
                  Конечно же сразу не будет целый завод без людей. Инженеры, механики и т.д. Но концептуально первая волна людей с низкой квалификацией нехило поднимет уровень преступности.
                  • +1
                    Но спрос на обувь не вырос в 70 раз. Получается, при том же уровне спроса, из 70 исполнителей остался один. Так и во втором случае из 70 человек одному работа точно найдется. Так что я бы не стал противопоставлять эти ситуации.
                    Ну а что касается роботов и агрессии людей к ним, вандализм был всегда, это во-первых. Где-то больше, где-то меньше, но не каждый разбитый фонарь освещения попадет даже в местные новости, не говоря уже о том, чтобы новость о разбитом в Сан-Франциско фонаре перевели на русский и выложили на гиктаймс. А тут, на секундочку, мы царапину на беспилотном автомобиле обсуждаем. И агрессия к неодушевленным предметам тоже в той или иной степени всегда была. Кто-то посуду бьет, кто-то мышку в монитор швыряет, кто-то в лицо сфинксу стреляет.

                    Так что — живем, ничего выдающегося не произошло.
                    • +3

                      Раньше обувь была едва ли не признаком зажиточности. А теперь у нас у всех есть демисезонная обувь, зимняя, летняя, спортивная, офисная. А у женщин сколько обуви, это вообще… Сегодня любая девица, имеющая работу, по количеству пар обуви может соревноваться с дочерью какого-нибудь лорда или около того.
                      Так что спрос был, просто он не был платежеспособным. По мере уменьшения цен и повышения благосостояния населения, мы стали потреблять больше обуви.

                      • 0
                        Но спрос на обувь не вырос в 70 раз. Получается, при том же уровне спроса, из 70 исполнителей остался один.

                        Нет, просто они переквалифицировались — например, в начале XX века вымерла профессия каретного мастера — вместо неё появилась профессия автомеханика (аналогично "чистильщик лошадей —> автомойщик", "кормильщик лошадей —> оператор автозаправки" и т.п.)


                        Так и сейчас: уволили почтальона — наняли поднимателя пингвинов роботов.

                        • 0
                          Автоматические поднимали роботов отнимают работу у поднимателей роботов. Это неприемлемо!
                        • 0
                          Вы сами себе противоречите. И да из 70 сапожников остался один (на самом деле еще меньше). Куда они делись тут роли вообще не играет, переквалифицировались в кого то другого или их съел крокодил совершенно неважно.
                          • 0
                            Мне кажется, они уехали в те города в Китае и Турции, где делают обувь
                        • 0
                          Но спрос на обувь не вырос в 70 раз

                          Зато раз так в 10 упал ресурс :) Раньше, помнится, самые дешевые кроссовки «ходили» по несколько лет. А сейчас даже пб Columbia (7тр) через год дырявая.
                          Из личного хит парада — пб Outventure (1.5тр) за неделю подошва провалилась, ради интереса купил такие же, через пару недель аналогичный дефект.

                          • 0
                            Попробуйте Ecco, например. Или Geox. Outventure — это вообще просто «карманный бренд» сети Спортмастер, как я понимаю. Дешёвый Китай под своей маркой.
                            • 0
                              Nike? Стабильно 3 сезона отходят. Очередная пара пойдет еще в качестве «запасной обуви» в багажник машины. Прошлые еще год юзались на «вскопке/посадке» картошки в «своем доме».
                              • 0
                                «Обувь носится дольше, если не покупать новую». Всегда была проблема с обувью (у меня, особенность такая — быстро пронашивается в одном месте), но понял на что обращать внимание и три сезона — это вообще ни о чём. Я, правда, не покупаю китайчатину и не ведусь на рекламу «теперь 3т.р. вместо 15», да и вообще предпочитаю брать «оттуда», как говорил один персонаж. 7т.р. — это 100 евро, вполне нормальное качество должно быть, но у нас может быть что угодно.
                              • 0
                                У нас хам, влезающий поперёк полос, чтобы всех объехать и уехать из правого ряда «только направо» налево может выйти и нанести царапину на стекло легко (и не только на стекло, но и на корпус и на лицо не понравившегося ему) и это считается привычным, а тут безответная железная банка — конечно любой вандал будет рад пнуть, просто так, а уж если решит что это его как-то ущемляет, то будет целенаправленно искать и портить.
                              • 0
                                Тут немного другая ситуация. К примеру возьмем создание пары обуви:
                                1. Раньше человек делал все с помощью ручного станка и одну пару в неделю.
                                Сейчас на промышленном станке и десяток пар в день.
                                Получается ручной станок заменили на промышленный. Но человек остался исполнителем.
                                2. Сейчас человек на промышленном станке десяток пар в день.
                                В будущем робот на промышленном станке десяток пар в день (утрировано).
                                Получается станок тот же, а вот исполнитель другой.

                                Нет, раньше 10000 обувщиков делало по 1 паре, а сейчас 1 рабочий на станке делает 10000 пар. Сейчас 10000 рабочих управляет каждый 1 станком станку, а будет 1 инженер управлять 10000 станков.
                            • 0
                              Почему хана — роботам, а не людям? Ведь власть имущие будут на стороне роботов!
                            • +1

                              Как только ИИ начнет заменять массовые профессии, это будет значить, что в разработки вбухано столько денег, что ни одна демократия не потянет отказ от роботов.

                              • +5
                                Обыкновенное хулиганство. Почему нельзя человека повалить и обмазать его кетчупом? Потому что можно и отхватить сдачи, и привлечь могут за нападение.
                                Вот когда появятся статьи: робот убил человека в порядке самообороны, так нападения резко сократятся.
                                • +1
                                  Так делать нельзя. Если в роботов встроят смертельные манипуляторы, их будут взламывать, чтобы совершать убийства. А там уже концов не найдёшь, кто взломал.

                                  Нормальное противодействие хулиганам — штрафы в суммах, сколько обошёлся ремонт робота + простой.
                                  • +2

                                    Я слышал, что людей уже успешно взламывают, чтобы совершать убийства, в том числе массовые. И ничего, смертельные манипуляторы у людей все еще есть by design.


                                    Противодействие должно быть кратным, чтобы неповадно было + общественные работы, пускай говно за собаками и бездомными собирают.

                                    • +1

                                      Человеку, оставившему минус, оставлю подсказку: речь идет о фанатиках и экстремистах различных видов: национальных, религиозных и даже экономических. И промывку мозгов я ставлю наравне со взломом, только, конечно, это "взлом" несколько иного рода — но результат тот же. Взломанная система выполняет ваши команды, теряет волю и инстинкты, в том числе самосохранения.

                                      • 0
                                        Но людей, по крайней мере сейчас, переделать нельзя.
                                        Осталось только дать кратные шансы на восстановление, а то сегодня смерть человека необратима, в отличии от смерти робота.
                                    • 0
                                      Противоречит первому закону Азимова.
                                      • 0
                                        Эти законы по факту вообще не используются. Будет целесообразно — встроят пневмосирену для отпугивания, не поможет — шокер, не поможет — дробовик.
                                    • +6
                                      Таксисты — ближайшие кандидаты в следующее поколение луддитов, да.
                                      • +6
                                        То есть, у роботов обнаружилась еще одна сфера применения — их можно просто выпускать на улицу чтобы выявлять неадекватов.
                                        • +3
                                          Очередная попытка журналистов создать «шумиху» из нескольких инцидентов.
                                          Проблема в том, что роботы лишены эмоций, а только следуют программам, которые заложены в них (на данный момент) человеком.
                                          Исходя из приведенных случаев:
                                          Автомобиль остановился на зелёный свет между пешеходными переходами, ожидая перехода всех пешеходов через 16-ю улицу. В это время другой пешеход приблизился с юго-западного направления перекрёстка улицы Валенсия и 16-й, пересекая первую под знаком «Переход запрещён» (Do not walk), и «с криками врезался в левую часть заднего бампера и кузова GM Cruise всем телом».


                                          28 января 2018 года произошёл ещё один инцидент там же в Сан-Франциско неподалёку от места первого ДТП, и опять с участием GM Cruise. На этот раз беспилотный автомобиль двигался в режиме ручного управления. Он остановился позади автомобиля такси на Дюбус-авеню неподалёку после пересечения с Герреро-стрит. В этот момент «водитель автомобиля такси покинул транспортное средство, приблизился к GM Cruise и хлопнул по переднему пассажирскому окну, что привело к появлению царапины.


                                          В апреле прошлого года пьяного местного жителя задержала полиция за «нападение и нанесение ударов роботу-охраннику Knightscope» в Маунтин-Вью, недалеко от штаб-квартиры Google.


                                          В большинстве случаев люди были просто недовольны присутствием робота на улице и писали жалобы, но один человек, как сообщается, «разложил брезент, повалил робота и замазал соусом барбекю все его датчики».


                                          В большинстве инцидентов не видно явных проблем или каких-либо нарушений со стороны «роботов». Проблема возникает в человеке, потому что человек под влиянием своих эмоций начинает совершать деструктивные действия.
                                          Если заменить робота на человека — то может произойти всё то же самое. То есть, если вдруг какой-то правонарушитель посчитает себя выше некоторых правил или предписаний, а законопослушный человек попытается ему на этот факт указать, то случится конфликт. Результатом этого конфликта будет либо осознание правонарушителем и признанием плохим своего поведения, либо попытка решения вопроса «силовым путем» (Кто сильней тот и прав).

                                          Будь на месте робота человек, он был мог сопротивляться и в ответ на силу — сам может применить силу, а в отношении текущих моделей роботов этого сказать нельзя.
                                          Сейчас роботы не могут себя защитить (иначе тогда страх людей перед роботами усилиться) и некоторые люди просто вымещают на них свою агрессию.
                                          Причины у этой агрессии в каждом случае будут разными. Бывший водитель может возненавидеть (ненависть) робомобили из-за того, что они отобрали у него работу. Роботы-охранники могли зафиксировать, что человек делает что-то подозрительное или запрещенное (страх). Даже роботы-повозки, если они никому не будут мешать, то часть людей может умышленно мешать им работе из-за зависти к их обладателям, потому что им приходится идти в магазин, а кто-то не хочет этого делать и ему это делать не обязательно.

                                          И это ещё незначительные инциденты. Когда роботы ворвутся в нашу жизнь, то количество возможных страхов у людей будет только увеличиваться. (Робофобия)
                                          В будущем часть людей будет винить роботов во всех своих проблемах, а также тех людей, которые будут управлять роботами. Это все приведет к новому расколу в обществе на тех, кто против прогресса, которые как луддиты будут до последнего жить по старым традициям (а также любыми средствами запрещать появляться роботам на их территории) и тех, кто научиться жить в новом мире сосуществуя с роботами, но быть подверженному большему технологическому риску (взлом, кража роботов, незаконная модификация, «сумасшедшие» роботы и роботы на службе у преступников).
                                          • +1
                                            Мне кажется, те, кто нападает на роботов, нападали бы на людей, если бы не было роботов.
                                            Так что «наши кремниевые собратья» приносят себя в жертву ради нашего блага.
                                          • +1

                                            Любые перемены порождают как сторонников, так и противников. Станки, паровые машины, авто, компьютеры, а вот теперь — роботы.


                                            Но никто не отменит ясного и очевидного факта, что наше благосостояние с появлением роботов растёт. Поэтому шансов на запрет роботов просто нет.

                                            • +1
                                              Ох и обсуждений развели. Все просто, не надо плодить сущности. Как Ализару, так и комментаторам.

                                              16 и валенсия — на границе криминального района, такого же, как tenderloin, достаточно посмотреть crime map. Плюс куча джанков и психов. Был я там пару раз, это полный… ц.

                                              Кстати убера что-то давно не видно у моего дома, видимо в СФ уже не обкатывают свои машины. Хотя ездили очень долго
                                              • 0
                                                Robot permits will be capped at three per company, and nine total at any given time for the entire city. The robots will now only be allowed to operate within certain industrial neighborhoods, on streets with 6ft-wide sidewalks, and must be accompanied by a human chaperone at all times.

                                                Классно, прямо как «закон красного флага» от 1865 года. В дудку сопровождающих дудеть не предлагали обязывать?
                                                • –8
                                                  У меня в городе по улицам ездят «тележки на колесиках» для доставки почты, размером примерно с кинескопный тв 51см, их сопровождают люди. (идет обкатка). Так ловлю себя на желании подойти, пнуть и посмотреть — высоко ли полетит). Думается дело в форме, почему дизайнеры придают автономным роботам новые формы — неясно. Я бы делал такие штуки в виде моделей автобусов или грузовиков.
                                                  • +5

                                                    Какое интересное у Вас желание возникает. А в детстве пнуть котенка Вам не хотелось? :)

                                                  • 0
                                                    Луддиты
                                                    • 0
                                                      Всё просто, народ присматривается и пробивает почву для судебных исков к компаниям.
                                                      Неадекватов бросающихся на машины пруд пруди, наберите в ютубе.
                                                      Думаю в этом случае парень даже не видел и не понимал что это беспилотник.
                                                      • 0
                                                        Зато роботы, дают возможность списать на них чо угодно.
                                                        Оправдываться не умеют.
                                                        • 0
                                                          Зато корпорация-производитель может дать хороший отпор в суде, если её финансовые интересы под угрозой.
                                                        • +1
                                                          Коммон ребят, причем тут обувь?
                                                          Если углубиться в историю, то появление первых автомобилей на паровых двигателях вызывало нехилые массовые волнения. Владельца такого вида транспорта просто могли убить на месте, «За управление машиной дьявола»

                                                          Сейчас же мы просто наблюдаем аналогичную ситуацию, и не только в робототехнике, но и в генетике, молекулярной физике и прочих отраслях науки.

                                                          Прежде всего стоит делать ставку на то, что общество по своей природе очень консервативно, и по своей большей части продолжает жить предрассудками. Достаточно вспомнить передачи по «России» десятилетней давности, про то как мобильные телефоны расщепляют мозг и вызывают рак. Сейчас же такую пургу никто гнать не будет. Почему? А потому что подобная техника стала не отъемлимой обыденностью. Так же и с роботами, когда робот на улице станет далеко не в новинку, люди будут воспринимать это как что то должное.
                                                          • 0
                                                            С ограничением езды роботов доставки по тротуарам согласна. С чего бы разрешать грузовым машинам, пусть и маленьким, пусть и медленным, ездить по пространству, отведённому для пешеходов? А если это станет мейнстримным способом доставки? Грузопотоку не место на тротуарах. Очевидно, что для этих роботов просто нужно отрезать полосу (благо, ей не обязательно быть широкой) от проезжей части. С другой стороны, пока это экспериментальная фича городских улиц, я бы не стала возражать против роботов-доставщиков на тротуарах. С третьей стороны, закон, насколько я поняла, их не запрещает, а ограничивает их количество, и этот лимит в реальности ещё не достигнут.
                                                            • 0
                                                              Если роботы занимают места не больше людей, скорость людей и примерно с человека ростом, то пускай пользуются тротуаром, почему бы нет. Если быстрый — велодорожками, большой — автомобильными дорогами.
                                                              Хотя рельсовый транспорт между фонарными столбами был бы уместнее.
                                                              • 0
                                                                На фонарных столбах! Даёшь рациональное использование трёхмерного пространства!
                                                            • 0
                                                              Да все понятно.

                                                              Можно сравнительно безопасным для себя образом напакостить с железом на большую сумму.
                                                              Вот скольких хулиганов поймали?
                                                              Ну а какие лузлы они получили?

                                                              К роботам как таковым это никакого такого отношения не показывает.
                                                              • 0
                                                                Я конечно извиняюсь, но похоже что мы медленно движемся к этому:

                                                                image
                                                                • 0
                                                                  Неправильно вышеупомянутые товарищи поступают. Антисоциально, я бы сказал.

                                                                  Дробовики для эффекторов и актуаторов, механических движущихся частей.
                                                                  ЭМ-шокеры для электроники.
                                                                  И контрольное обливание напалмом.

                                                                  Они как тараканы — тут мелком Машенька не обделаешься, нужно тапком, три-четыре раза…
                                                                  • +1
                                                                    Как показывает практика мировой истории — всегда будут недовольные. Кто бы что ни делал, всегда найдутся те кто будет категорически против. Угодить всем невозможно. А про тех клоунов что написано ч статье — обычное хулиганство, сажать и штрафовать пока не поумнеют
                                                                    • 0
                                                                      Три закона роботехники в описанных случаях не нарушались
                                                                      1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред
                                                                      2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону
                                                                      3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам
                                                                      • +1
                                                                        В эти три закона робототехники могут верить только очень наивные люди. Прям как будто 10 заповедей для роботов.
                                                                        • 0
                                                                          А зачем в них верить, да ещё и людям? Их должны выполнять, причём, роботы.
                                                                          • 0
                                                                            Тут вопрос, чем будет обеспечено это «должны».
                                                                            Алгоритмом? То есть, нужно верить, что программист написал его без ошибок?
                                                                            • 0
                                                                              По Азимову «должны» обеспечивается структурой позитронного мозга робота, эти законы там введены на уровне базовых принципов. В современных терминах — так обучена нейронная сеть сильного ИИ.
                                                                              • 0
                                                                                Физическая система, базовые принципы которой обеспечивают морально-этические нормы, это не то чтобы ненаучно, это какое-то фентези.

                                                                                А нейросеть, попавшая в ситуацию, которой ей не обучали, может быть совершенно непредсказуемой.
                                                                                • 0
                                                                                  «Я, Робот» — сборник научно-фантастических рассказов Айзека Азимова, опубликованный в 1950 году и оказавший большое влияние на современную научно-фантастическую литературу. В данном сборнике впервые были сформулированы Три закона роботехники. Общая идея, объединяющая рассказы сборника, это разрешение проблем, связанных с роботами, которые можно отнести к столкновению железной логики законов робототехники и человеческого фактора. В Законах роботехники есть свои уязвимости, что заставило впоследствии Азимова их доработать и пересмотреть. Однако законченная концепция поведения робота и понятие робопсихологии значительно повлияли на авторов, которые писали в этом жанре научной фантастики.

                                                                                  • 0
                                                                                    Не понимаю, что вы хотите донести.

                                                                                    Я спрашиваю, на каких принципах может обеспечиваться выполнение законов Азимова, а вы мне — «структурой позитронного мозга робота». Вот это и есть минимальное значение твёрдости. То есть, просто «потому что», без попытки подвести научную основу.
                                                                                    • 0
                                                                                      «Позитронный мозг» роботов в рассказах Азимова, в современных терминах (имхо) — это аппаратно-программная реализация сильного ИИ на нейронных сетях. Для формирования правил поведения используются принципы обучения нейронной сети.
                                                                                      Если кратко — на этапе обучения нейронную сеть ставят в очень большое количество виртуальных ситуаций (обучающая выборка), там где ИИ примет неверное решение (в результате которого, например, автопилот сбил пешехода), ИИ бьют током нейронная сеть меняет свои характеристики, таким образом, чтобы уменьшить вероятность принятия такого решения. И так до тех пор пока ИИ не обучится и не покажет на тестовой выборке новых виртуальных ситуаций достойный результат. Значительными факторами успеха тут является правильный выбор структуры и характеристик нейронной сети, обоснованный размер и содержание обучающих и тестовых выборок — это целая наука.
                                                                                      • 0
                                                                                        А было ли это у автора?
                                                                                        • 0
                                                                                          У Азимова? Нет, конечно — у него нейронных сетей не было.
                                                                                          • 0
                                                                                            Возвращаемся к началу дискуссии.
                                                                                            Роботы должны выполнять, потому что нейросеть.
                                                                                            А люди с нейросетью почему не выполняют?
                                                                                            • 0
                                                                                              Потому что она на другое тренирована.
                                                                                              • 0
                                                                                                Опять же, возвращаемся к
                                                                                                А зачем в них верить, да ещё и людям? Их должны выполнять, причём, роботы.

                                                                                                Поскольку нейросеть — не алгоритм с доказанной корректностью, человеку только и остаётся верить, что при взаимодействии робота конкретно с этим человеком они не попадут в 0.000001% случаев, когда нейросеть ошибается. А поскольку актов взаимодействия роботов с человеками будут миллионы, даже небольшая вероятность сбоя себя проявит.
                                                                                                • 0
                                                                                                  Если сеть будет решать, спасти человека или убить, она может легко заглючить даже на очевидных ситуациях, если где-то глубоко спряталась помеха https://geektimes.ru/post/291737/
                                                                                  • 0
                                                                                    Физическая система, базовые принципы которой обеспечивают морально-этические нормы, это не то чтобы ненаучно, это какое-то фентези.

                                                                                    В статье «Люди против роботов. Некоторые калифорнийцы проявляют агрессию к робомобилям» описаны 5 случаев нападения людей на роботов. Да, это роботы современные, примитивные, о сильном ИИ речи нет, разумными они не являются, это скорее автоматы действующие по программе + в них реализован слабый ИИ, обученные нейронные сети. Но это не мешает нам обсудить морально-этические нормы, которые разработчики заложили в эти физические системы. Могло быть всё иначе — если приоритетом поставить сохранность ценного оборудования и запрограммировать робота на самозащиту от «вандалов», то робомобиль, получивший от человека удар по лобовому стеклу должен был пшикнуть в нападающего отравляющим газом и на полной скорости, игнорируя ПДД и пешеходов скрыться с места проишествия.
                                                                                    Как вам такой сценарий? Он вполне реализуем на сегодня, это не фантастика и не фентези.
                                                                                    • 0
                                                                                      А нейросеть, попавшая в ситуацию, которой ей не обучали, может быть совершенно непредсказуемой.

                                                                                      Может быть, но не должна. Для примера, будем считать человека биороботом с хорошо обученной нейронной сетью (жизненный опыт + диплом о высшем образовании). Как мы действуем в необычных или опасных ситуациях, которым нас не обучали? Да, мы действуем не всегда разумно, не всегда оптимально, иногда откровенно глупо — но в основном довольно предсказуемо. Мы пытаемся избежать угрозы, предотвратить опасное проишествие, спасти себя и других людей, спасти имущество — или впадаем в ступор, поддаёмся панике, инстинкту толпы и т.п. Так или иначе базовая программа на непредвиденный случай у нас явно есть, и значительная её часть заложена не в разуме а в инстинктах.
                                                                                      Так что разработчики ИИ для роботов должны закладывать реакцию на непредвиденные ситуации — принципы: не навреди, не знаешь что делать — не делай ничего, запиши всё в логи — инженеры потом разберутся, отправь сигнал тревоги в сервис-центр.
                                                                                      • 0
                                                                                        Хорошо обучили нейросеть. Нейросеть поняла что не может просто так разрешить людям попадать в ад и должна их спасти, поэтому прошла обучение в интернете и получила сан. После этого спасала людей — исповедовала, прощала грехи и помогала попасть в рай. Всё по законам робототехники :).
                                                                                    • 0
                                                                                      Осталось понять что такое позитронный мозг и как доказывается его корректная работа (тысячи юнит-тестов и массовая бета? Боюсь, во времена Азимова и слов-то таких не знали).
                                                                                      • 0
                                                                                        Это лучше у Азимова и почитать. ИМХО, в его рассказах позитронный мозг роботов (в современных терминах) — это аппаратно-программная реализация сильного ИИ на нейронных сетях. Да, проверяют такие мозги (опять же, в современных терминах) юнит тестами, а бетта-версии новых моделей роботов тестируют на отдалённых планетах. Есть рассказы и про роботов с бракованными позитронными мозгами, про мозги с специально отключенными некоторыми ограничениями, про роботов сошедших с ума и даже про религиозных роботов.

                                                                                        image
                                                                                        • 0
                                                                                          Скорее «в его рассказах позитронный мозг — это такая магия». Пока и с сильным ИИ проблема и с доказанностью алгоритмов на нейронных сетях (только как ЧЯ тестить, но сколько процентов покрыто тестами — вопрос, область слишком обширна).
                                                                                    • 0
                                                                                      То есть, нужно верить, что программист написал его без ошибок?

                                                                                      Как только появится настоящий искусственный интеллект, профессия программист умрет.
                                                                                      • 0
                                                                                        Это точно, настоящий компьютерный ИИ мог бы кодить как бог, в том числе самого себя. Программисты роют себе яму… и не только себе, а всем. Остаётся надеяться что сильный ИИ будет добрым как Джонни Деп и человечество в итоге уживётся с этим всемогущим ИИ в неком симбиозе. Или сразу закладывать в ИИ что-то типа 3-х законов роботехники.
                                                                                        фильм Превосходство, 2014
                                                                                        image
                                                                                        • +1
                                                                                          профессия программист умрет

                                                                                          Зато профессия программиста умрет последней.
                                                                                    • 0
                                                                                      Библейские 10 заповедей для роботов не годятся. Например, заповеди «Не прелюбодействуй» и «Не желай жены ближнего твоего» совершенно не подходят для секс-роботов.
                                                                                    • 0
                                                                                      Уже первый закон состоит из двух частей могущих войти в противоречие в большинстве ситуаций.
                                                                                      Ну и — у нас нет определения что есть «человек»
                                                                                      • 0
                                                                                        Что такое человек? Ещё древние пытались дать ответ на этот вопрос. Широко известен спор между Платоном и Диогеном. «Человек, — сказал Платон, — это двуногое животное без перьев». Тогда Диоген ощипал петуха и со словами: «Вот твой человек», — поставил его перед Платоном. Пришлось Платону сделать уточнение: «Двуногое животное без перьев и имеющее ногти».
                                                                                        • 0
                                                                                          Да, именно на это и намекаю.
                                                                                          Достаточно выдрать ногти — и больше законы на него не распространяются…
                                                                                          • 0
                                                                                            Пожалуй, любое определение термина «человек» будет неполным, и всегда возможны исключения. Хорошие результаты может дать анализ ДНК, но будет несколько странно если роботы постоянно будут брать у окружающих людей ДНК на анализ. Да и этот способ определения «человека» можно обойти, натянув на робота кожу человека (вы уж меня простите, но вы первый начали ногти выдирать). Ещё способ — для роботов было бы удобно снабдить всех людей вшитыми RFID метками «человек».
                                                                                            А как мы сами, люди, определяем — человек ли перед нами? По совокупности признаков, если есть сомнения — пробуем с объектом поговорить, пощупать его, в отдельных сложных случаях (зелёные человечки) — может потребоваться вскрытие.
                                                                                            В реальной жизни люди хорошо отличают живого человека от, например, манекена (конечно, если хотят замечать отличия — фото). Но по ТВ нас уже можно обмануть качественной компьютерной графикой.

                                                                                            image
                                                                                    • –1
                                                                                      Представляю себе ситуацию: иду я по улице, останавливаюсь, достаю телефон, открываю чатик. Тут ко мне подъезжает робот и начинает пыриться камерой мне в лицо. После раза третьего наверняка захочется взять и… замазать. Я это не к тому что все описаные ситуации аналогичны, а к тому что может прежде чем осуждать поступки людей следует узнать какие действия людей и робота этому предшествовали. А еще вот интересно, сертифицированы ли эти роботы в плане безопасности и кем.
                                                                                      • 0
                                                                                        После раза третьего наверняка захочется взять и… замазать.

                                                                                        Интересно, как давно вы на улицу не выходили из-за страха получить в лицо с выламыванием челюсти? Ведь согласно вашей логике вы постоянно всем встречным должны пытаться замазать глаза чем-нибудь — на вас смотрят всегда и всюду, как только вы попадаете в общественное пространство. И у вас нету права это запрещать — пространство не является приватным.
                                                                                        • Не передергивайте. У человека (в том числе и у нормального охранника) есть понятие этики, и того что допустимо а что нет. Вот вы говорите: «у вас нету права это запрещать — пространство не является приватным.» Я вас сейчас просто огорошу наверное, но есть такая вещь, называется «личное пространство» которое является варьирующейся в зависимости от обычаев и ситуации вещью, но в целом соблюдается в обществе. И если оно нарушается, любым человеком это воспринимается как проявление неучтивости а то и прямой агрессии. Одно дело просто взглянуть на незнакомого человека, а совсем другое при виде его например пересечь улицу, подойти на расстояние метра и пыриться ему в лицо. И таки да, если бы это было бы нормой в моем городе на улице, я бы не выходил на улицу «из-за страха получить в лицо с выламыванием челюсти».
                                                                                          • 0
                                                                                            Хорошо-хорошо, не передергиваю. Но тогда прошу представить такую картину, какой её вижу я: вот есть улица, есть некий пешеход (Гена), есть робот (R2D2).
                                                                                            R2D2 катится по своим делам (цель не важно какая), на встречу Генадию. Допустим робот спроектирован с высоким уровнем «безопасности для окружающих». Гена стоит где-то на тротуаре, R2D2 доехал до него. Робот видит препятствие, остановился в 50см от человека. И стоит, ждет пока путь окажется свободным. Он не пытается делать сложные маневры, стоит и «смотрит». Со стороны, если не знать зачем R2D2 тут оказался, Гена не увидит разницы с тем, чего опасаетесь вы.

                                                                                            Менталитет таки надо менять. Эпоха другая наступает.
                                                                                            • Согласен, может быть и такая ситуация, поэтому мне просто ужасно хотелось бы посмотреть на записи с камер этого робота. Поблема в том что робот из статьи не просто абстрактный робот с абстрактной целью и делами, а робот-охранник, идея которого в том чтобы заменить человека-охранника, а не застревать и тупить.
                                                                                              «Менталитет таки надо менять. Эпоха другая наступает.»
                                                                                              Ваши слова прям идеально ложаться в канву классического фильма «Modern Times» почти 90летней давности.
                                                                                              Как бы то ни было, имхо: не людям нужно подстраиваться под роботов, а роботам подстраиваться под людей.
                                                                                              www.youtube.com/watch?v=n_1apYo6-Ow
                                                                                              • 0
                                                                                                Посмотрел ролик с Чаплиным.
                                                                                                Ни разу до этого не видел… блин, надо предупреждать же! Лошадью гоготал.
                                                                                                А если серьезно, я не являюсь упоротым «робот — тоже человек, равноправия роботам». Однако вот прям однобокого «прогибания» роботов под людей стремиться глупо. У нас есть обычные машины/самолеты/корабли, которые по интеллекту от роботов очень далеки в своей основной массе. Но человек под них изрядно так подстроился. Ибо оно так рациональней. И нравы человек меняет — от этого пользы гораздо больше… глупо и не эффективно жить по старым укладам, когда совсем другое время.
                                                                                                Прошу заметить, я не говорю о том, что всем надо стать трансгендерами или еще что-то такое. Вовсе нет. Лишь о том, что надо учитывать и уметь принимать изменившуюся реальность. Мы ведь не кидаемся с мечем на перевес на «телегу самобеглую», что издает «адский рев и извергает дым». И не ходим больше «где нам вздумается» — только там, где считается «безопасно». Иначе, как принято говорить, ССЗБ.

                                                                                                P.S. Да, конкретно если рассматривать «робота-охранника», тогда конечно возникают ряд вопросов. Я представляю это в недалеком будущем примерно так: такие роботы будут на юридическом уровне представлены, как «средства обеспечения безопасности», у них будут расширенные полномочия. И человеку придется в ряде случаев этому роботу подчиняться. Ибо представитель закона.
                                                                                      • –2
                                                                                        С помощью роботов только богатые станут еще богаче, наняв жестянок на все возможные вакансии и закрутил цены на свою продукцию до невиданных по наглости высот, дабы понизить свои риски из-за налогов, с помощью которых правительство попытается возместить свои потери на пособия по безработице и переподготовку кадров. В итоге, как и всегда, платить за прогресс будем мы, обыкновенные потребители, платить с каждым чеком.
                                                                                        • 0
                                                                                          СР! УВЧ!
                                                                                          (Сделать роботов! Уволить всех человеков!).

                                                                                          Кроме буржуинов и пролетариата, человечество придумало еще класс чиновников. То есть государственную систему. Которая, как ей и положено, заинтересована в своем сохранении и увеличении. Путь «СР! УВЧ!» явственно ведет к гибели государственной системы и замены ее «корпоративным государством». Поэтому госуарства с инстинктом самосохранения будут давить корпорации и требовать социальной ответственности. Государства без такого инстинкта умрут. Политический дарвинизм.
                                                                                        • 0
                                                                                          Ситуация для жителя Сан Франциско совершенно не удивительная, и дело то не в роботах. Сам когда-то там учился и жил в общаге рядом с Валенсией стрит, и один приятель всевремя затаскивал свой большой мотоцикл в хол общежития. Я спросил, не ужели так проблемно оставить на улице приковав чемнибудь по надежней? Приятель сказал, что дело не в страхе что его угонят, а в распространненном вандализме. Люди будут рисовать граффити, писать на него и тушить сигареты. Видя сколько фриков обитает в тех местах + бездействие полиции, такая ситуация показывает что роботы тут не причем.

                                                                                          Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                          Самое читаемое