Comments 97
каждое звено стремиться увеличить личную выгоду
стремится
— "Доминиканская Республика" — оба слова с большой буквы, а не только первое.
— "геморрой" пишется с двумя «р» и одной «м», а не с двумя «м» и одной «р».
Теперь вы поняли, насколько вредный оставили комментарий и какой бардак будет на Хабре, если под каждым будут отдельным сообщением писаться список ошибок?
Не имею ничего против.
Была бы ошибка менее очевидная — я бы прошёл мимо. Мимо тся/ться я пройти, увы, не могу.
В соседнем треде:
https://geektimes.ru/post/298939/#comment_10656987
Смотрим на соотношение рейтингов комментариев и делаем вывод о востребованности комментариев с исправлением ошибок.
эгоизм и индивидуализм, направленный на получение максимальных профтов в ущерб другим индивидам.
Опять вы путаете РЭ и либерализм. Если думаете, что не путаете, тогда пруфы, пожалуйста.
РЭ без либерализма не существует
В Китае рыночная экономика, а до либерализма там далеко, так что снова мимо.
В России, кстати, тоже рыночная экономика, про либерализм комментировать не буду
1. Раньше человек делал все с помощью ручного станка и одну пару в неделю.
Сейчас на промышленном станке и десяток пар в день.
Получается ручной станок заменили на промышленный. Но человек остался исполнителем.
2. Сейчас человек на промышленном станке десяток пар в день.
В будущем робот на промышленном станке десяток пар в день (утрировано).
Получается станок тот же, а вот исполнитель другой.
Вот это и пугает. Луддиты думали что их заменит машина и у них не будет работы, но исполнителями той работы оставались они же. А здесь человек не остается исполнителем.
Конечно же сразу не будет целый завод без людей. Инженеры, механики и т.д. Но концептуально первая волна людей с низкой квалификацией нехило поднимет уровень преступности.
Ну а что касается роботов и агрессии людей к ним, вандализм был всегда, это во-первых. Где-то больше, где-то меньше, но не каждый разбитый фонарь освещения попадет даже в местные новости, не говоря уже о том, чтобы новость о разбитом в Сан-Франциско фонаре перевели на русский и выложили на гиктаймс. А тут, на секундочку, мы царапину на беспилотном автомобиле обсуждаем. И агрессия к неодушевленным предметам тоже в той или иной степени всегда была. Кто-то посуду бьет, кто-то мышку в монитор швыряет, кто-то в лицо сфинксу стреляет.
Так что — живем, ничего выдающегося не произошло.
Раньше обувь была едва ли не признаком зажиточности. А теперь у нас у всех есть демисезонная обувь, зимняя, летняя, спортивная, офисная. А у женщин сколько обуви, это вообще… Сегодня любая девица, имеющая работу, по количеству пар обуви может соревноваться с дочерью какого-нибудь лорда или около того.
Так что спрос был, просто он не был платежеспособным. По мере уменьшения цен и повышения благосостояния населения, мы стали потреблять больше обуви.
Но спрос на обувь не вырос в 70 раз. Получается, при том же уровне спроса, из 70 исполнителей остался один.
Нет, просто они переквалифицировались — например, в начале XX века вымерла профессия каретного мастера — вместо неё появилась профессия автомеханика (аналогично "чистильщик лошадей —> автомойщик", "кормильщик лошадей —> оператор автозаправки" и т.п.)
Так и сейчас: уволили почтальона — наняли поднимателя пингвинов роботов.
Зато раз так в 10 упал ресурс :) Раньше, помнится, самые дешевые кроссовки «ходили» по несколько лет. А сейчас даже пб Columbia (7тр) через год дырявая.
Из личного хит парада — пб Outventure (1.5тр) за неделю подошва провалилась, ради интереса купил такие же, через пару недель аналогичный дефект.
Тут немного другая ситуация. К примеру возьмем создание пары обуви:
1. Раньше человек делал все с помощью ручного станка и одну пару в неделю.
Сейчас на промышленном станке и десяток пар в день.
Получается ручной станок заменили на промышленный. Но человек остался исполнителем.
2. Сейчас человек на промышленном станке десяток пар в день.
В будущем робот на промышленном станке десяток пар в день (утрировано).
Получается станок тот же, а вот исполнитель другой.
Нет, раньше 10000 обувщиков делало по 1 паре, а сейчас 1 рабочий на станке делает 10000 пар. Сейчас 10000 рабочих управляет каждый 1 станком станку, а будет 1 инженер управлять 10000 станков.
Вот когда появятся статьи: робот убил человека в порядке самообороны, так нападения резко сократятся.
Нормальное противодействие хулиганам — штрафы в суммах, сколько обошёлся ремонт робота + простой.
Я слышал, что людей уже успешно взламывают, чтобы совершать убийства, в том числе массовые. И ничего, смертельные манипуляторы у людей все еще есть by design.
Противодействие должно быть кратным, чтобы неповадно было + общественные работы, пускай говно за собаками и бездомными собирают.
Человеку, оставившему минус, оставлю подсказку: речь идет о фанатиках и экстремистах различных видов: национальных, религиозных и даже экономических. И промывку мозгов я ставлю наравне со взломом, только, конечно, это "взлом" несколько иного рода — но результат тот же. Взломанная система выполняет ваши команды, теряет волю и инстинкты, в том числе самосохранения.
Осталось только дать кратные шансы на восстановление, а то сегодня смерть человека необратима, в отличии от смерти робота.
Проблема в том, что роботы лишены эмоций, а только следуют программам, которые заложены в них (на данный момент) человеком.
Исходя из приведенных случаев:
Автомобиль остановился на зелёный свет между пешеходными переходами, ожидая перехода всех пешеходов через 16-ю улицу. В это время другой пешеход приблизился с юго-западного направления перекрёстка улицы Валенсия и 16-й, пересекая первую под знаком «Переход запрещён» (Do not walk), и «с криками врезался в левую часть заднего бампера и кузова GM Cruise всем телом».
28 января 2018 года произошёл ещё один инцидент там же в Сан-Франциско неподалёку от места первого ДТП, и опять с участием GM Cruise. На этот раз беспилотный автомобиль двигался в режиме ручного управления. Он остановился позади автомобиля такси на Дюбус-авеню неподалёку после пересечения с Герреро-стрит. В этот момент «водитель автомобиля такси покинул транспортное средство, приблизился к GM Cruise и хлопнул по переднему пассажирскому окну, что привело к появлению царапины.
В апреле прошлого года пьяного местного жителя задержала полиция за «нападение и нанесение ударов роботу-охраннику Knightscope» в Маунтин-Вью, недалеко от штаб-квартиры Google.
В большинстве случаев люди были просто недовольны присутствием робота на улице и писали жалобы, но один человек, как сообщается, «разложил брезент, повалил робота и замазал соусом барбекю все его датчики».
В большинстве инцидентов не видно явных проблем или каких-либо нарушений со стороны «роботов». Проблема возникает в человеке, потому что человек под влиянием своих эмоций начинает совершать деструктивные действия.
Если заменить робота на человека — то может произойти всё то же самое. То есть, если вдруг какой-то правонарушитель посчитает себя выше некоторых правил или предписаний, а законопослушный человек попытается ему на этот факт указать, то случится конфликт. Результатом этого конфликта будет либо осознание правонарушителем и признанием плохим своего поведения, либо попытка решения вопроса «силовым путем» (Кто сильней тот и прав).
Будь на месте робота человек, он был мог сопротивляться и в ответ на силу — сам может применить силу, а в отношении текущих моделей роботов этого сказать нельзя.
Сейчас роботы не могут себя защитить (иначе тогда страх людей перед роботами усилиться) и некоторые люди просто вымещают на них свою агрессию.
Причины у этой агрессии в каждом случае будут разными. Бывший водитель может возненавидеть (ненависть) робомобили из-за того, что они отобрали у него работу. Роботы-охранники могли зафиксировать, что человек делает что-то подозрительное или запрещенное (страх). Даже роботы-повозки, если они никому не будут мешать, то часть людей может умышленно мешать им работе из-за зависти к их обладателям, потому что им приходится идти в магазин, а кто-то не хочет этого делать и ему это делать не обязательно.
И это ещё незначительные инциденты. Когда роботы ворвутся в нашу жизнь, то количество возможных страхов у людей будет только увеличиваться. (Робофобия)
В будущем часть людей будет винить роботов во всех своих проблемах, а также тех людей, которые будут управлять роботами. Это все приведет к новому расколу в обществе на тех, кто против прогресса, которые как луддиты будут до последнего жить по старым традициям (а также любыми средствами запрещать появляться роботам на их территории) и тех, кто научиться жить в новом мире сосуществуя с роботами, но быть подверженному большему технологическому риску (взлом, кража роботов, незаконная модификация, «сумасшедшие» роботы и роботы на службе у преступников).
Любые перемены порождают как сторонников, так и противников. Станки, паровые машины, авто, компьютеры, а вот теперь — роботы.
Но никто не отменит ясного и очевидного факта, что наше благосостояние с появлением роботов растёт. Поэтому шансов на запрет роботов просто нет.
Robot permits will be capped at three per company, and nine total at any given time for the entire city. The robots will now only be allowed to operate within certain industrial neighborhoods, on streets with 6ft-wide sidewalks, and must be accompanied by a human chaperone at all times.
Классно, прямо как «закон красного флага» от 1865 года. В дудку сопровождающих дудеть не предлагали обязывать?
Неадекватов бросающихся на машины пруд пруди, наберите в ютубе.
Думаю в этом случае парень даже не видел и не понимал что это беспилотник.
Оправдываться не умеют.
Если углубиться в историю, то появление первых автомобилей на паровых двигателях вызывало нехилые массовые волнения. Владельца такого вида транспорта просто могли убить на месте, «За управление машиной дьявола»
Сейчас же мы просто наблюдаем аналогичную ситуацию, и не только в робототехнике, но и в генетике, молекулярной физике и прочих отраслях науки.
Прежде всего стоит делать ставку на то, что общество по своей природе очень консервативно, и по своей большей части продолжает жить предрассудками. Достаточно вспомнить передачи по «России» десятилетней давности, про то как мобильные телефоны расщепляют мозг и вызывают рак. Сейчас же такую пургу никто гнать не будет. Почему? А потому что подобная техника стала не отъемлимой обыденностью. Так же и с роботами, когда робот на улице станет далеко не в новинку, люди будут воспринимать это как что то должное.
Хотя рельсовый транспорт между фонарными столбами был бы уместнее.
Можно сравнительно безопасным для себя образом напакостить с железом на большую сумму.
Вот скольких хулиганов поймали?
Ну а какие лузлы они получили?
К роботам как таковым это никакого такого отношения не показывает.
Дробовики для эффекторов и актуаторов, механических движущихся частей.
ЭМ-шокеры для электроники.
И контрольное обливание напалмом.
Они как тараканы — тут мелком Машенька не обделаешься, нужно тапком, три-четыре раза…
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам
Алгоритмом? То есть, нужно верить, что программист написал его без ошибок?
А нейросеть, попавшая в ситуацию, которой ей не обучали, может быть совершенно непредсказуемой.
Я спрашиваю, на каких принципах может обеспечиваться выполнение законов Азимова, а вы мне — «структурой позитронного мозга робота». Вот это и есть минимальное значение твёрдости. То есть, просто «потому что», без попытки подвести научную основу.
Если кратко — на этапе обучения нейронную сеть ставят в очень большое количество виртуальных ситуаций (обучающая выборка), там где ИИ примет неверное решение (в результате которого, например, автопилот сбил пешехода),
Роботы должны выполнять, потому что нейросеть.
А люди с нейросетью почему не выполняют?
А зачем в них верить, да ещё и людям? Их должны выполнять, причём, роботы.
Поскольку нейросеть — не алгоритм с доказанной корректностью, человеку только и остаётся верить, что при взаимодействии робота конкретно с этим человеком они не попадут в 0.000001% случаев, когда нейросеть ошибается. А поскольку актов взаимодействия роботов с человеками будут миллионы, даже небольшая вероятность сбоя себя проявит.
Физическая система, базовые принципы которой обеспечивают морально-этические нормы, это не то чтобы ненаучно, это какое-то фентези.
В статье «Люди против роботов. Некоторые калифорнийцы проявляют агрессию к робомобилям» описаны 5 случаев нападения людей на роботов. Да, это роботы современные, примитивные, о сильном ИИ речи нет, разумными они не являются, это скорее автоматы действующие по программе + в них реализован слабый ИИ, обученные нейронные сети. Но это не мешает нам обсудить морально-этические нормы, которые разработчики заложили в эти физические системы. Могло быть всё иначе — если приоритетом поставить сохранность ценного оборудования и запрограммировать робота на самозащиту от «вандалов», то робомобиль, получивший от человека удар по лобовому стеклу должен был пшикнуть в нападающего отравляющим газом и на полной скорости, игнорируя ПДД и пешеходов скрыться с места проишествия.
Как вам такой сценарий? Он вполне реализуем на сегодня, это не фантастика и не фентези.
А нейросеть, попавшая в ситуацию, которой ей не обучали, может быть совершенно непредсказуемой.
Может быть, но не должна. Для примера, будем считать человека биороботом с хорошо обученной нейронной сетью (жизненный опыт + диплом о высшем образовании). Как мы действуем в необычных или опасных ситуациях, которым нас не обучали? Да, мы действуем не всегда разумно, не всегда оптимально, иногда откровенно глупо — но в основном довольно предсказуемо. Мы пытаемся избежать угрозы, предотвратить опасное проишествие, спасти себя и других людей, спасти имущество — или впадаем в ступор, поддаёмся панике, инстинкту толпы и т.п. Так или иначе базовая программа на непредвиденный случай у нас явно есть, и значительная её часть заложена не в разуме а в инстинктах.
Так что разработчики ИИ для роботов должны закладывать реакцию на непредвиденные ситуации — принципы: не навреди, не знаешь что делать — не делай ничего, запиши всё в логи — инженеры потом разберутся, отправь сигнал тревоги в сервис-центр.
То есть, нужно верить, что программист написал его без ошибок?
Как только появится настоящий искусственный интеллект, профессия программист умрет.
профессия программист умрет
Зато профессия программиста умрет последней.
Ну и — у нас нет определения что есть «человек»
Достаточно выдрать ногти — и больше законы на него не распространяются…
А как мы сами, люди, определяем — человек ли перед нами? По совокупности признаков, если есть сомнения — пробуем с объектом поговорить, пощупать его, в отдельных сложных случаях (зелёные человечки) — может потребоваться вскрытие.
В реальной жизни люди хорошо отличают живого человека от, например, манекена (конечно, если хотят замечать отличия — фото). Но по ТВ нас уже можно обмануть качественной компьютерной графикой.
После раза третьего наверняка захочется взять и… замазать.
Интересно, как давно вы на улицу не выходили из-за страха получить в лицо с выламыванием челюсти? Ведь согласно вашей логике вы постоянно всем встречным должны пытаться замазать глаза чем-нибудь — на вас смотрят всегда и всюду, как только вы попадаете в общественное пространство. И у вас нету права это запрещать — пространство не является приватным.
R2D2 катится по своим делам (цель не важно какая), на встречу Генадию. Допустим робот спроектирован с высоким уровнем «безопасности для окружающих». Гена стоит где-то на тротуаре, R2D2 доехал до него. Робот видит препятствие, остановился в 50см от человека. И стоит, ждет пока путь окажется свободным. Он не пытается делать сложные маневры, стоит и «смотрит». Со стороны, если не знать зачем R2D2 тут оказался, Гена не увидит разницы с тем, чего опасаетесь вы.
Менталитет таки надо менять. Эпоха другая наступает.
«Менталитет таки надо менять. Эпоха другая наступает.»
Ваши слова прям идеально ложаться в канву классического фильма «Modern Times» почти 90летней давности.
Как бы то ни было, имхо: не людям нужно подстраиваться под роботов, а роботам подстраиваться под людей.
www.youtube.com/watch?v=n_1apYo6-Ow
Ни разу до этого не видел… блин, надо предупреждать же! Лошадью гоготал.
А если серьезно, я не являюсь упоротым «робот — тоже человек, равноправия роботам». Однако вот прям однобокого «прогибания» роботов под людей стремиться глупо. У нас есть обычные машины/самолеты/корабли, которые по интеллекту от роботов очень далеки в своей основной массе. Но человек под них изрядно так подстроился. Ибо оно так рациональней. И нравы человек меняет — от этого пользы гораздо больше… глупо и не эффективно жить по старым укладам, когда совсем другое время.
Прошу заметить, я не говорю о том, что всем надо стать трансгендерами или еще что-то такое. Вовсе нет. Лишь о том, что надо учитывать и уметь принимать изменившуюся реальность. Мы ведь не кидаемся с мечем на перевес на «телегу самобеглую», что издает «адский рев и извергает дым». И не ходим больше «где нам вздумается» — только там, где считается «безопасно». Иначе, как принято говорить, ССЗБ.
P.S. Да, конкретно если рассматривать «робота-охранника», тогда конечно возникают ряд вопросов. Я представляю это в недалеком будущем примерно так: такие роботы будут на юридическом уровне представлены, как «средства обеспечения безопасности», у них будут расширенные полномочия. И человеку придется в ряде случаев этому роботу подчиняться. Ибо представитель закона.
(Сделать роботов! Уволить всех человеков!).
Кроме буржуинов и пролетариата, человечество придумало еще класс чиновников. То есть государственную систему. Которая, как ей и положено, заинтересована в своем сохранении и увеличении. Путь «СР! УВЧ!» явственно ведет к гибели государственной системы и замены ее «корпоративным государством». Поэтому госуарства с инстинктом самосохранения будут давить корпорации и требовать социальной ответственности. Государства без такого инстинкта умрут. Политический дарвинизм.
Люди против роботов. Некоторые калифорнийцы проявляют агрессию к робомобилям