Раньше как было? Каждая кухарка могла взвесить в ладошке два замка и сделать вывод — этот фуфель, а это вещь! Чем дальше в лес, тем больше ума в бытовых устройствах, тем менее понятно, как же их кухарке сравнивать? Кухарку убеждают, что это надежно и удобно, но сама она этого постичь не может, ибо слишком сложно… В итоге её убеждают верить специалистам… Кузнец, который ковал замки ранее и ИТ-специалист сегодня — это разного поля ягодки, и если о кузнеце достаточно было знать, что он бухает не чаще 3 раз в неделю, и это свидетельствовало о высоком качестве его работы, то той же кухарке неведомы критерии, по которым можно определить надежность специалиста ИТ.
В итоге от простого пользователя все дальше и дальше уходит возможность влиять на принятие собственных решений — за него всё решают маркетологи, которые, к слову, сами ни бельмеса не смыслят в ИТ-технологиях…
В конечном итоге простой человек вверяет себя полной неизвестности и абсолютно недостоверной надежности. ИТ-специалист можете ошибиться, может быть злым хакером, но кроме него верить некому. Нет выбора.
Это касается не только замков, но и холодильников, утюгов, тостеров и прочей умной бытовой техники.
при этом саботируя эту борьбу очевидным даже для меня-неспециалиста образом
Судя по тому, что вы все-таки живы до сих пор, очевидность ваша хромает.
Нужно разбираться только с изготовителем и использователем? Вы прямо так уверены, что так надо? А вот Фемида считает нужным искать заказчика, т.е. того, кто оплатил разработку и применение. Кто не прав?
Кроме того, если «протокольно» исключить способ разборов, как можно будет разбираться-то?
Почему-то все априори уверены, что анонимность и полная непрослеживаемость — это безусловное благо, а возможность контроля над транзакциями — безусловное зло. Как известно, всё есть яд и лекарство, всё дело в дозе (поправочка — и в том, как и кем применяется).
О том, какое мрачное будущее нас ждет, если исчезнет «приватность», мы все начитались ужастика 1984 и тому подобных антиутопий. А теперь попробуйте представить себе мир, в котором идея приватности и непрослеживаемости доведена до абсолюта.
Есть «сенат», но никто не знает, кто в нем присутствует. Просто 500 голосов, ни состава фракций, ни самих фракций. Кто за что голосовал — узнать невозможно, кто какой закон выдвинул, узнать невозможно. Есть штат чиновников, но личности всех закрыты полностью от всех. Граждане полностью анонимны и без их личного желания не существует способа узнать даже имя, не говоря уже о том, сколько денег и за что он получил, тем более от кого. Все голосуют чисто за «программы», но кто автор этой программы — узнать нельзя в принципе. Единственный способ раскрыть убийство в данном обществе — это только взять пробу ДНК с трупа жертвы и проанализировать базу данных ДНК тех, кто добровольно пожелал туда внести эти сведения. Правда, я даже не могу придумать, как потом найти среди 7 миллиардов бильярдных шаров тот, который нужен…
Как вы думаете, какой мир лучше — с большим братом или этот?
Мафиозный клан — система, построенная на принципах самоорганизации, с сильными традициями анонимности и приватности, с весьма «защищенными» каналами перемещения финансов. Это, по-вашему, структура свободных людей без сапога на спине? Если вы на своей спине сапога не чувствуете, скорее всего у вас просто спина загрубела.
Меня всегда умиляют личности, которые не способны дать четкое определение термина «свобода», но очень рьяно ратующие за неё!
P.S. Меня вот интересует, какой могла бы быть реакция «самоорганизованных личностей» на следующую (пока что вымышленную) ситуацию: похищается ребенок, и родители получают по какому-то суперзащищенному мессенджеру сообщение: «100500 monero на такой-то кошелек, или вашего ребенка никто никогда не увидит целиком». Отследить, кто написал, нельзя (полностью защищенный мессенджер), отследить, кто получил деньги, нельзя (monero)… Ведь каждый имеет право на тайну вкладов и переписки, так? Почему-то мне кажется, что папа этого ребенка будет себе резать вены от мысли, что когда-то он ляпнул о необходимости (и полезности) защищенных каналов связи и неотслеживаемых денег…
Не надо путать «никто не хочет разбираться» (как, например, сейчас с СМС-мошенниками) и «никто не [c]может разобраться». Чем менее контролируемы потоки денег и информации, тем более они станут криминализированы, это ведь очевидно!
Необходмость серьёзная, но не в тему. Речь не о том, что надо на весь мир трубить о том, кто кому за что деньги заплатил, т.е. раскрываться перед конкурентами. Речь о том, что если вдруг выяснится, что эта супербатарейка на самом деле супербомба, надо разобраться, кто её по чьему заказу и на чьи средства сделал, чтобы отблагодарить, как следует.
И конкуренция тут ни при чем абсолютно.
Назовите конкретные причины, по которым необходимо сокрыть факт перемещения денежных средств. Если в вашем объяснении не будет упомянуто нечто противозаконное или аморальное (де-юре не наказуемое, но де-факто осуждаемое) — с вами можно будет согласиться. В противном случае ваши аргументы ничтожны.
Бумажные деньги маркируются несмываемыми невидимыми чернилами и оставляют неопровержимые улики, уж не не одного нечистого на руку мошенника вывели таким образом на чистую воду.
Компаунд — это не отмытая канифоль? Или я ошибаюсь? Это на самом деле продается, как серийное изделие? Ощущение такое, что это наколенная поделка сельского радиолюбителя…
Перечитайте мои сообщения в этой теме. Тупить, как раз, робоводитель и не должен, в отличие от куска мяса. Он не должен терять контроль над всеми системами, курсом и т.п., он лишь должен «отключить» размышления о том, кто перед ним менее ценен, чтобы прикончить его, а вместо этого должен, не отвлекаясь на ИИ, сосредоточенно рулить мимо всех препятствий активно снижая скорость всеми средствами, сохраняя устойчивость собственного экипажа.
Во-первых, я не постановщик задачи для разработчика и даже не разработчик робомобилей, я не обязан знать «как» это сделать.Я — сторонний наблюдатель.
Во-вторых, в случае надвигающейся катастрофы наилучшим (в плане морального выбора, а точнее — его отсутствия), с моей точки зрения, было бы отказаться от высокого интеллекта робота и действовать на простейших «инстинктах», вроде замшелого ПИД и других алгоритмов неинтеллектуального управления.
Как-то так…
Философствовать об абстрактном выборе — можно сколько угодно. Но роботу это не надо навязывать. Это потом в суде адвокат и обвинитель будут рассуждать, а тупая железка должна тупо тормозить и уворачиваться. Как-то так.
Что говорит автор — я отлично понял. Как и не понятый вами факт, что желаемое действие наказания и реальное — разные вещи.
Дело в том, что автор верно ставит вопрос: робот будет принимать решение в бинарном варианте. И именно по этой причине я считаю, что ему нельзя поручать решать вопросы жизни или смерти! Как вы не поймете этого? Робот должен решать совсем иные задачи, и пусть их решает «или-или», а уж окажется труп в итоге или нет — пусть будет делом случая. В качестве вводной должна быть не «давить того, чей ранг по такому-то алгоритму меньше всех», а «избегать столкновения со всеми людьми и преградами, стремясь сохранить устойчивое (без переворотов и т.п.) торможение вспомогательными средствами». Надо принципиально иначе ставить задачу, чтобы исключить моральный выбор в ходе её решения!
Если в суде будет предъявлена запись «черного ящика», показывающая, что робот «тормозил и избегал столкновений», но из-за отказа тормозов эти меры были не достаточно эффективными — вопрос «почему должен был умереть» не будет поставлен, ибо на него просто нет ответа иного, кроме выше уже мною озвученного. Так сложилось, увы…
Именно об этом я и говорю: вместо решения надуманных «моральных» проблем надо сосредоточенно думать о том, как в случае необходимости все вышеперечисленное включить. На то и разработчик, чтобы решить проблему торможения двигателем с коробкой автомат. А опыт ВАЗа нужно вкладывать в алгоритмы робота — у него мозги железные, он сможет воспользоваться, когда потребуется. В том и смысл, чтобы думать о реальном, а не пытаться разобраться с немыслимым…
Надеюсь, робот не будет тормозить по пунктам меню…
какого поведения МЫ от него ожидаем в случае конфликта интересов
Забыл ответить на это: мы ожидаем от него, что никакого конфликта интересов не будет. Мы ожидаем, что робот не будет решать, кому жить, а кому нет. Мы ожидаем, что вариантов выбора у робота не будет: обнаружив аварийную ситуацию он будет всеми доступными средствами купировать её, не оценивая результат. Т.е. если отказали тормоза, то он должен останавливаться всеми способами с одновременным избеганием всех встречающихся на пути людей и преград.
Не надо ставить перед роботом неразрешимую задачу спасти всех, не надо ставить задачу выбрать жертву, надо дать ему перечень максимально эффективных в сложившейся ситуации инструментов уменьшить риск столкновения — и пусть действует! Корректирует траекторию «между» пешеходами, шкребет боковиной о стену, сигналит в иерихонскую трубу, идет в управляемый занос и т.п. — пусть ДЕЛАЕТ, а не ДУМАЕТ.
Еще раз: нельзя в принципе допускать ситуацию «морального выбора». Спрашивать «в ж.пу дашь или мать продашь» не менее безнравственно, как и не спрашивая убивать.
Робот не должен оценивать моральность ситуации. Мораль — для человека. Робот в лучшем случае должен вести себя, ка человек, если не может иначе. А человек в момент критического выбора говорит «да поможет мне Бог» и поступает «как-нибудь». И тогда, если результат плохой, его наказывают. Как поступить в случае с роботом (кого наказывать) — это вопрос интересный, но не моральный. Закладывать в робота алгоритм, принимающий решение «жить кому-либо или умереть» — вот тут и есть главная аморальность, этого нельзя делать вообще. Лучше случайная смерть, чем преднамеренная.
Теперь предположим, что тормозить означает гарантированно убить пешехода, а рулить «мимо» означает гарантированно убить водителя. Так как следует поступить?
По порядку.
1. Водителя нет, водитель — робот, его техническое состояние после аварии смертью назвать нельзя, и оно никого не беспокоит.
2. Есть третий вариант, который вы упускаете: рулить мимо, тормозя одновременно. Как говорят англичане, способов убить кота больше одного.
3. Как робот может гарантированно рассчитать, что пешеход не отпрыгнет, не убежит, что он вообще не Бетмен? Никак, это гарантировать нельзя. Пешеход может быть акробатом, каскадером, просто выброс адреналина у него может быть такой, что он на 4 метра подпрыгнет — история такие случаи знает, поэтому на 100% быть уверенным в его неизбежной смерти при экстренном торможении «заменителями тормозов» (как я упоминал) нельзя. Равно как нельзя с той же уверенностью считать, что погибнет пассажир — можно только предполагать и надеяться, что помогут пассивные меры безопасности (подушки, ремни, каркасы кузова и т.п.)
Именно это я и говорю: делать все, что возможно, в надежде на хороший исход. И не более того. Но ни в коем случае не вычислять, кто должен умереть. Мы ведь о моральном выборе говорим?
Создать антистимул для совершения подобного поступка другими в дальнейшем
Это вам так хотелось бы… но практика свидетельствует об ином: тысячи лет существования системы суда и наказаний за преступления не искоренили преступность. Смысл наказания фактически в том, что я выше написал: вызвать у пострадавшего некое моральное удовлетворение в том, что преступник тоже страдает и раскаивается. И на этом все, других задач правосудие не решает, оно не воспитывает, но воздает по заслугам.
Обвинитель или адвокат — мастера задавать риторические вопросы «по существу». Ответом может быть вполне естественное «потому что такова его судьба, назначенная Богом», и пусть докажет, что судьбы нет и Бога тоже. Уводить разговор в этом направлении — пустая трата времени.
В итоге от простого пользователя все дальше и дальше уходит возможность влиять на принятие собственных решений — за него всё решают маркетологи, которые, к слову, сами ни бельмеса не смыслят в ИТ-технологиях…
В конечном итоге простой человек вверяет себя полной неизвестности и абсолютно недостоверной надежности. ИТ-специалист можете ошибиться, может быть злым хакером, но кроме него верить некому. Нет выбора.
Это касается не только замков, но и холодильников, утюгов, тостеров и прочей умной бытовой техники.
Цена, однако, кусачая…
Главное — убедить людей, что у них именно те потребности, которые помогают вам заработать деньги. И этот навык до совершенства доведен в Apple.
Нужно разбираться только с изготовителем и использователем? Вы прямо так уверены, что так надо? А вот Фемида считает нужным искать заказчика, т.е. того, кто оплатил разработку и применение. Кто не прав?
Кроме того, если «протокольно» исключить способ разборов, как можно будет разбираться-то?
Почему-то все априори уверены, что анонимность и полная непрослеживаемость — это безусловное благо, а возможность контроля над транзакциями — безусловное зло. Как известно, всё есть яд и лекарство, всё дело в дозе (поправочка — и в том, как и кем применяется).
О том, какое мрачное будущее нас ждет, если исчезнет «приватность», мы все начитались ужастика 1984 и тому подобных антиутопий. А теперь попробуйте представить себе мир, в котором идея приватности и непрослеживаемости доведена до абсолюта.
Есть «сенат», но никто не знает, кто в нем присутствует. Просто 500 голосов, ни состава фракций, ни самих фракций. Кто за что голосовал — узнать невозможно, кто какой закон выдвинул, узнать невозможно. Есть штат чиновников, но личности всех закрыты полностью от всех. Граждане полностью анонимны и без их личного желания не существует способа узнать даже имя, не говоря уже о том, сколько денег и за что он получил, тем более от кого. Все голосуют чисто за «программы», но кто автор этой программы — узнать нельзя в принципе. Единственный способ раскрыть убийство в данном обществе — это только взять пробу ДНК с трупа жертвы и проанализировать базу данных ДНК тех, кто добровольно пожелал туда внести эти сведения. Правда, я даже не могу придумать, как потом найти среди 7 миллиардов бильярдных шаров тот, который нужен…
Как вы думаете, какой мир лучше — с большим братом или этот?
Меня всегда умиляют личности, которые не способны дать четкое определение термина «свобода», но очень рьяно ратующие за неё!
P.S. Меня вот интересует, какой могла бы быть реакция «самоорганизованных личностей» на следующую (пока что вымышленную) ситуацию: похищается ребенок, и родители получают по какому-то суперзащищенному мессенджеру сообщение: «100500 monero на такой-то кошелек, или вашего ребенка никто никогда не увидит целиком». Отследить, кто написал, нельзя (полностью защищенный мессенджер), отследить, кто получил деньги, нельзя (monero)… Ведь каждый имеет право на тайну вкладов и переписки, так? Почему-то мне кажется, что папа этого ребенка будет себе резать вены от мысли, что когда-то он ляпнул о необходимости (и полезности) защищенных каналов связи и неотслеживаемых денег…
Не надо путать «никто не хочет разбираться» (как, например, сейчас с СМС-мошенниками) и «никто не [c]может разобраться». Чем менее контролируемы потоки денег и информации, тем более они станут криминализированы, это ведь очевидно!
И конкуренция тут ни при чем абсолютно.
Во-вторых, в случае надвигающейся катастрофы наилучшим (в плане морального выбора, а точнее — его отсутствия), с моей точки зрения, было бы отказаться от высокого интеллекта робота и действовать на простейших «инстинктах», вроде замшелого ПИД и других алгоритмов неинтеллектуального управления.
Как-то так…
Дело в том, что автор верно ставит вопрос: робот будет принимать решение в бинарном варианте. И именно по этой причине я считаю, что ему нельзя поручать решать вопросы жизни или смерти! Как вы не поймете этого? Робот должен решать совсем иные задачи, и пусть их решает «или-или», а уж окажется труп в итоге или нет — пусть будет делом случая. В качестве вводной должна быть не «давить того, чей ранг по такому-то алгоритму меньше всех», а «избегать столкновения со всеми людьми и преградами, стремясь сохранить устойчивое (без переворотов и т.п.) торможение вспомогательными средствами». Надо принципиально иначе ставить задачу, чтобы исключить моральный выбор в ходе её решения!
Если в суде будет предъявлена запись «черного ящика», показывающая, что робот «тормозил и избегал столкновений», но из-за отказа тормозов эти меры были не достаточно эффективными — вопрос «почему должен был умереть» не будет поставлен, ибо на него просто нет ответа иного, кроме выше уже мною озвученного. Так сложилось, увы…
Надеюсь, робот не будет тормозить по пунктам меню…
Не надо ставить перед роботом неразрешимую задачу спасти всех, не надо ставить задачу выбрать жертву, надо дать ему перечень максимально эффективных в сложившейся ситуации инструментов уменьшить риск столкновения — и пусть действует! Корректирует траекторию «между» пешеходами, шкребет боковиной о стену, сигналит в иерихонскую трубу, идет в управляемый занос и т.п. — пусть ДЕЛАЕТ, а не ДУМАЕТ.
Робот не должен оценивать моральность ситуации. Мораль — для человека. Робот в лучшем случае должен вести себя, ка человек, если не может иначе. А человек в момент критического выбора говорит «да поможет мне Бог» и поступает «как-нибудь». И тогда, если результат плохой, его наказывают. Как поступить в случае с роботом (кого наказывать) — это вопрос интересный, но не моральный. Закладывать в робота алгоритм, принимающий решение «жить кому-либо или умереть» — вот тут и есть главная аморальность, этого нельзя делать вообще. Лучше случайная смерть, чем преднамеренная.
По порядку.
1. Водителя нет, водитель — робот, его техническое состояние после аварии смертью назвать нельзя, и оно никого не беспокоит.
2. Есть третий вариант, который вы упускаете: рулить мимо, тормозя одновременно. Как говорят англичане, способов убить кота больше одного.
3. Как робот может гарантированно рассчитать, что пешеход не отпрыгнет, не убежит, что он вообще не Бетмен? Никак, это гарантировать нельзя. Пешеход может быть акробатом, каскадером, просто выброс адреналина у него может быть такой, что он на 4 метра подпрыгнет — история такие случаи знает, поэтому на 100% быть уверенным в его неизбежной смерти при экстренном торможении «заменителями тормозов» (как я упоминал) нельзя. Равно как нельзя с той же уверенностью считать, что погибнет пассажир — можно только предполагать и надеяться, что помогут пассивные меры безопасности (подушки, ремни, каркасы кузова и т.п.)
Именно это я и говорю: делать все, что возможно, в надежде на хороший исход. И не более того. Но ни в коем случае не вычислять, кто должен умереть. Мы ведь о моральном выборе говорим?
Обвинитель или адвокат — мастера задавать риторические вопросы «по существу». Ответом может быть вполне естественное «потому что такова его судьба, назначенная Богом», и пусть докажет, что судьбы нет и Бога тоже. Уводить разговор в этом направлении — пустая трата времени.