Есть одна компания Oracle. Продаёт предприятиям серверное ПО. И вот случается, что организация вырастает или прекращает своё существование, и хочет перепродать ПО кому то ещё.
И жила была одна немецкая компания, которая являлась посредником в подобных сделках. И все были довольны кроме Oracle.
Oracle подали в суд, ссылаясь на лицензионное соглашение.
На что им сказали, что эти соглашения не стоят выведенного яйца, так как продажа — это продажа со всеми вытекающими по закону.
Так что не стоит так возводить в абсолют пользовательские соглашения.
Отличие между миной и роботом Вы сами же и назвали — мина не выбирает, робот выбирает.
Сходство также же есть — это всё оружие, созданное человеком. Но проводя такую аналогию можно сказать, что и человек-солдат от мины ничем не отличается — у них схожая цель, все они готовятся кем-то, все ненадёжны.
Между миной и полноценным роботом есть ещё одно отличие — работа мины полностью контролируется людьми. Она не может самостоятельно искать, решать и убивать других людей. Если может — она именно что робот, а не мина.
Она может не разорваться сейчас, а потом — но это всё равно будет пассивным действием.
Потому главное отличие мины от робота — активность, возможность принятия самостоятельных решений (наверняка, есть ещё куча факторов, но явно видны именно эти). Отличия такие же как между миной и человеком.
Несмотря на это, в данный момент робот не может быть полностью аналогичен человеку. Он скорее находится между миной и человеком. И с развитием ИИ роботы-солдаты и роботы-полицейские всё дальше будут приближаться к человеку, при этом, не имея человеческой ответственности. В этом и заключается проблема — за мины несёт ответственность (хотя бы этическую) человек, а за робота — никто.
Также я сейчас немного позанудствую о теме споров вообще. На geektimes по какой-то причине очень многие в случаях доказательства используют аналогию или индукцию.
На coursera был отличный курс по мат-логике, где подробно объяснялись недостатки данных методов наряду с трансдукцией, предлагалось использовать только дедукцию.
Касательно аналогии — в случае её приведения необходимо логически доказывать саму аналогичность. При этом, доказав это, вы теряете весь смысл приведения аналогии, ведь таким же образом вы сможете доказать истинность изначального утверждения.
По факту, аналогия годится только для объяснения и обучения кого-то чему-то, но не доказательству. А мы здесь друг-друга не учим, а высказываем и обосновываем свою точку зрения — давайте исплльзовать корректные логические инструменты.
Я не понимаю, почему вы отказываетесь рассматривать следующий: пострадает либо невиновный пассажир (и виноватый водитель фуры, может быть), либо невиновный пешеход.
Ведь такое происходит довольно часто, достаточно вбить в поиск «уходя от столкновения сбил пешехода».
И я опять повторю вопрос — почему ИИ должен выбирать человека, сознательно использующего средство повышенной опасности, а не мирно идущего пешехода, который не нарушает ничего? Аргумент «он вам принадлежит» не подходит хотя бы потому, что он может и не принадлежать пассажиру.
И опять же, вы всё время утверждаете как будет действовать человек. Но у нас нет «человека», у нас есть люди — и каждый ведёт себя по своему. И попытка не убить и покалечить человека, рискнув собой, не является суицидальной наклонностью. Более того, такое поведение даже считается заслуживающим уважения в нашем обществе в ряде случаев.
Вы говорите про справедливость. И что же получается? Значит, ИИ не должен решать, что справедливо, а что нет, но должен решать кто виноват, а кто нет и решать в кого въехать?
Зачем же так однозначно?! Иногда люди в подобных ситуациях подвергают себя риску, порой и умирают.
Если человек, уходя от столкновения, сбил кого-то на тротуаре, мало кто скажет что он был однозначно прав. Как минимум это будет воспринято как трагедия.
Также мало кто будет винить водителя — он спасал свою жизнь и многие поймут его мотивы.
В этом и заключается этическая дилемма. Об этом и статья.
А Вы вот так чётко решили как должен вести себя робот, когда сами люди точно не знают как должны вести себя.
Если на то пошло, то почему жизнь человека, который осознанно управляет или садится в средство повышенной опасности, должна стоять выше человека, мирно сидящего на лавочке?
Почему пешеход (который пешеход от рождения) должен платить за удобство водителя/пассажира?
Если и применять логику, то за риски (а использование транспорта это риск) должен платить тот, кто идёт на этот риск.
И если человек во многих случаях выберет спасать себя, то робот может и должен руководствоваться логикой и справедливостью, а не инстинктом самосохранения, даже если справедливость не нравится.
Да и вообще, садясь в автобус Вы вообще не знаете, пожертвует ли собой и Вами человек ради какой-нибудь старушки, но Вы туда садитесь.
И отказываясь садиться в автомобили, которые отказываются возвадить Вашу жизнь в абсолют, Вы можете быть вынуждены ходить пешком из-за отсутствия альтернативы.
Вообще тут не всё так просто как многие говорят, утверждая, что достаточно настроить робота на строгое следование ПДД, что он не ошибается и прочее.
Люди нарушают правила не только из-за злого умысла, но и по невнимательности. Робот тоже способен на подобное — неправильно распознал знак, либо не распознал его вообще. Знак мог быть повреждён, а мог просто стоять под особым углом — мы не можем надеяться, что всё будет идеально. Должны ли действия робота быть основаны на полной уверенности в том, что он делает всё правильно, а остальные нет?
Или всё же не все могут быть тупыми алконавтами, идиотами, люмпенами? И может в таком случае робот должен, если это не создаёт существеного риска для пассажиров, уйти в кювет?
Также ИИ может столкнуться с ситуаций, когда для спасения водителя может потребоваться пожертвовать безопасностью других участников. На встречу, грубо нарушая правила, несётся фура или любой другой автомобиль. От столкновения можно уйти, свернув на тротуар. В одном из случаев с людьми это закончилось смертью постороннего пешехода, в противном случае могло закончится смертью водителя. Что должен делать робот в такой ситуации? Между прочим, того водителя-человека, съехавшего на тротуар, оправдали.
Сразу скажу — я не хочу обидеть Вас или швейцарцев.
Но это отлично жить при прямой демократии, сохраняя при этом нейтралитет даже во Вторую Мировую Войну. Но что делать, если не удасться? Никто не будет проводить референдумы по поводу каждого вторжения, введения комендантского часа и прочего. Конечно, можно провести экстренный референдум и перейти на другую, более подходящую форму правления в данный момент. Но этот переход может оказаться переходом в один конец. Да и просто говорит о несовершенности текущей формы правления, которая не может существовать в стрессовых ситуациях.
Касательно БОД так вообще всё неясно. Никто не знает точно к чему это приведёт. Не знаем мы, комментирующие. Не знают, полагаю, и сами швейцарцы. 23% это немало — с таким же успехом могли и принять БОД. Но к чему бы это привело?
Много ли кто задумывается как это скажется на миграции, расслоении населения, уровне преступности, налогах, и прочем? Кто из решающих проводит социологические исследования, строит модели? Лично я пишу комментарий, допиваю чай и думаю о планировании свадьбы, а не рассчитываю различные показатели и вероятности принятия БОД. У меня просто нет квалификации и я не считаю что был бы вправе решать в случае подобного референдума у меня в стране. Вы можете? Если да — то Вам в первую очередь принимать решение, не мне. Верно и наоборот.
Вы спросили, что плохого в инертности? Плохо в первую очередь то, что это медленно. Периодически могут возникать и возникают ситуации, требующие быстрого приспособления, изменения, чтобы поддержать уровень жизни, безопасность граждан да и вообще что угодно. А простые люди в большинстве своём не хотят изменений. Они хотят чтобы всё было по прежнему — это и есть инертность. И это может оказаться фатальным в некоторых случаях.
Более того, сейчас имеется огромный объём знаний, и он продолжает увеличиваться. Всё больше проникает автоматизация, всё чаще летают ракеты, всё ближе ИИ. Ближе и генная инженерия, термоядерные электростанции.
Знаний такой объём, что ни один человек не может охватить их в своей голове. Стоит ли производить генетические эксперименты или запретить? Должен ли сильный ИИ обладать правами человека? Стоит ли вообще его развивать? Что предпринять в случае дальнейшей автоматизации производства? Куда лететь в космос в следующий раз?
Как решать все эти вопросы в перерыве между работой и днём рождения жены при тотальном недостатке знаний? Как приспосабливаться, когда приспособление «тебе» неинтересно, но необходимо? Хотя об этой необходимости «ты» ещё и не догадываешься.
Это, конечно, всего лишь моё мнение. Но в современном мире технического прогресса демократия приобретает один серьёзный недостаток — ужасающий недостаток квалификации. И этот недостаток не восполнит ни образование, ни википедия. Этот недостаток может устранить только наличие профессиональных квалифицированных специалистов-управленцев, применяющих научные методы для управления всеми или практически всеми сферами жизни общества. Конечно же, это на данный момент утопия. Хотя даже сейчас во всех правительствах развитых стран есть экспертные заключения, к которым иногда прислушиваются.
Насчёт реакции на новые веяния в мире — право голоса женщин впервые реализовано не в Швейцарии. Логично, что оно пришло извне.
И то что каждое домохозяйство имеет право голоса, де факто означает что право голоса имеет только глава домохозяйства. Вы правда не видите здесь никаких недостатков? И то, что большинство глав являются мужчинами не означает игнорирование мнения женщин?
Если на то пошло, то это ни разу не прямая демократия, а обладает признаками представительной.
То что на практике не была реализована более лучшая модель, не означает что текущая без недостатков. И я не сомневаюсь, что в Швейцарии образованное население, и это сводит на нет многие из них, но коллективная ответственность не означает личную. Это когда всё хорошо, можно сказать, я сделал выбор. А когда всё плохо, то выбор «сделал не только я»/«я не мог сопротивляться традициям»/«на меня повлияли соседи» и т.д.
Или вы правда не видите недостатков в том, что решения принимают пусть образованные люди, но на основании своих личных впечатлений, традиций, телевизора, мнения соседки и т.д.?
А разве кто-то ищет изъяны в Швейцарской демократии?
Нет, это был ответ на комментарий про то, что демократию критиковать не следует. На примере Швейцарии.
Это «как только» там растянулось на несколько десятилетий. И, по факту, было всего-лишь результатом на новые веяния в мире.
Вроде базовое право, а такой длинный период до полного принятия.
Вот на примере Швейцарии я и говорю про один из недостатков демократии в целом (тем более прямой),
который не следует отрицать — сильная инерция, основанная на традициях.
И жила была одна немецкая компания, которая являлась посредником в подобных сделках. И все были довольны кроме Oracle.
Oracle подали в суд, ссылаясь на лицензионное соглашение.
На что им сказали, что эти соглашения не стоят выведенного яйца, так как продажа — это продажа со всеми вытекающими по закону.
Так что не стоит так возводить в абсолют пользовательские соглашения.
https://geektimes.ru/post/147048/
Сходство также же есть — это всё оружие, созданное человеком. Но проводя такую аналогию можно сказать, что и человек-солдат от мины ничем не отличается — у них схожая цель, все они готовятся кем-то, все ненадёжны.
Между миной и полноценным роботом есть ещё одно отличие — работа мины полностью контролируется людьми. Она не может самостоятельно искать, решать и убивать других людей. Если может — она именно что робот, а не мина.
Она может не разорваться сейчас, а потом — но это всё равно будет пассивным действием.
Потому главное отличие мины от робота — активность, возможность принятия самостоятельных решений (наверняка, есть ещё куча факторов, но явно видны именно эти). Отличия такие же как между миной и человеком.
Несмотря на это, в данный момент робот не может быть полностью аналогичен человеку. Он скорее находится между миной и человеком. И с развитием ИИ роботы-солдаты и роботы-полицейские всё дальше будут приближаться к человеку, при этом, не имея человеческой ответственности. В этом и заключается проблема — за мины несёт ответственность (хотя бы этическую) человек, а за робота — никто.
Также я сейчас немного позанудствую о теме споров вообще. На geektimes по какой-то причине очень многие в случаях доказательства используют аналогию или индукцию.
На coursera был отличный курс по мат-логике, где подробно объяснялись недостатки данных методов наряду с трансдукцией, предлагалось использовать только дедукцию.
Касательно аналогии — в случае её приведения необходимо логически доказывать саму аналогичность. При этом, доказав это, вы теряете весь смысл приведения аналогии, ведь таким же образом вы сможете доказать истинность изначального утверждения.
По факту, аналогия годится только для объяснения и обучения кого-то чему-то, но не доказательству. А мы здесь друг-друга не учим, а высказываем и обосновываем свою точку зрения — давайте исплльзовать корректные логические инструменты.
Ведь такое происходит довольно часто, достаточно вбить в поиск «уходя от столкновения сбил пешехода».
И я опять повторю вопрос — почему ИИ должен выбирать человека, сознательно использующего средство повышенной опасности, а не мирно идущего пешехода, который не нарушает ничего? Аргумент «он вам принадлежит» не подходит хотя бы потому, что он может и не принадлежать пассажиру.
И опять же, вы всё время утверждаете как будет действовать человек. Но у нас нет «человека», у нас есть люди — и каждый ведёт себя по своему. И попытка не убить и покалечить человека, рискнув собой, не является суицидальной наклонностью. Более того, такое поведение даже считается заслуживающим уважения в нашем обществе в ряде случаев.
Вы говорите про справедливость. И что же получается? Значит, ИИ не должен решать, что справедливо, а что нет, но должен решать кто виноват, а кто нет и решать в кого въехать?
Если человек, уходя от столкновения, сбил кого-то на тротуаре, мало кто скажет что он был однозначно прав. Как минимум это будет воспринято как трагедия.
Также мало кто будет винить водителя — он спасал свою жизнь и многие поймут его мотивы.
В этом и заключается этическая дилемма. Об этом и статья.
А Вы вот так чётко решили как должен вести себя робот, когда сами люди точно не знают как должны вести себя.
Если на то пошло, то почему жизнь человека, который осознанно управляет или садится в средство повышенной опасности, должна стоять выше человека, мирно сидящего на лавочке?
Почему пешеход (который пешеход от рождения) должен платить за удобство водителя/пассажира?
Если и применять логику, то за риски (а использование транспорта это риск) должен платить тот, кто идёт на этот риск.
И если человек во многих случаях выберет спасать себя, то робот может и должен руководствоваться логикой и справедливостью, а не инстинктом самосохранения, даже если справедливость не нравится.
Да и вообще, садясь в автобус Вы вообще не знаете, пожертвует ли собой и Вами человек ради какой-нибудь старушки, но Вы туда садитесь.
И отказываясь садиться в автомобили, которые отказываются возвадить Вашу жизнь в абсолют, Вы можете быть вынуждены ходить пешком из-за отсутствия альтернативы.
Люди нарушают правила не только из-за злого умысла, но и по невнимательности. Робот тоже способен на подобное — неправильно распознал знак, либо не распознал его вообще. Знак мог быть повреждён, а мог просто стоять под особым углом — мы не можем надеяться, что всё будет идеально. Должны ли действия робота быть основаны на полной уверенности в том, что он делает всё правильно, а остальные нет?
Или всё же не все могут быть тупыми алконавтами, идиотами, люмпенами? И может в таком случае робот должен, если это не создаёт существеного риска для пассажиров, уйти в кювет?
Также ИИ может столкнуться с ситуаций, когда для спасения водителя может потребоваться пожертвовать безопасностью других участников. На встречу, грубо нарушая правила, несётся фура или любой другой автомобиль. От столкновения можно уйти, свернув на тротуар. В одном из случаев с людьми это закончилось смертью постороннего пешехода, в противном случае могло закончится смертью водителя. Что должен делать робот в такой ситуации? Между прочим, того водителя-человека, съехавшего на тротуар, оправдали.
Но это отлично жить при прямой демократии, сохраняя при этом нейтралитет даже во Вторую Мировую Войну. Но что делать, если не удасться? Никто не будет проводить референдумы по поводу каждого вторжения, введения комендантского часа и прочего. Конечно, можно провести экстренный референдум и перейти на другую, более подходящую форму правления в данный момент. Но этот переход может оказаться переходом в один конец. Да и просто говорит о несовершенности текущей формы правления, которая не может существовать в стрессовых ситуациях.
Касательно БОД так вообще всё неясно. Никто не знает точно к чему это приведёт. Не знаем мы, комментирующие. Не знают, полагаю, и сами швейцарцы. 23% это немало — с таким же успехом могли и принять БОД. Но к чему бы это привело?
Много ли кто задумывается как это скажется на миграции, расслоении населения, уровне преступности, налогах, и прочем? Кто из решающих проводит социологические исследования, строит модели? Лично я пишу комментарий, допиваю чай и думаю о планировании свадьбы, а не рассчитываю различные показатели и вероятности принятия БОД. У меня просто нет квалификации и я не считаю что был бы вправе решать в случае подобного референдума у меня в стране. Вы можете? Если да — то Вам в первую очередь принимать решение, не мне. Верно и наоборот.
Вы спросили, что плохого в инертности? Плохо в первую очередь то, что это медленно. Периодически могут возникать и возникают ситуации, требующие быстрого приспособления, изменения, чтобы поддержать уровень жизни, безопасность граждан да и вообще что угодно. А простые люди в большинстве своём не хотят изменений. Они хотят чтобы всё было по прежнему — это и есть инертность. И это может оказаться фатальным в некоторых случаях.
Более того, сейчас имеется огромный объём знаний, и он продолжает увеличиваться. Всё больше проникает автоматизация, всё чаще летают ракеты, всё ближе ИИ. Ближе и генная инженерия, термоядерные электростанции.
Знаний такой объём, что ни один человек не может охватить их в своей голове. Стоит ли производить генетические эксперименты или запретить? Должен ли сильный ИИ обладать правами человека? Стоит ли вообще его развивать? Что предпринять в случае дальнейшей автоматизации производства? Куда лететь в космос в следующий раз?
Как решать все эти вопросы в перерыве между работой и днём рождения жены при тотальном недостатке знаний? Как приспосабливаться, когда приспособление «тебе» неинтересно, но необходимо? Хотя об этой необходимости «ты» ещё и не догадываешься.
Это, конечно, всего лишь моё мнение. Но в современном мире технического прогресса демократия приобретает один серьёзный недостаток — ужасающий недостаток квалификации. И этот недостаток не восполнит ни образование, ни википедия. Этот недостаток может устранить только наличие профессиональных квалифицированных специалистов-управленцев, применяющих научные методы для управления всеми или практически всеми сферами жизни общества. Конечно же, это на данный момент утопия. Хотя даже сейчас во всех правительствах развитых стран есть экспертные заключения, к которым иногда прислушиваются.
И то что каждое домохозяйство имеет право голоса, де факто означает что право голоса имеет только глава домохозяйства. Вы правда не видите здесь никаких недостатков? И то, что большинство глав являются мужчинами не означает игнорирование мнения женщин?
Если на то пошло, то это ни разу не прямая демократия, а обладает признаками представительной.
То что на практике не была реализована более лучшая модель, не означает что текущая без недостатков. И я не сомневаюсь, что в Швейцарии образованное население, и это сводит на нет многие из них, но коллективная ответственность не означает личную. Это когда всё хорошо, можно сказать, я сделал выбор. А когда всё плохо, то выбор «сделал не только я»/«я не мог сопротивляться традициям»/«на меня повлияли соседи» и т.д.
Или вы правда не видите недостатков в том, что решения принимают пусть образованные люди, но на основании своих личных впечатлений, традиций, телевизора, мнения соседки и т.д.?
Нет, это был ответ на комментарий про то, что демократию критиковать не следует. На примере Швейцарии.
Это «как только» там растянулось на несколько десятилетий. И, по факту, было всего-лишь результатом на новые веяния в мире.
Вроде базовое право, а такой длинный период до полного принятия.
Вот на примере Швейцарии я и говорю про один из недостатков демократии в целом (тем более прямой),
который не следует отрицать — сильная инерция, основанная на традициях.