Ваше право насчет подушки никто не забирает. Дроны есть и это факт. Я хочу лишь подчеркнуть, что там нету никаких огромных денег, все открыто, повторить может любой мало-мальски технически подкованный человек с минимальным современным оснащением. Почему же тогда мои рассуждения не логичны?
Считаем вероятности, сравниваем, что больше, вреда или пользы, принимаем решение. Через некоторое время, после появления новых результатов — пересчитываем.
Подобные вопросы не решаются одним человеком единолично (пока что?), следовательно скорее всего будут решаться ресурсами всего человечества. Исходный код таких вещей будет общим достоянием, с общим же контролем над распостранением подобного ПО в отраслях, не связанных с космическим мусором.
Ранее инженеров, строивших мосты, заставляли во время испытаний стоять под мостом вместе со своей семьей, для гарантий, что он добросовестно делал свою работу. Посему предельно логичным решением ИИ будет не "окончательное решение человеческого вопроса", а "хочу стать человеком", в крайнем случае — совершенствование тел людей, чтобы подобные мелочи типа "переел", "задержал дыхание" не влияли на жизнь человеков.
Если не надо обнаруживать летающие бяки по причине их отсутствия (никто не делает, а те, что успели наделать — разобрали целиком и полностью) — то и подобные датчики не имеет смысла разрабатывать.
Подмены нету, по рассказам очевидцев — вокруг подобных комплексов всегда выжженая земля и куча трупиков птиц, еще со времен первых таких комплексов. А для того, чтобы создать резонанс в электрических цепях самолетов и прочих летающих машин, не обязательно сильно большая мощность, достаточно большой точности, обеспечиваемой управляющим ПО.
Ну и, очевидно, Вы правы насчет бездействия, но ведь ракету создали, нарушив первый принцип.
Для начала "может" != "точно устроит", на то мы и люди, что можем действовать осмысленно. А брать пограничные случаи и распостранять их на все остальные — неверно.
Которой при некоторой технической подготовке можно сбивать летающие самолеты и спутники, вызывать стихийные бедствия.
Я, будучи студентом, когда-то написал небольшую программу, прошивку для ПЛИС, наводящую антенну на максимум сигнала в качестве курсовой работы. Седой профессор, принимавший курсач, сказал: неплохо шагнул прогресс, потому что во время моей молодости за такую программу и ПЛИС, военные отдали бы все, чтобы их заполучить и поставить на ракеты.
Существует множество областей, в которых гарантируется отсутствие вреда человекам — создание присутствия человеков на Земле в частности и во вселенной вообще.
Скажите, что более реально и проверяется экспериментальным путем? :)
Это не отменяет того факта что одна из ваших заповедей всё равно нарушена.
Отнюдь, узнали, что есть вероятность причинения вреда — устранили.
Какие базовые аксиомы? Вы вообще о чём? И что мне тогда мешает подобрать себе аксиомы по вкусу и всё? В математике это как бы тоже допускается
Ничего не мешает, главное чтобы теория с практикой не расходились :)
Допустим что поностью исключит невозможно, но можно свести к одной смерти в мире в год. Если следовать вашим запоевдям это всё равно недопустимо.
Не ту область значит развиваем, если смерти из-за транспорта остаются возможными.
Это не гарантирует полное исключения возможности аварии и вреда. Волее того каждая из этих вещей несёт в себе потенциальную возможность вреда и поэтому с точки зрений ваших заповедей тоже недопустима.
Сравниваем вероятности и делаем выводы. Если какая-либо технология будет более совершенна, но менее вредна — все ок.
Что значит "считаем снова"? Код уже написан и может уже использоваться в миллионе мест.
К счастью в современных системах есть простая возможность обновления. Вопрос уходит в техническую плоскость.
Да и когда вы пишите код, то откуда вы берёте уверенность что вам известны все релевантные факты, доступные на данный момент?
Также, как это сделано в математике: есть базовые аксиомы, от которых отталкиваемся.
Не будет ли логичнее сравнивать потенциальный вред с потенциальной пользой?
Вопрос терминологии, не более.
Банальный пример: автономные машины. Они однозначно будут наносить вред, так как аврии рано или поздно будут происходить даже с ними. По вашей логике их тогда не надо делать и писать для них код.
С другой стороны в теории рано или поздно они будут так развиты что будут попадать в аварии гораздо реже чем люди. Но оять же по вашей логике даже в такой ситуации писать код для них нельзя, так как они всё равно причиняют вред...
Значит надо сделать инфраструктуру таковой, чтобы полностью исключить аварии. В качестве таковых решений я могу привести следующие (в порядке возрастания сложности):
оставить только подземный автоматический рельсовый транспорт, управляемый без участия людей, разработанный с учетом всех имеющихся на момент постройки нюансов и моделей угроз человеческой жизни
убрать необходимость перемещения человеческих тел путем доведения технологии телеприсутствия до совершенства
Выполним — просто считаем вероятность вреда, при необходимости — считаем снова с учетом появившихся новых фактов. Если она становится выше некоторого порога — полагаем, что вред будет допущен, самое главное тут — всеобъемлющая, полная и правдивая информация человечеству и человеку лично.
Обычные врачи кстати до сих пор лечат не человека, а его болезни, но самые прогрессивные — уже потихоньку приходят к тому, что все-таки надо человека лечить. Справедливости ради — это мысль моей прапрабабки, которая когда-то давно занималась лечением людей, особенно интересно было послушать ее рассказы о пациентах после официальной медицины, я знаю (не лично — он умер почти 70 лет назад естественной смертью) одного человека, которого отправили умирать из США домой после тяжелой травмы спины, поскольку он не мог оплачивать лечение там, да и врачей было не так много — с здоровьем гастарбайтеров не особенно в те времена (да и сейчас) считались. Для его семьи это был тяжелый удар, но после вправления прапрабабкой мышц на место и при поддержке организма особым чаем и высокобелковым питанием (спецдиета) — выздоровел, спустя полгода опять вернулся на работу в США, где немало удивил местных врачей, выписавших ему смертельный диагноз.
Большинство хочет зарплату больше, чем у других, квартиру или дом получше, чем у остальных, жену покрасивее (или девочку каждый раз новую, кому как ЛИЧНО хочется), яхту\вертолет и т.д., которых нету у остальных — тупо звериные удовольствия, чуть приукрашенные техническим прогрессом. Наиболее активные при этом готовы идти на все ради такого, забывая о своей человеческой сущности, не видя вокруг людей, а только ресурсы и возможности. В результате — пшик, поскольку всему этому есть предел, после которого звериные удовольствия уже не доставляют, развивается мнительность и подозрительность к людям, невозможность получить простую радость общения. Иногда бывают рефлексирования, типа фонда Билла и Мелинды Гейтсов и прочих, самокопание — но это удел действительно сильных.
Но ведь есть способ сделать счастливее себя без ущерба другим и без этой обезьяньей возни в виде карьеры, подковерных (подкроватных?) игрищ, стремления заработать все деньги (что очевидно невозможно, поскольку создавать новые, сомнительного качества, ценности из ничего другие, такие же, научились делать весьма и весьма давно). Как этого достигать — лично решает для себя каждый, есть способы остатья хорошим человеком без ущерба остальным, а еще есть и варианты — когда остальным тоже будет лучше.
Весьма крутой топор, как оказалось. Можно несколько миллиардов голов за доли секунды срубить.
Ваше право насчет подушки никто не забирает. Дроны есть и это факт. Я хочу лишь подчеркнуть, что там нету никаких огромных денег, все открыто, повторить может любой мало-мальски технически подкованный человек с минимальным современным оснащением. Почему же тогда мои рассуждения не логичны?
Считаем вероятности, сравниваем, что больше, вреда или пользы, принимаем решение. Через некоторое время, после появления новых результатов — пересчитываем.
Обоим отвечу, т.к. комментарии схожи.
Подобные вопросы не решаются одним человеком единолично (пока что?), следовательно скорее всего будут решаться ресурсами всего человечества. Исходный код таких вещей будет общим достоянием, с общим же контролем над распостранением подобного ПО в отраслях, не связанных с космическим мусором.
Угу, а этот рассказ — чистая сказка, особенно в свете таких возможностей.
Ранее инженеров, строивших мосты, заставляли во время испытаний стоять под мостом вместе со своей семьей, для гарантий, что он добросовестно делал свою работу. Посему предельно логичным решением ИИ будет не "окончательное решение человеческого вопроса", а "хочу стать человеком", в крайнем случае — совершенствование тел людей, чтобы подобные мелочи типа "переел", "задержал дыхание" не влияли на жизнь человеков.
Если не надо обнаруживать летающие бяки по причине их отсутствия (никто не делает, а те, что успели наделать — разобрали целиком и полностью) — то и подобные датчики не имеет смысла разрабатывать.
Подмены нету, по рассказам очевидцев — вокруг подобных комплексов всегда выжженая земля и куча трупиков птиц, еще со времен первых таких комплексов. А для того, чтобы создать резонанс в электрических цепях самолетов и прочих летающих машин, не обязательно сильно большая мощность, достаточно большой точности, обеспечиваемой управляющим ПО.
Ну и, очевидно, Вы правы насчет бездействия, но ведь ракету создали, нарушив первый принцип.
Для начала "может" != "точно устроит", на то мы и люди, что можем действовать осмысленно. А брать пограничные случаи и распостранять их на все остальные — неверно.
Понимаю, а Вы?
Постфактум всегда можно, для этого у нас законы не имеют обратной силы.
К тому же много есть тех, кто ни разу не ошибался?
Которой при некоторой технической подготовке можно сбивать летающие самолеты и спутники, вызывать стихийные бедствия.
Я, будучи студентом, когда-то написал небольшую программу, прошивку для ПЛИС, наводящую антенну на максимум сигнала в качестве курсовой работы. Седой профессор, принимавший курсач, сказал: неплохо шагнул прогресс, потому что во время моей молодости за такую программу и ПЛИС, военные отдали бы все, чтобы их заполучить и поставить на ракеты.
Существует множество областей, в которых гарантируется отсутствие вреда человекам — создание присутствия человеков на Земле в частности и во вселенной вообще.
Скажите, что более реально и проверяется экспериментальным путем? :)
Ничего не мешает, главное чтобы теория с практикой не расходились :)
Не ту область значит развиваем, если смерти из-за транспорта остаются возможными.
Сравниваем вероятности и делаем выводы. Если какая-либо технология будет более совершенна, но менее вредна — все ок.
Отказаться от разработки любого оружия: https://www.youtube.com/watch?v=HSLbraqyeu0
Ведь в современном мире нету особой разницы, защищать или нападать.
К счастью в современных системах есть простая возможность обновления. Вопрос уходит в техническую плоскость.
Также, как это сделано в математике: есть базовые аксиомы, от которых отталкиваемся.
Вопрос терминологии, не более.
Значит надо сделать инфраструктуру таковой, чтобы полностью исключить аварии. В качестве таковых решений я могу привести следующие (в порядке возрастания сложности):
Брать как публичное достояние, возможно с упоминанием оригинального автора.
Выполним — просто считаем вероятность вреда, при необходимости — считаем снова с учетом появившихся новых фактов. Если она становится выше некоторого порога — полагаем, что вред будет допущен, самое главное тут — всеобъемлющая, полная и правдивая информация человечеству и человеку лично.
Обычные врачи кстати до сих пор лечат не человека, а его болезни, но самые прогрессивные — уже потихоньку приходят к тому, что все-таки надо человека лечить. Справедливости ради — это мысль моей прапрабабки, которая когда-то давно занималась лечением людей, особенно интересно было послушать ее рассказы о пациентах после официальной медицины, я знаю (не лично — он умер почти 70 лет назад естественной смертью) одного человека, которого отправили умирать из США домой после тяжелой травмы спины, поскольку он не мог оплачивать лечение там, да и врачей было не так много — с здоровьем гастарбайтеров не особенно в те времена (да и сейчас) считались. Для его семьи это был тяжелый удар, но после вправления прапрабабкой мышц на место и при поддержке организма особым чаем и высокобелковым питанием (спецдиета) — выздоровел, спустя полгода опять вернулся на работу в США, где немало удивил местных врачей, выписавших ему смертельный диагноз.
Большинство хочет зарплату больше, чем у других, квартиру или дом получше, чем у остальных, жену покрасивее (или девочку каждый раз новую, кому как ЛИЧНО хочется), яхту\вертолет и т.д., которых нету у остальных — тупо звериные удовольствия, чуть приукрашенные техническим прогрессом. Наиболее активные при этом готовы идти на все ради такого, забывая о своей человеческой сущности, не видя вокруг людей, а только ресурсы и возможности. В результате — пшик, поскольку всему этому есть предел, после которого звериные удовольствия уже не доставляют, развивается мнительность и подозрительность к людям, невозможность получить простую радость общения. Иногда бывают рефлексирования, типа фонда Билла и Мелинды Гейтсов и прочих, самокопание — но это удел действительно сильных.
Но ведь есть способ сделать счастливее себя без ущерба другим и без этой обезьяньей возни в виде карьеры, подковерных (подкроватных?) игрищ, стремления заработать все деньги (что очевидно невозможно, поскольку создавать новые, сомнительного качества, ценности из ничего другие, такие же, научились делать весьма и весьма давно). Как этого достигать — лично решает для себя каждый, есть способы остатья хорошим человеком без ущерба остальным, а еще есть и варианты — когда остальным тоже будет лучше.
Прошу не считать за рекламу, но вот пример такого вот телефона