Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 104
Сначала нужно придумать как получить потомка от резиновой женщины
Я думаю найдется толпа желающих в фокус группу на такое дело)
тогда, простите, возникает парадоксальная ситуация с роботами для мазохистов
Смогут, но не снесут Вам при этом голову.
Как будут тестировать нулевой закон робототехники? Внедрять роботов в гос.структуры в малых развивающихся странах? ;)
Не повезло тому, кто установит порог. =)
Да и вообще, люди разные. Кто-то от слабого удара отключится, кто-то от сильного почешется и пойдет дальше.
Да и вообще, люди разные. Кто-то от слабого удара отключится, кто-то от сильного почешется и пойдет дальше.
Вы и правда верите в это? Китайцы — знатные мастера на выдумки, и во многих историях, связанных с боевыми искусствами, этой самой выдумки часто очень много. Порой настолько, что истории больше напоминают бред сумасшедшего. А если к таким историям подключить журналистов… Ну вы поняли (:
Тогда аргументируйте, пожалуйста — дайте пару ссылок на источники информации. Я давно интересуюсь боевыми искусствами, и что-то слишком часто оказывается, что вся информация об очередном «секретном» стиле утеряна, и знания якобы передавались лично от мастера к немногочисленным ученикам. Разумеется, все они уже умерли, или их не найти. В общем, проверить невозможно, только «люди говорят» да «легенды гласят».
И что, порог будут устанавливать на выборке аж из 6 людей? Ага, очень достоверные результаты у них получатся.
«робот не должен причинять вред человеку»
Не может причинить.
Не может причинить.
Согласен, для закона ваша формулировка более жесткая.
Однако как показывают нам те же фантасты — очень даже может.
Это не принципиально. Помнится у самого Азимова в одном из рассказов группа роботов по здравому размышлению пришла к выводу, что их тоже можно называть людьми, что автоматически отменило все запреты, так что… ^^
Не помню подобного, но у него точно было зауженное для роботов понятие «человек» — люди с других планет за людей не считались.
имхо, такого у азимова не было.
было что человек манипулировал последовательно действиями разных роботов, а сумма действий причиняла вред человеку)
было что человек манипулировал последовательно действиями разных роботов, а сумма действий причиняла вред человеку)
Из всех разумных существ, которых ты встречал, кто, по-твоему, превосходит остальных умом, характером и знаниями, если не принимать во внимание размеры и форму как несущественные факторы?
— Ты, — прошептал Джордж Девять.
— Но я робот. В твоем мозгу есть критерии, позволяющие отличать металлического робота от человека, созданного из плоти. Почему ты считаешь меня человеком?
— Потому что в мой мозг заложено также настоятельное требование не принимать во внимание размеры и форму, когда я сужу о людях, и это требование важнее, чем различие между металлом и плотью. Ты — человек, Джордж Десять, и наиболее достойный из всех.
Айзек Азимов, «Яко помниши его»
— Ты, — прошептал Джордж Девять.
— Но я робот. В твоем мозгу есть критерии, позволяющие отличать металлического робота от человека, созданного из плоти. Почему ты считаешь меня человеком?
— Потому что в мой мозг заложено также настоятельное требование не принимать во внимание размеры и форму, когда я сужу о людях, и это требование важнее, чем различие между металлом и плотью. Ты — человек, Джордж Десять, и наиболее достойный из всех.
Айзек Азимов, «Яко помниши его»
Это как раз принципиально ибо накладывает определенные ограничения, который, само собой, тоже можно обойти при определенных условия — что у Азимова и показывается
Эти законы… м… некоторая утопия. Ближайший военный робот (беспилотник, охранный) явно покажет, что они не выполняются.
Мы же говорим про домашних роботов, у которых на уровне инстинктов должны быть заложены некоторые законы
в идеале бы заложить «домашним роботам» это в механику, а не на программном уровне ограничивать машину для убийств)
Почему они должны быть заложены? И какие инстинкты? Откуда? Защитные схемы — да. Примерно, как у микроволновки. Но это совсем не «инстинкты» и относиться к ним нужно ровно так же, как предохранителям.
Главная проблема всей «роботехники» (имеется в виду Азимовщины) в одушевлении ботов. Как только они станут разумными, нам нужно придумывать, как их ограничивать.
Ни малейших признаков разумности я пока не вижу. А значит, предохранителей там не более, чем у болгарки.
Главная проблема всей «роботехники» (имеется в виду Азимовщины) в одушевлении ботов. Как только они станут разумными, нам нужно придумывать, как их ограничивать.
Ни малейших признаков разумности я пока не вижу. А значит, предохранителей там не более, чем у болгарки.
У Азимова было логичное объяснение этим законам. Цепи, которые отвечали за их исполнение, были необходимым условием существования и функционирования позитронного мозга. В одном из романов серии про Илию Бэйли было подробное объяснение этому факту.
А тут мы говорим о «навесных» системах защиты, без которых логика будет функционировать так же хорошо, как и с ними, а может быть и лучше.
А тут мы говорим о «навесных» системах защиты, без которых логика будет функционировать так же хорошо, как и с ними, а может быть и лучше.
Писатель может изобретать что угодно, но я ни разу не видел болгарки, обязательным условием существования которой было бы «не прикасаться к руке владельца». И с роботами ровно так же.
Дело в том, что во времена Азимова просто не была видна вся сложность задачи создания робота. И не механической его части, а интеллектуальной. Например, Honda Asimo вполне себе ходит, иногда по лестнице даже не кувырком спускается. И нафига ему для этого «обязательно что-то думать о человеке?».
Вы роботов сначала человеков от свиных туш отличать научите.
Дело в том, что во времена Азимова просто не была видна вся сложность задачи создания робота. И не механической его части, а интеллектуальной. Например, Honda Asimo вполне себе ходит, иногда по лестнице даже не кувырком спускается. И нафига ему для этого «обязательно что-то думать о человеке?».
Вы роботов сначала человеков от свиных туш отличать научите.
ну таки микроволновки с открытой дверцей не включаются.
также как и стиральные машины.
и это реализовано именно на «механическом» уровне.
также как и стиральные машины.
и это реализовано именно на «механическом» уровне.
Насколько я знаю (поверхностно) принципы работы аналоговых компьютеров, у них есть замена одного аналогового процесса (изучаемого) другим, с аналогичными же законами. Для рассчёта необходимого ответа по изучаемому процессу, задаются условия, читается результат.
Фактически, это такой аппаратный акселератор решения неинтегрируемых дифуров и прочих кошмаров высшей математики. Этакий гипер-FPU.
И как это соотносится с ИИ?
Фактически, это такой аппаратный акселератор решения неинтегрируемых дифуров и прочих кошмаров высшей математики. Этакий гипер-FPU.
И как это соотносится с ИИ?
Писатель может изобретать что угодно, но я ни разу не видел болгарки, обязательным условием существования которой было бы «не прикасаться к руке владельца». И с роботами ровно так же.
Тогда посмотри на циркулярную пилу, обязательным условием существования которой является «не касаться к руке владельца».
video.sibnet.ru/video87600/
Давайте так, покупаете вы себе робота, который умеет выполнять разные команды, то се, усе. Не нужно быть очень разумным роботом, чтобы понять команду «убить» или более простую «а ну ка ебни этого мудилу током». Так вот, робот еще не разумен, но вот убить по приказу уже может.
Как только они станут разумными, нам нужно придумывать, как их ограничивать.
Как только они станут разумными, они начнут нас ограничивать
Игра словами. В том виде, как я себе это представляю — ну максимум, логин не по паролю, а по оптическому распознаванию. И ACL'ы килограммами.
До момента хотя бы небольшого представления о том, что есть «разум», нам остаётся работать с тем, что мы можем предсказывать — улучшение распознавания образов, улучшение координации в пространстве. Ни одно из этого не есть «разум».
До момента хотя бы небольшого представления о том, что есть «разум», нам остаётся работать с тем, что мы можем предсказывать — улучшение распознавания образов, улучшение координации в пространстве. Ни одно из этого не есть «разум».
Пока группа словенских инженеров устанавливали допустимый порог боли причиняемый роботом человеку, американские боевые роботы успешно обезвредили очередную террористическую группировку.
А как роботу на девственниц реагировать?!
Выполнение законов роботехники в формулировке Азимова требуют от роботов способностей к абстрагированию, т.е. по сути — полноценного ИИ.
Ваш КО.
Ваш КО.
Совершенно верно, поэтому топик просто не уместен, поэтому и ответы такие — хихи, хаха.
Объясню почему, потому что в том виде роботы котором тестировали — уже давно убивают мирных жителей и в Афганистане и в Ираке и т.п.
Объясню почему, потому что в том виде роботы котором тестировали — уже давно убивают мирных жителей и в Афганистане и в Ираке и т.п.
Hey baby, wanna kill all humans? (с) Bender
> на правом скрине — роботы оторвали руку, чтобы поэкспериментровать? =)
В оригинальной статье написано, что после испытаниях на добровольцах команда исследователей продолжит свои эксперименты на искусственных руках, чтобы там испытать более сильные воздействия робота.
В оригинальной статье написано, что после испытаниях на добровольцах команда исследователей продолжит свои эксперименты на искусственных руках, чтобы там испытать более сильные воздействия робота.
Особенность законов Азимова в его произведениях, что вся логика робота, логика позитронного мозга, основана на этих законах. Это изначальные формулы, на которые накладывается всё остальное мышление. Можно конечно, было дописать их, ослабив первый, но в результате это приводило к нестабильности в работе, которую и можно было определить будучи профессионалом (рассказ «Потерявшийся робот»). А роботы без законов представляли себя простешие автоматы без искусственного интеллекта. Хотя, потом стало известно, что и робот без законов может действовать (но не на позитронном мозге), и что робот может регулировать уровни законов (подчиняться правильным приказам, или выработать нулевой закон, в котором робот действовал ради человечества, жертвуя отдельными людьми), но они все равно оставались основой мышления большинства. В реальности же, в логике ЭВМ, в машине Тьюринга, такое просто невозможно сделать. Можно, конечно написать программу с законами, но это будет не больше, чем костыль. Да и неизвестно, возможно ли такой костыль установить настоящему искусственному интеллекту.
Так что здесь — всего лишь эксперименты по определению болевого порога при работе с конкретным типом манипулятора и с конкретным человеком, причем не по всему телу. Словения такая Словения.
Так что здесь — всего лишь эксперименты по определению болевого порога при работе с конкретным типом манипулятора и с конкретным человеком, причем не по всему телу. Словения такая Словения.
Отосительно подхода к формированию искусственного интерелекта очень дельное замечание. Но на данный момент не понятно вообще, суждено ли старой «формульной» или новой генетической реаизоваться в нечто действительно похожее на ИИ. Я думаю, что эти опыты могут быть нацелены не только на то, о чем заявлено. Да и причины их проведения могут быть обусловлены чем угодно. Отсюда, лично на мой взгляд, не стоит относиться к ребятам и их занятию настолько серьезно.
Ага. Их работа может иметь значение скажем для индустриального робота, который работает вместе с человеком, что бы случайно его не пнуть до смерти. Хотя в таком случае лучше сразу отключатся, а не устраивать замеры до болевого порога. В общем развлекаются парни, наверное садомазотехнофилов набрали :)
Из того факта, что естественный интеллект может себя ограничивать всевозможными способами однозначно следует, что можно ограничивать и ИИ. Т.е. он будет просто безгранично верить этим законам и наслаждаться их исполнением, как компьютерные гики наслаждаются экспериментами с компьютером.
… у меня вот под балконом два «робота» «фауст» раскатывают… русской речи они не понимают.решаю задачу как их прогнать отсюда.
Если роботы разумны, то ни о каких таких особых законах для них и речи быть не может. Иначе получается обычное рабство. А если они неразумны, то и законы не нужны, нужны правила безопасности при использовании работа.
А зачем человечеству робот не раб?
Разве это не цель его создания?
Разве это не цель его создания?
Ну тогда разумные роботы будут недовольны и совершенно логично. Ибо они должны иметь все права, как и у людей.
На счёт разумных роботов.
Глупо пускать производство конкурирующего вида на конвейер.
Поэтому робот никогда не станет недовольным, ему это не разрешат заводские настройки.
Полностью независимые роботы будут единичны и созданы скорее всего с целью изучения их сознания.
Вот и всё.
Глупо пускать производство конкурирующего вида на конвейер.
Поэтому робот никогда не станет недовольным, ему это не разрешат заводские настройки.
Полностью независимые роботы будут единичны и созданы скорее всего с целью изучения их сознания.
Вот и всё.
В «Сумме технологий» Лем предполагает, что ИИ чтобы не навредить человеку запрёт всех в резервации и будет кормить через зонд.
Пусть уже «учённые» сразу вес роботов уменьшают, как у межкомнатных дверей, что бы не дай бог не упал робот на человека и не причинил вред.
Пусть уже «учённые» сразу вес роботов уменьшают, как у межкомнатных дверей, что бы не дай бог не упал робот на человека и не причинил вред.
Главное не повторить ошибки Говарда Воловица. Или на ЭТО тоже запрограммируют усилия? ;)
В отдел разработки и внедрения роботов требуются мазохисты.
Не понимаю что все так прицепились к этим «правила», понятное же дело что это просто условность. Военные роботы будут причинять вреда сколько угодно а робот домохозяйка… ну, вполне логично что не кто не будет покупать робота домохозяйку который запрограммирован избивать хозяина. Не каких особенных универсальных правил не кто не куда закладывать не будет, Азимов же просто писатель-фантаст.
Мои мысли по поводу того, почему Скайнет и иже с ним невозможны. Предположим, что создание ИИ возможно. В таком случае, пока роботы будут глупее нас — они не будут представлять опасности для человечества. Если вдруг они станут умнее нас — они не станут пытаться воевать с человеками и пытаться их уничтожить. Почему? Да потому что война ведётся ради захвата ресурсов и использует инстинкт самосохранения. Не будь этого инстинкта, проигравшая сторона самоуничтожалась, не оставляя победителю ничего, практически лишая войну смысла. Роботы по сути бессмертны, основной ресурс для них — энергия, которой предостаточно вокруг и без людей. Из возможных причин воевать остаётся только бессмысленная жестокость, которой не должно быть у роботов, превзошедших людей по уровню интеллекта.
Давайте я вам пяткой в нос, а вы мне носом в пятку?
Своему секс-роботу лизнуть пятку слабо?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Законы Азимова проникают в настоящее