Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 35
А как же нулевой закон?
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
Нулевой закон появился гораздо позже. Его сформулировал персонаж Р. Дениел Оливо. в одном из романов цикла «Основание».
Это трактовка первого закона.
Как раз у Азимова есть рассказ на тему того, как ИИ поручили заботу о человечестве и он в этой заботе пришел к выводу что человечество вредит само себе и всячески различными мерами это человечество пытался уничтожить.
Название к сожалению не помню. =(
Название к сожалению не помню. =(
Допустим человека(руку или ногу) привалило огромным валуном, который не может сдвинуть робот. У робота есть 2 варианта:
1. Отрезать, оторвать, отбить руку и спасти человека.
2. Оставить все как есть и допустить смерть человека.
Оба варианта противоречат первому закону. Как быть?
1. Отрезать, оторвать, отбить руку и спасти человека.
2. Оставить все как есть и допустить смерть человека.
Оба варианта противоречат первому закону. Как быть?
читать Азимова. у него этих вариантов тьма описана и вообще в большинстве из рассказов он сам пробует законы на прочность.
а пост про 73 года, а не законы. нулевой гораздо позже сформулирован.
а пост про 73 года, а не законы. нулевой гораздо позже сформулирован.
У разных моделей азимовских роботов по разному. Первые модели выходили из строя из-за неустранимости проблемы. Более поздние — могли оценить уровень вреда в обоих случаях и выбрать наименее опасный.
не согласен с «их система управления и обработки информации гораздо примитивнее того, что было описано Азимовым в своих работах».
во-первых, отдельные вещи не так примитивны, интернет например.
во-вторых, Азимов почти не описывал роботов внутри. позитронный мозг изобретён и всё. а как у него роботы учились говорить — это вообщебред сумашедшего не соответсвует действительности.
в третьих, сами законы робо(то)техники, как уже упоминалось, с тех же успехом можно применить и к молотку. видимо поэтому Азимов и открещивается от их изобретения.
во-первых, отдельные вещи не так примитивны, интернет например.
во-вторых, Азимов почти не описывал роботов внутри. позитронный мозг изобретён и всё. а как у него роботы учились говорить — это вообще
в третьих, сами законы робо(то)техники, как уже упоминалось, с тех же успехом можно применить и к молотку. видимо поэтому Азимов и открещивается от их изобретения.
Не рассматриваются эти законы никем, кроме досужих гуманитариев. Вы сначала объясните роботу, что такое вред, и чем человек от своей фотографии отличается, а вот тогда поговорим.
Почему же. Просто эти законы актуальны на другом, более высоком уровне развития технологии.
А меня вот интересует, каким образом такие высокоуровневые правила поведения могут быть заложены в хардваре робота (позитронный мозг).
А меня вот интересует, каким образом такие высокоуровневые правила поведения могут быть заложены в хардваре робота (позитронный мозг).
Понимаете, в чём проблема. Приходит такой гуманитарий, и говорит: «эти законы всё равно актуальны, только на уровне про который я ничего не знаю, сказать разумного ничего не могу, но зато на 100% уверен, что всё равно актуальны, потому что если они не актуальны, то как же тогда с моим авторитетным гуманитарным мнением?».
Совершенно не понятно как будет выглядеть устройство, способное с абстрактной классификации в подобных терминах. Совершенно не понятно, можно ли будет когда-нибудь изложить ему наши органические проблемы. Совершенно не понятно. Никому не понятно, кроме всё разумеющих гуманитариев, которые «всё что будет уже было», а вот новой техникой пользоваться — это за всегда пожалуйста.
Сама проблема не формулируется в таких уютненьких гуманитарных терминах.
Совершенно не понятно как будет выглядеть устройство, способное с абстрактной классификации в подобных терминах. Совершенно не понятно, можно ли будет когда-нибудь изложить ему наши органические проблемы. Совершенно не понятно. Никому не понятно, кроме всё разумеющих гуманитариев, которые «всё что будет уже было», а вот новой техникой пользоваться — это за всегда пожалуйста.
Сама проблема не формулируется в таких уютненьких гуманитарных терминах.
Если присмотреться к хадкорным монадкам, там снизу всегда детально объяснено, «как это делать» и «что это такое». Даже чище и строже, чем в императивных языках.
Забавный факт: почти ни к одному из ныне используемых научных методов не приложил руку ни один человек, получивший философское образование. Аналитические философы, в том, что касается методологии познания, просто-напросто классифицируют то, что было придумано кем-то другим.
Огюст Конт, основатель позитивизма. Ныне его, разумеется, причисляют к философам, но, по факту, философского образования у него не было. Зато он хорошо разбирался в математике.
Карл Поппер, автор фальсифицируемости и основатель постпозитивизма. На кого он учился? На физика. Философия была для него просто хобби, как и для большинства нынешних технарей.
Эрнст Мах, праотец венского кружка. Кем он был? Физиком. Да, после него кафедру унаследовал профессиональный философ Мориц Шлик. Но в венский кружок, основанный этим философом, ходили химики, физики и математики. Философов среди участников не было. А ключевую роль в кружке играл… кто? Ханс Хан, преподаватель математики.
Больцман, непримиримый противник Маха, чьи идеи, как считается, внесли практически равный с Махом вклад в развитие логического позитивизма. Физик. А кто-то сомневался?
Отто Нейрат, основатель доктрины единого научного языка, опирающегося на математику и физику. Ага, математик.
Кто придумал слепой метод? И двойной слепой метод? Медики. Годы тут разные, и имена тоже. Но факт остаётся фактом: философы не приложили руку и к этому достижению мысли.
Примеров — тьма. Где же эта самая «пачка философов»? Чего без них не было бы? Не было бы бреда, который безостановочным потоком сыплется нам на головы из уст континентальщиков.
Нет, серьёзно. Проблема в том, что философами назначают пост-фактум. Не имеет никакого значения, получил человек философское образование или нет. Важно только то, добился ли он каких-либо успехов в публикации собственных мыслей. При этом совершенно не важно, технарь он или гуманитарий. Да, философствующих технарей, как я продемонстрировал выше, пруд пруди. И именно они стояли у истоков аналитической философии. Так что о каких это «чужих методах» идёт речь — не ясно. И это указывает нам на сильнейший кризис, с которым столкнулась философия, отойдя от естественных наук.
Представим себе на секунду такую ситуацию: есть десяток лучших во всём мире университетов, где готовят поваров. При этом никакого чёткого критерия «лучшести» не существует. Ну, это хрен с ним. В общем, учат поваров. Но при этом, в итоге те, кто учился на сантехника, слесаря, вурдалака, экзорциста — готовят лучше, чем те, кто учился на повара. И когда такое происходит, народ просто называет этих людей поварами, и все довольны, всё в порядке. А сами повара 99% своих усилий посвящают составлению и «анализу» (что бы это ни значило) рецептур, созданных этими людьми кулинарных шедевров.
Почему так происходит? Да потому что физику философствовать в сотни раз проще, чем философу — заниматься физикой. Кроме того, прикладные элементы методологии познания вовсе недоступны тем, кто никогда в жизни не сталкивался с экспериментами, и не имеет представления о том, какой эксперимент будет являться корректным. Это всё равно, что пытаться придумать инструмент для забивания гвоздей не имея никаких знаний о том, что такое гвоздь.
Огюст Конт, основатель позитивизма. Ныне его, разумеется, причисляют к философам, но, по факту, философского образования у него не было. Зато он хорошо разбирался в математике.
Карл Поппер, автор фальсифицируемости и основатель постпозитивизма. На кого он учился? На физика. Философия была для него просто хобби, как и для большинства нынешних технарей.
Эрнст Мах, праотец венского кружка. Кем он был? Физиком. Да, после него кафедру унаследовал профессиональный философ Мориц Шлик. Но в венский кружок, основанный этим философом, ходили химики, физики и математики. Философов среди участников не было. А ключевую роль в кружке играл… кто? Ханс Хан, преподаватель математики.
Больцман, непримиримый противник Маха, чьи идеи, как считается, внесли практически равный с Махом вклад в развитие логического позитивизма. Физик. А кто-то сомневался?
Отто Нейрат, основатель доктрины единого научного языка, опирающегося на математику и физику. Ага, математик.
Кто придумал слепой метод? И двойной слепой метод? Медики. Годы тут разные, и имена тоже. Но факт остаётся фактом: философы не приложили руку и к этому достижению мысли.
Примеров — тьма. Где же эта самая «пачка философов»? Чего без них не было бы? Не было бы бреда, который безостановочным потоком сыплется нам на головы из уст континентальщиков.
Нет, серьёзно. Проблема в том, что философами назначают пост-фактум. Не имеет никакого значения, получил человек философское образование или нет. Важно только то, добился ли он каких-либо успехов в публикации собственных мыслей. При этом совершенно не важно, технарь он или гуманитарий. Да, философствующих технарей, как я продемонстрировал выше, пруд пруди. И именно они стояли у истоков аналитической философии. Так что о каких это «чужих методах» идёт речь — не ясно. И это указывает нам на сильнейший кризис, с которым столкнулась философия, отойдя от естественных наук.
Представим себе на секунду такую ситуацию: есть десяток лучших во всём мире университетов, где готовят поваров. При этом никакого чёткого критерия «лучшести» не существует. Ну, это хрен с ним. В общем, учат поваров. Но при этом, в итоге те, кто учился на сантехника, слесаря, вурдалака, экзорциста — готовят лучше, чем те, кто учился на повара. И когда такое происходит, народ просто называет этих людей поварами, и все довольны, всё в порядке. А сами повара 99% своих усилий посвящают составлению и «анализу» (что бы это ни значило) рецептур, созданных этими людьми кулинарных шедевров.
Почему так происходит? Да потому что физику философствовать в сотни раз проще, чем философу — заниматься физикой. Кроме того, прикладные элементы методологии познания вовсе недоступны тем, кто никогда в жизни не сталкивался с экспериментами, и не имеет представления о том, какой эксперимент будет являться корректным. Это всё равно, что пытаться придумать инструмент для забивания гвоздей не имея никаких знаний о том, что такое гвоздь.
Только что попробовал своему роботу объяснить это и теперь он в депрессии. Звонил в поддержку, но там сказали что это не гарантийный случай. Что делать?
Размотать и убрать шнурок от зарядке на щётке и вытащить зажёванный носок, после чего отнести на базу для зарядки. Завтра он будет пылесосить так же, как и раньше.
Известные мне гуманитарии (доктора философских наук) считают, что сознание возможно лишь на биологическом субстрате.
А физический уровень материи низший и не способен развиваться (научный диалектический материализм и всё такое).
Вообще только высший уровень — социальный — имеет такое право.
ИМХО, биология паразитирует на физике как блоха на собаке и недалёк час расплаты.
А физический уровень материи низший и не способен развиваться (научный диалектический материализм и всё такое).
Вообще только высший уровень — социальный — имеет такое право.
ИМХО, биология паразитирует на физике как блоха на собаке и недалёк час расплаты.
Вы сначала дайте мне робота в том в смысле, в котором он понимается в этих законах, тогда поговорим, да.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Хоровод» — первое упоминание трех законов робототехники Айзеком Азимовым 73 года назад