tunelix Jan 22 2009 at 13:45

Вы точно хотите изобрести искуственный интеллект?

1 min

+19

Comments 24

Xaker Jan 22 2009 at 13:50

1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

+13

tunelix Jan 22 2009 at 13:54

Это Дик а не Азимов — тут все по другому ;)

Xaker Jan 22 2009 at 13:56

Я ответил на вопрос, заданный в заголовке.

ishua Jan 22 2009 at 14:52

азимов после создания этих законов, пол жизни думал как их обойти, а ведь для робота еще и необходимо эти законы создать ;) не так то просто определить некоторые вещи которые для нас то являются не всегда однозначными
Что такое?:
-Человек
-Вред

DmitriyN Jan 22 2009 at 14:54

Кстати, у Азимова очень интересно обыгрывается, как неточности в этих понятиях могут приводить к опасному поведению.

KF_NEXUS Jan 23 2009 at 02:30

Та глупости это всё, хватит демонизировать ИИ, и читать бесполезных фантастов, займитесь-ка лучше сами его разработкой, и ваяйте такие двери какие хотите!

EiZeRR Jan 22 2009 at 16:23

А вы вот попробуйте формализовать эти правила. Начнем с простого:) Попробуйте формализовать слово «вред».

ishua Jan 22 2009 at 16:37

ну скажем, по сути, это не «с простого» это как раз самое неопределенное слово в законах ;) остальные формализовать (к моменту когда понядобятся законы) вроде не сложно… :)

EiZeRR Jan 22 2009 at 16:41

«бездействие» и «человек» тоже легко формализовать?:)

khim Jan 22 2009 at 16:44

Гораздо, гораздо проще чем «вред».

ishua Jan 22 2009 at 16:49

Гораздо легче слова «вред» бездействие — это вообще простое для формализации слово — это обратное слову действию, то есть, робот не может не вмешиваться если причиняется вред.

Человек сложнее, но опять же куча формальных признаков, а вот слово «вред» самое сложное.

EiZeRR Jan 22 2009 at 16:51

ну действительно может и проще, однако сути это не меняет — законы есть, а формализовать их очень сложно

ishua Jan 22 2009 at 16:54

собственно, об этом я выше написал ;) но серьезно, самая заковырка именно в слове «вред», далеко не всегда человек может определить принесет он «вред» своим действием/бездействием или нет, запрограммировать это роботу еще сложнее…

vpbar Jan 22 2009 at 20:31

Ну если у меня получится создать ИИ, то я думаю слово вред оно поймет :)

ishua Jan 22 2009 at 21:55

вы так уверенны что сами абсолютно всегда можете определить, что вредно, а что нет?:)))

VDG Jan 22 2009 at 17:58

Бендер другого мнения :)

alexxprg Jan 23 2009 at 00:18

Построим свой ИИ с блэкджеком и… :)

UFO just landed and posted this here

l_nagash Jan 22 2009 at 13:54

«Да что это с ней?» — Джо нервно водил мышкой по столу, но реакции не было.
— Пять центов пожалуйста, — издала тоненький писк мышь…

Saben Jan 22 2009 at 14:00

Весело. А книгу почитаю, люблю такие жанры =)

VovixLDR Jan 22 2009 at 14:03

Лом и чья-то мать спасут жертву искусственного интеллекта:)

RusPutin Jan 22 2009 at 14:06

Хм. Интересно. Пойду поищу книгу. Спасибо.

malaka Jan 22 2009 at 14:57

кстати, кто помнит ещё незнайку на луне? гостиница «экономическая» – там ведь тоже такая фишка была, насчёт забросьте 5 этих, по моему, сантимов? или путаю что–то

morhveus Jan 22 2009 at 15:05

Сантиков.

Show the best of all time