lavmax Mar 2 2018 at 11:37

Первый контакт

5 min

15K

Professional literature*Science fiction

+21

Comments 32

Skerrigan Mar 2 2018 at 12:18

Ну… вроде бы не плохо (на мой вкус).

xlop-chik Mar 2 2018 at 13:03

жестоко… а где гарантии что этот ИИ втихаря не так же поступит со своими же колонизаторами?

alexxisr Mar 2 2018 at 13:46

Наверное в том, что выживание колонизаторов — это основная цель ИИ.

cicatrix Mar 2 2018 at 15:18

Осталось дать определение что есть колонизатор, что есть выживание, что есть вообще жизнь, и т. д.
Знаменитые три закона Азимова на практике нифига не сработают. Мы теоретизируем на тему искусственного интеллекта, но не можем дать даже чёткое определение того, что есть человек, чтобы эти три закона «запрограммировать».

super-guest Mar 3 2018 at 06:06

Как эти три «закона» вообще могут работать? Это всё философия или болтология, ни о каком программировании речи не идёт. Устал уже слышать про эти три «закона»…

Возьмите хоть робота, который катается по линии (из соседней статьи) — у него нет никаких «законов» в прошивке. Как вы вообще их туда засунете?
Чтобы робот их хотя бы понял, нужно дать ему столько определений (что такое человек, плохо, хорошо, практически каждое слово этих «законов» придётся как-то для него определить), а потом ещё и научить однозначно правильно трактовать любую ситуацию. Т.е. нужно сделать то, что даже люди сделать не могут до сих пор. Поэтому это даже не маниловщина, это просто ерунда какая-то, информационный мусор.

Давайте лучше пропишем в технические задания всегда ставить топор около главных проводов любого умного робота, который управляет домом, заводом, космическим кораблём (на случай, если понадобится взять контроль в свои руки).

geher Mar 3 2018 at 13:35

Все гораздо хуже.
Эти законы в принципе неработоспособны.
Возьмем ситуацию.
Первый человек пытается убить второго человека.
Робот может предотвратить убийство только убив первого.
По закону робот не имеет право причинить вред человеку действием (не может убить первого) или бездействием (должен убить первого, чтобы не причинить вред второму бездействием). В результате конфликт, решением которого может стать возможность таки причинить вред человеку. А если можно нарушить закон в одной ситуации, то всегда можно искусственно расширить рамки, допускающие нарушение, сколь угодно сильно.

ToshiruWang Mar 5 2018 at 11:32

«Хочешь посмотреть фейерверк? Смотри.
— Я убью его, точно убью, я не шучу. Смотри, жестянка, ты не сможешь мне помешать, придётся убить меня!!!
…
— У них всегда так красиво голова взрывается?
— Всегда.
»

NeuroHunter Mar 16 2018 at 12:57

Азимов в своих рассказах / романах красиво обходит эту проблему: после подобной ситуации робот, как правило, приходит в негодность из-за необратимого повреждения мозга.

geher Mar 16 2018 at 13:34

То, что робот у нас смертник, не отменяет факта нарушения закона.
Для усложнения ситуации можно добавить еще условие- гибель робота становится причиной смерти еще кучи людей, которой робот спешит на помощь.

Shpakov Mar 16 2018 at 13:08

Зачем такие крайности? Почему именно убить первого? Можно просто руку оторвать. Ну а после спасения второго приступить к спасению первого…

geher Mar 16 2018 at 14:35

Во-первых, "оторвать руку" тоже является причинением вреда.
Во-вторых, речь именно про убить (для устранения обратимости причиняемого вреда). Т.е. робот успевает только убить покушаегося, например, метнув киллеру в спину тяжелый предмет и свалив киллера тем самым с края крыши.

Впрочем, можно построить и другие ситуации.
Например, тест с вагонеткой или даже простая сортировка пострадавших ( кого спасти, а кому причинить вред бездействием).
Главное, что если у нас появляются какие-то исключения, их можно злонамеренно использовать против человека.

NeuroHunter Mar 16 2018 at 15:11

Такую ситуацию, на самом деле, легко представить, правда у меня всегда возникает 3 вопроса: насколько она штатная, что ожидается от человека, находящегося на месте робота и что сделает человек, окажись он на самом деле на месте этого робота (поскольку сам Азимов неодкратно подчеркивал, что «законы роботехники» ложатся на социально-ожидаемое поведение нормального человека)

mazahakajay Mar 3 2018 at 15:13

Ну как же )

Человек есть животное на двух ногах, лишённое перьев. и с плоскими ногтями ©

lavmax Mar 2 2018 at 13:53

Нет гарантий. Есть надежда.

IgorKolpakov Mar 2 2018 at 13:04

Кажется, я это уже читал. И, причем, на этом же ресурсе…

ToshiruWang Mar 2 2018 at 15:31

Абсолютно точно, там не было про замерзший ад (вроде), но «странные порции информации» оставили впечатление дежа-вю, а потом уже понял что именно в этом же рассказе и читал.

EighthMayer Mar 2 2018 at 13:29

Мне понравилось, но я точно где-то уже читал эту историю. Скорее всего в более сырой редакции, но тем не менее. Вы где-то ещё её публиковали?

lavmax Mar 2 2018 at 13:52

Все правильно. Рассказ был тут месяц назад, но получил много критики и был переработан. Надеюсь стал лучше.

UFO just landed and posted this here

lavmax Mar 2 2018 at 16:08

Ну я же человек :)

geher Mar 2 2018 at 15:23

Это наша Земля или какая-то абстрактная?
Просто непонятно, почему наша планета должна необоатимо превратиться в ледяной шар при сохранении возможности наладить жизнь на Марсе? Он дальше от Солнца, а потому получает меньше тепла.
Если Марс можно преобразовать в приемлемое состояние, то почему Землю нельзя?

ToshiruWang Mar 2 2018 at 15:33

Подозреваю что «Земля» и «китайцы» — это для прилетевших и их Марс и Земля могут быть другими, а для нас планета из рассказа — это наша Земля. «К нам приплывут конкистадоры, а мы будем индейцами».

lavmax Mar 2 2018 at 16:06

Можно подумать, что если мы будем конкистадорами, то индейцы не пострадают.

ToshiruWang Mar 2 2018 at 16:52

Так человеки ~~на этой планете~~в этой Вселенной одинаковые.

lavmax Mar 2 2018 at 16:07

Честно говоря это просто художественная абстракция не сильно важная для сути. Суть — что по каким то причинам надо валить.

plm Mar 2 2018 at 21:02

Остается странное впечатление какой-то негладкости. Как будто текст много раз правили, и выложили как только стало хоть как-то читаемо. Но на самом деле еще работать и работать…

mSnus Mar 3 2018 at 12:16

ИИ выдаёт правки к тексту странными порциями..

filja Mar 3 2018 at 00:17

Дык одеяла с оспой — это классика(некоторых).

Busla Mar 3 2018 at 11:20

Рассказ строится на наивном предположении, что без вируса был бы хэппи энд.
Только не был бы — полноценная колония очень быстро подавит местную цивилизацию. Поэтому откровение ИИ для вменяемого читателя не такая уж и неожиданность.

aionaion Mar 3 2018 at 11:36

Отличный рассказ. \(^_^ )/

SantaCluster Mar 3 2018 at 23:53

написано слегка суховато, как отчёт в бортжурнале погибшего корабля :) вполне в духе классиков. мне понравилось

mister_pibodi Mar 16 2018 at 19:27

Припоминаю, что в комиксе Blame ИИ подчинялся носителям сетевых терминальных генов, то есть людям. Принадлежность к людям определялась сканированием ДНК. Некий вирус настолько изменил ДНК почти у всех людей, что ИИ стал считать их чужаками и целенаправленно уничтожать (плохо спроектировано было, чё ещё сказать)

Show the best of all time