Первый контакт

[Skerrigan]

Ну… вроде бы не плохо (на мой вкус).

[xlop-chik]

жестоко… а где гарантии что этот ИИ втихаря не так же поступит со своими же колонизаторами?

[alexxisr]

Наверное в том, что выживание колонизаторов — это основная цель ИИ.

[cicatrix]

Осталось дать определение что есть колонизатор, что есть выживание, что есть вообще жизнь, и т. д.
Знаменитые три закона Азимова на практике нифига не сработают. Мы теоретизируем на тему искусственного интеллекта, но не можем дать даже чёткое определение того, что есть человек, чтобы эти три закона «запрограммировать».

[super-guest]

Как эти три «закона» вообще могут работать? Это всё философия или болтология, ни о каком программировании речи не идёт. Устал уже слышать про эти три «закона»…

Возьмите хоть робота, который катается по линии (из соседней статьи) — у него нет никаких «законов» в прошивке. Как вы вообще их туда засунете?
Чтобы робот их хотя бы понял, нужно дать ему столько определений (что такое человек, плохо, хорошо, практически каждое слово этих «законов» придётся как-то для него определить), а потом ещё и научить однозначно правильно трактовать любую ситуацию. Т.е. нужно сделать то, что даже люди сделать не могут до сих пор. Поэтому это даже не маниловщина, это просто ерунда какая-то, информационный мусор.

Давайте лучше пропишем в технические задания всегда ставить топор около главных проводов любого умного робота, который управляет домом, заводом, космическим кораблём (на случай, если понадобится взять контроль в свои руки).

[geher]

Все гораздо хуже.
Эти законы в принципе неработоспособны.
Возьмем ситуацию.
Первый человек пытается убить второго человека.
Робот может предотвратить убийство только убив первого.
По закону робот не имеет право причинить вред человеку действием (не может убить первого) или бездействием (должен убить первого, чтобы не причинить вред второму бездействием). В результате конфликт, решением которого может стать возможность таки причинить вред человеку. А если можно нарушить закон в одной ситуации, то всегда можно искусственно расширить рамки, допускающие нарушение, сколь угодно сильно.

[ToshiruWang]

«Хочешь посмотреть фейерверк? Смотри.
— Я убью его, точно убью, я не шучу. Смотри, жестянка, ты не сможешь мне помешать, придётся убить меня!!!
…
— У них всегда так красиво голова взрывается?
— Всегда.
»

[geher]

То, что робот у нас смертник, не отменяет факта нарушения закона.
Для усложнения ситуации можно добавить еще условие- гибель робота становится причиной смерти еще кучи людей, которой робот спешит на помощь.

[Shpakov]

Зачем такие крайности? Почему именно убить первого? Можно просто руку оторвать. Ну а после спасения второго приступить к спасению первого…

[geher]

Во-первых, "оторвать руку" тоже является причинением вреда.
Во-вторых, речь именно про убить (для устранения обратимости причиняемого вреда). Т.е. робот успевает только убить покушаегося, например, метнув киллеру в спину тяжелый предмет и свалив киллера тем самым с края крыши.

Впрочем, можно построить и другие ситуации.
Например, тест с вагонеткой или даже простая сортировка пострадавших ( кого спасти, а кому причинить вред бездействием).
Главное, что если у нас появляются какие-то исключения, их можно злонамеренно использовать против человека.

[mazahakajay]

Ну как же )

Человек есть животное на двух ногах, лишённое перьев. и с плоскими ногтями ©

[lavmax]

Нет гарантий. Есть надежда.

[IgorKolpakov]

Кажется, я это уже читал. И, причем, на этом же ресурсе…

[ToshiruWang]

Абсолютно точно, там не было про замерзший ад (вроде), но «странные порции информации» оставили впечатление дежа-вю, а потом уже понял что именно в этом же рассказе и читал.

[EighthMayer]

Мне понравилось, но я точно где-то уже читал эту историю. Скорее всего в более сырой редакции, но тем не менее. Вы где-то ещё её публиковали?

[lavmax]

Все правильно. Рассказ был тут месяц назад, но получил много критики и был переработан. Надеюсь стал лучше.

[lavmax]

Ну я же человек :)

[geher]

Это наша Земля или какая-то абстрактная?
Просто непонятно, почему наша планета должна необоатимо превратиться в ледяной шар при сохранении возможности наладить жизнь на Марсе? Он дальше от Солнца, а потому получает меньше тепла.
Если Марс можно преобразовать в приемлемое состояние, то почему Землю нельзя?

[ToshiruWang]

Подозреваю что «Земля» и «китайцы» — это для прилетевших и их Марс и Земля могут быть другими, а для нас планета из рассказа — это наша Земля. «К нам приплывут конкистадоры, а мы будем индейцами».

[lavmax]

Можно подумать, что если мы будем конкистадорами, то индейцы не пострадают.

[ToshiruWang]

Так человеки на этой планетев этой Вселенной одинаковые.

[lavmax]

Честно говоря это просто художественная абстракция не сильно важная для сути. Суть — что по каким то причинам надо валить.

[plm]

Остается странное впечатление какой-то негладкости. Как будто текст много раз правили, и выложили как только стало хоть как-то читаемо. Но на самом деле еще работать и работать…

[mSnus]

ИИ выдаёт правки к тексту странными порциями..

[filja]

Дык одеяла с оспой — это классика(некоторых).

[Busla]

Рассказ строится на наивном предположении, что без вируса был бы хэппи энд.
Только не был бы — полноценная колония очень быстро подавит местную цивилизацию. Поэтому откровение ИИ для вменяемого читателя не такая уж и неожиданность.

[aionaion]

Отличный рассказ. \(^_^ )/

[SantaCluster]

написано слегка суховато, как отчёт в бортжурнале погибшего корабля :) вполне в духе классиков. мне понравилось

[mister_pibodi]

Припоминаю, что в комиксе Blame ИИ подчинялся носителям сетевых терминальных генов, то есть людям. Принадлежность к людям определялась сканированием ДНК. Некий вирус настолько изменил ДНК почти у всех людей, что ИИ стал считать их чужаками и целенаправленно уничтожать (плохо спроектировано было, чё ещё сказать)