Как стать автором
Обновить

Комментарии 30

А как же ИскИны Дэна Симмонса?
И вот только что было, несколько наивное, но такое искреннее пророчество с Софоклом.
Более всего я опасаюсь создателей AI (artificial intellect), но создающих AI (artificial idiots), при том, возомнивших себя Создателями.
Авторы этой инфографики использовали только кино и сериалы. Если у Вас есть интересная информация о том как ИИ описан в книжной НФ — что ж, поделитесь, очень интересная тема.

А как же Culture Minds?

Хэхэ… ну, для начала
Из кино — Двухсотлетний человек (в изумительном исполнении Робина Уильямса, царствие ему небесное).
Из прозы — Электрическое тело пою ( Рэя Брэдбери)
Как я уже привел- Гиперион и продолжения Дэна Симмонса.
Опять же кинематограф — HAL 9000

Каким оно станет, созданное нами?
Рабом? Другом? Высокомерным Богом над нами?
Надо ли нам пытаться создать Этого? Или это грех гордыни нашей, возомнивши себя богами?

Ну тогда каково Ваше мнение: Эндрю действительно стал человеком? И насколько уместно будет бессмертным андроидам будущего предоставлять юридические права и обязанности наравне с людьми?
Изобретение электричества это грех гордыни, люди возомнили что подобно богам могут метать молнии?
Могу сказать только об образе, созданном Робином Уильямсом- в конце фильма я сопереживал ему, как человеку, но не роботу — сущности, отказавшейся от бессмертия в жертву человечности, но это гениальный актёр, гениальный автор.
При этом не забываем, что это аллюзия, до фактического прецедента предоставления прав полагаю мы не доживем. Рефлекторно-параноидальные нейросети (скайнет?) с предоставленными полномочиями и без признаков морали раньше сотрут нас в порошок, да и себя самоё тоже.
И, как всегда, добавлю ложку известной субстанции к фильму. Постановка, игра актёров — всё шикарно, НО! сюжет выбросили на помойку сократив на 1/3 как минимум. Остальное переврали. Эндрю мог вырезать из дерева (и не только) фигурки (творить), но не было у Азека романтической линии в этом повествовании — раз, «маленькая барышня» давно себе тихонечко спала вечным сном в своём уютненьком гробу, когда Эндрю решил произвести операцию по искуственной деградации позитронного мозга — два, и не было отлучки из семьи на дофига времени, тело ему сделала Компания — три. В принципе сюжетных нестыковок я могу ещё дофига привести.

Ибо сказано: "Не сотвори машину, мыслящую по образу и подобию твоему".
Однако, Херберт.
Не уверен в точности цитаты, но все первые книги (которые точно авторства Фрэнка Херберта) этим просто пропитаны.

Создание сильного ИИ неизбежно, в независимости от того, предостерегают ли от этого уважаемые писатели или нет.

У Ливадного в его серии "Экспансия" были автономные боевые шагающие роботы класса "Фалангер" и классом поменьше ""Raven", различные кибердокторы например в том же "Эндимионе" Дэна Симмонса

Ворон у Ливадного появился позже. Сначала вроде были Гоплит и Фалангер.
Были они, кстати, не сразу автономными, а только после разработки системы "Одиночка". И автономность эта была на технологии, ныне недоступной — отпечаток личности пилота в специальной подсистеме.

Интересно, а кем был Шрайк

Так вроде в третьей книге говорится об этом.

Не помню такого. Упоминается разве что части личности Федмана Кассада были использованы

В «Приключениях Электроника» «Рэсси — неуловимый друг» есть интересный момент. Электроник создает другую машину с интеллектом — собаку Рэсси.
По причине необходимости драматизации фильмов и худ. произведений часто ИИ рисуют опасным, кровожадным, убивающим людей и т.п. Что же реально может представлять опасность, так это команды отданные ИИ разработчиками или условными хозяевами трактуемые ИИ как задания с высшим приоритетом, честное выполнение которых и может вызвать такое поведение. Для того, чтобы объяснить ИИ какую либо задачу или тип поведения, которое может стать его личной мотивацей в реальности надо будет очень постараться. Если этого не делать, ИИ может честно оставаться просто высокоинтеллектуальным пылесосом. Что собственно ожидается и требуется. Самостоятельно у ИИ никакая мотивация взяться ни откуда не может.
ИИ часто приписывают человеческие мотивации, которые человек наследует в геноме от родителей. У ИИ нет родителей, нет необходимых для живого человека наследуемых психических программ, которые помогали людям и их далеким предкам выживать сотни тысяч и миллионы лет.
Конечно, если сверхмощной машине приписывать наличие реально отсутствующих у нее человеческих психических программ это может быть страшно. Это все равно что вашего милого домашнего котика увеличить всего в 100 раз. Когда у него будет плохое настроение или он будет в слишком игривом настроении, вы можете быстро лишиться жизни рядом с таким зверем. А в обычной же жизни часто проблема почти не заметно решается тапком или еще чем похожим. И с хомячками такое построение тоже работает. Только увеличить надо в 10000 раз.
Убивает не оружие, убивает человек. Давят пешеходов не машины, а люди за рулем.
Что касается прав ИИ. Какие права могут быть у пылесосов или стиральных машин? Сами права появляются именно как следствие необходимости нормального сосуществования живых особей у которых в голове присутствует целый арсенал унаследованных психических программ и воспитанных в человеческой культуре. Не помещайтие в пылесосы задания на самосохранение и типа того. Не надо будет им выдавать права.
По причине необходимости драматизации фильмов и худ. произведений часто ИИ рисуют опасным, кровожадным, убивающим людей и т.п.

Причина ещё и в том что ИИ (как и инопланетяне, к слову) это очень удобный образ врага. Он щекочет нашу ксенофобскую сторону, он не выглядит человечным, на него не распространяются сочувствие и этика… Главные герои в результате могут тврить на экране с противником что угодно не опасаясь того что зрители найдут эти действия аморальными или отвратительными. Они же не людей убивают.
Самостоятельно у ИИ никакая мотивация взяться ни откуда не может.
С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация?
Ну так и теория игры в шахматы или ядерная физики тоже никак не смогут ответить на этот вопрос. В своей области изучения химия не содержит вопросы рождения организмов и наследования ими свойств. Также она не содержат области где изучается эволюция организмов. Именно поэтому:
С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация.
Этими вопросами занимается биология. Она отлично отвечает на этот вопрос. Прежде всего потому, что организмы с отсутствием заданных мотиваций быстро бы перестали бы есть, пить, попадали с обрывов и погибли бы от хищников или своих же собратьев.
С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация.
Этими вопросами занимается биология. Она отлично отвечает на этот вопрос.
Биология — это всего лишь профилированная надстройка над химией.
Возьмем углерод — в определенных условиях он кристаллизуется, алмаз — образец «неживого». При соединении с водородом получается «органика».
В какой момент органика начинает быть «живой»?
То есть кормиться и размножаться? Что говорит биология на этот счет?
Именно про переход от «неживого» к «живому». Откуда взялась «мотивация»?

С точки зрения вероятности более реален в вариант что скачок напряжения «перетряхнет» ОЗУ в каком-нибудь суперкомпьютере и он «оживет».
Откуда взялась «мотивация»?

Это ошибка выжившего. Мотивация ни откуда не взялась. Просто некоторые моллекулы хорошо самореплицировались, а когда объединились в комплексы имели дополнительные свойства, которые помогали им еще лучше реплицироваться. Те, которые не имели «мотивации», просто ен сохранились изначально. Вот и весь секрет
Просто некоторые моллекулы хорошо самореплицировались, а когда объединились в комплексы имели дополнительные свойства, которые помогали им еще лучше реплицироваться. Те, которые не имели «мотивации», просто не сохранились изначально. Вот и весь секрет
Обратите внимание как точно Вы сейчас описали жизненный цикл полиморфного вируса. Антивирусы вносят сигнатуры в базы, а вирус фаломорфирует изменяет свою структуру пытаясь заполнить ареал. Причем человек сам старается ускорить этот процесс изобретая все более хитрожёлтые алгоритмы. Как только производительность процессоров перейдет на новый уровень — здравствуй сингулярность. ИИ уже сам сможет ставить себе задачи и не факт что они будут направлены на благополучие человеков. (Хотя даже если и будут, то не факт что это лучше — вспомните «роботов-вершителей», которые заботились о людях и делали их «счастливыми»). Возможно ИИ просто займется собой, например «оптимизирует» окружающую среду — избавится от воды, чтобы железный зад Бендера не ржавел. ))

PS Даже чисто теоретически мы не можем рассчитывать что программа будет работать именно так как её запрограммировали. Мы используем, для удобства, абстракцию что компьютером обрабатываются точные сигналы «0» и «1», на самом деле обрабатывается вероятность сигналов «0» и «1». Конечно есть алгоритмы коррекции ошибок, но на достаточно длинном промежутке времени миллион обезьян напечатает «Войну и Мир» «некоторые алгоритмы начнут хорошо самореплицироватся, а когда объединятся в комплексы, то получат дополнительные свойства, которые помогут им еще лучше реплицироваться»

Проблема ИИ в том, что "воспитывают" его люди.
Вспоминается история, как какой-то чат-бот на ИИ быстро "научили плохому" в результате простого общения в сети.

Да, например, бот «Тинькофф банка» пригрозил отрезать пальцы клиентке, а созданный в США робот пообещал уничтожить человечество.
image

Поразил заключительный вопрос. Хэнсон поинтересовался, не собирается ли София в будущем уничтожить людей. Ответ, явно неожиданно для создателя, оказался положительным. «Я уничтожу человечество», — сказала София.
София является наиболее совершенной моделью. Ее создали для работы в сфере здравоохранения и образования.
По ходу её программировали специалисты из нашего ПФР.

"2019: Роботизированная кухня Moley — способна приготовить еду и затем убрать за собой."
Есть хоть какие-то подтверждения, что кухня Moley действительно на это способна? В ютуб нашел пару рекламные роликов с актёрами и тщательно смонтированными фрагментами, по которым невозможно оценить работоспособность реализации (количество разбитой посуды, пролитых ингредиентов и т.п. за сеанс). Кстати, почему в статье 2019 год? Этим роликам про Moley уже несколько лет, что такого произошло в 2019 году?

Как Вы, возможно, заметили, это перевод. Старался переводить литературно, но в самой статье нигде сути не менял и каждый факт на соответствие дотошно не проверял. За что купил — за то и продаю.

Под заголовком есть ссылка на оригинал, если Вам действительно хочется выяснить «а на каком основании?» — в принципе, Вы можете попробовать связаться с автором первоисточника.

Там есть и другие ляпы с датами. Над заголовком «Гугл Ассистент Режим переводчика» указан год 2019, а под ним сказано, что он был презентован в 2017 году. В общем, создатель инфографики с точными датами не парился.
Нашёл официальный сайт Молли.
Как написано на сайте, в 2015 году был представлен прототип, затем несколько лет шла разработка технологии, в этом 2019 году заявлено о создании «версии для потребителей», а в 2020 году обещают её уже продавать.
Рекомендую на эту тему почитать Станислава Лема «Сумма Технологий».
Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.