Комментарии 30
А как же ИскИны Дэна Симмонса?
И вот только что было, несколько наивное, но такое искреннее пророчество с Софоклом.
Более всего я опасаюсь создателей AI (artificial intellect), но создающих AI (artificial idiots), при том, возомнивших себя Создателями.
И вот только что было, несколько наивное, но такое искреннее пророчество с Софоклом.
Более всего я опасаюсь создателей AI (artificial intellect), но создающих AI (artificial idiots), при том, возомнивших себя Создателями.
Хэхэ… ну, для начала
Из кино — Двухсотлетний человек (в изумительном исполнении Робина Уильямса, царствие ему небесное).
Из прозы — Электрическое тело пою ( Рэя Брэдбери)
Как я уже привел- Гиперион и продолжения Дэна Симмонса.
Опять же кинематограф — HAL 9000
Каким оно станет, созданное нами?
Рабом? Другом? Высокомерным Богом над нами?
Надо ли нам пытаться создать Этого? Или это грех гордыни нашей, возомнивши себя богами?
Из кино — Двухсотлетний человек (в изумительном исполнении Робина Уильямса, царствие ему небесное).
Из прозы — Электрическое тело пою ( Рэя Брэдбери)
Как я уже привел- Гиперион и продолжения Дэна Симмонса.
Опять же кинематограф — HAL 9000
Каким оно станет, созданное нами?
Рабом? Другом? Высокомерным Богом над нами?
Надо ли нам пытаться создать Этого? Или это грех гордыни нашей, возомнивши себя богами?
Могу сказать только об образе, созданном Робином Уильямсом- в конце фильма я сопереживал ему, как человеку, но не роботу — сущности, отказавшейся от бессмертия в жертву человечности, но это гениальный актёр, гениальный автор.
При этом не забываем, что это аллюзия, до фактического прецедента предоставления прав полагаю мы не доживем. Рефлекторно-параноидальные нейросети (скайнет?) с предоставленными полномочиями и без признаков морали раньше сотрут нас в порошок, да и себя самоё тоже.
При этом не забываем, что это аллюзия, до фактического прецедента предоставления прав полагаю мы не доживем. Рефлекторно-параноидальные нейросети (скайнет?) с предоставленными полномочиями и без признаков морали раньше сотрут нас в порошок, да и себя самоё тоже.
И, как всегда, добавлю ложку известной субстанции к фильму. Постановка, игра актёров — всё шикарно, НО! сюжет выбросили на помойку сократив на 1/3 как минимум. Остальное переврали. Эндрю мог вырезать из дерева (и не только) фигурки (творить), но не было у Азека романтической линии в этом повествовании — раз, «маленькая барышня» давно себе тихонечко спала вечным сном в своём уютненьком гробу, когда Эндрю решил произвести операцию по искуственной деградации позитронного мозга — два, и не было отлучки из семьи на дофига времени, тело ему сделала Компания — три. В принципе сюжетных нестыковок я могу ещё дофига привести.
Ибо сказано: "Не сотвори машину, мыслящую по образу и подобию твоему".
Однако, Херберт.
Не уверен в точности цитаты, но все первые книги (которые точно авторства Фрэнка Херберта) этим просто пропитаны.
У Ливадного в его серии "Экспансия" были автономные боевые шагающие роботы класса "Фалангер" и классом поменьше ""Raven", различные кибердокторы например в том же "Эндимионе" Дэна Симмонса
В «Приключениях Электроника» «Рэсси — неуловимый друг» есть интересный момент. Электроник создает другую машину с интеллектом — собаку Рэсси.
По причине необходимости драматизации фильмов и худ. произведений часто ИИ рисуют опасным, кровожадным, убивающим людей и т.п. Что же реально может представлять опасность, так это команды отданные ИИ разработчиками или условными хозяевами трактуемые ИИ как задания с высшим приоритетом, честное выполнение которых и может вызвать такое поведение. Для того, чтобы объяснить ИИ какую либо задачу или тип поведения, которое может стать его личной мотивацей в реальности надо будет очень постараться. Если этого не делать, ИИ может честно оставаться просто высокоинтеллектуальным пылесосом. Что собственно ожидается и требуется. Самостоятельно у ИИ никакая мотивация взяться ни откуда не может.
ИИ часто приписывают человеческие мотивации, которые человек наследует в геноме от родителей. У ИИ нет родителей, нет необходимых для живого человека наследуемых психических программ, которые помогали людям и их далеким предкам выживать сотни тысяч и миллионы лет.
Конечно, если сверхмощной машине приписывать наличие реально отсутствующих у нее человеческих психических программ это может быть страшно. Это все равно что вашего милого домашнего котика увеличить всего в 100 раз. Когда у него будет плохое настроение или он будет в слишком игривом настроении, вы можете быстро лишиться жизни рядом с таким зверем. А в обычной же жизни часто проблема почти не заметно решается тапком или еще чем похожим. И с хомячками такое построение тоже работает. Только увеличить надо в 10000 раз.
Убивает не оружие, убивает человек. Давят пешеходов не машины, а люди за рулем.
Что касается прав ИИ. Какие права могут быть у пылесосов или стиральных машин? Сами права появляются именно как следствие необходимости нормального сосуществования живых особей у которых в голове присутствует целый арсенал унаследованных психических программ и воспитанных в человеческой культуре. Не помещайтие в пылесосы задания на самосохранение и типа того. Не надо будет им выдавать права.
ИИ часто приписывают человеческие мотивации, которые человек наследует в геноме от родителей. У ИИ нет родителей, нет необходимых для живого человека наследуемых психических программ, которые помогали людям и их далеким предкам выживать сотни тысяч и миллионы лет.
Конечно, если сверхмощной машине приписывать наличие реально отсутствующих у нее человеческих психических программ это может быть страшно. Это все равно что вашего милого домашнего котика увеличить всего в 100 раз. Когда у него будет плохое настроение или он будет в слишком игривом настроении, вы можете быстро лишиться жизни рядом с таким зверем. А в обычной же жизни часто проблема почти не заметно решается тапком или еще чем похожим. И с хомячками такое построение тоже работает. Только увеличить надо в 10000 раз.
Убивает не оружие, убивает человек. Давят пешеходов не машины, а люди за рулем.
Что касается прав ИИ. Какие права могут быть у пылесосов или стиральных машин? Сами права появляются именно как следствие необходимости нормального сосуществования живых особей у которых в голове присутствует целый арсенал унаследованных психических программ и воспитанных в человеческой культуре. Не помещайтие в пылесосы задания на самосохранение и типа того. Не надо будет им выдавать права.
По причине необходимости драматизации фильмов и худ. произведений часто ИИ рисуют опасным, кровожадным, убивающим людей и т.п.
Причина ещё и в том что ИИ (как и инопланетяне, к слову) это очень удобный образ врага. Он щекочет нашу ксенофобскую сторону, он не выглядит человечным, на него не распространяются сочувствие и этика… Главные герои в результате могут тврить на экране с противником что угодно не опасаясь того что зрители найдут эти действия аморальными или отвратительными. Они же не людей убивают.
Самостоятельно у ИИ никакая мотивация взяться ни откуда не может.С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация?
Ну так и теория игры в шахматы или ядерная физики тоже никак не смогут ответить на этот вопрос. В своей области изучения химия не содержит вопросы рождения организмов и наследования ими свойств. Также она не содержат области где изучается эволюция организмов. Именно поэтому:
С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация.Этими вопросами занимается биология. Она отлично отвечает на этот вопрос. Прежде всего потому, что организмы с отсутствием заданных мотиваций быстро бы перестали бы есть, пить, попадали с обрывов и погибли бы от хищников или своих же собратьев.
Биология — это всего лишь профилированная надстройка над химией.С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация.Этими вопросами занимается биология. Она отлично отвечает на этот вопрос.
Возьмем углерод — в определенных условиях он кристаллизуется, алмаз — образец «неживого». При соединении с водородом получается «органика».
В какой момент органика начинает быть «живой»?
То есть кормиться и размножаться? Что говорит биология на этот счет?
Именно про переход от «неживого» к «живому». Откуда взялась «мотивация»?
С точки зрения вероятности более реален в вариант что скачок напряжения «перетряхнет» ОЗУ в каком-нибудь суперкомпьютере и он «оживет».
НЛО прилетело и опубликовало эту надпись здесь
Просто некоторые моллекулы хорошо самореплицировались, а когда объединились в комплексы имели дополнительные свойства, которые помогали им еще лучше реплицироваться. Те, которые не имели «мотивации», просто не сохранились изначально. Вот и весь секретОбратите внимание как точно Вы сейчас описали жизненный цикл полиморфного вируса. Антивирусы вносят сигнатуры в базы, а вирус
PS Даже чисто теоретически мы не можем рассчитывать что программа будет работать именно так как её запрограммировали. Мы используем, для удобства, абстракцию что компьютером обрабатываются точные сигналы «0» и «1», на самом деле обрабатывается вероятность сигналов «0» и «1». Конечно есть алгоритмы коррекции ошибок, но на достаточно длинном промежутке времени
Проблема ИИ в том, что "воспитывают" его люди.
Вспоминается история, как какой-то чат-бот на ИИ быстро "научили плохому" в результате простого общения в сети.
Да, например, бот «Тинькофф банка» пригрозил отрезать пальцы клиентке, а созданный в США робот пообещал уничтожить человечество.
Поразил заключительный вопрос. Хэнсон поинтересовался, не собирается ли София в будущем уничтожить людей. Ответ, явно неожиданно для создателя, оказался положительным. «Я уничтожу человечество», — сказала София.По ходу её программировали специалисты из нашего ПФР.
София является наиболее совершенной моделью. Ее создали для работы в сфере здравоохранения и образования.
"2019: Роботизированная кухня Moley — способна приготовить еду и затем убрать за собой."
Есть хоть какие-то подтверждения, что кухня Moley действительно на это способна? В ютуб нашел пару рекламные роликов с актёрами и тщательно смонтированными фрагментами, по которым невозможно оценить работоспособность реализации (количество разбитой посуды, пролитых ингредиентов и т.п. за сеанс). Кстати, почему в статье 2019 год? Этим роликам про Moley уже несколько лет, что такого произошло в 2019 году?
Как Вы, возможно, заметили, это перевод. Старался переводить литературно, но в самой статье нигде сути не менял и каждый факт на соответствие дотошно не проверял. За что купил — за то и продаю.
Под заголовком есть ссылка на оригинал, если Вам действительно хочется выяснить «а на каком основании?» — в принципе, Вы можете попробовать связаться с автором первоисточника.
Там есть и другие ляпы с датами. Над заголовком «Гугл Ассистент Режим переводчика» указан год 2019, а под ним сказано, что он был презентован в 2017 году. В общем, создатель инфографики с точными датами не парился.
Под заголовком есть ссылка на оригинал, если Вам действительно хочется выяснить «а на каком основании?» — в принципе, Вы можете попробовать связаться с автором первоисточника.
Там есть и другие ляпы с датами. Над заголовком «Гугл Ассистент Режим переводчика» указан год 2019, а под ним сказано, что он был презентован в 2017 году. В общем, создатель инфографики с точными датами не парился.
Нашёл официальный сайт Молли.
Как написано на сайте, в 2015 году был представлен прототип, затем несколько лет шла разработка технологии, в этом 2019 году заявлено о создании «версии для потребителей», а в 2020 году обещают её уже продавать.
Как написано на сайте, в 2015 году был представлен прототип, затем несколько лет шла разработка технологии, в этом 2019 году заявлено о создании «версии для потребителей», а в 2020 году обещают её уже продавать.
Рекомендую на эту тему почитать Станислава Лема «Сумма Технологий».
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
[Инфографика] Искусственный интеллект в научной фантастике