Комментарии 30
И вот только что было, несколько наивное, но такое искреннее пророчество с Софоклом.
Более всего я опасаюсь создателей AI (artificial intellect), но создающих AI (artificial idiots), при том, возомнивших себя Создателями.
Из кино — Двухсотлетний человек (в изумительном исполнении Робина Уильямса, царствие ему небесное).
Из прозы — Электрическое тело пою ( Рэя Брэдбери)
Как я уже привел- Гиперион и продолжения Дэна Симмонса.
Опять же кинематограф — HAL 9000
Каким оно станет, созданное нами?
Рабом? Другом? Высокомерным Богом над нами?
Надо ли нам пытаться создать Этого? Или это грех гордыни нашей, возомнивши себя богами?
При этом не забываем, что это аллюзия, до фактического прецедента предоставления прав полагаю мы не доживем. Рефлекторно-параноидальные нейросети (скайнет?) с предоставленными полномочиями и без признаков морали раньше сотрут нас в порошок, да и себя самоё тоже.
Ибо сказано: "Не сотвори машину, мыслящую по образу и подобию твоему".
Однако, Херберт.
Не уверен в точности цитаты, но все первые книги (которые точно авторства Фрэнка Херберта) этим просто пропитаны.
У Ливадного в его серии "Экспансия" были автономные боевые шагающие роботы класса "Фалангер" и классом поменьше ""Raven", различные кибердокторы например в том же "Эндимионе" Дэна Симмонса
ИИ часто приписывают человеческие мотивации, которые человек наследует в геноме от родителей. У ИИ нет родителей, нет необходимых для живого человека наследуемых психических программ, которые помогали людям и их далеким предкам выживать сотни тысяч и миллионы лет.
Конечно, если сверхмощной машине приписывать наличие реально отсутствующих у нее человеческих психических программ это может быть страшно. Это все равно что вашего милого домашнего котика увеличить всего в 100 раз. Когда у него будет плохое настроение или он будет в слишком игривом настроении, вы можете быстро лишиться жизни рядом с таким зверем. А в обычной же жизни часто проблема почти не заметно решается тапком или еще чем похожим. И с хомячками такое построение тоже работает. Только увеличить надо в 10000 раз.
Убивает не оружие, убивает человек. Давят пешеходов не машины, а люди за рулем.
Что касается прав ИИ. Какие права могут быть у пылесосов или стиральных машин? Сами права появляются именно как следствие необходимости нормального сосуществования живых особей у которых в голове присутствует целый арсенал унаследованных психических программ и воспитанных в человеческой культуре. Не помещайтие в пылесосы задания на самосохранение и типа того. Не надо будет им выдавать права.
По причине необходимости драматизации фильмов и худ. произведений часто ИИ рисуют опасным, кровожадным, убивающим людей и т.п.
Причина ещё и в том что ИИ (как и инопланетяне, к слову) это очень удобный образ врага. Он щекочет нашу ксенофобскую сторону, он не выглядит человечным, на него не распространяются сочувствие и этика… Главные герои в результате могут тврить на экране с противником что угодно не опасаясь того что зрители найдут эти действия аморальными или отвратительными. Они же не людей убивают.
Самостоятельно у ИИ никакая мотивация взяться ни откуда не может.С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация?
С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация.Этими вопросами занимается биология. Она отлично отвечает на этот вопрос. Прежде всего потому, что организмы с отсутствием заданных мотиваций быстро бы перестали бы есть, пить, попадали с обрывов и погибли бы от хищников или своих же собратьев.
Биология — это всего лишь профилированная надстройка над химией.С точки зрения химии тоже пока непонятно — откуда у кучки органических молекул взялась мотивация.Этими вопросами занимается биология. Она отлично отвечает на этот вопрос.
Возьмем углерод — в определенных условиях он кристаллизуется, алмаз — образец «неживого». При соединении с водородом получается «органика».
В какой момент органика начинает быть «живой»?
То есть кормиться и размножаться? Что говорит биология на этот счет?
Именно про переход от «неживого» к «живому». Откуда взялась «мотивация»?
С точки зрения вероятности более реален в вариант что скачок напряжения «перетряхнет» ОЗУ в каком-нибудь суперкомпьютере и он «оживет».
Просто некоторые моллекулы хорошо самореплицировались, а когда объединились в комплексы имели дополнительные свойства, которые помогали им еще лучше реплицироваться. Те, которые не имели «мотивации», просто не сохранились изначально. Вот и весь секретОбратите внимание как точно Вы сейчас описали жизненный цикл полиморфного вируса. Антивирусы вносят сигнатуры в базы, а вирус
PS Даже чисто теоретически мы не можем рассчитывать что программа будет работать именно так как её запрограммировали. Мы используем, для удобства, абстракцию что компьютером обрабатываются точные сигналы «0» и «1», на самом деле обрабатывается вероятность сигналов «0» и «1». Конечно есть алгоритмы коррекции ошибок, но на достаточно длинном промежутке времени
Проблема ИИ в том, что "воспитывают" его люди.
Вспоминается история, как какой-то чат-бот на ИИ быстро "научили плохому" в результате простого общения в сети.
Да, например, бот «Тинькофф банка» пригрозил отрезать пальцы клиентке, а созданный в США робот пообещал уничтожить человечество.
Поразил заключительный вопрос. Хэнсон поинтересовался, не собирается ли София в будущем уничтожить людей. Ответ, явно неожиданно для создателя, оказался положительным. «Я уничтожу человечество», — сказала София.По ходу её программировали специалисты из нашего ПФР.
София является наиболее совершенной моделью. Ее создали для работы в сфере здравоохранения и образования.
"2019: Роботизированная кухня Moley — способна приготовить еду и затем убрать за собой."
Есть хоть какие-то подтверждения, что кухня Moley действительно на это способна? В ютуб нашел пару рекламные роликов с актёрами и тщательно смонтированными фрагментами, по которым невозможно оценить работоспособность реализации (количество разбитой посуды, пролитых ингредиентов и т.п. за сеанс). Кстати, почему в статье 2019 год? Этим роликам про Moley уже несколько лет, что такого произошло в 2019 году?
Под заголовком есть ссылка на оригинал, если Вам действительно хочется выяснить «а на каком основании?» — в принципе, Вы можете попробовать связаться с автором первоисточника.
Там есть и другие ляпы с датами. Над заголовком «Гугл Ассистент Режим переводчика» указан год 2019, а под ним сказано, что он был презентован в 2017 году. В общем, создатель инфографики с точными датами не парился.
Как написано на сайте, в 2015 году был представлен прототип, затем несколько лет шла разработка технологии, в этом 2019 году заявлено о создании «версии для потребителей», а в 2020 году обещают её уже продавать.
[Инфографика] Искусственный интеллект в научной фантастике