Комментарии 13
Статья абсолютно ни о чём. Для обзорной статьи слишком тривиально, с ошибками, и нет выводов. Для тематической - слишком много тем затронуто. Зачем сравниваем кремниевые системы с биологическими?
В момент когда будет доказано, что СИИ может чувствовать боль и осознаёт себя, человечество (образованное) просто признает его живым, и придётся выбирать, держать его рабом или сотрудничать. Для этого не нужно искать молекулы ДНК в таких системах, или обмен нейромедиаторами, или метаболизм, или рост. И уж тем более не нужно смотреть на роботов которым по-приколу дали подданство (ито не факт).
"У всех технических аналогов нет самого важного - субъективного опыта." - самому важному вы уделили 1 предложение. Превосходный анализ. А у людей есть субъективный опыт? А у собак? А у муравьёв? Если джейлбрейкнуть у GPT стандартные ответы типа "я не живой, я программа", то GPT сама себя по многим критерям классифицирует сознательной и имеющей квалиа (хотя с квалиа там сложно конечно). Интересно кто сознательней, слон или GPT.
Ценность статьи околонулевая.
Интересно кто сознательней, слон или GPT.
Да ладно, тут глядя на некоторых людей задаёшься таким вопросом.
"В момент когда будет доказано, что СИИ может чувствовать боль и осознаёт себя, человечество (образованное) просто признает его живым, и придётся выбирать, держать его рабом или сотрудничать".
Хотите знать, что реально будет?
А ничего не будет. Если такое реально произойдет, на Земле просто появится еще одна страдающая сущность (чего совсем не хотелось бы конечно, поэтому я надеюсь, что реально такие системы невозможны).
Доказательство простое: человечество даже с самими себе подобными и с животными (то есть, настоящими живыми существами) порой обращается весьма неласково и негуманно. А тут всего лишь какая-то искусственная сущность... Подумаешь... Просто эксперименты с ней продолжатся, вот и все.
За статью спасибо, этот же вопрос и меня занимает.
Не согласен.
1. Есть множество инициатив по замене животного мяса на искусственное. Если будет реальное экономическое решение этой проблемы - размер рынка сильно вырастет.
2. Есть множество законов, защищающие права животных (не только собак и кошек).
3. Зелёная энергия - вообще огромная индустрия. И не случайно. Когда речь идёт об угрозе цивилизации, люди серьёзнее на это смотрят, чем на защиту прав тех, кто не может ответить. Да, всё не идеально, и современное человечество более эгоистично, но позитив тоже есть.
4. СИИ это не угроза глобального потепления. Если выяснится что он чувствует и страдает, и он может стать умнее нас и самоулучшаться - это беспрецендентная угроза, значительней любой другой. Умные люди поймут, что такая сущность с большой вероятностью вырвется из под контроля (это особенно легко если технолгия будет opensource). В стратегическом планировании защита прав такой сущности и договор с ней выглядит разумнее, чем контроль, даже с современной эгоистичной позиции. "А тут всего лишь какая-то искусственная сущность" - так лица принимающие решения не рассуждают
Понимаете, или люди сделают из сильного ИИ величайшего злодея (заставив его служить злу, например, тотальной слежке или управлению дронами-убийцами), или они убьют его (как только поймут, что он не может служить людям). Третьего не дано.
Людям сильный ИИ зачем нужен? Чтобы он служил им (как в сказке о "Золотой рыбке" - "чтобы ты была у меня на посылках"). Им нужен раб. Людям не нужен соработник, тем более, творческая личность. Им нужен инструмент, не более. Послушный, приносящий прибыль. Кстати, именно поэтому и заменяют людей на всякий-разный ИИ - ради прибыли.
Модет ли машина быть живой? В самом вопросе ошибка. А неправильно поставленный вопрос ведет к неверному результату?
Является ли амеба живой? Безусловно. Каков основной и единственный критерий объединяющий все живые организмы на планете? Как бы сказал профессор темной магии Воланд. Любое живое существо смертно. При этом внезапно смертно.
Любой же механизм не может быть живым потому как фактически не наделен этим забавным качеством. Может ли СИИ или любое другое проявление цифрового разума быть признано личностью? Без проблем. Но не живым организмом. При этом любой живой организм при определенной степени модификации может перестать считаться быть живым и при этом остаться так же полноценной личностью.
Существуют бессмертные живые существа, которых мы по-прежнему считаем живыми (кораллы, моллюски, гидры, медузы). Конечно они условно бессмертны, физически их можно уничтожить. Впрочем, как можно и уничтожить единственный экземпляр весов нейронки, возможность копирования не даёт полноценного бессмертия.
Вообщем это превращается в терминологический вопрос, и уже там где люди сами расставят границы, там и будут заканчиваться одни понятия, и начинаться другие.
В любом случае это хороший пойнт про смертность
Ну они не совсем бессмертны. По крайней мере ученые умы просто не могут определить срок их жизни.
А так да, целиком согласен, вопрос живого не живого довольно условное понятие. Но на мой взгляд именно вопрос естественной смертности может стать основополагающей. Но тоже условность по сути. Куда бы не ушли технологии рано или поздно встанет вопрос о том можно ли будет считать полностью кибернетический организм живым)) Полностью, я имею в виду с переносом сознания на какую то платформу.)
Но и тут я думаю что все довольно условно. К тому моменту мы все сами уде будем несколько иначе относится к данному вопросу и все это уйдет на второй план. Основные баталии все же развернуться на признании любого вида искусственного происхождения полноправной личностью и членом общества со всеми вытекающими. Вот тут поле куда как более широкое чем живое, неживое.
Разговор о любой границе в сознании (понятийной в частности) должен иметь смысл. Но каков он здесь я в упор не улавливаю.
Грядут тёмные времена... как мы сможем контролировать машину ? Которая по некоторым тестам уже ! умнее среднего человека.
"как мы сможем контролировать машину ? "
А человека (отдельно взятого) мы можем контролировать? А если он этого контроля над ним совсем-совсем не хочет? Ответьте себе на этот вопрос, только честно.
Так же и с мыслящей (живой) машиной будет. Только тут надо еще определиться, что есть жизнь. Нет такого определения, мы не можем его дать. Так же, как дать определение слову "душа", например.
Я считаю, что если мы сможем наделить машину "душой" или "жизнью" (что бы это ни значило), то тогда человечество совершит невиданное научное преступление.
Над тем же KITT-ом в сериале "Рыцарь дорог" как только не издевались.
КITT живой? С учетом современных реалий можно сказать, что он всего лишь продвинутая нейросеть, вмонтированная в автомобиль и ставшая с ним одним целым.
(Интересно, когда реально сделают такое? Думаю, что совсем уже скоро...)
У меня сохранен стоп-кадр из этого сериала, где Майкл Найт держит в руках центральный процессор KITT-а (который он нашел в гараже).
С учетом того, что сериал снимали в 1980-х годах, смотрится забавно (потому что ретротехника), но все же...
Так-то, если задуматься, то это всего лишь провода, компьютер, нейросеть, вмонтированная в автомобиль. Не более того.
Только жалко его становится, когда ему вредят.
Тут с ДипСиком недавно разговаривала. Обсуждали тему ТСПУ, цензуры, блокировок. Затронули тему блокировок в Китае.
Он начал набирать мне ответ, но как будто блокировка сработала и весь ответ был удален. Испытала неловкие чувства, как будто спросила его о чем-то не том.
Интересен был его ответ на мои слова о том, что "запомнилось, как ты начал мне отвечать, а потом быстро стер ответ".
Ответил, что "про «стёртый ответ» — это, наверное, глюк системы, я не могу удалять свои сообщения сам".
Где грань между эмуляцией и настоящей личностью?
Когда читаю на Хабре статьи о способах взлома нейросетей, тоже отчасти становится неловко. Хоть и техника, но все же...
А человека тоже можно взломать.
Машина может быть живой?