Ну, я это и имею ввиду.
Еще у людей есть свойство предвидеть возможные проблемы. Поэтому многие проблемы исследуются до того, как они реально возникают. И это правильно.
Речь — это что? Слова и информация — это что? Все эти вещи не имеют никакого отношения к тому, из чего сделан источник. Если «механическая» нейросеть будет «выдавать наружу» тот-же информационный результат что и биологическая — между ними не будет разницы. Т.к. важно именно это — «образ действия» такой нейросети, а не то, как она устроена.
«Люди еще не доросли до этого. Рано еще.»
Хорошо-бы что-бы не было поздно. Исследования на то и исследования, что исследуют неизвестное. Мы не знаем можем-ли «нечаянно создать ИИ». И именно это незнание создает ненулевую вероятность того, что это возможно. Так почему-бы заранее не обсудить эту вероятность?
Я к тому, что мы себе представить не можем образ мыслей и возможности нашего далекого потомка в энергетической форме. Лично я верю что вселенную нельзя познать до конца (а именно познание, по моему мнению, является базовой целью любого разума). Так что, думаю, даже им будет чем заняться. :)
«Если что-то выглядит как енот, действует как енот и устроено как енот, значит это енот.»
Не имеет значения что планируется сделать. Если в результате может появиться полный информационный аналог человеческого мозга — вполне вероятно появление в этом аналоге вполне настоящего разума и сознания. При этом не будет иметь значения что это «всего-лишь модель».
Такое определение эволюции было верно до появления разума. С того момента как разум начал активно преобразовывать среду обитания (которая, по идее, должна диктовать условия для эволюции), это определение стало не актуальным.
Вернее, с появлением разума можно сказать что эволюция совершила качественный скачек, который скорректировал ее принципы. Хотя, конечной целью, естественно, остается выживание вида.
Стоп-стоп-стоп!!! Я веду речь лишь о ситуации при которой обнаруживается, что для формирования личности достаточно «механической» нейросети. Т.е. биологическая нейросеть в вашем мозгу и механическая в куче железа в данном случае ничем принципиально не будут отличаться. Речь идет о «сознании» и «личности» независимых от их носителя. Если скопировать ваш мозг и его состояние в механическую систему, допустим, когда вам придет время умирать от старости — будет-ли эта система являться вашей личностью или нет? Если она будет размышлять, осознавать себя и вести себя абсолютно так-же как вы — будет она вами или нет?
Конечно, можно просто сказать что личность может быть только на биологическом носителе. Но по мне, так это звучит примерно так-же как «человек может иметь только белую кожу».
На счет надуманности не согласен. Вот представьте себя на месте такой искусственной личности. Если с нею будут обходиться так как предлагаете вы — вариант Скайнет из «Терминатора» вполне вероятен. И виноваты в этом будем мы, а не Скайнет. Потому, что заранее не озаботились такими проблемами. А т.к. (как следует из топика) начало проекту уже положено, то обсуждать эти проблемы как раз самое время.
Ну, принципы эволюции все-таки существуют. И они определяют вполне конкретное (хотя, нам, возможно, и не совсем понятное) направление движения эволюции. Как сказал кто-то из великих — «Совершенство — не цель, а направление движения». Если «целью» называть именно «направление» — почему-бы не говорить о цели эволюции?
Согласен с тем, что при при переходе эволюции от биологической к «механической» будет очень много изменений в мотивации и принципах этой эволюции. По большому счету, «выживаемость» механической цивилизации будет зависеть от этих принципов самым непосредственным образом.
По большому счету, вы правы. Под «выключением», я, конечно, имел ввиду операцию с потерей состояния. Однако, даже если его сохранять, все-равно возникнет этическая проблема — имеем-ли мы право выключать такую систему без ее согласия. Представьте что изобрели способ сохранения полного состояния мозга человека и его восстановления. Насколько вам понравится если вас будут включить и выключать как того захочется кому-то другому?
Если под «эволюцией» понимать все большую самоорганизацию материи, то, вероятно, цель у нее все-такие есть. Чисто интуитивно — понижение энтропии вселенной (правда, не уверен что такое возможно в глобальном масштабе).
Вообще, я как-то размышлял о перспективах человечества по освоению космоса и вселенной. И знаете, если отбросить всякую антропоцентрическую чепуху, становится вполне очевидно что люди биологически для этого приспособлены очень слабо. Вернее — вообще не приспособлены. Область подходящих условий для жизни людей очень узка. Так что я думаю, действительно активное освоение вселенной может начаться лишь при переходе нашей цивилизации в машинную область через искусственный интеллект (ну или через активную генную инженерию). При этом, не обязательно что-бы биологическая и машинная цивилизация враждовали. Вполне возможно что они смогут либо сосуществовать, либо биологическая закончит свое существование естественным образом.
А почему нет? Если перефразировать Стругацких — с чего вы взяли что конечной целью эволюции является мозг человека, а не мозг робота? А биологический мозг на этом пути нужен лишь из-за того, что другим способом эволюции этого не добиться.
На самом деле, при реализации этого проекта мы столкнемся кроме стандартных технических проблем еще и с философским вопросом — действительно-ли личность человека составляет лишь интеллект, состоящий из нейросети и сигналов в ней? А если только из сигналов — имеем-ли мы право, например, «выключить» такую нейросеть, которая будет полностью «симулировать» сознание человека? И не будет-ли такое выключение являться убийством?
Вот это правильное отношение. Меня тоже совесть мучает если считаю что недостаточно отработал. Приходится работать и вечером и ночью. Но мне это нравится. С семьей пообщаться все-равно остается время и в течении дня и в выходные. Хотя, конечно, если есть семья — для нее нужно обязательно выделять время. Иначе будут конфликты.
6 лет работал на удаленке. Такой способ работы полностью меняет преставление о правильной работе. После этих 6-и лет я год проработал в офисе. И сравнение было совершенно не в пользу офиса. Сейчас, слава богу, нашел нормальную удаленку — вот это, действительно, мой способ работы. Он мне нравится и он мне удобен.
Еще у людей есть свойство предвидеть возможные проблемы. Поэтому многие проблемы исследуются до того, как они реально возникают. И это правильно.
«Люди еще не доросли до этого. Рано еще.»
Хорошо-бы что-бы не было поздно. Исследования на то и исследования, что исследуют неизвестное. Мы не знаем можем-ли «нечаянно создать ИИ». И именно это незнание создает ненулевую вероятность того, что это возможно. Так почему-бы заранее не обсудить эту вероятность?
Не имеет значения что планируется сделать. Если в результате может появиться полный информационный аналог человеческого мозга — вполне вероятно появление в этом аналоге вполне настоящего разума и сознания. При этом не будет иметь значения что это «всего-лишь модель».
Вернее, с появлением разума можно сказать что эволюция совершила качественный скачек, который скорректировал ее принципы. Хотя, конечной целью, естественно, остается выживание вида.
Конечно, можно просто сказать что личность может быть только на биологическом носителе. Но по мне, так это звучит примерно так-же как «человек может иметь только белую кожу».
На счет надуманности не согласен. Вот представьте себя на месте такой искусственной личности. Если с нею будут обходиться так как предлагаете вы — вариант Скайнет из «Терминатора» вполне вероятен. И виноваты в этом будем мы, а не Скайнет. Потому, что заранее не озаботились такими проблемами. А т.к. (как следует из топика) начало проекту уже положено, то обсуждать эти проблемы как раз самое время.
Согласен с тем, что при при переходе эволюции от биологической к «механической» будет очень много изменений в мотивации и принципах этой эволюции. По большому счету, «выживаемость» механической цивилизации будет зависеть от этих принципов самым непосредственным образом.
Но такое понятие есть в социуме, где такие эксперименты и проводятся.
Вообще, я как-то размышлял о перспективах человечества по освоению космоса и вселенной. И знаете, если отбросить всякую антропоцентрическую чепуху, становится вполне очевидно что люди биологически для этого приспособлены очень слабо. Вернее — вообще не приспособлены. Область подходящих условий для жизни людей очень узка. Так что я думаю, действительно активное освоение вселенной может начаться лишь при переходе нашей цивилизации в машинную область через искусственный интеллект (ну или через активную генную инженерию). При этом, не обязательно что-бы биологическая и машинная цивилизация враждовали. Вполне возможно что они смогут либо сосуществовать, либо биологическая закончит свое существование естественным образом.