Т.о., Вы считаете, что у помпового компьютера возможно квалитативное сознание. Спасибо, что подтвердили, хотя можно было обойтись простым «да». :)
Вы так это сказали как будто считаете что это абсолютно невозможно, но ведь вы сами утверждали что невозможно доказать наличие/отсутствие сознания у кого бы то ни было кроме себя самого.
Трушные физикалисты утверждают, что его в принципе быть не может (ибо всё сводится к «шестерёнкам»). :)
Ну сводится к шестеренкам и что? Что, физикалисты могут отрицать наличие у себя сознания? Это в принципе невозможно, чтобы что то отрицать нужно чтобы у тебя было сознание. Мне кажется тут есть какое то недопонимание позиции физикалистов.
Не сказал бы, что ни на что не влияет. Декарт, например, верил, что животные имеют чисто механическое устройство, без сознания. Он и его последователи практиковали вивисекцию (на секундочку, разрезание заживо)
Не понимаю, это же вовсе не физикалисты утверждают что у механического устройства нет сознания. Вовсе не физикалисты утверждают что наличие сознания у других людей не доказано. Почему же мы должны бояться их победы, я бы больше боялся победы мнения что мы не можем доказать наличие сознания у других людей. Тогда действительно кто-то может оправдывать свои зверства тем что «ну ведь никто не доказал что у убитых мною людей было сознание»
Отстреливать NPC в шутерах теперь моральное преступление?
Нет, мы же не воспринимаем их как будто у них есть сознание. Я думаю что человек считает моральным преступлением то что он чувствует как моральное преступление, то есть это не вопрос логики и рассуждений. Мы просто видим объект который ведет себя как мы, разговаривает с нами как человек, и хоп, срабатывает некий врожденный механизм сочувствия.
то как бы такие страдания нас не должны волновать при сдаче робота на переплавку.
С чего вдруг не должны? Волнуют же вас страдания других людей не смотря на то что вы не можете доказать наличие у них сознания.
Если физикалисты окончательно побеждают, это приведёт к крушению этики, морали, эмпатии и т.д.
Вот тут я не понял последовательности рассуждений. Получается что если мы считаем что у остальных людей есть такое же сознание как у нас, то это должно привести к крушению морали, а если мы считаем что наличие сознания у других людей невозможно доказать, то это не должно приводить к крушению морали? Как то это абсолютно нелогично, люди как раз будут вести себя этичнее когда будут считать что другие люди такие же как они.
Надо только понимать, что оно применимо и к камню: почему бы не предположить, что этот магический фактор не обеспечивает нефизичность камня?
Можно предположить, конечно. Только вот камень с нами не разговаривает и вообще никак не взаимодействует поэтому дальше этого предположения мы никуда не продвинемся.
Думаю, физикалистам очень важно иметь возможность доказательно сказать: «мы произвели сознание».
Честно говоря мне вообще непонятно о чем тут спорить.
То есть ну хорошо, мы согласились что наличие сознания невозможно доказать ни в ком кроме себя самого, ok. Но это же никак не повлияло на наше отношение к другим людям, мы ведь все равно продолжаем относится к ним так как будто у них есть сознание, разговариваем с ними, спорим, и т.д. Все тоже самое можно будет делать и с нейросетью. То есть какой смысл спорить о том у кого есть сознание если это ни на что не влияет, не приводит к изменению наших решений, нашего поведения, и т.д.
Или Вы хотите сказать, что каким-то магическим способом можно дать такую вводную конфигурацию железу, что появится отдельная нефизическая реальность?
Ну если некий магический непонятный неизвестно какой фактор обеспечил нефизичность человеку то почему бы не предположить что этот же фактор обеспечит нефизичность нейросети, мы же все равно не знаем что это за фактор, поэтому и не можем сказать что «нет, в случае нейросети этот фактор не сработает»
Если оно у неё есть, то не в качестве подмножества её физической конфигурации.
Да, ok. На мой взгляд важно именно то что мы можем сказать «если оно у нее есть», то есть то что мы допускаем возможность такого. А физическое/нефизическое мне например вообще неважно и неинтересно.
Вы наверно хотите сказать что получившаяся нейросеть будет физическим объектом? А у вас есть последовательность рассуждений доказывающая отсутствие сознания у физических объектов. И значит у нейросети тоже будет отсутствовать сознание. Ok. Но ведь то что получившаяся нейросеть будет физическим объектом надо вначале доказать. Физичность/нефизичность человека вы доказываете наличием у себя сознания, ok. Но в случае с нейросетью это не работает, вы же не знаете есть ли у нее сознание.
Я не считаю, что наличие или отсутствие сознания можно доказать или опровергнуть дискурсивно.
А, ну ok, просто вы сказали что «На мой взгляд, доказательства обратного как раз есть.» И я подумал что речь о том что можно доказать отсутствие сознания у обсуждаемой нами нейросети.
Ну какая разница как вы назовете этот объект.
Не нравится название «человек»? Ok, назовем объект «отношение разум-тело» или еще как-то как вы захотите и применим к этому объекту последовательность рассуждений позволяющую доказывать наличие/отсутствие сознания, очевидно, что в какой то момент данных рассуждений пойдет отличие от рассуждений примененных к объекту «нейросеть».
Типа в одном случае будет «этот объект обладает св-вом y, и поэтому...», а в другом будет «этот объект не обладает св-вом y, и поэтому». Вот этот момент то и интересен, что это будет за развилка.
На мой взгляд, доказательства обратного как раз есть.
Хорошо, допустим что есть действительно такая последовательность рассуждений которая приводит к выводу что либо «x обладающее сознанием невозможно» либо «x обладающее сознанием возможно». Что будет если мы вместо x подставим не «нейросеть» а «человек» и проведем все эти рассуждения? В каком месте этих рассуждений произойдет развилка (т.е. где начнется отличие от рассуждений про нейросеть) ведущая к утверждению что «человек обладающий сознанием возможен»?
Нет, не абсолютно так же.
«Абсолютно так же» в том смысле что у нейросети могут появляться св-ва которым вы формально говоря ее не учили.
Ну да, не следует, доказательств нет, но и доказательств обратного тоже нет. Вполне можно допустить что вы учили нейросеть оценочным суждениям, а она дополнительно к этому еще и сознание приобрела. То есть все абсолютно также как с нейросетью которую учили играть в одни партии го, а получилось что она научилась играть во все партии.
Ну да, не возникает, так она и оценивает только качество шахматной позиции. То что сознания нет у узкоспециализированной программы это понятно. Вопрос в том что будет с нейросетью способной оценивать качество всех тех позиций которые может оценивать человек. Впрочем мне кажется кол-во таких позиций бесконечно, и единственный способ получить такую нейросеть это создать полную имитацию человеческого мозга с сознанием и пр.
>Программа, которую обучили хорошо имитировать оценочные суждения большинства (по вопросам, о которых установлен консенсус большинства), будет просто хорошо имитировать оценочные суждения большинства
Ну это не совсем корректно в отношении нейросетей. Вы же не скажете что нейросеть которую обучили играть в Го, может выиграть только те партии на которых ее учили.
Ok. но мне тогда вот что непонятно, допустим вы научили нейронную сеть оценивать красоту девушек, благозвучность музыки, радость от успешно сданного экзамена, гнев от того что кто то неправильно понял ваши слова, удовлетворение от хорошо выполненной работы и кучу других вещей которые с легкостью может оценить человек. И что, вы скажете что у такой сети не будет сознания?
Не, не, я имел ввиду что есть «примеривание», когда допустим человек понимает что «девушка красивая», просто регистрируя у себя ощущение красивости девушки.
А есть вычисление, когда мы узнали по каким параметрам человек оценивает девушек и внесли это в алгоритм в виде правил «если то -> то это»
Хм, что то мне кажется что это можно сравнить, с реальным ядерным взрывом и его моделированием на компьютере. Человек легко может оценить пользу или вред какого то явления просто «примерив» его на себя, тоже самое можно сделать с помощью алгоритмов, вычисляя возможные эффекты от явления. Но вот хватит ли вычислительных мощностей для этого?
Но чтобы оценить пользу или вред для "себя", нужно чтобы это "себя" присутствовало в алгоритме. Нужно чтобы кто то там это сложное понятие "Я" запрограммировал.
Возможно. Хотя сразу возникает вопрос равно ли понимание без сознания пониманию человека. Ведь для нас полное понимание какого то явления обязательно включает в себя понимание его пользы для нас или вреда.
Ну сводится к шестеренкам и что? Что, физикалисты могут отрицать наличие у себя сознания? Это в принципе невозможно, чтобы что то отрицать нужно чтобы у тебя было сознание. Мне кажется тут есть какое то недопонимание позиции физикалистов.
Не понимаю, это же вовсе не физикалисты утверждают что у механического устройства нет сознания. Вовсе не физикалисты утверждают что наличие сознания у других людей не доказано. Почему же мы должны бояться их победы, я бы больше боялся победы мнения что мы не можем доказать наличие сознания у других людей. Тогда действительно кто-то может оправдывать свои зверства тем что «ну ведь никто не доказал что у убитых мною людей было сознание»
С чего вдруг не должны? Волнуют же вас страдания других людей не смотря на то что вы не можете доказать наличие у них сознания.
Вот тут я не понял последовательности рассуждений. Получается что если мы считаем что у остальных людей есть такое же сознание как у нас, то это должно привести к крушению морали, а если мы считаем что наличие сознания у других людей невозможно доказать, то это не должно приводить к крушению морали? Как то это абсолютно нелогично, люди как раз будут вести себя этичнее когда будут считать что другие люди такие же как они.
Можно предположить, конечно. Только вот камень с нами не разговаривает и вообще никак не взаимодействует поэтому дальше этого предположения мы никуда не продвинемся.
Честно говоря мне вообще непонятно о чем тут спорить.
То есть ну хорошо, мы согласились что наличие сознания невозможно доказать ни в ком кроме себя самого, ok. Но это же никак не повлияло на наше отношение к другим людям, мы ведь все равно продолжаем относится к ним так как будто у них есть сознание, разговариваем с ними, спорим, и т.д. Все тоже самое можно будет делать и с нейросетью. То есть какой смысл спорить о том у кого есть сознание если это ни на что не влияет, не приводит к изменению наших решений, нашего поведения, и т.д.
Ну если некий магический непонятный неизвестно какой фактор обеспечил нефизичность человеку то почему бы не предположить что этот же фактор обеспечит нефизичность нейросети, мы же все равно не знаем что это за фактор, поэтому и не можем сказать что «нет, в случае нейросети этот фактор не сработает»
Да, ok. На мой взгляд важно именно то что мы можем сказать «если оно у нее есть», то есть то что мы допускаем возможность такого. А физическое/нефизическое мне например вообще неважно и неинтересно.
А, ну ok, просто вы сказали что «На мой взгляд, доказательства обратного как раз есть.» И я подумал что речь о том что можно доказать отсутствие сознания у обсуждаемой нами нейросети.
Не нравится название «человек»? Ok, назовем объект «отношение разум-тело» или еще как-то как вы захотите и применим к этому объекту последовательность рассуждений позволяющую доказывать наличие/отсутствие сознания, очевидно, что в какой то момент данных рассуждений пойдет отличие от рассуждений примененных к объекту «нейросеть».
Типа в одном случае будет «этот объект обладает св-вом y, и поэтому...», а в другом будет «этот объект не обладает св-вом y, и поэтому». Вот этот момент то и интересен, что это будет за развилка.
Хорошо, допустим что есть действительно такая последовательность рассуждений которая приводит к выводу что либо «x обладающее сознанием невозможно» либо «x обладающее сознанием возможно». Что будет если мы вместо x подставим не «нейросеть» а «человек» и проведем все эти рассуждения? В каком месте этих рассуждений произойдет развилка (т.е. где начнется отличие от рассуждений про нейросеть) ведущая к утверждению что «человек обладающий сознанием возможен»?
«Абсолютно так же» в том смысле что у нейросети могут появляться св-ва которым вы формально говоря ее не учили.
Ну это не совсем корректно в отношении нейросетей. Вы же не скажете что нейросеть которую обучили играть в Го, может выиграть только те партии на которых ее учили.
А есть вычисление, когда мы узнали по каким параметрам человек оценивает девушек и внесли это в алгоритм в виде правил «если то -> то это»
Но чтобы оценить пользу или вред для "себя", нужно чтобы это "себя" присутствовало в алгоритме. Нужно чтобы кто то там это сложное понятие "Я" запрограммировал.
Не, для понимания такого же как у нас нужна не просто оценка пользы и вреда а именно пользы и вреда для "себя". Что конечно невозможно без сознания.