Науке известны невычислимые задачи, мышление же берётся за любые задачи.
Браться то можно, а вот достигает ли? Если задача не вычислима - то и мышление ее не разрешит. А если не так, то хотелось бы опровержения четкого и ясного.
Если так брать в лоб, я привожу некую функцию и машина не знает как бы - есть ли из нее выход или нет. Это если машина только исполнит ее. Но ведь машина может точно так проанализировать код без исполнения.
Если на квантовом уровне существует генератор случайных чисел, который вмешивается в работу мозга, то из этого свобода выбора не рождается. Просто есть шум, который вмешивается в механизмы мышления. Человек этим шумом не управляет.
Есть же гипотеза влияния будущего на прошлое, которое происходит в результате квантовых эффектов. Как бы будущее может повлиять в рамках наносекунд, скажем. Но по цепочке эти наносекунды можно превратить в миллионы секунд.
Еще слишком много белых пятен, чтобы отказываться от гипотезы свободы воли.
Оно может быть так: если вы убедите себя что свободы воли нет - то механизм свободы воли, который вы могли бы использовать - останется незадействованным. Из-за неподтвержденной гипотезы, которая вилами по воде, вы отказываетесь от реально полезного инструмента, который могли бы использовать для улучшения жизни.
Стало меньше. Вот я могу совершенно бесплатно поиграть в шахматы на компе, причем с одним из сильнейших "шахматистов" мира. Раньше бы пришлось играть в парке на деньги (иначе профи просто не будет на меня тратить время).
отколовшаяся от основного или господствующего религиозного вероисповедания
Можно подумать основное чем-то принципиально лучше. Ну да ладно.
Самое манипулятивное - это то, чего вы коснулись в конце статьи. Это гос. идеология и гос. принуждение. Ни одна банда не убила и доли процента людей, сколько было убито с подачи и одобрения государств. Ни один вор не украл и миллионной доли процента от того, сколько воруют на высшем уровне легально.
Ощущение всегда идет либо со знаком плюс либо со знаком минус. Нуля нет. Ноль - не существует, не ощущается.
По этому любое ощущение - это или наслаждение или страдание.
Нет, не ощущениями, так как ощущения другого человека мы ощущать не можем.
Мы проецируем свои ощущения не других по аналогии.
Введите в ютюбе для примера: Сколько вам было бы, если родились 10 лет назад? Люди часто отвечают куда хуже GPT. Вопрос простой. Мы считаем что они думают, хотя и не могут сразу дать верный ответ. Что-то там думают. Но хуже GPT.
Так почему же мы говорим что GPT думать не умеет а мы умеем?
Думание - это ощущение наслаждения при взгляде на процесс, которым занят наш мозг.
Мне тоже не сразу это стало понятно - но другого ничего нет.
Cogito ergo sum - можно перефразировать как - я ощущаю наслаждение при взгляде на вычислительные процессы, которые осуществляет мой мозг (возможно ошибочные вычисления) - значит я существую.
У меня ушло около 7 лет практически ежедневных интроспективных размышлений, чтобы прийти к этой истине.
В итоге все сводится к наслаждению и страданию. В этом краеугольный камень вселенной. Если будет хотя бы одна гипотеза - уже будет о чем говорить.
Нет, если у другого человека вычисления объективно некорректные, мы считаем, что способности мыслить у него нет.
Нет же. Мы считаем что он мыслит не правильно. Мыслит, но с ошибками. Тоже мыслит, но ошибается при этом.
В контексте "Оно может быть и эстетическим" именно что значит. "Эстетическое страдание" это эмоция.
Важна вся совокупность наслаждений и страданий - не только эстетических или физических.
Ну да, и? Как это означает, что у него нет интеллекта?
Смотря что понимать под интеллектом. Способность решать задачи - есть, но она есть и у компьютера. Нам же интересно что-то другое, верно? И мы сами не осознаем что именно нам нужно.
За 7 лет практически ежедневных интроспективных размышлений я, наконец, понял что мы ищем и как это выразить!!!
И там разговор был не про ИИ, а про "Если человек не способен испытать никакого страдания". У такого человека интеллект все равно будет.
Будет способность производить вычисления, но не способность сознания (которое есть ничто иное как ощущение наслаждения при взгляде не процесс вычислений, производимых мозгом).
философский зомби это совсем другая концепция, при чем логически невозможная
Развитые GPT - это и есть философский зомби. Не страдает и не наслаждается, но задачи решает.
Люди, которые не чувствуют боли и страданий (от рождения или медикаментозно) — лишены души, значит?
Дело не только в физической боли но и в духовных страданиях. Если страданий нет вообще - его же даже обидеть или расстроить нельзя, нельзя сделать что-то не так - это биоробот. Он же даже не обидится если вы его убьете. Т.е. защищать его не нужно.
Для того, чтобы компьютер осознавал себя как отдельную личность, ощущения не нужны.
Не думали ли вы о том, что осознание себя - это один из видов наслаждений? Как вот смотрите на красный цвет - и испытываете эстетическое наслаждение от красности (а может кто-то и тревогу, небольшое страдание).
Осознание себя - это тот же феномен, что и наслаждение от красности, но со своим оттенком.
Нет. Это обработка информации, компьютеры обрабатывают информацию без квалиа.
Вот тут вы ошибаетесь. Просто обработку информации никто не называет способностью мыслить. Подумайте над этим.
Я думал и пришел вот к какому пониманию. Способностью мыслить мы называем тот кайф/наслаждение, которое испытываем при созерцании результатов вычислений, который произвел наш мозг. Важно не путать - это не сами вычисления а способность наслаждаться, глядя на результат этих вычислений.
Подумайте над этим.
Люди хотели узнать, что такое молния, исключительно для того, чтобы наделить ее правами
Тут вы произвели подмену понятий. В случае с GPT и подобным - вопрос ставится о возникновении сознания, ощущений, мышления.
Подумайте об этом.
Мышление - это процесс ощущения наслаждения при взгляде на вычисления, которые производит наш мозг. Вот когда мы эти наслаждения испытали - мы как бы считаем что мыслим. Хотя сами вычисления могут быть объективно не корректными.
Есть люди не слишком эмоциональные, тем не менее интеллект у них есть.
Не слишком эмоциональны - не значит что страдают менее других. Если человек вообще лишен возможности как-либо страдать, в т.ч. не испытывает физической боли, страха смерти, дискомфорта от близости смерти, не испытывает наслаждений и желания наслаждаться, не упускать их - то что в нем от человека? Это и будет биоробот.
И как из этого следует, что у него нет интеллекта?
Вы забыли суть вопроса. В нем не будет тех черт, которые приписываются сильному ИИ - сознания и чувства мышления.
Что такое интеллект, как его определить?
Уже ж ввели понятие сильного ИИ - специально для таких дел. Грубо говоря это та же концепция философского зомби, но применительно к реальным вычислительным системам.
Когда есть возможность более простого ответа на вопрос. В случае с наслаждением и страданием - нет более простого ответа. Нет ни одной научной гипотезы, которая бы хотя бы пыталась объяснить как некая система может обрести способность страдать.
Во-первых, это неправда.
Я изучаю тему много лет и ответственно заявляю что все так и есть. Нет ни одной гипотезы, которая бы предложила способ создания искусственной системы, способной страдать.
Именно в этом и загвоздка. Была бы хотя бы одна гипотеза - все бы изменилось.
Ну нет у нее гипотез про ощущения, а как это мешает изобрести ИИ?
Концепция души на данный момент вообще не рассматривается ни одной наукой, в том числе как причина объяснения страданий.
Концепция души необходима обычным людям, которые хотят получить ответ почему они страдают а машины нет. Наука ни одной гипотезы предложить не может - ни одной.
у человека есть нейроны, они имеют способность создавать ощущения.
Принцип работы нейрона как сумматора - достаточно известен и понятен. И каким образом этот сумматор может страдать? Может и калькулятор тогда тоже страдает? Всем нам понятно что нет.
Детали пока неизвестны, но пока они неизвестны
Нейронные сети используются в распознании изображении, звуков и прочей вычислительной деятельности. Базовый принцип совершенно понятен. Кое в чем биологический мозг справляется лучше, но это не важно - суть ясна, детали реализации можно улучшить.
А вот что какая-то нейросеть обрела способность страдать хотя бы в минимальном варианте - таких гипотез никто не выдвигает.
использовать концепцию души нет необходимости
Как же нет? Дайте научную гипотезу - тогда, возможно, необходимости не будет. Нет гипотезы - ничего не остается кроме души.
Вы использовали их как синонимы.
Наслаждения и страдания - бесспорны и очевидны для всех как феномен. Единственный способ их объяснить - привлечение концепции души. Была бы хотя бы одна плохенькая научная гипотеза - использовал бы ее.
А я много раз подчеркнул, что использую их как синонимы. Потому что вы начали их так использовать.
Нет, это не синонимы. Вы не можете отрицать феномен наслаждения и страдания. А концепция души вам не нравится и вы ее отрицаете - по этому вы не можете использовать как синонимы.
Я не знаю ни одной другой концепции, кроме души, которая бы могла объяснить феномен наслаждения и страдания.
Есть люди, которые не чувствуют боль, при этом интеллект у них есть.
На это я вам уже отвечал в другом сообщении, не буду повторять.
Предлагаете концепцию души — предлагайте критерии как ее измерить. Иначе нет смысла ее рассматривать.
Если вы сможете создать систему, которая способна испытывать наслаждение и страдание - то значит в концепции души нет необходимости.
Более того. Если будет хотя бы одна научная гипотеза как некая система может обрести способность наслаждаться и страдать - то я перестану использовать концепцию души в общении - буду ссылаться на эту гипотезу. Но пока таких и близко нет.
Я хочу подчеркнуть, что не имеющим никаких гипотез научных остался лишь вопрос наслаждения и страдания. Что как бы намекает...
"обездвижить" направлено на то, что помешать исходному действию "пытаются избежать", а значит предполагает его наличие
Видите - важно что животное страдает, даже если внешне не может это проявить.
Нет, концепция души не объясняет ничего. Она просто постулирует, что есть душа, которая может испытывать ощущения, без объяснения как это происходит.
Концепция души в моем понимании - это сведение наслаждения и страдания к фундаментальным вещам. И сама душа - это некая фундаментальная частица. Фундаментальные частицы обладают некими свойствами и эти свойства мы можем лишь принять - объяснить не возможно, т.к. объяснение подразумевает декомпозицию - а фундаментальные частицы не подвержены декомпозиции. В этом суть гипотезы - наслаждение и страдание - это свойства некой фундаментальной частицы, которую принято в народе называть душа. Эта частица встраивается в нейронную систему человека и является тем самым Наблюдателем.
Теория сильного искусственного интеллекта предполагает, что компьютеры могут приобрести способность мыслить и осознавать себя как отдельную личность.
Ну и вопрос всегда такой: случилось ли это уже или нет.
Другого вопроса, по сути, нет.
В результате многолетней интроспекции я пришел к интересным и неочевидным выводам, которые на первый взгляд могут показаться ошибочными.
То что мы называем "способностью мыслить" и "осознавать" - всего лишь один из видов квалиа а точнее один из видов наслаждений. Мы можем считать что очень глубоко мыслим и нащупали некую супер истину даже от классического "банан большой, а кожура еще больше". Т.е. ценность самого вычислительного процесса равна нулю, ценность вывода равна нулю - но то ощущение, которое мы испытали - может быть выше чем у Перельмана при доказательстве гипотезы Пуанкаре.
Это сначала кажется не очевидным - но все именно так. То что мы называем способностью мыслить - это просто чувство наслаждения с особым оттенком. Не более того.
Вопрос "Что такое интеллект?" не особо отличается от вопроса "Что такое молния?".
Тут вопрос даже более конкретен: чем способность мыслить человека отличается от процесса того же GPT, если внешние результаты весьма сходны. Далее - см. выше.
То есть, люди, которые не чувствуют боль, для вас вещь?
Не просто боль - будьте внимательны. Страдание. Оно может быть и эстетическим.
Если человек не способен испытать никакого страдания - его не возможно обидеть, не возможно сделать ему больно. Что бы вы с ним не сделали - это не будет плохим для него - ему пофиг.
Мы считаем, что у камня интеллекта нет, а у человека есть.
Тут вопрос более конкретный - см. на 2 абзаца выше.
Бритва Оккама не применима к вопросу наслаждения и страдания вот по какой причине. Мы не можем отрицать страдание. Как только некий человек отрицает страдание - так сразу ему электрод в таламус - и он начнет ОРАТЬ что просто троллил.
Значит страдания, феномен страданий - существуют.
Но наука не предлагает ни одной единой гипотезы как создать из материи то, что сможет страдать. Если будет хотя бы одна гипотеза и она сможет это хотя бы потенциально объяснить - то концепцию души можно будет считать устаревшей. А ведь может так оказаться что душа и вправду существует в виде некой фундаментальной частицы.
что душа зачем-то нужна в вопросах ИИ
Не душа а вопрос наслаждения и страдания. Если он умеет страдать на уровне животного хотя бы, то важно не причинять ему страданий. Нужно ли это объяснять.
Какую проблему вы хотите решить с помощью рассмотрения души или ощущений ИИ?
Вопрос взаимоотношений с ним. Если ИИ умеет страдать - то важно в наших взаимоотношениях не причинять ему страданий, как это установлено законом и для животных. Если не умеет - то все ОК, никаких ограничений нет.
Научный это не рассматривать нефальсифицируемые гипотезы.
Гипотеза философского камня (который может превращать ртуть в золото) фальсифицируема? Вполне. Нужно лишь знать принципы формирования атомов и атомных реакций.
Животных нельзя мучить потому что они действиями выражают, что им это не нравится, пытаются избежать неприятных ощущений
А если обездвижить - то уже можно мучать? Нет, тоже нельзя.
Вы прицепились к душе, а я много раз подчеркнул что говорю о наслаждении и страдании, которые объективно существуют. А душа - это единственная на данный момент концепция, которая хоть что-то объясняет - других вариантов и гипотез, в том числе у науки просто нет.
Это принцип т.н. чайника Рассела. Гуглите "аргумент бомбы Рассела" в кавычках. В важных вопросах бремя доказательства ложится на того, для кого это важно.
Мы считаем кого-то субъектом права совершенно независимо от того, есть ли у него душа.
Душа не применяется. А вот способность испытывать страдание - обязательна! Иначе в чем проблема то? В защите и правах нуждается тот, кто умеет страдать, иначе нет проблемы.
Слово "душа" не применяется, однако именно способность наслаждаться и страдать переводит некий сгусток атомов, вещь - в совершенно иную категорию. Собака может стоит 100 рублей а компьютер 1 млн. руб. При этом если вы купите собаку и начнете мучать - вас посадят, а вот издевательства над компьютером в законе нет, т.к. считается что он не ощущает боли.
Поскольку нет ни одной единой научной гипотезы о том, как создать страдающий девайс - обществу ничего не остается как допустить существование некой субстанции - души.
Выбор "Просто решалка" или "Ощущения — это самое главное" это ложная дихотомия.
Поставим вопрос иначе: зачем нам нужен ответ на этот вопрос? Т.е. с какой целью нам нужно сказать создан ИИ или еще нет? Что нам даст ответ на этот вопрос, что изменится?
Если ничего - то вопрос не особо важен и не особо имеет смысл.
Вполне очевидно, что важность может быть только в одном: можно ли считать этот ИИ субъектом права или нет. Т.е. нуждается ли он, хотя бы на уровне животных, в некой защите. А что является ключевым в этом вопросе? В защите нуждается тот, кто умеет страдать или недополучать наслаждение. Если этих качеств нет - то все, это просто вещь.
Тогда что вас конкретно беспокоит и чем вы определяете ИИ? Просто решалка самых сложных задач, которому можно дать любое задание и он перебрав эвристически все варианты найдет решение? Порешает все мат. задачи тысячелетия?
Предположим у этого человека нет родственников и друзей, никто его оплакивать не будет. Нет никаких страданий, возможно убийца даже нахаляву получит удовольствие.
Если мы примем закон, согласно которому человека без родственников и друзей можно умерштвлять без мучений и никто не понесет за это отвественность - то представьте к каким последствиям в обществе это приведет. Все одинокие люди будут бояться остаться без друзей, будут как-то нотариально подтверждать дружбу. Это вызовет массу страданий.
Способность испытывать ощущения никак не связана со способностью корректно анализировать информацию.
Нельзя так сразу утверждать. Возможно что как раз связь есть.
Вообще в чем состоит ваш вопрос? На мой взгляд для этики, философии - важен именно вопрос наслаждения и страдания. Это то, что может сделать ИИ субъектом права, как животных, к примеру.
Просто решатель задач, даже сложных задач - полезен, но для философии не интересен.
Так вот, не кажется ли вам, что GPT очень похож на то, как в фильме продемонстрировали работу левого полушария? Как бы такой болтун, не до конца понимающий суть.
Возможно GPT это только часть целого - нужна работа в паре с другим типом нейросетей, чтобы возник внутренний диалог и взаимное дополнение - по образцу мозга.
Что же касается вашего вопроса. По сути все сводится к вопросу наслаждения и страдания. Если ему больно - значит мы можем ставить вопрос стоит ли его пожалеть и не мучать. Если не больно - то и вопроса нет. Как понять больно или нет - не ясно. Нам нужно понять что именно это все определяет.
Что такое наслаждение и страдание, при каких условиях оно может возникнуть в некой системе и как его детектировать - это и есть то, к чему сводится главный вопрос философии. Возможно это эпифеномен - нечто над мозгом, которое не вмешивается в его работу. Такая точка зрения не нова, те же индуисты так и считали в вопросе души.
Но наказания работают же. Вот я чего то не делаю только по причине что слишком больной риск штрафа. И что? Чем плохо?
Браться то можно, а вот достигает ли? Если задача не вычислима - то и мышление ее не разрешит. А если не так, то хотелось бы опровержения четкого и ясного.
Если так брать в лоб, я привожу некую функцию и машина не знает как бы - есть ли из нее выход или нет. Это если машина только исполнит ее. Но ведь машина может точно так проанализировать код без исполнения.
Есть же гипотеза влияния будущего на прошлое, которое происходит в результате квантовых эффектов. Как бы будущее может повлиять в рамках наносекунд, скажем. Но по цепочке эти наносекунды можно превратить в миллионы секунд.
Еще слишком много белых пятен, чтобы отказываться от гипотезы свободы воли.
Оно может быть так: если вы убедите себя что свободы воли нет - то механизм свободы воли, который вы могли бы использовать - останется незадействованным. Из-за неподтвержденной гипотезы, которая вилами по воде, вы отказываетесь от реально полезного инструмента, который могли бы использовать для улучшения жизни.
Т.е. вычисление - это не процесс а мышление - процесс?
Стало меньше. Вот я могу совершенно бесплатно поиграть в шахматы на компе, причем с одним из сильнейших "шахматистов" мира. Раньше бы пришлось играть в парке на деньги (иначе профи просто не будет на меня тратить время).
Можно подумать основное чем-то принципиально лучше. Ну да ладно.
Самое манипулятивное - это то, чего вы коснулись в конце статьи. Это гос. идеология и гос. принуждение. Ни одна банда не убила и доли процента людей, сколько было убито с подачи и одобрения государств. Ни один вор не украл и миллионной доли процента от того, сколько воруют на высшем уровне легально.
Ощущение всегда идет либо со знаком плюс либо со знаком минус. Нуля нет. Ноль - не существует, не ощущается.
По этому любое ощущение - это или наслаждение или страдание.
Мы проецируем свои ощущения не других по аналогии.
Введите в ютюбе для примера: Сколько вам было бы, если родились 10 лет назад? Люди часто отвечают куда хуже GPT. Вопрос простой. Мы считаем что они думают, хотя и не могут сразу дать верный ответ. Что-то там думают. Но хуже GPT.
Так почему же мы говорим что GPT думать не умеет а мы умеем?
Думание - это ощущение наслаждения при взгляде на процесс, которым занят наш мозг.
Мне тоже не сразу это стало понятно - но другого ничего нет.
Cogito ergo sum - можно перефразировать как - я ощущаю наслаждение при взгляде на вычислительные процессы, которые осуществляет мой мозг (возможно ошибочные вычисления) - значит я существую.
У меня ушло около 7 лет практически ежедневных интроспективных размышлений, чтобы прийти к этой истине.
В итоге все сводится к наслаждению и страданию. В этом краеугольный камень вселенной. Если будет хотя бы одна гипотеза - уже будет о чем говорить.
Нет же. Мы считаем что он мыслит не правильно. Мыслит, но с ошибками. Тоже мыслит, но ошибается при этом.
Важна вся совокупность наслаждений и страданий - не только эстетических или физических.
Смотря что понимать под интеллектом. Способность решать задачи - есть, но она есть и у компьютера. Нам же интересно что-то другое, верно? И мы сами не осознаем что именно нам нужно.
За 7 лет практически ежедневных интроспективных размышлений я, наконец, понял что мы ищем и как это выразить!!!
Будет способность производить вычисления, но не способность сознания (которое есть ничто иное как ощущение наслаждения при взгляде не процесс вычислений, производимых мозгом).
Развитые GPT - это и есть философский зомби. Не страдает и не наслаждается, но задачи решает.
Дело не только в физической боли но и в духовных страданиях. Если страданий нет вообще - его же даже обидеть или расстроить нельзя, нельзя сделать что-то не так - это биоробот. Он же даже не обидится если вы его убьете. Т.е. защищать его не нужно.
Не думали ли вы о том, что осознание себя - это один из видов наслаждений? Как вот смотрите на красный цвет - и испытываете эстетическое наслаждение от красности (а может кто-то и тревогу, небольшое страдание).
Осознание себя - это тот же феномен, что и наслаждение от красности, но со своим оттенком.
Вот тут вы ошибаетесь. Просто обработку информации никто не называет способностью мыслить. Подумайте над этим.
Я думал и пришел вот к какому пониманию. Способностью мыслить мы называем тот кайф/наслаждение, которое испытываем при созерцании результатов вычислений, который произвел наш мозг. Важно не путать - это не сами вычисления а способность наслаждаться, глядя на результат этих вычислений.
Подумайте над этим.
Тут вы произвели подмену понятий. В случае с GPT и подобным - вопрос ставится о возникновении сознания, ощущений, мышления.
Подумайте об этом.
Мышление - это процесс ощущения наслаждения при взгляде на вычисления, которые производит наш мозг. Вот когда мы эти наслаждения испытали - мы как бы считаем что мыслим. Хотя сами вычисления могут быть объективно не корректными.
Не слишком эмоциональны - не значит что страдают менее других. Если человек вообще лишен возможности как-либо страдать, в т.ч. не испытывает физической боли, страха смерти, дискомфорта от близости смерти, не испытывает наслаждений и желания наслаждаться, не упускать их - то что в нем от человека? Это и будет биоробот.
Вы забыли суть вопроса. В нем не будет тех черт, которые приписываются сильному ИИ - сознания и чувства мышления.
Уже ж ввели понятие сильного ИИ - специально для таких дел. Грубо говоря это та же концепция философского зомби, но применительно к реальным вычислительным системам.
Когда есть возможность более простого ответа на вопрос. В случае с наслаждением и страданием - нет более простого ответа. Нет ни одной научной гипотезы, которая бы хотя бы пыталась объяснить как некая система может обрести способность страдать.
Я изучаю тему много лет и ответственно заявляю что все так и есть. Нет ни одной гипотезы, которая бы предложила способ создания искусственной системы, способной страдать.
Именно в этом и загвоздка. Была бы хотя бы одна гипотеза - все бы изменилось.
Тут я вам объяснил как это связано.
Концепция души необходима обычным людям, которые хотят получить ответ почему они страдают а машины нет. Наука ни одной гипотезы предложить не может - ни одной.
Принцип работы нейрона как сумматора - достаточно известен и понятен. И каким образом этот сумматор может страдать? Может и калькулятор тогда тоже страдает? Всем нам понятно что нет.
Нейронные сети используются в распознании изображении, звуков и прочей вычислительной деятельности. Базовый принцип совершенно понятен. Кое в чем биологический мозг справляется лучше, но это не важно - суть ясна, детали реализации можно улучшить.
А вот что какая-то нейросеть обрела способность страдать хотя бы в минимальном варианте - таких гипотез никто не выдвигает.
Как же нет? Дайте научную гипотезу - тогда, возможно, необходимости не будет. Нет гипотезы - ничего не остается кроме души.
Наслаждения и страдания - бесспорны и очевидны для всех как феномен. Единственный способ их объяснить - привлечение концепции души. Была бы хотя бы одна плохенькая научная гипотеза - использовал бы ее.
Нет, это не синонимы. Вы не можете отрицать феномен наслаждения и страдания. А концепция души вам не нравится и вы ее отрицаете - по этому вы не можете использовать как синонимы.
Я не знаю ни одной другой концепции, кроме души, которая бы могла объяснить феномен наслаждения и страдания.
На это я вам уже отвечал в другом сообщении, не буду повторять.
Если вы сможете создать систему, которая способна испытывать наслаждение и страдание - то значит в концепции души нет необходимости.
Более того. Если будет хотя бы одна научная гипотеза как некая система может обрести способность наслаждаться и страдать - то я перестану использовать концепцию души в общении - буду ссылаться на эту гипотезу. Но пока таких и близко нет.
Я хочу подчеркнуть, что не имеющим никаких гипотез научных остался лишь вопрос наслаждения и страдания. Что как бы намекает...
Видите - важно что животное страдает, даже если внешне не может это проявить.
Концепция души в моем понимании - это сведение наслаждения и страдания к фундаментальным вещам. И сама душа - это некая фундаментальная частица. Фундаментальные частицы обладают некими свойствами и эти свойства мы можем лишь принять - объяснить не возможно, т.к. объяснение подразумевает декомпозицию - а фундаментальные частицы не подвержены декомпозиции. В этом суть гипотезы - наслаждение и страдание - это свойства некой фундаментальной частицы, которую принято в народе называть душа. Эта частица встраивается в нейронную систему человека и является тем самым Наблюдателем.
См. основы. А именно:
Теория сильного искусственного интеллекта предполагает, что компьютеры могут приобрести способность мыслить и осознавать себя как отдельную личность.
Ну и вопрос всегда такой: случилось ли это уже или нет.
Другого вопроса, по сути, нет.
В результате многолетней интроспекции я пришел к интересным и неочевидным выводам, которые на первый взгляд могут показаться ошибочными.
То что мы называем "способностью мыслить" и "осознавать" - всего лишь один из видов квалиа а точнее один из видов наслаждений. Мы можем считать что очень глубоко мыслим и нащупали некую супер истину даже от классического "банан большой, а кожура еще больше". Т.е. ценность самого вычислительного процесса равна нулю, ценность вывода равна нулю - но то ощущение, которое мы испытали - может быть выше чем у Перельмана при доказательстве гипотезы Пуанкаре.
Это сначала кажется не очевидным - но все именно так. То что мы называем способностью мыслить - это просто чувство наслаждения с особым оттенком. Не более того.
Тут вопрос даже более конкретен: чем способность мыслить человека отличается от процесса того же GPT, если внешние результаты весьма сходны. Далее - см. выше.
Не просто боль - будьте внимательны. Страдание. Оно может быть и эстетическим.
Если человек не способен испытать никакого страдания - его не возможно обидеть, не возможно сделать ему больно. Что бы вы с ним не сделали - это не будет плохим для него - ему пофиг.
Тут вопрос более конкретный - см. на 2 абзаца выше.
Бритва Оккама не применима к вопросу наслаждения и страдания вот по какой причине. Мы не можем отрицать страдание. Как только некий человек отрицает страдание - так сразу ему электрод в таламус - и он начнет ОРАТЬ что просто троллил.
Значит страдания, феномен страданий - существуют.
Но наука не предлагает ни одной единой гипотезы как создать из материи то, что сможет страдать. Если будет хотя бы одна гипотеза и она сможет это хотя бы потенциально объяснить - то концепцию души можно будет считать устаревшей. А ведь может так оказаться что душа и вправду существует в виде некой фундаментальной частицы.
Не душа а вопрос наслаждения и страдания. Если он умеет страдать на уровне животного хотя бы, то важно не причинять ему страданий. Нужно ли это объяснять.
Вопрос взаимоотношений с ним. Если ИИ умеет страдать - то важно в наших взаимоотношениях не причинять ему страданий, как это установлено законом и для животных. Если не умеет - то все ОК, никаких ограничений нет.
Гипотеза философского камня (который может превращать ртуть в золото) фальсифицируема? Вполне. Нужно лишь знать принципы формирования атомов и атомных реакций.
А если обездвижить - то уже можно мучать? Нет, тоже нельзя.
Вы прицепились к душе, а я много раз подчеркнул что говорю о наслаждении и страдании, которые объективно существуют. А душа - это единственная на данный момент концепция, которая хоть что-то объясняет - других вариантов и гипотез, в том числе у науки просто нет.
Это принцип т.н. чайника Рассела. Гуглите "аргумент бомбы Рассела" в кавычках. В важных вопросах бремя доказательства ложится на того, для кого это важно.
Душа не применяется. А вот способность испытывать страдание - обязательна! Иначе в чем проблема то? В защите и правах нуждается тот, кто умеет страдать, иначе нет проблемы.
Слово "душа" не применяется, однако именно способность наслаждаться и страдать переводит некий сгусток атомов, вещь - в совершенно иную категорию. Собака может стоит 100 рублей а компьютер 1 млн. руб. При этом если вы купите собаку и начнете мучать - вас посадят, а вот издевательства над компьютером в законе нет, т.к. считается что он не ощущает боли.
Поскольку нет ни одной единой научной гипотезы о том, как создать страдающий девайс - обществу ничего не остается как допустить существование некой субстанции - души.
Поставим вопрос иначе: зачем нам нужен ответ на этот вопрос? Т.е. с какой целью нам нужно сказать создан ИИ или еще нет? Что нам даст ответ на этот вопрос, что изменится?
Если ничего - то вопрос не особо важен и не особо имеет смысл.
Вполне очевидно, что важность может быть только в одном: можно ли считать этот ИИ субъектом права или нет. Т.е. нуждается ли он, хотя бы на уровне животных, в некой защите. А что является ключевым в этом вопросе? В защите нуждается тот, кто умеет страдать или недополучать наслаждение. Если этих качеств нет - то все, это просто вещь.
Тогда что вас конкретно беспокоит и чем вы определяете ИИ? Просто решалка самых сложных задач, которому можно дать любое задание и он перебрав эвристически все варианты найдет решение? Порешает все мат. задачи тысячелетия?
Если мы примем закон, согласно которому человека без родственников и друзей можно умерштвлять без мучений и никто не понесет за это отвественность - то представьте к каким последствиям в обществе это приведет. Все одинокие люди будут бояться остаться без друзей, будут как-то нотариально подтверждать дружбу. Это вызовет массу страданий.
Нельзя так сразу утверждать. Возможно что как раз связь есть.
Вообще в чем состоит ваш вопрос? На мой взгляд для этики, философии - важен именно вопрос наслаждения и страдания. Это то, что может сделать ИИ субъектом права, как животных, к примеру.
Просто решатель задач, даже сложных задач - полезен, но для философии не интересен.
Есть науч. поп. фильм еще времен СССР о разнице работы левого и правого полушария мозга: https://www.youtube.com/watch?v=3-aoEluGs9o
Так вот, не кажется ли вам, что GPT очень похож на то, как в фильме продемонстрировали работу левого полушария? Как бы такой болтун, не до конца понимающий суть.
Возможно GPT это только часть целого - нужна работа в паре с другим типом нейросетей, чтобы возник внутренний диалог и взаимное дополнение - по образцу мозга.
Что же касается вашего вопроса. По сути все сводится к вопросу наслаждения и страдания. Если ему больно - значит мы можем ставить вопрос стоит ли его пожалеть и не мучать. Если не больно - то и вопроса нет. Как понять больно или нет - не ясно. Нам нужно понять что именно это все определяет.
Что такое наслаждение и страдание, при каких условиях оно может возникнуть в некой системе и как его детектировать - это и есть то, к чему сводится главный вопрос философии. Возможно это эпифеномен - нечто над мозгом, которое не вмешивается в его работу. Такая точка зрения не нова, те же индуисты так и считали в вопросе души.
Просто никто не хотел называть это слово.
Если еще более конкретно - вопрос наслаждения и страдания. Страдает ли ИИ, больно ли ему? Если нет - то как бы все ОК, с ним можно делать что угодно.
Вопрос при кажущейся малозначимости может стать ребром.
Ок, объясните что такое разум.