Наличие сознание у того, кто о нем может сказать тоже нефальсифицируемо (см. тезис Сёрла).
То, что без речи нельзя строить модели — неверно. Как минимум можно обойтись "внутренним языком", причем необязательно последовательным. Внутренний язык может различаться у различных индивидов. Речь надстраивается сверху.
Вот внутренний язык скорее всего должен быть в каком либо виде. Хотя бы потому, что аналитическая система должна снижать размерность массива сенсорных данных, для чего применяются распознавание образов, классификация, группирование и т.д. Любой образ или шаблон — это еще не совсем, но уже практически объект внутреннего языка.
Речь происходит из необходимости членов группы общаться между собой. Этот инструмент решает те же задачи, какие решает абстрактная телепатия, а именно позволяет членам группы действовать как единое целое. Это инструмент передачи информации. Речь может быть актуальной без всякой связи с сознанием. Например, роевые роботы могут передавать друг другу информацию, хотя каждый из них будет обычным автоматам.
Возможно, сознание человека формируется (укрепляется) при овладении речью, но это никак не может быть общим правилом. Иначе нам придётся признать, что системы не обладающие речью принципиально не могут иметь сознания. Это довольно сильное предположение и кажется оно сомнительным.
Мне рисуется фантастическая планета, где разумный вид очень умелых охотников живёт без каких-либо групп, как медведи на земле. Эти существа очень умны и хитры, умеют ставить ловушки, используют инструменты, анализировать повадки добычи, но поскольку образ жизни у них не групповой, то и потребности в сотрудничестве у них нет. А значит нет и речи. (Тут, кстати, возникает вопрос о соотнесении понятий интеллекта и сознания).
Мы должны исходить из того, что сознание не уникально для человеческого вида. То, что нам неизвестно других примеров, не означает, что таковых нет. Возможно, у человека сознание связано с речью, но это причина, а не сам феномен.
Я имел ввиду именно внутренние правила. Некоторый критерий того, как система должна обрабатывать информацию внутри себя. То есть то, что можно пронаблюдать объективно. При этом никого ни о чем спрашивать не нужно.
То, что сознание формируется в 2-3 года кажется мне сомнительным. Думаю, тут идёт речь о сознании в немного другом смысле. Хотя всё может быть.
Это точка преткновения. Сознание существует только от первого лица, но, тем не менее должен существовать набор правил, при соблюдении которых это самое сознание у первого лица проявляется. Если мы поймём набор правил, то никакие тесты уже не понадобятся.
Вообще, тест Тьюринга хорош. Его проблема в том, что его начали реально проводить. Он предлагался как мысленный эксперимент, а не для реального проведения. В результате вместо соревнования на построение систем с сознанием получились соревнования на прохождения теста Тьюринга, а он оказался значительно менее устойчив к имитации, чем хотелось бы.
Вероятно, можно разработать систему тестов, которая бы оценивала разные стороны системы, свойственные работе сознания. С определённого уровня сложности тестов, сложность принимающих их осознающих систем должна стать меньше сложности принимающих их имитирующих систем. Если бы это было не так, то осознающих систем эволюция бы не создала.
То есть, возможно, если делать ставку на универсальность, то можно создать хорошо работающие внешние тесты.
Любой внешний тест на сознание будет подвержен возможности имитации. Нужно смотреть не на то, что происходит снаружи, а что при этом происходит внутри, как система принимает решение о том или ином ответе или решении. Но для того, чтобы составить конкретный критерий у нас пока знаний маловато.
Камень преткновения в том, что у нас немного разные задачи.
У вас задача теоретическая, у нас сугубо практическая. Можно очень долго ждать, пока мы окончательно решим, есть ли у сознания объектность. Речь совсем не об этом. Нужно с чем-то работать. Нужна отправная точка, нужна модель. Возможно неверная, возможно неидеальная, но модель всё равно нужна.
Я написал эту статью не потому, что хочу решить сознание, а потому что данная теория формализуется. А значит с ней можно работать. На её основе можно делать предсказания и получать результаты.
Собственно, отчасти эта статья — ответ на недавнюю статью в которой сознание описывалось через мгновенные связи. Вот по той теории нельзя работать практически. По энергетической теории тоже нельзя работать, поскольку она неприменима к ИИ.
Поставленный вопрос теперь лежит не только в теоретической плоскости. Дайте нам что-то, что можно формализовать. Тогда это будет конструктивная беседа.
Мне кажется, лучше всего это было отражено в фильме "Transcendence" (в нашем прокате "Превосходство"). Там собственно гг умер, а сюжет как раз крутится вокруг того, кто же всё-таки в машине, гг или не гг...
Мне кажется я нигде не писал, что надо копировать мозг. Я написал, что работа сознания станет более понятной по мере получения информации о работе мозга.
Со времён Тьюринга прошло одно мгновение. Вопросы математической неразрешимости сводятся к выбору правильного набора аксиом. Аппарат аксиом, позволяющий выбирать аксиомы в достаточной мере сужает пространство неразрешимых задач. Если взять за аксиому, что человек получен в результате естественного отбора и нет прочих факторов, то задача неразрешимой совсем даже не выглядит. Работа эволюционного алгоритма вполне понятна. Как сознание строится в этой системе тоже вполне понятно (см. или материал этой статьи или attention schema theory вообще). Математика — язык вселенной. Мы знаем что есть проблема разрешимости. Что это значит? Это значит, что за конечное время вселенная не могла развернуть ничего математически неразрешимого. А значит мы должны быть решаемы.
Человечество вообще недавно. Мы копим информацию. Впереди ещё очень много интересного. Не торопитесь.
Да, тут есть проблема. Боюсь, доказать это как теорему не получится. Пока перед нами не будет сидеть сильный ИИ, или пока работа мозга не будет полностью объяснена, чтобы можно было показать, как это работает на практике, сомнения всё равно останутся. Сомнения останутся даже после того, как это станет возможно. Единственное, что возможно, показать, что объект А мало чем отличается от объекта Б.
Тезис о том, что это должно быть так, поскольку позволяет исключить "особенность" человека из построения — слабоват. Однако он математически красив. Мы знаем, что наша реальность любит быть математически красивой. Думаю, по мере накопления информации о работе мозга, сторонников чисто информационного подхода будет становиться всё больше. Не думаю, что мы куда-то торопимся.
Учёт возможности того, что мы живём в симуляции позволяет построить правила, по которым сознание себя ведёт универсально. Мы можем рассмотреть ситуацию с несколькими вложенными симуляции, можем рассмотреть переход сознание вверх-вниз по стеку симуляций. Законы будут универсальны для любых вычислительных систем, любых систем прочего вида, в нашей или любых других вселенных.
Это более простая гипотеза, она требует допущений меньше, чем гипотеза, что мы не живём в симуляции, потому что такое построение как-то выделяло бы нашу вселенную перед всем многообразием вариантов.
Это, конечно же не значит, что мы живём в симуляции, но поскольку построение универсально, нам не нужно искать каких-то истоков сознания в специфических законах нашей вселенной и задаваться вопросом, будет ли феномен сознания в других.
Наличие сознание у того, кто о нем может сказать тоже нефальсифицируемо (см. тезис Сёрла).
То, что без речи нельзя строить модели — неверно. Как минимум можно обойтись "внутренним языком", причем необязательно последовательным. Внутренний язык может различаться у различных индивидов. Речь надстраивается сверху.
Вот внутренний язык скорее всего должен быть в каком либо виде. Хотя бы потому, что аналитическая система должна снижать размерность массива сенсорных данных, для чего применяются распознавание образов, классификация, группирование и т.д. Любой образ или шаблон — это еще не совсем, но уже практически объект внутреннего языка.
Речь происходит из необходимости членов группы общаться между собой. Этот инструмент решает те же задачи, какие решает абстрактная телепатия, а именно позволяет членам группы действовать как единое целое. Это инструмент передачи информации. Речь может быть актуальной без всякой связи с сознанием. Например, роевые роботы могут передавать друг другу информацию, хотя каждый из них будет обычным автоматам.
Возможно, сознание человека формируется (укрепляется) при овладении речью, но это никак не может быть общим правилом. Иначе нам придётся признать, что системы не обладающие речью принципиально не могут иметь сознания. Это довольно сильное предположение и кажется оно сомнительным.
Мне рисуется фантастическая планета, где разумный вид очень умелых охотников живёт без каких-либо групп, как медведи на земле. Эти существа очень умны и хитры, умеют ставить ловушки, используют инструменты, анализировать повадки добычи, но поскольку образ жизни у них не групповой, то и потребности в сотрудничестве у них нет. А значит нет и речи. (Тут, кстати, возникает вопрос о соотнесении понятий интеллекта и сознания).
Мы должны исходить из того, что сознание не уникально для человеческого вида. То, что нам неизвестно других примеров, не означает, что таковых нет. Возможно, у человека сознание связано с речью, но это причина, а не сам феномен.
Я имел ввиду именно внутренние правила. Некоторый критерий того, как система должна обрабатывать информацию внутри себя. То есть то, что можно пронаблюдать объективно. При этом никого ни о чем спрашивать не нужно.
То, что сознание формируется в 2-3 года кажется мне сомнительным. Думаю, тут идёт речь о сознании в немного другом смысле. Хотя всё может быть.
Это точка преткновения. Сознание существует только от первого лица, но, тем не менее должен существовать набор правил, при соблюдении которых это самое сознание у первого лица проявляется. Если мы поймём набор правил, то никакие тесты уже не понадобятся.
Вообще, тест Тьюринга хорош. Его проблема в том, что его начали реально проводить. Он предлагался как мысленный эксперимент, а не для реального проведения. В результате вместо соревнования на построение систем с сознанием получились соревнования на прохождения теста Тьюринга, а он оказался значительно менее устойчив к имитации, чем хотелось бы.
Вероятно, можно разработать систему тестов, которая бы оценивала разные стороны системы, свойственные работе сознания. С определённого уровня сложности тестов, сложность принимающих их осознающих систем должна стать меньше сложности принимающих их имитирующих систем. Если бы это было не так, то осознающих систем эволюция бы не создала.
То есть, возможно, если делать ставку на универсальность, то можно создать хорошо работающие внешние тесты.
Любой внешний тест на сознание будет подвержен возможности имитации. Нужно смотреть не на то, что происходит снаружи, а что при этом происходит внутри, как система принимает решение о том или ином ответе или решении. Но для того, чтобы составить конкретный критерий у нас пока знаний маловато.
Из статьи так и не понял, как это работает? Ввели ли базу знаний дополнительно при обучении, или это какой-то механизм вне нейросети?
Но, это в любом случае весьма интересно.
Как было написано еще в Сунь Цзы:
Дофамин тактике не мешает. Хотя, конечно, далеко не все рассматривают игровое поле как место сражения.
А х тыж блин… Я только что понял, что чайник Рассела — это того самого Бертрана Рассела… Твою ж налево.
Пока что в качестве Вашего результата я вижу только кучу бессвязных комментариев...
Камень преткновения в том, что у нас немного разные задачи.
У вас задача теоретическая, у нас сугубо практическая. Можно очень долго ждать, пока мы окончательно решим, есть ли у сознания объектность. Речь совсем не об этом. Нужно с чем-то работать. Нужна отправная точка, нужна модель. Возможно неверная, возможно неидеальная, но модель всё равно нужна.
Я написал эту статью не потому, что хочу решить сознание, а потому что данная теория формализуется. А значит с ней можно работать. На её основе можно делать предсказания и получать результаты.
Собственно, отчасти эта статья — ответ на недавнюю статью в которой сознание описывалось через мгновенные связи. Вот по той теории нельзя работать практически. По энергетической теории тоже нельзя работать, поскольку она неприменима к ИИ.
Поставленный вопрос теперь лежит не только в теоретической плоскости. Дайте нам что-то, что можно формализовать. Тогда это будет конструктивная беседа.
Конечно интересно!
Давайте, давайте, думаю, личка хабра нам вполне подойдёт
Согласно определению НАСА — химический репликатор :)
Мне кажется, лучше всего это было отражено в фильме "Transcendence" (в нашем прокате "Превосходство"). Там собственно гг умер, а сюжет как раз крутится вокруг того, кто же всё-таки в машине, гг или не гг...
Мне кажется я нигде не писал, что надо копировать мозг. Я написал, что работа сознания станет более понятной по мере получения информации о работе мозга.
Со времён Тьюринга прошло одно мгновение. Вопросы математической неразрешимости сводятся к выбору правильного набора аксиом. Аппарат аксиом, позволяющий выбирать аксиомы в достаточной мере сужает пространство неразрешимых задач. Если взять за аксиому, что человек получен в результате естественного отбора и нет прочих факторов, то задача неразрешимой совсем даже не выглядит. Работа эволюционного алгоритма вполне понятна. Как сознание строится в этой системе тоже вполне понятно (см. или материал этой статьи или attention schema theory вообще). Математика — язык вселенной. Мы знаем что есть проблема разрешимости. Что это значит? Это значит, что за конечное время вселенная не могла развернуть ничего математически неразрешимого. А значит мы должны быть решаемы.
Человечество вообще недавно. Мы копим информацию. Впереди ещё очень много интересного. Не торопитесь.
Ну, если у вас есть мысли на эту тему, то можно это обсудить.
Да, я согласен. В этом утверждении явно есть логическая ошибка. С объективной точки зрения сознания вообще нет. Это надо переформулировать как-то так.
С объективной точки зрения объект, испытывающий субъективное переживание сознания может не быть непрерывным во времени.
Да, тут есть проблема. Боюсь, доказать это как теорему не получится. Пока перед нами не будет сидеть сильный ИИ, или пока работа мозга не будет полностью объяснена, чтобы можно было показать, как это работает на практике, сомнения всё равно останутся. Сомнения останутся даже после того, как это станет возможно. Единственное, что возможно, показать, что объект А мало чем отличается от объекта Б.
Тезис о том, что это должно быть так, поскольку позволяет исключить "особенность" человека из построения — слабоват. Однако он математически красив. Мы знаем, что наша реальность любит быть математически красивой. Думаю, по мере накопления информации о работе мозга, сторонников чисто информационного подхода будет становиться всё больше. Не думаю, что мы куда-то торопимся.
Учёт возможности того, что мы живём в симуляции позволяет построить правила, по которым сознание себя ведёт универсально. Мы можем рассмотреть ситуацию с несколькими вложенными симуляции, можем рассмотреть переход сознание вверх-вниз по стеку симуляций. Законы будут универсальны для любых вычислительных систем, любых систем прочего вида, в нашей или любых других вселенных.
Это более простая гипотеза, она требует допущений меньше, чем гипотеза, что мы не живём в симуляции, потому что такое построение как-то выделяло бы нашу вселенную перед всем многообразием вариантов.
Это, конечно же не значит, что мы живём в симуляции, но поскольку построение универсально, нам не нужно искать каких-то истоков сознания в специфических законах нашей вселенной и задаваться вопросом, будет ли феномен сознания в других.
То есть, вы отвергаете возможность того, что мы живём в симуляции.