Вот только она обычно плохо решается путём перенесения объекта в код. Обычно получается что-то околоподобное но со странными смысловыми извращениями. Например, огнестрельное оружие вместо того, чтобы мочь стрелять, на самом деле лишь добавляет экипированному им персонажу способность выстрелить.
Вторая теорема не мешает полной формализации, а только утверждает, что всегда найдутся противоречивые утверждения. Нет большой разницы, как они формализованы и кто их обрабатывает. Противоречивые утверждения порождаются системой аксиом. Наш искусственный друг может быть обучен понимать такие ситуации.
Современный голосовой помощник это не ии. Это пульт управления с четкой логикой и прописанными правилами. Ему не нужно быть сильно умным. Он должен быть предсказуемым и правильно реагировать на ограниченное подмножество комманд. Функционально эта задача проще, чем та, что ставится перед экспертными системами.
По первому пункту у меня есть комментарий. Интересный способ думать о таких системах управления двунаправленный. Система должна не выполнять задачу сверху и не контролировать задачу снизу. Она должна минимизировать ошибку между желаемым и действительным. В таком подходе система начинает выглядеть более симметричной, поскольку каждый модуль может посылать сигналы коррекции как вниз (скоректировать действительное), так и вверх (скорректировать желаемое). Это несколько отличается от классического подхода с обратными связями, где целеполагание — задача строго однонаправленая, но по видимому, мозг работает более симметрично.
Но, наблюдаем электрон мы то не глазами, а через машину, значит, когда мы спросим машину, наблюдала ли она коллапс, мы задействуем своё сознание тоже. И станет непонятно, какой элемент системы привёл к коллапсу.
Их было много… Большинство начинает за здравие, кончает за упокой… Но это не значит, что не надо продолжать работу в этом направлении. Нормальной, а главное, законченной серии статей про написание ОС на хабре лично я не видел.
Я могу предложить абсолютно ни на чем не обоснованную, никакими экспериментами не подтверждённую гипотезу :)
Возможно сознание реализуется как информационный процесс второго уровня, примерно как работает виртуальная джава-машина. Если это так, то отыскать сознательные процессы примерно так же сложно, как разобраться с тем, что происходит в байткоде джава-машины по работе транзисторов в арифметически-логическом устройстве. То есть, нужно пройти несколько уровней абстракции, чтобы добраться до процесса, таки непосредственно связанного с сознательной деятельностью....
Внутренний язык не сводится к внутреннему голосу. Внутренний язык — это не то, что "произносится про себя". То что произносится про себя — это работа центров речи. Речь про себя удобна, поскольку помогает имитировать тот процесс который происходит при общении. Львиная доля информации поступает извне через речевые центры и мозг неплохо умеет работать с информацией, которая туда попадает. Поэтому довольно удобно использовать эту систему во внутренней обработке тоже. Проговаривание про себя — это та же самая речь, только без внешних проявлений.
Мне надо уточнить терминологию. Возможно, использование термина "внутренний язык" некорректно.
Наличие сознание у того, кто о нем может сказать тоже нефальсифицируемо (см. тезис Сёрла).
То, что без речи нельзя строить модели — неверно. Как минимум можно обойтись "внутренним языком", причем необязательно последовательным. Внутренний язык может различаться у различных индивидов. Речь надстраивается сверху.
Вот внутренний язык скорее всего должен быть в каком либо виде. Хотя бы потому, что аналитическая система должна снижать размерность массива сенсорных данных, для чего применяются распознавание образов, классификация, группирование и т.д. Любой образ или шаблон — это еще не совсем, но уже практически объект внутреннего языка.
Речь происходит из необходимости членов группы общаться между собой. Этот инструмент решает те же задачи, какие решает абстрактная телепатия, а именно позволяет членам группы действовать как единое целое. Это инструмент передачи информации. Речь может быть актуальной без всякой связи с сознанием. Например, роевые роботы могут передавать друг другу информацию, хотя каждый из них будет обычным автоматам.
Возможно, сознание человека формируется (укрепляется) при овладении речью, но это никак не может быть общим правилом. Иначе нам придётся признать, что системы не обладающие речью принципиально не могут иметь сознания. Это довольно сильное предположение и кажется оно сомнительным.
Мне рисуется фантастическая планета, где разумный вид очень умелых охотников живёт без каких-либо групп, как медведи на земле. Эти существа очень умны и хитры, умеют ставить ловушки, используют инструменты, анализировать повадки добычи, но поскольку образ жизни у них не групповой, то и потребности в сотрудничестве у них нет. А значит нет и речи. (Тут, кстати, возникает вопрос о соотнесении понятий интеллекта и сознания).
Мы должны исходить из того, что сознание не уникально для человеческого вида. То, что нам неизвестно других примеров, не означает, что таковых нет. Возможно, у человека сознание связано с речью, но это причина, а не сам феномен.
Я имел ввиду именно внутренние правила. Некоторый критерий того, как система должна обрабатывать информацию внутри себя. То есть то, что можно пронаблюдать объективно. При этом никого ни о чем спрашивать не нужно.
То, что сознание формируется в 2-3 года кажется мне сомнительным. Думаю, тут идёт речь о сознании в немного другом смысле. Хотя всё может быть.
Это точка преткновения. Сознание существует только от первого лица, но, тем не менее должен существовать набор правил, при соблюдении которых это самое сознание у первого лица проявляется. Если мы поймём набор правил, то никакие тесты уже не понадобятся.
Вообще, тест Тьюринга хорош. Его проблема в том, что его начали реально проводить. Он предлагался как мысленный эксперимент, а не для реального проведения. В результате вместо соревнования на построение систем с сознанием получились соревнования на прохождения теста Тьюринга, а он оказался значительно менее устойчив к имитации, чем хотелось бы.
Вероятно, можно разработать систему тестов, которая бы оценивала разные стороны системы, свойственные работе сознания. С определённого уровня сложности тестов, сложность принимающих их осознающих систем должна стать меньше сложности принимающих их имитирующих систем. Если бы это было не так, то осознающих систем эволюция бы не создала.
То есть, возможно, если делать ставку на универсальность, то можно создать хорошо работающие внешние тесты.
Любой внешний тест на сознание будет подвержен возможности имитации. Нужно смотреть не на то, что происходит снаружи, а что при этом происходит внутри, как система принимает решение о том или ином ответе или решении. Но для того, чтобы составить конкретный критерий у нас пока знаний маловато.
Вот только она обычно плохо решается путём перенесения объекта в код. Обычно получается что-то околоподобное но со странными смысловыми извращениями. Например, огнестрельное оружие вместо того, чтобы мочь стрелять, на самом деле лишь добавляет экипированному им персонажу способность выстрелить.
В общем, любой фанатизм хорош в меру.
Вторая теорема не мешает полной формализации, а только утверждает, что всегда найдутся противоречивые утверждения. Нет большой разницы, как они формализованы и кто их обрабатывает. Противоречивые утверждения порождаются системой аксиом. Наш искусственный друг может быть обучен понимать такие ситуации.
Современный голосовой помощник это не ии. Это пульт управления с четкой логикой и прописанными правилами. Ему не нужно быть сильно умным. Он должен быть предсказуемым и правильно реагировать на ограниченное подмножество комманд. Функционально эта задача проще, чем та, что ставится перед экспертными системами.
По первому пункту у меня есть комментарий. Интересный способ думать о таких системах управления двунаправленный. Система должна не выполнять задачу сверху и не контролировать задачу снизу. Она должна минимизировать ошибку между желаемым и действительным. В таком подходе система начинает выглядеть более симметричной, поскольку каждый модуль может посылать сигналы коррекции как вниз (скоректировать действительное), так и вверх (скорректировать желаемое). Это несколько отличается от классического подхода с обратными связями, где целеполагание — задача строго однонаправленая, но по видимому, мозг работает более симметрично.
В исходном комментарии неявно предполагалось, что к коллапсу приводит сознание. Соответственно, ответ исходит из той же посылки.
Но, наблюдаем электрон мы то не глазами, а через машину, значит, когда мы спросим машину, наблюдала ли она коллапс, мы задействуем своё сознание тоже. И станет непонятно, какой элемент системы привёл к коллапсу.
Волновую функцию чего?
Их было много… Большинство начинает за здравие, кончает за упокой… Но это не значит, что не надо продолжать работу в этом направлении. Нормальной, а главное, законченной серии статей про написание ОС на хабре лично я не видел.
Я могу предложить абсолютно ни на чем не обоснованную, никакими экспериментами не подтверждённую гипотезу :)
Возможно сознание реализуется как информационный процесс второго уровня, примерно как работает виртуальная джава-машина. Если это так, то отыскать сознательные процессы примерно так же сложно, как разобраться с тем, что происходит в байткоде джава-машины по работе транзисторов в арифметически-логическом устройстве. То есть, нужно пройти несколько уровней абстракции, чтобы добраться до процесса, таки непосредственно связанного с сознательной деятельностью....
:)… Это так, в качестве вброса на вентилятор.
Терминологическая проблема.
Внутренний язык не сводится к внутреннему голосу. Внутренний язык — это не то, что "произносится про себя". То что произносится про себя — это работа центров речи. Речь про себя удобна, поскольку помогает имитировать тот процесс который происходит при общении. Львиная доля информации поступает извне через речевые центры и мозг неплохо умеет работать с информацией, которая туда попадает. Поэтому довольно удобно использовать эту систему во внутренней обработке тоже. Проговаривание про себя — это та же самая речь, только без внешних проявлений.
Мне надо уточнить терминологию. Возможно, использование термина "внутренний язык" некорректно.
А вот Сёрл так не считает.
Наличие сознание у того, кто о нем может сказать тоже нефальсифицируемо (см. тезис Сёрла).
То, что без речи нельзя строить модели — неверно. Как минимум можно обойтись "внутренним языком", причем необязательно последовательным. Внутренний язык может различаться у различных индивидов. Речь надстраивается сверху.
Вот внутренний язык скорее всего должен быть в каком либо виде. Хотя бы потому, что аналитическая система должна снижать размерность массива сенсорных данных, для чего применяются распознавание образов, классификация, группирование и т.д. Любой образ или шаблон — это еще не совсем, но уже практически объект внутреннего языка.
Речь происходит из необходимости членов группы общаться между собой. Этот инструмент решает те же задачи, какие решает абстрактная телепатия, а именно позволяет членам группы действовать как единое целое. Это инструмент передачи информации. Речь может быть актуальной без всякой связи с сознанием. Например, роевые роботы могут передавать друг другу информацию, хотя каждый из них будет обычным автоматам.
Возможно, сознание человека формируется (укрепляется) при овладении речью, но это никак не может быть общим правилом. Иначе нам придётся признать, что системы не обладающие речью принципиально не могут иметь сознания. Это довольно сильное предположение и кажется оно сомнительным.
Мне рисуется фантастическая планета, где разумный вид очень умелых охотников живёт без каких-либо групп, как медведи на земле. Эти существа очень умны и хитры, умеют ставить ловушки, используют инструменты, анализировать повадки добычи, но поскольку образ жизни у них не групповой, то и потребности в сотрудничестве у них нет. А значит нет и речи. (Тут, кстати, возникает вопрос о соотнесении понятий интеллекта и сознания).
Мы должны исходить из того, что сознание не уникально для человеческого вида. То, что нам неизвестно других примеров, не означает, что таковых нет. Возможно, у человека сознание связано с речью, но это причина, а не сам феномен.
Я имел ввиду именно внутренние правила. Некоторый критерий того, как система должна обрабатывать информацию внутри себя. То есть то, что можно пронаблюдать объективно. При этом никого ни о чем спрашивать не нужно.
То, что сознание формируется в 2-3 года кажется мне сомнительным. Думаю, тут идёт речь о сознании в немного другом смысле. Хотя всё может быть.
Это точка преткновения. Сознание существует только от первого лица, но, тем не менее должен существовать набор правил, при соблюдении которых это самое сознание у первого лица проявляется. Если мы поймём набор правил, то никакие тесты уже не понадобятся.
Вообще, тест Тьюринга хорош. Его проблема в том, что его начали реально проводить. Он предлагался как мысленный эксперимент, а не для реального проведения. В результате вместо соревнования на построение систем с сознанием получились соревнования на прохождения теста Тьюринга, а он оказался значительно менее устойчив к имитации, чем хотелось бы.
Вероятно, можно разработать систему тестов, которая бы оценивала разные стороны системы, свойственные работе сознания. С определённого уровня сложности тестов, сложность принимающих их осознающих систем должна стать меньше сложности принимающих их имитирующих систем. Если бы это было не так, то осознающих систем эволюция бы не создала.
То есть, возможно, если делать ставку на универсальность, то можно создать хорошо работающие внешние тесты.
Любой внешний тест на сознание будет подвержен возможности имитации. Нужно смотреть не на то, что происходит снаружи, а что при этом происходит внутри, как система принимает решение о том или ином ответе или решении. Но для того, чтобы составить конкретный критерий у нас пока знаний маловато.
Из статьи так и не понял, как это работает? Ввели ли базу знаний дополнительно при обучении, или это какой-то механизм вне нейросети?
Но, это в любом случае весьма интересно.
Как было написано еще в Сунь Цзы:
Дофамин тактике не мешает. Хотя, конечно, далеко не все рассматривают игровое поле как место сражения.
А х тыж блин… Я только что понял, что чайник Рассела — это того самого Бертрана Рассела… Твою ж налево.
Пока что в качестве Вашего результата я вижу только кучу бессвязных комментариев...