Формулировки осторожные, потому что я не хотел бы спешить с определениями.
Любая машина, включая нейросеть, - это продукт деятельности разработчиков. Если существует какая-либо машина, значит, для ее создания разработали ТЗ, в котором описали ее назначение, функции, устройство и т.д.
А с самим человеком не так, потому что он не продукт деятельности разработчиков. Поэтому я в конце написал, что человека можно рассматривать, как устройство ("черный ящик"), а в качестве компьютера - сомнительно (потому что в случае компьютера / нейросети мы точно знаем, что ТЗ определено, а в случае человека точно знаем, что ТЗ не определено).
Мой текст закончился на том, что вообще не очевидно, можно ли человека описать таким образом, что это позволит перейти к ТЗ. Вполне может быть так, что у вас есть сложный естественный объект, который технически не получится ни воспроизвести, ни имитировать. А может быть так, что вы правы - что достаточно сделать какую-то нейросеть или агента, который обладает памятью и обращается с запросами к ChatGPT, анализирует их и обновляет информацию или сделать что-то другое.
В определенном смысле, весь мой текст про то, почему таким образом возразить Серлу не получится.
Сообщение человеческого языка может относиться к какому-то реальному предмету, поэтому чтобы обратно пришло сообщение, равноценное человеческому, другой коммуникант тоже должен обладать возможностью как-то взаимодействовать с таким реальным предметом. У Комнаты по определению нет никакого функционала, кроме коммуникативного, поэтому и понимания сообщений нет, ни у ее частей, ни у всей системы целиком.
Это само по себе не оригинально, Серл про такое говорил в исходной статье.
Но, с моей точки зрения, из этого следуют более интересные выводы про работу Комнаты. Если согласиться, что Комната ничего не понимает, то более правильно утверждать, что она оперирует не знаками, а сигналами. Т.е., например, голосовой помощник работает примерно таким образом: человеческая речь для него - это набор звуковых пакетов, идущих в определенном порядке. Он принимает звуковое сообщение, разделяет его на пакеты, каждому звуковому пакету присваивает номер. С этими номерами выполняется расчет, чтобы предсказать и сформировать ответный набор звуковых пакетов.
То, что в наборе звуков, который получил человек от такой машины, есть какой-то смысл, кажется потому, что 1) такой набор звуков передан на частоте человеческой речи (искусственная речь качественно синтезирована), 2) другой человек, скорее всего, ответил бы похожим образом (вероятность именно такого набора звуков рассчитана с достаточной точностью).
Это не язык, а сигнальный код, в данном примере, звуковой. Для письменных ответов - графический. Имхо, язык можно упростить до сигнального кода, а можно ли сигнальный код сделать языком, не знаю, но думаю, что если развивать только коммуникативный функционал, то нельзя (хотя ответные сообщения при этом могут быть очень качественными).
Мой слог мне и самому не сильно нравится, но пока я остановился на такой подаче.
По-другому (не как компьютер) человека можно понимать, как разумное живое существо, которое сформировалось в результате долгого процесса естественного развития.
"Волшебного" (если в смысле малопонятного) в человеке имеется его система коммуникации и способ действия в окружающем мире. Могу заблуждаться, но ни у кобыл, ни у морских улиток, ни у современных машин ничего подобного не наблюдается.
Честно признаю, в этом тексте я практически ничего не обосновывал, только в общих чертах обозначил точку зрения. Есть замысел написать второй текст на тему именно коммуникации человека и машины, уже с нормальным описанием проблемы, только что пишу я довольно медленно, к сожалению.
В общих словах, для меня вопрос больше заключается в том, как следует понимать человеческую коммуникацию и "естественное мышление" (как иногда, чтобы решить задачу, приходится начинать с того, что именно дано). Здесь я ориентируюсь на классических лингвистов (Соссюр, Якобсон, Бенвенист и остальные), авторов в условном жанре философии языка (Витгенштейн, Апель), советского "СМД-подхода" (Щедровицкий-старший, Зиновьев). Есть несколько хороших современных белорусских авторов, у которых есть неплохие тексты по коммуникации / мышлению (Фурс, Абушенко, Мацкевич).
Бихевиористов и кибернетиков я отдельно не читал, знаю основные идеи из университетского курса по теор. лингвистике. В комментариях нормально не поясню (попробую в отдельном тексте), но человеческая коммуникация - более сложное явление, чем обмен информацией.
Моя личная интуитивная позиция - чтобы что-то воспринимать, нужно уже обладать сознанием, а сознание - это больше наше абстрактное обобщение каких-то наблюдаемых способностей живых существ, чем их строгое объективное свойство. Поэтому, имхо, сколько бы ни было сенсоров и ПО, сознание в технике не возникнет в принципе.
Но решать сложные задачи можно и без сознания, другое дело, сколько это потребует вычислительных мощностей. Может оказаться, что на определенном уровне делать полностью автоматическую систему будет нерационально, проще будет оставить в ней оператора)
Как мне кажется, чтобы на такие вопросы ответить, придется разбираться скорее не с комнатой, а с человеком, который с ней разговаривает.
И согласен, ссылки на очевидность и метафоры мало что объясняют. Попробую написать отдельный текст.
Формулировки осторожные, потому что я не хотел бы спешить с определениями.
Любая машина, включая нейросеть, - это продукт деятельности разработчиков. Если существует какая-либо машина, значит, для ее создания разработали ТЗ, в котором описали ее назначение, функции, устройство и т.д.
А с самим человеком не так, потому что он не продукт деятельности разработчиков. Поэтому я в конце написал, что человека можно рассматривать, как устройство ("черный ящик"), а в качестве компьютера - сомнительно (потому что в случае компьютера / нейросети мы точно знаем, что ТЗ определено, а в случае человека точно знаем, что ТЗ не определено).
Мой текст закончился на том, что вообще не очевидно, можно ли человека описать таким образом, что это позволит перейти к ТЗ. Вполне может быть так, что у вас есть сложный естественный объект, который технически не получится ни воспроизвести, ни имитировать. А может быть так, что вы правы - что достаточно сделать какую-то нейросеть или агента, который обладает памятью и обращается с запросами к ChatGPT, анализирует их и обновляет информацию или сделать что-то другое.
В определенном смысле, весь мой текст про то, почему таким образом возразить Серлу не получится.
Сообщение человеческого языка может относиться к какому-то реальному предмету, поэтому чтобы обратно пришло сообщение, равноценное человеческому, другой коммуникант тоже должен обладать возможностью как-то взаимодействовать с таким реальным предметом. У Комнаты по определению нет никакого функционала, кроме коммуникативного, поэтому и понимания сообщений нет, ни у ее частей, ни у всей системы целиком.
Это само по себе не оригинально, Серл про такое говорил в исходной статье.
Но, с моей точки зрения, из этого следуют более интересные выводы про работу Комнаты. Если согласиться, что Комната ничего не понимает, то более правильно утверждать, что она оперирует не знаками, а сигналами. Т.е., например, голосовой помощник работает примерно таким образом: человеческая речь для него - это набор звуковых пакетов, идущих в определенном порядке. Он принимает звуковое сообщение, разделяет его на пакеты, каждому звуковому пакету присваивает номер. С этими номерами выполняется расчет, чтобы предсказать и сформировать ответный набор звуковых пакетов.
То, что в наборе звуков, который получил человек от такой машины, есть какой-то смысл, кажется потому, что 1) такой набор звуков передан на частоте человеческой речи (искусственная речь качественно синтезирована), 2) другой человек, скорее всего, ответил бы похожим образом (вероятность именно такого набора звуков рассчитана с достаточной точностью).
Это не язык, а сигнальный код, в данном примере, звуковой. Для письменных ответов - графический. Имхо, язык можно упростить до сигнального кода, а можно ли сигнальный код сделать языком, не знаю, но думаю, что если развивать только коммуникативный функционал, то нельзя (хотя ответные сообщения при этом могут быть очень качественными).
Мой слог мне и самому не сильно нравится, но пока я остановился на такой подаче.
По-другому (не как компьютер) человека можно понимать, как разумное живое существо, которое сформировалось в результате долгого процесса естественного развития.
"Волшебного" (если в смысле малопонятного) в человеке имеется его система коммуникации и способ действия в окружающем мире. Могу заблуждаться, но ни у кобыл, ни у морских улиток, ни у современных машин ничего подобного не наблюдается.
Честно признаю, в этом тексте я практически ничего не обосновывал, только в общих чертах обозначил точку зрения. Есть замысел написать второй текст на тему именно коммуникации человека и машины, уже с нормальным описанием проблемы, только что пишу я довольно медленно, к сожалению.
В общих словах, для меня вопрос больше заключается в том, как следует понимать человеческую коммуникацию и "естественное мышление" (как иногда, чтобы решить задачу, приходится начинать с того, что именно дано). Здесь я ориентируюсь на классических лингвистов (Соссюр, Якобсон, Бенвенист и остальные), авторов в условном жанре философии языка (Витгенштейн, Апель), советского "СМД-подхода" (Щедровицкий-старший, Зиновьев). Есть несколько хороших современных белорусских авторов, у которых есть неплохие тексты по коммуникации / мышлению (Фурс, Абушенко, Мацкевич).
Бихевиористов и кибернетиков я отдельно не читал, знаю основные идеи из университетского курса по теор. лингвистике. В комментариях нормально не поясню (попробую в отдельном тексте), но человеческая коммуникация - более сложное явление, чем обмен информацией.
Моя личная интуитивная позиция - чтобы что-то воспринимать, нужно уже обладать сознанием, а сознание - это больше наше абстрактное обобщение каких-то наблюдаемых способностей живых существ, чем их строгое объективное свойство. Поэтому, имхо, сколько бы ни было сенсоров и ПО, сознание в технике не возникнет в принципе.
Но решать сложные задачи можно и без сознания, другое дело, сколько это потребует вычислительных мощностей. Может оказаться, что на определенном уровне делать полностью автоматическую систему будет нерационально, проще будет оставить в ней оператора)