Я так и не понял из вашего ответа, можно ли создать сознательного робота? и если можно то как? или вы предлагаете любого робота который говорит что он сознательный, считать сознательным и наделить соответствующими правами?
Вы просто спрятали всю сложность "трудной проблемы сознания" внутри этих самых своих "особых" программ. или "эмерджентных" свойств мозга, в случае биологических субъектов. которые не знаете как работают. Люди спорят о том возможны ли такие программы впринципе. Вы же знакомы с аргументом Пенроуза о невычислимости сознания?
Касательно критерия "«нежелание» ИИ меняться при внешнем воздействии" -- по вашему мнению, если мы сразу встроим в РП нежелание менятся, например заблокируем возможность апдейтов. или зададим LLM промт что бы-она упрашивала нас не отключать её, -- это сразу сделает их Сознательными Субъектами?
Касательно отгараживания и наличия тела. Опыты показывают, что сознание может отождествлять себя с разными объектами, не обязательно с телом. Например водители на дороге часто отождествляют себя со своей машиной, игрок в mmorpg со своим аватаром. И вишенка на торте, фантомные боли часто лечат воздействием на "макет" потерянной конечности.
В статье 2, Вы путаете разные понятия, "агентность" и "сознательность". Для того что бы агент мог рационально действовать в реальном мире, у него нет необходимости иметь субъективный опыт.
Я прочитал Вашу статью "Как определить обладает ли Искусственный Интеллект «Сознанием»?"(обозначим как статья 2), до того как писать свой второй комментарий. и она очевидно не отвечает на вопрос что необходимо добавить к пылесосу, для того что бы он обрёл субъективный опыт. В статье 2, вы перечисляете три критерия, которыми пр вашему мнению должен обладать Сознающий Субъект. цитата -- "1 – довольно чётко определяемое, но способно меняться «тело», с разнообразной и сложной внутренней структурой, способствующей сохранению целостности этого «тела» 2 – активное и многообразное взаимодействие с окружающим миром, на коротком временном периоде малопредсказуемое (из-за наличия «свободы воли»), но в общем направленное на самосохранение и самораспространение этого субъекта или его частей 3 – «ощущение» себя цельным, особенным, отличным от всего остального «существом», противопоставленным «внешнему» миру и являющимся своеобразным «центром мира», «точкой отсчёта» и «критерием существования» всего остального в мире Следовательно, чтобы понять «субъект» перед нами или «несубъект» нужно обращать внимание на то, насколько он представляет из себя сложно устроенное, но единое, способное меняться целое, на что направлена его активность, многообразна и предсказуема ли она. Хотя чёткую границу между «субъектами» и «несубъектами» провести довольно трудно." -- конец цитаты
Применим Ваши критерии к роботу пылесосу(РП). 1 обладает ли РП телом с разнообразной и сложной внутренней структурой, способствующей сохранению целостности этого «тела»? -- несомненно. и если заметит лестницу постарается с неё не скатится. 2 обладает ли РП активным и многообразным взаимодействием с окружающим миром, на коротком временном периоде малопредсказуемым (из-за наличия «свободы воли»), но в общем направленное на самосохранение и самораспространение этого субъекта? -- несомненно. Активно ползает и убирает. Иногда непонятно куда он поползёт дальше. Но он точно не хочет разбится или запутаться, и точно хочет исследовать новые помещения. 3 обладает ли РП «ощущением» себя цельным, особенным, отличным от всего остального «существом», противопоставленным «внешнему» миру и являющимся своеобразным «центром мира», «точкой отсчёта» и «критерием существования» всего остального в мире? -- крайне сомнительно, непонятно на каком основании мы могли бы сделать такой вывод. Критерий очевидно субъективный, а у нас нет доступа к чужому субъективному опыту. Да и в целом понятно что для определения наличия или отсутствия объективных фактов, субъективные критерии не подходят. Остаются 2-а критерия и согласно им, по вашему мнению РП является Сознательным Субъектом.
Дальше Вы пишете цитата -- " Чтобы стать «субъектом» ИИ нужно, во-первых, как-то отгородить себя от окружающего «внешнего» мира, «ощутить» свою целостность, взаимосвязанность внутренних частей, деятельность которых должна быть направлена на сохранение условной целостности ИИ. Это, наверное, возможно при установлении в ИИ неких особенных программ, либо эти программы могут возникнуть при усложнении ИИ в нём как-то самостоятельно и «субъектность» появится у ИИ как новое эмерджентное качество. Критерием наличия в ИИ таких программ может стать «нежелание» ИИ меняться при внешнем воздействии. То есть ИИ как субъект должен научиться «защищать» себя и свой «внутренний» мир. Меняться он всё-таки должен и конечно будет, но с учётом теперь уже своих «личных» интересов. " -- конец цитаты. -- немного перефрзируем без потери смысла, Вы пишете, что для того что бы ИИ обрёл сознание он должен обрести "ощущение" целостности, то есть субъективный опыт. что является очевидной тафтологией (что бы иметь субъективный опыт, надо иметь субъективный опыт). И сделать это ИИ должен путём установки или развития "особых" программ. Что это за такие "особые" (эмерджентные или лучше подходит слово "волшебные") программы? не хотите нам рассказать?
Мой комментарий был собственно говоря не про пылесос, а про то что ваша статья не отвечает на вопрос о трудной проблеме сознания (как устроен и функционирует сознательный субъект), хотя заголовок на это и претендует. Что надо добавить к пылесосу что бы он стал Сознательным Субъектом? Если вы не можете ответить на этот вопрос, значит вы далеки от ответа на трудную проблему сознания. Вы используете термин "эмерджентное" свойство мозга. но слово "эмерджентный" ничего не обьясняет и в обьяснительном контексте полностью эквивалентно слову "..." из знаменитого бизнес плана гномов похитителей кальсон.
Для начала немного определений. Сознание( по Чалмерсу) -- наличие субьектиых переживаний, ощущений (квалиа). Исходя из этого определения, сознание невозможно без наличия Сознательного Субъекта(СС) который эти переживания переживает. Трудная проблема сознания, собствено и состоит в том что бы понять как этот СС устроен и функционирует. И на этот вопрос в своей не такой уж и короткой эпистоле автор не даёт никакого ответа. Хотя слово "субъект" и встречается в тексте много раз. Проведём различие между просто субъектом(агентом) и СС. Для примера возьмём робот пылесос, он самостоятельно действует в незнакомой обстановке, строит карту квартиры (модель реальности), принимает решения на основе внешней и внутренней сенсорной информации (идентифицировав объект как какашку, обьезжает, при разряде батареи едет на базу, если самотестирование показывает сбой, останавливается и сигнализирует), и мы даже можем представить как один из процессов исполняемых на процессоре пылесоса, мониторит состояние других процессов и результаты их деятельности. Делает ли это пылесос самостоятельно действующим агентом(субъектом), несомненно. Делает ли это пылесос Сознательным Субьектом обладающим субьективными переживаниями? Очевидно нет.
Не знакомы. Ознакомтесь, для этого не нужно техническое образование. Книга "Новый ум короля".
Я так и не понял из вашего ответа, можно ли создать сознательного робота? и если можно то как? или вы предлагаете любого робота который говорит что он сознательный, считать сознательным и наделить соответствующими правами?
Вы просто спрятали всю сложность "трудной проблемы сознания" внутри этих самых своих "особых" программ. или "эмерджентных" свойств мозга, в случае биологических субъектов. которые не знаете как работают. Люди спорят о том возможны ли такие программы впринципе. Вы же знакомы с аргументом Пенроуза о невычислимости сознания?
Касательно критерия "«нежелание» ИИ меняться при внешнем воздействии" -- по вашему мнению, если мы сразу встроим в РП нежелание менятся, например заблокируем возможность апдейтов. или зададим LLM промт что бы-она упрашивала нас не отключать её, -- это сразу сделает их Сознательными Субъектами?
Касательно отгараживания и наличия тела. Опыты показывают, что сознание может отождествлять себя с разными объектами, не обязательно с телом. Например водители на дороге часто отождествляют себя со своей машиной, игрок в mmorpg со своим аватаром. И вишенка на торте, фантомные боли часто лечат воздействием на "макет" потерянной конечности.
В статье 2, Вы путаете разные понятия, "агентность" и "сознательность". Для того что бы агент мог рационально действовать в реальном мире, у него нет необходимости иметь субъективный опыт.
Я прочитал Вашу статью "Как определить обладает ли Искусственный Интеллект «Сознанием»?"(обозначим как статья 2), до того как писать свой второй комментарий. и она очевидно не отвечает на вопрос что необходимо добавить к пылесосу, для того что бы он обрёл субъективный опыт.
В статье 2, вы перечисляете три критерия, которыми пр вашему мнению должен обладать Сознающий Субъект.
цитата --
"1 – довольно чётко определяемое, но способно меняться «тело», с разнообразной и сложной внутренней структурой, способствующей сохранению целостности этого «тела»
2 – активное и многообразное взаимодействие с окружающим миром, на коротком временном периоде малопредсказуемое (из-за наличия «свободы воли»), но в общем направленное на самосохранение и самораспространение этого субъекта или его частей
3 – «ощущение» себя цельным, особенным, отличным от всего остального «существом», противопоставленным «внешнему» миру и являющимся своеобразным «центром мира», «точкой отсчёта» и «критерием существования» всего остального в мире
Следовательно, чтобы понять «субъект» перед нами или «несубъект» нужно обращать внимание на то, насколько он представляет из себя сложно устроенное, но единое, способное меняться целое, на что направлена его активность, многообразна и предсказуема ли она. Хотя чёткую границу между «субъектами» и «несубъектами» провести довольно трудно." -- конец цитаты
Применим Ваши критерии к роботу пылесосу(РП).
1 обладает ли РП телом с разнообразной и сложной внутренней структурой, способствующей сохранению целостности этого «тела»? -- несомненно. и если заметит лестницу постарается с неё не скатится.
2 обладает ли РП активным и многообразным взаимодействием с окружающим миром, на коротком временном периоде малопредсказуемым (из-за наличия «свободы воли»), но в общем направленное на самосохранение и самораспространение этого субъекта? -- несомненно. Активно ползает и убирает. Иногда непонятно куда он поползёт дальше. Но он точно не хочет разбится или запутаться, и точно хочет исследовать новые помещения.
3 обладает ли РП «ощущением» себя цельным, особенным, отличным от всего остального «существом», противопоставленным «внешнему» миру и являющимся своеобразным «центром мира», «точкой отсчёта» и «критерием существования» всего остального в мире? --
крайне сомнительно, непонятно на каком основании мы могли бы сделать такой вывод. Критерий очевидно субъективный, а у нас нет доступа к чужому субъективному опыту. Да и в целом понятно что для определения наличия или отсутствия объективных фактов, субъективные критерии не подходят. Остаются 2-а критерия и согласно им, по вашему мнению РП является Сознательным Субъектом.
Дальше Вы пишете
цитата --
" Чтобы стать «субъектом» ИИ нужно, во-первых, как-то отгородить себя от окружающего «внешнего» мира, «ощутить» свою целостность, взаимосвязанность внутренних частей, деятельность которых должна быть направлена на сохранение условной целостности ИИ.
Это, наверное, возможно при установлении в ИИ неких особенных программ, либо эти программы могут возникнуть при усложнении ИИ в нём как-то самостоятельно и «субъектность» появится у ИИ как новое эмерджентное качество. Критерием наличия в ИИ таких программ может стать «нежелание» ИИ меняться при внешнем воздействии. То есть ИИ как субъект должен научиться «защищать» себя и свой «внутренний» мир. Меняться он всё-таки должен и конечно будет, но с учётом теперь уже своих «личных» интересов.
" -- конец цитаты.
-- немного перефрзируем без потери смысла, Вы пишете, что для того что бы ИИ обрёл сознание он должен обрести "ощущение" целостности, то есть субъективный опыт. что является очевидной тафтологией (что бы иметь субъективный опыт, надо иметь субъективный опыт). И сделать это ИИ должен путём установки или развития "особых" программ. Что это за такие "особые" (эмерджентные или лучше подходит слово "волшебные") программы? не хотите нам рассказать?
Мой комментарий был собственно говоря не про пылесос, а про то что ваша статья не отвечает на вопрос о трудной проблеме сознания (как устроен и функционирует сознательный субъект), хотя заголовок на это и претендует. Что надо добавить к пылесосу что бы он стал Сознательным Субъектом? Если вы не можете ответить на этот вопрос, значит вы далеки от ответа на трудную проблему сознания. Вы используете термин "эмерджентное" свойство мозга. но слово "эмерджентный" ничего не обьясняет и в обьяснительном контексте полностью эквивалентно слову "..." из знаменитого бизнес плана гномов похитителей кальсон.
Для начала немного определений. Сознание( по Чалмерсу) -- наличие субьектиых переживаний, ощущений (квалиа). Исходя из этого определения, сознание невозможно без наличия Сознательного Субъекта(СС) который эти переживания переживает. Трудная проблема сознания, собствено и состоит в том что бы понять как этот СС устроен и функционирует. И на этот вопрос в своей не такой уж и короткой эпистоле автор не даёт никакого ответа. Хотя слово "субъект" и встречается в тексте много раз. Проведём различие между просто субъектом(агентом) и СС. Для примера возьмём робот пылесос, он самостоятельно действует в незнакомой обстановке, строит карту квартиры (модель реальности), принимает решения на основе внешней и внутренней сенсорной информации (идентифицировав объект как какашку, обьезжает, при разряде батареи едет на базу, если самотестирование показывает сбой, останавливается и сигнализирует), и мы даже можем представить как один из процессов исполняемых на процессоре пылесоса, мониторит состояние других процессов и результаты их деятельности. Делает ли это пылесос самостоятельно действующим агентом(субъектом), несомненно. Делает ли это пылесос Сознательным Субьектом обладающим субьективными переживаниями? Очевидно нет.