Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 21
Какой бред, а? На коллапс волновой функции влияет факт измерения устройством, которое само оказывает влияние на систему. Смотришь ты на показания или нет — неважно.
В статье явно указано — цитата: «Важно отметить, что сознание не может влиять на двухщелевой эксперимент, поскольку летящий фотон находиться вне мозга. Эксперимент с двумя щелями это аналог, необходимый для иллюстрации и понимания механизма работы сознания.»
Вы совершено правы, когда говорите, что не важно смотрит ли кто-то на показания приборов — квантовый объект сколлапсирует в любом случае. В статье речь о другом — выдвигается гипотеза, что сознание влияет на выбор варианта коллапса волновой функции. Подобных экспериментов никто пока не ставил, поэтому голословно исключать такую возможность не соответствует научному подходу к обсуждаемой проблеме.
Вы совершено правы, когда говорите, что не важно смотрит ли кто-то на показания приборов — квантовый объект сколлапсирует в любом случае. В статье речь о другом — выдвигается гипотеза, что сознание влияет на выбор варианта коллапса волновой функции. Подобных экспериментов никто пока не ставил, поэтому голословно исключать такую возможность не соответствует научному подходу к обсуждаемой проблеме.
Начало ещё ничего, а к концу статьи я уже не понял, о чём читаю.
Так чем дело-то кончилось? Кто кого уничтожил и что стало с друзьями-шутниками?
>Нельзя причинять вред чувствующему сознанию
Я возражаю:
— Докажите, что сознание вообще как явление существует.
Вообще, мне кажется, что надо не роботов правами наделять, а человеческие порезать. Наличие прав должно быть обосновано чем-то поддающимся аппаратному контролю.
Я возражаю:
— Докажите, что сознание вообще как явление существует.
Вообще, мне кажется, что надо не роботов правами наделять, а человеческие порезать. Наличие прав должно быть обосновано чем-то поддающимся аппаратному контролю.
Вы можете про себя сказать, что у вас есть сознание, чувства? Есть ли сознание у других людей, этого доказать пока никому не удалась. Однако вы ведь можете быть уверены, что ваше сознание существует, самому себе этого доказывать не нужно. И если вам кто-то причиняет боль, вам же это не нравиться. Поэтому возникает вопрос — в какой момент у роботов появятся чувства, они станут испытывать боль? В этот момент их надо будет наделять правами и защищать.
Насчёт аппаратного контроля — об этом и говориться в статье, приводится метод аппаратного определения наличия или отсутствия сознания.
Насчёт аппаратного контроля — об этом и говориться в статье, приводится метод аппаратного определения наличия или отсутствия сознания.
Проблема наличия сознания у субъекта не является даже существенной, просто исходя из самого определения сознания. Роботу достаточно задать один единственный вопрос:" Кем вы себя идентифицируете?" Если, как человека, то налицо когнитивное искажение и в случае, если робот не способен это осознать, то он не обладает целостным сознанием, так как не способен отражать и воспринимать существующую действительность. Если робот считает себя роботом, то у него не могут быть какие-либо имущественные или иного рода права на собственность оригинала. А друзей не плохо было бы привлечь к суду за «кражу личности». Это и в текущем законодательстве серьезное правонарушение.
Пардон за запоздалый ответ.
Правильно. Поэтому в обществе выработаны нормы, для того, чтобы люди не причиняли боль друг другу. Практика показала, что общество с такими нормами более живуче, чем без оных.
И высокие материи тут ни при чём.
И если вам кто-то причиняет боль, вам же это не нравиться.
Правильно. Поэтому в обществе выработаны нормы, для того, чтобы люди не причиняли боль друг другу. Практика показала, что общество с такими нормами более живуче, чем без оных.
И высокие материи тут ни при чём.
Опять не могу не вспомнить пелевинские диалоги Каи с Дамилолой:
— Верно, — сказала она. — Моя реакция на твои слова — это программируемое событие. И во мне нет никого, кто слышит. Но и в тебе его нет. Есть просто проявление природы звука, которое ты почему-то относишь на свой счет. И есть проявление природы смысла в природе звука, которое иногда доходит до твоих ожиревших мозгов, вызывая обусловленные привязанностями реакции. Ты такая же программа, только химическая. И во всем этом нет никакого «я».
— Погоди, — сказал я, — Ты говоришь, что мной управляют мои химические привязанности. Но ведь должен быть тот, кто привязан? Тот, кто подвергается их влиянию и решает, как поступить? Вот это и есть я.
— Объясняю еще раз. Реакции, в результате которых возникает то, что ты переживаешь как «себя», происходят до того, как осознаются. Ими управляют те же физические законы, по которым трансформируется вся Вселенная. Где же здесь тот, кто в состоянии что-то решать и делать? Разве эхо может управлять породившим его криком? В тебе нет никого, кто привязан.
— А что тогда есть?
— Есть только постоянно повторяющийся акт прилипания мухи к меду. Но этот мед существует только как возбуждение в мухе, а муха существует только как реакция на мед.
— Верно, — сказала она. — Моя реакция на твои слова — это программируемое событие. И во мне нет никого, кто слышит. Но и в тебе его нет. Есть просто проявление природы звука, которое ты почему-то относишь на свой счет. И есть проявление природы смысла в природе звука, которое иногда доходит до твоих ожиревших мозгов, вызывая обусловленные привязанностями реакции. Ты такая же программа, только химическая. И во всем этом нет никакого «я».
— Погоди, — сказал я, — Ты говоришь, что мной управляют мои химические привязанности. Но ведь должен быть тот, кто привязан? Тот, кто подвергается их влиянию и решает, как поступить? Вот это и есть я.
— Объясняю еще раз. Реакции, в результате которых возникает то, что ты переживаешь как «себя», происходят до того, как осознаются. Ими управляют те же физические законы, по которым трансформируется вся Вселенная. Где же здесь тот, кто в состоянии что-то решать и делать? Разве эхо может управлять породившим его криком? В тебе нет никого, кто привязан.
— А что тогда есть?
— Есть только постоянно повторяющийся акт прилипания мухи к меду. Но этот мед существует только как возбуждение в мухе, а муха существует только как реакция на мед.
В диалоге приводятся варианты философских взглядов на сознание скорее редукционисткого или эмерджентного подходов. Это лишь два взгляда но проблему сознания. Существует ещё например натуралистический монизм и ряд других подходов. Какой из них верный пока неизвестно. И в любом случае остаётся проблема — как определить, есть чувства у робота или нет?
> как определить, есть чувства у робота или нет?
А как определить, есть они у человека или нет?
А как определить, есть они у человека или нет?
Если что-то выглядит как утка, плавает как утка и крякает как утка, то это, скорее всего, утка.
Вы абсолютно правы насчёт того, что пока никто не может доказать наличие сознания у других. Но вы то сами знаете, что ваше чувствующее сознание существует. Когда вам кто-то причиняет боль, вам наверное это не нравиться и хочется этого избежать. Когда например болит зуб не получиться сказать самому себе «а есть ли у меня чувства? может быть зубная боль всего лишь моя иллюзия?» :)
Вопрос несколько сложнее аналогии с уткой — когда вы слышите например в самолёте речь капитана, видите его на экране монитора, встроенного в переднее кресло, вы можете быть уверены, что это живой человек а не компьютерная симуляция? Siri давно говорит человеческим голосом. Внешне человека можно будет скопировать довольно скоро. Вопрос в том, будут ли у этого существа чувства или нет.
Вопрос несколько сложнее аналогии с уткой — когда вы слышите например в самолёте речь капитана, видите его на экране монитора, встроенного в переднее кресло, вы можете быть уверены, что это живой человек а не компьютерная симуляция? Siri давно говорит человеческим голосом. Внешне человека можно будет скопировать довольно скоро. Вопрос в том, будут ли у этого существа чувства или нет.
> Но вы то сами знаете, что ваше чувствующее сознание существует.
Я точно так же могу знать, например, что то, что я сейчас пишу этот коммент — это мой сон. Или не мой сон. Или глюк какого-то другого существа. И т.п.
Также, я могу знать, например, что это все — только набор сложных рефлексов.
Это все недоказуемо. Реакция на боль — это тот же рефлекс. У некоторых людей (например, как результат поражения мозга либо психики), кстати, она вообще может либо отсутствовать, либо быть не такой, как у меня.
> когда вы слышите например в самолёте речь капитана, видите его на экране монитора, встроенного в переднее кресло, вы можете быть уверены, что это живой человек а не компьютерная симуляция
Уверенным нельзя быть ни в чем. Все, что ощущает/видит/слышит человек — это продукт работы его мозга. Есть куча психических расстройств, когда, например, человек не может воспринимать некоторые концепции или образы.
Также, некоторые вещества могут весьма забавно влиять на восприятие.
> Вопрос в том, будут ли у этого существа чувства или нет.
Вы сначала дайте четкие определения и критерии оценки «чувств», а потом уже можно будет и рассуждать. А пока это все попахивает каким-то наивным антропоцентризмом.
Я точно так же могу знать, например, что то, что я сейчас пишу этот коммент — это мой сон. Или не мой сон. Или глюк какого-то другого существа. И т.п.
Также, я могу знать, например, что это все — только набор сложных рефлексов.
Это все недоказуемо. Реакция на боль — это тот же рефлекс. У некоторых людей (например, как результат поражения мозга либо психики), кстати, она вообще может либо отсутствовать, либо быть не такой, как у меня.
> когда вы слышите например в самолёте речь капитана, видите его на экране монитора, встроенного в переднее кресло, вы можете быть уверены, что это живой человек а не компьютерная симуляция
Уверенным нельзя быть ни в чем. Все, что ощущает/видит/слышит человек — это продукт работы его мозга. Есть куча психических расстройств, когда, например, человек не может воспринимать некоторые концепции или образы.
Также, некоторые вещества могут весьма забавно влиять на восприятие.
> Вопрос в том, будут ли у этого существа чувства или нет.
Вы сначала дайте четкие определения и критерии оценки «чувств», а потом уже можно будет и рассуждать. А пока это все попахивает каким-то наивным антропоцентризмом.
Вы говорите совершенно правильные вещи. Вопрос сложный и его трудно обсуждать в коротком формате комментариев.
Сначала про «мой сон» или «глюк иного существа» — солипсизм действительно невозможно опровергнуть, однако эта идея несёт какую нибудь пользу? Если у меня сильно болит зуб, и я говорю себе «возможно это всего лишь мой сон» — и что с того? Проблема то остаётся. Надо учиться решать проблемы в «этом сне» и решать научным методом, потому что по иному не получается.
И вы опять же правы, говоря что боль которую ощущаю я может быть совсем отличной от ваших ощущений. Но факт то остаётся — с неприятными чувствами надо что-то делать, от них нельзя отмахнутся. Статья то как раз об этом — можем ли мы как то детектировать внутренние ощущения сознания или нет?
Для этого и нужна теория сознания, которая сейчас вернулась в фокус научного сообщества.
Про психические расстройства вы тоже правы — наше чувствующее сознание живёт в виртуальной реальности, созданной нашим мозгом.
А вот насчёт антропоцентризма не соглашусь. Речь идёт именно о чувствах, которые испытывает сознательное существо. Дело в том, что от них нельзя отмахнутся назвав иллюзией, работой мозга или как то ещё — если это иллюзия, то как её сделать приятной иллюзией?
Вы знакомы с критикой Дэннета? Деннет как раз отстаивает редукционисткий подход, говорит, что сознание это иллюзия и сталкивается с критикой — его книгу «Объяснение сознания» называют «Убийство сознания» подчёркивая тот факт что наши субъективные чувства мы всё таки ощущаем и от них нельзя отмахнутся.
И да, традиционная наука всегда игнорировала сознание — однако именно сейчас всё меняется. Метцингер, Антти Ревонсуо, например довольно хорошо описывают современное положение дел. И такие понятия как квалиа уже входят в научный лексикон.
Сначала про «мой сон» или «глюк иного существа» — солипсизм действительно невозможно опровергнуть, однако эта идея несёт какую нибудь пользу? Если у меня сильно болит зуб, и я говорю себе «возможно это всего лишь мой сон» — и что с того? Проблема то остаётся. Надо учиться решать проблемы в «этом сне» и решать научным методом, потому что по иному не получается.
И вы опять же правы, говоря что боль которую ощущаю я может быть совсем отличной от ваших ощущений. Но факт то остаётся — с неприятными чувствами надо что-то делать, от них нельзя отмахнутся. Статья то как раз об этом — можем ли мы как то детектировать внутренние ощущения сознания или нет?
Для этого и нужна теория сознания, которая сейчас вернулась в фокус научного сообщества.
Про психические расстройства вы тоже правы — наше чувствующее сознание живёт в виртуальной реальности, созданной нашим мозгом.
А вот насчёт антропоцентризма не соглашусь. Речь идёт именно о чувствах, которые испытывает сознательное существо. Дело в том, что от них нельзя отмахнутся назвав иллюзией, работой мозга или как то ещё — если это иллюзия, то как её сделать приятной иллюзией?
Вы знакомы с критикой Дэннета? Деннет как раз отстаивает редукционисткий подход, говорит, что сознание это иллюзия и сталкивается с критикой — его книгу «Объяснение сознания» называют «Убийство сознания» подчёркивая тот факт что наши субъективные чувства мы всё таки ощущаем и от них нельзя отмахнутся.
И да, традиционная наука всегда игнорировала сознание — однако именно сейчас всё меняется. Метцингер, Антти Ревонсуо, например довольно хорошо описывают современное положение дел. И такие понятия как квалиа уже входят в научный лексикон.
> Речь идёт именно о чувствах, которые испытывает сознательное существо.
Есть ли формальное описание этого феномена и его свойств / проявлений? Ну т.е. чтобы можно было четко сказать «Да, вот это — чувства. А вон то — нет».
Ну и аналогично по поводу «сознательного существа», но это уже другой вопрос :)
Без этого — все это просто рассуждения «за бутылкой пива / чашкой кофе».
Есть ли формальное описание этого феномена и его свойств / проявлений? Ну т.е. чтобы можно было четко сказать «Да, вот это — чувства. А вон то — нет».
Ну и аналогично по поводу «сознательного существа», но это уже другой вопрос :)
Без этого — все это просто рассуждения «за бутылкой пива / чашкой кофе».
> Есть ли формальное описание этого феномена и его свойств / проявлений?
Антти Ревонсуо. «Психология сознания» — наиболее подробное описание настоящего положения дел из тех книг, которые я читал. Там даётся попытка дать определения чувствам и сознанию. Сейчас разные исследователи дают разные определения и научный лексикон ещё не окончательно сформировался — но дело идёт ))
Насчёт «это просто рассуждения» — когда мы пишем или читаем эти строки тысячи людей находят в реанимации в коме — ещё пару лет назад считалось что у них нет сознания и поэтому им не требуются обезболивание. Сейчас с помощью методов МРТ стало ясно, что часть людей в коме обладают ясным сознанием, просто парализованы. Таким людям требуются анальгетики и помощь. Не дай бог никому оказаться в таком положении, ведь тогда рассуждения о сознании сразу обретут первостепенное значение и сразу остро захочется, чтобы проблема сознания получала больше внимания общества.
Антти Ревонсуо. «Психология сознания» — наиболее подробное описание настоящего положения дел из тех книг, которые я читал. Там даётся попытка дать определения чувствам и сознанию. Сейчас разные исследователи дают разные определения и научный лексикон ещё не окончательно сформировался — но дело идёт ))
Насчёт «это просто рассуждения» — когда мы пишем или читаем эти строки тысячи людей находят в реанимации в коме — ещё пару лет назад считалось что у них нет сознания и поэтому им не требуются обезболивание. Сейчас с помощью методов МРТ стало ясно, что часть людей в коме обладают ясным сознанием, просто парализованы. Таким людям требуются анальгетики и помощь. Не дай бог никому оказаться в таком положении, ведь тогда рассуждения о сознании сразу обретут первостепенное значение и сразу остро захочется, чтобы проблема сознания получала больше внимания общества.
Вы опять скатываетесь не в ту область — реакция на боль — это заморочка исключительно нервной системы, один из базовых рефлексов, выработанных с вполне определенной целью.
А труды этого товарища имеют отношение к сознанию человека.
Если мы рассматриваем робота как _копию_ человека — то ок, тогда и дискутировать смысла нет — копия сможет достоверно эмулировать поведение и реакции человека (и вопросы «а реально ли он это чувствует/думает» тут не имеют смысла).
Если же мы рассматриваем нормальный полноценный ИИ — то тут все эти критерии не применимы.
А труды этого товарища имеют отношение к сознанию человека.
Если мы рассматриваем робота как _копию_ человека — то ок, тогда и дискутировать смысла нет — копия сможет достоверно эмулировать поведение и реакции человека (и вопросы «а реально ли он это чувствует/думает» тут не имеют смысла).
Если же мы рассматриваем нормальный полноценный ИИ — то тут все эти критерии не применимы.
Есть предположение, что чувства и сознание такие штуки, что могут возникать как у биологических, так и у небиологических объектов. Это открытый вопрос. Люди тоже ведь из атомов состоят, как и ИИ — так сможет ли ИИ чувствовать боль, а не симулировать реакцию на неё?
Есть мнение что сознание может основываться на разных физических носителях — если это действительно так, то ИИ может помочь нам ответить на вопрос о человеческом сознании, поскольку с ИИ можно проводить эксперименты, типа описанного в статье.
Есть мнение что сознание может основываться на разных физических носителях — если это действительно так, то ИИ может помочь нам ответить на вопрос о человеческом сознании, поскольку с ИИ можно проводить эксперименты, типа описанного в статье.
> чувствовать боль
Как человек — не сможет, т.к. он не человек (если, конечно, мы не эмулировали полностью мозг и тело человека). Могут быть какие-то свои аналоги, ибо механизм на самом деле полезный.
Как человек — не сможет, т.к. он не человек (если, конечно, мы не эмулировали полностью мозг и тело человека). Могут быть какие-то свои аналоги, ибо механизм на самом деле полезный.
Поклонники информационной теории сознания с вами не согласятся — они полагают, что если воспроизвести программу, идентичную работе программы человека, то чувства будут идентичные — потому для программы не важно на какой физической основе она исполняется. Например любая программа может быть запущена на обычном компьютере или на машине Бэбиджа — результат будет одинаков.
С другой стороны многие полагают, что даже у людей квалия (удовольствие, боль, цвет) могут быть различными. Например как можно быть уверенным что люди видят красный цвет одинаково? Например возьмём двух детей, которые только учатся говорить и покажем им цветок. Первый ребёнок увидит что цветок синий, второй что цветок жёлтый, но им обоим скажут что цвет цветка называется красным. Потом когда оба ребёнка увидят девочку в красном платье, то опять первый увидит синий цвет, второй жёлтый, но оба ребёнка скажут что платье красное.
С другой стороны многие полагают, что даже у людей квалия (удовольствие, боль, цвет) могут быть различными. Например как можно быть уверенным что люди видят красный цвет одинаково? Например возьмём двух детей, которые только учатся говорить и покажем им цветок. Первый ребёнок увидит что цветок синий, второй что цветок жёлтый, но им обоим скажут что цвет цветка называется красным. Потом когда оба ребёнка увидят девочку в красном платье, то опять первый увидит синий цвет, второй жёлтый, но оба ребёнка скажут что платье красное.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Что делать, когда робот покушается на Вашу жизнь