Comments 16
1. Комната обладает всеми возможностями компьютера
2. Комната создает видимость знание китайского языка
3. В действительности человек в комнате не знает китайского языка.
Крайне корявый перевод, Кугель не опровергал эксперимент, а критиковал его реализацию. Два других утверждения не становятся автоматически ложными, суть в том что сама комната представляется как компьютер, а человек в ней - всего лишь устройство обработки и выдачи информации. И предполагается что этот "вычислительный блок" ничего не понимает в привычном смысле, а просто оперирует входящей и выходящей информацией на основе запрограммированных инструкций (в данном случае словаря). То есть симулируется работа компьютера. Но чтобы считать эксперимент целостным комната должна была бы обладать всеми свойствами настоящего компьютера, а это слишком сильное допущение чтобы считать эксперимент полноценным.
Сам Кугель как раз таки был ярым противником ИИ и соглашался с Серлом что все текущие модели никогда не станут полноценно интеллектуальными, ибо они не обладают возможностью запомнить и применить информацию, а следовательно не способны к целепологанию, просто бездумная система запрос-ответ.
Квалиа - отдельные моменты субъективного, сознательного опыта.
Тоже ранее обратил внимание на это, даже не зная слова. Но оно все неоднозначно и не конкретно, до такой степени не конкретно, что некоторые ставят под сомнение существование самого феномена квалиа.
Позже понял, что намного более конкретно и предметно обсуждать НАСЛАЖДЕНИЕ и СТРАДАНИЕ.
Пришел к тому же, к чему пришли буддисты и прочие.
Отрицать наслаждение и страдание как феномен - глупо. Как только кто-то начинает отрицать - то сразу начинаете его подвергать страданию - и чел. вынужден будет сознаться что просто троллил.
Компьютер не может страдать - ни в какой степени. Ни на сколько. Ни при каком алгоритме. А человек может.
Мы не особо уделяем этому внимание - а ведь в этом вся суть. Знания нужны лишь для того, чтобы применить их к избеганию страдания.
Феномен наслаждения и страдания - приводят к понятию добра и зла. Зло - это подвергать напрасному страданию того, кто умеет страдать.
Почему то пока очень мало об этом говорят. А ведь в этом вся суть - вся тайна мироздания.
Даже то же квалиа. Оно обретает интерес когда вызывает наслаждение и страдание. Вот когда просто красность - это ни о чем. А когда эта красность вызывает эстетическое наслаждение - уже совсем другой интерес.
Когда вы еще ребенок и вам не объяснили, что такое унижение, но при этом вас унизят, вы даже не поймете, что вы должны страдать. Понимаете?
Заблуждение. Эмоции и чувства - биохимия. Им без разницы осознаёшь ты их или нет. Если бы всё было по вашей логике, мы бы никогда не влюблялись, ибо не знали бы что при этом нужно испытывать. Да и вообще есть огромный спектр чувств и эмоций которые можно испытать пару раз в жизни и даже не понять что это было, но оно было. И нет никакой разницы осознал ты что испытал или не осознал.
Та же петрушка и с наслаждением, часть наслаждений заложены в нас природой и чаще всего это будет все природное, типа пения птичек, любованием рассветом и закатом, но вот получить удавольствие от того, от чего современный человек получает - вы сможете только приняв соглашение о том, что вы согласны получать удавольствие от тех источников удавольствий, которыми кишит наш досуг.
Следствие первого. Мозг ищет от чего ты получаешь приятные эмоции и стимулирует тебя повторять эти действия. Это следствия не общества, а банального опыта. Будь ты хоть на необитаемом острове - всё равно найдёшь свои "наркотики" от которых будешь кайфовать. Они будут иными, да. Но они однозначно будут. Человек склонен к адаптации. А умение получать кайф от чего либо чтобы поддерживать ментальное здоровье - одна из важнейших природных функций. Она есть и у высокоорганизованных животных.
Эмоции и чувства — биохимия. Им без разницы осознаёшь ты их или нет.Не совсем так. На уровне сознания появляется какое-то ощущение, и трактовка этого ощущения вполне может зависеть от воспитания. Например, падение споткнувшегося ребенка в одной культуре воспринимается как невыносимая боль и повод для рыданий, а в другой культуре встречается со смехом и сразу забывается. В особенности это касается сложных чувств вроде того же унижения — где-то побои учителя воспринимаются с благодарностью, а где-то как повод для встречной агрессии.
Спасибо за обзорную статью на актуальную тему ИИ.
Однако пора бы уже переходить от сбора материалов к их анализу и синтезу решений. И для начала надо хотя бы определится с пониманием, что такое интеллект, что разум, ум, сознание и т.п. - откуда они взялись (в нас), зачем они, в чем разница?..
В статье https://habr.com/ru/post/661959/ предлагается подход к этому на основе нашего, природного, реально существующего "естественного интеллекта".
И для [сознания] есть определения :
(прото-) - появление возможности моделировать (в своём мозге) внешний мир и на основании модели конкурентно участвовать в управлении собой (~140-65 млн. лет назад)
(само-) = сознание + внесение самого себя как отдельного объекта внешнего мира в свою модель (у единиц высших животных и у человека с 3х лет);
само-О-сознание - переход с приоритета внешней (био-социальной) модели на собственную (только у человека, и то не у всякого и не сразу, и в разной мере + для "включения" нужен некий объем модели, возросший самоконтроль и некий "шок");
возможно и дальнейшее развитие.
.
Что же касается "китайской комнаты", то на первый взгляд всё верно, но только пока не задумываешься о том, что речь-то идет о "закрытой системе" для которой и заданны правила неосознанного перевода. А реальность-то не закрыта! Да еще и "работать" должна в "реальном времени"! И достаточно включить "динамику" реального мира что бы понять бессмысленность этого "эксперимента":
вопрос может быть с ошибкой, на другом наречии, многозначный, использующий невербальную информацию или глупый.. т.е. не предусмотренный в книге правил;
со временем меняется мир, а значит и язык и его понятия, т.е. правила уже не будут соответствовать реальности...
И ответы "комнаты" потеряют смысл...
Если же указать, что правила меняются соотв. изменениям в открытой системы и в реальном времени, то это просто вынос сознания из комнаты.
Т.е. для закрытой/очень простой/медленно меняющейся/фундаментальной среды этот эксперимент верен - и так работает и продолжает работать инстинкт. А вот что бы уметь адекватно "переводить" в открытом мире и в реальном времени нужно не только иметь инстинкты, но уже и понимать, о чем речь (т.е. как минимум "выглядывать" из этой комнаты и осознавать изменения) .
Собственно ускорение развития Жизни, требующий увеличения скорости и объема обработки информации и диктует переход от медленного элементарного инстинкта ко всё более быстро реагирующему сознанию.
.
А про "квалиа" - ну и что такого в квалиа? в том, что каждый чувствует уникально? ну да, это так, и что?
Так-то мы вообще-то полностью уникальны: и сетчатка и отпечатки пальцев и генетический код.. по совокупности родителей, возраста, среды, опыта, изменений со временем.. уж не говоря о том, что и то, что мы едим/читаем и "пепел звезд" из которых мы созданы тоже разный...
И что? абсолютная уникальность и не понимание никого это верный путь к смерти.
Проблема не в квалиа (это путь "знать всё больше и больше о всё меньшем и меньшем и в итоге знать всё ни о чём"(с)), а в том, как мы все такие уникально-разные ухитряемся всё же видеть мир более-менее одинаково, целостно и "позитивно-перспективно"...
А про "квалиа" - ну и что такого в квалиа? в том, что каждый чувствует уникально?
Проблема квалиа не в том что каждый чувствует уникально, а в том что электрохимическая активность мозга в принципе сопровождается чувствами и субъективным опытом. И никто не в состоянии объяснить почему так происходит т.к. логически одно не вытекает из другого. В этом и смысл трудной проблемы сознания.
никто не в состоянии объяснить почему так происходитУточню — никто не в состоянии объяснить так, чтобы это объяснение было принято значимой частью других. Объяснений есть много, приемлемое трудно найти.
Например, через аналогию со временем. Время не существует в чувствах, мы лишь наблюдаем в памяти две картинки «давно» и «недавно», вычисляем различие, после чего наблюдаем картинку с результатом сравнения — вот эта третья картинка и есть свидетельство изменчивости мира, наличия времени. Мы всегда существуем в моменте, в котором разглядываем «третью картинку», на которой видны следы «прошлого» и предсказываются варианты «будущего». Нет ни прошлого, ни будущего, есть только картинка с различиями между двумя картинками из опыта или предсказаний.
Так и с «осознанием» — мы наблюдаем картинку с результатом сравнения двух других картинок, на одной из которых было какое-то чувство, процесс или мысль, а на второй не было, таким образом замеченное в различиях явление было увидено, а значит и осознано. Все процессы, наблюдаемые внутри в психике или снаружи в окружающем мире, воспринимаются одинаково — через разглядывание «картинки сравнения»
Для повторения «квалиа» достаточно построить программу, у которой на вход приемника информации будут поданы сигналы от детекторов «чувств» плюс синтезируемые сигналы боли, оценок, стремлений и так далее, плюс картинки из механизма моделирования, опирающегося на память и предсказания, которые опираются на опыт — восприятие картинок с результатами сравнений и будет искомым феноменом.
Ну как это логически не вытекает. Кроме мозга у нас нет другого органа про который можно было бы сказать что он обеспечивает наличие у нас чувств, отсюда логически вытекает что именно мозг за это ответственен. Другое дело что не у всех людей это "укладывается в голове"
Опять переливание из пустого в порожнее, пережевывание ранее пережеванного... Ничего нового не узнал, но лишний раз убедился, что у автора(ов) явные проблемы с русским языком. Грамматика, орфография и пунктуация в большом долгу.
Интересно, что статья, подробно рассматривая различные теории сознания и проблемы ИИ, не затрагивает Теорию Интегрированной Информации (IIT). А ведь в контексте рассмотренных теорий (особенно в части дискуссии о "сильном" ИИ) она представляет особый интерес. Если проследить историческую линию от Лейбница с его монадами, через современные теории сознания, описанные в статье, можно увидеть интересную эволюцию идей.
Статья верно отмечает, что "многие существующие теории сознания, сталкиваясь с концепцией сильного искусственного интеллекта, приходят к проблемам и парадоксам". В этом контексте хочу предложить дополнительную перспективу: возможно, нам нужно пересмотреть сам математический аппарат описания сознания и наш подход к его созданию.
Что касается создания искусственного сознания, я полагаю, что следует сместить фокус с разработки информационных моделей на физическую реализацию. Подобно тому, как нарисованное яблоко, каким бы совершенным ни был рисунок, никогда не станет реальным яблоком, даже самая сложная информационная модель сознания не обеспечит подлинного существования. Физическая реализация здесь не менее, а возможно и более важна, чем мощность самой модели.
А с точки зрения теории сознания, я бы предположил, что его основная функция - это обеспечение субъект-объектных отношений, то есть того, что мы называем существованием. Это требует пересмотра математического аппарата, конкретнее - теории множеств. Предлагается уточнить понятие существования, введя определение субъекта и постулировав, что любой объект может существовать только в рамках субъектов. Такой подход мог бы дать новую перспективу на обсуждаемую в статье проблему различия между "слабым" и "сильным" ИИ.
Сознание и искуственный интелект. Часть 1