Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 14
Для каждого материального объекта, процесса или отношения внутри настоящей машины, на экране будут существовать проекции этих объектов, процессов или отношений внутри машины иллюзорной.
Некий грек до таких откровений додумался более 2х тысяч лет назад, мемасик про тени на стенах пещеры один из самых эпичных в мировой истории. Но надо переизобрести :)
Некий грек утверждал обратное (диалог "О душе"), что каждая вещь в мире является "проекцией" ее идеи. Например каждое шаровидное тело - это всего лишь "проекция" идеи шаровидности. В вольном переводе на современный Сократ как раз намекал на то, что в основе каждого свойства и явления реального мира лежит некоторая математическая идея. Я своим мысленным экспериментом показываю обратное: ни одна математическая теория не может выделить среди машин только машины с ощущением себя.
Всё-таки принято разводить понятия самоощущения и феноменального осознанного переживания (квалиа). "самоощущение" - как некий код в нервной системе для описания например собственного тела может быть и у философского зомби. Квалиа (у тех у кого они есть, например у людей) с другой стороны вызывается не только собственным телом, но и внешним стимулом . В Вашем тексте речь идёт о квалиа, насколько я могу понять.
"Солнечные зайчики на стене не имеют квалиа" - а почему собственно? IIT делает именно такой вывод что квалиа у них есть (я правда глубоко в этой теории не разбирался). В любом случае если постулировать нечто подобное и потом даже прийти к противоречию с экспериментом, мы узнаем о реальности что-то важное.
что мы называем собственным “Я”?
Самосознание.
Можем ли мы математически описать природу самоощущения,
Не можем!
можем ли мы построить машины, которые обладали бы им наподобие нас?
Не можем!
Ну, а если серьезно, то вы замахнулись на недостижимое, соответственно, никаких результатов не будет, за исключением общих разговоров, с оттенком философствования.
в основе феномена мышления может лежать процесс оперирования языком, одна лишь структура которого полностью определяет его смысл
Может «лежать», а может не «лежать»!
Я бы не взял подобные идеи для моделирования «феномена мышления», ибо они не кажутся вполне убедительными.
Предположим, что достаточно разумное существо просматривает напечатанные машиной тексты. Сможет ли оно по одним лишь структурным закономерностям этих текстов сказать, что …
Разумный текст – это вырожденная проекция образов, которые возникают при преобразованном отражении окружающей, мыслящее существо, реальности. Другими словами, объективная реальность отражается, в виде образов, в мозге мыслящего существа, порождая при этом новые образы, которые и служат «мерой разумности». Последние, могут проецироваться в обезличенную, неживую, информацию.
Если эту «обезличенную, неживую, информацию» порождает неразумная машина, то она может только алгоритмически работать с паттернами текста, что, при огромной статистике данных позволяет имитировать разумные ответы, на осмысленные вопросы. Но, порождать принципиально новые образы из отраженной объективной реальности, машина не может, поскольку эта функция живого мозга.
Поэтому, выход здесь, как минимум, в развитии технологий создания ИЖ (Искусственной Жизни). Это не достаточное, но необходимое условие.
Кстати, если верить «буржуям», то они уже создали искусственные «живые» вирусы, спроектированные ИИ-ями. Т.е., эти «ребята» знают, в каком направлении двигаться.
После вирусов (в том числе, боевых!), начнут создавать другие формы простейших живых организмов. При этом, не отказываясь от гено-модификации всего, до чего могут дотянуться (биолаборатории по всему миру и эпидемии / пандемии – это их рук дело!).
Таким образом, биотерроризм становиться или уже стал угрозой существования человечеству.
В этой парадигме, самоосознанность для машин – не самая актуальная задача. Будет ИЖ, будет и осознанность у машин, но, сейчас, важнее, вопросы безопасного существования человечества, цивилизаций, народов и т.д. и т.п. А здесь угрозы растут, даже не арифметической, а геометрической прогрессии…
вы пишите, что человек обладает самоощущением;
человек создан эволюцией Природы и Космоса;
т.е. самоощущение человека является фактом, а значит невозможность создания теории лишь наша человеческая (пока) невозможность - космос и природа это сделали, а значит это возможно будет и понять и сформулировать со временем.
философский зомби это классика но давно известно. а есть ли более свежий угол - например можно ли вообще доказать что у системы есть внутренний опыт а не просто сложное поведение?
Я даже не могу взять в толк почему внутренний опыт и сложное поведение не считают тождественными. Когда начинаю размышлять об этом, прихожу к тому, что внутренний опыт просто частный случай сложного поведения, обусловленный, например, особенностями биологического развития - буквально эмерджентное свойство маленьких китайских комнат в человеческих головах.
Да, но множество световых зайчиков на белой стене, наверное, не может себя ощущать: они всего лишь проекции, которые создает проектор.
А собственно, почему?
Это утверждение подаётся как центральное, на котором основываются все рассуждения. Но почему достаточно сложная проекция сложной системы не может себя ощущать (если сама исходная система себя ощущает)?
Мне кажется, что проверить это не представляется возможным, но утверждать голословно я бы не стал. До сих пор неизвестно, когда же появляется сознание (и далее - самосознание), но есть большие подозрения в современном научном мире, что это напрямую связано со сложностью системы.
Да, утверждение формально доказать трудно, а если оно верно, то и невозможно (для доказательства потребовалось бы формальное определение самоощущения). На интуитивном уровне объяснение такое: чувство единства себя не может появится у множества никак не взаимодействующих между собой объектов (пиксели никак друг на друга физически не влияют).
пиксели никак друг на друга физически не влияют
Если с этой т.з., то да, согласен. Но ведь речь шла о том, что мы проецируем не только пиксели (т.е. части системы), но и взаимодействия между ними. Разве нет?
Нет, только значения физических величин. Взаимодействие - тоже неформализуемое понятие. Все прикладные теории описывают закономерности между индивидуальными поведениями (что происходит с заряженной частицей в присутствии поля и сто происходит с полем в присутствии заряженной частицей), эти закономерности переносятся на проекцию. А "настоящее" взаимодействие - это миф, в который мы верим. Есть ли оно или нет - одними наблюдениями не проверишь. Может весь наш мир - это проекция Божественного проектора, кто знает?)
Проблема инженерного подхода в том. что он склонен рассматривать свойства биологических систем изолированно в качестве некоторых "отдельных субстанций". Говорим ли мы об ощущениях или о любых других субъективных переживаниях. Однако так же как вода может находиться в жидкой или твёрдой фазах без текучести или твёрдости, как отдельных субстанций, так и ощущение представляет собой состояние, в котором находится мозг. Оно неотделимо от него и требует как минимум биологического уровня организации материи.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Мысленный эксперимент, который показывает, что ни одна теория не может адекватно формализовать самоощущение машин