Comments 34
Вообще-то, для обоснования вышеприведенного тезиса достаточно сослаться на Канта
Попридираюсь к деталям: вообще-то обосновывать тезис ссылкой на философскую концепцию это не очень хороший прием. Философия все-таки не имеет доказательной силы. С таким же успехом можно сослаться на апокрифическое евангелие или фильм "Бегущий по лезвию".
По сути, и сам обосновываемый тезис (существует ли яблоко, когда я на него не смотрю) является философским. Как и тема статьи. Выход на IT уровень сугубо ассоциативный. Отсылка к Канту лишь фиксирует позицию автора (для тех, знает Канта).
Нет, я не против философии как таковой. Недавно с удовольствием прочитал работу Метцингера "Искусственное страдание" ссылка. Кстати, рекомендую всем, там неожиданно логичные рассуждения в первой половине, причем с необычного ракурса. Я прямо не ожидал такого владения темой ML от автора "Being No one".
Просто меня, человека с инженерным профилем, огорчает, что вокруг "искусственного интеллекта", и особенно проблемы сознания, слишком много схоластики, журналистики и маркетинга, а вот обоснованных умозаключений и фальсифицируемых гипотез - днем с огнем :(
а вот обоснованных умозаключений и фальсифицируемых гипотез - днем с огнем
Прежде всего, тема сознания исключительно философская, а значит никаких "фальсифицируемых гипотез" в ней и быть не может. Но, с другой стороны, могу заверить вас, что написанное в этом тексте имеет большое прагматическое значение для реализации ИИ. Давайте подождем несколько лет)
Надеюсь, что после таких разъяснений тезис о неважности трудной проблемы сознания в контексте разработки ИИ не выглядит таким уж очевидным.
Выглядит. Доказательства обратного вы не дали, просто порассуждали на тему "как оно может быть устроено". А вывод-то какой?
А вывод-то какой?
Простой: "тезис о неважности трудной проблемы сознания в контексте разработки ИИ не выглядит таким уж очевидным". То есть, есть что обсудить. Заход с позиции трудной проблемы сознания может предложить некоторые гипотезы.
Так а где доказательства-то? Я говорю "тезис о неважности трудной проблемы сознания в контексте разработки ИИ выглядит очень очевидным — она неважна". Считаем, что я прав?
А каких доказательств вы ждали в сугубо философском тексте? Ссылки на код? Здесь же все просто: кто-то посчитал, что написанное вообще бред, другие решили, что ничего не доказано недоказанным, третьи задумались, кто-то нашел подтверждение своим мыслям. Это философия. Если вы стали комментировать, значит я не зря писал)
А каких доказательств вы ждали в сугубо философском тексте?
Доказательств вашей точки зрения, очевидно же.
"Итак, вопрос: может ли то или иное решение сложной проблемы сознания повлиять на развитие искусственного интеллекта, на выбор архитектурных решений для его реализации?"
"Отвечать на этот вопрос начну издалека"
Вы сказали, что хотите дать ответ на вопрос "может ли оно повлиять". Далее вы высказываете мнение, что дескать может, но никаких обоснований ему не приводите.
Ссылки на код?
Странное предположение. Доказательством в рассуждениях считают набор слов человеческого языка.
Если вы стали комментировать, значит я не зря писал
Я комментирую про то, что ответа на ваш вопрос вы не дали, обоснований не привели. Комментировать саму тему имеет смысл только если они есть. Ведь если повлиять оно не может, то вся ваша статья бессмысленна.
Да, для вас она не содержит смысла. С этим не поспоришь)
Вы почему-то делаете вид, что не понимаете.
Вы сказали "Надеюсь, после таких разъяснений исходный тезис начинает выглядеть по-другому". То есть прямо указали, на то, что ваши разъяснения что-то меняют в отношении тезиса. Но они никак не влияют на тезис. Может быть вам кажется, что влияют, но судя по написанному тексту никакой связи между ними нет.
Может быть вам кажется, что влияют, но судя по написанному тексту никакой связи между ними нет.
Мне кажется одно. Вам кажется другое. Ну мы же не будем меряться диной "кажется". Если для вас после разъяснений исходный тезис не стал выглядеть по другому - ничего страшного. Значит мои надежды в данном конкретном случае (с вами) не оправдались. Где проблема?
Из текста непонятно, каким именно образом решение трудной проблемы сознания может повлиять на архитектуру каких-либо систем ИИ.
if (input = "я ощущаю?") then output("да");У автора же рецепторы-эффекторы, вход-выход, чёрный ящик, и одновременно признание трудной проблемы. Как так?
не сводят сознание к конечному автомату
Не знаю, что вас навело на мысль о сведении сознания к конечному автомату. В тексте вполне однозначно разделяется тело (рецепторы, нейроны, реакции), которое действительно может быть описано в терминах конечного автомата, и сознание, как "картинка" данная обладателю тела.
Из сказанного следует, что онтологически «красное, ароматное, вкусное яблоко» – это лишь некоторое состояние нервной системы биологического организма, которое фиксируется обладателем этой системы как явление
С увеличением числа рецепторов формально ситуация не меняется… и далее весь абзац, не буду его цитировать целиком.
У вас нет сознания, квалиа, как отдельного физического процесса. У вас это всего лишь состоянияе, то есть информация в биологическом автомате.
У вас нет сознания, квалиа, как отдельного физического процесса
Конечно, нет. Поскольку сознание не может быть "физическим процессом". Сознание это лишь "явление", "картинка". Если вы представляете сознание как "физический процесс", то текст написан не для вас. Это нормально. Есть разные подходы, разные терминологии.
В вашей статье, «цвет» и прочие категории — просто состояние рецепторов / состояние внутреннего слоя нейросети. Выходит, никакой проблемы нет?
в чём же тогда заключается «трудная проблема сознания»?
Логика трудной проблемы проста: если организм - это лишь автомат, набор физических процессов, то зачем нужна картинка, которую нам демонстрирует нервная система?
В вашей статье, «цвет» и прочие категории — просто состояние рецепторов / состояние внутреннего слоя нейросети. Выходит, никакой проблемы нет?
При таком объяснении проблема снимается. Но она была сформулирована Чалмерсом до написания моей статьи)
то зачем нужна картинкаЭто не трудная проблема. На этот вопрос вы отвечаете в статье.
При таком объяснении проблема снимается. Но она была сформулирована ЧалмерсомВ философии сознания есть множество направлений. Некоторые (функционалисты, элиминисты) просто не признают наличия проблемы.
Я тоже скорее придерживаюсь информационной теории сознания, что его можно алгоритмически запустить на любой кофеварке соответствующей вычислительной мощности. Тем не менее, мне интересно знакомиться с другими течениями — всякие там идеалисты, монисты и прочее. Хочется понять их аргументацию, терминологию, проблемы.
В этом смысле статья выглядит как разбор пресвятой троицы с точки зрения атеиста. Мол, проблемы нет, а кто там её когда-то формулировал — так это мракобесы какие-то.
Я мог бы заплатить деньги, чтобы посмотреть, как комментаторы этого топика читают и понимают Канта
то есть констатировать, что яблоко, которое мы видим, у которого есть цвет, запах, вкус – это лишь явление, данное нам в созерцании. А то, что стояло за явленным яблоком и что осталось на столе, когда мы отвернулись, следует называть «вещью в себе», которая, по сути, ничем не является
Подмена понятий. Люди называют яблоком реальное яблоко, а не свои ощущения. Потому что причина этих ощущений это в большинстве случаев реальный объект, а другие варианты случаются достаточно редко.
нам может быть дано яблоко с цветом, вкусом, запахом и без какого-либо намека на наличие за ним «вещи в себе» (например, во сне или при галлюцинации)
Ну так наверно потому и существуют термины "сон" или "галлюцинация", чтобы обозначать такие ситуации? А термином "яблоко" обозначается реальное яблоко.
И тут сразу же следует особо обратить внимание на то, что никакого «внешнего мира» для нервных клеток, нервной системы нет.
В такой формулировке это неверно и бессмысленно. Для нервных клеток термин "внешний мир" означает то, что он означает. Потому что он появился в результате деятельности нервных клеток.
Да и вообще, каков онтологический статус красного ароматного сладкого яблока? Где это яблоко существует как целостный комплекс своих свойств?
Снова подмена понятий, реальное яблоко подменяется комплексом ощущений. Комплекс ощущений существует в нервной системе наблюдателя, яблоко в реальности.
Во-вторых, и что самое главное, для рецепторов вообще нет и не может быть никаких «целостных комплексов».
А кто-то говорил, что может?
яблоко как единый комплекс всех своих свойств (с цветом, запахом и вкусом) порождается нервной системой путем интеграции данных со всех рецепторов. Именно порождается, конструируется
Слова "образ" и "воображение" придумали уже давно. А вы говорите так, как будто это какое-то открытие.
А то, что находится по ту сторону рецепторов, не имеет никаких свойств
Имеет. Именно они воздействуют на рецепторы. Это ощущений типа "красное, ароматное, вкусное" оно не имеет, потому что ощущения связаны с тем, кто их ощущает. Но люди этими терминами обозначают именно исходные характеристики яблока, которые приводят к этим ощущениям. Из чего следует существование этих характеристик.
с онтологической точки зрения следует трактовать как нечто несуществующее, принципиально недоступное для смотрящего
Формулировка "принипиально недоступное" неверная. Доступность обеспечивается именно через рецепторы. Вообще, любая доступность подразумевает какие-то элементы для приема информации.
Для решения такой задачи оптимальной могла бы оказаться двухуровневая архитектура нервной системы.
Более того, у человека этих уровней гораздо больше. Палочки и колбочки это самый первый. Или вы думаете, что между колбочками и мышцами всего один уровень нейронов?
то она, уж конечно, смогла справиться и с задачей построения 3D-картинки
Ага, "уж конечно" это хороший научный аргумент.
то есть, зачем механизму, преобразующему входные данных с рецепторов в сокращения мышц, строить картинки? Не от скуки же
То есть вы учились в школе, знаете про эволюцию, и не можете придумать варианта лучше, чем "от скуки"?
И кстати, почему вы разделяете входные данные с предыдущего слоя и картинки?
построение пространства «устойчивых комплексов» не имеет ничего общего с теорией отражения: в сознании ничего не отражается, тем более цвет, вкус, запах
Теория отражения не говорит, что "цвет, вкус и запах" существуют вне наблюдателя и отражаются в нем. "Отражение" в теории отражения это именно то, о чем пишете вы — конструкции на базе массива данных от рецепторов.
Надеюсь, что после таких разъяснений тезис о неважности трудной проблемы сознания в контексте разработки ИИ не выглядит таким уж очевидным
Выглядит. Эти разъяснения никак не влияют на исходный тезис.
Важным отличием реальности, как одной из формы информации, с которой мы имеем дело (от других возможных форм) являются два аспекта: воспроизводимость и независимость от субъекта.?
Воспроизводимость гарантирует, что отвернувшись от яблока, а затем вновь обратив на него свое внимание - вы увидите то же яблоко. Можно сколь угодно рассуждать о том, что "яблоко как единый комплекс всех своих свойств (с цветом, запахом и вкусом) порождается нервной системой..." - но делается это всегда одинаково и на базе одних и тех же "данных со всех рецепторов" - всегда будет синтезировано то же самое яблоко. Это позволяет изучать и верифицировать реальность вне зависимости от числа рецепторов, что называется со всех сторон.
А независимость восприятия гарантирует некую объективность: вы можете увидеть не то, что есть на самом деле (когнитивные искажения вида "показалось"), на более высоких уровнях абстрагирования - можете даже убедить себя в том, что видели что-то иное, но... Тем не менее исходный сигнал на сенсорах вам неподконтролен. Поэтому как бы не менялась система интерпретации - исходное "явление, данное нам в созерцании" - всегда будет той ground truth, которая формируют машу модель мира. ?♂️
Воспроизводимость гарантирует, что отвернувшись от яблока, а затем вновь обратив на него свое внимание - вы увидите то же яблоко.
Так что ж в этом удивительного? Допустим вы в переплетении трещин на стене увидели бабочку. И сколько бы раз вы после не смотрели бы на это место стены, вы опять и опять будете видеть эту бабочку. Но это не значит, что эта бабочка есть на стене. Вы просто воспроизводите свой шаблон восприятия.
Это позволяет изучать и верифицировать реальность вне зависимости от числа рецепторов, что называется со всех сторон.
Это лишь позволяет изучать и верифицировать ваш шаблон восприятия вещи в себе. Другой может в этом переплетении трещин видеть женский профиль. И сколько бы раз он не смотрел на это переплетение он будет видеть все тот же профиль.
вы можете увидеть не то, что есть на самом деле
А кто-то (вы, например) видит то, что есть на самом деле? Ну там на самом деле бабочка, а кто-то говорит, что профиль девушки? Значит он просто слепой или глупый. Ведь на самом деле там то, что видите вы)
Вы сейчас озвучили распространенное бытовое убеждение. Да, так принято думать. Да, так удобно думать. И не понятно, зачем и к чему такие глупые люди как Кант сомневаются в том, что так очевидно для вас. Даже наличие кроме вашей "правильной" модели мира еще отличной от вашей кантовской и моей модели мира должно навести вас на мысль, что может не все так просто. Что нет единой модели. И что вообще нет никакой модели, поскольку ни для меня, ни для вас, ни для Канта оригинал не доступен.
Ну или просто примите, что этот текст написан не для вас)
И вы, как обычно, отвечаете не на комментарий, а на то, что ожидаете увидеть в качестве комментария, своим ответом иллюстрируя свою идею лучше, чем видео ниже. ? Попробуйте все-таки не спорить сам с собой, а хоть немного слышать оппонента.
Я не спорю с вами, что бабочки, яблоки и профили девушки исключительно в голове, а не в реальности. Это в общем не так сложно, как вам почему-то кажется.
Я лишь говорю о том, что наличие внешнего сигнала имеющего не только структуру (как трещины на стене), но и причинно-следственные закономерности - обеспечивает возможность формирования нашей картину мира.
И прав не тот, у кого бабочка или девушка, а тот... Ну если она между цветками порхает - то прав один, а если к профилю прилагаются все остальные семантические признаки - другой.? Даже если цветы и женщины в реальности - не то, чем они нам кажутся. Истинность восприятия валидирует реальность, а не убеждённость в свое правоте. ?♂️
Я лишь говорю о том, что наличие внешнего сигнала имеющего не только структуру (как трещины на стене), но и причинно-следственные закономерности - обеспечивает возможность формирования нашей картину мира.
Конечно, трещинки двигаются, и смотрящий на стену видит то, что может различить в этом движении согласно своему уровню, разнообразию шаблонов восприятия (добавьте сюда еще образ океана Соляриса). И причинно следственные связи - это одни из шаблонов восприятия (здравствуй Юм). Указывая на одно и тоже разные субъекты прекрасно видят разное и по-разному трактуют причины увиденного. Да, это не столь очевидно не уровне яблока - тут срабатывает единство устройства организма, воспитания и образования - но если мы обратимся к чему-то более сложному чем яблоко, то у одних будет "коронавирус", а других "Корнелиус") И причины происходящего будут разные. Хотя и у первых, и вторых все будет воспроизводимо, и всех будет "на самом деле". Но разное. При одном и том же "внешнем сигнале" (скажем, поступающего с экрана телевизора). Да, то, что давит на рецепторы формирует картины мира, но почему-то эти "картины" оказываются такими разными.
И тут мы имеем дело не философскими изысками, а с проблемами построения IT-архитектур. Надо понимать, что при создании достаточно сложных систем уже невозможно будет алгоритмически контролировать преобразования сигналов с датчиков, надо будет как-то выстраивать "картину мира" системы. И тут вопрос: что она будет слышать "коронавирус" или "Корнелиус"? какие причинно следственные связи различит (надеюсь, понятно, что речь и идет не о падении яблока на голову).
Да и про яблоко не все так очевидно: да, сколько бы раз вы не направляли свой взгляд в то место, где видите яблоко, столько раз увидите его. И ваш друг подтвердит, что видит в этом месте яблоко. Но это не ничуть не доказывает, что красное вкусное яблоко есть в этом месте, когда вы отворачиваетесь. И не доказывает, что вы с вашим другом видите цвет этого яблоко одинаково, одинаково чувствует его вкус. В том месте нет красноты и вкуса. А значит и нет яблока. Хотя нечто есть, закономерно вписанное в общее движение универсума (океана Соляриса, трещинок на стене).
Именно!
Но вопрос в другом - а зачем нам выстраивать картину мира? Хотя... Тут есть ряд нюансов, согласен. Без нашей помощи IT-архитектура будет формировать картину сопоставимой сложности слишком долго - добавить разметку не помешало бы, но...
Если у нас Корнелиус, а у ней Короновирус - то правда не за нами, а за тем кто лучше объясняет реальность. ??♂️ Если Система ошиблась, то ошибка должна заключаться в плохом предсказании, а не в несогласии с нами. Наоборот, тут может сработать эволюционная стратегия: создать множество систем, имеющих "альтернативный взгляд на мир", и пусть победит та, которая лучше попадает в реальность...
Если у нас Корнелиус, а у ней Короновирус - то правда не за нами, а за тем кто лучше объясняет реальность.
Тут же такая история, что каждый объясняет свою картину мира в рамках своей же картины мира, и понятно, что объясняет лучше, чем другие. Кто же согласится, что его картина мира хуже, чем у соседа? Ведь вы же осознаете, что ваша картина мира правильная? А если кто-то пишет другое, то значит он плохо объясняет вашу картину мира. А поскольку ни у кого нет доступа к этой самой "реальности", то об объяснении ее и речи быть не может.
Если Система ошиблась, то ошибка должна заключаться в плохом предсказании, а не в несогласии с нами.
Так у всех картины мира устроены так, что каждый в своей предсказывает, что произойдет в его картине практически без ошибок. А появившиеся ошибки (неудачи) всегда списываются на помехи со стороны других. Ведь согласитесь, мы наблюдаем десятки разнообразных картин мира, но почему-то не замечаем, что владельцы одной из них как-то заметно отличаются от остальных в сторону лучших предсказаний. У всех есть достижения и у всех есть проколы.
тут может сработать эволюционная стратегия: создать множество систем, имеющих "альтернативный взгляд на мир", и пусть победит та, которая лучше попадает в реальность...
Ну так и есть уже много тысячелетий. И опыт показывает, что картины разные нужны, картины разные важны. Это просто эмпирический факт: и верующие во всевозможные религии, и атеисты, и приверженцы разных политических течений - все существуют в границах своих картин мира без какого-либо доступа к так называемой "реальности".
Ну… человек конечно не склонен признавать, что кто-то понимает/объясняет мир лучше. Но вообще - это не так что б невозможно, на мой взгляд… ?
Но для искусственных систем все гораздо проще: для них это буквально значение loss-функции, либо соответствующих метрик. Так что между разными искусственными системами выяснить, кто лучше - большой проблемы не составит…
Ну и… Так-то, строго говоря, получить значения этих метрик для человека - тоже не сложно, разве что чистоту эксперимента сложнее гарантировать: для искусственных систем, как правило, известно какие данные они видели (обучались на них), а какие - нет…
И уж извините, но если человек религиозный, или эзотерик предсказывает развитие событий лучше ученого-логика, то его картина мира эффективнее! ?. Ясновидение там, или еще что, но это, как вы говорите - эмпирический факт!
Если вы произнося фразу "картина мира" имеете в виду только ее (картины) научную составляющую, то да, тут ученые рулят. Но мир гораздо шире предмета науки. И большинство людей существует за пределами научной картины мира (не предсказывают вероятность результат измерения квантовой системы). И тут большой вопрос, кто эффективнее прогнозирует ситуацию в мире (не в науке), кто лучше ориентируется в социуме: профессор-ботаник или священник? И если предполагается использовать искусственные системы для предсказания результатов научных экспериментов, то это не то, что проще, а проще некуда. Хотя хотелось бы, что бы эти "искусственные системы" и в мире людей ориентировались со всеми их религиозными и политическими особенностями.
Яблоко в себе