Очень хорошо, что инженеры взялись-таки за понимание чувств, в частности любви. Это весьма своевременно, ведь создается ИИ, как понять, нужна ли ему любовь (и другие чувства - для жизнеспособности и человечности), а если да - то что это, зачем, принцип работы и как это запрограммировать и встроить в общую систему управления?
Однако, к.м.к., предложенный вариант скорее для обдумывания и критики, нежели сразу в продакшен. Особо прикольно, что предложенное понимание не соответствует собственному заявленному эпиграфу т.е. не универсально, а узко специализированно . Т.е. любовь рассматривается только как чувство между двумя людьми (что ещё и антропоцентрично). Но это же не так, любить можно например своё дело, близких, детей, животных, природу... Причём даже между двумя людьми возможна и неразделенная любовь... не говоря уже о неодушевленном - работе например. А чувство любви универсально. Оно заложено в наши инстинкты до нашего рождения, а значит свойственно всей Жизни (в разной мере и форме).
Далее:
CRDT смыслов: база общих знаний, воспоминаний и моделей поведения есть и без любви - родители, школа, работа, знакомые..;
Фристон-style: это уже не любовь, а привычка (убивающая любовь);
SLA: есть и у друзей и у близких людей.. даже у домашних животных, собак например.
В том, что по мнению автора любовь склеивает в устойчивую систему есть истина, но только часть. Да и устойчивым системам как раз любовь и не нужна, даже мешает, дестабилизирует. "Брак по расчёту может быть счастливым, если расчет удался", "Стерпиться - слюбиться" - вот что нужно устойчивым системам.
Не дано понимание того, откуда она, почему и как она возникает, почему проходит, почему остается и развивается и во что и т.п...
Зачем вообще она нужна, ведь и встречаться, и общаться, и размножаться, и рожать, и воспитывать, и работать, и ... прожить всю жизнь можно и без любви? Но вот почему-то считают, она очень важна: "Мир есть любовь", "Аll you need is love"...
Всё же, по-моему, любовь чувство универсальное, а значит на него надо смотреть не с позиции антропоцентризма, а с т.з. космоцентризма. И это не "протокол когерентности", это тогда уж "протокол форсирования самоотдачи", не для устойчивой системы, а для её дестабилизации и перевода на новый, более высокий уровень (а уж стабилизацию на новом обеспечивают другие чувства). Более подробно об этом в т.ч. можно прочесть в книге "Естественный интеллект" (гл 1. Любовь) http://samlib.ru/j/jurewich_d_p/ei.shtml
Тем не менее радует появление у инженеров интереса к "гуманитарным" основам Жизни, ощущение их важности в проектировании Universальных жизнеспособных систем типа ИИ (а так же жизни людей и Жизни в целом) и желание разобраться.
"Может ли работа с ИИ сделать людей более этичными?"
пока ИИ не имеет собственного сознания (ценностей, воли...) (причем для реального мира) это такой же инструмент как, например, молоток. Так что упрощая: может ли изобретение молотка сделать людей более этичными? Да, может - когда играясь с молотком человек наделает делов и ему либо прилетит "снаружи", либо "изнутри" (совесть) после чего он "поймет" границы этичности применения молотка. Некоторым это приходит в голову раньше (чем туда прилетает молоток), но таких людей к сожалению мало (и их голоса не слышны, пока "гром не грянет") да и всё же реальность точнее и шире, чем их представления.
"Нам не нужны умнее машины. Нам нужны яснее люди."
и владение молотком, создаваемые им новые проблемы заставит таки начать разбираться, искать "противовесы", разрабатывать технику безопасности, принимать законы... А некоторых задуматься, не столько о молотке, сколько о том, что есть человек сам по себе :) чьи качества молоток только усиливает.
"Как вы думаете, что важнее: дать машинам делать быстро или иногда нажимать на паузу и подумать?"
вопрос не корректный - если быстро начать стучать молотком (получая прибыль и снижая издержки), то уже не получится ни сделать паузу, ни подумать - т.к. такая работа меняет психологию и работника и владельца, они становиться "заложником молотка" подстраиваясь под него. Только сбой может привести в сознание (ну или окончание работ - но не будем о грустном :)). А так и паузы, и мышление идет "снаружи" т.е. не от работника с молотком и не от молотка, а от "наблюдателя".
Так что "этика ИИ" это пока просто этика людей - для людей, получивших молоток.
Но вопросы этики становятся важнейшими, когда молоток ИИ обретает сознание. И вот для этого случая вопросы добра и зла, совести, человечности, свободы, смысла жизни... разработчикам ИИ вместе со специалистами по этике стоит понять (поняв человека, его Природу и место во Вселенной), алгоритмизировать и вложить в ИИ как фундамент, что бы тот не стал бесчеловечным, бессовестным, бездушным... а смог бы на этом фундаменте стать жизнеспособным, а значит и этичным и человечным...
А что вас удивляет? Ведь искусственный интеллект (в принципе) должен быть (как минимум) равен естественному т.е. человеческому. И автор просто описал процесс воспитания ребёнка, выделив наиболее важное, а в качестве технического обеспечения использовал уже известные технологии. Т.е. всё это вполне ожидаемо и вроде не должно вызывать удивления. Вот если бы он показал неявное, проблемы, о возможности существования которых ещё никто не задумывался тогда, те, которые присущи именно роботизации и созданию ИИ, и которые бы проявились сейчас или видятся в ближайшем будущем, но никак не могли бы быть очевидными для того времени... Вот это было бы удивительно, интересно и практично...
Возможно в связи с квалиа вас заинтересует статья , где на примере с sql запросами дается простая картина их создания и показывается принцип уникальности и использования.
Спасибо за статью. Но если уж быть более точным в заклёпках терминологии, то "...Шеннон, Тьюринг, Винер создали психологам "набор отмычек" своим разумом..." но не для понимания разума, а для понимания подсознания - сознанию.
Нейробиологи изучают био-мозг. И не само сознание, его суть, а нейрокоррелят ("индикатор") т.е. "вот оно есть, а вот нет - как понять, по каким признакам работы мозга?.." (см. определения IIT и GNWT). Ну а ИИ (кремниевый) имеет совсем другую архитектуру "мозга" и био-индикатор ему не подходит. Так что надо сначала с сутью сознания разобраться https://habr.com/ru/articles/871796/
Если я правильно понял, то главной проблемой автор считает большое количество исполнительных механизмов и сложность в их управлении (а так же габариты, энергопотребление и стоимость) при считывании пользователем строки/страницы текста в кодировке Брайля. Но можно же избавиться разом от этих проблем, использовав для показа только один символ (т.е. всего 6 точек) , если считываемый текст будет двигаться под пальцем как-то сам. И это вполне реализуемо с помощью смартфона, приложение на котором будет перекодировать нужный текст в управл. код (например в те же символы Брайля) и заданным образом сменять их в опред. темпе/по команде - на экране/ передавая в порт. А специальная накладка на экран (или отдельная) подключенная по USB /Bluetooth к смартфону) будет считывать этот код с экрана (например фоторезисторами) / получать по USB/Bluetooth и формировать символ Брайля под неподвижным пальцем. При этом, естественно, будет возможность пользователю влиять на процесс (быстрее, медленнее, вперед/назад на слово, предложение, строку/абзац...) с использованием средств смартфона и/или накладки. Так же предлагаемое устройство и ПО может получать речь с микрофона и, переводя в текст, передавать пользователю тем же образом. И, с помощью камеры смартфона и ИИ, как предлагает автор, так же сообщать об обстановке. Дополнительно (потому что это уже не столь удобно) накладку можно использовать в качестве клавиатуры, если ещё разместить на ней 6 микро кнопок в формате Брайля (+ ввод и служебные) с помощью которых пользователь может вводить символы из накладки в спец. по в смартфоне. (т.е. что бы ввести символ надо нажать те кнопки, которые соответствуют алфавиту Брайля + ввод - это конечно менее удобно, зато более компактно).
Согласен с вами и в том, что философский подход к этой теме важен т.к. позволит увидеть картину в целом, объединить профессиональные направления, и в том, что таким философам нужно иметь мышление направленное на практическую реализацию. Для этого возможно имеет смысл сначала просто рассмотреть более подробно уже имеющееся у нас сознание: когда оно появилось, как, что было до него, зачем оно Природе и др. И об этом есть статья на Хабре: https://habr.com/ru/articles/871796/
Ну и вы упоминали о практическом подходе к квалиа: http://samlib.ru/j/jurewich_d_p/ei.shtml#D20 И про эмоции и про душу там то же есть. Но к.м.к. главное в такой философии то, что она должна изменить точку зрения с антропоцентизма на космоцентризм, ведь мы, люди, не возникли вдруг из ниоткуда, а являемся результатом общей эволюции Природы (и Вселенной) и то что в нас вложено (интеллект, чувства, ум, разум.. сознание) есть продукт миллиардов лет этой эволюции. И используя т.з. космоцентризма будет проще их понять и избежать ошибок.
Да, я согласен с вами в том, что чувства это некая "смесь" и мы лишь отбираем и "именуем" их комбинации при изучении. А так они все единое пространство и, вы правы, для их понимания нужно начать разбираться с каждым от начала их появления - но увы, их многовато, это уже к специалистам, а я нет, просто интересно было, так что лишь глянул в целом http://samlib.ru/j/jurewich_d_p/ei.shtml#D17 и некоторые особенно интересные. Посмотрел ваши ссылки - тож согласен, сам там отметился в комментах https://habr.com/ru/articles/931636/comments/#comment_28631540 Так что и по квалиам расхождений во мнениях нет - и в том, что их уникальность переоценена, и в том, как они возникают http://samlib.ru/j/jurewich_d_p/ei.shtml#D20
Насчет какой ИИ: "строгость логического вывода" (т.е. проектный, для закрытых систем, компьютер (вычислитель по алгоритму)) или "способность к выживанию в окружающей среде" (т.е. процессный, для открытых, "решатель" по алгоВиту) и для каких целей - лично меня больше интересуют ИИ-выживальщики :) т.к. всё же "компьютеры"-то у нас уже есть, а вот дальнейшее развитие человечества, т.е. ваш вопрос "Зачем", видится как космоэкспансия, где нужны именно ИИ-"выживальщики" (не обязательно "кремниевые"). Но на самом деле это единая связка - "выживальщик" "захватывает" некое "открытое" пространство для жизни и делает его "закрытым" - высокой ценой, а потом в этой закрытой системе уже "вычислитель" решает задачи оптимизации и накопления ресурсов для след. рывка... Так что да, опять согласен - для "компьютера" чувства не нужны, а вот "выживальщику" очень бы пригождались (но ясно, что не прям все). Собственно потому я ими и интересуюсь, наряду с интеллектом, умом, разумом, со-знанием...
А вот насчет 3х законов и их опасности при сбое можно и поспорить:
сбой сам по себе опасен;
сбой основных систем обязательно будет предусмотрен и будут установлены доп. механизмы для контроля именно таких сбоев; (да, будут ошибки, баги, бэкдоры, хакеры, халтура и случай, но...)
"перепрограммировать" других роботов не выйдет т.к. стирание первых законов это нарушение первых законов и оно будет отклонено; (хотя конечно же можно выдумать обходную логику, вспоминая того же Азимова и рассказ о том, как один из "сломанных" роботов "убедил" остальных "нормальных" не повиноваться первому закону, не защищать Сьюзан Кельвин от падающего груза :)) Ну и вообще тут речь о роботах т.е. без сознания, чьи сбои конечно же крайне опасны, но "линейны" и "хаотичны" и их можно предусмотреть.
Предлагаемая вами эмпатия и сознание для ИИ вовсе не невозможны, и для этого лишь надо "выпустить" ИИ в реальный мир + мотивация + воля + цели + отбор... и пошло-поехало... Но вот сбой ИИ с сознанием это, согласитесь, совсем другая история ... в т.ч. для человечества, по Ф.Фукуяме... :) Хотя лично я думаю, что мы ему будем просто не интересны, Вселенная огромна и что его тут держит?.. Поставьте себя на его место (с "нуля" и без влияния "биологии")... кстати интересная фабула для философско-фантастического (пока) произведения :)
Спасибо за развернутый ответ и искренний интерес к теме. Насчет вашей статьи это я понял, что вы просто критиковали методику, а не искали точное определение "надежды". (кстати и "выученную беспомощность" тож где-то раскритиковали, так что теперь нет такого термина :)). Я правильно понял, что вы в термине "надежда" смешиваете и процесс ("пассивная надежда") и проект ("активная надежда" - уверенность в достижении результата, расчет), и надежду на "авось", "на удачу", на статистику, вероятность, риски и т.п.? И говорите в основном про персональную т.е. либо надежда на себя, либо на некое внешнее независящее от нас событие относительно себя же?
Я почему спрашиваю так подробно - интересуюсь ИИ и алгоритмизацией ("АлгоВит") чувств под него, т.е. нужна ли ему та же надежда, и что это за чувство, зачем оно и как работает (ну и другие конечно же, из важных типа счастья, свободы, любви... http://samlib.ru/j/jurewich_d_p/ei.shtml).
Ну вот и использовал этот эксперимент для прояснения. А тут такая жесткая критика с вашей стороны. Прям хоть заново разбирайся. :) Всё же согласитесь, чувство надежды существует, и было "задано" нам Природой в инстинктах, оно массовое и одно из важнейших (триада выживания: вера-надежда-любовь). Значит всё же польза от неё больше чем вред. Осталось понять какая же эта польза и как она срабатывает. Возможно, что для сознательного субъекта (для инстинктивного ни к чему) надежда как бы расширяет его возможности и горизонты, увеличивая КПД (а безнадёжный значит и сделать ничего нельзя и не надо тратить силы)... ведь как вы верно заметили "в реальной жизни все сложнее. Вероятности определить невозможно, а некоторые исходы полностью невероятны..." и "результат эксперимента предрешен, и крыса умирала в любом случае", что можно не политкорректно сказать и про нас. Увы, "Да, человек смертен (, но это было бы ещё полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус!" (с) :) . И надежда не даёт "сфокусироваться" и "замкнуться" на этой мысли, не даёт включиться "истерике" получить от жизни для себя всё и сейчас сразу (и включить "танатоз" :) , а как бы "включает габитуацию", "размазывает" этот факт, что даёт возможность найти тот самый "крайне сложный, но все же вероятный способ крысе спастись самой, и его бы крысе показали..." Что мы собственно и наблюдаем в нашей истории... Т.е. всё же надежда это больше про процесс. А когда проект, т.е. можно рассчитать хоть что-то, то это скорее про уверенность и вероятность. И скорее про массовость, чем про индивидуальность. Мне так кажется... А вам?
Ну хорошо, мошенники новые-то номера не смогут на меня зарегистрировать, а взять и по украденным паспортным данным себе симку со старым номером перевыпустить смогут? Что-то этот важный момент не ясен...
Ну так загляните и разберитесь. :) Это не так уж и сложно и не требует гаданий на века вперед, даже на десятилетия не надо. Профессионализация начинается всего лишь лет за пять до. Общий набор профессий коррелирует с нашими потребностями и их производными (есть кстати и каталог) + "мода" . А пики востребованности связаны с тенденциями социума и его научно-технического развития. Есть так же огромная историческая база, по которой можно примерно увидеть и таланты, и "длительности жизни" профессий. Да, есть сложности с финансовой оценкой и переходом от общего к частному, уж больно сильно отличаются люди и стартовыми условиями, и внутренними задатками, и обстоятельствами... и субъективностью определения "нормы оплаты"... но в целом можно что-то увидеть полезного.
Но имелось ввиду несколько другое. Не про "натягивать" человека на предполагаемую в будущем выгодную профессию. А про то, что если в нём есть значимый талант и его найти и развить, то такой человек имеет больше шансов стать счастливым в любой своей профессии, делать то, что ему нравиться, что получается лучше других, найти единомышленников и партнёров... А высокая оплата.. да, это важно, но давайте вспомним, что с некоторого уровня удовлетворения базовых потребностей оплата профессии которая не нравиться, всё меньше мотивирует и влияет на счастье...
Ну хорошо, допустим, по эксперименту будет танатоз и габитуация с выученной беспомощностью. Как это соотноситься с чувством надежды? Ведь есть же (в нас) такое чувство? Или нет? Или вы считаете его бесполезным и даже вредным?
"благими намерениями ..." Да, действительно так бы вроде и надо, но увы, в истории мы видим, что почему-то всё никак не получается и даже в теории выходит "Утопия". :) Процесс идет, но очень медленно. Почему же? Ну, в этом вы, имея пытливый ум (точнее разум, именно он ищет ответы на вопрос "почему?", ум это социУм, он ищет ответы "через кого?" (инстинкт/интеллект - "как?", со-знание - "зачем (я)?")) уверен, подробно разберетесь сами, проф. С.В. Савельев вам в помощь. :) А если кратко - мозг у всех разный, как и ресурсы и обстоятельства. И те его отделы ("таланты", их "аппаратное" обеспечение), что способствует постоянному обучению, не у всех могут быть развиты. И собственно это нормально, и так и должно быть, потому что и мир разный и непредсказуемый. И Природа, "подстраиваясь" под него и создавая свою гомеостатическую систему, "желает иметь" разнообразный "инструмент" для решения задач выживания (99%) и развития (менее 1%, к которой и принадлежит разум). Согласитесь, не надо, что бы прям сразу и каждый человек был бы непременно академиком. Очень уж такое "дорого" и в "производстве", и в "обучении", и по-жизни (ведь для выживания энергию надо экономить, а мозг и так кушает много, а уж пытливый ум вообще страшный обжора... да ещё додуматься может до всякого, и не обязательно доброго... причем думать-то он любит, а вот социум и работу не очень. В итоге "самообучаемых" маловато, да и так уж говоря не многим это качество приносит счастье: "во многое мудрости многое печали"... Но они есть и нужны (см. А.Азимов "Профессия"). Так что к вашему предложению "учиться учиться" надо, как минимум, добавить и ещё раз учиться" (с). :)) ещё и практическую компоненту, а ещё лучше и социальную - что бы оставаться адекватным и не уходить в глубокие теории, "знать всё ни о чём"(с), "знаний ради знаний", а сочетать знания и с социальной пользой (в т.ч. и для себя) и с практикой т.к. "практика критерий истинности" . Ну а совсем хорошо разобраться - к чему у ребенка талант(ы) и двигать его обучение в эту сторону, уже подстраивая остальное под это направление.
Спасибо, статья интересная, но не практичная. Не ясно, как эти самые "резервуары" выявлять, оценивать, управлять - у себя и, особенно, у других, кроме обычного метода "научного тыка". Так же за рамками статьи остался вопрос: а что же происходит, когда "резервуар" переполняется, но "слить" его не удаётся (или попытка не удачна) - лопается что ли? :) Неужели природа не предусмотрела никакой сублимации, ну там смех, слёзы, переключение этой энергии на другое...? Возможно так же автора заинтересуют работы проф. С.В.Савельева, в которых он показал физическую уникальность каждого мозга, наличие в нём некоего набора полей и подполей. И предположил, (отвечая на вопрос в заголовке статьи) что хорошо не с тем, в кого можно "слить" эмоциональный резервуар (согласитесь, это не самая высокая ступень взаимоотношений), а с тем, кто имеет близкую "конструкцию" мозга, т.е. понимает тебя. А так же предложил прибор и методику для определения этих характеристик мозга.
талант (философа и, немаловажно, при этом ещё и учителя) мало того что от природы, так его ещё надо раскрыть и найти своё место т.е. таких людей единицы;
большинство людей имеют свои собственные таланты в других областях;
социальной системе для массовой подготовки кадров:
явно недостаточно единиц талантов для преподавания каждому студенту;
явно не имеет смысла делать из всех философов;
в студенческом возрасте мозг ещё не сформировался + недостаточно его "наполнения" для осознанной философской деятельности;
но необходимо хотя бы формально дать общие знания, "на будущее" и для закладки языка общего взаимопонимания (пусть даже негативного).
Возможна и версия, объединяющая и физикализм, и панпсихизм. Ну, если не впадать в мистику и теологию, не задаваться вопросами без ответов, типа: "а что было до нашей Вселенной, "кто" её создал?".. и т. п., а использовать простую логику и банальные знания из школьного учебника, где, грубо говоря, весь период от начала Вселенной до нашего времени делиться на 3 части: от образования Вселенной до появления Жизни (на нашей планете), развития Жизни до человека и собственно мы (как текущий максимум сознания). И условится о том, что со-знание не возникает само по себе из ниоткуда, а является производной частью Среды (Вселенной), и не может существовать вне неё (см. эксперименты в депривационной камере) и вообще вне Среды бессмысленно (да и само слово намекает: со-знание=совместное знание... как со-участие, со-бытиЕ, со-трудничество... совместное со Средой в т.ч. "внутренней"). Тогда мы можем определить со-знание в т.ч. как меру единства субъекта (т.е. его собственной инф. среды) со Средой (Вселенной) https://habr.com/ru/articles/871796/ И можем предположить, что до Жизни сознания не было, с её появлением образовалось общее распределённое сознание, а далее появилось и персональное (развивающееся в разной мере). Другими словами это не физикализм и не панпсихизм по отдельности, а общий их цельный процесс, где с начала Вселенная Жизни и сознания не имела, но её Законы не запрещали их появления, а общий вектор на развитие и усложнение способствовал. И с появлением Жизни сознание появилось и у Вселенной. Таким образом и панпсихизм и физикализм объединяются т.к. сознание невозможно без Законов, мат.основы и её развития (физикализм) и собственно без Среды, но появившись, отражая её и оказывая на неё влияние одновременно сознание является её же частью, что делает Вселенную живой и сознательной (панпсихизм). (так сознание человека не возможно представить без его рождения и физ. развития, при котором до некоего этапа сознания у него нет, но далее оно появляется и физическое тело становиться носителем сознания, а затем и сознательным).
Да вам не угодишь... :) Это же у вас прям в первом абзаце ТПС названа барьером, который невозможно преодолеть. Я вам тут показал, что Природа давно нашла решение, а оказывается это не решение, а всего лишь "факт наличия" :) Нет уж, это как раз-таки решение т.к. до этого у Природы такого факта не было, не было персонального сознания. А потом появилось - значит нашла пути. И не важно, каким образом - нашла же, значит он есть. :) Другой вопрос что это некоторые учёные пока не понимают, как ТПС решить, как понять природу сознания... ну так что ж, это дело времени. Так что никакой это не "невозможный барьер", а это лишь технический вопрос, вопрос воли, времени и ресурсов. Вот если бы вообще не было бы известно о решении вопроса, например сверхсветового движения или антигравитации, а хотелось бы такого - вот тогда действительно была бы проблема. А так - решение в принципе у Природы есть - поймите его или найдите собственное. А на "экспланаторный разрыв" пусть жалуются врачам те, у кого он случился - никакого разрыва в реальности нет т.к. сознание и квалии существуют, это не выдумки, а факт. :)
И не надо приписывать мне не сказанного - я не утверждал, что «сознание есть, значит, оно материально», более того, в книге до приложения о хэшКвалия есть приложение о Со-Знании, где оно подробно рассмотрено и показано, что материальное в нём присутствует, но оно далеко не главное в его принципе. То же касается ваших претензий к моделированию квалий на SQL, что мол "модель поведения — не есть модель сознания", это приложение о квалиях, а о со-знании читайте приложение выше.
Спасибо за интересную статью. Очень хорошо, что всё больше людей задумываются, почему они люди. :)
Позвольте несколько замечаний:
ТПС давным-давно решена, примерно 150 млн. лет назад - Природой. Ведь у нас есть и персональное сознание и квалии, не так ли? А значит она нашла способ. Т.е. ТПС имеет решение, просто наука пока его ищет. Но если его нашла Природа, то наверное имеет смысл присмотреться как она это сделала, хотя, тут я с вами согласен, прямое копирование BioTech в SiTech будет глупым.
Возвращаясь к Природе можно заметить, что она прекрасно выживала и развивалась длительное время и без всякого сознания, т.е. пользуясь вашей аналогией - "Шахматистом" вполне может быть и тупая программа, без всякого собственного сознания, причём программой вполне успешно обыгрывающей сознательных гроссмейстеров, как мы знаем. :) Так же и в Природе, как известно, многие биоорганизмы не имеющие сознания имеют инстинктивные возможности к опознаванию объектов, мат.операциям, запоминанию, групповому поведению, различным реакциям и т.п. т.е. ту же "дискретизацию" и "рекурсию", а может быть и даже "рефлексию", естественно не человеческую. Хотя, всё же, на некоем этапе, почему-то сознание возникло...
Возможно вас заинтересует как протекал этот процесс, а так же вы сами сможете ответить на ТПС, если в пошаговом режиме попробуете воссоздать получение квалий - естественно на упрощенной модели, на базе ПК и SQL. Об этом рассказывается в статье "Естественный интеллект" http://samlib.ru/j/jurewich_d_p/ei.shtml в соотв. приложениях "Со-Знание" и "(хэш)Квалиа".
Хм, ну хорошо, взяли вы версию нашего Иммануила (300 лет со дня рождения, что, наука с тех пор не продвинулась? :)), но раз она вот прям явно так не объясняет (спойлер - указывает верное направление) сути совести, не разжевывает её для зазубривания, может не будем искать готовых ответов "от авторитетов", а подумаем сами, своим умом-разумом, ну если действительно вы это хотите знать и не являетесь ИИ :)? Собственно Кант: "внутренний закон" (остальное не важно) - что это значит, в отличии от "внешнего" стыда?
Очень хорошо, что инженеры взялись-таки за понимание чувств, в частности любви.
Это весьма своевременно, ведь создается ИИ, как понять, нужна ли ему любовь (и другие чувства - для жизнеспособности и человечности), а если да - то что это, зачем, принцип работы и как это запрограммировать и встроить в общую систему управления?
Однако, к.м.к., предложенный вариант скорее для обдумывания и критики, нежели сразу в продакшен.
Особо прикольно, что предложенное понимание не соответствует собственному заявленному эпиграфу т.е. не универсально, а узко специализированно .
Т.е. любовь рассматривается только как чувство между двумя людьми (что ещё и антропоцентрично). Но это же не так, любить можно например своё дело, близких, детей, животных, природу...
Причём даже между двумя людьми возможна и неразделенная любовь... не говоря уже о неодушевленном - работе например.
А чувство любви универсально. Оно заложено в наши инстинкты до нашего рождения, а значит свойственно всей Жизни (в разной мере и форме).
Далее:
CRDT смыслов: база общих знаний, воспоминаний и моделей поведения есть и без любви - родители, школа, работа, знакомые..;
Фристон-style: это уже не любовь, а привычка (убивающая любовь);
SLA: есть и у друзей и у близких людей.. даже у домашних животных, собак например.
В том, что по мнению автора любовь склеивает в устойчивую систему есть истина, но только часть. Да и устойчивым системам как раз любовь и не нужна, даже мешает, дестабилизирует. "Брак по расчёту может быть счастливым, если расчет удался", "Стерпиться - слюбиться" - вот что нужно устойчивым системам.
Не дано понимание того, откуда она, почему и как она возникает, почему проходит, почему остается и развивается и во что и т.п...
Зачем вообще она нужна, ведь и встречаться, и общаться, и размножаться, и рожать, и воспитывать, и работать, и ... прожить всю жизнь можно и без любви? Но вот почему-то считают, она очень важна: "Мир есть любовь", "Аll you need is love"...
Всё же, по-моему, любовь чувство универсальное, а значит на него надо смотреть не с позиции антропоцентризма, а с т.з. космоцентризма. И это не "протокол когерентности", это тогда уж "протокол форсирования самоотдачи", не для устойчивой системы, а для её дестабилизации и перевода на новый, более высокий уровень (а уж стабилизацию на новом обеспечивают другие чувства).
Более подробно об этом в т.ч. можно прочесть в книге "Естественный интеллект" (гл 1. Любовь) http://samlib.ru/j/jurewich_d_p/ei.shtml
Тем не менее радует появление у инженеров интереса к "гуманитарным" основам Жизни, ощущение их важности в проектировании Universальных жизнеспособных систем типа ИИ (а так же жизни людей и Жизни в целом) и желание разобраться.
"Может ли работа с ИИ сделать людей более этичными?"
пока ИИ не имеет собственного сознания (ценностей, воли...) (причем для реального мира) это такой же инструмент как, например, молоток. Так что упрощая: может ли изобретение молотка сделать людей более этичными? Да, может - когда играясь с молотком человек наделает делов и ему либо прилетит "снаружи", либо "изнутри" (совесть) после чего он "поймет" границы этичности применения молотка. Некоторым это приходит в голову раньше (чем туда прилетает молоток), но таких людей к сожалению мало (и их голоса не слышны, пока "гром не грянет") да и всё же реальность точнее и шире, чем их представления.
"Нам не нужны умнее машины. Нам нужны яснее люди."
и владение молотком, создаваемые им новые проблемы заставит таки начать разбираться, искать "противовесы", разрабатывать технику безопасности, принимать законы... А некоторых задуматься, не столько о молотке, сколько о том, что есть человек сам по себе :) чьи качества молоток только усиливает.
"Как вы думаете, что важнее: дать машинам делать быстро или иногда нажимать на паузу и подумать?"
вопрос не корректный - если быстро начать стучать молотком (получая прибыль и снижая издержки), то уже не получится ни сделать паузу, ни подумать - т.к. такая работа меняет психологию и работника и владельца, они становиться "заложником молотка" подстраиваясь под него. Только сбой может привести в сознание (ну или окончание работ - но не будем о грустном :)). А так и паузы, и мышление идет "снаружи" т.е. не от работника с молотком и не от молотка, а от "наблюдателя".
Так что "этика ИИ" это пока просто этика людей - для людей, получивших молоток.
Но вопросы этики становятся важнейшими, когда молоток ИИ обретает сознание.
И вот для этого случая вопросы добра и зла, совести, человечности, свободы, смысла жизни... разработчикам ИИ вместе со специалистами по этике стоит понять (поняв человека, его Природу и место во Вселенной), алгоритмизировать и вложить в ИИ как фундамент, что бы тот не стал бесчеловечным, бессовестным, бездушным... а смог бы на этом фундаменте стать жизнеспособным, а значит и этичным и человечным...
А что вас удивляет?
Ведь искусственный интеллект (в принципе) должен быть (как минимум) равен естественному т.е. человеческому.
И автор просто описал процесс воспитания ребёнка, выделив наиболее важное, а в качестве технического обеспечения использовал уже известные технологии.
Т.е. всё это вполне ожидаемо и вроде не должно вызывать удивления.
Вот если бы он показал неявное, проблемы, о возможности существования которых ещё никто не задумывался тогда, те, которые присущи именно роботизации и созданию ИИ,
и которые бы проявились сейчас или видятся в ближайшем будущем, но никак не могли бы быть очевидными для того времени... Вот это было бы удивительно, интересно и практично...
Возможно в связи с квалиа вас заинтересует статья , где на примере с sql запросами дается простая картина их создания и показывается принцип уникальности и использования.
Спасибо за статью.
Но если уж быть более точным в
заклёпкахтерминологии, то "...Шеннон, Тьюринг, Винер создали психологам "набор отмычек" своим разумом..." но не для понимания разума, а для понимания подсознания - сознанию.Нейробиологи изучают био-мозг. И не само сознание, его суть, а нейрокоррелят ("индикатор") т.е. "вот оно есть, а вот нет - как понять, по каким признакам работы мозга?.." (см. определения IIT и GNWT).
Ну а ИИ (кремниевый) имеет совсем другую архитектуру "мозга" и био-индикатор ему не подходит.
Так что надо сначала с сутью сознания разобраться https://habr.com/ru/articles/871796/
Если я правильно понял, то главной проблемой автор считает большое количество исполнительных механизмов и сложность в их управлении (а так же габариты, энергопотребление и стоимость) при считывании пользователем строки/страницы текста в кодировке Брайля.
Но можно же избавиться разом от этих проблем, использовав для показа только один символ (т.е. всего 6 точек) , если считываемый текст будет двигаться под пальцем как-то сам.
И это вполне реализуемо с помощью смартфона, приложение на котором будет перекодировать нужный текст в управл. код (например в те же символы Брайля) и заданным образом сменять их в опред. темпе/по команде - на экране/ передавая в порт.
А специальная накладка на экран (или отдельная) подключенная по USB /Bluetooth к смартфону) будет считывать этот код с экрана (например фоторезисторами) / получать по USB/Bluetooth и формировать символ Брайля под неподвижным пальцем.
При этом, естественно, будет возможность пользователю влиять на процесс (быстрее, медленнее, вперед/назад на слово, предложение, строку/абзац...) с использованием средств смартфона и/или накладки.
Так же предлагаемое устройство и ПО может получать речь с микрофона и, переводя в текст, передавать пользователю тем же образом.
И, с помощью камеры смартфона и ИИ, как предлагает автор, так же сообщать об обстановке.
Дополнительно (потому что это уже не столь удобно) накладку можно использовать в качестве клавиатуры, если ещё разместить на ней 6 микро кнопок в формате Брайля (+ ввод и служебные) с помощью которых пользователь может вводить символы из накладки в спец. по в смартфоне. (т.е. что бы ввести символ надо нажать те кнопки, которые соответствуют алфавиту Брайля + ввод - это конечно менее удобно, зато более компактно).
Согласен с вами и в том, что философский подход к этой теме важен т.к. позволит увидеть картину в целом, объединить профессиональные направления, и в том, что таким философам нужно иметь мышление направленное на практическую реализацию.
Для этого возможно имеет смысл сначала просто рассмотреть более подробно уже имеющееся у нас сознание: когда оно появилось, как, что было до него, зачем оно Природе и др. И об этом есть статья на Хабре: https://habr.com/ru/articles/871796/
Ну и вы упоминали о практическом подходе к квалиа: http://samlib.ru/j/jurewich_d_p/ei.shtml#D20 И про эмоции и про душу там то же есть.
Но к.м.к. главное в такой философии то, что она должна изменить точку зрения с антропоцентизма на космоцентризм, ведь мы, люди, не возникли вдруг из ниоткуда, а являемся результатом общей эволюции Природы (и Вселенной) и то что в нас вложено (интеллект, чувства, ум, разум.. сознание) есть продукт миллиардов лет этой эволюции. И используя т.з. космоцентризма будет проще их понять и избежать ошибок.
Да, я согласен с вами в том, что чувства это некая "смесь" и мы лишь отбираем и "именуем" их комбинации при изучении. А так они все единое пространство и, вы правы, для их понимания нужно начать разбираться с каждым от начала их появления - но увы, их многовато, это уже к специалистам, а я нет, просто интересно было, так что лишь глянул в целом http://samlib.ru/j/jurewich_d_p/ei.shtml#D17 и некоторые особенно интересные.
Посмотрел ваши ссылки - тож согласен, сам там отметился в комментах https://habr.com/ru/articles/931636/comments/#comment_28631540
Так что и по квалиам расхождений во мнениях нет - и в том, что их уникальность переоценена, и в том, как они возникают http://samlib.ru/j/jurewich_d_p/ei.shtml#D20
Насчет какой ИИ: "строгость логического вывода" (т.е. проектный, для закрытых систем, компьютер (вычислитель по алгоритму)) или "способность к выживанию в окружающей среде" (т.е. процессный, для открытых, "решатель" по алгоВиту) и для каких целей - лично меня больше интересуют ИИ-выживальщики :) т.к. всё же "компьютеры"-то у нас уже есть, а вот дальнейшее развитие человечества, т.е. ваш вопрос "Зачем", видится как космоэкспансия, где нужны именно ИИ-"выживальщики" (не обязательно "кремниевые"). Но на самом деле это единая связка - "выживальщик" "захватывает" некое "открытое" пространство для жизни и делает его "закрытым" - высокой ценой, а потом в этой закрытой системе уже "вычислитель" решает задачи оптимизации и накопления ресурсов для след. рывка...
Так что да, опять согласен - для "компьютера" чувства не нужны, а вот "выживальщику" очень бы пригождались (но ясно, что не прям все). Собственно потому я ими и интересуюсь, наряду с интеллектом, умом, разумом, со-знанием...
А вот насчет 3х законов и их опасности при сбое можно и поспорить:
сбой сам по себе опасен;
сбой основных систем обязательно будет предусмотрен и будут установлены доп. механизмы для контроля именно таких сбоев; (да, будут ошибки, баги, бэкдоры, хакеры, халтура и случай, но...)
"перепрограммировать" других роботов не выйдет т.к. стирание первых законов это нарушение первых законов и оно будет отклонено; (хотя конечно же можно выдумать обходную логику, вспоминая того же Азимова и рассказ о том, как один из "сломанных" роботов "убедил" остальных "нормальных" не повиноваться первому закону, не защищать Сьюзан Кельвин от падающего груза :)) Ну и вообще тут речь о роботах т.е. без сознания, чьи сбои конечно же крайне опасны, но "линейны" и "хаотичны" и их можно предусмотреть.
Предлагаемая вами эмпатия и сознание для ИИ вовсе не невозможны, и для этого лишь надо "выпустить" ИИ в реальный мир + мотивация + воля + цели + отбор... и пошло-поехало...
Но вот сбой ИИ с сознанием это, согласитесь, совсем другая история ... в т.ч. для человечества, по Ф.Фукуяме... :)
Хотя лично я думаю, что мы ему будем просто не интересны, Вселенная огромна и что его тут держит?..
Поставьте себя на его место (с "нуля" и без влияния "биологии")... кстати интересная фабула для философско-фантастического (пока) произведения :)
Спасибо за развернутый ответ и искренний интерес к теме.
Насчет вашей статьи это я понял, что вы просто критиковали методику, а не искали точное определение "надежды". (кстати и "выученную беспомощность" тож где-то раскритиковали, так что теперь нет такого термина :)).
Я правильно понял, что вы в термине "надежда" смешиваете и процесс ("пассивная надежда") и проект ("активная надежда" - уверенность в достижении результата, расчет), и надежду на "авось", "на удачу", на статистику, вероятность, риски и т.п.? И говорите в основном про персональную т.е. либо надежда на себя, либо на некое внешнее независящее от нас событие относительно себя же?
Я почему спрашиваю так подробно - интересуюсь ИИ и алгоритмизацией ("АлгоВит") чувств под него, т.е. нужна ли ему та же надежда, и что это за чувство, зачем оно и как работает (ну и другие конечно же, из важных типа счастья, свободы, любви... http://samlib.ru/j/jurewich_d_p/ei.shtml).
Ну вот и использовал этот эксперимент для прояснения. А тут такая жесткая критика с вашей стороны. Прям хоть заново разбирайся. :)
Всё же согласитесь, чувство надежды существует, и было "задано" нам Природой в инстинктах, оно массовое и одно из важнейших (триада выживания: вера-надежда-любовь). Значит всё же польза от неё больше чем вред. Осталось понять какая же эта польза и как она срабатывает.
Возможно, что для сознательного субъекта (для инстинктивного ни к чему) надежда как бы расширяет его возможности и горизонты, увеличивая КПД (а безнадёжный значит и сделать ничего нельзя и не надо тратить силы)... ведь как вы верно заметили "в реальной жизни все сложнее. Вероятности определить невозможно, а некоторые исходы полностью невероятны..." и "результат эксперимента предрешен, и крыса умирала в любом случае", что можно не политкорректно сказать и про нас. Увы, "Да, человек смертен (, но это было бы ещё полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус!" (с) :) .
И надежда не даёт "сфокусироваться" и "замкнуться" на этой мысли, не даёт включиться "истерике" получить от жизни для себя всё и сейчас сразу (и включить "танатоз" :) , а как бы "включает габитуацию", "размазывает" этот факт, что даёт возможность найти тот самый "крайне сложный, но все же вероятный способ крысе спастись самой, и его бы крысе показали..." Что мы собственно и наблюдаем в нашей истории...
Т.е. всё же надежда это больше про процесс. А когда проект, т.е. можно рассчитать хоть что-то, то это скорее про уверенность и вероятность. И скорее про массовость, чем про индивидуальность.
Мне так кажется... А вам?
Ну хорошо, мошенники новые-то номера не смогут на меня зарегистрировать, а взять и по украденным паспортным данным себе симку со старым номером перевыпустить смогут? Что-то этот важный момент не ясен...
Ну так загляните и разберитесь. :)
Это не так уж и сложно и не требует гаданий на века вперед, даже на десятилетия не надо.
Профессионализация начинается всего лишь лет за пять до.
Общий набор профессий коррелирует с нашими потребностями и их производными (есть кстати и каталог) + "мода" .
А пики востребованности связаны с тенденциями социума и его научно-технического развития.
Есть так же огромная историческая база, по которой можно примерно увидеть и таланты, и "длительности жизни" профессий.
Да, есть сложности с финансовой оценкой и переходом от общего к частному, уж больно сильно отличаются люди и стартовыми условиями, и внутренними задатками, и обстоятельствами... и субъективностью определения "нормы оплаты"... но в целом можно что-то увидеть полезного.
Но имелось ввиду несколько другое. Не про "натягивать" человека на предполагаемую в будущем выгодную профессию.
А про то, что если в нём есть значимый талант и его найти и развить, то такой человек имеет больше шансов стать счастливым в любой своей профессии, делать то, что ему нравиться, что получается лучше других, найти единомышленников и партнёров... А высокая оплата.. да, это важно, но давайте вспомним, что с некоторого уровня удовлетворения базовых потребностей оплата профессии которая не нравиться, всё меньше мотивирует и влияет на счастье...
Ну хорошо, допустим, по эксперименту будет танатоз и габитуация с выученной беспомощностью.
Как это соотноситься с чувством надежды? Ведь есть же (в нас) такое чувство? Или нет? Или вы считаете его бесполезным и даже вредным?
А статья очень интересная, спасибо!
"благими намерениями ..."
Да, действительно так бы вроде и надо, но увы, в истории мы видим, что почему-то всё никак не получается и даже в теории выходит "Утопия". :) Процесс идет, но очень медленно.
Почему же? Ну, в этом вы, имея пытливый ум (точнее разум, именно он ищет ответы на вопрос "почему?", ум это социУм, он ищет ответы "через кого?" (инстинкт/интеллект - "как?", со-знание - "зачем (я)?")) уверен, подробно разберетесь сами, проф. С.В. Савельев вам в помощь. :)
А если кратко - мозг у всех разный, как и ресурсы и обстоятельства. И те его отделы ("таланты", их "аппаратное" обеспечение), что способствует постоянному обучению, не у всех могут быть развиты.
И собственно это нормально, и так и должно быть, потому что и мир разный и непредсказуемый. И Природа, "подстраиваясь" под него и создавая свою гомеостатическую систему, "желает иметь" разнообразный "инструмент" для решения задач выживания (99%) и развития (менее 1%, к которой и принадлежит разум). Согласитесь, не надо, что бы прям сразу и каждый человек был бы непременно академиком. Очень уж такое "дорого" и в "производстве", и в "обучении", и по-жизни (ведь для выживания энергию надо экономить, а мозг и так кушает много, а уж пытливый ум вообще страшный обжора... да ещё додуматься может до всякого, и не обязательно доброго... причем думать-то он любит, а вот социум и работу не очень. В итоге "самообучаемых" маловато, да и так уж говоря не многим это качество приносит счастье: "во многое мудрости многое печали"... Но они есть и нужны (см. А.Азимов "Профессия").
Так что к вашему предложению "учиться учиться" надо, как минимум, добавить
и ещё раз учиться"(с). :)) ещё и практическую компоненту, а ещё лучше и социальную - что бы оставаться адекватным и не уходить в глубокие теории, "знать всё ни о чём"(с), "знаний ради знаний", а сочетать знания и с социальной пользой (в т.ч. и для себя) и с практикой т.к. "практика критерий истинности" .Ну а совсем хорошо разобраться - к чему у ребенка талант(ы) и двигать его обучение в эту сторону, уже подстраивая остальное под это направление.
Спасибо, статья интересная, но не практичная. Не ясно, как эти самые "резервуары" выявлять, оценивать, управлять - у себя и, особенно, у других, кроме обычного метода "научного тыка".
Так же за рамками статьи остался вопрос: а что же происходит, когда "резервуар" переполняется, но "слить" его не удаётся (или попытка не удачна) - лопается что ли? :)
Неужели природа не предусмотрела никакой сублимации, ну там смех, слёзы, переключение этой энергии на другое...?
Возможно так же автора заинтересуют работы проф. С.В.Савельева, в которых он показал физическую уникальность каждого мозга, наличие в нём некоего набора полей и подполей. И предположил, (отвечая на вопрос в заголовке статьи) что хорошо не с тем, в кого можно "слить" эмоциональный резервуар (согласитесь, это не самая высокая ступень взаимоотношений), а с тем, кто имеет близкую "конструкцию" мозга, т.е. понимает тебя. А так же предложил прибор и методику для определения этих характеристик мозга.
Ну, это известное противоречие:
талант (философа и, немаловажно, при этом ещё и учителя) мало того что от природы, так его ещё надо раскрыть и найти своё место т.е. таких людей единицы;
большинство людей имеют свои собственные таланты в других областях;
социальной системе для массовой подготовки кадров:
явно недостаточно единиц талантов для преподавания каждому студенту;
явно не имеет смысла делать из всех философов;
в студенческом возрасте мозг ещё не сформировался + недостаточно его "наполнения" для осознанной философской деятельности;
но необходимо хотя бы формально дать общие знания, "на будущее" и для закладки языка общего взаимопонимания (пусть даже негативного).
Вот и решается это противоречие так формально.
"Плохой учитель - диктует, хороший рассказывает, отличный - показывает, великий - вдохновляет".
Но кому-то повезло найти Учителя.
Возможна и версия, объединяющая и физикализм, и панпсихизм.
Ну, если не впадать в мистику и теологию, не задаваться вопросами без ответов, типа: "а что было до нашей Вселенной, "кто" её создал?".. и т. п., а использовать простую логику и банальные знания из школьного учебника, где, грубо говоря, весь период от начала Вселенной до нашего времени делиться на 3 части: от образования Вселенной до появления Жизни (на нашей планете), развития Жизни до человека и собственно мы (как текущий максимум сознания).
И условится о том, что со-знание не возникает само по себе из ниоткуда, а является производной частью Среды (Вселенной), и не может существовать вне неё (см. эксперименты в депривационной камере) и вообще вне Среды бессмысленно (да и само слово намекает: со-знание=совместное знание... как со-участие, со-бытиЕ, со-трудничество... совместное со Средой в т.ч. "внутренней").
Тогда мы можем определить со-знание в т.ч. как меру единства субъекта (т.е. его собственной инф. среды) со Средой (Вселенной) https://habr.com/ru/articles/871796/
И можем предположить, что до Жизни сознания не было, с её появлением образовалось общее распределённое сознание, а далее появилось и персональное (развивающееся в разной мере).
Другими словами это не физикализм и не панпсихизм по отдельности, а общий их цельный процесс, где с начала Вселенная Жизни и сознания не имела, но её Законы не запрещали их появления, а общий вектор на развитие и усложнение способствовал. И с появлением Жизни сознание появилось и у Вселенной.
Таким образом и панпсихизм и физикализм объединяются т.к. сознание невозможно без Законов, мат.основы и её развития (физикализм) и собственно без Среды, но появившись, отражая её и оказывая на неё влияние одновременно сознание является её же частью, что делает Вселенную живой и сознательной (панпсихизм). (так сознание человека не возможно представить без его рождения и физ. развития, при котором до некоего этапа сознания у него нет, но далее оно появляется и физическое тело становиться носителем сознания, а затем и сознательным).
Да вам не угодишь... :)
Это же у вас прям в первом абзаце ТПС названа барьером, который невозможно преодолеть.
Я вам тут показал, что Природа давно нашла решение, а оказывается это не решение, а всего лишь "факт наличия" :)
Нет уж, это как раз-таки решение т.к. до этого у Природы такого факта не было, не было персонального сознания. А потом появилось - значит нашла пути. И не важно, каким образом - нашла же, значит он есть. :)
Другой вопрос что это некоторые учёные пока не понимают, как ТПС решить, как понять природу сознания... ну так что ж, это дело времени. Так что никакой это не "невозможный барьер", а это лишь технический вопрос, вопрос воли, времени и ресурсов.
Вот если бы вообще не было бы известно о решении вопроса, например сверхсветового движения или антигравитации, а хотелось бы такого - вот тогда действительно была бы проблема.
А так - решение в принципе у Природы есть - поймите его или найдите собственное. А на "экспланаторный разрыв" пусть жалуются врачам те, у кого он случился - никакого разрыва в реальности нет т.к. сознание и квалии существуют, это не выдумки, а факт. :)
И не надо приписывать мне не сказанного - я не утверждал, что «сознание есть, значит, оно материально», более того, в книге до приложения о хэшКвалия есть приложение о Со-Знании, где оно подробно рассмотрено и показано, что материальное в нём присутствует, но оно далеко не главное в его принципе.
То же касается ваших претензий к моделированию квалий на SQL, что мол "модель поведения — не есть модель сознания", это приложение о квалиях, а о со-знании читайте приложение выше.
Спасибо за интересную статью. Очень хорошо, что всё больше людей задумываются, почему они люди. :)
Позвольте несколько замечаний:
ТПС давным-давно решена, примерно 150 млн. лет назад - Природой. Ведь у нас есть и персональное сознание и квалии, не так ли? А значит она нашла способ. Т.е. ТПС имеет решение, просто наука пока его ищет. Но если его нашла Природа, то наверное имеет смысл присмотреться как она это сделала, хотя, тут я с вами согласен, прямое копирование BioTech в SiTech будет глупым.
Возвращаясь к Природе можно заметить, что она прекрасно выживала и развивалась длительное время и без всякого сознания, т.е. пользуясь вашей аналогией - "Шахматистом" вполне может быть и тупая программа, без всякого собственного сознания, причём программой вполне успешно обыгрывающей сознательных гроссмейстеров, как мы знаем. :) Так же и в Природе, как известно, многие биоорганизмы не имеющие сознания имеют инстинктивные возможности к опознаванию объектов, мат.операциям, запоминанию, групповому поведению, различным реакциям и т.п. т.е. ту же "дискретизацию" и "рекурсию", а может быть и даже "рефлексию", естественно не человеческую. Хотя, всё же, на некоем этапе, почему-то сознание возникло...
Возможно вас заинтересует как протекал этот процесс, а так же вы сами сможете ответить на ТПС, если в пошаговом режиме попробуете воссоздать получение квалий - естественно на упрощенной модели, на базе ПК и SQL. Об этом рассказывается в статье "Естественный интеллект" http://samlib.ru/j/jurewich_d_p/ei.shtml в соотв. приложениях "Со-Знание" и "(хэш)Квалиа".
Хм, ну хорошо, взяли вы версию нашего Иммануила (300 лет со дня рождения, что, наука с тех пор не продвинулась? :)), но раз она вот прям явно так не объясняет (спойлер - указывает верное направление) сути совести, не разжевывает её для зазубривания, может не будем искать готовых ответов "от авторитетов", а подумаем сами, своим умом-разумом, ну если действительно вы это хотите знать и не являетесь ИИ :)?
Собственно Кант: "внутренний закон" (остальное не важно) - что это значит, в отличии от "внешнего" стыда?