Ну, если так ставить вопрос: “этого не может быть, потому что не может быть никогда”(с), ежели сама наука не могёт (а может для неё это не вопрос :)… то конечно же, куда нам, сиволапым… даже и смысла нет самим разбираться, пойдем лучше постоим на коленях у РАН, помолимся о вразумлении, авось когда снизойдут академики в окормлении мудростью своей душ сирых и убогих. :)
Или может всё же сами разберемся? Хотя бы попытаемся - сапиенсы мы дважды или лишь в чувства умеем? :)
Так вот, как я уже писал: раз такое уже есть (в Природе), значит принципиально возможно и понять (не знать (точно, это к науке), а понимать (в целом)). И, к.м.к., об этом выше: нет тут ничего сложного, никакой высшей математики и пугающих формул :) и боль и наслаждение, как и другие !фундаментальные чувства (со своими коэффициентами влияния на принятие решений) есть части общего гомеостата инф. связи Жизни, её агента, его инстинктивных реакций, с объективной реальностью Среды, для выживания и развития.
Т.е. изначально есть объективная “мёртвая” Среда. В ней как-то появляется Жизнь и её агенты. В процессе эволюции, мутаций, биодавления и естественного отбора у них возникают различные и (методом отфильтрации негодных) выявляются годные “средства приспособленности”: “аппаратные” и “программные”, (до некоторого уровня развития не объединенные единым ЦУ, но ) упакованные обычно в единый физ. носитель :) Как они (по отдельности) нами называются и для чего как нам кажется “нужны” - это уже наши “обрывки”, именования и модели для упрощения понимания целостной её системы. Сама Природа таким не заморачивается, как и её инстинктивные агенты. Точка. И ничего особо интересного (вот чувство любви или счастья или свободы это интересно, это намного фундаментальнее и “стратегичнее” какой-то там “боли” (которая даже не “тактического”, а всего лишь “оперативного” уровня), это да, это взгляд в саму основу замыслов Вселенной… :)
Но это с т.з. инстинктов. С т.з. (развитого) персонального сознания всё конечно же сильно усложняется и в поведении, и в понимании (нами). В т.ч. появлениями квалий, в т.ч. “боли” и “удовольствий”. Ведь да, как и другие квалии, они уже будут уникальными для данного биосубъекта. Вот тут согласен, в таком сам чёрт ногу сломит, как у кого что с чем связано, через что и в какой мере, истинно или фантомно, выдумка или вообще врёт зомбяка философский, осиновый кол ему в дневник… Но фишка-то в том, что это уже будут квалии связанные (с различными "весами") с глубинными, уже имеющимися инстинктивными чувствами и реакциями, “надстройкой” над ними. А с инстинктивной-то базой как раз всё ж ясно…
Так что не вижу проблемы понимания, ни в фундаменте, ни в “надстройках” возникновения чувств, в т.ч. нами выделяемых из общего их гомеостата т.н. “боли”/“наслаждения”.
Однако не надо мне верить. Попробуйте проверить и понять это сами. Начните с простейшего примера, типа бактерии и проследите мысленно, прям шаг за шагом, как и где она живёт, из чего состоит, какова её информационная система, каков алгоритм её поведения и почему, что для неё будет болью и наслаждением, и откуда, и почему, и зачем, и сколько, и как это получается… “и что кушает на завтрак крокодил?”(с) :) Или мысленно создайте простейшего робота и, как творец, наделите его минимальной способностью выживать, в т.ч. чувствами (прям по одному и смотреть их объединение/конфликты как у Буриданова осла :), в т.ч. этими… т.е. напишите программу и поглядите, что у вас получиться в коде…
Если конечно ответ нужен… просто многим не нужен, а нужно лишь риторические вопросы задавать… ещё и проклянут того, кто попытался предложить :) Это кстати нормально, точнее естественно, и тоже входит в общий (социальный) гомеостат выживания и развития, и так же имеет свои (безсознательные обычно) чувства и квалиа. :)
Коллега, я очень рад, что вы так горячо защищаете одушевленность и сознательность Природы. :) Но наверное, прежде чем горячиться и обвинять меня в отсутсвтии гипотез о сознании, стоит внимательней прочесть статью, где и вначале есть ссылка на мой краткий пост Хабра о сознании, и есть ссылка внизу на всю книгу “Естественный интеллект”, где в т.ч. (персональному) со-Знанию (его истории, появлению, сути, проблемам, и даже пониманию и моделированию принципов его работы) просвящена бОльшая её часть в отдельном приложении. Так что уж кто-кто, а я-то имею гипотезу, в опубликованном письменном виде и в цельной связи со всем другим: инстинктом, интеллектом, умом, глупостью, мудростью, разумом, творчеством, чувствами и прочим… :) И кстати об упомянутой вами “одушевленности” - о Душе там то же есть. Так что, коллега, зря вы бочку катите :)
Что же касается второго абзаца, то я ваших квалий не понял :), приведите пожалуйста примеры и мы в них разберемся вместе.
Стоп-стоп… что значит: “Природа обнаружила и заюзала”? Нет такого. Есть естественный отбор (мутаций) в некой Среде (по её Законам) с некими ресурсами и возможностями среды и биоагента.
Прошедшие отбор передают потомкам “удачную конструкцию”. А если не вписался в рыночек - увы.
Таким образом те агенты (из бесчисленного множества разных), которые на сигналы имеющихся датчиков отреагировали удачно - выжили и размножились и именно этот алгоритм поведения передали потомкам. А соответственно которые не так удачно или вообще не удачно или не выжили или не смогли так же хорошо размножиться, чем снизили свой потенциал развития (но может стали годными для других биологических ниш или при изменении ситуации/Среды).
Т.е. нет никакого “понимания” агентом/Природой сути сигнала. Есть лишь та или иная реакция (а потом уже “наложением” других, “надстройкой” идет некое усложнение поведения, вплоть до сознания и разума) для агента. И общее биодвижение для Природы/Жизни на нашей планете с её ресурсами и биоинерцией по Законам Вселенной (+ случай).
Это мы с вами, имея персональное сознание, определяем и именуем эти сигналы и реакцию как вредные/полезные, исходя из неких своих представлений о целях и задачах (Жизни/агента) и в необходимости (общего социального) миропредставления.
Всё.
Так что если бы у Природы были бы проблемы с правильностью реакций на факторы Среды - ну… она бы не выжила или была сильно слабее или некой иной или на другой планете/иной Вселенной :) А то что болью не становиться автоматически всё что вредит… и само чувство боли может быть вредным… ну так и что до этого Природе? Боль это фундаментальное чувство, а фундамент вот так быстро не меняется… а если даже очень надо он “расширяется/надстраивается”, в т.ч. на основе “квалий”, например поругаться с близким человеком не значит получить физическую боль, но формируется боль “душевная” (имеющая некую связь (через гормоны) с фундаментальной). И, тем более, Природе не интересен некий один организм, что бы на его опыте что-то менять в общем “фундаменте”. К тому же это аналоговое чувство (причём в сумме с другими чувствами и имеющимися ресурсами) - для кого уже боль, а для кого лишь неприятное ощущение…
А для человека разумного ещё и повод найти возможности её победить (точнее - использовать как стимул/мотив для ускорения (само)познания)…
Так, коллега, вы же лучше других понимаете, что для ответа на ваш вопрос нам надо сперва синхронизировать наши квалии употребленных вами “Наблюдатель”, “Система”, “привязка (к чему? зачем?)”. :) Т.е. я ещё могу понять что такое “система” (наверное это сам организм), но вот зачем нам кузнец(с)… э… наблюдатель что-то не понял. Давайте так: забудем всё и начнем с начала и с читого листа.
Договоримся, что в Природе особых проблем с “привязкой” наслаждения и боли нет. Потому как у кого привязка (из-за мутаций) неправильная или отсутсвует - долго не живет и размножается плохо. Примем, что на логическом (и базовом) уровне боль это нечто, ведущиее к потере ресурсов и/или смерти, а удовольствие наоборот, и что определение этого фундаментально важно для выживания и развития организма (и Жизни), и предусмотрены (выработаны эволюцией) некие датчики, передача сигнала, система управления и система реакции. (однако уже на более высоком уровне управления могут быть варианты где “боль” потери ресурсов может быть полезной (в обучении), а некоторые удовольствия, как мы знаем, :) - вредными) А как конкретно Природа это реализует в биологии - не будем копаться.
Т.е. решение проблемы в т.ч. "определения привязки" уже давно существует и надёжно работает млр. лет. в различных условиях нашей планеты на бесчисленных безымянных биообъектах Природы. И нам его не надо выдумывать, а только лишь понять.
Хм… ну давайте предположим самое простое: может есть отдельные датчики (или один, но с разными "выходами", или с одним, но с более сложным управлением) , сигнал от которых (а он одинаковый) система управления определяет однозначно как боль/удовольствие? И соотвественно реагирует: типа на этот вход пришел сигнал - без затей включаем такю последовательность действий; А на другой вход такой же сигнал (или разный сигнал на один вход) - другую... (на инстинктивном уровне… однако более “вышестоящий” контур управления (если он есть) может в некоторых случаях попробовать изменить эту реакцию) (и ведет запись лога, в т.ч. создавая "квалиа")
Ну например предположим, что датчик температуры удовольствия настроен (в биологии Природой, эволюцией и отбором; а для наших задач - нами, под наше представление о Среде и агенте) на диапазон 16-20 градусов. И когда организм попадает в этот диапазон он срабатывает и система получает сигнал и определяет это для себя как удовольствие т.е. нахождение в оптимальной температурной среде. Соответсвенно выход из этого диапазона как снижение удовольствия.
А срабатывание датчика температуры боли настроим на допустим от 60 градусов… и типа прикоснулся к горячему чайнику - получил сигнал и инстинктивно отдернул руку… (но если например несешь стакан с кипятком и он начинает обжигать пальцы - вышестоящий уровень пытается блокровать попытки уйти от боли их разжав (если последствия хуже)) Соотв. в более сложных системах имеющих сознание из множества информации от дачиков создаются квалии состяния боли/ удовольствия... а далее их используя как в непосредственной деятельности (выбирая/создавая условия удовольствия и избегая условия боли) так и в работе сознания по моделированию мира и оптимизации себя в нём или его под себя :)
“Привязка” же, если надо как “визуализация”, может быть к некому “ресурсу” - типа как в играх "полоска здоровья": удовольствие когда ресурс повышается, боль когда (резко) падает… Как-то так я это вижу…
Автор! "Без ТЗ результат ХЗ". Нет определения сознания - не имеет и смысла гадать, будет ли он цифровой/аналоговый, белковый/желтковый. Вы точно сказали, что это свойство жизни и не интеллект. Осталось сделать лишь пару шагов, что бы понять что же это. Главное - начать с начала. C начала нашей Вселенной. И раз это свойство Жизни, то до её появления сознания не было. Т.е. как только Жизнь появляется (-4 млр.лет) ей нужно начать выживать и развиваться в окружающей Среде, а значит как-то "расчитывать", "отражать", "изучать", "предугадывать" её в своих (пусть пока и ничтожных) моделях . Ну вот это и есть сознание - со-Знание, совместное знание (модель) Жизни о Среде, как внешеней, так и внутренней (т.е. сознание это информационное явление). И, соответсвенно, опосредовано оно в инстинкт(ы). И получает "обратную связь", совершенствуясь. Но это "общее распределенное сознание" всей Жизни. Персональное же сознание возникает примерно 150 млн. лет назад, далее совершенствуется, получая функции социУма (-75 млн.) и разума (-200 тыс.)
Если же образно представлять сказанное как армейскую аналогию, то: тело - войско, инстинкт-атаман, подсознание - полевое командование, социУм - комиссар, разум - все виды (контр)разведки. Интеллект - известные пути и возможности. Сознание - штаб. И при решении задач (одновременно, у кого что к этому моменту уже есть) ищут ответ на вопрос: интеллект -"как?"; ум - "через кого?"; разум - "почему?" сознание -"зачем? (я).
А более подробно о сознании, чувствах, интеллекте, инстинкте, уме, глупости, мудрости, разуме... можно прочесть в книжке "Естественный интеллект" https://samlib.ru/j/jurewich_d_p/ei.shtml Как кстати и о не"Трудной проблеме сознания" и о квалиях. В т.ч. как они получаются - на базе SQL запросов. Ничего сложного (ведь они же существуют).
И вот теперь, если принять эти определения, можно будет уже и подискутировать предметно.
Очень хорошо, что инженеры взялись-таки за понимание чувств, в частности любви. Это весьма своевременно, ведь создается ИИ, как понять, нужна ли ему любовь (и другие чувства - для жизнеспособности и человечности), а если да - то что это, зачем, принцип работы и как это запрограммировать и встроить в общую систему управления?
Однако, к.м.к., предложенный вариант скорее для обдумывания и критики, нежели сразу в продакшен. Особо прикольно, что предложенное понимание не соответствует собственному заявленному эпиграфу т.е. не универсально, а узко специализированно . Т.е. любовь рассматривается только как чувство между двумя людьми (что ещё и антропоцентрично). Но это же не так, любить можно например своё дело, близких, детей, животных, природу... Причём даже между двумя людьми возможна и неразделенная любовь... не говоря уже о неодушевленном - работе например. А чувство любви универсально. Оно заложено в наши инстинкты до нашего рождения, а значит свойственно всей Жизни (в разной мере и форме).
Далее:
CRDT смыслов: база общих знаний, воспоминаний и моделей поведения есть и без любви - родители, школа, работа, знакомые..;
Фристон-style: это уже не любовь, а привычка (убивающая любовь);
SLA: есть и у друзей и у близких людей.. даже у домашних животных, собак например.
В том, что по мнению автора любовь склеивает в устойчивую систему есть истина, но только часть. Да и устойчивым системам как раз любовь и не нужна, даже мешает, дестабилизирует. "Брак по расчёту может быть счастливым, если расчет удался", "Стерпиться - слюбиться" - вот что нужно устойчивым системам.
Не дано понимание того, откуда она, почему и как она возникает, почему проходит, почему остается и развивается и во что и т.п...
Зачем вообще она нужна, ведь и встречаться, и общаться, и размножаться, и рожать, и воспитывать, и работать, и ... прожить всю жизнь можно и без любви? Но вот почему-то считают, она очень важна: "Мир есть любовь", "Аll you need is love"...
Всё же, по-моему, любовь чувство универсальное, а значит на него надо смотреть не с позиции антропоцентризма, а с т.з. космоцентризма. И это не "протокол когерентности", это тогда уж "протокол форсирования самоотдачи", не для устойчивой системы, а для её дестабилизации и перевода на новый, более высокий уровень (а уж стабилизацию на новом обеспечивают другие чувства). Более подробно об этом в т.ч. можно прочесть в книге "Естественный интеллект" (гл 1. Любовь) http://samlib.ru/j/jurewich_d_p/ei.shtml
Тем не менее радует появление у инженеров интереса к "гуманитарным" основам Жизни, ощущение их важности в проектировании Universальных жизнеспособных систем типа ИИ (а так же жизни людей и Жизни в целом) и желание разобраться.
"Может ли работа с ИИ сделать людей более этичными?"
пока ИИ не имеет собственного сознания (ценностей, воли...) (причем для реального мира) это такой же инструмент как, например, молоток. Так что упрощая: может ли изобретение молотка сделать людей более этичными? Да, может - когда играясь с молотком человек наделает делов и ему либо прилетит "снаружи", либо "изнутри" (совесть) после чего он "поймет" границы этичности применения молотка. Некоторым это приходит в голову раньше (чем туда прилетает молоток), но таких людей к сожалению мало (и их голоса не слышны, пока "гром не грянет") да и всё же реальность точнее и шире, чем их представления.
"Нам не нужны умнее машины. Нам нужны яснее люди."
и владение молотком, создаваемые им новые проблемы заставит таки начать разбираться, искать "противовесы", разрабатывать технику безопасности, принимать законы... А некоторых задуматься, не столько о молотке, сколько о том, что есть человек сам по себе :) чьи качества молоток только усиливает.
"Как вы думаете, что важнее: дать машинам делать быстро или иногда нажимать на паузу и подумать?"
вопрос не корректный - если быстро начать стучать молотком (получая прибыль и снижая издержки), то уже не получится ни сделать паузу, ни подумать - т.к. такая работа меняет психологию и работника и владельца, они становиться "заложником молотка" подстраиваясь под него. Только сбой может привести в сознание (ну или окончание работ - но не будем о грустном :)). А так и паузы, и мышление идет "снаружи" т.е. не от работника с молотком и не от молотка, а от "наблюдателя".
Так что "этика ИИ" это пока просто этика людей - для людей, получивших молоток.
Но вопросы этики становятся важнейшими, когда молоток ИИ обретает сознание. И вот для этого случая вопросы добра и зла, совести, человечности, свободы, смысла жизни... разработчикам ИИ вместе со специалистами по этике стоит понять (поняв человека, его Природу и место во Вселенной), алгоритмизировать и вложить в ИИ как фундамент, что бы тот не стал бесчеловечным, бессовестным, бездушным... а смог бы на этом фундаменте стать жизнеспособным, а значит и этичным и человечным...
А что вас удивляет? Ведь искусственный интеллект (в принципе) должен быть (как минимум) равен естественному т.е. человеческому. И автор просто описал процесс воспитания ребёнка, выделив наиболее важное, а в качестве технического обеспечения использовал уже известные технологии. Т.е. всё это вполне ожидаемо и вроде не должно вызывать удивления. Вот если бы он показал неявное, проблемы, о возможности существования которых ещё никто не задумывался тогда, те, которые присущи именно роботизации и созданию ИИ, и которые бы проявились сейчас или видятся в ближайшем будущем, но никак не могли бы быть очевидными для того времени... Вот это было бы удивительно, интересно и практично...
Возможно в связи с квалиа вас заинтересует статья , где на примере с sql запросами дается простая картина их создания и показывается принцип уникальности и использования.
Спасибо за статью. Но если уж быть более точным в заклёпках терминологии, то "...Шеннон, Тьюринг, Винер создали психологам "набор отмычек" своим разумом..." но не для понимания разума, а для понимания подсознания - сознанию.
Нейробиологи изучают био-мозг. И не само сознание, его суть, а нейрокоррелят ("индикатор") т.е. "вот оно есть, а вот нет - как понять, по каким признакам работы мозга?.." (см. определения IIT и GNWT). Ну а ИИ (кремниевый) имеет совсем другую архитектуру "мозга" и био-индикатор ему не подходит. Так что надо сначала с сутью сознания разобраться https://habr.com/ru/articles/871796/
Если я правильно понял, то главной проблемой автор считает большое количество исполнительных механизмов и сложность в их управлении (а так же габариты, энергопотребление и стоимость) при считывании пользователем строки/страницы текста в кодировке Брайля. Но можно же избавиться разом от этих проблем, использовав для показа только один символ (т.е. всего 6 точек) , если считываемый текст будет двигаться под пальцем как-то сам. И это вполне реализуемо с помощью смартфона, приложение на котором будет перекодировать нужный текст в управл. код (например в те же символы Брайля) и заданным образом сменять их в опред. темпе/по команде - на экране/ передавая в порт. А специальная накладка на экран (или отдельная) подключенная по USB /Bluetooth к смартфону) будет считывать этот код с экрана (например фоторезисторами) / получать по USB/Bluetooth и формировать символ Брайля под неподвижным пальцем. При этом, естественно, будет возможность пользователю влиять на процесс (быстрее, медленнее, вперед/назад на слово, предложение, строку/абзац...) с использованием средств смартфона и/или накладки. Так же предлагаемое устройство и ПО может получать речь с микрофона и, переводя в текст, передавать пользователю тем же образом. И, с помощью камеры смартфона и ИИ, как предлагает автор, так же сообщать об обстановке. Дополнительно (потому что это уже не столь удобно) накладку можно использовать в качестве клавиатуры, если ещё разместить на ней 6 микро кнопок в формате Брайля (+ ввод и служебные) с помощью которых пользователь может вводить символы из накладки в спец. по в смартфоне. (т.е. что бы ввести символ надо нажать те кнопки, которые соответствуют алфавиту Брайля + ввод - это конечно менее удобно, зато более компактно).
Согласен с вами и в том, что философский подход к этой теме важен т.к. позволит увидеть картину в целом, объединить профессиональные направления, и в том, что таким философам нужно иметь мышление направленное на практическую реализацию. Для этого возможно имеет смысл сначала просто рассмотреть более подробно уже имеющееся у нас сознание: когда оно появилось, как, что было до него, зачем оно Природе и др. И об этом есть статья на Хабре: https://habr.com/ru/articles/871796/
Ну и вы упоминали о практическом подходе к квалиа: http://samlib.ru/j/jurewich_d_p/ei.shtml#D20 И про эмоции и про душу там то же есть. Но к.м.к. главное в такой философии то, что она должна изменить точку зрения с антропоцентизма на космоцентризм, ведь мы, люди, не возникли вдруг из ниоткуда, а являемся результатом общей эволюции Природы (и Вселенной) и то что в нас вложено (интеллект, чувства, ум, разум.. сознание) есть продукт миллиардов лет этой эволюции. И используя т.з. космоцентризма будет проще их понять и избежать ошибок.
Да, я согласен с вами в том, что чувства это некая "смесь" и мы лишь отбираем и "именуем" их комбинации при изучении. А так они все единое пространство и, вы правы, для их понимания нужно начать разбираться с каждым от начала их появления - но увы, их многовато, это уже к специалистам, а я нет, просто интересно было, так что лишь глянул в целом http://samlib.ru/j/jurewich_d_p/ei.shtml#D17 и некоторые особенно интересные. Посмотрел ваши ссылки - тож согласен, сам там отметился в комментах https://habr.com/ru/articles/931636/comments/#comment_28631540 Так что и по квалиам расхождений во мнениях нет - и в том, что их уникальность переоценена, и в том, как они возникают http://samlib.ru/j/jurewich_d_p/ei.shtml#D20
Насчет какой ИИ: "строгость логического вывода" (т.е. проектный, для закрытых систем, компьютер (вычислитель по алгоритму)) или "способность к выживанию в окружающей среде" (т.е. процессный, для открытых, "решатель" по алгоВиту) и для каких целей - лично меня больше интересуют ИИ-выживальщики :) т.к. всё же "компьютеры"-то у нас уже есть, а вот дальнейшее развитие человечества, т.е. ваш вопрос "Зачем", видится как космоэкспансия, где нужны именно ИИ-"выживальщики" (не обязательно "кремниевые"). Но на самом деле это единая связка - "выживальщик" "захватывает" некое "открытое" пространство для жизни и делает его "закрытым" - высокой ценой, а потом в этой закрытой системе уже "вычислитель" решает задачи оптимизации и накопления ресурсов для след. рывка... Так что да, опять согласен - для "компьютера" чувства не нужны, а вот "выживальщику" очень бы пригождались (но ясно, что не прям все). Собственно потому я ими и интересуюсь, наряду с интеллектом, умом, разумом, со-знанием...
А вот насчет 3х законов и их опасности при сбое можно и поспорить:
сбой сам по себе опасен;
сбой основных систем обязательно будет предусмотрен и будут установлены доп. механизмы для контроля именно таких сбоев; (да, будут ошибки, баги, бэкдоры, хакеры, халтура и случай, но...)
"перепрограммировать" других роботов не выйдет т.к. стирание первых законов это нарушение первых законов и оно будет отклонено; (хотя конечно же можно выдумать обходную логику, вспоминая того же Азимова и рассказ о том, как один из "сломанных" роботов "убедил" остальных "нормальных" не повиноваться первому закону, не защищать Сьюзан Кельвин от падающего груза :)) Ну и вообще тут речь о роботах т.е. без сознания, чьи сбои конечно же крайне опасны, но "линейны" и "хаотичны" и их можно предусмотреть.
Предлагаемая вами эмпатия и сознание для ИИ вовсе не невозможны, и для этого лишь надо "выпустить" ИИ в реальный мир + мотивация + воля + цели + отбор... и пошло-поехало... Но вот сбой ИИ с сознанием это, согласитесь, совсем другая история ... в т.ч. для человечества, по Ф.Фукуяме... :) Хотя лично я думаю, что мы ему будем просто не интересны, Вселенная огромна и что его тут держит?.. Поставьте себя на его место (с "нуля" и без влияния "биологии")... кстати интересная фабула для философско-фантастического (пока) произведения :)
Спасибо за развернутый ответ и искренний интерес к теме. Насчет вашей статьи это я понял, что вы просто критиковали методику, а не искали точное определение "надежды". (кстати и "выученную беспомощность" тож где-то раскритиковали, так что теперь нет такого термина :)). Я правильно понял, что вы в термине "надежда" смешиваете и процесс ("пассивная надежда") и проект ("активная надежда" - уверенность в достижении результата, расчет), и надежду на "авось", "на удачу", на статистику, вероятность, риски и т.п.? И говорите в основном про персональную т.е. либо надежда на себя, либо на некое внешнее независящее от нас событие относительно себя же?
Я почему спрашиваю так подробно - интересуюсь ИИ и алгоритмизацией ("АлгоВит") чувств под него, т.е. нужна ли ему та же надежда, и что это за чувство, зачем оно и как работает (ну и другие конечно же, из важных типа счастья, свободы, любви... http://samlib.ru/j/jurewich_d_p/ei.shtml).
Ну вот и использовал этот эксперимент для прояснения. А тут такая жесткая критика с вашей стороны. Прям хоть заново разбирайся. :) Всё же согласитесь, чувство надежды существует, и было "задано" нам Природой в инстинктах, оно массовое и одно из важнейших (триада выживания: вера-надежда-любовь). Значит всё же польза от неё больше чем вред. Осталось понять какая же эта польза и как она срабатывает. Возможно, что для сознательного субъекта (для инстинктивного ни к чему) надежда как бы расширяет его возможности и горизонты, увеличивая КПД (а безнадёжный значит и сделать ничего нельзя и не надо тратить силы)... ведь как вы верно заметили "в реальной жизни все сложнее. Вероятности определить невозможно, а некоторые исходы полностью невероятны..." и "результат эксперимента предрешен, и крыса умирала в любом случае", что можно не политкорректно сказать и про нас. Увы, "Да, человек смертен (, но это было бы ещё полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус!" (с) :) . И надежда не даёт "сфокусироваться" и "замкнуться" на этой мысли, не даёт включиться "истерике" получить от жизни для себя всё и сейчас сразу (и включить "танатоз" :) , а как бы "включает габитуацию", "размазывает" этот факт, что даёт возможность найти тот самый "крайне сложный, но все же вероятный способ крысе спастись самой, и его бы крысе показали..." Что мы собственно и наблюдаем в нашей истории... Т.е. всё же надежда это больше про процесс. А когда проект, т.е. можно рассчитать хоть что-то, то это скорее про уверенность и вероятность. И скорее про массовость, чем про индивидуальность. Мне так кажется... А вам?
Ну хорошо, мошенники новые-то номера не смогут на меня зарегистрировать, а взять и по украденным паспортным данным себе симку со старым номером перевыпустить смогут? Что-то этот важный момент не ясен...
Ну так загляните и разберитесь. :) Это не так уж и сложно и не требует гаданий на века вперед, даже на десятилетия не надо. Профессионализация начинается всего лишь лет за пять до. Общий набор профессий коррелирует с нашими потребностями и их производными (есть кстати и каталог) + "мода" . А пики востребованности связаны с тенденциями социума и его научно-технического развития. Есть так же огромная историческая база, по которой можно примерно увидеть и таланты, и "длительности жизни" профессий. Да, есть сложности с финансовой оценкой и переходом от общего к частному, уж больно сильно отличаются люди и стартовыми условиями, и внутренними задатками, и обстоятельствами... и субъективностью определения "нормы оплаты"... но в целом можно что-то увидеть полезного.
Но имелось ввиду несколько другое. Не про "натягивать" человека на предполагаемую в будущем выгодную профессию. А про то, что если в нём есть значимый талант и его найти и развить, то такой человек имеет больше шансов стать счастливым в любой своей профессии, делать то, что ему нравиться, что получается лучше других, найти единомышленников и партнёров... А высокая оплата.. да, это важно, но давайте вспомним, что с некоторого уровня удовлетворения базовых потребностей оплата профессии которая не нравиться, всё меньше мотивирует и влияет на счастье...
Ну хорошо, допустим, по эксперименту будет танатоз и габитуация с выученной беспомощностью. Как это соотноситься с чувством надежды? Ведь есть же (в нас) такое чувство? Или нет? Или вы считаете его бесполезным и даже вредным?
"благими намерениями ..." Да, действительно так бы вроде и надо, но увы, в истории мы видим, что почему-то всё никак не получается и даже в теории выходит "Утопия". :) Процесс идет, но очень медленно. Почему же? Ну, в этом вы, имея пытливый ум (точнее разум, именно он ищет ответы на вопрос "почему?", ум это социУм, он ищет ответы "через кого?" (инстинкт/интеллект - "как?", со-знание - "зачем (я)?")) уверен, подробно разберетесь сами, проф. С.В. Савельев вам в помощь. :) А если кратко - мозг у всех разный, как и ресурсы и обстоятельства. И те его отделы ("таланты", их "аппаратное" обеспечение), что способствует постоянному обучению, не у всех могут быть развиты. И собственно это нормально, и так и должно быть, потому что и мир разный и непредсказуемый. И Природа, "подстраиваясь" под него и создавая свою гомеостатическую систему, "желает иметь" разнообразный "инструмент" для решения задач выживания (99%) и развития (менее 1%, к которой и принадлежит разум). Согласитесь, не надо, что бы прям сразу и каждый человек был бы непременно академиком. Очень уж такое "дорого" и в "производстве", и в "обучении", и по-жизни (ведь для выживания энергию надо экономить, а мозг и так кушает много, а уж пытливый ум вообще страшный обжора... да ещё додуматься может до всякого, и не обязательно доброго... причем думать-то он любит, а вот социум и работу не очень. В итоге "самообучаемых" маловато, да и так уж говоря не многим это качество приносит счастье: "во многое мудрости многое печали"... Но они есть и нужны (см. А.Азимов "Профессия"). Так что к вашему предложению "учиться учиться" надо, как минимум, добавить и ещё раз учиться" (с). :)) ещё и практическую компоненту, а ещё лучше и социальную - что бы оставаться адекватным и не уходить в глубокие теории, "знать всё ни о чём"(с), "знаний ради знаний", а сочетать знания и с социальной пользой (в т.ч. и для себя) и с практикой т.к. "практика критерий истинности" . Ну а совсем хорошо разобраться - к чему у ребенка талант(ы) и двигать его обучение в эту сторону, уже подстраивая остальное под это направление.
Спасибо, статья интересная, но не практичная. Не ясно, как эти самые "резервуары" выявлять, оценивать, управлять - у себя и, особенно, у других, кроме обычного метода "научного тыка". Так же за рамками статьи остался вопрос: а что же происходит, когда "резервуар" переполняется, но "слить" его не удаётся (или попытка не удачна) - лопается что ли? :) Неужели природа не предусмотрела никакой сублимации, ну там смех, слёзы, переключение этой энергии на другое...? Возможно так же автора заинтересуют работы проф. С.В.Савельева, в которых он показал физическую уникальность каждого мозга, наличие в нём некоего набора полей и подполей. И предположил, (отвечая на вопрос в заголовке статьи) что хорошо не с тем, в кого можно "слить" эмоциональный резервуар (согласитесь, это не самая высокая ступень взаимоотношений), а с тем, кто имеет близкую "конструкцию" мозга, т.е. понимает тебя. А так же предложил прибор и методику для определения этих характеристик мозга.
Ну, если так ставить вопрос: “этого не может быть, потому что не может быть никогда”(с), ежели сама наука не могёт (а может для неё это не вопрос :)… то конечно же, куда нам, сиволапым… даже и смысла нет самим разбираться, пойдем лучше постоим на коленях у РАН, помолимся о вразумлении, авось когда снизойдут академики в окормлении мудростью своей душ сирых и убогих. :)
Или может всё же сами разберемся? Хотя бы попытаемся - сапиенсы мы дважды или лишь в чувства умеем? :)
Так вот, как я уже писал: раз такое уже есть (в Природе), значит принципиально возможно и понять (не знать (точно, это к науке), а понимать (в целом)). И, к.м.к., об этом выше: нет тут ничего сложного, никакой высшей математики и пугающих формул :) и боль и наслаждение, как и другие !фундаментальные чувства (со своими коэффициентами влияния на принятие решений) есть части общего гомеостата инф. связи Жизни, её агента, его инстинктивных реакций, с объективной реальностью Среды, для выживания и развития.
Т.е. изначально есть объективная “мёртвая” Среда. В ней как-то появляется Жизнь и её агенты. В процессе эволюции, мутаций, биодавления и естественного отбора у них возникают различные и (методом отфильтрации негодных) выявляются годные “средства приспособленности”: “аппаратные” и “программные”, (до некоторого уровня развития не объединенные единым ЦУ, но ) упакованные обычно в единый физ. носитель :)
Как они (по отдельности) нами называются и для чего как нам кажется “нужны” - это уже наши “обрывки”, именования и модели для упрощения понимания целостной её системы. Сама Природа таким не заморачивается, как и её инстинктивные агенты.
Точка.
И ничего особо интересного (вот чувство любви или счастья или свободы это интересно, это намного фундаментальнее и “стратегичнее” какой-то там “боли” (которая даже не “тактического”, а всего лишь “оперативного” уровня), это да, это взгляд в саму основу замыслов Вселенной… :)
Но это с т.з. инстинктов.
С т.з. (развитого) персонального сознания всё конечно же сильно усложняется и в поведении, и в понимании (нами). В т.ч. появлениями квалий, в т.ч. “боли” и “удовольствий”. Ведь да, как и другие квалии, они уже будут уникальными для данного биосубъекта.
Вот тут согласен, в таком сам чёрт ногу сломит, как у кого что с чем связано, через что и в какой мере, истинно или фантомно, выдумка или вообще врёт зомбяка философский, осиновый кол ему в дневник…
Но фишка-то в том, что это уже будут квалии связанные (с различными "весами") с глубинными, уже имеющимися инстинктивными чувствами и реакциями, “надстройкой” над ними.
А с инстинктивной-то базой как раз всё ж ясно…
Так что не вижу проблемы понимания, ни в фундаменте, ни в “надстройках” возникновения чувств, в т.ч. нами выделяемых из общего их гомеостата т.н. “боли”/“наслаждения”.
Однако не надо мне верить. Попробуйте проверить и понять это сами.
Начните с простейшего примера, типа бактерии и проследите мысленно, прям шаг за шагом, как и где она живёт, из чего состоит, какова её информационная система, каков алгоритм её поведения и почему, что для неё будет болью и наслаждением, и откуда, и почему, и зачем, и сколько, и как это получается… “и что кушает на завтрак крокодил?”(с) :)
Или мысленно создайте простейшего робота и, как творец, наделите его минимальной способностью выживать, в т.ч. чувствами (прям по одному и смотреть их объединение/конфликты как у Буриданова осла :), в т.ч. этими… т.е. напишите программу и поглядите, что у вас получиться в коде…
Если конечно ответ нужен… просто многим не нужен, а нужно лишь риторические вопросы задавать… ещё и проклянут того, кто попытался предложить :)
Это кстати нормально, точнее естественно, и тоже входит в общий (социальный) гомеостат выживания и развития, и так же имеет свои (безсознательные обычно) чувства и квалиа. :)
Коллега, я очень рад, что вы так горячо защищаете одушевленность и сознательность Природы. :)
Но наверное, прежде чем горячиться и обвинять меня в отсутсвтии гипотез о сознании, стоит внимательней прочесть статью, где и вначале есть ссылка на мой краткий пост Хабра о сознании, и есть ссылка внизу на всю книгу “Естественный интеллект”, где в т.ч. (персональному) со-Знанию (его истории, появлению, сути, проблемам, и даже пониманию и моделированию принципов его работы) просвящена бОльшая её часть в отдельном приложении.
Так что уж кто-кто, а я-то имею гипотезу, в опубликованном письменном виде и в цельной связи со всем другим: инстинктом, интеллектом, умом, глупостью, мудростью, разумом, творчеством, чувствами и прочим… :) И кстати об упомянутой вами “одушевленности” - о Душе там то же есть.
Так что, коллега, зря вы бочку катите :)
Что же касается второго абзаца, то я ваших квалий не понял :), приведите пожалуйста примеры и мы в них разберемся вместе.
Стоп-стоп… что значит: “Природа обнаружила и заюзала”? Нет такого. Есть естественный отбор (мутаций) в некой Среде (по её Законам) с некими ресурсами и возможностями среды и биоагента.
Прошедшие отбор передают потомкам “удачную конструкцию”. А если не вписался в рыночек - увы.
Таким образом те агенты (из бесчисленного множества разных), которые на сигналы имеющихся датчиков отреагировали удачно - выжили и размножились и именно этот алгоритм поведения передали потомкам. А соответственно которые не так удачно или вообще не удачно или не выжили или не смогли так же хорошо размножиться, чем снизили свой потенциал развития (но может стали годными для других биологических ниш или при изменении ситуации/Среды).
Т.е. нет никакого “понимания” агентом/Природой сути сигнала. Есть лишь та или иная реакция (а потом уже “наложением” других, “надстройкой” идет некое усложнение поведения, вплоть до сознания и разума) для агента. И общее биодвижение для Природы/Жизни на нашей планете с её ресурсами и биоинерцией по Законам Вселенной (+ случай).
Это мы с вами, имея персональное сознание, определяем и именуем эти сигналы и реакцию как вредные/полезные, исходя из неких своих представлений о целях и задачах (Жизни/агента) и в необходимости (общего социального) миропредставления.
Всё.
Так что если бы у Природы были бы проблемы с правильностью реакций на факторы Среды - ну… она бы не выжила или была сильно слабее или некой иной или на другой планете/иной Вселенной :)
А то что болью не становиться автоматически всё что вредит… и само чувство боли может быть вредным… ну так и что до этого Природе?
Боль это фундаментальное чувство, а фундамент вот так быстро не меняется… а если даже очень надо он “расширяется/надстраивается”, в т.ч. на основе “квалий”, например поругаться с близким человеком не значит получить физическую боль, но формируется боль “душевная” (имеющая некую связь (через гормоны) с фундаментальной).
И, тем более, Природе не интересен некий один организм, что бы на его опыте что-то менять в общем “фундаменте”.
К тому же это аналоговое чувство (причём в сумме с другими чувствами и имеющимися ресурсами) - для кого уже боль, а для кого лишь неприятное ощущение…
А для человека разумного ещё и повод найти возможности её победить (точнее - использовать как стимул/мотив для ускорения (само)познания)…
Так, коллега, вы же лучше других понимаете, что для ответа на ваш вопрос нам надо сперва синхронизировать наши квалии употребленных вами “Наблюдатель”, “Система”, “привязка (к чему? зачем?)”. :)
Т.е. я ещё могу понять что такое “система” (наверное это сам организм), но вот зачем нам кузнец(с)… э… наблюдатель что-то не понял.
Давайте так: забудем всё и начнем с начала и с читого листа.
Договоримся, что в Природе особых проблем с “привязкой” наслаждения и боли нет. Потому как у кого привязка (из-за мутаций) неправильная или отсутсвует - долго не живет и размножается плохо.
Примем, что на логическом (и базовом) уровне боль это нечто, ведущиее к потере ресурсов и/или смерти, а удовольствие наоборот, и что определение этого фундаментально важно для выживания и развития организма (и Жизни), и предусмотрены (выработаны эволюцией) некие датчики, передача сигнала, система управления и система реакции. (однако уже на более высоком уровне управления могут быть варианты где “боль” потери ресурсов может быть полезной (в обучении), а некоторые удовольствия, как мы знаем, :) - вредными)
А как конкретно Природа это реализует в биологии - не будем копаться.
Т.е. решение проблемы в т.ч. "определения привязки" уже давно существует и надёжно работает млр. лет. в различных условиях нашей планеты на бесчисленных безымянных биообъектах Природы. И нам его не надо выдумывать, а только лишь понять.
Хм… ну давайте предположим самое простое: может есть отдельные датчики (или один, но с разными "выходами", или с одним, но с более сложным управлением) , сигнал от которых (а он одинаковый) система управления определяет однозначно как боль/удовольствие? И соотвественно реагирует: типа на этот вход пришел сигнал - без затей включаем такю последовательность действий; А на другой вход такой же сигнал (или разный сигнал на один вход) - другую... (на инстинктивном уровне… однако более “вышестоящий” контур управления (если он есть) может в некоторых случаях попробовать изменить эту реакцию) (и ведет запись лога, в т.ч. создавая "квалиа")
Ну например предположим, что датчик температуры удовольствия настроен (в биологии Природой, эволюцией и отбором; а для наших задач - нами, под наше представление о Среде и агенте) на диапазон 16-20 градусов. И когда организм попадает в этот диапазон он срабатывает и система получает сигнал и определяет это для себя как удовольствие т.е. нахождение в оптимальной температурной среде. Соответсвенно выход из этого диапазона как снижение удовольствия.
А срабатывание датчика температуры боли настроим на допустим от 60 градусов… и типа прикоснулся к горячему чайнику - получил сигнал и инстинктивно отдернул руку… (но если например несешь стакан с кипятком и он начинает обжигать пальцы - вышестоящий уровень пытается блокровать попытки уйти от боли их разжав (если последствия хуже))
Соотв. в более сложных системах имеющих сознание из множества информации от дачиков создаются квалии состяния боли/ удовольствия... а далее их используя как в непосредственной деятельности (выбирая/создавая условия удовольствия и избегая условия боли) так и в работе сознания по моделированию мира и оптимизации себя в нём или его под себя :)
“Привязка” же, если надо как “визуализация”, может быть к некому “ресурсу” - типа как в играх "полоска здоровья": удовольствие когда ресурс повышается, боль когда (резко) падает…
Как-то так я это вижу…
Автор! "Без ТЗ результат ХЗ". Нет определения сознания - не имеет и смысла гадать, будет ли он цифровой/аналоговый, белковый/желтковый.
Вы точно сказали, что это свойство жизни и не интеллект. Осталось сделать лишь пару шагов, что бы понять что же это.
Главное - начать с начала. C начала нашей Вселенной. И раз это свойство Жизни, то до её появления сознания не было.
Т.е. как только Жизнь появляется (-4 млр.лет) ей нужно начать выживать и развиваться в окружающей Среде, а значит как-то "расчитывать", "отражать", "изучать", "предугадывать" её в своих (пусть пока и ничтожных) моделях .
Ну вот это и есть сознание - со-Знание, совместное знание (модель) Жизни о Среде, как внешеней, так и внутренней (т.е. сознание это информационное явление). И, соответсвенно, опосредовано оно в инстинкт(ы). И получает "обратную связь", совершенствуясь.
Но это "общее распределенное сознание" всей Жизни.
Персональное же сознание возникает примерно 150 млн. лет назад, далее совершенствуется, получая функции социУма (-75 млн.) и разума (-200 тыс.)
Если же образно представлять сказанное как армейскую аналогию, то: тело - войско, инстинкт-атаман, подсознание - полевое командование, социУм - комиссар, разум - все виды (контр)разведки. Интеллект - известные пути и возможности. Сознание - штаб.
И при решении задач (одновременно, у кого что к этому моменту уже есть) ищут ответ на вопрос: интеллект -"как?"; ум - "через кого?"; разум - "почему?" сознание -"зачем? (я).
А более подробно о сознании, чувствах, интеллекте, инстинкте, уме, глупости, мудрости, разуме... можно прочесть в книжке "Естественный интеллект" https://samlib.ru/j/jurewich_d_p/ei.shtml
Как кстати и о не"Трудной проблеме сознания" и о квалиях. В т.ч. как они получаются - на базе SQL запросов. Ничего сложного (ведь они же существуют).
И вот теперь, если принять эти определения, можно будет уже и подискутировать предметно.
Очень хорошо, что инженеры взялись-таки за понимание чувств, в частности любви.
Это весьма своевременно, ведь создается ИИ, как понять, нужна ли ему любовь (и другие чувства - для жизнеспособности и человечности), а если да - то что это, зачем, принцип работы и как это запрограммировать и встроить в общую систему управления?
Однако, к.м.к., предложенный вариант скорее для обдумывания и критики, нежели сразу в продакшен.
Особо прикольно, что предложенное понимание не соответствует собственному заявленному эпиграфу т.е. не универсально, а узко специализированно .
Т.е. любовь рассматривается только как чувство между двумя людьми (что ещё и антропоцентрично). Но это же не так, любить можно например своё дело, близких, детей, животных, природу...
Причём даже между двумя людьми возможна и неразделенная любовь... не говоря уже о неодушевленном - работе например.
А чувство любви универсально. Оно заложено в наши инстинкты до нашего рождения, а значит свойственно всей Жизни (в разной мере и форме).
Далее:
CRDT смыслов: база общих знаний, воспоминаний и моделей поведения есть и без любви - родители, школа, работа, знакомые..;
Фристон-style: это уже не любовь, а привычка (убивающая любовь);
SLA: есть и у друзей и у близких людей.. даже у домашних животных, собак например.
В том, что по мнению автора любовь склеивает в устойчивую систему есть истина, но только часть. Да и устойчивым системам как раз любовь и не нужна, даже мешает, дестабилизирует. "Брак по расчёту может быть счастливым, если расчет удался", "Стерпиться - слюбиться" - вот что нужно устойчивым системам.
Не дано понимание того, откуда она, почему и как она возникает, почему проходит, почему остается и развивается и во что и т.п...
Зачем вообще она нужна, ведь и встречаться, и общаться, и размножаться, и рожать, и воспитывать, и работать, и ... прожить всю жизнь можно и без любви? Но вот почему-то считают, она очень важна: "Мир есть любовь", "Аll you need is love"...
Всё же, по-моему, любовь чувство универсальное, а значит на него надо смотреть не с позиции антропоцентризма, а с т.з. космоцентризма. И это не "протокол когерентности", это тогда уж "протокол форсирования самоотдачи", не для устойчивой системы, а для её дестабилизации и перевода на новый, более высокий уровень (а уж стабилизацию на новом обеспечивают другие чувства).
Более подробно об этом в т.ч. можно прочесть в книге "Естественный интеллект" (гл 1. Любовь) http://samlib.ru/j/jurewich_d_p/ei.shtml
Тем не менее радует появление у инженеров интереса к "гуманитарным" основам Жизни, ощущение их важности в проектировании Universальных жизнеспособных систем типа ИИ (а так же жизни людей и Жизни в целом) и желание разобраться.
"Может ли работа с ИИ сделать людей более этичными?"
пока ИИ не имеет собственного сознания (ценностей, воли...) (причем для реального мира) это такой же инструмент как, например, молоток. Так что упрощая: может ли изобретение молотка сделать людей более этичными? Да, может - когда играясь с молотком человек наделает делов и ему либо прилетит "снаружи", либо "изнутри" (совесть) после чего он "поймет" границы этичности применения молотка. Некоторым это приходит в голову раньше (чем туда прилетает молоток), но таких людей к сожалению мало (и их голоса не слышны, пока "гром не грянет") да и всё же реальность точнее и шире, чем их представления.
"Нам не нужны умнее машины. Нам нужны яснее люди."
и владение молотком, создаваемые им новые проблемы заставит таки начать разбираться, искать "противовесы", разрабатывать технику безопасности, принимать законы... А некоторых задуматься, не столько о молотке, сколько о том, что есть человек сам по себе :) чьи качества молоток только усиливает.
"Как вы думаете, что важнее: дать машинам делать быстро или иногда нажимать на паузу и подумать?"
вопрос не корректный - если быстро начать стучать молотком (получая прибыль и снижая издержки), то уже не получится ни сделать паузу, ни подумать - т.к. такая работа меняет психологию и работника и владельца, они становиться "заложником молотка" подстраиваясь под него. Только сбой может привести в сознание (ну или окончание работ - но не будем о грустном :)). А так и паузы, и мышление идет "снаружи" т.е. не от работника с молотком и не от молотка, а от "наблюдателя".
Так что "этика ИИ" это пока просто этика людей - для людей, получивших молоток.
Но вопросы этики становятся важнейшими, когда молоток ИИ обретает сознание.
И вот для этого случая вопросы добра и зла, совести, человечности, свободы, смысла жизни... разработчикам ИИ вместе со специалистами по этике стоит понять (поняв человека, его Природу и место во Вселенной), алгоритмизировать и вложить в ИИ как фундамент, что бы тот не стал бесчеловечным, бессовестным, бездушным... а смог бы на этом фундаменте стать жизнеспособным, а значит и этичным и человечным...
А что вас удивляет?
Ведь искусственный интеллект (в принципе) должен быть (как минимум) равен естественному т.е. человеческому.
И автор просто описал процесс воспитания ребёнка, выделив наиболее важное, а в качестве технического обеспечения использовал уже известные технологии.
Т.е. всё это вполне ожидаемо и вроде не должно вызывать удивления.
Вот если бы он показал неявное, проблемы, о возможности существования которых ещё никто не задумывался тогда, те, которые присущи именно роботизации и созданию ИИ,
и которые бы проявились сейчас или видятся в ближайшем будущем, но никак не могли бы быть очевидными для того времени... Вот это было бы удивительно, интересно и практично...
Возможно в связи с квалиа вас заинтересует статья , где на примере с sql запросами дается простая картина их создания и показывается принцип уникальности и использования.
Спасибо за статью.
Но если уж быть более точным в
заклёпкахтерминологии, то "...Шеннон, Тьюринг, Винер создали психологам "набор отмычек" своим разумом..." но не для понимания разума, а для понимания подсознания - сознанию.Нейробиологи изучают био-мозг. И не само сознание, его суть, а нейрокоррелят ("индикатор") т.е. "вот оно есть, а вот нет - как понять, по каким признакам работы мозга?.." (см. определения IIT и GNWT).
Ну а ИИ (кремниевый) имеет совсем другую архитектуру "мозга" и био-индикатор ему не подходит.
Так что надо сначала с сутью сознания разобраться https://habr.com/ru/articles/871796/
Если я правильно понял, то главной проблемой автор считает большое количество исполнительных механизмов и сложность в их управлении (а так же габариты, энергопотребление и стоимость) при считывании пользователем строки/страницы текста в кодировке Брайля.
Но можно же избавиться разом от этих проблем, использовав для показа только один символ (т.е. всего 6 точек) , если считываемый текст будет двигаться под пальцем как-то сам.
И это вполне реализуемо с помощью смартфона, приложение на котором будет перекодировать нужный текст в управл. код (например в те же символы Брайля) и заданным образом сменять их в опред. темпе/по команде - на экране/ передавая в порт.
А специальная накладка на экран (или отдельная) подключенная по USB /Bluetooth к смартфону) будет считывать этот код с экрана (например фоторезисторами) / получать по USB/Bluetooth и формировать символ Брайля под неподвижным пальцем.
При этом, естественно, будет возможность пользователю влиять на процесс (быстрее, медленнее, вперед/назад на слово, предложение, строку/абзац...) с использованием средств смартфона и/или накладки.
Так же предлагаемое устройство и ПО может получать речь с микрофона и, переводя в текст, передавать пользователю тем же образом.
И, с помощью камеры смартфона и ИИ, как предлагает автор, так же сообщать об обстановке.
Дополнительно (потому что это уже не столь удобно) накладку можно использовать в качестве клавиатуры, если ещё разместить на ней 6 микро кнопок в формате Брайля (+ ввод и служебные) с помощью которых пользователь может вводить символы из накладки в спец. по в смартфоне. (т.е. что бы ввести символ надо нажать те кнопки, которые соответствуют алфавиту Брайля + ввод - это конечно менее удобно, зато более компактно).
Согласен с вами и в том, что философский подход к этой теме важен т.к. позволит увидеть картину в целом, объединить профессиональные направления, и в том, что таким философам нужно иметь мышление направленное на практическую реализацию.
Для этого возможно имеет смысл сначала просто рассмотреть более подробно уже имеющееся у нас сознание: когда оно появилось, как, что было до него, зачем оно Природе и др. И об этом есть статья на Хабре: https://habr.com/ru/articles/871796/
Ну и вы упоминали о практическом подходе к квалиа: http://samlib.ru/j/jurewich_d_p/ei.shtml#D20 И про эмоции и про душу там то же есть.
Но к.м.к. главное в такой философии то, что она должна изменить точку зрения с антропоцентизма на космоцентризм, ведь мы, люди, не возникли вдруг из ниоткуда, а являемся результатом общей эволюции Природы (и Вселенной) и то что в нас вложено (интеллект, чувства, ум, разум.. сознание) есть продукт миллиардов лет этой эволюции. И используя т.з. космоцентризма будет проще их понять и избежать ошибок.
Да, я согласен с вами в том, что чувства это некая "смесь" и мы лишь отбираем и "именуем" их комбинации при изучении. А так они все единое пространство и, вы правы, для их понимания нужно начать разбираться с каждым от начала их появления - но увы, их многовато, это уже к специалистам, а я нет, просто интересно было, так что лишь глянул в целом http://samlib.ru/j/jurewich_d_p/ei.shtml#D17 и некоторые особенно интересные.
Посмотрел ваши ссылки - тож согласен, сам там отметился в комментах https://habr.com/ru/articles/931636/comments/#comment_28631540
Так что и по квалиам расхождений во мнениях нет - и в том, что их уникальность переоценена, и в том, как они возникают http://samlib.ru/j/jurewich_d_p/ei.shtml#D20
Насчет какой ИИ: "строгость логического вывода" (т.е. проектный, для закрытых систем, компьютер (вычислитель по алгоритму)) или "способность к выживанию в окружающей среде" (т.е. процессный, для открытых, "решатель" по алгоВиту) и для каких целей - лично меня больше интересуют ИИ-выживальщики :) т.к. всё же "компьютеры"-то у нас уже есть, а вот дальнейшее развитие человечества, т.е. ваш вопрос "Зачем", видится как космоэкспансия, где нужны именно ИИ-"выживальщики" (не обязательно "кремниевые"). Но на самом деле это единая связка - "выживальщик" "захватывает" некое "открытое" пространство для жизни и делает его "закрытым" - высокой ценой, а потом в этой закрытой системе уже "вычислитель" решает задачи оптимизации и накопления ресурсов для след. рывка...
Так что да, опять согласен - для "компьютера" чувства не нужны, а вот "выживальщику" очень бы пригождались (но ясно, что не прям все). Собственно потому я ими и интересуюсь, наряду с интеллектом, умом, разумом, со-знанием...
А вот насчет 3х законов и их опасности при сбое можно и поспорить:
сбой сам по себе опасен;
сбой основных систем обязательно будет предусмотрен и будут установлены доп. механизмы для контроля именно таких сбоев; (да, будут ошибки, баги, бэкдоры, хакеры, халтура и случай, но...)
"перепрограммировать" других роботов не выйдет т.к. стирание первых законов это нарушение первых законов и оно будет отклонено; (хотя конечно же можно выдумать обходную логику, вспоминая того же Азимова и рассказ о том, как один из "сломанных" роботов "убедил" остальных "нормальных" не повиноваться первому закону, не защищать Сьюзан Кельвин от падающего груза :)) Ну и вообще тут речь о роботах т.е. без сознания, чьи сбои конечно же крайне опасны, но "линейны" и "хаотичны" и их можно предусмотреть.
Предлагаемая вами эмпатия и сознание для ИИ вовсе не невозможны, и для этого лишь надо "выпустить" ИИ в реальный мир + мотивация + воля + цели + отбор... и пошло-поехало...
Но вот сбой ИИ с сознанием это, согласитесь, совсем другая история ... в т.ч. для человечества, по Ф.Фукуяме... :)
Хотя лично я думаю, что мы ему будем просто не интересны, Вселенная огромна и что его тут держит?..
Поставьте себя на его место (с "нуля" и без влияния "биологии")... кстати интересная фабула для философско-фантастического (пока) произведения :)
Спасибо за развернутый ответ и искренний интерес к теме.
Насчет вашей статьи это я понял, что вы просто критиковали методику, а не искали точное определение "надежды". (кстати и "выученную беспомощность" тож где-то раскритиковали, так что теперь нет такого термина :)).
Я правильно понял, что вы в термине "надежда" смешиваете и процесс ("пассивная надежда") и проект ("активная надежда" - уверенность в достижении результата, расчет), и надежду на "авось", "на удачу", на статистику, вероятность, риски и т.п.? И говорите в основном про персональную т.е. либо надежда на себя, либо на некое внешнее независящее от нас событие относительно себя же?
Я почему спрашиваю так подробно - интересуюсь ИИ и алгоритмизацией ("АлгоВит") чувств под него, т.е. нужна ли ему та же надежда, и что это за чувство, зачем оно и как работает (ну и другие конечно же, из важных типа счастья, свободы, любви... http://samlib.ru/j/jurewich_d_p/ei.shtml).
Ну вот и использовал этот эксперимент для прояснения. А тут такая жесткая критика с вашей стороны. Прям хоть заново разбирайся. :)
Всё же согласитесь, чувство надежды существует, и было "задано" нам Природой в инстинктах, оно массовое и одно из важнейших (триада выживания: вера-надежда-любовь). Значит всё же польза от неё больше чем вред. Осталось понять какая же эта польза и как она срабатывает.
Возможно, что для сознательного субъекта (для инстинктивного ни к чему) надежда как бы расширяет его возможности и горизонты, увеличивая КПД (а безнадёжный значит и сделать ничего нельзя и не надо тратить силы)... ведь как вы верно заметили "в реальной жизни все сложнее. Вероятности определить невозможно, а некоторые исходы полностью невероятны..." и "результат эксперимента предрешен, и крыса умирала в любом случае", что можно не политкорректно сказать и про нас. Увы, "Да, человек смертен (, но это было бы ещё полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус!" (с) :) .
И надежда не даёт "сфокусироваться" и "замкнуться" на этой мысли, не даёт включиться "истерике" получить от жизни для себя всё и сейчас сразу (и включить "танатоз" :) , а как бы "включает габитуацию", "размазывает" этот факт, что даёт возможность найти тот самый "крайне сложный, но все же вероятный способ крысе спастись самой, и его бы крысе показали..." Что мы собственно и наблюдаем в нашей истории...
Т.е. всё же надежда это больше про процесс. А когда проект, т.е. можно рассчитать хоть что-то, то это скорее про уверенность и вероятность. И скорее про массовость, чем про индивидуальность.
Мне так кажется... А вам?
Ну хорошо, мошенники новые-то номера не смогут на меня зарегистрировать, а взять и по украденным паспортным данным себе симку со старым номером перевыпустить смогут? Что-то этот важный момент не ясен...
Ну так загляните и разберитесь. :)
Это не так уж и сложно и не требует гаданий на века вперед, даже на десятилетия не надо.
Профессионализация начинается всего лишь лет за пять до.
Общий набор профессий коррелирует с нашими потребностями и их производными (есть кстати и каталог) + "мода" .
А пики востребованности связаны с тенденциями социума и его научно-технического развития.
Есть так же огромная историческая база, по которой можно примерно увидеть и таланты, и "длительности жизни" профессий.
Да, есть сложности с финансовой оценкой и переходом от общего к частному, уж больно сильно отличаются люди и стартовыми условиями, и внутренними задатками, и обстоятельствами... и субъективностью определения "нормы оплаты"... но в целом можно что-то увидеть полезного.
Но имелось ввиду несколько другое. Не про "натягивать" человека на предполагаемую в будущем выгодную профессию.
А про то, что если в нём есть значимый талант и его найти и развить, то такой человек имеет больше шансов стать счастливым в любой своей профессии, делать то, что ему нравиться, что получается лучше других, найти единомышленников и партнёров... А высокая оплата.. да, это важно, но давайте вспомним, что с некоторого уровня удовлетворения базовых потребностей оплата профессии которая не нравиться, всё меньше мотивирует и влияет на счастье...
Ну хорошо, допустим, по эксперименту будет танатоз и габитуация с выученной беспомощностью.
Как это соотноситься с чувством надежды? Ведь есть же (в нас) такое чувство? Или нет? Или вы считаете его бесполезным и даже вредным?
А статья очень интересная, спасибо!
"благими намерениями ..."
Да, действительно так бы вроде и надо, но увы, в истории мы видим, что почему-то всё никак не получается и даже в теории выходит "Утопия". :) Процесс идет, но очень медленно.
Почему же? Ну, в этом вы, имея пытливый ум (точнее разум, именно он ищет ответы на вопрос "почему?", ум это социУм, он ищет ответы "через кого?" (инстинкт/интеллект - "как?", со-знание - "зачем (я)?")) уверен, подробно разберетесь сами, проф. С.В. Савельев вам в помощь. :)
А если кратко - мозг у всех разный, как и ресурсы и обстоятельства. И те его отделы ("таланты", их "аппаратное" обеспечение), что способствует постоянному обучению, не у всех могут быть развиты.
И собственно это нормально, и так и должно быть, потому что и мир разный и непредсказуемый. И Природа, "подстраиваясь" под него и создавая свою гомеостатическую систему, "желает иметь" разнообразный "инструмент" для решения задач выживания (99%) и развития (менее 1%, к которой и принадлежит разум). Согласитесь, не надо, что бы прям сразу и каждый человек был бы непременно академиком. Очень уж такое "дорого" и в "производстве", и в "обучении", и по-жизни (ведь для выживания энергию надо экономить, а мозг и так кушает много, а уж пытливый ум вообще страшный обжора... да ещё додуматься может до всякого, и не обязательно доброго... причем думать-то он любит, а вот социум и работу не очень. В итоге "самообучаемых" маловато, да и так уж говоря не многим это качество приносит счастье: "во многое мудрости многое печали"... Но они есть и нужны (см. А.Азимов "Профессия").
Так что к вашему предложению "учиться учиться" надо, как минимум, добавить
и ещё раз учиться"(с). :)) ещё и практическую компоненту, а ещё лучше и социальную - что бы оставаться адекватным и не уходить в глубокие теории, "знать всё ни о чём"(с), "знаний ради знаний", а сочетать знания и с социальной пользой (в т.ч. и для себя) и с практикой т.к. "практика критерий истинности" .Ну а совсем хорошо разобраться - к чему у ребенка талант(ы) и двигать его обучение в эту сторону, уже подстраивая остальное под это направление.
Спасибо, статья интересная, но не практичная. Не ясно, как эти самые "резервуары" выявлять, оценивать, управлять - у себя и, особенно, у других, кроме обычного метода "научного тыка".
Так же за рамками статьи остался вопрос: а что же происходит, когда "резервуар" переполняется, но "слить" его не удаётся (или попытка не удачна) - лопается что ли? :)
Неужели природа не предусмотрела никакой сублимации, ну там смех, слёзы, переключение этой энергии на другое...?
Возможно так же автора заинтересуют работы проф. С.В.Савельева, в которых он показал физическую уникальность каждого мозга, наличие в нём некоего набора полей и подполей. И предположил, (отвечая на вопрос в заголовке статьи) что хорошо не с тем, в кого можно "слить" эмоциональный резервуар (согласитесь, это не самая высокая ступень взаимоотношений), а с тем, кто имеет близкую "конструкцию" мозга, т.е. понимает тебя. А так же предложил прибор и методику для определения этих характеристик мозга.