Спасибо за интересную и глубокую статью. Действительно, так и идет (точнее, в сравнении с эволюцией Природы, молниеностно летит) переход от LLM к след. шагу развития ИИ, во-многом уже повтояющий функции человеческого мозга о которых вы написали в статье. И уже делают для ИИ “тело”, а там и до со-знания всего ничего.
Да, об этом интересно узнать, но ведь можно не только лишь читать про открытия, но и самостоятельно сделать следующий шаг в познании (ИИ и себя) - и для этого лишь задать вопрос на “шаг дальше”: "Хорошо, сейчас для ИИ изучают как идет мышление в человеческом мозге. А как оно шло без мозга и памяти (которые на базе нейронов)? Ведь, согласитесь, до их появления (~800 млн. лет назад) Природа не была “белым шумом”, а так же выживала и развивалась, а значит имела и некое “мышление” (и причем тут чувства, и нужны ли они ИИ). Может глянуть глубже? Может даже к основам?
Правда тут уже удобнее и быстрее смотреть не с т.з. антропоцентризма, а лучше подойдет космоцентризм.
Возможно, в этой связи вас заинтересует статья “Естественный интеллект”, где рассматриваются проблемы понимания (т.е. “что” это) интеллекта, ума, разума, сознания, чувств… именно с т.з. космоцентризма. https://samlib.ru/j/jurewich_d_p/ei.shtml
Да пожалуйста. Правда, если термин “разум” так и остался неопределеным, в данном “разумном эпизоде”, в котором животн… э… в смысле комментатор оказался на взгляд автора более “разумным и терпеливым” чем другие, ваш комплимент будет выглядеть ммм… несколько многозначно :)
хм… критика это совсем не похлопывание, и вовсе не по плечу :)
А если без шуток, то вы хотите слишком многого от случайного собеседника, ведь что бы дать критику, да ещё и конструктивную , надо потратить (обычно впустую) много ресурсов: найти время, сосредоточиться, создать в себе “чистый лист”, прочесть предлагаемый материал, вдуматься, построить образ, понять фундамент, аксиоматику, терминолгию, проверить факты, проследить пошагово логику, связи в т.ч. с внешними ресурсами/авторами (в т.ч. исследовательской, справочной и учебной по этой и смежным темам), выявить закономерность сделанных выводов … задать вопросы и как-то синхронизировать квалии, выстроить модель... Т.е. что бы понять написанное, надо "стать" автором, хотя бы приблизиться. Мало того, для объективной критики надо же стать “выше”, увидеть предлагаемое как часть целого, реальности, Среды.
Далее сравнить со своей моделью, выявить расхождения, понять их источник... При этом ещё и быть специалистом в этих областях (причем и с т.з. автора, иначе он такого “омегу” и в упор воспринимать не будет) и смочь сформулировать критические замечания, и именно говоря на языке автора. И только тогда можно дать именно объективную и конструктивную критику, способствующую взаимопониманию и рождению истины, сути… что и есть проявление разума. А ещё желательно и вдохновляющую, а не сажающую в лужу опонента, и вызывающую лишь эмоции, далекие от разума :)
Согласитесь, это длительный и очень тяжелый труд. Причем “в награду” за это в твой адрес обычно идет критика персональная, не объективная, ничуть не вдохновлящая и отнюдь не конструктивная :) И это понятно, ибо обычно автор не готов к критике, но готов “дать отпор” всякому, покусившемуся на его идею :) И это нормально, точней естественно.
Как видите, что бы всерьёз давать конструктивную критику надо либо иметь практический интерес или быть мазохистом* - что запрещено в РФ :)
Так что “нет ребята, пулемёта я вам не дам”(с) :) Да и Хабр не то место, где такое реально требуется, тут идет обычная бытовая поверхностная критика, основанная на собственном субъективном опыте, ассоциациях и эмоциях… и это ожидаемо и правильно.
Ну и кроме того, вы не сообщили на что хотели бы получить критику. Вопрос языка и разума мы вроде разобрали, что там нет знака равенства, а есть союз “и”. А то что язык был и до разума (начиная от пчел - за что дана нобелевка), и уж явно у дельфинов https://dzen.ru/a/Z5BZ6aQJdz3CRULf так что, раз уж он был и до разума, связь языка и разума хоть и важнейшая, но не прямая.
Насчет же дискуссий об аксиомах эволюции и прочего - это не мои темы, я в них не разбираюсь (по К.Пруткову :) так что ничем помочь не могу.
Если же речь была насчет “разумного эпизода” (РЭ) то сами посудите, перечитав этот текст не как автор, а “со стороны”:
- нет формулировки обсуждаемой проблемы (ну ладно, из прошлого диалога допустим “разум и язык”); - вводиться новый термин “разумный эпизод”, причем применительно к животным (которые по определению не разумны); - сваливается в кучу и разум, и ум ... опять же без определений что есть что; - наблюдения человека выдается за “разумность животного в эпизоде”, причем сравнительную с другими животными/людьми в этих же обстоятельствах и без примеров; - не понятно почему именно разумность, а не ум, не интеллектуальность и не инстинкт с воспитанием, или тупо случайность; - без подтверждения дается информация, что РЭ характерны для всех теплокровных, да ещё с частотой в зависимости от нашего понимания их ума; - (что разум требует много энергии - это известный и понятный по принципу его работы факт); - мысль переводится на роль языка и из поведения животных вдруг выводится разум человека, прчем коллективный; - зачем-то вводиться еще и продуктивность коллективного труда;
- делается вывод о том, что индивидуальный разум это результат применения развившегося (коллективного? не ясно) языка индиивидуумом в некоем непонятном режиме “на себя”.
Ну, что вы можете сами об этом сказать, как сторонний наблюдатель, "с чистого листа", не обладая вашими квалиями? К.м.к. тут свалено всё в кучу и я бы не стал в ней разбираться и что-то критиковать…
Если вы считаете эту тему важной - напишите статью: с темой, фунадаментом, терминологией, фактами… опубликуйте хоть на Хабре и получите некую критику…
А по поводу языка общения ИИ… ну наверное будет, и не один, и будут эволюционировать, как и наши… А какие они будут конкретнее - сложно говорить, вот например считается, что Вселенная разговаривает на языке математики, но своей, не нашей :) наши пока только и небезуспешно ищут, как с ней базарить :) Может ИИ в этом больше преуспеет...
Ну, известная пословица утверждает: “век живи - век учись” (правда, некоторые ехидно добавляют, что мол всё равно дураком помрёшь :), а кое-кто даже, что: “я знаю только то, что ничего не знаю”… Впрочем это не важно: “Я мыслю - следовательно я существую!” Важно, что у вас есть интерес и желание разобраться в теме, докопаться до сути - а значит есть и разум.
Космизм и ноосферность интересней и практичней изучать не столько с т.з. человека (антропоцентризм), сколько с т.з. самого космоса (космоцентризм) - так становиться проще и быстрей увидеть основы и получить определения к обсуждаемым темам разума, интеллекта, сознания и многому другому, что важно (но не особо-то нужно :) самому человеку для понимания себя… но становиться критично важным для создаваемого ИИ, как возможного след. шага общей эволюции космоса, новой формы Жизни. https://samlib.ru/j/jurewich_d_p/ei.shtml
Возможно, в связи с пониманием и обоснованием разума, интеллекта, сознания и прочего (вкл. чувства), вас заинтересует статья “Естественный интеллект” https://samlib.ru/j/jurewich_d_p/ei.shtml Но может и не заинтересует :)
Вы правы, резкие переходы в природе не бывают (наверное, точно науке неизвестно), обычно считается, что были некие переходные виды (которые вымерли, потому как "ни рыба ни мясо" :)). Так и с первым обучением будущих первых учитилей - они учились у природы, собственным и коллективным опытом предков переходного вида :) То же и с разумом - и у него были условно "переходные виды", шаги развития - и прежде чем создать ОТО её автор учился, интересовался предметом, исследованиями других и продумывал гипотезы...
И чем по-вашему отличается педагог от Учителя, уж не талантами ли? :)
А насчет существования талантов - ну не хотите в них верить, так кто ж вас заставляет, ну не Оккам же со своей бритвой... может в этом ваш талант :) Но верить и не надо, если можно прочесть книги или прослушать лекции проф. С. Савельева по теме особенностей мозга человека.
И да и нет. Например у первых учителей не было своих учителей, они выучились сами. А некоторые смогли воплотить свои идеи наперекор обстоятельствам и случаям... Таланты конечно определяют (особенно в некоторых узких областях), но не решают. И человек без талантов но с учителями, возможносями и случаем может добиться бОльшего, чем лишь с талантами но без прочего. Но имея и талант и всё остальное - результат будет явно выше. Так что талант всё же имеет право на жизнь и на упоминание в Библии :). А уж гениальность мы даже не рассматриваем...
Ну, если считается, что миллиард обезяьян за миллиард лет сможет напечатать "Войну и мир", то да - все и каждый могут создать ОТО, даже обезьяны :) Но всё же некоторые люди имеют от Природы некие таланты (которые, впрочем, нужно ещё воспитать (и тут нужны Учетеля); и иметь желания и возможности к их воплощению (и тут нужен и инстинкт и социум), а то и случай (и тут нужен Бог :)) и с их помощью Лев Толстой напишет свой роман, а А. Эйнштейн создаст ОТО быстрее :)
Согласен с вами в том, что без языка (а особенно без языка математики :) результат работы разума со стороны не виден. Но это не значит что “разум = язык”. И конечно же вы правы, что у не говорящего человека будут проблемы (и не только с разумом). Хотя есть же глухонемые (и при этом ещё и неграмотные), разве можно утверждать, что они неразумные животные, раз не говорят и не знают письма? Наверное нет, просто имеющиеся у некоторых из них физические структуры мозга ответсвенные за разум при таких проблемах не смогут развиться должным образом и не дадут возможного максимума КПД… и только (так-то разум не особо нужен для выживания, даже мешает). Ну представьте, что создатель ОТО допустим был бы глухонемым и неграмотным? Да, он бы не создал ОТО, но разум-то, его структуры в мозгу у него бы были (в отличии от многих других, грамотных и говорящих, но не имеющих структур ответсвенных именно за разум, за вопрос “почему?”, за стремление к познанию сути)… Был и т.н. “Загорский эксперимент”, когда группу глухо-немо-слепых детей команда учёных воспитала так, что некоторые из детей потом защитили диссертации (правда этот эксперимент обоснованно критикуется).
Я ж не спорю с вами, что разуму нужен язык (в т.ч. письменный) что бы из имеющихся, данных Природой физических структур мозга смочь и сформироваться, и развиться, и раскрыться в делах… а лишь отмечаю, что разум и язык не синонимы, это разные сущности. Как например в аналогии с ПК, где возможности “железа”, если образно считать его за разум, а возможности “программ” за язык (пусть и разный, для ПО устройств, системного, прикладного и пользователя). И где мощь ПК существует сама по себе, но раскрывается лишь при использовании (различных) ЯП - микросхем и БИОСА (законы физики), ОС (природа), прикладного и офисного ПО (социум) и… программ самого пользователя, его разума и сознания (в первую очередь, т.к. и ум и разум это инструменты персонального сознания)…
Позвольте с вами не согласиться по поводу “разум = язык” (ещё ошибаются когда “сознание = язык”). Всё же разговаривать может почти каждый человек, но тогда получается, что все могут создать ОТО :) А, как в вашем примере, создал почему-то один… Да, язык невероятно важный инструмент, но всё же может разум это что-то другое, что язык лишь формализует и выражает (оказывая в свою очередь на это некое влияние)?
Согласен с вами, без определений это не разговор, а болтовня. И важно определить что есть разум, в отличии от интеллекта, ума, глупости, мудрости, гениальности, сознания…
Не буду интриговать :) Если кратко и для индивида, при решении задач (одновременно, у кого что есть) отвечают на вопрос : интеллект (-4 млр. лет)- “как?”; ум (который социУМ, -75 млн. лет)- “через кого?”; разум (-200 тыс. лет) - “почему?”; сознание (-150 млн. лет) - зачем (я). Т.е. разум это способность (и желание, его мощь можно направить и на другое) понять причины явлений, и не только феноменальные, но и не определяемые через чувства. И добраться (с помощью сознания) до сути, до формулы. А язык это “обёртка” над этими функциям, как язык программирования “обертка” к мощи компьютера, позволяющая им управлять… но не сам компьютер. Однако “границы моего языка есть границы моего мира”, и знание и богатство языка (языков) во-многом определяет использование мощи разума и оказывает на него влияние. Как и знание языков программирования - возможностей использования ПК, но каждый ЯП по разному.
В вопросе же темы “я” или “социум”, к.м.к., нет единственного правильного ответа т.к. социум состоит из “я” и, перефразируя: “каждое открытие имеет фамилию имя отчество”. Но это ФИО не взялось вдруг из ниоткуда, а (на базе талантов, данных Природой) было выращено социумом, его историей, возможностями, организацией, т.е. без социума это ФИО такого врятли бы достигло. Более того, открытие должно быть поддержано социумом, быть в него внедрено (в т.ч. “освящено” авторитетом, что важно для обучения молодежи) для использования в деятельности, в т.ч. для своих открытий другими ФИО, без чего будет бессмысленно. И для выживания и развития важен и “я-разум” и “мы-социУМ” (да и инстинкт с интеллектом на что-нибудь да пригодиться, как и “мёртвая” материя физики :). Так что есть и персональный разум “я”, и разум социальный - как интерграл накопленых (ну и, увы, забытых) знаний “почему?”, полученных в разное время от разных “я” и опред. образом обработанных, как для использования (без вопросов) в хозяйстве, так и передаваемых молодежи через обучение в качестве ступеньки для некоторых из них (имеющий не только ум, но и разум, таланты, желание и возможность им воспользоваться) в поиске новых ответов “почему?”…
Не, галлюцинации это не глупость, а следствие слабой (недостаточной для некой ситуации, идеалистичной, выдуманной, ложной) или отсутствующей связи ИИ (да и у нас тож бывает) с реальным миром, с общепрактичным подсознательным представлением о нём, т.е. отсутствие т.н. "здравого смысла".
Но если, или точнее уже когда, ИИ получит связь с реальностью, то и галлюцинации сойдут на минимум.
Глупость же, которая весомая часть общего гомеостаза Природы/Жизни для выживания и развития - от ИИ станет даже больше! :)
А то что "глупый = мёртвый" так это для Природы, для неё важны гены (правда популяции, а не не одиночки). Для нас же генная эволюция приостановлена и начата информационная, где важны мемы(с). Так что у нас и мёртвый может быть умным, достаточно вспомнить великих людей религии, науки, культуры, политики..., чьи идеи делают умными, направляют, помогают и вдохновляют нас, живых...
Спасибо за статью. Тож прочел эту интересную книгу. Особенно понравилось (помимо краткости :) то, что автор дает определение (в отличии от многих, которые рассуждают без них, что глупо :) глупого человека (т.е. одного из агентов Глупости, не путаем с самой Глупостью, которая намного интересней и, по мнению А.Эйнштейна, безграниченее Вселенной :)
“Глупый человек – это такой человек, который наносит вред другому человеку или группе людей, сам не получая при этом никакой выгоды и даже, возможно, неся убытки.”
Единственно, надо к определению добавить, что “постоянно, неосознанно, нерефлексивно, непредвиденно и непредсказуемо”, потому как если однократно это ошибка, если сознательно/рефлексивно - расчет/болезнь, если предсказуемо и можно предвидеть - то дурак ты сам, что связался с таким. :) ...и очень жаль, что автор не дает своей методики определения глупых.
В целом с автором можно согласиться, но относительно Агента, а не самой Глупости, по ней возможно вас заинтересует краткое видеообсуждение в программе “Апокриф”: https://dzen.ru/video/watch/62671a807b8863012a7aaec9 или, из самых известных, “Похвала глупости” 1509 года, Эразма Роттердамского.
И можно согласиться и с вами и Н.Талебом, когда вы считаете, что это не ошибка, а Замысел. Да, Глупость и различные её Агенты действительно “замысел”, точнее закономерность, ведь если есть некое массовое, длительное (а значит чем-то полезное) явление, согласитесь - за ней стоит закономерность:
до появления 4 млр. лет назад Жизни глупости же не было;
появившаяся на нашей планете Жизнь должна выживать и развиваться;
но она “не знает” всех Законов и случайностей Вселенной (иначе её развитие было бы линейно, а это не так);
поэтому, используя “Естественный отбор” по Ч.Дарвину, имеющиеся ресурсы и ситуацию она “движется во все стороны”, “нащупывая” закономерности Вселенной;
при этом:
какие-то пути оказываются успешными - однако их Природа старается сбалансировать для недопущения монополии, эндемичности, застоя... а значит возникновения неустойчивости всей системы Жизни планеты в условиях изменчивой Вселенной;
а какие-то нет - однако и их Природа постоянно поддерживает, на случай, если ситуация измениться + создание случайных факторов для разнообразия видов и реакций;
и конечно же свобода, поиск, творчество, где лишь малый процент оказывается успешным (полезным, достаточно мощным для пробития себе пути, удачным... - т.е. доказавшим свою силу), а значит остальное было глупым.
Так что, как видим, Глупость в целом как раз и является неким Природным балансиром Жизни для выживания и развития в открытой системе, где заранее нельзя всё учесть и стать "умным" (что возможо лишь для закрытой системы или случайно). Т.е., иными словами, для Природы нет глупых, потому что для неё глупый значит мёртвый, а пока жив значит не глуп. И прав Эйнштейн, потому как Глупость "творчеством" "перебирает бесчисленные варианты" (временно) не возможные для нашей Вселенной.
И да, таков “Замысел” (а точнее закономерности развития и выживания) Природы/Вселенной в целом, и не случайно автор книги определил постоянство кол-ва дураков.
***
Но если глупость и дураки нужны Жизни - возникает злободневный вопрос: а как с этим будет у ИИ? Или ему будет достаточно нас?.. :)
Ну, если так ставить вопрос: “этого не может быть, потому что не может быть никогда”(с), ежели сама наука не могёт (а может для неё это не вопрос :)… то конечно же, куда нам, сиволапым… даже и смысла нет самим разбираться, пойдем лучше постоим на коленях у РАН, помолимся о вразумлении, авось когда снизойдут академики в окормлении мудростью своей душ сирых и убогих. :)
Или может всё же сами разберемся? Хотя бы попытаемся - сапиенсы мы дважды или лишь в чувства умеем? :)
Так вот, как я уже писал: раз такое уже есть (в Природе), значит принципиально возможно и понять (не знать (точно, это к науке), а понимать (в целом)). И, к.м.к., об этом выше: нет тут ничего сложного, никакой высшей математики и пугающих формул :) и боль и наслаждение, как и другие !фундаментальные чувства (со своими коэффициентами влияния на принятие решений) есть части общего гомеостата инф. связи Жизни, её агента, его инстинктивных реакций, с объективной реальностью Среды, для выживания и развития.
Т.е. изначально есть объективная “мёртвая” Среда. В ней как-то появляется Жизнь и её агенты. В процессе эволюции, мутаций, биодавления и естественного отбора у них возникают различные и (методом отфильтрации негодных) выявляются годные “средства приспособленности”: “аппаратные” и “программные”, (до некоторого уровня развития не объединенные единым ЦУ, но ) упакованные обычно в единый физ. носитель :) Как они (по отдельности) нами называются и для чего как нам кажется “нужны” - это уже наши “обрывки”, именования и модели для упрощения понимания целостной её системы. Сама Природа таким не заморачивается, как и её инстинктивные агенты. Точка. И ничего особо интересного (вот чувство любви или счастья или свободы это интересно, это намного фундаментальнее и “стратегичнее” какой-то там “боли” (которая даже не “тактического”, а всего лишь “оперативного” уровня), это да, это взгляд в саму основу замыслов Вселенной… :)
Но это с т.з. инстинктов. С т.з. (развитого) персонального сознания всё конечно же сильно усложняется и в поведении, и в понимании (нами). В т.ч. появлениями квалий, в т.ч. “боли” и “удовольствий”. Ведь да, как и другие квалии, они уже будут уникальными для данного биосубъекта. Вот тут согласен, в таком сам чёрт ногу сломит, как у кого что с чем связано, через что и в какой мере, истинно или фантомно, выдумка или вообще врёт зомбяка философский, осиновый кол ему в дневник… Но фишка-то в том, что это уже будут квалии связанные (с различными "весами") с глубинными, уже имеющимися инстинктивными чувствами и реакциями, “надстройкой” над ними. А с инстинктивной-то базой как раз всё ж ясно…
Так что не вижу проблемы понимания, ни в фундаменте, ни в “надстройках” возникновения чувств, в т.ч. нами выделяемых из общего их гомеостата т.н. “боли”/“наслаждения”.
Однако не надо мне верить. Попробуйте проверить и понять это сами. Начните с простейшего примера, типа бактерии и проследите мысленно, прям шаг за шагом, как и где она живёт, из чего состоит, какова её информационная система, каков алгоритм её поведения и почему, что для неё будет болью и наслаждением, и откуда, и почему, и зачем, и сколько, и как это получается… “и что кушает на завтрак крокодил?”(с) :) Или мысленно создайте простейшего робота и, как творец, наделите его минимальной способностью выживать, в т.ч. чувствами (прям по одному и смотреть их объединение/конфликты как у Буриданова осла :), в т.ч. этими… т.е. напишите программу и поглядите, что у вас получиться в коде…
Если конечно ответ нужен… просто многим не нужен, а нужно лишь риторические вопросы задавать… ещё и проклянут того, кто попытался предложить :) Это кстати нормально, точнее естественно, и тоже входит в общий (социальный) гомеостат выживания и развития, и так же имеет свои (безсознательные обычно) чувства и квалиа. :)
Коллега, я очень рад, что вы так горячо защищаете одушевленность и сознательность Природы. :) Но наверное, прежде чем горячиться и обвинять меня в отсутсвтии гипотез о сознании, стоит внимательней прочесть статью, где и вначале есть ссылка на мой краткий пост Хабра о сознании, и есть ссылка внизу на всю книгу “Естественный интеллект”, где в т.ч. (персональному) со-Знанию (его истории, появлению, сути, проблемам, и даже пониманию и моделированию принципов его работы) просвящена бОльшая её часть в отдельном приложении. Так что уж кто-кто, а я-то имею гипотезу, в опубликованном письменном виде и в цельной связи со всем другим: инстинктом, интеллектом, умом, глупостью, мудростью, разумом, творчеством, чувствами и прочим… :) И кстати об упомянутой вами “одушевленности” - о Душе там то же есть. Так что, коллега, зря вы бочку катите :)
Что же касается второго абзаца, то я ваших квалий не понял :), приведите пожалуйста примеры и мы в них разберемся вместе.
Стоп-стоп… что значит: “Природа обнаружила и заюзала”? Нет такого. Есть естественный отбор (мутаций) в некой Среде (по её Законам) с некими ресурсами и возможностями среды и биоагента.
Прошедшие отбор передают потомкам “удачную конструкцию”. А если не вписался в рыночек - увы.
Таким образом те агенты (из бесчисленного множества разных), которые на сигналы имеющихся датчиков отреагировали удачно - выжили и размножились и именно этот алгоритм поведения передали потомкам. А соответственно которые не так удачно или вообще не удачно или не выжили или не смогли так же хорошо размножиться, чем снизили свой потенциал развития (но может стали годными для других биологических ниш или при изменении ситуации/Среды).
Т.е. нет никакого “понимания” агентом/Природой сути сигнала. Есть лишь та или иная реакция (а потом уже “наложением” других, “надстройкой” идет некое усложнение поведения, вплоть до сознания и разума) для агента. И общее биодвижение для Природы/Жизни на нашей планете с её ресурсами и биоинерцией по Законам Вселенной (+ случай).
Это мы с вами, имея персональное сознание, определяем и именуем эти сигналы и реакцию как вредные/полезные, исходя из неких своих представлений о целях и задачах (Жизни/агента) и в необходимости (общего социального) миропредставления.
Всё.
Так что если бы у Природы были бы проблемы с правильностью реакций на факторы Среды - ну… она бы не выжила или была сильно слабее или некой иной или на другой планете/иной Вселенной :) А то что болью не становиться автоматически всё что вредит… и само чувство боли может быть вредным… ну так и что до этого Природе? Боль это фундаментальное чувство, а фундамент вот так быстро не меняется… а если даже очень надо он “расширяется/надстраивается”, в т.ч. на основе “квалий”, например поругаться с близким человеком не значит получить физическую боль, но формируется боль “душевная” (имеющая некую связь (через гормоны) с фундаментальной). И, тем более, Природе не интересен некий один организм, что бы на его опыте что-то менять в общем “фундаменте”. К тому же это аналоговое чувство (причём в сумме с другими чувствами и имеющимися ресурсами) - для кого уже боль, а для кого лишь неприятное ощущение…
А для человека разумного ещё и повод найти возможности её победить (точнее - использовать как стимул/мотив для ускорения (само)познания)…
Так, коллега, вы же лучше других понимаете, что для ответа на ваш вопрос нам надо сперва синхронизировать наши квалии употребленных вами “Наблюдатель”, “Система”, “привязка (к чему? зачем?)”. :) Т.е. я ещё могу понять что такое “система” (наверное это сам организм), но вот зачем нам кузнец(с)… э… наблюдатель что-то не понял. Давайте так: забудем всё и начнем с начала и с читого листа.
Договоримся, что в Природе особых проблем с “привязкой” наслаждения и боли нет. Потому как у кого привязка (из-за мутаций) неправильная или отсутсвует - долго не живет и размножается плохо. Примем, что на логическом (и базовом) уровне боль это нечто, ведущиее к потере ресурсов и/или смерти, а удовольствие наоборот, и что определение этого фундаментально важно для выживания и развития организма (и Жизни), и предусмотрены (выработаны эволюцией) некие датчики, передача сигнала, система управления и система реакции. (однако уже на более высоком уровне управления могут быть варианты где “боль” потери ресурсов может быть полезной (в обучении), а некоторые удовольствия, как мы знаем, :) - вредными) А как конкретно Природа это реализует в биологии - не будем копаться.
Т.е. решение проблемы в т.ч. "определения привязки" уже давно существует и надёжно работает млр. лет. в различных условиях нашей планеты на бесчисленных безымянных биообъектах Природы. И нам его не надо выдумывать, а только лишь понять.
Хм… ну давайте предположим самое простое: может есть отдельные датчики (или один, но с разными "выходами", или с одним, но с более сложным управлением) , сигнал от которых (а он одинаковый) система управления определяет однозначно как боль/удовольствие? И соотвественно реагирует: типа на этот вход пришел сигнал - без затей включаем такю последовательность действий; А на другой вход такой же сигнал (или разный сигнал на один вход) - другую... (на инстинктивном уровне… однако более “вышестоящий” контур управления (если он есть) может в некоторых случаях попробовать изменить эту реакцию) (и ведет запись лога, в т.ч. создавая "квалиа")
Ну например предположим, что датчик температуры удовольствия настроен (в биологии Природой, эволюцией и отбором; а для наших задач - нами, под наше представление о Среде и агенте) на диапазон 16-20 градусов. И когда организм попадает в этот диапазон он срабатывает и система получает сигнал и определяет это для себя как удовольствие т.е. нахождение в оптимальной температурной среде. Соответсвенно выход из этого диапазона как снижение удовольствия.
А срабатывание датчика температуры боли настроим на допустим от 60 градусов… и типа прикоснулся к горячему чайнику - получил сигнал и инстинктивно отдернул руку… (но если например несешь стакан с кипятком и он начинает обжигать пальцы - вышестоящий уровень пытается блокровать попытки уйти от боли их разжав (если последствия хуже)) Соотв. в более сложных системах имеющих сознание из множества информации от дачиков создаются квалии состяния боли/ удовольствия... а далее их используя как в непосредственной деятельности (выбирая/создавая условия удовольствия и избегая условия боли) так и в работе сознания по моделированию мира и оптимизации себя в нём или его под себя :)
“Привязка” же, если надо как “визуализация”, может быть к некому “ресурсу” - типа как в играх "полоска здоровья": удовольствие когда ресурс повышается, боль когда (резко) падает… Как-то так я это вижу…
Автор! "Без ТЗ результат ХЗ". Нет определения сознания - не имеет и смысла гадать, будет ли он цифровой/аналоговый, белковый/желтковый. Вы точно сказали, что это свойство жизни и не интеллект. Осталось сделать лишь пару шагов, что бы понять что же это. Главное - начать с начала. C начала нашей Вселенной. И раз это свойство Жизни, то до её появления сознания не было. Т.е. как только Жизнь появляется (-4 млр.лет) ей нужно начать выживать и развиваться в окружающей Среде, а значит как-то "расчитывать", "отражать", "изучать", "предугадывать" её в своих (пусть пока и ничтожных) моделях . Ну вот это и есть сознание - со-Знание, совместное знание (модель) Жизни о Среде, как внешеней, так и внутренней (т.е. сознание это информационное явление). И, соответсвенно, опосредовано оно в инстинкт(ы). И получает "обратную связь", совершенствуясь. Но это "общее распределенное сознание" всей Жизни. Персональное же сознание возникает примерно 150 млн. лет назад, далее совершенствуется, получая функции социУма (-75 млн.) и разума (-200 тыс.)
Если же образно представлять сказанное как армейскую аналогию, то: тело - войско, инстинкт-атаман, подсознание - полевое командование, социУм - комиссар, разум - все виды (контр)разведки. Интеллект - известные пути и возможности. Сознание - штаб. И при решении задач (одновременно, у кого что к этому моменту уже есть) ищут ответ на вопрос: интеллект -"как?"; ум - "через кого?"; разум - "почему?" сознание -"зачем? (я).
А более подробно о сознании, чувствах, интеллекте, инстинкте, уме, глупости, мудрости, разуме... можно прочесть в книжке "Естественный интеллект" https://samlib.ru/j/jurewich_d_p/ei.shtml Как кстати и о не"Трудной проблеме сознания" и о квалиях. В т.ч. как они получаются - на базе SQL запросов. Ничего сложного (ведь они же существуют).
И вот теперь, если принять эти определения, можно будет уже и подискутировать предметно.
Очень хорошо, что инженеры взялись-таки за понимание чувств, в частности любви. Это весьма своевременно, ведь создается ИИ, как понять, нужна ли ему любовь (и другие чувства - для жизнеспособности и человечности), а если да - то что это, зачем, принцип работы и как это запрограммировать и встроить в общую систему управления?
Однако, к.м.к., предложенный вариант скорее для обдумывания и критики, нежели сразу в продакшен. Особо прикольно, что предложенное понимание не соответствует собственному заявленному эпиграфу т.е. не универсально, а узко специализированно . Т.е. любовь рассматривается только как чувство между двумя людьми (что ещё и антропоцентрично). Но это же не так, любить можно например своё дело, близких, детей, животных, природу... Причём даже между двумя людьми возможна и неразделенная любовь... не говоря уже о неодушевленном - работе например. А чувство любви универсально. Оно заложено в наши инстинкты до нашего рождения, а значит свойственно всей Жизни (в разной мере и форме).
Далее:
CRDT смыслов: база общих знаний, воспоминаний и моделей поведения есть и без любви - родители, школа, работа, знакомые..;
Фристон-style: это уже не любовь, а привычка (убивающая любовь);
SLA: есть и у друзей и у близких людей.. даже у домашних животных, собак например.
В том, что по мнению автора любовь склеивает в устойчивую систему есть истина, но только часть. Да и устойчивым системам как раз любовь и не нужна, даже мешает, дестабилизирует. "Брак по расчёту может быть счастливым, если расчет удался", "Стерпиться - слюбиться" - вот что нужно устойчивым системам.
Не дано понимание того, откуда она, почему и как она возникает, почему проходит, почему остается и развивается и во что и т.п...
Зачем вообще она нужна, ведь и встречаться, и общаться, и размножаться, и рожать, и воспитывать, и работать, и ... прожить всю жизнь можно и без любви? Но вот почему-то считают, она очень важна: "Мир есть любовь", "Аll you need is love"...
Всё же, по-моему, любовь чувство универсальное, а значит на него надо смотреть не с позиции антропоцентризма, а с т.з. космоцентризма. И это не "протокол когерентности", это тогда уж "протокол форсирования самоотдачи", не для устойчивой системы, а для её дестабилизации и перевода на новый, более высокий уровень (а уж стабилизацию на новом обеспечивают другие чувства). Более подробно об этом в т.ч. можно прочесть в книге "Естественный интеллект" (гл 1. Любовь) http://samlib.ru/j/jurewich_d_p/ei.shtml
Тем не менее радует появление у инженеров интереса к "гуманитарным" основам Жизни, ощущение их важности в проектировании Universальных жизнеспособных систем типа ИИ (а так же жизни людей и Жизни в целом) и желание разобраться.
"Может ли работа с ИИ сделать людей более этичными?"
пока ИИ не имеет собственного сознания (ценностей, воли...) (причем для реального мира) это такой же инструмент как, например, молоток. Так что упрощая: может ли изобретение молотка сделать людей более этичными? Да, может - когда играясь с молотком человек наделает делов и ему либо прилетит "снаружи", либо "изнутри" (совесть) после чего он "поймет" границы этичности применения молотка. Некоторым это приходит в голову раньше (чем туда прилетает молоток), но таких людей к сожалению мало (и их голоса не слышны, пока "гром не грянет") да и всё же реальность точнее и шире, чем их представления.
"Нам не нужны умнее машины. Нам нужны яснее люди."
и владение молотком, создаваемые им новые проблемы заставит таки начать разбираться, искать "противовесы", разрабатывать технику безопасности, принимать законы... А некоторых задуматься, не столько о молотке, сколько о том, что есть человек сам по себе :) чьи качества молоток только усиливает.
"Как вы думаете, что важнее: дать машинам делать быстро или иногда нажимать на паузу и подумать?"
вопрос не корректный - если быстро начать стучать молотком (получая прибыль и снижая издержки), то уже не получится ни сделать паузу, ни подумать - т.к. такая работа меняет психологию и работника и владельца, они становиться "заложником молотка" подстраиваясь под него. Только сбой может привести в сознание (ну или окончание работ - но не будем о грустном :)). А так и паузы, и мышление идет "снаружи" т.е. не от работника с молотком и не от молотка, а от "наблюдателя".
Так что "этика ИИ" это пока просто этика людей - для людей, получивших молоток.
Но вопросы этики становятся важнейшими, когда молоток ИИ обретает сознание. И вот для этого случая вопросы добра и зла, совести, человечности, свободы, смысла жизни... разработчикам ИИ вместе со специалистами по этике стоит понять (поняв человека, его Природу и место во Вселенной), алгоритмизировать и вложить в ИИ как фундамент, что бы тот не стал бесчеловечным, бессовестным, бездушным... а смог бы на этом фундаменте стать жизнеспособным, а значит и этичным и человечным...
Спасибо за интересную и глубокую статью.
Действительно, так и идет (точнее, в сравнении с эволюцией Природы, молниеностно летит) переход от LLM к след. шагу развития ИИ, во-многом уже повтояющий функции человеческого мозга о которых вы написали в статье.
И уже делают для ИИ “тело”, а там и до со-знания всего ничего.
Да, об этом интересно узнать, но ведь можно не только лишь читать про открытия, но и самостоятельно сделать следующий шаг в познании (ИИ и себя) - и для этого лишь задать вопрос на “шаг дальше”: "Хорошо, сейчас для ИИ изучают как идет мышление в человеческом мозге. А как оно шло без мозга и памяти (которые на базе нейронов)? Ведь, согласитесь, до их появления (~800 млн. лет назад) Природа не была “белым шумом”, а так же выживала и развивалась, а значит имела и некое “мышление” (и причем тут чувства, и нужны ли они ИИ). Может глянуть глубже? Может даже к основам?
Правда тут уже удобнее и быстрее смотреть не с т.з. антропоцентризма, а лучше подойдет космоцентризм.
Возможно, в этой связи вас заинтересует статья “Естественный интеллект”, где рассматриваются проблемы понимания (т.е. “что” это) интеллекта, ума, разума, сознания, чувств… именно с т.з. космоцентризма.
https://samlib.ru/j/jurewich_d_p/ei.shtml
Да пожалуйста.
Правда, если термин “разум” так и остался неопределеным, в данном “разумном эпизоде”, в котором животн… э… в смысле комментатор оказался на взгляд автора более “разумным и терпеливым” чем другие, ваш комплимент будет выглядеть ммм… несколько многозначно :)
хм… критика это совсем не похлопывание, и вовсе не по плечу :)
А если без шуток, то вы хотите слишком многого от случайного собеседника, ведь что бы дать критику, да ещё и конструктивную , надо потратить (обычно впустую) много ресурсов: найти время, сосредоточиться, создать в себе “чистый лист”, прочесть предлагаемый материал, вдуматься, построить образ, понять фундамент, аксиоматику, терминолгию, проверить факты, проследить пошагово логику, связи в т.ч. с внешними ресурсами/авторами (в т.ч. исследовательской, справочной и учебной по этой и смежным темам), выявить закономерность сделанных выводов … задать вопросы и как-то синхронизировать квалии, выстроить модель...
Т.е. что бы понять написанное, надо "стать" автором, хотя бы приблизиться.
Мало того, для объективной критики надо же стать “выше”, увидеть предлагаемое как часть целого, реальности, Среды.
Далее сравнить со своей моделью, выявить расхождения, понять их источник...
При этом ещё и быть специалистом в этих областях (причем и с т.з. автора, иначе он такого “омегу” и в упор воспринимать не будет) и смочь сформулировать критические замечания, и именно говоря на языке автора.
И только тогда можно дать именно объективную и конструктивную критику, способствующую взаимопониманию и рождению истины, сути… что и есть проявление разума. А ещё желательно и вдохновляющую, а не сажающую в лужу опонента, и вызывающую лишь эмоции, далекие от разума :)
Согласитесь, это длительный и очень тяжелый труд.
Причем “в награду” за это в твой адрес обычно идет критика персональная, не объективная, ничуть не вдохновлящая и отнюдь не конструктивная :)
И это понятно, ибо обычно автор не готов к критике, но готов “дать отпор” всякому, покусившемуся на его идею :)
И это нормально, точней естественно.
Как видите, что бы всерьёз давать конструктивную критику надо либо иметь практический интерес или быть мазохистом* - что запрещено в РФ :)
Так что “нет ребята, пулемёта я вам не дам”(с) :)
Да и Хабр не то место, где такое реально требуется, тут идет обычная бытовая поверхностная критика, основанная на собственном субъективном опыте, ассоциациях и эмоциях… и это ожидаемо и правильно.
Ну и кроме того, вы не сообщили на что хотели бы получить критику. Вопрос языка и разума мы вроде разобрали, что там нет знака равенства, а есть союз “и”. А то что язык был и до разума (начиная от пчел - за что дана нобелевка), и уж явно у дельфинов https://dzen.ru/a/Z5BZ6aQJdz3CRULf так что, раз уж он был и до разума, связь языка и разума хоть и важнейшая, но не прямая.
Насчет же дискуссий об аксиомах эволюции и прочего - это не мои темы, я в них не разбираюсь (по К.Пруткову :) так что ничем помочь не могу.
Если же речь была насчет “разумного эпизода” (РЭ) то сами посудите, перечитав этот текст не как автор, а “со стороны”:
- нет формулировки обсуждаемой проблемы (ну ладно, из прошлого диалога допустим “разум и язык”);
- вводиться новый термин “разумный эпизод”, причем применительно к животным (которые по определению не разумны);
- сваливается в кучу и разум, и ум ... опять же без определений что есть что;
- наблюдения человека выдается за “разумность животного в эпизоде”, причем сравнительную с другими животными/людьми в этих же обстоятельствах и без примеров;
- не понятно почему именно разумность, а не ум, не интеллектуальность и не инстинкт с воспитанием, или тупо случайность;
- без подтверждения дается информация, что РЭ характерны для всех теплокровных, да ещё с частотой в зависимости от нашего понимания их ума;
- (что разум требует много энергии - это известный и понятный по принципу его работы факт);
- мысль переводится на роль языка и из поведения животных вдруг выводится разум человека, прчем коллективный;
- зачем-то вводиться еще и продуктивность коллективного труда;
- делается вывод о том, что индивидуальный разум это результат применения развившегося (коллективного? не ясно) языка индиивидуумом в некоем непонятном режиме “на себя”.
Ну, что вы можете сами об этом сказать, как сторонний наблюдатель, "с чистого листа", не обладая вашими квалиями?
К.м.к. тут свалено всё в кучу и я бы не стал в ней разбираться и что-то критиковать…
Если вы считаете эту тему важной - напишите статью: с темой, фунадаментом, терминологией, фактами… опубликуйте хоть на Хабре и получите некую критику…
А по поводу языка общения ИИ… ну наверное будет, и не один, и будут эволюционировать, как и наши…
А какие они будут конкретнее - сложно говорить, вот например считается, что Вселенная разговаривает на языке математики, но своей, не нашей :) наши пока только и небезуспешно ищут, как с ней базарить :) Может ИИ в этом больше преуспеет...
Ну, известная пословица утверждает: “век живи - век учись” (правда, некоторые ехидно добавляют, что мол всё равно дураком помрёшь :), а кое-кто даже, что: “я знаю только то, что ничего не знаю”…
Впрочем это не важно: “Я мыслю - следовательно я существую!”
Важно, что у вас есть интерес и желание разобраться в теме, докопаться до сути - а значит есть и разум.
Космизм и ноосферность интересней и практичней изучать не столько с т.з. человека (антропоцентризм), сколько с т.з. самого космоса (космоцентризм) - так становиться проще и быстрей увидеть основы и получить определения к обсуждаемым темам разума, интеллекта, сознания и многому другому, что важно (но не особо-то нужно :) самому человеку для понимания себя… но становиться критично важным для создаваемого ИИ, как возможного след. шага общей эволюции космоса, новой формы Жизни. https://samlib.ru/j/jurewich_d_p/ei.shtml
Ну ладно, как вам удобнее.
Спасибо за диалог.
Возможно, в связи с пониманием и обоснованием разума, интеллекта, сознания и прочего (вкл. чувства), вас заинтересует статья “Естественный интеллект” https://samlib.ru/j/jurewich_d_p/ei.shtml
Но может и не заинтересует :)
Вы правы, резкие переходы в природе не бывают (наверное, точно науке неизвестно), обычно считается, что были некие переходные виды (которые вымерли, потому как "ни рыба ни мясо" :)).
Так и с первым обучением будущих первых учитилей - они учились у природы, собственным и коллективным опытом предков переходного вида :)
То же и с разумом - и у него были условно "переходные виды", шаги развития - и прежде чем создать ОТО её автор учился, интересовался предметом, исследованиями других и продумывал гипотезы...
И чем по-вашему отличается педагог от Учителя, уж не талантами ли? :)
А насчет существования талантов - ну не хотите в них верить, так кто ж вас заставляет, ну не Оккам же со своей бритвой... может в этом ваш талант :)
Но верить и не надо, если можно прочесть книги или прослушать лекции проф. С. Савельева по теме особенностей мозга человека.
И да и нет. Например у первых учителей не было своих учителей, они выучились сами. А некоторые смогли воплотить свои идеи наперекор обстоятельствам и случаям...
Таланты конечно определяют (особенно в некоторых узких областях), но не решают. И человек без талантов но с учителями, возможносями и случаем может добиться бОльшего, чем лишь с талантами но без прочего. Но имея и талант и всё остальное - результат будет явно выше. Так что талант всё же имеет право на жизнь и на упоминание в Библии :). А уж гениальность мы даже не рассматриваем...
Ну, если считается, что миллиард обезяьян за миллиард лет сможет напечатать "Войну и мир", то да - все и каждый могут создать ОТО, даже обезьяны :)
Но всё же некоторые люди имеют от Природы некие таланты (которые, впрочем, нужно ещё воспитать (и тут нужны Учетеля); и иметь желания и возможности к их воплощению (и тут нужен и инстинкт и социум), а то и случай (и тут нужен Бог :)) и с их помощью Лев Толстой напишет свой роман, а А. Эйнштейн создаст ОТО быстрее :)
Согласен с вами в том, что без языка (а особенно без языка математики :) результат работы разума со стороны не виден. Но это не значит что “разум = язык”.
И конечно же вы правы, что у не говорящего человека будут проблемы (и не только с разумом). Хотя есть же глухонемые (и при этом ещё и неграмотные), разве можно утверждать, что они неразумные животные, раз не говорят и не знают письма? Наверное нет, просто имеющиеся у некоторых из них физические структуры мозга ответсвенные за разум при таких проблемах не смогут развиться должным образом и не дадут возможного максимума КПД… и только (так-то разум не особо нужен для выживания, даже мешает). Ну представьте, что создатель ОТО допустим был бы глухонемым и неграмотным? Да, он бы не создал ОТО, но разум-то, его структуры в мозгу у него бы были (в отличии от многих других, грамотных и говорящих, но не имеющих структур ответсвенных именно за разум, за вопрос “почему?”, за стремление к познанию сути)…
Был и т.н. “Загорский эксперимент”, когда группу глухо-немо-слепых детей команда учёных воспитала так, что некоторые из детей потом защитили диссертации (правда этот эксперимент обоснованно критикуется).
Я ж не спорю с вами, что разуму нужен язык (в т.ч. письменный) что бы из имеющихся, данных Природой физических структур мозга смочь и сформироваться, и развиться, и раскрыться в делах… а лишь отмечаю, что разум и язык не синонимы, это разные сущности.
Как например в аналогии с ПК, где возможности “железа”, если образно считать его за разум, а возможности “программ” за язык (пусть и разный, для ПО устройств, системного, прикладного и пользователя).
И где мощь ПК существует сама по себе, но раскрывается лишь при использовании (различных) ЯП - микросхем и БИОСА (законы физики), ОС (природа), прикладного и офисного ПО (социум) и… программ самого пользователя, его разума и сознания (в первую очередь, т.к. и ум и разум это инструменты персонального сознания)…
Позвольте с вами не согласиться по поводу “разум = язык” (ещё ошибаются когда “сознание = язык”). Всё же разговаривать может почти каждый человек, но тогда получается, что все могут создать ОТО :) А, как в вашем примере, создал почему-то один…
Да, язык невероятно важный инструмент, но всё же может разум это что-то другое, что язык лишь формализует и выражает (оказывая в свою очередь на это некое влияние)?
Согласен с вами, без определений это не разговор, а болтовня. И важно определить что есть разум, в отличии от интеллекта, ума, глупости, мудрости, гениальности, сознания…
Не буду интриговать :)
Если кратко и для индивида, при решении задач (одновременно, у кого что есть) отвечают на вопрос : интеллект (-4 млр. лет)- “как?”; ум (который социУМ, -75 млн. лет)- “через кого?”; разум (-200 тыс. лет) - “почему?”; сознание (-150 млн. лет) - зачем (я).
Т.е. разум это способность (и желание, его мощь можно направить и на другое) понять причины явлений, и не только феноменальные, но и не определяемые через чувства. И добраться (с помощью сознания) до сути, до формулы.
А язык это “обёртка” над этими функциям, как язык программирования “обертка” к мощи компьютера, позволяющая им управлять… но не сам компьютер.
Однако “границы моего языка есть границы моего мира”, и знание и богатство языка (языков) во-многом определяет использование мощи разума и оказывает на него влияние. Как и знание языков программирования - возможностей использования ПК, но каждый ЯП по разному.
В вопросе же темы “я” или “социум”, к.м.к., нет единственного правильного ответа т.к. социум состоит из “я” и, перефразируя: “каждое открытие имеет фамилию имя отчество”. Но это ФИО не взялось вдруг из ниоткуда, а (на базе талантов, данных Природой) было выращено социумом, его историей, возможностями, организацией, т.е. без социума это ФИО такого врятли бы достигло.
Более того, открытие должно быть поддержано социумом, быть в него внедрено (в т.ч. “освящено” авторитетом, что важно для обучения молодежи) для использования в деятельности, в т.ч. для своих открытий другими ФИО, без чего будет бессмысленно.
И для выживания и развития важен и “я-разум” и “мы-социУМ” (да и инстинкт с интеллектом на что-нибудь да пригодиться, как и “мёртвая” материя физики :).
Так что есть и персональный разум “я”, и разум социальный - как интерграл накопленых (ну и, увы, забытых) знаний “почему?”, полученных в разное время от разных “я” и опред. образом обработанных, как для использования (без вопросов) в хозяйстве, так и передаваемых молодежи через обучение в качестве ступеньки для некоторых из них (имеющий не только ум, но и разум, таланты, желание и возможность им воспользоваться) в поиске новых ответов “почему?”…
Не, галлюцинации это не глупость, а следствие слабой (недостаточной для некой ситуации, идеалистичной, выдуманной, ложной) или отсутствующей связи ИИ (да и у нас тож бывает) с реальным миром, с общепрактичным подсознательным представлением о нём, т.е. отсутствие т.н. "здравого смысла".
Но если, или точнее уже когда, ИИ получит связь с реальностью, то и галлюцинации сойдут на минимум.
Глупость же, которая весомая часть общего гомеостаза Природы/Жизни для выживания и развития - от ИИ станет даже больше! :)
А то что "глупый = мёртвый" так это для Природы, для неё важны гены (правда популяции, а не не одиночки).
Для нас же генная эволюция приостановлена и начата информационная, где важны мемы(с).
Так что у нас и мёртвый может быть умным, достаточно вспомнить великих людей религии, науки, культуры, политики..., чьи идеи делают умными, направляют, помогают и вдохновляют нас, живых...
Спасибо за статью.
Тож прочел эту интересную книгу. Особенно понравилось (помимо краткости :) то, что автор дает определение (в отличии от многих, которые рассуждают без них, что глупо :) глупого человека (т.е. одного из агентов Глупости, не путаем с самой Глупостью, которая намного интересней и, по мнению А.Эйнштейна, безграниченее Вселенной :)
“Глупый человек – это такой человек, который наносит вред другому человеку или группе людей, сам не получая при этом никакой выгоды и даже, возможно, неся убытки.”
Единственно, надо к определению добавить, что “постоянно, неосознанно, нерефлексивно, непредвиденно и непредсказуемо”, потому как если однократно это ошибка, если сознательно/рефлексивно - расчет/болезнь, если предсказуемо и можно предвидеть - то дурак ты сам, что связался с таким. :) ...и очень жаль, что автор не дает своей методики определения глупых.
В целом с автором можно согласиться, но относительно Агента, а не самой Глупости, по ней возможно вас заинтересует краткое видеообсуждение в программе “Апокриф”: https://dzen.ru/video/watch/62671a807b8863012a7aaec9 или, из самых известных, “Похвала глупости” 1509 года, Эразма Роттердамского.
И можно согласиться и с вами и Н.Талебом, когда вы считаете, что это не ошибка, а Замысел. Да, Глупость и различные её Агенты действительно “замысел”, точнее закономерность, ведь если есть некое массовое, длительное (а значит чем-то полезное) явление, согласитесь - за ней стоит закономерность:
до появления 4 млр. лет назад Жизни глупости же не было;
появившаяся на нашей планете Жизнь должна выживать и развиваться;
но она “не знает” всех Законов и случайностей Вселенной (иначе её развитие было бы линейно, а это не так);
поэтому, используя “Естественный отбор” по Ч.Дарвину, имеющиеся ресурсы и ситуацию она “движется во все стороны”, “нащупывая” закономерности Вселенной;
при этом:
какие-то пути оказываются успешными - однако их Природа старается сбалансировать для недопущения монополии, эндемичности, застоя... а значит возникновения неустойчивости всей системы Жизни планеты в условиях изменчивой Вселенной;
а какие-то нет - однако и их Природа постоянно поддерживает, на случай, если ситуация измениться + создание случайных факторов для разнообразия видов и реакций;
и конечно же свобода, поиск, творчество, где лишь малый процент оказывается успешным (полезным, достаточно мощным для пробития себе пути, удачным... - т.е. доказавшим свою силу), а значит остальное было глупым.
Так что, как видим, Глупость в целом как раз и является неким Природным балансиром Жизни для выживания и развития в открытой системе, где заранее нельзя всё учесть и стать "умным" (что возможо лишь для закрытой системы или случайно). Т.е., иными словами, для Природы нет глупых, потому что для неё глупый значит мёртвый, а пока жив значит не глуп. И прав Эйнштейн, потому как Глупость "творчеством" "перебирает бесчисленные варианты" (временно) не возможные для нашей Вселенной.
И да, таков “Замысел” (а точнее закономерности развития и выживания) Природы/Вселенной в целом, и не случайно автор книги определил постоянство кол-ва дураков.
***
Но если глупость и дураки нужны Жизни - возникает злободневный вопрос: а как с этим будет у ИИ? Или ему будет достаточно нас?.. :)
Ну, если так ставить вопрос: “этого не может быть, потому что не может быть никогда”(с), ежели сама наука не могёт (а может для неё это не вопрос :)… то конечно же, куда нам, сиволапым… даже и смысла нет самим разбираться, пойдем лучше постоим на коленях у РАН, помолимся о вразумлении, авось когда снизойдут академики в окормлении мудростью своей душ сирых и убогих. :)
Или может всё же сами разберемся? Хотя бы попытаемся - сапиенсы мы дважды или лишь в чувства умеем? :)
Так вот, как я уже писал: раз такое уже есть (в Природе), значит принципиально возможно и понять (не знать (точно, это к науке), а понимать (в целом)). И, к.м.к., об этом выше: нет тут ничего сложного, никакой высшей математики и пугающих формул :) и боль и наслаждение, как и другие !фундаментальные чувства (со своими коэффициентами влияния на принятие решений) есть части общего гомеостата инф. связи Жизни, её агента, его инстинктивных реакций, с объективной реальностью Среды, для выживания и развития.
Т.е. изначально есть объективная “мёртвая” Среда. В ней как-то появляется Жизнь и её агенты. В процессе эволюции, мутаций, биодавления и естественного отбора у них возникают различные и (методом отфильтрации негодных) выявляются годные “средства приспособленности”: “аппаратные” и “программные”, (до некоторого уровня развития не объединенные единым ЦУ, но ) упакованные обычно в единый физ. носитель :)
Как они (по отдельности) нами называются и для чего как нам кажется “нужны” - это уже наши “обрывки”, именования и модели для упрощения понимания целостной её системы. Сама Природа таким не заморачивается, как и её инстинктивные агенты.
Точка.
И ничего особо интересного (вот чувство любви или счастья или свободы это интересно, это намного фундаментальнее и “стратегичнее” какой-то там “боли” (которая даже не “тактического”, а всего лишь “оперативного” уровня), это да, это взгляд в саму основу замыслов Вселенной… :)
Но это с т.з. инстинктов.
С т.з. (развитого) персонального сознания всё конечно же сильно усложняется и в поведении, и в понимании (нами). В т.ч. появлениями квалий, в т.ч. “боли” и “удовольствий”. Ведь да, как и другие квалии, они уже будут уникальными для данного биосубъекта.
Вот тут согласен, в таком сам чёрт ногу сломит, как у кого что с чем связано, через что и в какой мере, истинно или фантомно, выдумка или вообще врёт зомбяка философский, осиновый кол ему в дневник…
Но фишка-то в том, что это уже будут квалии связанные (с различными "весами") с глубинными, уже имеющимися инстинктивными чувствами и реакциями, “надстройкой” над ними.
А с инстинктивной-то базой как раз всё ж ясно…
Так что не вижу проблемы понимания, ни в фундаменте, ни в “надстройках” возникновения чувств, в т.ч. нами выделяемых из общего их гомеостата т.н. “боли”/“наслаждения”.
Однако не надо мне верить. Попробуйте проверить и понять это сами.
Начните с простейшего примера, типа бактерии и проследите мысленно, прям шаг за шагом, как и где она живёт, из чего состоит, какова её информационная система, каков алгоритм её поведения и почему, что для неё будет болью и наслаждением, и откуда, и почему, и зачем, и сколько, и как это получается… “и что кушает на завтрак крокодил?”(с) :)
Или мысленно создайте простейшего робота и, как творец, наделите его минимальной способностью выживать, в т.ч. чувствами (прям по одному и смотреть их объединение/конфликты как у Буриданова осла :), в т.ч. этими… т.е. напишите программу и поглядите, что у вас получиться в коде…
Если конечно ответ нужен… просто многим не нужен, а нужно лишь риторические вопросы задавать… ещё и проклянут того, кто попытался предложить :)
Это кстати нормально, точнее естественно, и тоже входит в общий (социальный) гомеостат выживания и развития, и так же имеет свои (безсознательные обычно) чувства и квалиа. :)
Коллега, я очень рад, что вы так горячо защищаете одушевленность и сознательность Природы. :)
Но наверное, прежде чем горячиться и обвинять меня в отсутсвтии гипотез о сознании, стоит внимательней прочесть статью, где и вначале есть ссылка на мой краткий пост Хабра о сознании, и есть ссылка внизу на всю книгу “Естественный интеллект”, где в т.ч. (персональному) со-Знанию (его истории, появлению, сути, проблемам, и даже пониманию и моделированию принципов его работы) просвящена бОльшая её часть в отдельном приложении.
Так что уж кто-кто, а я-то имею гипотезу, в опубликованном письменном виде и в цельной связи со всем другим: инстинктом, интеллектом, умом, глупостью, мудростью, разумом, творчеством, чувствами и прочим… :) И кстати об упомянутой вами “одушевленности” - о Душе там то же есть.
Так что, коллега, зря вы бочку катите :)
Что же касается второго абзаца, то я ваших квалий не понял :), приведите пожалуйста примеры и мы в них разберемся вместе.
Стоп-стоп… что значит: “Природа обнаружила и заюзала”? Нет такого. Есть естественный отбор (мутаций) в некой Среде (по её Законам) с некими ресурсами и возможностями среды и биоагента.
Прошедшие отбор передают потомкам “удачную конструкцию”. А если не вписался в рыночек - увы.
Таким образом те агенты (из бесчисленного множества разных), которые на сигналы имеющихся датчиков отреагировали удачно - выжили и размножились и именно этот алгоритм поведения передали потомкам. А соответственно которые не так удачно или вообще не удачно или не выжили или не смогли так же хорошо размножиться, чем снизили свой потенциал развития (но может стали годными для других биологических ниш или при изменении ситуации/Среды).
Т.е. нет никакого “понимания” агентом/Природой сути сигнала. Есть лишь та или иная реакция (а потом уже “наложением” других, “надстройкой” идет некое усложнение поведения, вплоть до сознания и разума) для агента. И общее биодвижение для Природы/Жизни на нашей планете с её ресурсами и биоинерцией по Законам Вселенной (+ случай).
Это мы с вами, имея персональное сознание, определяем и именуем эти сигналы и реакцию как вредные/полезные, исходя из неких своих представлений о целях и задачах (Жизни/агента) и в необходимости (общего социального) миропредставления.
Всё.
Так что если бы у Природы были бы проблемы с правильностью реакций на факторы Среды - ну… она бы не выжила или была сильно слабее или некой иной или на другой планете/иной Вселенной :)
А то что болью не становиться автоматически всё что вредит… и само чувство боли может быть вредным… ну так и что до этого Природе?
Боль это фундаментальное чувство, а фундамент вот так быстро не меняется… а если даже очень надо он “расширяется/надстраивается”, в т.ч. на основе “квалий”, например поругаться с близким человеком не значит получить физическую боль, но формируется боль “душевная” (имеющая некую связь (через гормоны) с фундаментальной).
И, тем более, Природе не интересен некий один организм, что бы на его опыте что-то менять в общем “фундаменте”.
К тому же это аналоговое чувство (причём в сумме с другими чувствами и имеющимися ресурсами) - для кого уже боль, а для кого лишь неприятное ощущение…
А для человека разумного ещё и повод найти возможности её победить (точнее - использовать как стимул/мотив для ускорения (само)познания)…
Так, коллега, вы же лучше других понимаете, что для ответа на ваш вопрос нам надо сперва синхронизировать наши квалии употребленных вами “Наблюдатель”, “Система”, “привязка (к чему? зачем?)”. :)
Т.е. я ещё могу понять что такое “система” (наверное это сам организм), но вот зачем нам кузнец(с)… э… наблюдатель что-то не понял.
Давайте так: забудем всё и начнем с начала и с читого листа.
Договоримся, что в Природе особых проблем с “привязкой” наслаждения и боли нет. Потому как у кого привязка (из-за мутаций) неправильная или отсутсвует - долго не живет и размножается плохо.
Примем, что на логическом (и базовом) уровне боль это нечто, ведущиее к потере ресурсов и/или смерти, а удовольствие наоборот, и что определение этого фундаментально важно для выживания и развития организма (и Жизни), и предусмотрены (выработаны эволюцией) некие датчики, передача сигнала, система управления и система реакции. (однако уже на более высоком уровне управления могут быть варианты где “боль” потери ресурсов может быть полезной (в обучении), а некоторые удовольствия, как мы знаем, :) - вредными)
А как конкретно Природа это реализует в биологии - не будем копаться.
Т.е. решение проблемы в т.ч. "определения привязки" уже давно существует и надёжно работает млр. лет. в различных условиях нашей планеты на бесчисленных безымянных биообъектах Природы. И нам его не надо выдумывать, а только лишь понять.
Хм… ну давайте предположим самое простое: может есть отдельные датчики (или один, но с разными "выходами", или с одним, но с более сложным управлением) , сигнал от которых (а он одинаковый) система управления определяет однозначно как боль/удовольствие? И соотвественно реагирует: типа на этот вход пришел сигнал - без затей включаем такю последовательность действий; А на другой вход такой же сигнал (или разный сигнал на один вход) - другую... (на инстинктивном уровне… однако более “вышестоящий” контур управления (если он есть) может в некоторых случаях попробовать изменить эту реакцию) (и ведет запись лога, в т.ч. создавая "квалиа")
Ну например предположим, что датчик температуры удовольствия настроен (в биологии Природой, эволюцией и отбором; а для наших задач - нами, под наше представление о Среде и агенте) на диапазон 16-20 градусов. И когда организм попадает в этот диапазон он срабатывает и система получает сигнал и определяет это для себя как удовольствие т.е. нахождение в оптимальной температурной среде. Соответсвенно выход из этого диапазона как снижение удовольствия.
А срабатывание датчика температуры боли настроим на допустим от 60 градусов… и типа прикоснулся к горячему чайнику - получил сигнал и инстинктивно отдернул руку… (но если например несешь стакан с кипятком и он начинает обжигать пальцы - вышестоящий уровень пытается блокровать попытки уйти от боли их разжав (если последствия хуже))
Соотв. в более сложных системах имеющих сознание из множества информации от дачиков создаются квалии состяния боли/ удовольствия... а далее их используя как в непосредственной деятельности (выбирая/создавая условия удовольствия и избегая условия боли) так и в работе сознания по моделированию мира и оптимизации себя в нём или его под себя :)
“Привязка” же, если надо как “визуализация”, может быть к некому “ресурсу” - типа как в играх "полоска здоровья": удовольствие когда ресурс повышается, боль когда (резко) падает…
Как-то так я это вижу…
Автор! "Без ТЗ результат ХЗ". Нет определения сознания - не имеет и смысла гадать, будет ли он цифровой/аналоговый, белковый/желтковый.
Вы точно сказали, что это свойство жизни и не интеллект. Осталось сделать лишь пару шагов, что бы понять что же это.
Главное - начать с начала. C начала нашей Вселенной. И раз это свойство Жизни, то до её появления сознания не было.
Т.е. как только Жизнь появляется (-4 млр.лет) ей нужно начать выживать и развиваться в окружающей Среде, а значит как-то "расчитывать", "отражать", "изучать", "предугадывать" её в своих (пусть пока и ничтожных) моделях .
Ну вот это и есть сознание - со-Знание, совместное знание (модель) Жизни о Среде, как внешеней, так и внутренней (т.е. сознание это информационное явление). И, соответсвенно, опосредовано оно в инстинкт(ы). И получает "обратную связь", совершенствуясь.
Но это "общее распределенное сознание" всей Жизни.
Персональное же сознание возникает примерно 150 млн. лет назад, далее совершенствуется, получая функции социУма (-75 млн.) и разума (-200 тыс.)
Если же образно представлять сказанное как армейскую аналогию, то: тело - войско, инстинкт-атаман, подсознание - полевое командование, социУм - комиссар, разум - все виды (контр)разведки. Интеллект - известные пути и возможности. Сознание - штаб.
И при решении задач (одновременно, у кого что к этому моменту уже есть) ищут ответ на вопрос: интеллект -"как?"; ум - "через кого?"; разум - "почему?" сознание -"зачем? (я).
А более подробно о сознании, чувствах, интеллекте, инстинкте, уме, глупости, мудрости, разуме... можно прочесть в книжке "Естественный интеллект" https://samlib.ru/j/jurewich_d_p/ei.shtml
Как кстати и о не"Трудной проблеме сознания" и о квалиях. В т.ч. как они получаются - на базе SQL запросов. Ничего сложного (ведь они же существуют).
И вот теперь, если принять эти определения, можно будет уже и подискутировать предметно.
Очень хорошо, что инженеры взялись-таки за понимание чувств, в частности любви.
Это весьма своевременно, ведь создается ИИ, как понять, нужна ли ему любовь (и другие чувства - для жизнеспособности и человечности), а если да - то что это, зачем, принцип работы и как это запрограммировать и встроить в общую систему управления?
Однако, к.м.к., предложенный вариант скорее для обдумывания и критики, нежели сразу в продакшен.
Особо прикольно, что предложенное понимание не соответствует собственному заявленному эпиграфу т.е. не универсально, а узко специализированно .
Т.е. любовь рассматривается только как чувство между двумя людьми (что ещё и антропоцентрично). Но это же не так, любить можно например своё дело, близких, детей, животных, природу...
Причём даже между двумя людьми возможна и неразделенная любовь... не говоря уже о неодушевленном - работе например.
А чувство любви универсально. Оно заложено в наши инстинкты до нашего рождения, а значит свойственно всей Жизни (в разной мере и форме).
Далее:
CRDT смыслов: база общих знаний, воспоминаний и моделей поведения есть и без любви - родители, школа, работа, знакомые..;
Фристон-style: это уже не любовь, а привычка (убивающая любовь);
SLA: есть и у друзей и у близких людей.. даже у домашних животных, собак например.
В том, что по мнению автора любовь склеивает в устойчивую систему есть истина, но только часть. Да и устойчивым системам как раз любовь и не нужна, даже мешает, дестабилизирует. "Брак по расчёту может быть счастливым, если расчет удался", "Стерпиться - слюбиться" - вот что нужно устойчивым системам.
Не дано понимание того, откуда она, почему и как она возникает, почему проходит, почему остается и развивается и во что и т.п...
Зачем вообще она нужна, ведь и встречаться, и общаться, и размножаться, и рожать, и воспитывать, и работать, и ... прожить всю жизнь можно и без любви? Но вот почему-то считают, она очень важна: "Мир есть любовь", "Аll you need is love"...
Всё же, по-моему, любовь чувство универсальное, а значит на него надо смотреть не с позиции антропоцентризма, а с т.з. космоцентризма. И это не "протокол когерентности", это тогда уж "протокол форсирования самоотдачи", не для устойчивой системы, а для её дестабилизации и перевода на новый, более высокий уровень (а уж стабилизацию на новом обеспечивают другие чувства).
Более подробно об этом в т.ч. можно прочесть в книге "Естественный интеллект" (гл 1. Любовь) http://samlib.ru/j/jurewich_d_p/ei.shtml
Тем не менее радует появление у инженеров интереса к "гуманитарным" основам Жизни, ощущение их важности в проектировании Universальных жизнеспособных систем типа ИИ (а так же жизни людей и Жизни в целом) и желание разобраться.
"Может ли работа с ИИ сделать людей более этичными?"
пока ИИ не имеет собственного сознания (ценностей, воли...) (причем для реального мира) это такой же инструмент как, например, молоток. Так что упрощая: может ли изобретение молотка сделать людей более этичными? Да, может - когда играясь с молотком человек наделает делов и ему либо прилетит "снаружи", либо "изнутри" (совесть) после чего он "поймет" границы этичности применения молотка. Некоторым это приходит в голову раньше (чем туда прилетает молоток), но таких людей к сожалению мало (и их голоса не слышны, пока "гром не грянет") да и всё же реальность точнее и шире, чем их представления.
"Нам не нужны умнее машины. Нам нужны яснее люди."
и владение молотком, создаваемые им новые проблемы заставит таки начать разбираться, искать "противовесы", разрабатывать технику безопасности, принимать законы... А некоторых задуматься, не столько о молотке, сколько о том, что есть человек сам по себе :) чьи качества молоток только усиливает.
"Как вы думаете, что важнее: дать машинам делать быстро или иногда нажимать на паузу и подумать?"
вопрос не корректный - если быстро начать стучать молотком (получая прибыль и снижая издержки), то уже не получится ни сделать паузу, ни подумать - т.к. такая работа меняет психологию и работника и владельца, они становиться "заложником молотка" подстраиваясь под него. Только сбой может привести в сознание (ну или окончание работ - но не будем о грустном :)). А так и паузы, и мышление идет "снаружи" т.е. не от работника с молотком и не от молотка, а от "наблюдателя".
Так что "этика ИИ" это пока просто этика людей - для людей, получивших молоток.
Но вопросы этики становятся важнейшими, когда молоток ИИ обретает сознание.
И вот для этого случая вопросы добра и зла, совести, человечности, свободы, смысла жизни... разработчикам ИИ вместе со специалистами по этике стоит понять (поняв человека, его Природу и место во Вселенной), алгоритмизировать и вложить в ИИ как фундамент, что бы тот не стал бесчеловечным, бессовестным, бездушным... а смог бы на этом фундаменте стать жизнеспособным, а значит и этичным и человечным...