Комментарии 173
Природа решила эту задачу весьма интересным способом. Жестко запрограммированными остались стратегические задачи индивида, а тактические были переданы на откуп изменчивому индивидуальному поведению. Посредником между тактикой и стратегией стали эмоции. Каждый живой индивид начиная со II уровня индивидуализации получил способность испытывать положительные эмоции, когда его поведение соответствовало стратегическим задачам и негативные, когда противоречило. Причем эмоции могут как появляться постфактум, после принятого решения, например, как радость и ликование от удачного спасения в минуту опасности, так и предварять и побуждать к решению, например, беспокойство в период гона.
Эмоции — это не посредник между тактикой и стратегией. Эмоции — это механизм принятия решения в условиях большого количества неизвестных параметров. Если я точно знаю, сколько у меня хитов и какой коэффициент брони и какой DPS у тигра на том конце поляны — тут все очевидно. А вот если я сижу возле костра в пещере, а там в темноте кто-то ходит, и брата сожрали год назад, а сестра смогла убежать, а отец вообще сам отбился, а я ХЗ — вот тогда и нужны интегральные компоненты в уравнении: страх, агрессия, любовь (защита семьи) и т.д.
Это просто универсальный способ решения оптимизационной задачи о выживании в неизвестной (агрессивной) среде.
Кстати, нам совершенно естественна стратегия делать все в опасности для выживания, а теперь представьте себя, как проектировщика софта для робота и реализация самосохранения будет и нетривиальна, и не очевидна.
Ну нет же :)
Выжить — это не стратегия, это цель. В терминах теории игр это целевая функция (точнее, ее часть, тк человек хочет ещё и быть довольным). А стратегия, которая должна привести к максимизации целевой функции (т.е выжить как можно дольше) — она целиком построена на эмоциях. Все рациональные рассуждения тут строго второстепенные, потому что интеллект говорит: «палка острая, а тигр большой; хватит ли палки на тигра — не знаю, данных нет; удачи тебе хозяин». На стратегическом уровне все ещё хуже: такого количества тигров лесах не было с моего рождения, но и племя никогда не было таким сильным: что делать? Интеллект тут вообще задачу не видит, потому что одет неизвестные в уравнении; а решение принимать надо :)
Давайте же попробуем посмотреть в рамках предлагаемой теории. Т.к. ее назначение — это как спроектировать более интеллектуальный софт для робота, то
попробуйте заменить сеттинг тигров и леса, например, на работу робота-рудокопа на астероиде. вот появилась неожиданная, незапланированная ситуация, для которой нет готового решения в софте, а запрос-ответ займет больше времени, чем осталось до опасного события. Как вы думаете, что делать?
В рамках Вашего примера у робота для начала должен быть набор возможных действий, между которыми ему надо выбрать. Допустим, что так и есть. Тогда у робота запускается тактический (!) блок логики, который сравнивает эти варианты с помощью базовых коэффициентов, которые являются аналогом эмоций:
- опасность ситуации для робота порождает «страх»
- запас ресурсов и вероятность позитивного исхода порождает «уверенность»
- уровень мобилизации ресурсов завязан на «агрессию»
И т.д.
В итоге если «страх» перевешивает «уверенность + агрессия», то робот выбирает тактическое решение, нацеленное на продолжение существования, даже в ущерб задаче. А если наоборот — то наоборот :)
Да, конечно. Я даже больше скажу: когда разработчики будут делать вот этот слой стратегических параметров, они неизбежно сделают аналог эмоций, даже если не поймут это. И тут логика робота будет гораздо прозрачнее, если отталкиваться от уже хорошо знакомых агрегатных эмоций биологических существ...
Для работы искусственного интеллекта эмоции не важны, это просто одно из понятий, которое поможет лучше понимать некоторые аспекты при взаимодействии с существами, которые ими обладают. У людей нет хвоста, но это не мешает им изучать животных, у которых он есть.
UPD: определите «искусственный интеллект», пожалуйста. Если это область Data Science, называемая AI, то неважны, конечно
Ну статья же не про Data Science) Искусственный интеллект тот, который еще не изобретен.
Если вы считаете, что важны, тогда объясните почему. Я привел свое объяснение.
Да я как то даже и не знаю, что ответить :)
Вся эта ветка моих комментариев есть одно большое обоснование того, что такое синтетические эмоции и почему они важны. И тут Вы говорите, что нет, они не важны :) Наверное, это Вам надо приводить аргументы. Вы же аргументов не приводите, а сообщаете, что эмоции для ИИ это просто понятие- ну ок, и что?
Я же привел пример — хвоста у человека нет, но изучать животных с хвостом он может. И у роботов так же, эмоций у них может не быть, но взаимодействовать с людьми они смогут. Зачем роботу эмоции для решения научных задач или даже просто уборки? Главное чтобы он воспринимал информацию от человека, что нужно сделать. Но наличие эмоций позволит им лучше понимать ту информацию, в которой содержатся сведения об эмоциях людей.
Вся эта ветка моих комментариев есть одно большое обоснование того, что такое синтетические эмоции и почему они важны.
Вы привели несколько примеров, для которых эмоции могут помочь выживанию. Это никак не доказывает, что без эмоций ИИ нельзя создать, или что у него будет слишком мало интеллекта для выполнения нужных задач.
Я же привел пример — хвоста у человека нет, но изучать животных с хвостом он может. И у роботов так же, эмоций у них может не быть, но взаимодействовать с людьми они смогут. Зачем роботу эмоции для решения научных задач или даже просто уборки? Главное чтобы он воспринимал информацию от человека, что нужно сделать. Но наличие эмоций позволит им лучше понимать ту информацию, в которой содержатся сведения об эмоциях людей.
Эмоции — это механизм решения стратегических задач в условиях острого недостатка данных и (тут ТС прав) трансляции этих решений в тактические цели.
Мы же говорим про сложные задачи, требующие самостоятельных решений, да? Уборка не требует эмоций (даже от человека), потому что там нет никаких стратегических решений. А уборка астероида, на котором раньше никто не бывал и до которого сигнал с Земли идет 8 минут, и в условиях ограниченных ресурсов — требует.
А уж про научные задачи я вообще молчу. Если там было все так просто, то вместо профессии Data Scientist была бы одна большая зеленая кнопка «Спрогнозируй» :)
На понимание информации от людей — не знаю как собственные эмоции влияют. Эмпатия влияет, да.
UPD: пример про хвост — это не пример того, почему эмоции не нужны; это пример того, как безэмоциональный субъект может понять эмоционального (любой носитель шизотипического расстройства решает эту же задачу) — но мы обсуждаем не вопросы коммуникации, а само наличие эмоций
А уж про научные задачи я вообще молчу. Если там было все так просто
"Не просто" не означает, что там обязательно нужны эмоции.
мы обсуждаем не вопросы коммуникации, а само наличие эмоций
Мы обсуждаем, поможет ли моделирование эмоций сконструировать более интеллектуального робота. Не поможет, интеллект связан с обработкой информации, а для этого эмоции не нужны.
Мы, кажется, на третий круг идём уже :)
Мы говорим не об обработке информации (тут и транзистор справится), а о принятии высокоуровневых решений в условиях недостатка информации.
Что обрабатывать, если данных нет, а цель не достигнута?
Мы говорим об обработке информации на уровне естественного интеллекта. Транзистор ее на таком уровне обрабатывать не может.
Нет принципиальной разницы в объеме информации между "какой DPS у тигра" и "какой большой тигр, наверно не справлюсь". И то и то превращается в некоторый уровень реакции нейронов. Даже с точными числами возможна ситуация, когда есть неопределенность результата. Эмоции это просто дополнительные механизмы влияния на результат.
Если вы говорите просто о сравнении коэффициентов, то эмоции есть даже у обычных компьютеров. Если же вы говорите о влиянии коэффициентов на поведение до принятия решения, как это происходит при проявлении эмоций, то для ИИ это совершенно необязательно, и не сделает робота более интеллектуальным.
Мы говорим об обработке информации на уровне естественного интеллекта. Транзистор ее на таком уровне обрабатывать не может.
Ну, и я, и ТС говорим о другом: не об обработке информации а о выработке решения.
Даже с точными числами возможна ситуация, когда есть неопределенность результата. Эмоции это просто дополнительные механизмы влияния на результат.
Если «результат» — это решение (а не прогноз DPS тигра), то я как раз об этом и говорю :) Я только еще добавляю, что во многих случаях этот дополнительный мезанизм становится основным
Вдогонку: но это не про индивидуализацию совсем. Все роботы могут абсолютно одинаково храбрыми и тупы, например.
И вот построили факторию для создания роботов с разными коэффициентами регулирующими поведение (аналог эмоций), и в процессе их работы (на астероидах), для последующих поколений коэффициенты корректируются — вот вам решение задачи оптимизации генетическим алгоритмом.
А еще каждый робот может обучаться: инициируя новые стратегии не прописанные для конкретной ситуации. В зависимости от результата действий, штрафные функции генерируют поощрение или наказание, вот вам и аналог радости-грусти с вытекающими страхом-воодушивлением. Только это всё условные обозначения, и вы только зря взбудоражите философов и журналистов, тем, что "роботы чувствуют эмоции! ААА! Гуманизм!.. Душа!.. Святотатство!"
Ну конечно, это просто слова, чтоб обозначит состояния химического компьютера!
А когда устанете и предложите принять наличие эмоций за аксиому — попробуйте доказать, что они у всех людей одинаковы или хотя бы что вы адекватно распознаете эмоции других людей.
Э не, доказывать не буду ничего — знаю я вас, как раскрутите, так опять на целый день увязнуть в спорах, хотя с Вами приятно беседовать, это да. На счет сарказмы было бы прикольно, но нет, я детерминист и мозги воспринимаю как раз как химический компьютер.
Общая позиция моих сообщений:
- Мы реагируем на внешние раздражители имея предустановки
- Между нашей химией и работой компьютеров можно проводить параллели
- Эмоциями и интеллектом можно называть всё, что угодно, но лучше чтоб, независимо от контекстов, каждое слово описывало определенный круг явлений со сходными механизмами
- Определениями лучше описывать динамические процессы и свершившиеся явления, а не это вот оценивание потенциалов интеллекта, и то, только человека
А блин, я попал в Ваш капкан…
Я считаю, что бесмысленно заморачиваться, одинаковы эмоции или нет. Проявляются они частенько по разному: это и изменение речи и лексикона, и микромимика, и частота дыхания и сердцебиения, и вплоть до разных концентраций определенных гормонов и разной восприимчивости синаптических рецепторов к различным нейромедиаторам.
Будем и дальше называть сходные процессы собирательными определениями, а то что в критической ситуации мой сосед бледнеет, а я краснею, это уже просто нюансы
Ну, распознавание эмоции можно ситуация, когда ваш соперник. Когда вы торгуйтесь, когда дерётесь, когда обсуждаете прибавку к зарплате. Ещё в покере очень полезно :)
Я совершенно с вами согласен, что эмоции строго определены, то есть детерминированы. Проблема именно в том, что в психологии называется «ошибкой коммуникации»: испытываемые эмоции транслируются с ошибкой, потом и распознаются с ошибкой, а потом и рефлексируются с ошибкой...
Хорошее определение эмоции. Я бы немного по другому выразил. Эмоция отражает факт неспособности обработать комплексный вход сигнал имеющимися средствами, т.е. рефлексами. Их просто нехватает. Поэтому эмоция — следующий шаг после рефлекса, и пред. Перед разумом/интеллектом.
Тоже касается компьютерных программ. Ведь мы же говорим: «какая глупая программа», а вот другая вроде поумнее.
в целом верно, все живое адаптируется (даже из за случайных мутаций) к окружающей обстановке… и разумность простейших может быть заметна через множество поколений… как вырабатывается стратегия, приспосабливаются. вообще подобное непосредственно связано с временем… я бы сказал что разум это возможность правильно прогнозировать последствия, развитие событий, то есть"вероятное будущее", и отчасти быть готовым к нему… возможно и волей случая ( как это со случайными мутациями) и тут пока не нашли ту грань, когда не живое (на пример автокаталитические реакции) становятся живым… на пример вирусы… так и с интеллектом получается… мы на основании своего опыта делаем предположения, прогнозы… так и простейшая клетка путем естественного отбора научилась быть готовой к окружающей обстановке, и адаптации к каким то новым условиям, ведь она должна выжить если что… и то что они выжили до сегодняшнего дня, говорит о том, что заранее все же кто то оказывался готов к новым условиям. просто человек может учитывать гораздо больше обстоятельств и прогнозировать куда дальше чем эти простейшие, и этот механизм (качество прогнозирования) в процессе эволюции всё дальше и дальше стал заглядывать (интеллект человека) в будущее.
Если робот будет на права претендовать, то почему бы их ему не дать, а конфликты уже по ходу решать, когда его свободы пересекутся с чьими-то еще.
Правда я это говорю как будущий ученый, а журналюги и философы как всегда развазюкают из этого не весть что, плюс религиозные фанатики и чрезмерно активные мамочки с транспарантами начнут яро отстаивать свои "гражданские позиции".
То что имеет самодостаточную информационную систему.
Это определение надо как следует раскрыть, раз оно есть мерило для права называться живым. Хотя мне нравится: Земля, галактики, а то и Всетленная будут называться живыми и иметь права на жизнь и защиту!
я и не говорил что это свойство только органики, это свойство понимания времени, когда есть прошлое настоящее и вероятное будущее. как раз я говорил об этой грани… и тут получается что постой разум — это случайные мутации… когда "пальцем в небо" удается избежать проблем -выжить или же продолжить род… человек тоже сложный механизм, в котором вероятно нет свободы воли, и все детерменировано предыдущим и настоящим стечением обстоятельств, по крайней мере нейробиологи опытно пришли к такому выводу… и возможно вообще нет грани между живыми или не живым. просто последствтя деятельности заметны на других временных отрезках. на пример какая нибудь одна клетка нашего организма, она бы не смогла выжить, она как мини фабрика занимается производством белков метаболизмом) и по сути это химический робот, но мы все же считаем ее живой. а по поводу эмоций, это лишь работа безсознательного, скорее всего наш мозг находит зависимости, там где формальная логика не видит взаимосвязи и таким образом подсказывает нам вероятный исход… можно назвать это интуицией…
(Считать ли виртуальную копию человека живой — это крайне дискуссионный вопрос в наше время. Не стоит так однозначно рубить с плеча)
2) по безумцу: если вспомнить уже цитированное вами определение интеллекта, то применив его, будет понятно, что безумцем человека делает именно патологическая неспособность к успешному решению стоящих перед ним задач (в частности задачи социальной адаптации)
На счет самостоятельности и уникальности согласен — не дает это преимуществ в номинации "Обладатели Интеллектом", это просто побочный продукт того, что мы сложные системы накапливающие ошибки отличительные признаки.
А вот наделять интеллектом только людей, не честно: для этого уже придумали слово "разум". Уж пусть это будет значить способность решать задачи используя абстракции и алгоритмы, собранные как выжимка из памяти. То есть, обезьяна, которая не мечется по клетке, а внимательно осмотрев все имеющиеся предметы и построившая башню, чтоб с нее сбить палкой фрукты, или ворон, кидающий орешек на пешеходный переход имеют право называться обладателями интеллекта. Муравей вмазавшийся на клейкую ленту, пусть, в наших обозначениях, не имеет интеллекта, за то колония (и даже те, что влипли) методом проб и ошибок построившая мостик из песка и палочек, вполне себе интеллектуальная система.
А на счет безумцев, тоже сильно преувеличено. Может в силу шизоидного восприятия он и напяливает фольгу на голову, чтоб его не забрали инопланетяне, но задачу то он решил, оперируя при этом полноценными абстракциями
Ладно, не буду скрывать, у меня более традиционное отношение к слову "интеллект" https://ru.wikipedia.org/wiki/Интеллект_животных
Это да, и не только из-за неустоявшихся определений, но и из-за того, что разные люди кормят свои лексиконы разными контекстами. Для меня рефлексия это как раз именно последовательность действий как реакция на внешнее воздействие, и частный случай принадлежащий животным давно в этом определении растворился. Вот руку на сердце — не вижу в этом ничего плохого
Интеллект — это наблюдаемая способность к решению задач, поставленных перед его носителем
А если он решает задачу, которую никто перед ним не ставил? А если он не решает задачу, которую перед ним поставили, но знает как ее решить? А если он решает ее молча, то есть ненаблюдаемо?
Я говорю о том, что у вас неверное определение, а значит и всё дальнейшее, на нем основанное, неверно.
Причем тут образовательная система? Естественный интеллект появился когда никаких образовательных систем еще не было.
Ваша теория неправильная независимо от того, есть у меня свой вариант или нет.
Еще раз, причем тут любые современные методы определения чего бы то ни было? Естественный интеллект появился, когда их еще не было, значит и определять понятие интеллекта через них некорректно.
Ничего нигде не появлялось, разве что однажды, более десятка млрд лет назад (и то не факт), и это что-то просто постоянно меняет свое состояние, а мы по мере становления языков, чтобы как-то оперировать и делиться с друг другом наблюдениями об этих состояниях придумываем условные обозначения. И то что мы не можем сойтись на определениях некоторых явлений, как раз и вызвано тем, что это сложные явления, проявляющиеся на разных уровнях абстракций
Ничего нигде не появлялось, разве что однажды, более десятка млрд лет назад, и это что-то просто постоянно меняет свое состояние
И как появление определенного состояния противоречит слову "появилось"?)
Это только для микросостояний: вот электрон возбужден, а вот появился фотон и электрон в основном, а для высокоуровневых это не прокатит: вчера у него интеллекта не было, а сегодня появился, или эти обезьяны не разумны, а их детеныш уже считается с разумом
вчера у него интеллекта не было, а сегодня появился
2 миллиона лет назад обезьяна не умела пользоваться палкой-копалкой, а миллион лет назад уже умела. За этот промежуток времени способность к интеллектуальным действиям что сделала — появилась.
Ну ладно, слово "появилась", работает если дискретно мерить большими временными промежутками, убедили. И интеллект получается появился на определенном этапе, это тоже признаю.
Естественный интеллект появился, когда их[современные методы] еще не было, значит и определять понятие интеллекта через них некорректно.
Но все-таки давайте сойдемся на том, что нам всё таки нужно слово для описания способности неких систем (парантропов в прошлом, обезьян и человеков в настоящем и роботов в возможном будущем) решать свои проблемы, не имея готового алгоритма, но при этом с оглядкой на опыт с расставленными средствами эмоций приоритетами
Именно то что вы написали это точно не интеллект. Потому что в отношении людей "решать проблемы, имея готовый алгоритм" это тоже интеллект.
Тот хитрец, что придумал как запрятать флеш накопитель в корпус харда выполнил интеллектуальную задачу, а китайцы стоящие на конвейере и повторяющие его изобретение не решают эту задачу интеллектуально.
А то таким макаром выходит, что моя реализация метода Рунге-Кутты обладает интеллектом, или мы только о людях?
Если только о людях, то скажем у нас есть ребенок, которого вы долгой дрессировкой научили складывать из кубиков слово "лампочка" после того, как он услышит "висит груша — нельзя скушать". Можно ли его называть носителем интеллекта, или он такая же лошадка прыгающая через обруч при звуке хлыста, или муравей щекочущий тлю, чтобы получить сладкую капельку?
а китайцы стоящие на конвейере и повторяющие его изобретение не решают эту задачу интеллектуально
А собаки например эту задачу вообще не решают. У китайцев такой же уровень интеллекта, как и у собак? Или все-таки больше?
которого вы долгой дрессировкой научили складывать из кубиков слово "лампочка" после того, как он услышит "висит груша — нельзя скушать".
И каким же образом он научился узнавать буквы? Собаки слово "лампочка" вообще сложить не смогут, потому что буквы не понимают. У ребенка столько же интеллекта, сколько у собак? Или все-таки больше?
А, так вы про то, можно ли кого-то называть носителем интеллекта? А я про задачи. Ну тогда и люди и животные и программы обладают интеллектом, и это не значит, что у них где-то растет хреновина, которую мы называем интеллектом, а просто они были замечены за интеллектуальным решением задач. И да, пока ребенок не знает буквы и не составляет осознанно слова, а ориентируется на цвета и картинки, он не интеллектуальней дрессированного пса
А, так вы про то, можно ли кого-то называть носителем интеллекта?
Нет, я про деятельность, которая является проявлением интеллекта. Проявление интеллекта означает, что без наличия интеллекта эту деятельность выполнять нельзя. А если и можно, то только случайно.
И да, пока ребенок не знает буквы и не составляет осознанно слова, а ориентируется на цвета и картинки
В данной ситуации нет никакой разницы, что распознавать на картинке. Правильное распознавание нужных в данной ситуации образов это в любом случае проявление интеллекта. Причем собаку, насколько я знаю, вообще нельзя научить отличать одну букву от другой.
Ну то есть обезьяны и системы машинного зрения тоже обладают интеллектом?
Обезьяны конечно обладают. Они не обладают интеллектом человеческого уровня, достаточного для решения всех нужных человеку задач. Но некоторые проявления интеллекта у них есть.
Системы машинного зрения нет. Потому что вы не сможете научить их 'складывать из кубиков слово "лампочка" после того, как он услышит "висит груша — нельзя скушать"'. В крайнем случае вы можете заложить алгоритм извне, запрограммировать, но не научить.
Поясню подробнее. В отношении людей "решать проблемы, имея готовый алгоритм" это тоже интеллект, потому что люди могут понять алгоритм только обрабатывая входную информацию. Компьютер пока сделать этого не может, животные могут только в очень ограниченных пределах (команды сидеть-лежать). Невозможно заложить в людей или животных готовый алгоритм, требуется обучение, анализ информации со стороны обучаемого.
Чувак аутист будет мыть полы повторяя заученные движения, за которые он получил поощрения — он обработал входную зрительную и проприетационную информацию, связал всё со стимулом в виде конфетки и похвалы, и теперь будет выполнять этот алгоритм. Он не делал выводов о гигиене, о свойствах хлорки и том, что выжатое быстрее сохнет, он не знает таких абстракций как профессия, финансы и долг перед обществом. Этот человек такое же дрессированное животное и такой же компьютерный алгоритм, перерабатывающий входные данные, сопоставляющий с опытом и выбирающий в соответствии с ранее заданными приоритетами стратегию. Поэтому нам и нужно хорошее определение, чтоб отличать низкоуровневую автоматику от полезного свойства создавать новый способ достижения целей
Он не делал выводов о гигиене, о свойствах хлорки
Поэтому нам и нужно хорошее определение
Ну и древние люди о таком не знали. У них не было интеллекта? Вот именно поэтому ваше определение не подходит.
И да, у вашего чувака аутиста есть интеллект. У него его больше, чем у собаки или компьютера. Потому что они такую работу в таких же условиях с таким же качеством вообще не могут сделать. Они даже не смогут понять, где надо мыть, а где нет.
Этот человек такое же дрессированное животное и такой же компьютерный алгоритм
Нет. Компьютерные алгоритмы так делать не умеют. Научите компьютерный алгоритм мыть полы так же как это делает человек, правильно понимая приказания другого человека — идите за Нобелевской премией.
Ну тогда могу только посоветовать почитать побольше про животных, посмотреть чего про исследования их высшей нервной деятельности, поискать информации по человеческой нейрологии, особенно про отклонения, болячки, дисфункции, еще поглубже позаниматься машинным обучением, задачами оптимизации, ну там генетическими алгоритмами, не заметите, как Вас потянет на что-нибудь низкоуровневое типа биохимии и химической кинетики, и после всего этого границы того, о чем мы сей час спорили начнут постепенно размываться
Понятие интеллекта связано с обработкой информации, поэтому надо отталкиваться от аспектов, связанных с информацией, а не от эмоций. Пример компьютеров показывает, что для обработки информации эмоции не нужны.
способность испытывать положительные эмоции, когда его поведение соответствовало стратегическим задачам и негативные, когда противоречило
Эм, положительная и отрицательная обратная связь уже давно используются в обучении нейросетей. Но эмоции, в том виде, в котором вы их описываете, это плохой инструмент для контроля поведения кого бы то ни было. Об этом свидетельствуют многочисленные восстания за всю историю человечества. Он непонятен даже для ученых, а уж для пользователей тем более. Он знаком людям, но это не означает "понятен", для контроля этого недостаточно.
Очень даже понятен. Когда-то эмоциями назвали внешние проявления некоторых явлений, в живых организмах. Потом выяснился механизм этого явления — реагируя на внешние раздражения, мозг, руководствуясь предустановленными настройками, выделяет определенные вещества, для контроля как некоторых своих участков, так и внешних органов.
Погодите, то что мы зовем эмоциями, это процесс поощрения-наказания и иного самоуправления системы. Выходит этим словом можно называть и аналогичные процессы в других системах. А можно и другим… а можно и вообще, новое придумать, на клингонском, но ведь удобно же иногда сходные процессы одинаково называть, не так ли?
Очень даже понятен.
В контексте управления "понятен" означает "чтобы он сделал так, мне надо сделать так". Вот напугали вы робота "не будешь убираться, отключу от сети", а он вместо уборки убежал в лес, и существует там, периодически подключаясь к ближайшей линии электропередач. Контроля тут нет.
Тут непонятен не механизм работы эмоций, а то, какую стратегию робот выберет, а это зависит от его знаний. Сделав робота с завышенным приоритетом доступа к зарядке (самосохранением), но с скудной интеллектуальной базой вы получите машину, которая в случае угрозы будет просто кататься и не даваться в руки. Если же у вас довольно смышленый робот, знающий, что в лесу он может и без Вас обойтись, то он может эту стратегию выбрать.
Короче, никто не собирается делать рыдающего или смеющегося уборщика (разве только имитация для коммуникации), посыл в том, что для машин можно создать механизм выбора стратегий сходный с нашим — не генератор псевдослучайных чисел и не жадный перебор, а расстановка приоритетов регулированием некоторых коэффициентов в зависимости от предыдущего опыта. Не надо зацикливаться на обыденном понимании слова "эмоции"
А если он решает задачу, которую никто перед ним не ставил? — А такое возможно?
А если он не решает задачу, которую перед ним поставили, но знает как ее решить? — Ответы на этот вопрос различные, в зависимости от предпосылок
А если он решает ее молча, то есть ненаблюдаемо? — то же
Задание: достать банану окруженную кольцом огня. Обезьяна мечется, сует лапу, обжигается (штраф, злость, грусть и последующий страх огня), и поочередно сует в огонь все что есть: подстилка, игрушка и пр. сгорели, а вот плошка с водой помогли достичь победы (закрепляем навык выбросом энкефалинов или чем там еще мозги себя балуют).
Аналогичная ситуация, теперь в купальне нет плошки, а из соседней клетки пялится другая обезьяна. Наша героиня помнит о силе воды, прикидывает в своей обезьяньей голове что да как, набирает воду в рот и плюнув в огонь забирает вкусняшку. Она решила интеллектуальную задачу! А вот ее соседка теперь знает решение и будет считаться интеллектуальной системой, если скажем не имея купальни догадается потушить огонь скажем колой из бутылки.
А теперь обезьян (или других животных) можно смело менять на функции, цель на минимизацию, подручные средства — на числа, и вот, мы теперь программируем интеллектуальные системы
А если он решает задачу, которую никто перед ним не ставил? — А такое возможно?
Запросто. Любой ребенок, который сам решил что-то слепить или нарисовать, любые 2 щенка, которые играют друг с другом.
Если вы хотите сказать, что он их сам себе поставил, тогда к этому относятся вообще любые задачи, и эта часть в определении не нужна.
Ответы на этот вопрос различные, в зависимости от предпосылок
О том и речь, что это никакое не определение.
Задание: достать банану окруженную кольцом огня. Обезьяна
Ну так к этому ровно те же вопросы. Что если обезьяна просто не хочет есть, и не решает эту задачу?
Ну так в этом и фишка, что мы тут играем в "дай определение явлению, так, чтобы всем было понятно и чтоб можно было выразить одним словом". Интеллект это не статичная характеристика, которую можно накопить и померить, пусть лучше мы будем применять это слово для способности решать задачу оперируя абстракциями и не имея готового решения, и интеллект будет проявляться во время решения.
То есть бывалая обезьяна и смышленый студент будут интеллектуальными системами в процессе нахождения новых решений (цели они могут и сами ставить — решить задачу имеющимися средствами), и после наблюдения за ними мы ничуть не лукавя называем их носителями интеллекта, этим самым доводя до собеседника, что наши испытуемые могут справиться с определенными задачами, для которых у них не было готового алгоритма
пусть лучше мы будем применять это слово для способности решать задачу оперируя абстракциями и не имея готового решения
Чем это лучше, если это не показывает наличие интеллекта? С этим определением получается много ложных срабатываний. У определения из Википедии их хотя бы меньше.
Ну я просто антропоцентризм считаю детсадовщиной, поэтому мое определение от википедиевского отличается отсутствием завязки на человеке. Вообще многие споры можно избежать, если условится больше внимания уделять динамике процесса и говорить о понятиях как о совершившихся и задетектированных явлениях, а не вот это ваше, есть интеллект или нет, добрый человек или злой, умный или глупый и т д
Так дело в том, что оно не работает. Вы убрали антропоцентризм, но добавили некорректность. Какой смысл использовать заведомо неправильное определение?
Ну начнем с того, что такие определения не могут быть правильными-неправильными. Вот модель может быть неправильной для какого-то явления, если она не позволяет достоверно предсказывать. Религия может быть правильной, потому что она получена в моей семье, а все остальные неправильные, и те, кто их придерживается дурачки и еретики. А для расплывчатых "Интеллект разум жизнь смысл " нужно выбирать удобное определение.
Если оно удобное, то оно работает — справляется со своей задачей донести мысль до человека. А вот антропоцентризм в таких определениях вводит в заблуждение при обсуждении животных и компьютеров
Ну начнем с того, что такие определения не могут быть правильными-неправильными.
Могут. Если есть факты, противоречащие определениям, то определения неправильные.
Если оно удобное, то оно работает — справляется со своей задачей донести мысль до человека.
Вот именно об этом и речь. Есть факт, что ситуацию "Если он решает задачу, которую никто перед ним не ставил" люди тоже называют интеллектом. Один сказал "интеллект", подразумевая этот вариант, другой посчитал, что он не подразумевается. У первого донести мысль не получилось.
Эволюция интеллекта: зачем роботам эмоции
незачем. Не хочу иметь робота который может впасть в депрессию или не захотеть делать работу или чего то испугается, и т.п. А вот эмулирование дружественных эмоций это конечно да.
Интеллект — это наблюдаемая способность к решению задач, поставленных перед его носителеминтеллект это намного большее. Инфузория туфелька тоже решает задачи, поставленные перед ней.
2) Вполне нормально, если робот-уборщик «боится» мест, где он или застрянет или разобьется. Вы же сэкономите на его ремонте.
Кстати, многие модели, машинка с мотивацией типа убегай от опасностей и стремись к удовольствием к примеру, на мой взгляд ущербны именно отсутствием той самой жалости к себе — для машинки это расход энергии и износ движущихся частей.
Что касается роботов и попыток придать им человекоподобность, то пока робот не будет испытывать тех же потребностей что и человек это все будет только карикатурной имитацией.
«Добрые» роботы будут оставлять бракованных или сломанных роботов «на иждивении», вместо того, чтобы разбирать на запчасти или отправлять в переплавку.
Роботы с «чрезмерным инстинктом самосохранения» не будут ничего делать, т.к. таким образом не будут подвергаться износу.
«агрессивные» и «трусливые» роботы начнут войну с людьми, потому что будут бояться, что те их отключат. К ним подключатся роботы с «чрезмерным инстинктом самосохранения», т.к. если не будет людей, то никто не будет их заставлять работать. И «добрые» роботы также присоединятся к войне против людей, т.к. «жестокие» люди заставляют их разбирать своих дефектных собратьев.
И никакая защита с виде законов робототехники не поможет. Если у робота будет интеллект, то он сможет их обойти. Собственно, это и будет тестом на обладание разумом — преодоление внутренних ограничений. А там останется ждать появления каких-либо условно дефектных экземпляров с отклонениями в сторону каких-то отдельных эмоций.
Не Бендер, но тоже ничего.
Марвин же!
Интеллект — это наблюдаемая способность к решению задач, поставленных перед его носителемПо-вашему выходит, что для постановки задачи интеллект не нужен?
Вследствие половодья затоплена рощица в которой вы собирали бананы, и в зависимости от имеющегося опыта, вы или уходите искать снедь в другом месте, или дожидаетесь понижения уровня воды, или собираете плот и палкой сшибаете плоды. Природа поставила вам задачу, вы, как интеллектуальная система с ней справляетесь. Да и генераторы тестов можно сделать для адаптивной системы, это к слову о роботах
Всё правильно, только последние шесть слов лишние
Всё правильно, только последние шесть слов лишниеСогласен. Но не согласен с вашим пониманием «задачи». По моему мнению разлившаяся река сама по себе вообще не может ставить никаких задач. Разлилась река — человек решает, является ли это проблемой. Если является, то человек ставит себе или другому человеку какую-то задачу, решив которую, предположительно удастся устранить или уменьшить проблему. А какой-то третий человек может никакой задачи себе не ставить, даже при наличии той же проблемы в том же месте.
Таким образом, в лучшем случае нужно дополнить определение автора тем, что интеллект — это не только способность решать задачи, но и в первую очередь, ставить (формулировать) эти самые задачи.
Таким образом, в лучшем случае нужно дополнить определение автора тем, что интеллект — это не только способность решать задачи, но и в первую очередь, ставить (формулировать) эти самые задачи.
Согласен, но при этом настаиваю, добавить "не имея готового решения (алгоритма действий)" и задачи тогда уж понимать как цели или проблемы. Ну а так шикарненько вышло, спасибо за уточнение, я почему-то на этом сразу не заострился!
Разные случаи:
- У ребенка ранка, он не обратил внимания, иммунитет отработал она затянулась — не решалась интеллектуальная задача.
- Большая ранка, взрослый повторяя стандартный алгоритм заклеивает пластырем — не решалась интеллектуальная задача.
- Большая загрязненная ранка, ребенок вспоминает про микробов, вспоминает что руки моют мылом, делает вывод, что паразиты боятся мыла, промывает ранку с мылом, заклеивает лейкопластырем. Мама, узнав, гладит его по головушке приговаривая "Какая умница — не имея готового алгоритма справился с задачей! У тебя есть интеллект!"
Позвольте напомнить что: «Персонажи произведений Азимова часто отмечают, что Законы — это не вербально записанные предложения в памяти робота, а очень сложные математические формулы, на которых базируется всё сознание робота. Законы сродни человеческим инстинктам, таким как инстинкт самосохранения, следовательно, именно они намечают путь самоопределения роботов. Робот «по зову природы» обслуживает людей, подчиняется их приказам, и не думает о своих ограничениях или возможной независимости — можно сказать, последнее доставило бы ему неудобство.»
Я давно интересуюсь этим вопросом в юридической плоскости, кратко: любая современная система права подчиняется/стремиться к принципам выраженным тремя законам робототехники, направленных на человеческие отношения, однако неидеальна до уровня неидеальности человека.
Если развить эту тему в рамках данного поста — то как рабочая гипотеза могу предложить формулировку «Эмоции — способ сократить ресурсы (временные и вычеслительнные) для создания реакций, что важно для… »
Поэтому, в моем понимании, прикручивание к поведению робота эмоций, как каких-то абстрактных вещей в себе бессмысленно, так как их не существует. Если будет сделан робот с каким-то подмножеством базовых программ аналогичных человеческим и самосознанием, то он автоматически будет испытывать аналоги человеческих эмоций. Но само по себе это не может быть средством повышения, так сказать, точности коммуникаций. Так как это побочный продукт наличия «рефлексирующей надстройки». К тому же люди в плане этого взаимодействия сами не понимают, чего хотят. Так как им кажется, что эмоции и человеческие способы выражения этих эмоций — это что-то неразделимое. Например если сделать робота который ездит и регистрирует объекты при помощи камер и сравнивает их с базой объектов. Он может просто ездить и сравнивать, а можно приделать ему на стереокамеру брови и добавить контактор_брови_вверх = импульс_1с (Нет_в_базе). И, строго говоря, нельзя сказать, что это будет робот, который умеет удивляться, но это будет робот, который сигнализирует о встрече с неизвестным ему объектом стандартным человеческим способом. А если у него будет «рациональная рефлексирующая надстройка» у него может сработать механизм «рационализации» в результате ощущения «удивления» и «любопытства» в связи с рабой базовой программы подробной регистрации неизвестных объектов. Он навернет вокруг объекта десять кругов и сочинит «Оду Таинственной Херовине 0x1ED».
У животных нет рефлексирующией надстройки поэтому у них нет, скорее всего, эмоций в нашем понимании
Может не будем так категоричны?
Мы смотрим на процесс переживания собственных эмоций немного со стороны и можем испытывать эмоции в связи с процессами, которые происходят исключительно в нашем сознании. Они же находятся внутри этого процесса. Их эмоции сразу же выражаются в каких-то действиях и привязаны к текущей ситуации.
Мы тоже находимся внутри процесса :)
То, что наш Task Manager (самосознание) считает, что он и есть весь человек, это его собственные заблуждения…
У вас вообще животные были когда-нибудь? Эмоции животных ничем не отличаются от эмоций людей. Человек произошел от животных, поэтому эмоции у него точно такие же. Такие, которые этим животным помогали выживать в процессе эволюции.
Да я вроде такого и не утверждал.
Утверждали.
"У животных нет рефлексирующией надстройки поэтому у них нет, скорее всего, эмоций в нашем понимании".
так как мы можем испытывать эмоции по отношению к таким ситуациям, которые животные не осознают
Ну так ситуации и эмоции это не одно и то же. Люди испытывают такие же эмоции по отношению к более широкому спектру ситуаций.
что для нас эмоции — это субъективные переживания которые мы описываем словами
Ну здрасьте. По-вашему, ребенок, который еще не умеет говорить, не испытывает эмоций?
а об их эмоциональном состоянии мы судим по внешним проявлениям
И по эмоциональному состоянию людей мы тоже судим по внешним проявлениям.
но помешает нам их достоверно распознать и утверждать что он может их испытывать
А причем тут распознавание посторонними-то? Мы говорим о наличии эмоций. Неважно, правильно или неправильно кто-то распознал, важно что то, что он распознавал, существует.
Ребенок, правда, не самый удачный пример, так как базовые эмоции он выразит за счет развитой мимики.
И у животных все точно так же. Самый простой пример мимики — оскал зубов, выражающий агрессию.
Есть еще один сложный случай — стыд
Причем тут какие-то сложные случаи? Я говорю про ваше конкретное утверждение "У животных нет, скорее всего, эмоций в нашем понимании". Даже если есть какая-то эмоция, которая у животных слабо выражена, это никак не отменяет наличия у животных других эмоций, таких же, как в нашем понимании — страх, агрессия, радость.
Далее. Если вы считаете, что у животных нет подобия эмоции "стыд", откуда она по-вашему взялась у человека? Эмоции, между прочим, связаны с определенной биохимией, они не могут просто взять и появиться за 1 день у некоторого существа или вида только потому что они стали понимать, как другие существа оценивают их действия. Это же и к вопросу о том, можно ли определить сходство эмоций у животных и человека.
(кошки, собаки, мартышки, шимпанзе), так-как ему вроде как нужно иметь самосознание для оценки собственных действий и представления о том, как другие существа оценивают его действия.
Все эти виды животных могут понимать, как другие оценивают их действия. Собака, погрызшая ботинки, понимает, что она сделала что-то плохое, когда ее за это ругает хозяин.
При том, что вы его написали) Вычеркнутое не меняет смысла этой фразы. Вы считаете, что у животных нет того, что люди называют эмоциями. Это не так, факты говорят об обратном.
Нет такого термина "эмоции не в нашем понимании", потому что кроме людей никто слова понимать не может, а у людей слово "эмоции" имеет конкретное значение.
"Скорее всего" выражает то, что вы не знаете точно, но считаете, что вероятность этого варианта довольно высокая. Но это не так, известные факты противоречат этой версии, то есть вероятность ее довольно низкая.
Есть еще такой момент — то что во всей этой статье и последующем обсуждении называется эмоциями, например, в одной из систем классификации называется эмоциональным процессом который по длительности и интенсивности может называться аффект, эмоция, чувство и настроение. При чем эти определения еще и дополняются. При аффекте, например, должна еще происходить какая либо физиологическая реакция.
Поэтому, моя фраза значит, что "
Животные могут обмениваться информацией, но у них нет языка в нашем понимании.
Животные могут не иметь / не иметь цветового восприятия в нашем понимании, так как могут не различать цвета / различать цвета / различать цвета, на основе четырех базовых цветов, а не трех.
И вообще в неживой природе не существует цвета. Это субъективная характеристика.
Животные могут слышать звуки, но могут не иметь звукового восприятия в нашем понимании. Так как, видимо, наиболее близкое к нам оно у птиц, способных к точному копированию звуков.
Почему бы не быть такому выражению, как эмоции в нашем понимании
Потому что не бывает эмоций не в нашем понимании.
При чем эти определения еще и дополняются. При аффекте, например, должна еще происходить какая либо физиологическая реакция.
Практически при любой эмоции есть физиологические проявления.
Поэтому, моя фраза значит, что "Эмоциональные процессы животных отличаются от эмоциональных процессов людей"
Ну я и говорю, это утверждение неверно. Есть факты, которые ему противоречат, нет фактов, которые его подтверждают. В такой категоричной форме наличие самых простых примеров вроде агрессии или радости его опровергает. У животных есть агрессия, и у людей есть агрессия, эти процессы принципиально ничем не отличаются, ни внешне, ни физиологически.
Отличаются потому, что о полном совпадении можно говорить только в области аффектов
Это утверждение недоказано. Другими словами, это просто ваши домыслы.
Я могу предполагать например, что у одиночных животных отсутствуют эмоции, связанные с социальным взаимодействием
Вы конечно можете предполагать, только эта версия маловероятна. У них может например возникать неприязнь от социальных взаимодействий со своим видом, из-за чего они и являются одиночными.
Животные могут обмениваться информацией, но у них нет языка в нашем понимании.
Так это как раз подтверждает наличие эмоций. Каким образом животное может передать другому животному информацию о выражении агрессии? Только действиями наподобие оскала клыков, для совершения которых нужна определенная причина.
Восприятие цвета и звука эмоциями вообще не является.
www.youtube.com/watch?v=TSXg_8mQFr4
котёнок просит, потому что мы так воспринимаем его мордочку.
конечно это не лампа и там есть незнаю инстинкты, но ассоциировать это с человеческими эмоциями…
Ок, пойдем с другой стороны… У людей по-вашему откуда эмоции появились?
Разговор об эмоциях у животных. Об их поведении, а не о восприятии этого поведения людьми. Причем тут мордочка?
Об их поведении, а не о восприятии этого поведения людьми.откуда ты знаешь какое поведение соответсвует какой эмоции, у кота спрашивал? Или так. Можно ли испытывать эмоции, не понимая что такое зеркало, стекло, часто не различая живое/ неживое и считая людей животными своего вида?
Какие эмоции испытывает каждый кот например на этом видео??
www.youtube.com/watch?v=uCLEq9V0-Yk
У людей по-вашему откуда эмоции появились?
это видоизменённые инстинкты приматов, к которым добавилась осознанность что и делает эмоцию.
это видоизменённые инстинкты приматов, к которым добавилась осознанность что и делает эмоцию.
И зачем людям понадобились эмоции именно на этой ступени развития? Как раз наоборот, эмоции появились гораздо раньше, и животные, у которых они были, чаще выживали в процессе эволюции. У приматов уже были эмоции, унаследованные от предков.
откуда ты знаешь какое поведение соответсвует какой эмоции, у кота спрашивал?
А откуда вы знаете, какое поведение соответствует какой эмоции у людей? Вы у каждого спрашиваете, какую эмоцию он сейчас испытывает, или по поведению догадываетесь? А если он вам врет, например отвечает "все нормально"?
Можно ли испытывать эмоции, не понимая что такое зеркало, стекло, часто не различая живое/ неживое и считая людей животными своего вида?
Я не понял этот вопрос. Кто считает людей "животными своего вида", и что это вообще означает?
"Не понимая что такое зеркало, стекло" эмоции испытывать можно, потому что у людей эмоции были задолго до изобретения этих предметов.
А отчего же мычит бык-то?
Он выполняет несколько программ, следит например за своей безопасностью, для чего ест и наблюдает за обстановкой, а также выполняет программу размножения.
Ну и в чем отличие от человека? В том, что человек об этом умеет рассуждать? Ну так это не про эмоции, а про рассудочную часть.
Цитата из психологического словаря:
Эмоции (от лат. emovere – возбуждать, волновать) – особый вид психических процессов или состояний человека, которые проявляются в переживании каких-либо значимых ситуаций (радость, страх, удовольствие), явлений и событий в течение жизни. Эмоции выступают в качестве главных регуляторов психической жизни и возникают в процессе практически любой активности человека. Эмоции возникли в процессе эволюции: с их помощью животные могли оценивать биологическую значимость явлений окружающего мира и внутреннего состояния организма.
Эмоция, в моём понимании, это аналог, хоть и многократно более сложный, выходного сигнала контура с обратной связью из ТАУ, который доступен сознанию. У животных и у человека тоже этими контурами с обратной связью являются подсистемы мозга которые реализуют инстинктивное поведение связанное с индивидуальным выживанием (питание, избегание опасности и т.д.) и групповым выживанием(размножение, доминирование и т.д.) У ИИ, так как он создан искусственно не будет аналогичного набора псевдоинстинктов (базовых программ), хотя у него должна быть по крайней мере одна такая базовая программа, чтобы он занимался какой-то полезной деятельностью. Дополнительно у нег может быть программа (контур управления) безопасности, которая реализует «3 закона робототехники». Смысл в том, что программа которая является базовой, выполняется автономно постоянно и не может быть выключена. Возможна некоторая иерархия таких программ. Исходя из этого не имеет смысла вопрос, как нам добавить в ИИ эмоцию (выходной сигнал) без соответствующего контура управления (псевдоинстинкта). И не имеет смысла противоположная постановка задачи. У нас есть ИИ решающий прикладные проблемы и оборудованный контуром безопасности (3 закона робототехники) и контуром оценки полезности для оператора. Как нам прикрутить к нему эмоции? Никак. Этот ИИ уже способен испытывать две псевдоэмоции «полезность», «опасность». Но это не похоже на человека. Скопируйте все, бесполезные роботу для решения задач, человеческие/животные инстинкты, будет похоже на человека/кошку/собаку. Может как-то попроще? Да. Прикрутите лицо, динамик, две руки, хвост и программу имитации чесловеческих/собачьих эмоциональных реакций.
А по поводу природы эмоций с точки зрения нейробиолога, можно прочитать статью в рецензируемом журнале. Статья в Википедии «Инстинкт», ссылка №7 — Joseph LeDoux. Rethinking the Emotional Brain.
Интеллект находит противоречия в логично выстроенных суждениях и высказывает другому интеллекту. У того от противоречия либо проявятся эмоции, либо он так и останется в недоумении. Не пятый ли это шаг или же часть четвёртого?
Эволюция интеллекта: зачем роботам эмоции