Comments 16
Армия тоже - институт социализации, так что военные роботы на своём месте
Все эти страхи у metazoa сформировала слепая эволюция. При искусственном проектировании, мне кажется, можно заложить другие страхи, типа "страх нажатия вон той красной кнопки" или даже "вон той оранжевой" с приоритетом над страхом смерти и остальными
Мне кажется, нельзя сказать, что процесс эволюции так уж слеп. Каждая актуальная инстинктивная программа (в том числе и генераторы страха) давала реальное преимущество группе наших предков перед вымершими родственниками.
Кроме этого сами генераторы страха - программы достаточно всеобщие. В вашем примере (страха нажатия красной кнопки) это скорее уже результат работы рефлекса (или фобии), который в свою очередь уже базируется (например) на страхе смерти.
у человека безусловно, у нас нет врожденного страха красной кнопки, но если мы создаем свой искусственный интеллект (и при этом понимаем что мы делаем и контролируем процесс разумеется), то страх красной кнопки может быть первичным, а страх смерти может при этом вовсе отсутствовать (особенно если ИИ связан с сетью и непрерывно бэкапится, для него смерти фактически не существует, он знает, что сможет возродиться и получить наказание - красную кнопку
и при этом понимаем что мы делаем и контролируем процесс разумеется
Как раз ТЭИ и ее популяризация и предназначена для того, чтобы мы начали понимать, что мы делаем и, может даже, и контролировать процесс.
особенно если ИИ связан с сетью и непрерывно бэкапится,
То что ИИ бекапится никак не отменяет страх смерти. Всегда что-то может пойти не так. Да и у человека, например, вера в реинкарнацию и лучшее перерождение в богатой семье тоже страх смерти не отменит.
Применять к ИИ психологические понятия, которые мы еще и для человека не очень понимаем, непродуктивно. Надо определить, что такое страх, для начала.
Возможное определение - эмоция, направленная на избегание ситуаций и поведения, за / в которых субъект будет наказан / пострадает.
То есть это просто обучение с негативным подтверждением.
Техническое определение эмоций (в том числе и страха) было дано в предыдущей статье “Эволюция интеллекта: зачем роботам эмоции”, я не стал его повторять. Согласно излагаемой в серии статей `ТЭИ` страх - это посредник между инстинктивной программой действий, которая строго детерминирована, и индивидуальным поведением со свободой воли. По мере того, как инстинктивная программа определяет близость события, на которое она нацелена, она увеличивает потенциал продуцируемого ощущения и в предельном выражении (тотальном ужасе) может полностью ломать свободу воли.
Все это легко проверить лично, изучая, например, проявление страха высоты при занятии альпинизмом. По мере увеличения высоты при подъеме по вертикальной стене (если захотите экспериментировать, то только в страховке и с только инструктором) ощущение страха высоты плавно нарастает (если, конечно, его мониторить постоянным вниманием). Если же, например, преодолеть страх высоты и продолжить подъем, то на вершине это ощущение страха сменится его парой - ощущением эйфории от преодоления себя.
Однако, есть люди лишенные страха высоты. Похоже, что эта программа генератора страха у них отключена. А еще есть люди с усиленным страхом высоты, которые ощущают дискомфорт даже на наклонных поверхностях, а на вертикальные стены просто смотреть не могут.
Таким образом, можно легко убедиться, что сам по себе феномен страха не является обучением с негативным подтверждением. Но его проявления действительно могут быть использованы для обучения и/или тренировки. Например, для тренировки способности преодоления страха.
Бросил на моменте когда автор заговорил про страх, автор разбираться в теме на уровне бабушек на лавочке и такого же уровня заключения, забавно что вся нужная информация легкодоступна (я не гуглил специально эту тему, просто люблю читать и как-то набрался беграунд) может я не прав, но скорее всего не:)
Не могу не воспользоваться отличным примером проявления еще одного страха, страха знакомства с реальным механизмом внутреннего устройства. Похоже, что есть некое проявление на инстинктивном уровне запрета на знания собственного устройства, что-то вроде защиты от несанкционированного вмешательства в рабочие процессы.
Любопытно, что страх знания внутреннего устройства обычно рационализуется в виде глубоких сомнений в компетентности излагающего их автора. В то время, как любое знакомство с ложными знаниями о внутреннем устройстве, не имеющими реальной угрозы вмешательства в отлаженные процессы, имеет положительное поощрение в виде восхищения глубокими знаниями автора.
Таким образом, зная о механизме работы этого инстинкта можно научиться легко отличать любую ложную или истинную информацию о внутреннем устройстве нашего "софта".
Не стоит сомневаться, что уже в недалеком будущем появятся высокоинтеллектуальные, а может и разумные роботы.
Поясните, пожалуйста, почему не стоит сомневаться, и как недалеко это будущее.
Это называется тренд. Мы видим, что софт постоянно усложняется и начинает делать то, что еще недавно считалось невозможным: возьмите хоть гугль-перевод: он работает каждый год заметно лучше. Поэтому, ничто нам не мешает сделать экстраполяцию и представить еще более сложный софт.
Что же касается сроков, то тут мне лично сложно сказать, произойдет ли это через 10 лет или через 20. Кстати, вполне возможно, что тренд переломится и через 20 лет мы только будем вспоминать чудеса сегодняшнего времени.
А может вообще не произойдет:
https://www.nature.com/articles/s41599-020-0494-4
Why general artificial intelligence will not be realized
Лично я считаю, что в 2030 этого не произойдет, а в 2050 - 50/50.
Вы уже социализируете роботов словно наделили их достаточной для этого психикой.
Эволюция интеллекта: социализация роботов с ИИ