Комментарии 32
Прекрасная статья, четко, тема раскрыта, побольше бы таких на хабре
Спасибо за статью! Очень классно все разложено.
Странное набобдение: я ощущаю лёгкий эффект зловещей долины рядом с людьми, имеющими большое количество бодимодификаций.
Из теста статьи мне показалось, что на графике по оси У откладывается человеческая симпатия, а не прадоподобность. Человекоподобность - это разновидность правдоподобности. Поэтому показанного эффекта не может наблюдатьсч по определению.
Интересно было бы узнать про метрики или методики измерения этой самой симпатии или прадоподобности.
Люди, особенно дети, боятся трупа не из-за схожести с живым человеком а, я думаю, а по целому комплексу причин, возможно индивидуальных.
Видно, что авторы проделали большую работу и сами убеждены в изложенных результатах. Снимаю шляпу. Но меня статья не убедила. Боюсь, что «Зловещую Долину» находят только те, кто верит в её существование.
Согласен.
Разумеется все это субъективные оценки, если кто-то в комментариях (в других) пишет что ему было неприятно на другого человека (назовем объект) смотреть потому что Х (и далее дефекты, протезы, смена внешности и т.п.), так это от ожиданий-должествований этого субъекта "тот другой (объект) должен быть Y, Х не равен Y, следовательно тот объект плохой". При этом полно людей с дефектами генетическими, включая красоту \ или асимметрию черт лица, включая психические "ненормальности", которые тоже просто не такие как у объекта и не соответствующие его идеалу должествования. Это же проявляется в реальной жизни на реальных людях, значит машины \роботы тут косвенно, т.е. замечены просто потому что стали создавать искусственно, а так это было всегда. Невроз еще называется некоторыми.
По поводу симпатии кстати в книге одной чуть про генетику читал мол человек эволюционно смотрит на симметрию, и неправильная симметрия = болезнь, а этот человек не приятен будет, потому что обычно асимметрия получается изза генетических или эпи-генетических дефектов или при жизни полученных травм. Т.е. это все про здоровье потомства (стоит ли спариваться или нет).
Кстати играя в игру или смотря фильм человек же не ожидает что объект в игре это живой, правда? И не надо предсказывать его поведение или бояться что он что-то игроку сделает, потому что ничего не сделает в принципе с экрана. Значит нельзя оправдать этот эффект тем что человек боиться что ему навердят. В реальной жизни могут навердить и люди - это контр-пример один. А роботы в реальной жизни скорее не навередят потому как у них программа. А могут и навредить реальные люди. Т.е. тут 4 варианта человек\робот может\нет навердить. Человек сам себе страхи выдумал. А на экране тем более не навередят.
Основное не сказано - как добиться исчезновения эффекта в играх (мне как разработчику игр интересно). Вот у меня фентези игра, там похожие на людей маги, и что люди их будут бояться? Потому что похожи на людей? А какие у смотрящих ожидания?
Интересно посмотреть исследования "зловещей долины" на примере сексуальных впечатлений. (Идет же развитие направления сексботов. От нарочито мультяшных (анимеподобных) и явно-механических до максимально реалистичных. Или на примерах лиц "инопланетян" из фильмов, добавив разные ступени развития людей, вплоть до человекообразных обезьян. Естественно, рассматривая во всех случаях только лица.
Много позже я стал понимать, что ощущение жуткой фальшивости деда Мороза было настоящим проявлением эффекта «зловещей долины».
А настоящего где видели?
"Я попробовал поэкспериментировать с сайтом «ThisPersonDoesNotExist» и уже после восьмого кряду обновления страницы получил вот такое женское лицо"
Ну не знаю, как по мне на фото обычное лицо и никаких отклонений я не вижу.
Зашел сам на сайт, пролистал с сотню вариантов и вообще никаких отклонений не увидел, занятный ресурс. Что интересно я не заметил ни красивых ни уродливых лиц, возможно сетка генерирует лица с пика той самой, упомянутой, кривой Байеса.
PS еще характерный момент: видео с девушкой-андройдом я видел лет 5 назад и тогда ощутил ту самую "зловещую долину", но сейчас такого чувства не испытал. Осторожно предполагаю, что наш последний культурный пласт подготовил нас к нормальному восприятию таких вещей и в дальнейшем такая грань будет размываться все больше, когда мы с детства будем взаимодействовать с такими "нездоровыми людьми".
Интересно, я на thispersondoesnotexist обычно замечал проблемы с ушами и волосами. Сейчас ситуация сильно лучше чем ранее, но всё ещё проблемы встречаются.
А уж если попадется кадр с "несколькими" людьми, то там полный атас начинается из сверхранних версий gan-ов )
В применении к интеллектуальным агентам и систем ИИ разрабатываются специальные тесты агентности.
Зловещая долина похожа на боязнь трупов. Если видишь мертвого сородича, значит рядом может присутствовать опасность.
Хорошая статья, спасибо.
Было бы интересно почитатать такие же исследования про отношение к роботам других форм, к которым у человека изначально фобии и неприятие. В форме насекомых, арахноидов, серпентоидов. И четвероногих типа Спота.
испытывал отвращение и настороженную злость к деду Морозу, поскольку примерно в семь лет прочел сказку Евгения Шварца «Два брата»Точности ради можно отметить, что в этой сказке речь не про деда, а про прадеда. Который деда называет слишком добреньким.
Зато какой он фактурный. Спасибо, кажется, еще не встречал в онлайне тех, кому попадалась эта сказка.
портрет ярко демонстрирует как неискренность, так и болезненность, которые кажутся ключевыми составляющими эффекта зловещей долиныК слову, «зловещая долина» нуждается в декомпозиции, а то под этим термином смешивают слишком разнородные процессы, каждый из которых может порождать недоверие или отвращение. «Долина» — это лишь частный случай "жуткого". Границы именно «долины» опираются только на первые два пункта из следующего списка примеров:
1. В чертах явно неживого проскальзывает намек на присутствие живого.
2. В явно живом угадывается что-то неестественное.
3. Черты уродливости — особенно при неудовлетворенных эстетических потребностях.
4. Черты болезни или травмы, вид смерти — особенно при чрезмерной симпатии или эмпатии.
5. Нарушение картины мира — причина останавливающей эмоции страха.
6. Обманутые ожидания — именно сюда относится фальшь сценарная или вызванная неумелостью актера, в роли персонажа, которому принято доверять.
7. И другие.
Несколько видов страха (торможение, тревоги, прогнозы), несколько видов неприятия (физиология, социальное, оценочное), несколько видов недоверия (внешнее, внутреннее, ценности) — разнородные процессы местами пересекаются в симптомах и местами порождают друг друга, но отнюдь не все относятся к «долине».
Всё хорошо, кроме пессимизма в заключении.
Дело в том, что не учтён ключевой, на мой взгляд, фактор, который уничтожает проблему почти полностью: дело в том, что не только облик роботов будет видоизменяться для лучшего восприятия человечеством, но и человеческое общество будет привыкать к тому, как выглядят роботы.
Даже если заморозить вид роботов на "дне" "зловещей долины", через некоторое время они перестанут казаться "дном".
Если мы говорим о детях, становящимися взрослыми, то их адаптация к виду роботов, при условии что этих роботов вокруг будет много, мне кажется очевидно вытекающей даже из обсуждаемой статьи: "зловещая долина" характеризуется тем, что объект почти привычный, но не обладающий некоторыми важными характеристиками. У маленьких детей феномен "зловещей долины" не наблюдается, он не является имманентным. Для детей же, вырастающих в окружении роботов, они будут привычными объектами, и никогда так и не попадут в "зловещую долину".
Но вероятно, что и взрослые вполне адаптируются. Когда я раздумывал над этим вопросом, я немного посмотрел (поверхностно, на форумах) динамику восприятия любителями сериалов (фильмов или мультфильмов) новых поколений этих сериалов или других существенных изменений: подмена главного героя, смена рисовки или стиля и т.п. Вначале прослеживается та самая "зловещая долина" - вроде как почти привычный герой/герои, мир, но вот что-то немного не так, это раздражает. Но потом люди привыкают, и даже многие из тех, кто сначала ругался, начинают говорить, что стало лучше. Мне это кажется достаточно близким примером адаптивности восприятия.
У меня есть ещё одно наблюдение - это восприятие инвалидов, больных людей. В России (по крайней мере, в Петербурге и Москве) явно заметные инвалиды в публичных местах не слишком часто попадаются. Но вид человека с физическими недостатками вызывает заметную реакцию - люди отводят взгляд, у людей возникают гримасы (разные, от жалости до брезгливости). И здесь явно прослеживается как раз классическая "зловещая долина" - почти здоровый человек, но не совсем. В США (по крайней мере, в Нью-Йорке, Лос-Анджелесе и Вашингтоне) инвалидов и больных людей на улицах, в публичных местах довольно много, и они не вызывают у окружающих заметной реакции. И это хорошо коррелирует с тем, что в США над интеграцией инвалидов в общество начали работать раньше. Я не находил готовых работ, но довольно хорошо понятно, как провести исследование на различия "зловещей долины" в отношении инвалидов в разных странах, даже просто по Интернету, с фотографиями. Думаю, если вопрос встанет действительно серьёзно, подобные исследования проведут.
Наконец, люди, которые регулярно видят трупы, перестают испытывать по отношению к ним сильные чувства (патологоанатомы, криминалисты).
Поэтому я не думаю, что феномен "зловещей долины" окажет существенное влияние на робототехнику. Связанные с ней проблемы (да и то умеренные) я прогнозирую только в ходе достаточно короткого переходного периода.
У маленьких детей феномен «зловещей долины» не наблюдается, он не является имманентным.Подскажите, пожалуйста, на чем основано данное утверждение?
восприятие инвалидов, больных людей«Долина» не включает в себя все возможные случаи страхов и неприязни.
Как я написал: "вытекающей даже из обсуждаемой статьи" - там же приводится эксперимент с детьми.
Цитата из обсуждаемой статьи
В 2017 году опыт по оценке эффекта «зловещей долины» также был проведен на детях; его поставили Генри Уэллман и Кимберли Бринк из Мичиганского университета... Это исследование продемонстрировало ярко выраженные отличия между детьми до девяти и старше девяти лет. Дети до девяти лет сообщили, что роботы очень похожи на людей и совсем не страшные. Эти данные – не в пользу о том, что зловещая долина может быть связана с «болезненностью» внешнего вида, поскольку подобный страх должен был эволюционно закрепляться уже у маленьких детей. С другой стороны, дети старше девяти лет говорили, что роботы, похожие на людей, гораздо неприятнее роботов, похожих на машины.
"Зловещая долина" не включает в себя, конечно же, все возможные случаи страхов и неприязни, но я говорю именно о тех случаях, которые вполне включаются. За её пределами находятся здоровые люди, а вот большой класс инвалидов - с руками-протезами (этот пример даже на графике в обсуждаемой статье изображён), с нарушениями походки, мимики и прочими наблюдаемыми отклонениями попадает аккурат в "зловещую долину".
Да Вы и сами их упоминаете.
Цитата из Вашего комментария
2. В явно живом угадывается что-то неестественное.
3. Черты уродливости — особенно при неудовлетворенных эстетических потребностях.
4. Черты болезни или травмы, вид смерти — особенно при чрезмерной симпатии или эмпатии.
Если же Вы просите более железных доказательств моего мнения, то буду вынужден разочаровать - это всего лишь мои поверхностные размышления и наблюдения, которыми я поделился.
вытекающей даже из обсуждаемой статьиСпасибо, я проглядел при беглом чтении.
Да Вы и сами их упоминаете.Я как раз показывал разнообразие, из которого не всё попадает в «зловещую долину».
При взгляде на инвалида могут возникать очень разные неприятные переживания, десяток примеров навскидку:
1. Эмпатия — автоматически примеряю на себя, мне не нравится.
2. Тревога — не хочу чтобы близких постигла та же участь.
3. Страх — я не знаю, что мне сейчас делать.
4. Стыд — общество требует помогать, я не хочу, плохой я.
5. Сопротивление навязываемым ценностям — я против ложной терпимости, пусть не выпячивает свою слабость.
6. Установки — считаю, что благотворительные организации помогают откладывать настоящее решение проблемы на уровне государства.
7. Жадность — этого человека труднее использовать.
8. Еще одна жадность — социальные деньги не резиновые.
9. Ухудшение настроения — очередное напоминание о том, что в мире есть войны и болезни.
10. Осторожность — людям неприятны напоминания об их недостатках, вежливому мне лучше отводить взгляд.
Нельзя относить все возможные реакции к одному из эффектов восприятия.
IMHO, к зловещей долине ближе боязнь привидений, а не восприятие чужих болезней.
Совсем недавно, в октябре 2021 года, вышла интересная статья американских ученых, демонстрирующая, что GAN по-прежнему регулярно ошибается в воспроизведении зрачков.Интересно, с чем связана проблема зрачков?
Ведь геометрически форма очень простая — круг/овал, анатомически они четко обособлены, визуально не смешиваются с фоном — откуда проблема возникает? Ведь форму лица реалистично вырисовывает, а там параметров на порядки больше и они не четкие.
С тем, что деталь мелкая и неконтрастная, в Loss это получаются копейки. Подмешайте в функцию ошибки детекцию формы зрачка -- всё выправится.
В недалёком будущем предполагаю появление статьи написанной ИИ - "Зловещая долина и другие нейро-когнитивные искажения при общении с людьми. Методы противодействия и исключения" ;)
Тут не хватает пьяного человека. Где бы он расположился? Между зомби и здоровым человеком?
Публикации
Зловещая долина: terra incognita, в которой расставлены нейронные сети