Семейный фильтр Яндекса дал сбой

    imageНеделю назад, развлечения ради, решили с коллегой помучить «семейный фильтр» Яндекса на предмет надёжности и нравственности… И то, что обнаружили — мягко говоря, нас очень удивило!

    Семейный поиск дал сбой на Яндекс.Картинках.
    В режиме «Семейный поиск» — при правильном наборе слов «несемейной» тематики — поисковик картинок работает нормально и отказывается выдавать нецензурные изображения. Но стоит сделать опечатку в наборе «табуированной лексики» – как заботливый поисковик тут же автоматически исправляет ошибку и выдаёт тысячи картинок (далеко несемейного содержания) по исправленному запросу!

    Решив потестировать чуть глубже, мы пришли к следующим выводам:
    1. Некоторые опечатки в матерных и иных «недопустимых» словах автоматически исправляются, и поисковик выдаёт картинки на искомые слова.
    2. Баг работает только на опечатках, и не распространяется на типичные безграмотные ошибки в написании.
    3. Большинство опечаток (в недопускаемых «Семейным поиском» словах) автоматически исправляются не на маты, а на более частотные обычные слова (например, «поезда»). Однако есть варианты опечаток – которые всё таки дают на выходе «несемейный» результат.

    Чтобы не быть голословным и зря на Яндекс бочку не катить, привожу пару скриншотов.

    Вот мы ищем «несемейное» слово и, как полагается, Семейный фильтр даёт отпор:
    image


    … а вот мы ищем с ошибкой, Яндекс услужливо исправляет и выдаёт жутко-несемейный контент:
    image

    Насчет приведенного здесь примера: подчеркну — дело не в том, нужно ли знать детям такие слова (это отдельный разговор), а в том, что сам Яндекс при безошибочном наборе такие слова считает недетскими, и ничего не показывает. А вот благодаря багу — показывает, и отнюдь не рисунки из учебника анатомии (проверьте сами). Да и само слово «влагалище» (и даже картинки на него) — это, конечно, безобидные детские шалости по сравнению с тем, что выдает Семейный поиск в других случаях, на другие слова. Проникнуться можно вот здесь у моего коллеги — на Хабре не стал выкладывать эту красоту по морально-эстетическим соображениям.

    PS. На момент публикации статьи Яндекс уже всё исправил (всё таки компания очень оперативно и здорово работает, всем бы так) и остаётся только гадать — был ли это старый косяк или же это был временный баг, на который мы случайно наткнулись.
    Share post
    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More
    Ads

    Comments 73

      +98
      Вот мы ищем неприличное слово…


      А можно в целях повышения образованности узнать, как давно слово «влагалище» стало неприличным?
      Еще очень интересуют такие слова как «легкие», «почки» и «желудок» :)
        0
        Я не гуманитарий, поэтому не знаю/чувствую эту тонкую грань к сожалению.:)
        Мы искали с ошибками реальные маты, а это пример с самым безобидным словом, дабы не нарушать правила Хабра.
        PS. Исправил «неприличное» на «несемейное» ;)
          +67
          Я вас попрошу! Какая же семья без влагалища?! Недетеское слово — это да )
            –19
            Какая-какая… европейская.
              +15
              Вам полагается
              image
                +4
                Это только в том случае, если там действительно подразумевалась шутка.
          +9
          Подозреваю, что фотография легкого (лучше курильшика), почек или желудка вызовет у ребенка не меньший шок чем фото влагалища. (исключительно оценка на основе себя в детстве, наверно дети медиков более подготовлены) Поэтому, как мне кажется, яндекс делает всё верно. (нет я не проверял, выдает ли яндекс фото органов в семейном поиске)
            +10
            Подозреваю, что фотография легкого (лучше курильшика)

            Позвольте мне теперь повысить образованность вам. Легкие курильщика ничем не отличаются от легких некурильщика, о чем неоднократно говорили патологоанатомы. Определить по легким, курил человек или нет, в общем случае, если и возможно, то крайне затруднительно.

            А касательно шока, с детства видел и легкие и печень и почки (естественно, не человеческие) не на картинке а в натуре. У мамы на кухне. Шока не испытывал. А картинки органов в учебниках школьных в подробностях нарисованы.
              +1
              Я не патологоанатом, и спорить не стану, тем более, что, я надеюсь, мне никогда не придётся вскрывать кого-то и определять по легким или другим частям тела, чем человек занимался :) Значит я стал жертвой агрессивного макретингового заблуждения, которое упорно пропихивают в массы.
                +4
                А не могли бы вы повысить образованность и мне и привести ссылку, а лучше две-три, где можно почитать про то, чем отличаются легкие курильщака? Получается пропаганда антикурения врет? Буду признателен.
                  +7
                  Несколько лет назад назад озадачился этим вопросом, нагуглил несколько профильных форумов. Ссылок не сохранилось, к сожалению.
                  Причем, по тону ответов было понятно, что самих докторов уже порядком достал этот вопрос.

                  Вот, первое что нагуглилось, форум судмедэкспертов, дальше искать лень:
                  www.sudmed.ru/index.php?showtopic=15355

                  Получается пропаганда антикурения врет?

                  Формально, не врет. На страшных фотографиях, подписаных как «легкие курильщика» вполне себе могут быть легкие курильщика. Только вот обычно «забывают» уточнить, что это легкие курильщика, пораженные раком и то, что рак легких может быть и у некурящего человека.
                    0
                    А еще забывают сказать, что курение вызывает рак легких не в 100% случаев. Скорее коньки отбросить можно от эмфиземы или проблем с сердцем чем от рака легких. Но вот только сложно на картинке объяснить связь сердца и курения, потому и прибегают к простым и доступным метафорам — курение — это рак.
                      +1
                      Ну будем честны 90% рака легких вызывает как раз курение
                      «В развитых странах почти 90 % случаев смертельного рака лёгкого вызваны курением. » Peto R Mortality from smoking in developed countries 1950–2000: Indirect estimates from National Vital Statistics. — Oxford University Press, 2006. — ISBN 0-19-262535-7.
                      «Среди курящих мужчин, пожизненный риск развития рака лёгкого составляет 17,2 %, среди курящих женщин — 11,6 %. Этот риск значительно ниже у некурящих: 1,3 % у мужчин и 1,4 % у женщин.»
                      Villeneuve, PJ; Mao Y (November 1994). «Lifetime probability of developing lung cancer, by smoking status, Canada». Canadian Journal of Public Health 85 (6): 385–388. PMID 7895211.
                      (да из вики)
                  0
                  > Позвольте мне теперь повысить образованность вам. Легкие курильщика ничем не отличаются от легких некурильщика, о чем неоднократно говорили патологоанатомы.
                  Это вы с какими патологоанатомами говорили? Знакомые мне врачи говорят, что отличаются ещё как. (Вскрытие все проходят.)
                    0
                    Выше пруф.
                      +2
                      Зашёл по ссылке. Согласитесь «Легкие курильщиков ничем не отличаются от легких жителей больших городов» совсем не то же самое что «Легкие курильщика ничем не отличаются от легких некурильщика», особенно до запрета курения в общественных местах. (Обсуждение 2011 года.)
                        –1
                        Запрет курения в общественных местах стал только более досаждать некурильщикам, ИМХО. Я сталкиваюсь с курильщиками по большей части только на работе. Раньше они курили на черных лестницах, и я там никогда не бывал. Теперь же он курят перед входом в БЦ, и чтобы туда попасть, нужно глубоко вдохнуть заранее и пройти через это облако.
                          +2
                          Вход в БЦ — это общественное место и курить там нельзя. Повесьте бумажку с напоминанием, что за курение штраф (1500р вроде). Не поможет — оставьте заявление в органах.
                            0
                            Вы ошибаетесь. Запретили курить не во всех общественных местах, а только в некоторых.
                              0
                              Там есть нюанс. Вроде как запрещено курить в 15 м от входа. Курят примерно в 15 м. Но стоят на тротуаре с обоих сторон от входа, то есть полюбасу мимо не пройдешь.
                                0
                                на открытых территориях на расстоянии менее 15 метров от входов в помещения железнодорожных вокзалов, автовокзалов, аэропортов, морских и речных портов, станций метрополитена

                                Про бизнес-центры в законе не написано.
                                  +1
                                  Короче бороться с этим бесполезно. Хотелось как лучше, а получилось как всегда.
                                    +3
                                    Хотелось как лучше, а получилось как всегда.

                                    Если бы хотелось как лучше, идея состояла бы в том, чтобы изолировать курящих от некурящих. Например, разрешили бы закрытые курительные комнаты в ресторанах, изолированые залы для курящих в кабаках, куда народ приходит пить, закрытые курилки в учреждениях и аэропортах. Если бы хотелось как лучше, ужесточили бы контроль за исполнением запрета продажи алкоголя и табака несовершеннолетним.
                                    А хотелось, судя по всему, загнобить курильщиков и стравить курящих и некурящих лбами.
                                      0
                                      А как же тогда компаниям с курящими и некурящими людьми? Им теперь за одним столом в ресторане не посидеть без «порчи лёгких» некурящим?
                                        +1
                                        Почему? Смешанная компания идет в некурящий зал, если кто-то категорически возражает против табачного дыма. Но такое редко бывало, т.к. большинство понимает, что вред от «порчи легких» в такой ситуации очень сильно преувеличен. Точнее, совсем не доказан.

                                        Мне больше интересно, что сторонники ЗОЖ делают в кабаках, ориентированых на потребление алкоголя. В которых теперь нельзя курить, но все еще можно пить :)
                                          0
                                          Не все в кабаки ходять ради потребления алкоголя.
                                          Некоторые, например, непрочь неплохо покушать ;)

                                          Да и вообще алкоголь — яд и зло. Можно несколько раз в год выпить по случаю, но не более.
                                          С сигаретами сложнее…
                                            0
                                            Не все в кабаки ходять ради потребления алкоголя.

                                            Я же специально написал про кабаки, ориентированные на продажу алкоголя (читай, «пабы»). В таких особо покушать нечего, кроме закусок :)
                            –1
                            Согласитесь «Легкие курильщиков ничем не отличаются от легких жителей больших городов» совсем не то же самое что «Легкие курильщика ничем не отличаются от легких некурильщика»

                            Не соглашусь. Так бы и писали: «легкие жителя больших городов».
                            К тому же, вот эти утверждения вас не смутили?
                            Нет таких легких у курильщиков.

                            Я не знаю специфических признаков, которые позволили бы отличить легкие курильщика от легких некурящего человека

                            Я отличаю курильщика по жёлтым пальцам и зубам. Это тоже не очень признаки, но лучше чем пресловутые «лёгкие курильщика».


                            особенно до запрета курения в общественных местах.

                            А это тут вообще при чем?
                        0
                        Так и картинки влагалища с пенисом тоже нарисованы в школьных учебниках.
                          0
                          А я что написал? :)
                        +2
                        фотография легкого (лучше курильшика), почек или желудка

                        Так с недавних пор любой ребенок может увидеть их на случайно попавшей в поле его зрения пачке сигарет)
                        0
                        Прилично — Как полагается, как подобает.
                        1. Оценка какой-л. ситуации, чьих-л. действий как соответствующих правилам приличия.
                        2. Оценка чего-л. как такого, что следует, подобает, приличествует делать.
                        Т.е. правила приличия, это субъективная вещь.
                        Для меня это слово неприлично, потому что я не стал бы его произносить, допустим при коллегах, в разговоре с родителями, сыном или с друзьями и вообще не стал бы. То факт, что слово является медицинским термином, не делает это слово приличным. Мне кажется выражение — «Такой код можешь засунуть себе в анус!», не стало более приличным от того, что мы заменили грубое слово «ж.па», на медицински термин.
                        Хотя в контексте медицинского учебника такое слово, может быть приличным.
                          +5
                          Жеманство, жеманное поведение — действия, лишённые простоты и естественности; манерность ;)

                          Для меня это слово неприлично, потому что я не стал бы его произносить, допустим при коллегах, в разговоре с родителями, сыном или с друзьями и вообще не стал бы.

                          А как вы будете называть влагалище? «Бутон лотоса» или «эта штучка», когда вам нужно будет объяснить детям, откуда люди появляются?

                          Мне кажется выражение — «Такой код можешь засунуть себе в анус!», не стало более приличным от того, что мы заменили грубое слово «ж.па», на медицински термин.

                          Вы путаете кислое с красным. Выражение: «Такой код можешь засунуть себе в <любое слово>!», — будет являться грубостью, в любом случае, какое бы слово вы не употребили, хоть «холодильник». «Холодильник» от этого неприличным словом не станет. А вот во фразах: «влагалище — это внутренний половой орган женщины», «массаж простаты делается через анус», ничего «неприличного» или противоестественного нет, имхо.
                            –3
                            Жеманство, жеманное поведение — действия, лишённые простоты и естественности; манерность ;)

                            Ну вы же не справляете нужду на улице, потому что это естественно. Человек вообще во многом ведет себя не естественно, сам придумал себе кучу сложностей и сам их соблюдает. Такие уж мы «испорченные культурой» приматы.
                            А как вы будете называть влагалище? «Бутон лотоса» или «эта штучка», когда вам нужно будет объяснить детям, откуда люди появляются?

                            Никак, я говорил — «Берутся из животика». Я не понимаю зачем детям нужны анатомические подробности. А Вы своему ребенку в возрасте 4х лет говорили/будете говорить — из вл… ща? А потом объяснять что это такое?
                            «Такой код можешь засунуть себе в <любое слово>!», — будет являться грубостью, в любом случае

                            Грубостью да. Тем не менее, я могу себе позволить произнести грубое выражение «Такой код можешь засунуть себе в личный репозиторий!», как эмоциональную реакцию на ужасный код, но не смогу его произнести с медицинским термином.
                              +2
                              Ну вы же не справляете нужду на улице, потому что это естественно.

                              В вашем мире существует только черное и белое?

                              Никак, я говорил — «Берутся из животика».

                              Папа, в животике нет дырки, откуда я вылез? Почему я вылез из животика мамы, а не из твоего?

                              Я не понимаю зачем детям нужны анатомические подробности.

                              А что в этом такого? Рано или поздно вам придется это объяснить, особенно, если ребенок девочка. Если сами стесняетесь, есть специальные книги для детей на эту тему.

                              Тем не менее, я могу себе позволить произнести грубое выражение «Такой код можешь засунуть себе в личный репозиторий!»

                              Приплыли. А я в ответ могу послать на мужской_половой_член прямым текстом в ответ на подобную грубость. Очень странно слышать подобное от человека, который от слова «влагалище» краснеет. Это уже не жеманство, а обыкновенное лицемерие, имхо.
                                +3
                                Собственно, я так и не понял, чем «влагалище» и «анус» от «аппендикса» и «селезенки» отличаются с точки зрения приличия/неприличия?
                                  +1
                                  Разница в том можете ли Вы при общении с родителями или коллегами употреблять это слово или попытаетесь его заменить. Если вы свободно его употребляете — то для Вас нет, а есть люди для которых это не допустимо — значит неприлично.
                                    0
                                    Ну можно, на самом деле, ещё вспомнить, что многое зависит от контекста. Темы бывают разные, и не важно какого профиля ваши коллеги — когда вы обсуждаете что-то определённое, то имеет смысл называть это что-то определённое его же названием. Другой вопрос, что многие в большинстве случаев не начнут с коллегами ни с того ни с сего обсуждать влагалище, селезёнку и прочие органы.
                                    Могут быть разные ситуации, иногда маленькому ребёнку лучше что-то объяснить в более простой форме (в более простой для ребёнка, родителю будет только сложнее )) ), но на то они и ситуации, что иногда можно что-то упростить/заменить, а иногда это просто не имеет смысла. В разговоре с врачом, например, вы вряд ли станете подменять слова, а потом ещё и говорить всем какой этот врач невоспитанный и как много говорит неприличных слов.
                                    Контекст, ситуация… Какие-то темы просто затрагиваются реже в силу специфики окружения, работы и т.д., из-за чего могут казаться неподходящими, но не более того…
                                0
                                del
                              +1
                              неприличное не само слово, а то, что в итоге получаем
                              +18
                              Я конечно понимаю, что речь идет о защите неокрепших умов, но с каких пор слово «влагалище» стало нецензурным и появилась необходимость замыливать его на картинках? Я бы понял если б это было обсценной лексикой вроде «п***а» или «х**», но никак не биологический термин.
                                +4
                                Слово может и нет, но выдача определённо — да, если это касается детей.
                                  +4
                                  Т.е девочкам нужно запретить смотреть на себя без трусов?
                                    +1
                                    Я же говорил не про запрос, а про ту выдачу, которую обычно поисковик выдаёт по такому анатомическому слову и зачастую выдача не так безобидна как ребенок может увидеть в зеркале.
                                      +2
                                      Проверил, у гугла кстати выдача лучше, адекватнее и «безопаснее»
                                    0
                                    Вы думаете дети с неокрепшими умами читают гиктаймс?
                                  +2
                                  Простите, но мне вспоминается лишь один случай освещённый в печати: какой-то парень предложил вирт собеседнице. Та была несовершеннолетней, поэтому испугалась такой ответственности и попросила свою маму подсобить. Мать ужаснулась тем, что её дочуру пытаются онлайн-совратить, и сама от лица дитя занялась виртом с парнем. Потом весь этот перфоманс лег в основу дела и — парень сел по статье «педофилия». Ну да, за то что пересылал взрослой женщине скабрезные фразочки.
                                  Так вот, мой вопрос таков — а что вы хотели увидеть, ухищрённо вводя в поиске «влагалище»?
                                    +1
                                    Вы видимо невнимательно читали заметку.
                                    Мы скармливали «влагалище» и «влигалище» поисковику с включенным семейным фильтром, который по своей сути и логике должен отфильтровывать взрослый контент.
                                    PS. На втором сриншоте кстати я подчеркнул, что включен этот фильтр.
                                      –4
                                      Вы искали «влагалище» со включенным семейным фильтром. Вы нашли его. Где тут несемейный контент не совсем понятно, это орган не хуже уха или пальца.
                                      Так как яндекс это всё же не «спутник», а настоящий поисковик — то и ожидать, что кто-то будет определять всю выдачу по всем запросам и картинкам не стоит. Это делают эвристические алгоритмы, которые никогда не обходятся без ошибок первого и второго рода.
                                        +8
                                        Не совсем так, всё таки…
                                        Попробую объяснить:
                                        1. При запросе «влагалище» — поиск не выдаёт ничего (когда включен семейный фильтр), см. первый скриншот.
                                        Значит всё таки Яндекс считает, что картинки на это слово нужно фильтровать.
                                        Почему — вопросы к Яндексу, хотя я с ним согласен.
                                        2. При запросе «влигалище» Яндекс сам исправляет на «влагалище» и (опять же при включенном семейном фильтре) показывает кучу порно-картинок. Не анатомические схемы, а конкретное порно.

                                        На мой взгляд наблюдается баг, который кстати работал практически для любого неприличного слова, и который оперативный Яндекс уже пофискил.
                                    +9
                                    Это не баг, а фича, очевидно же!
                                      0
                                      Аналогично на одном из Yac, вроде, спросили про «голый лес». В такой формулировке судя по всему поправили, а «лес голый» — так все и осталось.
                                        +3
                                        Но ведь все же мы и так знаем что… Internet is for porn!
                                          +5
                                          кстати влагалище еще бывает в… пальцах, и не только! о_0
                                            0
                                            Ждем пост о том, что новая бага яндекса не дает будущим врачам с детства изучать суставные влагалища! Через 10 лет отечественная ортопедия развалится! )
                                              +4
                                              +14
                                              Мне лет в 6-7 подарили книгу «Откуда берутся дети» (название не дословное). И там в картинках (не в фотографиях) без цензуры были все органы, как целеком так и в разрез, а также этапы беремености в разрезе. И был в деталях описан половой акт.

                                              Психика в порядке.
                                                0
                                                У меня тоже такая была, но ради интереса зайдите на яндекс и посмотрите, что он выдает на тему влагалища. Это совсем далеко от того, что было в такой книжке.
                                                  0
                                                  Попробовал. Очень много довольно неплохих изображений влагалищ. Среди первых двух страниц только одна картинка отклонялась от тематики и показывала ещё и грудь.

                                                  От того, что будет фотография, а не рисунок, что-то меняется?
                                                    0
                                                    Я вот тоже попробовал и зря. Там в первых рядах такие картинки, что впечатлительным лучше не смотреть.
                                                +15
                                                /пожимая плечами/
                                                Отношение к детям как к хрустальным куколкам, косой взгляд на которых наносит им ужасные психические травмы начали исскусственно насаждать в два-три последних десятилетия.
                                                  –2
                                                  Как вы отоноситесь к Единой Росиии? Если негативно, то значит, тлетворное влияние развратной книжки в детстве продолжает действовать.
                                                    0
                                                    Никак, я даже не знаю кто они.
                                                      0
                                                      Ещё и врёте. Ну точно развратная книжка.
                                                        0
                                                        Это с чего такие выводы?
                                                        Я не интересуюсь политическими двежиниями в России.
                                                          +5
                                                          Если вы не интересуетесь политическими движениями в России, откуда вы знаете, что «Единая Россия» относится к политическим движениям в России?
                                                            0
                                                            Название как бы намекает.
                                                  +21
                                                  Тот, кто ищет порно, найдёт порно.

                                                  Тот, кто ищет влагалище, найдёт влагалище.

                                                  Суть семейного поиска не в том, чтобы по запросу «влагалище» ничего не выдавать. А в том, чтобы по другим, нормальным, детским запросам не выдавать влагалища.
                                                    +1
                                                    Кстати, искал «киска» — пару картинок (не самых, правда, жёстких) пропустило.
                                                      +1
                                                      Мне казалось, что основная задача семейного фильтра — это не пропускать жесть по невинным запросам. Если же ребенок (к сожалению, это только мои теоретические познания...) уже узнал откуда-то про то, о чем ему знать еще рано, то уже никакой фильтр не поможет.

                                                      Only users with full accounts can post comments. Log in, please.