Как «Спутник» включал «Детский режим»

    В конце сентября поисковый портал «Спутник» компании «Ростелеком» выпустил свой браузер для ПК. Как и любой младенец, которому отроду всего три месяца, он теряется на фоне более старших товарищей. И можно только предполагать, каким он станет, когда подрастёт и окрепнет. Однако, как и у каждого младенца, у нашего браузера есть родители. Среди них и наша команда, которая отвечает в проекте за Детский режим. И мы хотели бы рассказать, что и почему мы хотели сделать, что ещё не успели доделать и как планируем развивать проект дальше.



    ИДЕЯ

    В нашей компании, как это бывает в IT, работают в основном люди молодые, семейные, и у многих из них уже есть маленькие дети. Занимаясь семейным фильтром в большом поиске, мы часто слышали просьбы от коллег и наших пользователей: мол, поиск — поиском, но если детей оставлять один-на-один с компьютером, они начинают тыкать в любые попадающиеся ссылки. И, естественно, находят такое… ТАКОЕ, КАРЛ!!! Думается, понятно, какое. Не говоря уж о том, что иногда от этого прекращает нормально работать и сам компьютер.

    Понятно, что в наш век уже написаны сотни программ для родительского контроля и, возможно, ещё больше программ для фильтрации нежелательного контента. Как правило они реализованы либо в виде расширений, программ, контролирующих трафик, или DNS серверов. У каждого из этих решений есть свои плюсы и минусы, особенно для тех, кто уже пытался с ними работать. Объединяет их, как правило, одно — ими мало кто пользуется! Выяснилось, что таких родителей, кто пользовался расширениями, или вообще знает о существовании программ, фильтрующих контент, не просто меньшинство, их можно буквально пересчитать по пальцам.

    ИССЛЕДОВАНИЕ


    Чтобы проверить наши гипотезы и улучшить защитные механизмы наших сервисов, мы обратились к социологам фонда «Общественное мнение». В ходе исследования у родителей, чьи дети пользуются интернетом, спрашивали, что им в Сети кажется безопасным для ребёнка, а что — нет. И результаты показали, насколько наивны бывают взрослые в оценке своих детей. К примеру, родители младшеклассников (до 10 лет) думают, что их дети «в этих ваших интернетах» почти ничем, кроме развлечений, не занимаются. Что, в общем-то, почти соответствует правде. А вот родители детей постарше уверены, что в подростковом возрасте на первое место выходит… учёба. То есть, тинейджер 13-15 лет ночами за компьютером, по их мнению, рефераты пишет. При этом абсолютное большинство — 94% родителей — считают, что взрослые должны следить за тем, какие сайты посещают дети. 49% опрошенных объясняют это тем, что в интернете много вредной информации, не рассчитанной на детей. И при этом (мы добрались до самого главного) только 17% (!) используют какие-то программы, настройки и специальные режимы с целью обезопасить детей.

    В общем, после исследования мы поняли, что ликбез и инструменты защиты нужны не только детям, но и их родителям. Тем более, что создать условия для безопасной работы в сети умеют очень немногие: лишь 12% (!) из опрошенных родителей применяют сетевые фильтры (firewall), 9% используют специальное ПО для родительского контроля, 5% включают семейный или детский режим поиска в Сети, 4% активируют специальный режим от интернет-провайдера. Хорошо хоть антивирус стоит на ПК в 63% семей. Но даже и эта цифра удручает, если честно.

    Изучив все это, мы решили сделать какой-то очень простой механизм, простой и понятный для родителей, не требующий от них никаких дополнительных шагов. Всё чаще в СМИ говорят и пишут о концепции «цифровой гигиены», но она так и останется словами, пока средства для её обеспечения будут сложнее условной зубной щётки. И нам показалось вполне гармоничным перенести инструментарий по защите детского пребывания в сети непосредственно в браузер. Даже не так. Мы решили сделать его неотъемлемой частью браузера. Это оставляет возможность использовать и те технологии, что уже существуют, и даёт большое пространство для реализаций новых инструментов безопасности. Что ни говори, а именно браузер является той самой точкой, через которую ребёнок знакомится с интернетом.

    ПЕРВЫЕ ШАГИ

    Первые шаги для реализации идеи были вполне очевидными. Для начала мы решили сделать отдельными профили для взрослых и детей. Отдельный профиль для ребёнка вещь важная. Посадив себя на место ребёнка, мы поняли, что, как и в реальной жизни, надо подальше убрать от малышей спички, розетки и зажигалки. Поэтому в детском профиле пропали возможности поменять настройки, поставить новые расширения, перейти обратно в обычный режим.



    Сделав отдельный детский профиль, тем самым мы создали для ребёнка отдельное пространство в браузере — «детскую площадку», которую теперь предстояло обставить и обезопасить от разного рода вредных и опасных вещей. Времени на обустройство «детской» было немного, поэтому в первую очередь мы решили воспользоваться наработками поиска. Там давно уже прописался семейный фильтр, переработавший и удаливший из поиска 2 млрд. страниц с опасным содержанием, и тематизировавший страницы по разным категориям — плохим и не очень. Поэтому нам показалось логичным, перенести сделанные наработки из поиска в браузер, и построить на них первый бастион безопасности. Но оказалось, — что нам показалось.



    Подводных камней при переносе было слишком много. Но самая главная проблема заключалась в том, что у поиска и браузера — совершенно разные паттерны использования. Поиск знает только те документы, которые он скачивает и индексирует. А вот браузер — это как раз сродни выходу в открытый космос. Именно тут и кроется дьявол. Ребёнок, нажимая на ссылки, идёт туда, куда они его ведут. В итоге он посещает сайты вне зависимости от того, знаем мы данную страницу или нет, проверяли мы ее или нет, опасна она или нет.

    Все это заставило нас пойти двумя путями: обкачивать плохие сайты, пополняя тем самым базу плохих сайтов, и запретить ребёнку посещать те страницы, которые мы ещё не успели проверить. Поиск — это своеобразное бутылочное горлышко, через которое, оказалось, проще всего контролировать и фильтровать выдачу результатов. Поэтому при переходе в Детский режим, ребёнок попадает на поисковик Спутник.дети, сфера поиска которого составляет коллекцию детских сайтов в сегменте .RU. Их ищут и находят автоматические поисковые роботы и анализаторы "Спутника". В базу входят также сайты, отобранные партнёрами проекта: Лабораторией Касперского, проектом Нетоскоп, Роскомнадзором и другими компаниями. Любой ресурс проходит проверку нашими асессорами поиска и системой безопасности. На старте в базе было больше 5 тысяч сайтов, половина из них — это порталы школ, остальные — развивающий и развлекательный контент. Да, сайтов пока мало, но мы постоянно пополняем их число. На самом деле принять участие в развитии сервиса может любой владелец или представитель интернет-проекта для детей — достаточно предложить свой сайт на добавление в область поиска. (Кстати, предлагайте свои варианты детских сайтов! спутник.дети/about). Мы решили, что лучше ребёнок не посетит какой-нибудь хороший сайт, но зато мы минимизируем возможность посмотреть на что-нибудь плохое. Надо признаться, что детских сайтов в Рунете действительно крайне мало, и следующей задачей в этом направлении является наполнение базы ресурсами, которые не являются конкретно детскими, но будут интересны и полезны детям.

    РЕЛИЗ



    Именно с этим инструментарием мы и вышли в релиз. В Детском режиме мы стараемся не допустить попадание ребёнка на сайты с плохим контентом, при этом пытаясь минимизировать количество ошибок на хороших. Не стоит забывать, что в Детском режиме также работает Рекламоотвод, в нем по умолчанию включён умеренный режим. Но при желании можно включить строгий. Как показывает практика, на детских сайтах немного рекламы, максимум 2-3 блока про похожие игры или сервисы. И при включённом строгом режиме они все будут заблокированы.

    Мы понимаем, что по мере роста проекта будет расти ком сопутствующих проблем. У любой системы, работающей с большими данными, тематизаторами, качество увеличивается лишь со временем, накапливая пользовательский опыт для самообучения и совершенствования алгоритмов. Для более быстрого развития всегда нужно быстрое накопление опыта. Самый быстрый путь — это фидбек от пользователя. Конечно, есть риск, что негативный фидбек повлияет на репутацию продукта. Однако, мы решились пойти именно по этому пути, который поможет нам быстрее преодолеть проблемы роста, а родители смогут воспользоваться текущем уровнем защиты браузера и решениями, которые они использовали до этого. И с каждым полученным отзывов — плохим или хорошим — мы становимся лучше. На этом, пожалуй, все для начала. Обещаем не ограничиваться этой вводной статьёй, и постараемся сделать целую серию материалов о таких наших технологиях, как Рекламоотвод и Сталкер, о том как выстроена у нас работа с Big Data, как выстроен процесс DataMining, а также о нашем картографическом сервисе и наших мобильных продуктах.
    Ростелеком
    Компания

    Комментарии 37

      +3
      А какая логика для сайтов за пределами рунета? Я про ресурсы на другом языке или сайты на доменах, отличных от .RU (.com. .net, .info и т.д.)
        +6
        Да у них нету вообще никакой логики. Они уже опозорились одним только этим. Т.е. результатов без цензуры они в принципе не показывает. С другой стороны, с таким подходом ими никто и никогда пользоваться не будет, разве что административно заставят.
          0
          Тут имеет место неудачный нейминг.

          На самом деле, легкий фильтра значит 18+, т. е. без фильтрации. Умеренный, если не ошибаюсь, 16+, строгий — что-то вроде 12+. Написали бы так, не было бы никаких проблем с восприятием.

          Я сейчас не могу проверить, но такие соответствия фильтров возрастным рейтингам, вроде, написаны где-то в интерфейсе браузера.
            +2
            Нет, это именно что фильтр. Я внизу привел результаты по запросу «порно» в «легком» фильтре.
        +6
        Что мешает ребенку запустить другой браузер?
        Что ему мешает воспользоваться интернетом в телефоне/планшете?
        Ничего. Очевидно браузер место для решения проблемы фильтрации интернета место десятое и здесь нужны решения только для того чтобы показывать их на презентациях, при условии, что все остальные пути не закрыты.
        С другой стороны — если все дома настроено правильно и все устройства ходят в сеть через прокси-фильтр, то как дополнительное средство, закрывающее то, что все же просочилось, идея неплоха. Впрочем с этим отлично справляются расширения на базе WOT и зачем это в браузере который доступен для десктопа только для одной системы, не очень-то понятно.
        Кстати, можно ли в Windows как-то запретить использование IE пользователю? Я честно говоря не знаю, но если нельзя — тогда вообще не понятно зачем это было сделано…
          +4
          С момента, когда ребёнок научится обойти режим киоска (я надеюсь, его не выпилили), ему уже можно смотреть всё что угодно — он достаточно любопытен, и вместо препятствий ему пора объяснять.
            +2
            > Что мешает ребенку запустить другой браузер?
            А что мешает ребёнку настроить VPN? Если ребёнок в состоянии сознательно обойти «детский режим», то вероятно он уже не такой уж и ребёнок. Смысл подобных режимов в том, чтобы можно было оставить компьютер маленьким детям и не бояться, что они случайно попадут на взрослый сайт.
              –7
              Интересное мнение, но я свою 10 летнюю дочь пока не пускаю… Додумается как обойти privoxy — флаг в руки. А пока нет.
                +20
                В школу тоже не пускаете? А то она там наслушается всякого «опасного контента» и насмотрится «опасного видео» с телефонов одноклассников.
                  –2
                  Вы меня хотите поучить ребенка воспитывать?
                  А вот ваши идейные друзья из телевизора, предлагают мне ровно противоположное — заблокировать все к черту и ребенку и мне.
                  Вы лучше определитесь за что вы — чтобы все заблокировать или чтобы все разрешить…
                  А я уж как нибудь сам разберусь что надо, а что не надо.
                    +1
                    Во-первых, у меня нет друзей в телевизоре, вы меня с кем-то перепутали.
                    Во-вторых, я не учил вас никого воспитывать. Я просто намекаю, что смысла в вашей блокировке — ровно ноль.
                      –3
                      > Во-первых, у меня нет друзей в телевизоре, вы меня с кем-то перепутали.
                      Ну извините — мне показалось что очередной астахов лезет со своими советами по воспитанию.

                      > Я просто намекаю, что смысла в вашей блокировке — ровно ноль.
                      Если задача стоит полностью оградить ребенка от подробного рода информации, то наверно. Однако у меня такой задачи не стояло. Странно, что вы отвечаете не свои фантазии в ответе на мое сообщение.
                        0
                        Да уж. И Пороть пороть и еще раз пороть дочку что бы знала жизнь =)
                  +1
                  Ну, если не ставить себе цель настроить его так, что нельзя будет обойти, то это не так и сложно. А если поставить, то найдутся другие способы выхода в интернет. Годам к 12 появится интерес, и там уже ограничения станут бесполезны.
                    +5
                    пояс верности одеваете? А к гинекологу на предмет сексуальной жизни раз в полгода не ходите ещё?
                      +5
                      Конечно не пускайте, пусть лучше пацаны постарше в подъезде покажут и расскажут что да как. Негоже ребенку в интернете неправильную информацию смотреть.
                    0
                    >> Кстати, можно ли в Windows как-то запретить использование IE пользователю?

                    Я всегда, если ставлю кому-то венду — физически удаляю iexplore.exe из program files и из рестора, а также забираю все NTFS-права на каталог, куда оно установлено. В XP и семерке прокатывало на ура, при обновлениях не восстанавливалось. Как в десятке — ХЗ, думаю всё очень плохо.
                    +6
                    1. Не понятно, чем не угодила конопля?
                    2. Кто ищет — тот всегда найдет, будет хвастаться и еще повесит на рабочий стол.
                      0
                      А что такого нашлось по запросу «на фоне пейзажа»? Порнографии нет, все как надо.
                        +1
                        Согласен, у натурщицы все как надо и мое мнение, что естественно — то не безобразно, но девушка явно демонстрирует антиобщественное поведение. Как и здесь, а где возрастные ограничения?
                      +3
                      Это как Google SafeSearch, что ли, только импортозамещённый?
                        +11
                        Пофиксил:

                          +3
                          У вас ссылки в выдаче такого цвета — цвета посещённой ссылки. Глядя на выдачу складывается впечатление, что я там уже был (что false).
                          Пример: https://habrastorage.org/files/b21/721/496/b217214964964d2084dd47a2c8e21a27.png
                            +2
                            Конечно был, каждая ссылка перед выдачей была проверена этим, который по правам детей.
                              +2
                              Астахов?)
                                0
                                Это тем, который свою диссертацию на 75% некорректно процитировал и случайно совпал текст с другими работами?
                              +6
                              С детства приучать жить под сапогом барина? Ну, уж нет.
                                +4
                                Детский режим? Да там же фильтрация контента по умолчанию по самые гланды. Вот только что зашел (результаты ничем не правил, все as-is, аккаунта на ростелекомах/спутниках и подобном — нету):
                                  +1
                                  Ростелеком? Спасибо, не нужно.
                                  • НЛО прилетело и опубликовало эту надпись здесь
                                      +2
                                      Это ростелек, бро. У них очень много денег, которое перетекает от министерства через них к подрядчикам и субподрядчикам.
                                      +3
                                      Годжи? Отфильтровать


                                      И еще — Милые кости не особо детский фильм


                                      Или техасская резня бензипилой…


                                      Или мне кажется что если походить по этим ссылкам можно на что нибудь наткнуться…


                                      Вообще мне кажется админы сейчас читают историю поиска и ржут.
                                        +4
                                        Сколько стоила разработка этого замечательного браузера?
                                          +2
                                          «Убить билла» дает много результатов на скачивание, а если закрыть мат звездочками, то и он пролазит, например извините "*уйня"
                                            –7
                                            Удивляюсь, откуда столько негатива.

                                            Мы, посетители Хабра, взрослые дяди. Мы вошли в интернеты сознательными людьми, пусть и молодыми. Тогда интернеты были не так повсеместно распространены, как сейчас. Аргумент «я сидел в интернете без фильтрации и ничего, вырос нормальным человеком» не работает — когда мы росли, интернет был другой. Тогда, чтобы посмотреть порнокартинку, надо было ее найти и скачать. Сейчас можно парой кликов попасть в порновидеочат за 100 рублей в минуту.

                                            Я считаю, что фильтровать интернет детям надо. Вопрос в реализации. Не спорю, детский режим, сделанный в Спутнике, далек от идеала: дырявый, глупый, слишком строгий. Но это не значит, что концепция неверна.

                                            Думаю, Спутник предлагает детям стремные ресурсы не потому, что РТ злодеи, а потому, что в России действительно нет нормальных ресурсов для детей. Только низкокачественные мультики и сайты про ВОВ. Предлагаю хабралюдям увидеть здесь возможность, а не брюзжать.

                                            Как и везде, тут применимы три закона критики.
                                              +5
                                              А негатив оттуда, что лично я свои первые порнокартинки я увидел в те времена, когда интернета вообще не было, а были пионеры, Ленин, и съезд партии. И специально я ничего подобного не искал никогда, просто у нас был «двор» и вокруг жили простые люди со своими простыми интересами. Я это к тому, что идея сажать детей в «информационную клетку» не только не решает проблемы, но и создает новые, в виде вполне резонных вопросов, типа «почему родители от меня это скрывают?». Перекладывать ответственность за воспитание своего чада на Ростелеком — это как-то тупо, не находите?
                                                0
                                                Картинок небыло — покупали диски, и там был иногда треш, причем треш который мало кто сейчас смотреть бы стал по своей воле. Но тогда выбора небыло — смотрели. И, как бы, выросли. Лет 10 назад интернет был распространен очень даже, резать начали пару лет назад — так что считать можно поколение выросло с этим порно в открытом доступе — и вроде как ничего, нормально живут.

                                              Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                              Самое читаемое