Snapchat изменила рекомендательную систему друзей на своей площадке. Теперь несовершеннолетние не смогут видеть в поле рекомендаций взрослых незнакомцев. Для отображения необходимо чтобы у обоих пользователей было достаточное количество общих друзей. Взрослым пользователям также не будут рекомендовать случайных детей и подростков.
В конце прошлого года Центры по контролю и профилактике заболеваний США объявили, что за 2021 год более 100 тыс. человек погибли от передозировки фентанилом. В список пострадавших входит большое количество подростков, а социальная сеть Snapchat используется дилерами для продажи запрещенных веществ и поиска новых клиентов.
В связи с этим Snapchat приняла новые меры безопасности. Теперь компания сотрудничает с Сообществом антинаркотической коалиции США и некоммерческой организацией Truth Initiative, которые помогут в выпуске серии видеороликов, посвященных фентанилу. Ролики будут распространяться через площадку Snapchat Discover.
Также компания улучшила технологии машинного обучения, которые помогают обнаруживать в Snapchat записи, популяризирующие наркотики. Компания заявили, что алгоритмам удается находить 88% запрещенного контента. Для быстрого реагирования компания на 74% увеличила оперативную группу правоохранительных органов. Теперь время реагирования сократилось на 85%.
Аналитики Snapchat обратили внимание, что в прошлом году более 23% всех жалоб о популяризации запрещенных веществ приходились на сообщения о продаже наркотиков. Сейчас же этот показатель удалось снизить до 16%. Отдельно отметили, что дилеры стараются обходить защиту и придумывают новые кодовые слова для обозначения различных наркотических веществ. Исследовательская группа постоянно пополняет список стоп-слов сленговыми выражениями, используемыми в подростковой среде.
Изменения коснулись и рекомендательной системы. Дилеры часто искали новых клиентов среди несовершеннолетних с помощью рекомендательной системы Snapchat. Теперь система построена таким образом, что взрослый пользователей не сможет увидеть в блоке рекомендаций подростков и детей. Нововведение работает и в обратную сторону — несовершеннолетний пользователь не сможет найти в рекомендациях взрослых незнакомцев. Исключения касаются только тех случаев, когда у пользователей есть определенное количество общих друзей.
