Журналисты The Wall Street Journal изучили документы Facebook и выяснили, что компания создала систему, которая дает привилегии VIP-пользователям соцсети. Программа, известная как XCheck, дает знаменитостям, политикам и других высокопоставленным пользователям возможность избегать общие ограничения.
Изначально программа задумывалась как мера контроля для действий, предпринимаемых против аккаунтов высокопоставленных людей. Однако сегодня она защищает миллионы VIP-пользователей от обычного правоприменительного процесса. Их включили в «белый список», что позволяет публиковать нарушающие правила материалы, в том числе оскорбления или подстрекательства к насилию.
Внесенные в «белый список» аккаунты публиковали посты о том, что вакцины смертельны, а экс- президент США Дональд Трамп называет всех беженцев, ищущих убежища, «животными».
К 2020 году система XCheck расширилась и насчитывала не менее 5,8 млн пользователей.
Описывая систему, Facebook ввела в заблуждение общественность и свой собственный Наблюдательный совет, орган, созданный для обеспечения подотчетности систем правоприменения компании. В июне соцсеть сообщила Набсовету в письме, что ее система для высокопоставленных пользователей использовалась при «небольшом количестве решений». Энди Стоун заверил, что компания работает над постепенным отказом от практики «белых списков».
При этом внутренние документы Facebook показывают, что руководство соцсети полностью осознает все ее недостатки, но не проявляет должной воли для их устранения.
Глава Facebook Марк Цукерберг еще в 2018 году признавал, что соцсеть ошибочно принимает 10 % решений об удалении контента. Однако к пользователям из XCheck относятся иначе. Если алгоритм Facebook выявляет нарушение на странице такого аккаунта, то соцсеть не удаляет контент, а передает отчет в отдельную систему, укомплектованную более подготовленными штатными сотрудниками, которые вручную рассматривают ее. В этот процесс вовлечены 45 команд в компании.
Самим пользователям обычно не сообщают, что они внесены в XCheck.
Один из ярких примеров особого правоприменения в соцсети — инцидент с бразильским футболистом Неймаром да Силвой. Его аккаунт в Instagram, принадлежащий Facebook, насчитывает более 150 млн подписчиков и является одним из самых популярных в мире. После того, как в 2019 году женщина обвинила Неймара в изнасиловании, он опубликовал в Facebook и Instagram видео, где показал переписку с ней в WhatsApp, которая содержала имя обвинительницы и ее обнаженные фотографии. Спортсмен обвинил женщину в вымогательстве. Обычно в такой ситуации Facebook удаляет контент, содержащий интимные фото, опубликованные без согласия героя. Но в случае с Неймаром XCheck более чем сутки блокировала удаление видео модераторами. В итоге его увидели 56 млн пользователей. Видео репостили более 6 тысяч раз, сопровождая его шутками и оскорблениями.
Более того, в правилах работы Facebook указано, что следует удалять не только подобный контент, но и аккаунты людей, которые его публикуют. Однако страницу Неймара оставили активной.
Сам футболист отрицал обвинения в изнасиловании. Бразильские власти обвинили женщину в клевете, вымогательстве и мошенничестве. Первые два обвинения были сняты, а по третьему она была оправдана. Представитель Неймара сказал, что спортсмен придерживается правил Facebook, и отказался от дальнейших комментариев.
Проблема кроется еще и в том, что списки участников программы XCheck не систематизированы. По сути, система применяется хаотично.
Исторически сложилось так, что Facebook связывался с некоторыми VIP-пользователями, которые нарушают правила, и предоставляет «окно самовосстановления» продолжительностью 24 часа, чтобы самостоятельно удалить нарушающий контент. Стоун утверждает, что соцсеть постепенно отказалась от этой практики, но она еще работала во время выборов 2020 года.
В отдельных случаях для удаления «VIP-контента» требуется одобрение высшего руководства по связям с общественностью и общественной политики, либо от самого Цукерберга или главного операционного директора Шерил Сандберг. Когда в июне 2020 года Трамп написал: «Когда начинается грабеж, начинается стрельба», решение о том, чтобы не удалять этот пост, принимал Цукерберг. Сам он незадолго до этого выступил с заявлением о том, что частные цифровые платформы не должны выступать в роли «арбитра правды».
Под защиту XCheck попадали Дональд Трамп, Дональд Трамп-младший и Марк Цукерберг, Элизабет Уоррен, Дэн Скавино, Кэндис Оуэнс и даже собака-звезда Instagram Мопс Дуг. Хотя в программе участвовали большинство правительственных чиновников, она не включала всех кандидатов на госдолжности, что давало одним преимущество перед другими.
План по исправлению программы гласил, что общие исключения стали ее ядром, а это означает, что большая часть контента от пользователей XCheck (90 %) не подлежит контролю. Стоун сказал, что компания улучшила это соотношение в течение 2020 года, но отказался предоставить точные данные.
Набсовет выдал соцсети 19 рекомендаций, и Facebook отчитался, что выполняет 15 из них. Однако соцсеть отказалась исполнять требование о раскрытии данных проверки VIP-контента.
Между тем программа XCheck продолжает расти. Менеджер по продукту из группы предотвращения ошибок Facebook в 2021 году призвала остановить этот процесс, заблокировав возможность сотрудникам регистрировать новых пользователей.
На днях New York Times сообщило, что Facebook передала исследователям дезинформации некорректные и неполные данные о том, как пользователи взаимодействуют на платформе. Соцсеть назвала ошибку в выгрузке данных технической.
