В руководстве объясняется какие смайлики могут рассматриваться как угрозы или, в контексте специфических групп, для разжигания ненависти
Находясь под огнём критики, Facebook вынужден принимать меры по модерации контента. Но эта задача не такая простая, как кажется. В СМИ попал внутренний мануал для модераторов Facebook: это более 1400 (!) страниц инструкций, в которых иногда очень сложно разобраться, пишет NY Times.
Сегодня и политики, и общественные организации обвиняют социальную сеть в разжигании ненависти и дезинформации. Для Facebook это в первую очередь финансовая проблема, потому что такие обвинения создают негативный фон и могут плохо отразиться на курсе акций, а значит — на благосостоянии владельцев и сотрудников компании.
Facebook, который зарабатывает около $5 млрд за квартал, должна всем продемонстрировать, что серьёзно относится к борьбе с вредоносным контентом. Но как отслеживать миллиарды сообщений в день на более чем 100 языках, одновременно продолжая расширять пользовательскую базу, что является фундаментом для бизнеса? Решение компании: сеть модераторов, которые руководствуются лабиринтом слайдов PowerPoint с объяснением запрещённого контента.
«Каждый вторник утром несколько десятков сотрудников Facebook собираются за завтраком, чтобы придумать новые правила и обсудить, что разрешено говорить двум миллиардам пользователей сайта, пишет NY Times. — По итогам совещаний соответствующие правила рассылаются более чем 7500 модераторам по всему миру». В распоряжение газеты попало более 1400 страниц из сводов правил. Информацию предоставил один из сотрудников, который озабочен излишней модерацией и слишком большим количеством ошибок, которые делает компания при модерации контента.
Изучение документов действительно выявило многочисленные пробелы, предубеждения и явные ошибки. Очевидно, что правила различаются для разных языков и стран, в результате чего разжигающие ненависть высказывания могут процветать в одних регионах и излишне подавляться в других. Например, однажды модераторам сказали удалить призывы к сбору средств для жертв вулкана в Индонезии, потому что один из организаторов сбора средств был в чёрном списке запрещённых групп Facebook. В Индии модераторам ошибочно сказали удалять комментарии, критикующие религию. В Мьянме экстремистская группа в течение нескольких месяцев продолжала активность из-за ошибки в документации Facebook.
Скриншот из мануала Facebook для модераторов
Судя по всплывшей документации, Facebook пытается сформулировать для модераторов принципы в виде простых правил «да» или «нет». Затем компания передаёт фактическую модерацию сторонним компаниям. Те привлекают в основном неквалифицированных работников, многие из которых работают в колл-центрах (пресловутый «индийский саппорт» — именно такие сотрудники занимаются модерацией).
Зачастую модераторы полагаются в работе на Google Translate. Требования к их производительности таковы, что они должны в течение нескольких секунд вспомнить бесчисленные правила и применить их к сотням сообщений, которые каждый день появляются у них на рабочем компьютере. Например, быстро вспомнить правила, в присутствии какого смайлика запрещено упоминание джихада.
Скриншот из мануала Facebook для модераторов, где разъясняются признаки высказываний, разжигающих ненависть (hate speech). Модераторы должны определить три уровня «серьёзности» с учётом шести «бесчеловечных сравнений», в том числе сравнение евреев с крысами. Общее руководство по определению высказываний, разжигающих ненависть, занимает 200 страниц
Некоторые модераторы говорят, что правила не очень эффективны, а иногда бессмысленны. Однако руководство компании считает, что иначе никак: «У нас миллиарды сообщений в день, и мы выявляем всё больше и больше потенциальных нарушений, используя наши технические системы, — говорит Моника Бикерт (Monika Bickert), директор по глобальной политике Facebook. — В таком масштабе даже 99% точности оставляет много ошибок».
Попавший в прессу мануал Facebook не похож на чёткое руководство. Он состоит из десятков разобщённых презентаций PowerPoint и электронных таблиц Excel с бюрократическими заголовками типа «Западные Балканы ненавидят организации и личности» или «Явное насилие: стандарты реализации». Это некое «лоскутное одеяло» из правил, установленных разными подразделениями компании. Facebook подтвердил подлинность документов, хотя и сказал, что некоторые из них обновились по сравнению с той версией, какая попала в распоряжение NY Times. Facebook заявляет, что файлы предназначены только для обучения, но модераторы утверждают, что они реально используются в качестве справочных материалов в повседневной работе.
