Предупреждение: в статье содержится описание расизма, насилия и психических заболеваний.
Приступы паники начались у Хлои после того, как она наблюдала смерть человека.
Последние три с половиной недели она провела на тренингах, пытаясь ужесточиться и противостоять ежедневным атакам неприятных постов: язык вражды, жестокие атаки, порнографические изображения. Через несколько дней она вступит на должность контент-модератора ФБ на полную ставку – должность, которую в её компании, провайдера профессиональных услуг, Cognizant, туманно называют «исполнитель процессов».
На данном этапе обучения Хлои придётся заниматься модерацией постов в ФБ на глазах у других стажёров. Когда настаёт её черёд, она проходит в переднюю часть комнаты, где на мониторе показывают видео, отправленное в крупнейшую соцсеть мира. Никто из практикантов его ещё не видел, включая Хлои. Она нажимает кнопку «пуск».
На видео демонстрируется убийство мужчины. Кто-то втыкает в него нож, десятки раз, он кричит и умоляет о пощаде. Задача Хлои состоит в том, чтобы сообщить присутствующим, нужно ли удалять это видео. Она знает, что в разделе 13 общественных стандартов ФБ запрещено размещение видеороликов, на которых изображается убийство одного или нескольких человек. Когда Хлои объясняет это всему классу, она слышит, как её голос дрожит.
Возвращаясь на место, Хлои чувствует непреодолимое желание всхлипнуть. Следующий стажёр отправляется вперёд, чтобы оценить следующий пост, но Хлои не в состоянии сконцентрироваться. Она выходит из комнаты и начинает рыдать так сильно, что её становится трудно дышать.
Никто не пытается успокоить её. Её наняли на эту должность. И для 1000 людей, которые, как и Хлои, занимаются модерацией ФБ из офиса в Финиксе, и для 15 000 модераторов по всему миру, сегодня – всего лишь очередной рабочий день.
За последние три месяца я взял интервью у десятка бывших и действующих сотрудников Cognizant, работающих в Финиксе. Все они подписали соглашения о неразглашении, где обязались не обсуждать свою работу на ФБ – и даже не признавать, что ФБ является клиентом Cognizant. Завеса тайны должна охранять сотрудников от пользователей, которые могут разозлиться из-за действий модераторов и попытаться решить ситуацию с известным подрядчиком ФБ. Соглашение также должно предотвратить распространение личной информации пользователей ФБ сотрудниками подрядчика, поскольку сейчас проблемы, связанные приватностью, находятся под пристальным вниманием.
Но модераторы сообщили мне, что эта секретность также изолирует Cognizant и ФБ от критики по поводу условий работы в этих компаниях. Их заставляют не обсуждать эмоциональную нагрузку, которая оказывает на них работа, даже со своими близкими, и это ведёт к усилению чувства изоляции и беспокойства. Чтобы защитить их от возмездия со стороны как работодателей, так и пользователей ФБ, я согласился использовать псевдонимы для всех упомянутых здесь людей, за исключением вице-президента Cognizant по работе услуг бизнес-процессов, Боба Данкана, и директора по управлению глобальными партнёрствами ФБ Марка Дэвидсона.
В целом сотрудники описывают рабочее пространство, как постоянно грозящее свалиться в хаос. В этом окружении сотрудники выживают, рассказывая друг другу шутки из разряда чёрного юмора про самоубийство, и курят травку в перерывах, чтобы приглушить эмоции. Здесь работника могут уволить всего за несколько ошибок в неделю, а остающиеся живут в страхе перед бывшими коллегами, которые могут замышлять месть.
В этом месте, по контрасту с теми плюшками, что ФБ балует своих сотрудников, лидеры команд занимаются микроменеджментом работы модераторов даже когда те уходят в туалет или помолиться; тут работников, отчаянно пытающихся получить порцию дофамина в атмосфере страданий, находили за занятием сексом под лестницами и в комнатах для сцеживания молока; здесь люди начинают испытывать тревогу уже на этапе тренировок, и продолжают мучиться травматическим синдромом ещё долгое время после увольнения; а психологические услуги, предлагаемые Cognizant для своих сотрудников, обрываются сразу после их увольнения.
Модераторы рассказали мне, что видеоролики и мемы, посвящённые теориям заговора, которые им приходится просматривать каждый день, постепенно меняют их взгляды на более радикальные. Один аудитор агитирует за плоскую Землю. Бывший сотрудник рассказал мне, что начал подвергать сомнению определённые аспекты Холокоста. Другой бывший сотрудник рассказал, что разметил все пути эвакуации из собственного дома и держит пистолет рядом с кроватью, а также сказал: «Я уже не верю, что 9/11 нас атаковали террористы».
Хлои немного плачет в комнате отдыха, а потом в туалете, но потом начинает беспокоиться, что пропустит слишком большой кусок тренинга. Она страстно желала получить эту работу, когда отправляла резюме, ведь она недавно закончила колледж, и других вариантов у неё немного. Когда она станет модератором на полную ставку, то будет получать $15 в час – это на $4 больше минимальной з/п в Аризоне, где она живёт, и больше, чем можно ожидать от большинства рабочих мест розничного продавца.
Слёзы прекращаются, дыхание восстанавливается. Когда она возвращается обратно, один из её коллег обсуждает очередное видео с насилием. Она видит, как дрон стреляет в людей с воздуха. Хлои видит, как фигурки людей теряют подвижность, а потом умирают.
Она снова выходит из комнаты.
В конце концов в туалете её находит администратор, и слабо обнимает. Cognizant предлагает работникам услуги психолога, но он работает не полный рабочий день, и пока ещё не приехал в офис. Хлои ждёт его более получаса.
Когда психолог принимает её, она объясняет, что подверглась приступу паники. Он говорит ей, что после выпуска у неё будет больше контроля над видео на ФБ, чем в тренировочной комнате. Вы сможете ставить видео на паузу, говорит он, или смотреть его без звука. Сконцентрируйтесь на дыхании, говорит он. Убедитесь, что не слишком сильно увлеклись просматриваемым материалом.
«Он сказал мне не беспокоиться, и что у меня, вероятно, всё же получится выполнять эту работу, — говорит Хлои. Затем поправляется: — Он сказал, чтобы я не беспокоилась, и что я смогу выполнять эту работу».
3 мая 2017 Марк Цукерберг объявил о расширении команды ФБ по "общественным операциям". Новые сотрудники, которых добавят к существующей армии из 4500 модераторов, будут отвечать за обзор каждого поста, о котором было получено сообщение, что он нарушает стандарты сообщества. К концу 2018 года, в ответ на критику засилья жестокого и эксплуататорского контента в соцсети, ФБ отправил более 30 000 сотрудников на борьбу за безопасность – и примерно половина из них занимается модерацией.
Среди модераторов есть работающие полный день сотрудники, но ФБ активно полагается на подрядчиков. Эллен Сильвер, вице-президент ФБ по операциям, сообщила в блоге в прошлом году, что использование подрядчиков позволило ФБ "глобальное масштабирование" – модераторы могут работать 24 часа в сутки, оценивать посты, сделанные на более чем 50 языках, в 20 офисах местах по всему миру.
Использование труда подрядчиков имеет и практическое преимущество для ФБ: оно обходится радикально дешевле. Средний сотрудник ФБ зарабатывает по $240 000 ежегодно, если суммировать зарплату, бонусы и акции. Модератор, работающий на Cognizant в Аризоне, в год заработает всего $28 800. Такое состояние дел позволяет ФБ сохранять высокую прибыльность. В последнем квартале компания получила прибыль в $6,9 млрд при доходе в $16,9 млрд. И хотя Цукерберг предупредил инвесторов, что вложения ФБ в безопасность уменьшат прибыльность компании, в реальности прибыль выросла на 61% по сравнению с прошлым годом.
С 2014 года, когда Эдриан Чен подробно описала сложные рабочие условия модераторов соцсетей для журнала Wired, ФБ чувствительно относится к критике, травмирующей самых низкооплачиваемых его работников. В её блогпосте Сильвер сообщила, что ФБ оценивает, что потенциальные модераторы «смогут справиться с изображением насилия», и проверяет их на способность выдерживать такое.
Боб Данкан, контролирующий работу Cognizant по модерации контента в Северной Америке, говорит, что рекрутеры подробно объясняют визуальную природу работы кандидатам. «Мы делимся примерами того, что можно увидеть, чтобы у них было представление об этом, — говорит он. – Всё делается для того, чтобы гарантировать, что люди это поймут. А если они решат, что эта работа для них не подходит, они смогут принять соответствующие решения».
До недавнего времени большая часть модерирования контента ФБ проходила вне США. Но с ростом запросов на рабочую силу ФБ расширил своё присутствие в родной стране, и задействовал офисы в Калифорнии, Аризоне, Техасе и Флориде.
США – страна происхождения компании, и одна из стран с наибольшей популярностью соцсети, говорит Дэвидсон. У американских модераторов с большей вероятностью окажется культурный контекст, необходимый для оценки контента из США, где может встречаться язык вражды или запугивание, ибо по его словам в таких случаях часто используется жаргон, специфичный для определённой страны.
ФБ также работал над созданием, как описывает их Дэвидсон, «самых передовых офисов, которые копировали бы офис ФБ и передавали бы все ощущения от него. Это было важно сделать, поскольку на рынке иногда появляются такие представления, что наши люди сидят в тёмных, грязных подвалах, освещаемых только светом экранов. На самом деле всё совсем не так».
И в самом деле, офис Cognizant в Финиксе не тёмный и не грязный. Можно сказать, что он напоминает другие офисы ФБ, поскольку там сотрудникам предлагаются офисные столы, на которых стоят компьютеры. Но если работники ФБ в Менло-парк работают в просторных, залитых солнцем комплексах от архитектора Фрэнка Гери, то их подрядчики в Аризоне ютятся в переполненных комнатах, где длинная очередь в туалеты, число которых сильно ограничено, может отнять всё доступное на перерыв время. И если сотрудники ФБ имеют возможность планировать свою работу по очень гибкому графику, рабочий день сотрудников Cognizant расписан до секунд.
Модератор по имени Мигель прибывает на дневную смену незадолго до её начала в 7 утра. Он – один из 300 сотрудников, которые в итоге просочатся на свои рабочие места в офисе, занимающем два этажа в бизнес-парке Финикса.
За входом следит охрана, следя, чтобы к ним не проникли недовольные бывшие сотрудники или пользователи ФБ, которые могли бы предъявить претензии модераторам из-за удалённых записей. Мигель проходит по своему бэджику в офис и направляется к шкафчикам. Шкафчиков не хватает на всех, поэтому некоторые сотрудники держат там свои вещи и ночью, чтобы гарантировать, что на следующий день их никто не займёт.
Шкафчики занимают узкий коридор, который во время перерывов заполняется людьми. Для защиты приватности пользователей ФБ, записи которых они оценивают, работники в рабочее время обязаны прятать свои телефоны в шкафчики.
Письменные принадлежности и бумагу также нельзя брать с собой, чтобы у Мигеля не появилось искушения записать личную информацию какого-нибудь пользователя ФБ. Эта политика распространяется даже на обрывки бумаги типа обёрток от жвачки. Мелкие предметы, например, лосьон для рук, необходимо помещать в прозрачные пластиковые косметички, чтобы их было видно менеджерам.
Чтобы разместить четыре ежедневных смены – при большой текучке кадров – большей части людей не назначают своего личного стола на, как его называют в Cognizant, «производственном этаже». Мигель находит свободную рабочую станцию и входит в свою учётную запись в ПО под названием Single Review Tool [единый инструмент для обзоров], SRT. Когда он готов к работе, он нажимает кнопку «продолжить обзоры» и углубляется в очередь постов.
В прошлом апреле, через год после того, как многие документы уже были опубликованы в Guardian, ФБ опубликовал стандарт сообщества, по которым он пытается управлять 2,3 млрд пользователей, посещающих ресурс ежемесячно. В последовавшие за этим месяцы издания Motherboard и Radiolab публиковали подробные расследования таких проблем модерирования, как, например, огромное количество текста.
Среди трудностей: большое количество записей; необходимость тренировать всемирную армию низкооплачиваемых работников на последовательное применение единого набора правил; почти ежедневные изменения и уточнения этих правил; отсутствие культурного или политического контекста у модераторов; отсутствие контекста у записей, из-за чего они становятся двусмысленными; частые разногласия между модераторами по поводу того, какие правила в каких случаях должны применяться.
Несмотря на сложности в диктовке политики, ФБ обязывает Cognizant и других контрактников превыше всего чтить метрику под названием «точность». В данном случае точность означает, что когда сотрудники ФБ проверяют подмножество решений подрядчиков, они должны с ними соглашаться. Компания сделала целью точность в 95%, и никак не может её достичь. Cognizant никогда не поддерживала такую точность на длительных периодах – обычно она составляет чуть меньше или чуть больше 90%, и в момент публикации была где-то на уровне 92%.
Мигель усердно следует политике – хотя, как говорит, она не всегда имеет для него смысл. Запись под названием «мой любимый н----» можно оставлять, поскольку, согласно политике, это «недвусмысленно положительный контент». Призыв «всех аутистов надо стерилизовать» кажется ему оскорбительным, но эта запись тоже остаётся. Аутизм не является «защищённой характеристикой», такой, как раса или гендер, поэтому это не является нарушением политики. (Призыв «стерилизовать всех мужчин» нужно было бы убрать).
В январе ФБ распространил обновление политики, где было указано, что модераторы должны учитывать недавние любовные обстоятельства жизни пользователя, оценивая записи, где описывается ненависть к полам. Запись «я ненавижу всех мужиков» всегда была против политики. Но «я только что рассталась с моим парнем, и ненавижу всех мужиков» уже ей не противоречит.
Мигель обрабатывает записи в очереди. Они попадают туда без особого порядка. Вот расистская шутка. Вот мужчина занимается сексом с домашним скотом. Вот видео убийства, записанное наркокартелем. Некоторые из записей, которые смотрит Мигель, идут с ФБ, где, как он говорит, чаще встречаются наезды и язык вражды; другие приходят с Instagram, где можно размещать записи под псевдонимом, и там чаще встречается насилие, обнажёнка и секс.
Для каждой записи Мигель должен провести два отдельных теста. Сначала он должен определить, нарушает ли запись стандарты сообщества. Затем он должен выбрать правильный пункт, который нарушается. Если он точно определяет, что запись необходимо удалить, но выбирает «неправильную» причину, это влияет на его оценку точности.
Мигель очень хорошо справляется с работой. Он правильно выбирает действия для каждой записи, стараясь избавить ФБ от худшего контента, и защищая максимальное количество правильных (пусть и неприятных) текстов. За обработкой каждой записи он проводит не более 30 секунд, и обрабатывает до 400 записей в день.
Когда у Мигеля появляется вопрос, он поднимает руку, и «тематический эксперт» [subject matter expert] (SME) – подрядчик, который, как считается, лучше и полнее осведомлён о политике ФБ, зарабатывающий на $1 в час больше, чем Мигель – подходит к нему и оказывает помощь. Это отнимает время Мигеля, и хотя у него нет минимальной квоты на количество записей, менеджеры отслеживают его продуктивность и просят объясниться, когда это количество становится меньше 200.
Из 1500 (или около того) решений, принимаемых Мигелем за неделю, ФБ случайно выбирает 50-60 штук для аудита. Эти записи изучает другой сотрудник Cognizant, работающий в отделе качества, или QA, также зарабатывающий на $1 больше Мигеля. Затем сотрудники ФБ проводят аудит подмножества решений QA, и на основе всех этих аудитов выводится оценка точности.
Мигель скептически относится к получающемуся значению точности. «Точность оценивается только по согласию работников. Если мы с аудитором разрешим продавать кокаин, это будет оценено, как „точное“ решении, просто потому что мы согласились, — говорит он. – Это число – чушь».
Фиксация ФБ на точности выработалась после долгих лет критики по поводу решения проблем с модераторами. Ежедневно в соцсети появляются миллиарды записей, и ФБ чувствует давление со всех сторон. В некоторых случаях компанию критиковали за то, что она делает слишком мало – к примеру, когда следователи ООН обнаружили, что соцсеть участвует в распространении языка ненависти во время преследования рохинджа в Мьянме. В других случаях её критиковали за то, что она перегибает палку – к примеру, когда модератор удалил запись, где цитировали декларацию независимости США. (В итоге Томасу Джефферсону сделали посмертное исключение из правил для пользователей ФБ, запрещающих использование фраз типа «индейские дикари»).
Одна из причин, по которым модераторам тяжело достичь своей цели по точности, состоит в том, что по каждому решению о насаждении правил им приходится учитывать несколько источников информации.
Канонический источник правоприменения – это руководящие принципы публичного сообщества ФБ, состоящие из двух наборов документов: опубликованных, и более длинных, внутренних, где даётся больше подробностей по поводу сложных вопросов. Эти документы дополняются вторым документом в 15000 слов под названием «Известные вопросы», где даются дополнительные комментарии и указания по поводу острых вопросов модерации – что-то типа Талмуда для Торы руководящих принципов. «Известные вопросы» когда-то занимали один длинный документ, с которым модераторам приходилось сверяться ежедневно. В прошлом году его включили во внутренние руководящие принципы, чтобы в нём легче искать.
Третий источник истины – внутренние обсуждения между модераторами. Во время появления срочных новостей типа массовых расстрелов модераторы пытаются достичь консенсуса по поводу того, соответствуют ли видеоматериалы критериям на удаление, или их стоит просто пометить как «неприятные» [disturbing]. Но иногда, как говорят модераторы, их консенсус оказывается ошибочным, и менеджерам приходится ходить по офису, разъясняя правильное решение.
Четвёртый источник, возможно, наиболее проблематичный: внутренние инструменты ФБ, предназначенные для распространения информации. Хотя официальные изменения политики обычно появляются каждую вторую среду, постепенно увеличивающиеся руководящие принципы, связанные с проблемами, находящимися в стадии развития, распространяются почти ежедневно. Часто инструкции постят на Workplace, энтерпрайз-версию ФБ, которую компания представила в 2016. Как и у ФБ, у Workplace есть работающий по определённому алгоритму список новостей, демонстрирующий записи в зависимости от вовлечённости. Во время появления срочных новостей типа массовых расстрелов, менеджеры часто размещают противоречивую информацию по поводу того, как модерировать отдельные примеры контента, которая появляется на Workplace без сортировки по времени. Шесть текущих и бывших сотрудников рассказали мне, что делали ошибки во время модерации, увидев устаревшую запись на самом верху списка. Иногда кажется, что собственный продукт ФБ работает против них. Модераторы чувствуют эту иронию.
«Это постоянно происходило, — говорит Диана, бывший модератор. – Это было ужасно – одно из самых неприятных дел, которыми мне приходилось заниматься лично, чтобы правильно выполнять свою работу». Когда происходит национальная трагедия, как, например, стрельба в Лас-Вегасе в 2017 году, менеджеры указывают модераторам удалить ролик – а затем, в отдельной записи, сделанной несколько часов спустя, оставить его. Модераторы принимают решение на основе того, какая запись из Workplace появляется первой.
«Это был полный бардак, — говорит Диана. – От нас ожидали тщательного принятия решений, и всё это портило нам статистику».
Записи в Workplace по поводу изменений политики иногда дополняются наборами слайдов, которые присылают сотрудникам Cognizant, повествующих об особых темах – часто привязанных к печальным юбилеям вроде парклендской стрельбы. Однако модераторы сообщили мне, что подобные презентации и другие вспомогательные материалы часто содержат позорные ошибки. За последний год в ФБ перепутали членов палаты представителей с сенаторами; неправильно указали дату выборов; ошиблись в названии школы Паркленда, в которой была стрельба.
И даже несмотря на постоянно меняющийся свод правил модераторам практически не оставляют права на ошибку. Эта работа напоминает видеоигру с большими ставками, в которой вы начинаете с сотней очков – идеальной оценкой точности – а затем всеми правдами и неправдами пытаетесь сохранить эти очки. Если вы опустились ниже 95, ваша работа оказывается под угрозой.
Если менеджер по качеству отмечает решение Мигеля как неправильное, последний может это оспорить. Заставить QA согласиться с вами – это, как говорят, «вернуть очко». В краткосрочной перспективе ошибкой считается то, что посчитали ошибкой в QA, поэтому у модераторов есть все основания оспаривать эти решения каждый раз. Недавно в Cognizant ещё сильнее усложнили процедуру возвращения очка, требуя, чтобы апелляцию модераторов сначала одобрили SME, перед тем, как отправлять её в QA.
Иногда спорные вопросы доходят до ФБ. Но все модераторы, которых я опрашивал, говорят, что менеджеры из Cognizant отговаривают сотрудников от доведения вопросов до клиента, видимо, страшась того, что слишком большое количество таких случаев начнёт раздражать ФБ.
В итоге в Cognizant начали изобретать политику на лету. К примеру, хотя руководящие принципы не запрещают напрямую освещение темы сексуального удушения, три бывших модератора сообщили мне, что лидер их команды объявил, что подобные изображения допустимы только при отсутствии на шее удушаемого пальцев.
Перед тем, как уволить сотрудников, им предлагают наставничество и отправляют в коррекционную программу, которая должна гарантировать, что они в совершенстве освоят руководящие принципы. Однако часто это служит предлогом для того, чтобы уволить сотрудников, как сообщили мне трое бывших модераторов. Иногда подрядчики, упустившие слишком много очков, доводят апелляцию до ФБ, где принимается итоговое решение. Но компания, как мне сообщили, не всегда успевает прочесать всю очередь таких запросов до того, как сотрудника уже уволят.
Официально модераторам запрещается общаться с QA и убеждать их поменять своё решение. Но это всё равно происходит на регулярной основе, как рассказали мне два бывших сотрудника отдела качества.
Один из них, Рэнди, иногда, возвращаясь к своей машине после рабочего дня, встречал там ожидающих его модераторов. 5-6 раз за год кто-либо пытался запугать его, чтобы он поменял своё решение. «Они встречали меня на парковке, и угрожали выбить из меня всю дурь, — говорит он. – Ни разу никто не пытался разговаривать со мной вежливо или уважительно. Всегда это было: „Ты неправильно меня оценил! Это же была грудь! С полностью видимыми ареолами!“»
Беспокоясь за свою безопасность, Рэнди начал носить с собой на работу скрытое оружие. Уволенные сотрудники регулярно угрожали вернуться на работу и поквитаться с бывшими коллегами, и Рэнди считал, что некоторые из них говорили совершенно серьёзно. Бывший коллега сказал мне, что знал о пистолете, который носит с собой Рэнди, и одобрял его решение, беспокоясь, что усилий местных охранников окажется недостаточно в случае атаки.
Данкан из Cognizant сказал мне, что компания займётся расследованием различных проблем, связанных с безопасностью и управленческими вопросами, о которых мне было рассказано. Он сказал, что пистолет на работу приносить было запрещено, и что, если бы об этом узнал менеджмент, они бы вмешались и выступили бы против данного сотрудника.
Рэнди уволился через год. Ему не представилось случая выстрелить из пистолета, но беспокойство его не отпускает. «Я ушёл частью оттого, что не чувствовал себя в безопасности даже дома», — говорит он.
Перед тем, как сделать перерыв, Мигелю нужно нажать на кнопку в расширении браузера, чтобы поставить компанию в известность об этом. (Дэвидсон сказал мне, что «это стандартная процедура на подобных предприятиях. Чтобы можно было следить за рабочей силой, и знать, кто где».)
Мигель может сделать два перерыва по 15 минут и один 30-минутный перерыв на обед. На перерывах он обычно сталкивается с длинными очередями в туалет. На несколько сотен человек в офисе есть всего один писсуар и две кабинки в мужском туалете, а также три кабинки в женском. Cognizant в итоге разрешила работникам пользоваться туалетами на других этажах, но на то, чтобы добраться туда и вернуться, у Мигеля уйдут драгоценные минуты. К тому времени, как он сходил в туалет и продрался через толпу к своему ящичку, у него остаётся всего пять минут, чтобы взглянуть на свой телефон и вернуться к столу.
Также Мигелю полагается по девять минут в день на «улучшение самочувствия», которые он должен использовать, если почувствует себя травмированным, и ему понадобится отойти от стола. Несколько модераторов рассказали мне, что использовали эти минуты для того, чтобы ходить в туалет, когда очереди становятся короче. Но менеджмент в итоге прознал об этом, и приказал сотрудникам не использовать это время для походов в туалет. (Недавно группа модераторов ФБ, нанятых компанией Accenture в Остине, пожаловалась на «нечеловеческие» условия, связанные с перерывами; ФБ списал проблему на неправильно понятую политику компании).
В Финиксе мусульманам, использовавшим время на «улучшение самочувствия» для совершения одной из пяти ежедневных молитв, приказали заканчивать с этим и заниматься религией на перерывах – так сказали мне текущие и бывшие сотрудники компании. Причём сотрудникам, с которыми я говорил, было непонятно, почему молитва не считается правильным использованием времени на «улучшение самочувствия». В Cognizant отказались комментировать эти инциденты, однако человек, знакомый с одним из этих случаев, рассказал мне, что один работник затребовал 40 минут на совершение ежедневной молитвы, и компания сочла эти требования чрезмерными.
Сотрудникам Cognizant предписано бороться со стрессом на работе путём посещения психологов, когда у тех есть время; посредством звонков на горячую линию; используя программу помощи работникам, которая предполагает несколько сеансов психотерапии. В последнее время к рабочей неделе добавили йогу и другие терапевтические занятия. Но кроме редких визитов к психологу, остальные средства, как рассказали мне шестеро сотрудников, оказываются неадекватными. Они сказали, что справлялись со стрессом на работе другими способами: секс, наркотики и грубые шутки.
В списке мест, где были обнаружены сотрудники Cognizant, занимающиеся сексом: туалетные кабинки, лестница, парковка, комната для сцеживания молока. В начале 2018 охрана отправила менеджерам сообщение с указаниями на подобное поведение работников, как рассказал мне один человек, знакомый с этим делом. В результате менеджеры сняли замки на двери с комнаты матери и с некоторых других запиравшихся помещений. (Сейчас комната матери снова запирается, но желающим воспользоваться ей необходимо получить ключи у администратора).
Бывший модератор Сара сказала, что секретность, связанная с её работой, вместе с её высокой сложностью приводит к появлению крепких взаимоотношений между сотрудниками. «Ты очень быстро сближаешься с другими ребятами, — говорит она. – Если тебе не разрешают общаться с друзьями или семьёй по поводу работы, это отдаляет людей. И ты чувствуешь, что сближаешься с этими людьми. Это ощущается как эмоциональная связь, хотя на самом деле это просто отношения на почве общих травм».
Также работники справляются с проблемами при помощи наркотиков и алкоголя, как на территории работы, так и вне её. Один бывший модератор, Ли, рассказал мне, что курил марихуану при помощи вэйпа на работе почти ежедневно. Он говорит, что на перерывах небольшие группки сотрудников часто выходили наружу, чтобы покурить (в Аризоне марихуану законно использовать в медицинских целях).
«Даже сосчитать сложно, с каким количеством людей я курил, — говорит Ли. – Оглядываясь назад, это ужасно – сердце разрывается. Мы спускались, обдалбывались, и возвращались на рабочее место. Это непрофессионально. Представьте, что модераторы крупнейшей в мире соцсети курят на работе, модерируя контент…». Он умолкает.
Ли, работавший модератором около года, был одним из нескольких работников, считавших, что там процветал самый чёрный юмор. Работники соревновались, отправляя друг другу самые расистские или оскорбительные мемы, сказал он, чтобы поднять друг другу настроение. Ли, принадлежащий к этническому меньшинству, часто становился предметом для шуток, и он принимал эти расистские шутки, как сделанные из добрых побуждений. Но со временем его начало беспокоить его психическое здоровье.
«Мы занимались вещами, которые затемняли наши души – называйте это, как хотите, — говорит он. – Что можно сделать в такой ситуации? Единственное, что вызывает в нас смех, оказывается вредным для нас. Мне приходилось следить за тем, какие шутки я говорю на людях. Я постоянно случайно говорил всякие оскорбительные вещи – а потом вдруг вспоминал, что нахожусь в продуктовом, и тут так говорить нельзя».
Также нередко встречались шутки по поводу нанесения вреда себе самому. Сара услышала, как её коллега однажды на вопрос психолога о том, как у него дела, ответил «напиваюсь, чтобы забыть это всё». (Но после этого психолог не предложил коллеге побеседовать об этом подробнее). В особенно плохие дни, говорит Сара, люди обсуждают, что пришло время «потусить на крыше» – шутка о том, что однажды работники Cognizant решат сброситься с неё.
Однажды, сказала Сара, модераторы отвлеклись от своих компьютеров и увидели человека, стоявшего на крыше соседнего офисного здания. Большая часть из них видела самоубийства, начинавшиеся точно так же. Модераторы повскакивали с мест и побежали к окнам.
Но тот человек не прыгнул. В итоге все поняли, что это был один из их коллег на перерыве.
Как и большинство бывших модераторов, с которыми я общался, Хлои уволилась примерно после года работы.
Кроме прочего, её беспокоило распространение среди коллег теорий заговора. Один человек из QA часто обсуждал с коллегами свою уверенность в том, что Земля плоская, и «активно пытался привлечь в свою веру других работников», как сказал мне другой модератор. Один из коллег Мигеля однажды упомянул понятие Holohoax, из чего Мигель понял, что этот человек относился к людям, отрицающим реальность Холокоста.
Шесть модераторов сказали, что теории заговора часто получали тёплый приём в офисе. После парклендской стрельбы в прошлом году модераторы изначально были в ужасе от результатов атаки. Но чем больше теорий заговора люди размещали на ФБ и в Instagram, тем чаще коллеги Хлои высказывали свои сомнения.
«Люди начинали верить в записи, которые они должны были модерировать, — говорит она. – Они говорили: О божечки, они на самом деле там не были. Ой, посмотрите на этот репортаж CNN про Дэвида Хогга – он же слишком взрослый для того, чтобы быть школьником». Люди начинали искать всякое в Google вместо того, чтобы работать, и разбираться во всех этих теориях заговора. Мы им говорили: Ребята, нет, это ведь и есть та безумная фигня, которую нам надо модерировать. Что вы делаете?"
Но по большей части Хлои беспокоят долгосрочные последствия влияния работы на психическое здоровье. Несколько модераторов рассказали мне, что испытали вторичное посттравматическое стрессовое расстройство – расстройство, проявляющееся при наблюдении за тем, как другие люди получают травмы. Это расстройство, симптомы которого могут совпадать с посттравматическим стрессовым расстройством (ПТСР), часто возникает у врачей, психотерапевтов и социальных работников. Люди, испытывающие вторичное расстройство, жалуются на беспокойство, потерю сна и диссоциацию.
В прошлом году девушка из Калифорнии, бывший модератор ФБ, подала на компанию в суд, утверждая, что эта работа у подрядчика Pro Unlimited вызвала у неё ПТСР. Её адвокаты заявили, что она «пытается защититься от опасностей, связанных с психологической травмой, произошедшей из-за того, что ФБ не удалось организовать безопасное рабочее место для тысяч подрядчиков, которые должны обеспечивать безопасное окружение для пользователей ФБ». Разбирательство пока не закончено.
Хлои испытывала симптомы травматического расстройства в течение нескольких месяцев после ухода с этой работы. У неё начался приступ паники в кинотеатре при просмотре фильма "Mother!", когда резня на экране вызвала в памяти то самое первое видео, с которым ей пришлось столкнуться на стажировке. Другой раз она спала на диване, и вдруг услышала автоматическую стрельбу, после чего запаниковала. Кто-то в доме включил телесериал со стрельбой. Она говорит, что начала «психовать, и умоляла их выключить это».
Приступы заставили её вспомнить о коллегах, особенно о тех, что не смогли пройти стажировку и начать работать. «Многие люди просто не справляются с тренировочным периодом, — говорит она. – Они проводят эти четыре недели, а потом их увольняют. В результате у них может накопиться точно такой же опыт, как у меня, но никакого доступа к психологам у них не будет».
Дэвидсон сообщил мне, что на прошлой неделе ФБ начал наблюдать за тестовой группой модераторов, измеряя их «устойчивость», как называет это компания – их способность отходить после просмотра травмирующих материалов и продолжать делать свою работу. Он говорит, что компания надеется расширить этот тест на всех модераторов по всему миру.
Рэнди тоже уволился примерно через год. Как и Хлои, на него сильно подействовал видеоролик, где человека ударяют ножом. Жертва была примерно одного возраста с ним, и он помнит, как этот человек, умирая, звал свою маму.
«Я каждый день это вижу, — говорит Рэнди. – У меня выработался страх перед ножами. Мне нравится готовить, но возвращаться в кухню и быть рядом с ножами мне очень тяжело».
Эта работа также изменила его отношение к миру. После того, как он просмотрел так много видеороликов, где говорилось, что события 9/11 были не атакой террористов, он начал в них верить. Видео с разоблачением заговора по поводу Лос-Анджелесской стрельбы тоже были очень убедительными, говорит он, и теперь он считает, что в атаке участвовало несколько человек (ФБР заявило, что это было дело рук одного стрелка). "
Теперь Рэнди спит с пистолетом под боком. Он прокручивает в уме пути бегства из своего дома на случай атаки. Когда он просыпается утром, то обходит весь дом с пистолетом в руке в поисках посторонних.
Недавно он начал посещать другого психотерапевта, когда ему поставили диагноз ПТСР и тревожный невроз.
«Я совершенно разбит, — говорит Рэнди. – Моё психологическое состояние скачет туда и сюда. В какой-то день я совершенно счастлив, в другой я напоминаю зомби. Не то, чтобы у меня была депрессия, я просто застрял».
Он добавляет: «Не думаю, что можно делать эту работу, и не заработать при этом острый невроз или ПТСР».
Модераторы, с которыми я беседовал, часто жалуются на то, что местные психологи ведут себя пассивно, и ждут от работников, пока те сами не распознают признаков беспокойства и депрессии, и не начнут искать помощи.
«Они совершенно ничего для нас не делали, — говорит Ли. – Только ожидали, что мы сами сможем понять, когда мы сломаемся. Большая часть тамошних работников просто медленно деградируют, и сами того не замечают. Вот, что меня убивает».
На прошлой неделе, когда я рассказал представителям ФБ о моих беседах с модераторами, компания пригласила меня в Финикс, чтобы я мог сам посмотреть на этот офис. Впервые ФБ позволила журналисту посетить офис модераторов в США с тех пор, как два года назад компания начала строить здесь специальные офисы для этой цели. Представитель, встретившая меня на месте, сказала, что рассказанные мне истории не отражают повседневного опыта большинства подрядчиков, ни в Финиксе, ни в других офисах по всему миру.
Один источник сообщил мне, что накануне моего приезда в офисный центр, где расположена Cognizant, там на стенах развесили мотивационные плакаты. В целом место оказалось куда как более красочным, чем я ожидал. Неоновый график на стене описывал месячную активность, которая выглядела чем-то средним между расписанием летнего лагеря и дома престарелых: йога, терапия с животными, медитация, и событие, вдохновлённое фильмом "Mean Girls", под названием «по средам мы носим розовое». День моего приезда был последним днём «недели случайных добрых дел», во время которой сотрудников поощряли к написанию вдохновляющих фраз на цветных бумажках, которые надлежало затем прикреплять к стенам при помощи конфеток.
Побеседовав с управляющими из Cognizant и Facebook, я беру интервью у пяти сотрудников, вызвавшихся на это добровольно. Они гуськом проходят в переговорную, и вместе с ними – человек, главный по этому офису. Когда рядом с ними сидит их босс, они признают наличие трудностей на этой работе, но рассказывают мне, что они чувствуют себя в безопасности, ощущают поддержку и считают, что эта работа даст возможность дойти до более высокооплачиваемых должностей – даже если не в ФБ, то в самой компании Cognizant.
Брэд, менеджер по политике, рассказывает мне, что большая часть контента, который модерируют они с коллегами, по сути своей безвредна, и просит не преувеличивать риски для психологического здоровья, связанные с этой работой.
«Возникает такое ощущение, что нас бомбардируют этими изображениями и другим контентом, а на самом деле всё наоборот», — говорит Брэд, проработавший в офисе почти два года. «Большая часть того, что мы видим, вполне спокойная. Это люди, реагирующие слишком эмоционально. Это люди, жалующиеся на фото и видео, которые они просто не хотят видеть – а не из-за того, что у них какое-то плохое содержимое. Большая часть того, что мы видим, именно такая».
Когда я спрашиваю о больших трудностях, связанных с применением политики, модератор Майкл говорит, что он постоянно сталкивается с необходимостью принимать сложные решения. «Существует бесконечное количество вариантов следующей работы, и это приводит к хаосу, — говорит он. – Но из-за этого и работа остаётся интересной. Никогда не будет такого, что вы весь день проработаете, зная ответ на каждый вопрос».
В любом случае, говорит Майкл, эта работа нравится ему больше, чем предыдущая, в Walmart, где его часто ругали посетители. «Здесь на меня никто не орёт», — говорит он.
Модераторы уходят из комнаты по очереди, и меня знакомят с двумя штатными психологами, причём один из них является организатором психологической помощи в этом офисе. Они просят меня не использовать их реальные имена. Они говорят, что справляются о состоянии каждого работника каждый день. Они говорят, что комбинации штатных услуг, горячей линии и программы помощи сотрудникам достаточно для защиты хорошего самочувствия работников.
На вопрос о рисках появления ПТСР психолог, которого я буду называть Логан, рассказывает мне о другом психологическом явлении: посттравматическом росте, когда жертвы травматических событий становятся сильнее из-за пережитого ими опыта. Он приводит в пример Малалу Юсуфзай, активистку в области образования, получившую ранение в голову от одного из подростков, состоявших в террористическом движении Техрик-е Талибан Пакистан.
«Это было для неё чрезвычайно травматическое событие, — говорит Логан. – Но, судя по всему, она вышла из ситуации, став более сильной и выносливой. Она получила Нобелевскую премию мира. Так что есть много примеров людей, переживших тяжёлые времена, и ставших из-за этого сильнее».
Заканчивается посещение туром, в рамках которого я хожу по этажу и беседую с другими работниками. Меня удивляет, насколько они молоды: почти всем из них нет тридцати, или же чуть больше тридцати. Пока я гуляю по офису, вся работа приостанавливается, чтобы я не могу случайно увидеть личной информации пользователей ФБ, поэтому сотрудники мило болтают со своими соседями, когда я прохожу мимо. Отмечаю надписи на плакатах. Один, от Cognizant, содержит загадочный слоган «сочувствие в больших масштабах». Другой, прославленный главным операционным директором ФБ Шерил Сэндберг, гласит: «Что бы вы сделали, если бы не боялись?»
Сразу вспоминается Рэнди с его пистолетом.
Все, кого я встретил в офисе, выражают большую заботу о сотрудниках, и, кажется, делают всё возможное для них, в контексте системы, в которой им всем приходится работать. ФБ гордится тем, что платит подрядчикам по меньшей мере на 20% больше минимальной зарплаты во всех офисах модераторов, предоставляет полную медицинскую страховку, и психологическую помощь лучшего качества, чем в крупнейших колл-центрах.
И всё же, чем больше модераторов я опрашиваю, тем больше у меня появляется сомнений в осмысленности использовании модели колл-центра для организации модерации контента. Такая модель давно является стандартом у техногигантов – её используют в Twitter и Google, и, следовательно, в YouTube. Кроме экономии, аутсорс позволяет техногигантам быстро расширять предложение услуг на новые рынки и на новых языках. Однако эта стратегия передаёт важнейшие вопросы, связанные с общением и безопасностью, в руки людей, которым платят так, будто они отвечают на звонки клиентов супермаркета электроники.
Все опрошенные мною модераторы жутко гордятся своей работой, и говорят о ней с пафосной серьёзностью. Им лишь хочется, чтобы сотрудники ФБ считали их своими коллегами, и относились к ним так, чтобы это хоть немного напоминало равенство.
«Если бы мы не делали эту работу, ФБ выглядел бы ужасно, — говорит Ли. – Мы за них рассматриваем всё это. И, да, чёрт возьми, иногда принимаем неправильные решения. Однако люди не понимают, что тут работают реальные человеческие существа».
И то, что люди этого не понимают, естественно, сделано так специально. ФБ лучше будет разглагольствовать о своих успехах в области искусственного интеллекта, и о том, что благодаря этому в будущем ему придётся меньше полагаться на работу модераторов-людей.
Однако, учитывая ограничения этой технологии и бесконечное речевое разнообразие, такой день кажется весьма далёким. А пока что модель колл-центра для модерации контента весьма пагубно влияет на множество работающих в ней людей. Они, будучи в первых рядах платформы с миллиардами пользователей, выполняют критически важную для современной цивилизации функцию, а получают меньше половины того, что получают другие люди, работающие на передовой. Они работают так долго, как только могут – и потом увольняются, а соглашение о неразглашении гарантирует, что они уходят в тень как можно глубже.
И с точки зрения компании ФБ кажется, будто бы они там вообще не работали. И, технически, так и есть.
