Как стать автором
Обновить

«Документы Facebook»: как всё начиналось и что стало известно из слитых данных

Законодательство в IT Социальные сети и сообщества IT-компании

Последние пару месяцев компания Facebook, переименованная в конце октября в Meta, переживает не лучшие времена — зарубежные СМИ пестрят новостями с обзорами внутренних расследований, раскрывающих печальные факты из деятельности компании, государственные ведомства США заводят дела против Meta, инвесторы подают в суд за махинации с отчётами, стоимость акций стремительно снижается. Всё это произошло после того, как бывшая сотрудница Meta Френсис Хауген перед увольнением слила в СМИ и Конгрессу США внутренние документы компании. Что такого страшного в этих документах, кто такая Хауген и что на данный момент известно — рассказываем в материале.

Хотела как лучше, а получилось…

Скандал со слитыми документами Meta появился благодаря бывшей сотруднице компании — менеджеру по продукту Facebook Френсис Хауген. Она устроилась на работу в Facebook в 2019 году, сразу попав в команду разработки стратегии защиты от вмешательства в выборы США. В мае этого года Френсис уволилась, прихватив с собой результаты работы внутренних исследовательских групп. Они были размещены во внутренней рабочей сети Facebook Workplace. Все эти документы сразу были переданы в СМИ и Конгресс США.

Сначала Френсис передавала данные анонимно, боясь ответственности за разглашение конфиденциальной информации. Открыто заявить о себе женщина решилась только в начале октября этого года в эфире программы 60 minutes. Незадолго до этого она попросила у американского правительства защиту, сославшись на Закон о защите информаторов в США. Закон освобождает от ответственности за разглашение информации о внутренних рабочих процессах в случае, если информаторы сообщают о незаконной, неэтичной и любой противоправной деятельности компании.

В интервью Френсис рассказала, что Meta намеренно вкладывает недостаточно средств на борьбу с фильтрацией негативного и дезинформирующего контента на площадке. Текущая команда сотрудников, работающая по этому направлению, физически не способна справиться с огромным объёмом работ. Людям приходится часто задерживаться и проваливать очевидно невыполнимые планы, выставляемые руководством. По словам Френсис, она поняла это с первых недель работы в компании, но до последнего старалась как-то исправить ситуацию.

Френсис Хауген на интервью в программе 60 minutes
Френсис Хауген на интервью в программе 60 minutes

Френсис решила уволиться после нескольких публичных отчётов Facebook, в которых она обнаружила прямое несоответствие между фактическим и представляемым общественности положением дел в компании. Сотрудники регулярно отправляли отчёты о загруженности и несовершенстве системы, количестве негативного контента и других важных вещах, которые либо не включались в доклады, либо значительно искажались в угоду приемлемой статистике. Френсис рассказала, что была очень расстроена и обеспокоена этим фактом. Особенно с учётом того, что компания не показывала особую озабоченность результатами внутренних исследований.

Заявление об увольнении Хауген написала в апреле. Ещё месяц понадобился на то, чтобы передать дела оставшимся сотрудникам. За этот месяц она тщательно просматривала результаты работы других команд, опубликованных во внутренней сети Facebook Workplace. До инцидента Meta предоставляла сотрудникам свободный доступ к данным других проектов, называя это открытой и доверительной системой работы. Предполагалось, что работники будут вступать в группы других проектов с предложениями по поводу решения ситуаций и обсуждения проблем в целом. После скандала с Хауген эту систему отменили, но было поздно — за месяц экс-сотрудница слила достаточно данных, чтобы вокруг Meta разразился настоящий скандал. 

Френсис утверждает, что не хочет топить Meta. Её цель — заставить компанию предпринимать реальные действия, а не создавать видимость работы, предоставляя публике фальшивые отчёты. При этом она активно выступает в Конгрессе, утверждая, что Meta намеренно игнорирует внутренние исследования и не борется с негативным контентом. По её словам, негатив способствует росту вовлечённости аудитории, поэтому его удаление с ресурса невыгодно компании.

Самое важное — дети

Первые статьи со ссылкой на некие слитые документы Meta появились в американских СМИ лишь через несколько месяцев после увольнения Хауген. Впервые о них упомянуло издание Wall Street Journal (WSJ) в статье про внутреннюю систему VIP-пользователей на Facebook. Опубликованная 14 сентября новость рассказывала о тайной системе XCheck, благодаря которой пользователи, внесённые в VIP-лист, могут избегать общие ограничения соцсети. Например, «випам» дозволено публиковать оскорбления, призывы к насилию и другие материалы, за которые обычно банят аккаунты или даже привлекают к ответственности в суде.

В этот же день WSJ опубликовало ещё одну статью, в котором рассматривается вред, оказываемый платформами Meta на девочек-подростков. Например, Instagram негативно влияет на самооценку детей, заставляя их чувствовать себя хуже и испытывать тревогу, вплоть до появления мыслей о суициде. Данные о вреде основаны на собственных исследованиях компании, слитых Хауген. В этой новости личность информатора также не раскрывается. 

На тот момент Meta не отрицала результаты исследования, признавая, что использование соцсети может наносить вред лишь «некоторой части аудитории». Здесь стоит отметить, что около 40% аудитории Instagram не достигли возраста 22 лет. Из них ежедневно соцсеть посещают не менее 22 млн человек. Говоря о «некоторой части аудитории», представители Meta существенно преуменьшают негативное влияние Instagram на детей, о чём неоднократно ещё до ситуации с Хауген заявляли американские политики, журналисты и аналитики. 

Вопрос о влиянии смартфонов и соцсетей на детей в последние годы в США стоит особенно остро. Вероятно, поэтому новость о скрываемом вреде Instagram на подростков вызвала такой общественный резонанс. Компании даже пришлось публиковать ответ на критику WSJ, заявив, что материалы исследования неверно интерпретированы, а сама работа не может дать полноценный взгляд на ситуацию ввиду небольшой выборки. Сам глава Instagram сравнил сидение в соцсети с ездой на автомобилях, заверив, что жертвы неизбежны. Это только усугубило конфликт и привлекло дополнительное внимание общественности к сливу документов.

Глава Instagram Адам Моссери
Глава Instagram Адам Моссери

Непогрешимая Meta и святой Цукерберг

Ещё до слива документов СМИ начали замечать изменившееся поведение Цукерберга. В частности, издание New York Times написало, что с начала 2021 года компания Meta и её глава Марк Цукерберг усиленно работают над восстановлением репутации. Цукерберг ведёт себя как воплощение добропорядочности, рассказывая на презентациях о позитивных достижениях компании и будущем создании метавселенной, а не действиях Meta в ответ на щекотливые новости. В новостной ленте Facebook чаще начали встречаться позитивные посты о работе в Meta и другая информация, обеляющая компанию. 

Кроме того, с сентября 2020 года Цукерберг усиленно продаёт принадлежащие ему акции Meta. В середине июля его доля в компании сократилась до 14%, что вдвое меньше, чем на момент IPO Facebook в 2012 году. 90% от вырученных средств он направил в благотворительный фонд, основанный им и его женой Присциллой Чан.

Слитые документы свели на нет все попытки Meta и Цукерберга обелить свою репутацию. Интервью Хауген в программе 60 minutes ещё сильнее усугубило эту проблему. Излишнее внимание привлёк и произошедший практически сразу после публикации интервью глобальный сбой в работе всех платформ Meta. Он продолжался более пяти часов, задев львиную долю населения планеты.

Через два дня после интервью с Хауген Цукерберг опубликовал пост, в котором опроверг все представленные обвинения. Он назвал выводы Хауген и СМИ «крайне нелогичными», поскольку ни пользователи, ни заказчики рекламы не заинтересованы в поощрении негативного контента. Кроме того, по его словам, обвинения противоречат достижениям компании в области контроля за «негативным» контентом. Марк заверил, что компания вкладывает все силы в разработку безопасной среды как для детей, так и для взрослых. По его словам, этот слив обесценивает труды сотрудников, поскольку «на самых базовых уровнях» создаёт неверное и тяжело опровержимое представление о политике Meta.

Основатель Meta Марк Цукерберг
Основатель Meta Марк Цукерберг

Вы всё неправильно поняли, это другое!

Цукерберг в своём посте не рассказал ничего нового относительно позиции Meta. Ранее представители компании в ответе на запросы издания отвечали абсолютно теми же тезисами, заверяя общественность, что СМИ искусственно нагнетают ситуацию. При этом на фоне скандала компания приостановила выпуск и разработку новых продуктов, чтобы убедиться, что они не оказывают негативного влияния на детей и не испортят репутацию компании при их обнародовании.

Слова Цукерберга и других представителей Meta подхватила и вице-президент по политике в области контента Facebook Моника Бикерт. Она обвинила Хауген в краже документации и неверной интерпретации исследований. По словам Бикерт, деятельность Френсис вообще никак не была связана с добытыми материалами, поэтому она неспособна понять их истинный смысл и уж тем более передавать искажённые выводы общественности. 

Американские СМИ заподозрили, что речь Бикерт была заранее отрепетирована. Непосредственно имени Хауген в речи не звучит, будто вице-президент пытается исключить её из повестки и вынести некое предупреждение следующему разоблачителю. Кроме того, не без участия руководства внутри компании распространился слух, что утечка целиком и полностью спланирована конкурентами компании. Это меняет отношение сотрудников как к слитым документам, так и к самой Хауген.

Вице-президент по политике в области контента Facebook Моника Бикерт
Вице-президент по политике в области контента Facebook Моника Бикерт

Вместе с постоянными заявлениями о том, что СМИ и Хауген всё неверно поняли, Facebook ввела несколько функций для модерации контента. В частности, через несколько дней после выступления Хауген Meta ввела функцию по информированию подростков в Instagram о необходимости отвлечься от соцсети. Также компания обновила правила площадок, усилив борьбу с запугиванием, домогательствами и преследованием пользователей, и объявила о планах существенно уменьшить количество политических постов в ленте. В дополнение компания опубликовала отчёт, в котором заверила, что за последние три квартала на 50% сократила долю негативного контента на Facebook. По её словам, сейчас в соцсети на негатив приходится всего около 0,05% материалов.

Вскоре после этого подтвердить слова Хауген в суде вызвалась ещё одна бывшая сотрудница Meta Софи Джан. Она работала специалистом по обработке и анализу данных, но была уволена за «низкую производительность». Чжан передала правоохранительным органам ещё одну партию документов, свидетельствующих о многочисленных нарушениях компании. 

Что ещё известно 

В слитых документах содержатся не только данные об уже упомянутом исследовании Instagram и привилегий для VIP-профилей. Например, после анализа документации стало известно, что ИИ компании не справляется с модерацией контента. Несмотря на все заверения Цукерберга и Meta об исключительных возможностях нейросети, она не способна своевременно и эффективно находить и удалять негативный и дезинформирующий контент. Например, ИИ не умеет выявлять расистские высказывания, видео со стрельбой в школах, путает петушиные бои с автокатастрофой и понижает приоритет в выдаче на материалах, со статусом которых не может определиться (вреден или нет). Кроме того, нейросеть не только не справляется с дезинформацией о коронавирусе и вакцинах, но и не имеет представления об объёмах дезинформации в соцсетях. Компания предоставляет отчёты о доле фейковых постов на платформах, в то время как на самом деле точно не знает, сколько их на самом деле.

Также СМИ представили общественности и более серьёзные нарушения. Например, сотрудники Meta были осведомлены о торговле людьми на Ближнем Востоке и регулярно находили множество постов, в которых беженки из стран Азии и Африки рассказывали, что оказались в рабстве. На эти сообщения никак не реагировали и не передавали соответствующим службам, ведущим расследование. Также компания не вмешивалась в публикацию материалов от издания Breitbart. Оно освещало протесты Black Lives Matter в крайне негативном ключе, усугубляя и без того напряжённую ситуацию. 

Что ещё интересно — нейросеть Meta при ранжировании постов считала эмодзи за пять обычных лайков. Это также стало известно только после слива документов. Таким образом компания (осознано или нет — достоверно неизвестно) вместе с обычным планомерно продвигает негативный контент, вызывающий ярое недовольство у пользователей. Чем чаще люди ставили негативный эмодзи, тем сильнее система продвигала такие материалы. Также стало известно, что Meta планировала таргетировать рекламу на детей от шести лет, что противоречит текущему законодательству США. В слитых материалах представлен готовый план по реализации таргетинга. Вместе с тем неизвестно, как компания планировала обходить законодательство.

Случайность или хорошо спланированная операция?

Американские СМИ регулярно отмечают, что слив Хауген получил известность во многом благодаря грамотно спланированной пиар-акции. После выступления в эфире 60 minutes к Хауген в очень короткие сроки присоединились организации по юридической поддержке информаторов и те, кто когда-либо имел претензии к Meta. Одним из таких противников стал фонд Omidyar Network. Его основатель и глава eBay Пьер Омидьяр через фонд выделил дополнительные средства Хауген, чтобы она могла оплачивать судебные расходы и адвокатов. Вместе с тем некоторые юристы согласились предоставлять услуги Хауген бесплатно и даже организовали сбор средств на финансирование процесса.

Omidyar Network регулярно участвует в агитации против крупных технологических компаний, в том числе против Meta. Он пообещал долгосрочные инвестиции в дело Хауген, чтобы поддержать общественный резонанс и разговор о проблемах, поднятых вследствие утечки. Хауген поддерживают организации Whistleblower Aid и Center for Humane Technology, регулярно получающие финансирование от Omidyar Network. Главный представитель Хауген по связям с общественностью в США и бывший пресс-секретарь Обамы Билл Бёртон как раз руководит Center for Humane Technology.

Неизвестно, было ли привлечение данных организаций и лиц спланировано и оговорено ещё до выступления Хауген. Тем не менее, постоянная публикация материалов в СМИ и выступления экс-сотрудницы в Конгрессе привели не только к репутационным, но и значительным финансовым потерям Meta. В частности, Сенат США потребовал прекратить внедрение криптокошелька Novi и отказаться от разработки цифровой валюты Diem. По словам сенаторов, слитые документы показали, что Meta нельзя доверять такое серьёзное направление, поскольку компания не способна обеспечить достаточный уровень надёжности и безопасности.

Вместе с тем акционеры Meta подали в суд коллективный иск за намеренное искажение информации о текущем положении дел в компании. На фоне скандала за два месяца стоимость ценных бумаг упала с $377 до $312,2 за штуку (на текущий момент выросли до $332,54 на фоне ребрендинга). Если бы акционеры знали о внутренних исследованиях и репутационных рисках, они не стали бы покупать акции. Вместе с иском Федеральная торговая комиссия США начала своё расследование на предмет мошенничества.

Теги:
Хабы:
Всего голосов 74: ↑69 и ↓5 +64
Просмотры 41K
Комментарии Комментарии 142