Пандемия коронавируса породила новую волну вирусной (во всех смыслах) дезинформации.
Меры Instagram по противодействию фейкам ничего не смогли поделать с потоком дезинформации о вакцинах. В приложении по-прежнему цветут пышным цветом анти-вакцинные теории заговора, не подтверждённые фактами. Эти теории в дальнейшем обрабатываются алгоритмами индексации и рекомендуются Instagram.
Во времена COVID-19 проблема только обострилась. Пандемия коронавируса привела к новому всплеску вирусной дезинформации, широко поддерживаемой движением против вакцинации. Модераторы Facebook с запозданием реагируют на заявления о контенте, потенциально нарушающим правила социальной сети.
(Примечание переводчика — идиома «кроличья нора» возникла благодаря книгам Льюиса Кэролла про Алису. Она означает, что когда обрушивается колоссальный поток противоречивых сведений, который уже невозможно осмыслить в полном объёме, человек утрачивает возможность критически осмысливать поступающую информацию и начинает верить практически всему. Алиса первое время удивлялась чудесам вокруг неё, но очень быстро пришла к тому, что воспринимала весь происходящий сюрреализм как должное.)
Как и Facebook, Instagram прямо не запрещает анти-вакцинаторский контент, при этом компания утверждает, что делает его менее заметным для пользователей. В компании утверждают, что некоторые хэштеги блокируются и предпринимаются усилия, дабы антивакцинаторские посты труднее находились в таких сервисах приложения, как Explore. Тем не менее аккаунты, продвигающие теории заговора и ложную информацию о вакцинах, в результатах поиска приложения занимают верхние строчки.
Когда вы ищете слово «вакцина» в Instagram, приложение рекомендует десятки анти-вакцинных аккаунтов в топе поисковых результатов. Учетные записи с такими именами, как «Vaccines_revealed» («Подноготная_вакцин»), «Vaccinesuncovered» («Вакциныраскрыты»), «drugines_kill_» («наркотики_убивают_»), «Vacinesaregenocide_» («Вакциныгеноцида»), и « say_no_to_bill_gates_vaccine» («скажи_нет_вакцине_билла_гейтса») давно и надёжно вышли в топ. Некоторые из этих аккаунтов очень популярны, у них порядка сотни тысяч подписчиков, у других — только несколько сотен. Тем не менее, в качестве наиболее релевантных учётных записей по запросу «вакцина» алгоритм Instagram последовательно рекомендует эти аккаунты, вместо проверенных медицинских организаций.
Аккаунты, пропагандирующие теории заговора и ложную информацию о вакцинах, занимают верхние строчки в результатах поиска.
Многие подобные сообщения целенаправленно сеют страх — они нацелены на родителей — и публикуют явно ложные заявления, вроде того, что «вакцины приводят к аутизму». В тренде сейчас теории заговора о Билле Гейтсе и пандемии коронавируса.
Алгоритм рекомендаций Instagram также подталкивает пользователей к учётным записям, распространяющим теории заговора, в том числе о вакцинах и COVID-19.
Я создал новую учетную запись в Instagram (для того чтобы социальная сеть не учитывала мою активность в моём личном аккаунте) и поискал по запросу «вакцина». Через пару секунд приложение предложило мне подписаться на страницы, посвященные антивакцинаторству и другим теориями заговора, в том числе и QAnon. Это тоже не новое явление. В прошлом году «Vice» отметил, что рекомендации Instagram легко приводят пользователей к «кроличьей норе». Медиа-компания пообещала, что изучит феномен поподробнее, но, пока что, новостей по этому поводу от них не слышно.
Мало того, что подобные предложения все ещё появляются, эти рекомендации теперь подталкивают пользователей к другим теориям заговора. Мне хватило только подписки на четыре антивакцинаторских аккаунта, чтобы Instagram начал рекомендовать мне популярные страницы QAnon, одна из которых связана с документальным фильмом «Plandemic Facebook». Пару дней спустя приложение прислало push-уведомления, порекомендовав посетить ещё две страницы про QAnon.
Представители Instagram только и делают, что повторяют: компания стремится сделать дезинформацию о вакцинах труднонаходимой в поиске.
Поиск по конкретным хэштегам также подталкивает пользователей к «кроличьей норе» теорий заговора.
Результаты поиска по хештегу #vaccine предлагают сначала посетить веб-сайт CDC (федеральное агентство министерства здравоохранения США) и содержат относительно санированные результаты. Но также при поиске в хэштегах Instagram рекомендует и другие «связанные» поисковые запросы, которые гораздо менее отфильтрованы, включая #vaccineinjuryadvocate (#адвокатдляпострадавшихотвакцины) и #vaççineskillandinjure (#вакциныубиваютитравмируют). (Использование символа «ç» (cedilla) вместо «c» является обычной тактикой анти-вакцинаторов для того, чтобы избежать обнаружения фильтрующими алгоритмами Instagram.)
И если посмотреть на результаты поиска для этих рекомендуемых хэштегов, вроде #vaccineinjuryadvocate, Instagram далее предлагает ещё больше хэштегов, связанных с различными другими теориями заговора, включая теории заговора по теме коронавируса: #plandemic (#пландемия), #governmentconspiracy (#правительственныйзаговор), #populationcontrol (#контрольнаднаселением) и #scamdemic (#скамдемия). (На данный момент Instagram заблокировал результаты поиска для #plandemic, у которого было более 26000 сообщений, согласно статистике приложения.)
Алгоритм Instagram, рекомендующий хэштеги, связанные с теориями заговора, не ограничивается только вакцинами. При поиске по #5G приложение выдает «связанные хэштеги», такие как #fuckbillgates (#грёбанныйбиллгейтс) #billgatesisevil (#биллгейтсэтозло) #chemtrails (#химическийслед) и #coronahoax (#коронообман). Другие, казалось бы, безобидные запросы, такие как #5Gtowers (#вышки5G), также ведут к теориям заговора, например #projectbluebeam (#проектголубоеизлучение), #markofthebeast (#клеймозверя), #epsteindidntkillhimself (#эпштейнсебянеубивал).
Все эти проблемы отнюдь не новы для Instagram, однако сервис по обмену фотографиями часто избегает той же суровой проверки, которой подвергается Facebook. Когда чиновники компании давали показания перед Конгрессом, они преуменьшали роль Instagram в распространении российской дезинформацией (примечание переводчика — по всей видимости тут имеются ввиду обвинения в адрес России якобы во влиянии на президентские выборы 2016 года). Последующий отчёт сенатского комитета по разведке обнаружил, что Instagram «был наиболее эффективным инструментом, используемым IRA».
Проблема, по мнению тех, кто её изучает, заключается в том, что дезинформация в Instagram часто принимает форму мемов и подобных им изображений, которые анализирующим системам сложнее обнаружить, а модераторам компании сложнее в них разобраться. И хотя Instagram разрабатывает новые системы для решения этой проблемы, изображения могут стать гораздо более эффективным каналом для деструктивных акторов, говорит Пол Барретт, заместитель директора Центра бизнеса и прав человека Нью-Йорка в Стерне.
«Дезинформация, включающая в себя материалы по антивакцинаторству, всё чаще принимают вид игровой визуализации. Это не то, что делается посредством больших объёмов текста», — сказал Барретт. «Визуальный материал воспринимается проще, он не воспринимается угрожающим. И я думаю, что это делает Instagram более привлекательным для распространителей лжи, чем другие социальные сети».
И все же Instagram намного медленнее справляется с проблемой дезинформации, чем Facebook. Приложение для обмена фотографиями не предпринимало каких-либо усилий по проверке фактов до мая прошлого года — почти через три года после того, как Facebook начал опровергать обвинения в том, что он контролируется извне. И приложение только недавно начало меняться, чтобы сделать сомнительные посты менее заметными в лентах пользователей.
И хотя Instagram, как и Facebook, чётко определил критерии определения дезинформации о коронавирусе, компания, по-видимому, не считает содержание анти-вакцинаторских аккаунтов (деятельность которых специалисты увязывают со вспышками кори), столь же неотложной проблемой, как тиражирование теорий заговоров о коронавирусе.
«Мы уделяем приоритетное внимание определенным типам контента, таким как безопасность детей, самоубийства и травмы, терроризм и вредная дезинформация, связанные с COVID, чтобы быть уверенными, что решаем самые основные вопросы, несущими потенциальную опасность», — сказал Марк Цукерберг во время разговора с журналистами на этой неделе, обсуждая усилия по модерации контента в Facebook.
На вопрос о том, расставляет ли компания приоритеты в отношении контента про вакцины, учитывая связь этой темы с дезинформацией о коронавирусе, вице-президент Facebook Гай Розен, уклончиво ответил: «Исключительно важно расставить приоритеты, чтобы не допустить распространение тем, несущих вред здоровью».
Представитель Instagram сообщил Engadget, что компания не запрещает анти-вакцинаторов, но отметил, что были удалены некоторые посты с дезинформацией, связанных с недавно случившимися вспышками кори в Самоа и полиомиелита в Пакистане. Чиновники в обеих странах обвинили сеющих дезинформацию в том, что среди населения усиливаются настроения против вакцинации.
Однако в большинстве случаев компания не предпринимает действий по удалению подобного контента полностью, просто пытаясь сделать его менее заметным или добавляя к постам метки «ложная информация», если контент был разоблачён проверщиками фактов.
Но проверка фактов является недостаточной, считает Барретт. «Масштаб проблемы настолько огромен, что наивно полагать, будто проверка фактов — даже если она проводится энергично — сможет отсеять значительную часть ложной информации, которая постоянно публикуется. Когда речь о миллиардах публикаций в день, даже если у вас есть 60 команд по проверке фактов по всему миру, многие из этих публикаций проходят мимо внимания модераторов».
Меры Instagram по противодействию фейкам ничего не смогли поделать с потоком дезинформации о вакцинах. В приложении по-прежнему цветут пышным цветом анти-вакцинные теории заговора, не подтверждённые фактами. Эти теории в дальнейшем обрабатываются алгоритмами индексации и рекомендуются Instagram.
Во времена COVID-19 проблема только обострилась. Пандемия коронавируса привела к новому всплеску вирусной дезинформации, широко поддерживаемой движением против вакцинации. Модераторы Facebook с запозданием реагируют на заявления о контенте, потенциально нарушающим правила социальной сети.
Перевод подготовлен при поддержке компании EDISON.
Мы разработали программное обеспечение для «ЭСМО» — это электронная система медицинского осмотра, полностью автоматизированная и проводящая массовые медосмотры в считанные минуты.
«Кроличья нора» в Instagram
(Примечание переводчика — идиома «кроличья нора» возникла благодаря книгам Льюиса Кэролла про Алису. Она означает, что когда обрушивается колоссальный поток противоречивых сведений, который уже невозможно осмыслить в полном объёме, человек утрачивает возможность критически осмысливать поступающую информацию и начинает верить практически всему. Алиса первое время удивлялась чудесам вокруг неё, но очень быстро пришла к тому, что воспринимала весь происходящий сюрреализм как должное.)
Как и Facebook, Instagram прямо не запрещает анти-вакцинаторский контент, при этом компания утверждает, что делает его менее заметным для пользователей. В компании утверждают, что некоторые хэштеги блокируются и предпринимаются усилия, дабы антивакцинаторские посты труднее находились в таких сервисах приложения, как Explore. Тем не менее аккаунты, продвигающие теории заговора и ложную информацию о вакцинах, в результатах поиска приложения занимают верхние строчки.
Когда вы ищете слово «вакцина» в Instagram, приложение рекомендует десятки анти-вакцинных аккаунтов в топе поисковых результатов. Учетные записи с такими именами, как «Vaccines_revealed» («Подноготная_вакцин»), «Vaccinesuncovered» («Вакциныраскрыты»), «drugines_kill_» («наркотики_убивают_»), «Vacinesaregenocide_» («Вакциныгеноцида»), и « say_no_to_bill_gates_vaccine» («скажи_нет_вакцине_билла_гейтса») давно и надёжно вышли в топ. Некоторые из этих аккаунтов очень популярны, у них порядка сотни тысяч подписчиков, у других — только несколько сотен. Тем не менее, в качестве наиболее релевантных учётных записей по запросу «вакцина» алгоритм Instagram последовательно рекомендует эти аккаунты, вместо проверенных медицинских организаций.
Аккаунты, пропагандирующие теории заговора и ложную информацию о вакцинах, занимают верхние строчки в результатах поиска.
Многие подобные сообщения целенаправленно сеют страх — они нацелены на родителей — и публикуют явно ложные заявления, вроде того, что «вакцины приводят к аутизму». В тренде сейчас теории заговора о Билле Гейтсе и пандемии коронавируса.
Алгоритм рекомендаций Instagram также подталкивает пользователей к учётным записям, распространяющим теории заговора, в том числе о вакцинах и COVID-19.
Я создал новую учетную запись в Instagram (для того чтобы социальная сеть не учитывала мою активность в моём личном аккаунте) и поискал по запросу «вакцина». Через пару секунд приложение предложило мне подписаться на страницы, посвященные антивакцинаторству и другим теориями заговора, в том числе и QAnon. Это тоже не новое явление. В прошлом году «Vice» отметил, что рекомендации Instagram легко приводят пользователей к «кроличьей норе». Медиа-компания пообещала, что изучит феномен поподробнее, но, пока что, новостей по этому поводу от них не слышно.
Мало того, что подобные предложения все ещё появляются, эти рекомендации теперь подталкивают пользователей к другим теориям заговора. Мне хватило только подписки на четыре антивакцинаторских аккаунта, чтобы Instagram начал рекомендовать мне популярные страницы QAnon, одна из которых связана с документальным фильмом «Plandemic Facebook». Пару дней спустя приложение прислало push-уведомления, порекомендовав посетить ещё две страницы про QAnon.
Представители Instagram только и делают, что повторяют: компания стремится сделать дезинформацию о вакцинах труднонаходимой в поиске.
Поиск по конкретным хэштегам также подталкивает пользователей к «кроличьей норе» теорий заговора.
Результаты поиска по хештегу #vaccine предлагают сначала посетить веб-сайт CDC (федеральное агентство министерства здравоохранения США) и содержат относительно санированные результаты. Но также при поиске в хэштегах Instagram рекомендует и другие «связанные» поисковые запросы, которые гораздо менее отфильтрованы, включая #vaccineinjuryadvocate (#адвокатдляпострадавшихотвакцины) и #vaççineskillandinjure (#вакциныубиваютитравмируют). (Использование символа «ç» (cedilla) вместо «c» является обычной тактикой анти-вакцинаторов для того, чтобы избежать обнаружения фильтрующими алгоритмами Instagram.)
И если посмотреть на результаты поиска для этих рекомендуемых хэштегов, вроде #vaccineinjuryadvocate, Instagram далее предлагает ещё больше хэштегов, связанных с различными другими теориями заговора, включая теории заговора по теме коронавируса: #plandemic (#пландемия), #governmentconspiracy (#правительственныйзаговор), #populationcontrol (#контрольнаднаселением) и #scamdemic (#скамдемия). (На данный момент Instagram заблокировал результаты поиска для #plandemic, у которого было более 26000 сообщений, согласно статистике приложения.)
Алгоритм Instagram, рекомендующий хэштеги, связанные с теориями заговора, не ограничивается только вакцинами. При поиске по #5G приложение выдает «связанные хэштеги», такие как #fuckbillgates (#грёбанныйбиллгейтс) #billgatesisevil (#биллгейтсэтозло) #chemtrails (#химическийслед) и #coronahoax (#коронообман). Другие, казалось бы, безобидные запросы, такие как #5Gtowers (#вышки5G), также ведут к теориям заговора, например #projectbluebeam (#проектголубоеизлучение), #markofthebeast (#клеймозверя), #epsteindidntkillhimself (#эпштейнсебянеубивал).
Дезинформация в Instagram
Все эти проблемы отнюдь не новы для Instagram, однако сервис по обмену фотографиями часто избегает той же суровой проверки, которой подвергается Facebook. Когда чиновники компании давали показания перед Конгрессом, они преуменьшали роль Instagram в распространении российской дезинформацией (примечание переводчика — по всей видимости тут имеются ввиду обвинения в адрес России якобы во влиянии на президентские выборы 2016 года). Последующий отчёт сенатского комитета по разведке обнаружил, что Instagram «был наиболее эффективным инструментом, используемым IRA».
Проблема, по мнению тех, кто её изучает, заключается в том, что дезинформация в Instagram часто принимает форму мемов и подобных им изображений, которые анализирующим системам сложнее обнаружить, а модераторам компании сложнее в них разобраться. И хотя Instagram разрабатывает новые системы для решения этой проблемы, изображения могут стать гораздо более эффективным каналом для деструктивных акторов, говорит Пол Барретт, заместитель директора Центра бизнеса и прав человека Нью-Йорка в Стерне.
«Дезинформация, включающая в себя материалы по антивакцинаторству, всё чаще принимают вид игровой визуализации. Это не то, что делается посредством больших объёмов текста», — сказал Барретт. «Визуальный материал воспринимается проще, он не воспринимается угрожающим. И я думаю, что это делает Instagram более привлекательным для распространителей лжи, чем другие социальные сети».
И все же Instagram намного медленнее справляется с проблемой дезинформации, чем Facebook. Приложение для обмена фотографиями не предпринимало каких-либо усилий по проверке фактов до мая прошлого года — почти через три года после того, как Facebook начал опровергать обвинения в том, что он контролируется извне. И приложение только недавно начало меняться, чтобы сделать сомнительные посты менее заметными в лентах пользователей.
И хотя Instagram, как и Facebook, чётко определил критерии определения дезинформации о коронавирусе, компания, по-видимому, не считает содержание анти-вакцинаторских аккаунтов (деятельность которых специалисты увязывают со вспышками кори), столь же неотложной проблемой, как тиражирование теорий заговоров о коронавирусе.
«Мы уделяем приоритетное внимание определенным типам контента, таким как безопасность детей, самоубийства и травмы, терроризм и вредная дезинформация, связанные с COVID, чтобы быть уверенными, что решаем самые основные вопросы, несущими потенциальную опасность», — сказал Марк Цукерберг во время разговора с журналистами на этой неделе, обсуждая усилия по модерации контента в Facebook.
На вопрос о том, расставляет ли компания приоритеты в отношении контента про вакцины, учитывая связь этой темы с дезинформацией о коронавирусе, вице-президент Facebook Гай Розен, уклончиво ответил: «Исключительно важно расставить приоритеты, чтобы не допустить распространение тем, несущих вред здоровью».
Представитель Instagram сообщил Engadget, что компания не запрещает анти-вакцинаторов, но отметил, что были удалены некоторые посты с дезинформацией, связанных с недавно случившимися вспышками кори в Самоа и полиомиелита в Пакистане. Чиновники в обеих странах обвинили сеющих дезинформацию в том, что среди населения усиливаются настроения против вакцинации.
Однако в большинстве случаев компания не предпринимает действий по удалению подобного контента полностью, просто пытаясь сделать его менее заметным или добавляя к постам метки «ложная информация», если контент был разоблачён проверщиками фактов.
Но проверка фактов является недостаточной, считает Барретт. «Масштаб проблемы настолько огромен, что наивно полагать, будто проверка фактов — даже если она проводится энергично — сможет отсеять значительную часть ложной информации, которая постоянно публикуется. Когда речь о миллиардах публикаций в день, даже если у вас есть 60 команд по проверке фактов по всему миру, многие из этих публикаций проходят мимо внимания модераторов».
