Что делать с антинаучными теориями в интернете? Деплатформинг и гуманная цензура

К сожалению, сознанием легко манипулировать. Люди предсказуемо боятся неизвестного, соглашаются с мнением большинства, верят часто повторяемой лжи, считают себя лучше среднего и думают, что окружающий мир действительно такой, каким выглядит (наивный реализм). На данный момент у сапиенсов классифицировано более 175 когнитивных искажений. Что характерно, люди замечают проявление когнитивных искажений у других, но не у себя (это эффект слепого пятна, он чаще встречается у людей с высоким IQ).

Доверчивость широких масс из-за сбоев в работе мозга создаёт благодатную почву для распространения антинаучных, конспиративных теорий и мракобесия, а также дезинформации. Иногда это конкретно угрожает жизни: например, отказ от прививок, теория несуществующего ВИЧ, теория о вреде ГМО, хотя многие мифы безобидны и даже забавны (как теория плоской Земли). По какой-то странной причине конспирологическое мышление с каждым годом становится всё популярнее в России. Даже на Хабре всерьёз публикуются статьи о разных заговорах.

Что можно сделать с технической стороны, чтобы помешать распространению мракобесия, кто должен этим заниматься? Вряд ли государство, которое сильно себя дискредитировало в области пропаганды. Если модерацию возьмут на себя интернет-компании, то мы близки к корпоративной цензуре. В то же время важно не выплеснуть с водой ребёнка, то есть не повредить самое ценное, что у нас есть в интернете — свободу слова.

В 2017 году было проведено исследование социальных сетей и СМИ на предмет самых распространённых конспирологических концептов и изменения их популярности в России. 36 концептов отслеживались по базе из 43 000 телеканалов, радиостанций, печатных и онлайн-СМИ в период между 1 января 2011 г. и 31 декабря 2017 г. — и за это время их упоминаемость по базе источников выросла в 6−9 раз.



Безусловный лидер рейтинга — одна из так называемых «внутренних» теорий заговора, привязанная к российской повестке. Это теория заговора историков против России. Здесь несколько конспирологических сюжетов, которые объединяются якобы умышленной фальсификацией и искажением истории. Эксперты отмечают, что данная теория заговора вышла на 1-е место из-за сверхвысокой частоты упоминаний со стороны первых лиц страны и круга их доверенных и приближённых с обвинениями в адрес «плохих» историков и/или враждебных политических сил в целом. Эти заявления потом ретранслируются всеми СМИ, что даёт огромную частотность при анализе.

Антинаучные и конспирологические теории можно разделить на несколько видов.

Теории, которые наносят вред

Это теории, которые прямо или косвенно угрожают жизни и здоровью людей, отдельных народов и человечества в целом. К примеру:

• антивакцинаторство (заговор фармацевтических компаний);
  
• запрет на переливание крови (религиозный запрет);
  
• расовая теория, евгеника;
  
• ВИЧ/СПИД выдуман.

Относительно безобидные теории

• религиозные теории (жизнь после смерти, непротивление злу);
  
• теория плоской Земли;
  
  
  
  Один из аргументов плоскоземельщиков — фотографии удалённых объектов. Эта фотография Чикаго сделана с противоположного берега озера Мичиган на расстоянии 60 км и в реальности представляет собой мираж
  
• теория о моральном разложении Запада (региональная теория преимущественно в странах третьего мира);
  
• всемирный политический заговор, тайное мировое правительство (масоны, евреи, пришельцы/рептилоиды и др.)

Пограничные области

Иногда теории переходят из одной категории в другую. Например, безобидные религиозные верования могут переродиться в деструктивные культы, которые хотят «сражаться с неверными», призывают к жизни после смерти и массовым самоубийствам. Антинаучная расовая теория может трансформироваться в научную генетику, и наоборот, кибернетику могут объявить антинаучной (см. Ярошевский М. Кибернетика — «наука» мракобесов. — Литературная газета. — 5 апреля 1952).

В истории науки было немало случаев, когда теория меняла «статус» или перерождалась в ином виде.

Например, в споре о причинах изменения климата на самом деле серьёзная подоплёка. После длительных обсуждений в научном сообществе принят консенсус, что глобальное потепление имеет антропогенную природу — чтобы больше к этой теме не возвращаться. Таким образом, альтернативные точки зрения на природу изменения климата автоматически переходят в разряд «антинаучных теорий», несмотря на поддержку со стороны МАГАТЭ и нефтяного лобби.



Но если изменение климата приобретёт необратимый характер по примеру парникового эффекта на Венере, то пропаганду МАГАТЭ постфактум можно будет рассматривать как вредоносную. Сейчас это делать преждевременно.

Возможно, наши потомки посчитают «опасными» и другие научные направления, а в результате могут появиться причины для их запрета:

• клонирование человеческих эмбрионов;
  
• сильный искусственный интеллект;
  
• бессмертие;
  
• оцифровка сознания.

Если вред какого-то научного направления станет очевидным в будущем, тогда исследования в этой области могут запретить. Сейчас это пограничные области, хотя клонирование человеческих эмбрионов уже запретили во многих странах по этическим причинам (согласно официальному объяснению, они наносят вред морали и религиозным убеждениям).

Государственная цензура опасна

Кажется, что государственные службы не совсем способны на эффективную работу в интернете. На сегодняшний день мы видим только беспомощные попытки заблокировать распространение запрещённой информации по списку. При этом:

• список публикуется в открытом доступе;
  
• блокировки неэффективны;
  
• список составляется не учёными и экспертами, а некомпетентными чиновниками по размытым критериям.

Государственная пропаганда тоже выглядит довольно беззубо:



Самое опасное в том, что иногда власти стремятся манипулировать обществом в своих интересах. Например, склонить общественное мнение в нужную сторону. Отдав государству рычаги власти, мы рискуем, что эта власть будет использована против граждан. Например, власти могут признать «экстремистскими» и запретить неугодные общественные организации и СМИ, что ведёт к тоталитаризму.

Вероятно, в интересах общества информационные фильтры должны работать как-то иначе.

Интересный вопрос — кто распространяет слухи, фейки и теории заговора? Автор лекции «Слухи, легенды, фейки: что заставляет людей говорить неправду», российский антрополог Александра Архипова считает вопрос «кому это выгодно» бессмысленным и отдающим конспирологией: «Это подразумевает, что есть игроки, которые тянут за верёвочки. Но так не происходит, — говорит она. — Есть много людей, например, мамы в «родительских чатах», которые очень перепуганы, теряют ощущение контроля над своей жизнью, потому что весь её уклад разрушен. Фейк предлагает простую картину мира, которая совершенно неверна, но чётко объясняет, чего бояться, как спастись, и кто виноват».

Популярность теорий заговора частично объясняется сбоями мозга (когнитивными искажениями), которые присущи многим людям — см. результаты опроса в конце статьи.

Деплатформинг

Проблема фильтрации вредоносной информации действительно сложная. И если государство не в силах её решить, то часть ответственности берут на себя технологические платформы, которые контролируют коммуникации в интернете: Google, Facebook, Twitter, Instagram, YouTube и другие. Казалось бы, платформа не может нести ответственность за действия отдельных пользователей. Так же как энергосеть не несёт ответственности за действия клиентов, потребляющих электричество. Но здесь другой случай.

Социальные сети, мессенджеры, почтовые сервисы, даже хостинги — у всех есть «условия пользования сервисом», и многие практикуют деплатформинг нарушителей.

Например, Twitter с 2014 года удалил сотни тысяч аккаунтов, в том числе личный аккаунт президента США. С прошлого года Twitter начал удалять/помечать отдельные посты с фейками. Для идентификации вредного контента Twitter сотрудничает с «надёжными партнёрами». Удаляются конспирологические посты о связи пандемии с 5G, бесполезности вакцинации и др. Удалили два комментарии президента Бразилии, который поставил под сомнение целесообразность карантина.

Впрочем, в интернете ещё остаются отдельные «островки свободы», которые принципиально не хотят совать нос в дела своих пользователей и не занимаются деплатформингом — см. статью «Дата-центр возле Амстердама называют „выгребной ямой интернета“, но он продолжает работу».

Платформы вводят цензуру по собственной инициативе под давлением общественности, которая обвиняет их в распространении фейков, слухов и конспирологических теорий ради наживы (больше просмотров, лайков, доходов от рекламы).

Чтобы перейти на «сторону добра», платформы добровольно вводят цензуру, стараясь отфильтровать вредный контент. Например, YouTube с октября 2020 года удалил более 30 000 видеороликов с призывами против вакцинации COVID-19, хотя на платформе осталось много подобного контента, в том числе с монетизацией.


Монетизация YouTube на контенте антивакцинаторов

Но что будет дальше? Как далеко это зайдёт? Ведь по сути с введением цензуры эти сервисы отказываются от статуса «нейтральной платформы» и «провайдера услуг», а заявляют о наличии определённой редакционной политики, как у средств массовой информации.

Тонкий момент в том, что для СМИ действует другое законодательство. В отличие от провайдеров услуг, СМИ реально несут ответственность за всю опубликованную информацию. Если социальные сервисы и платформы вводят цензуру контента по этому образцу, то государство может приравнять их к СМИ и наложить такую же ответственность за весь публикуемый контент.

Что же должны делать платформы? Блокировать фейки, конспирологию, слухи? Или позволять им свободно распространяться, блокируя информацию только в самом крайнем случае, когда поступит несколько официальных запросов со стороны правоохранительных органов? Может, классифицировать фейки по степени вредоносности?

Некоторые эксперты считают, что корпоративная цензура гораздо страшнее государственной, поэтому в данном случае следует действовать очень аккуратно.

Возможно, деплатформинг и гуманная цензура действительно эффективны в борьбе с мракобесием, которое всё больше распространяется в России, согласно опросам общественного мнения. Важно понимать, что глубинная причина распространения антинаучных теорий лежит в человеческой природе — в когнитивных искажениях, связанных с некорректной обработкой информации, поступающей в мозг.

---

На правах рекламы

Эпичные серверы — это VPS для любых задач. Вы можете создать собственный тарифный план в пару кликов, максимальная конфигурация — 128 ядер CPU, 512 ГБ RAM, 4000 ГБ NVMe!