Аристотель придумал, что в риторике есть четыре главных способа убеждения. Пафос — через эмоции и повествование. Логос — через факты и логику. Этос — через авторитет того, что убеждает. Есть еще кайрос, фактор контекста: того, когда вас пытаются убедить и при каких условиях.
Познакомился я с ними, когда работал академконсультантом в США: помогал получать высшее образование так, чтобы иметь хорошие оценки и не тратить слишком много денег. В колледжах США риторику изучают все гуманитарии на первом курсе, иногда даже технари. И так как всю риторику сводили именно к способам убеждения, мои клиенты из Ближнего Востока и Китая часто этим возмущались. И спрашивали меня, какой скрытый смысл в том, чтобы изучать такие очевидные вещи.
Что же, ответ у меня есть. Я считаю, что этос — это бич мыслящего человека. Кайрос — кандалы, который выковал информационный век. А понимание того, как работает риторика — базовый инструмент критического мышления. Особенно для IT-специалиста.
Я так много рассказывал об этом на кухнях и в чатах, что решил написать статью. А получился лонгрид с научными исследованиями, разбором влияния алгоритмических новостных лент, и безумным комиксом из мемов, который я делал 4 часа в Фигме. Поехали!
UPD Большое спасибо всем тем людям, что помогли мне исправить ошибки и очепятки! Только на Хабре так стремятся помочь, и это неоценимо.
▍Доверяй да проверяй: проблема экспертов
В любой сложной теме СМИ и блогеры в первую очередь обращаются к экспертам. Врача слушать о медицине надежнее, чем копирайтера за 50 рублей/килознак. Отставной военный разбирается в войне в Сирии лучше, чем банковский клерк Славик. Трейдер лучше объяснит о будущем криптовалют, чем скептик из улицы. Ну а то, что ест на завтрак Герман Греф, интереснее для публики содержимого вашего собственного завтрака. Это всё — этос, убеждающая и привлекающая способность авторитета и знаменитости.
Мы, как вид, прошли эволюционный отбор по критерию подвластности этосу[1]. Чтобы выжить, нашим предкам пришлось брать на веру слова опытных и знаменитых сородичей. Те, кто слушал на охоте Праславика, который когда-то убил мамонта, выжили и родили детей. Те же, кто верил Правиталику, который поймал в бороде блоху, на охоте не выжили, и гены их не пошли в народ. Чем больше развивалось человечество, тем меньше эмпирического опыта мог получить отдельный человек, и тем важнее ему было учиться у более опытных сородичей. Так мы и дожили до того, что верим авторитетам.
Что же тогда не так в том, чтобы слушать прогнозы трейдеров и знаменитостей, а не троллей из интернета и ноунеймов? Подвох в том, что утверждения об экспертах выше верны только касательно _эмпирического опыта_. Это значит, что в повторяющихся ситуациях и в анализе прошлого эксперты справляются лучше, чем люди с улицы. По крайней мере, иногда.
А вот в прогнозировании будущего, эксперты справляются хуже. И это не шутки: исследования Филиппа Тетлока показали, что среднестатистический эксперт-политолог справляется хуже, чем статистический анализ[2]. И что «шимпанзе, мечущий дротики в мишень», справился лучше, чем специалисты и статистический инструментарий. А в случае с предсказаниями котировок фондового рынка, усредненный диванный эксперт из интернета справляется лучше, чем профессиональный аналитик из банка[3][4]. Об этом Нассим Талеб рассказывает половину своей книги «Черный Лебедь», повторяя на всякий лад.
Важный момент: эксперты действительно существуют, и разница между человеком из улицы и профессором есть[2]. Но настоящих экспертов больше там, где можно легко получить эмпирический опыт и поставить эксперимент. И там, где для работы требуется открытость мышления и готовность к неожиданностям.
Потому врачи, водители, инженеры, пилоты и физики справляются со своей работой лучше, чем случайный человек с улицы, посади его лечить людей или пилотировать. Но все они могут делать катастрофические ошибки, вне зависимости от именитости и опыта.
В итоге, единственный рабочий способ ориентироваться в мире — это сравнение мнений, собственный анализ, эксперименты или хотя бы критическое мышление. Но постоянно мыслить критически очень сложно. Мозг — очень экономный механизм, и он максимально пытается использовать дешевые обученные нейросети, а не дорогие аналитические. Это имеет смысл: чем больше ты калорий сэкономил в живой природе, тем реже ты выходишь из логова в поисках еды, и тем меньше твой шанс стать едой самому.
▍Этос: мастер-класс на пальцах
Эксперты и исследования Тетлока как-то далековато находятся к нам, чтобы восприниматься серьезно. Поэтому у меня есть два примера: один из повседневной жизни, а другой повлиял в прошлом году на всех нас.
Как состоявшийся спорщик, но писатель неизвестный и начинающий, я влияние этоса испытал на себе сполна. Когда у меня в Психотронке 30 подписчиков не считая собаки, а у блогера-политолога их 300 тысяч, его этоса хватит, чтобы при встрече в чате, толпа стала на его сторону вне зависимости от темы спора. В моем случае блогер доказывал, что совершенно невозможно получить Ph.D. в США, цитируя Библию как источник в научной работе. Тем более, в медицинской специальности. Ведь в цивилизованном мире так дела не делаются.
Я не осуждаю людей. Логичнее доверять экспертному блогеру, ведь человеку есть что сказать. Однако исследования показывают, что с ростом авторитетности и известности эксперта растет только его уверенность в собственных предсказаниях, но никак не точность этих предсказаний[2]. В той истории с Библией к блогеру прилетел черный лебедь, ведь соискатель Ph.D. с Библией был моим клиентом. И моим клиентом он стал потому, что его куратор цитирование Библии требовал. Но меня все равно признали фантазером и забанили.
Этос в интернете, где авторитет измеряется цифрами, вообще творит страшные вещи. Например Tomas Pueyo, автор той самой статьи о коронавирусе, перевод которой набрал на Хабре рекордное количество просмотров, не врач. И даже не статистик, хотя всю статью украсил графиками. Конечно, у Томаса есть степень магистра инженерного дела и MBA, и он самостоятельно провел анализ данных из открытых источников, пусть методами своих расчетов не поделился.
Но подвох в том, что до марта 2020 года, Томас писал только о инфобизнесе (которым сейчас и занимается), личном успехе и позитивном мышлении. И его лучшие статьи назывались "Как написать смешную речь?" или "Как умерить ожидания CEO". Но с марта 2020-го, естественно, Томас писал только о коронавирусе, ведь по его же словам [20], он получил в тысячи раз больше просмотров, чем обычно.
Итак, вопрос. Хотели ли бы вы, чтобы Томас был министром здравоохранения в вашей стране и принимал решения по борьбе с эпидемией? Последние три абзаца, в сочетании с картинкой выше, заставляли бета-тестеров этого текста говорить «нет». Именно так работает риторика, ведь этос Томаса к этому моменту серьезно пострадал.
Правильный ответ другой. По крайней мере, британцы бы предпочли Томаса своим министрам. В апреле 2020, Томас в гостях у MIT Technology Review упоминает о том, что Британия поздно последовала его совету превентивных карантинов, и поплатится за это жизнями[20]. В январе 2021, Борис Джонсон, премьер-министр Британии, будет просить прощения за 100,000 смертей от коронавируса — в том числе, из-за промедления с карантином.
Прогнозы развития пандемии, которые Томас сделал, оказались очень похожими на то, что произошло на самом деле. Но его нельзя было предсказать, судя из его биографии и предыдущих заслуг. Этос оказался бесполезным дважды: он сперва заставил поверить неспециалисту, а потом отринул то, что неспециалист может сделать правильные выводы.
В итоге, чтобы есть досыта и не стать едой самому, приходится думать самостоятельно. И думает каждый по своему карману. Мыслители при деньгах, вроде основателя Амазона Безоса, нанимают штат разноплановых экспертов. Их заставляют работать в команде и пользоваться проверенными методами; это увеличивает точность предсказаний[2]. В итоге, Безос хвастается тем, что его работа — думать о проблемах на 2-3 года в будущем, а сегодняшние беды разгребают мальчики на побегушках[5]. Судя по всему, пока его подход работает.
Но у начинающего критического мыслителя, как правило, нет ни денег, ни влияния Безоса, не говоря уже о карманной корпорации. Поэтому новичок начинает с того, что учат еще в школе: сравнивает разные точки зрения. И попадает во вторую ловушку — в пасть прирученного кайроса.
▍Прирученный алгоритмами кайрос
Кайрос — то есть влияние контекста и своевременности подачи на убедительность информации — тоже известен со времен греков[6], но менее известен, чем его три брата. Настолько менее известен, что на русскоязычной вики о нем нет статьи, а в риторику его включают только самые хорошие (читай: «самые дорогие») колледжи. Так случилось потому, что кайрос до ХХІ века был вещью очень очевидной. В летнюю жару предложение искупаться соблазнительнее, чем во вьюгу. Бедный охотнее выступит за налоги для богатых, чем богатый. В общем, банальности.
Разумеется, манипулировать контекстом додумались тоже давно. Революции происходили тогда, когда было много голодных и недовольных. Газеты почти с самого своего появления занялись рекламой, а потом — борьбой за то, чтобы быть главным источником новостей[7]. А зачем это им было нужно, догадаться несложно.
Но в эпоху газет, большую часть времени люди проводили в реальном мире. Опровергнуть откровенную чушь можно было выглянув в окно, или поговорив с соседями. Потому журналисты практиковали миротворчество в отношении к заморским странам. События там проверить обычный человек не мог и не сильно хотел.
Но в ХХІ веке случилась перемена. Первое — что большую часть своей познавательной деятельности человек стал проводить в интернете. Второе — что информационную среду человека перестал определять его выбор, будь то выбор газеты, бара или места жительства. На сцену вышли контентные алгоритмы, со временем потеснив прежнего лидера распространения информации — соседей[8]. То, что показывает Фейсбук в ленте, Ютуб и Яндекс Новости, формируется специально исходя из предпочтений пользователя и его поведения. Эдакой личный тайный советник для каждого.
Как человек, который постоянно работает с рекламой, я уверяю вас (поняли подвох, да?), что считаются не только лайки. Длительность чтения, внимательность, соответствие переписке, которую тоже анализируют роботы — всё это учитывается для того, чтобы показать вам правильный набор постов. На Хабре и в рунете есть профессионалы по таргетингу рекламы и те, кто делает контентные алгоритмы, так что микрофон тут передаю им. Вот тут можно почитать, например, сколько всего Фейсбук знает о пользователе (но куда сильнее впечатляет официальная документация рекламного кабинета Фейсбука), а тут — небольшой обзор алгоритмов Ютуба.
При этом, цель контентных алгоритмов не в том, чтобы пользователь стал умнее, сильнее, или хотя бы счастливее. Их цель — увеличить время пользователей за просмотром контента, а вместе с этим — количество взаимодействий с рекламой. Взаимодействия важны: пассивные зрители менее ценны чем те, который лайкают (или дизлайкают) и комментируют. А лучше всего, когда в контент вовлечены другие и друзья: тогда зависнуть можно надолго[9].
Таким образом, людям показывается не только то, с чем они согласны и что им нравится, но и то, что вызывает у них эмоциональный ответ. Например, группы единомышленников, где можно пообщаться с другими людьми. Или противоречащие их взглядам посты, но вызывающие эмоциональный ответ. Ведь там можно побить врага комментами вместе с единомышленниками, которых алгоритм тоже подвезет.
▍Самоисполняющиеся пророчества
И когда я рисовал картинку выше, то понял, что контентные алгоритмы влияют не только на потребителей, но и на производителей контента. Алгоритм пессимизирует то, что не вызывает ответа у пользователей, и продвигает то, что заставляет читателей реагировать. И дальше включаются правила рыночной экономики.
Контент с риторикой логоса, вроде «Итоги личного опыта пользования Linux на разных платформах», вызывает меньше реакции чем риторика пафоса: «10 причин ненавидеть Linux: исповедь бородатого юзера» [10]. Это мотивирует производителей контента сменять разумные доводы эмоциональными ради больших охватов. Второй факт: адаптация контента под конкретную аудиторию и тему приводит к большему росту популярности, чем нейтральность, объективность и широкий обзор.
Журналисты и опытные в вопросе люди скажут, что так было всегда. Но раньше, «адаптация» контента под пользователей происходила в прямом контакте между читателями и продюсерами. Теперь же, продюсеры контактируют не с пользователями, а алгоритмами. И уже они распределяют контент между пользователями, согласно своему тайному пониманию темы и аудитории.
Получается самовыполняющееся пророчество. Пользователи группируются алгоритмами в аудитории по критерию поведения и интересов. Им показывается определенный контент, и отфильтровывается тот, который алгоритм считает вредным для вовлеченности. Ну а создатели контента, с целью повысить популярность своего творчества, вслепую «нащупывают» алгоритмические понятия о прекрасном. И начинают производить таргетированный контент, который алгоритмы подхватывают на ура.
Истории получаются едва не библейские. Например, книжный блогер 5 лет обозревает хорошую литературу и не получает ни гроша. А знаменитостью становится, как только начинает обозревать треш для подростков[11]. Без слез смотреть нельзя.
Ранее, контентные алгоритмы замечались в еще более грязной игре. Например, женщинам показывались их более успешные знакомые, потому что наблюдение за ними затягивает. Но психиатры обнаружили вредный эффект такого «социального сравнения» и забили тревогу[12], и Фейсбук лавочку прикрыл. Из-за похожего давления, Фейсбук в 2018 году перекрутил алгоритмы, уведя трафик рекомендаций от брендовых страниц к страницам реальных людей[13]. История, где Фейсбук «вдруг» осознает, как плохо он поступал, и перекраивает все алгоритмы, продолжается до сих пор.
Но до сих пор мне Фейсбук советует одних политиков, а моей маме других. Мой брат живет в совершенно ином Ютубе, чем я. Каждый может эмпирически увидеть существование контентных алгоритмов. И мы возвращаемся к основной теме — чем же риторика кайроса так вредна?
▍Война воображаемых миров
Главная беда алгоритмических лент в том, что они приводят к сильному сужению разнообразия точек зрений, доступных человеку. В свою очередь, у нас есть встроенное когнитивное искажение, эвристика доступности, из-за которой события кажутся более вероятными, правдивыми или частыми, если легче вспоминаются. Соединение алгоритмической ленты и эвристики доступности создает ситуацию, где человек постепенно убеждается, что его картина мира является единственно возможной. Этот феномен стал известен как информационный пузырь, по-английски Filter Bubble[14].
Ученые считают алгоритмические пузыри причиной поляризации политических и социальных движений в последнее время – например, в США[15]. Те же ненавидимые всеми в рунете SJW просто варятся Твиттером, Фейсбуком и Ютубом в сообществе согласных между собой людей. Оно существует по четким для них правилам, в нем происходят события по определенным сообществом причинам; это де-факто отдельный мир со своими физическими законами. И когда большой инфо-повод или ошибка алгоритма вкидывает к ним события из другого «пузыря» — например, объективированных женщин с громадной грудью из «пузыря» геймеров — SJW испытывают культурный шок.
Такой же шок, как если бы вдруг на улицах появились римляне и стали требовать эвокации доллара как бога в Пантеон. Так как мы теперь потребляем информацию и удовлетворяем любопытство не из окружения, а интернета, то разрушение «пузыря» — это буквальное вторжение из другого мира. Оттуда радикализация между политическими партиями, потакание лутингу ради социальной справедливости, и прочие дикие для нас, но совершенно естественные для обитателей соседнего «пузыря» вещи.
И это работает во все стороны. Мы на Хабре – непонятные пришельцы для мира открыток из Одноклассников. Когда Джавараш переводили свои курсы для англоязычной аудитории, англоязычные возмущались, что робот удивляется цветным волосам женщины[16]. А теперь и дня не проходит без вскрытия очередного информационного пузыря. Журнал «Рабдно» тому пример: если хотите увидеть, как выглядит культурный шок, покажите тимлиду из Москвы интервью с воспитателем детского сада, который питается объедками, или моряком, который неделями может ходить на горящем корабле.
Я лично считаю, что общество уже стало приспосабливаться к среде алгоритмов и создавать специфичные для проживания в информационных пузырях феномены. Например, канцелинг — исключение из информационной повестки — это имитация людьми работы информационных алгоритмов, стражей их мировоззренческого порядка.
Да, остракизм, изгнание из общества, существовал еще в Древних Афинах, и в них же считался смерти подобным[17]. Но редко когда остракизм ограничивался одним выдавливанием из информационной повестки, как это случилось недавно с Трампом. Раньше, все же, предпочитали выдавливать из физической реальности.
В итоге, кайрос препятствует тем, кто прошел первый уровень квеста к критическому мышлению и поборол власть этоса. Когда точки зрения выдаются строго под момент, а их разнообразие дозировано, чтобы вы не удалились из Фейсбука, нельзя прийти к нестандартному выводу. Когда в Гугле сайты, на которых стоит больше всего обратных ссылок (читай: вложено больше денег), показываются выше других[18], нестандартные выводы даже не нагуглить.
И это если вам повезет понять, что ваша картина мира не соответствует действительности.
Вот мы и пришли к тому, что бытовой рациональности для хорошей жизни недостаточно. Доверять авторитетам и ссылаться на них — это наше врожденное свойство. Но даже если удается начать мыслить критически и приступить к самому простому, сравнению точек зрения, в ногу стреляет намеренная «узость» информационного пузыря современного человека.
Выводы простые. Во-первых, как бы ни было это больно, свобода мышления требует открытости к чужим мирам и мировоззрениям. Даже если чужие миры выглядят, как ад из Doom, а вы в том аду Думгай.
Во-вторых, стоит перехватить себе контроль над потребляемой информацией. Это сложнее: усилиями Гугла, RSS уже не так популярен, и мало где остались места, где хитрый робот не пытается сделать выбор для вас. Отказ от новостной ленты как лишенной практического смысла вещи, и подбор каналов, изданий и блогов под свои интересы и цели — хороший шаг.
И главное: не забывайте о рациональности. Новости и информационные пузыри довели уже до того, что американские бедняки голосуют за Республиканцев, в большинстве своем крупных и наследственных богачей[19]. Действуйте в первую очередь в интересах своих и своей семьи. И только потом — в интересах государства, народа, и прочих воображаемых персонажей.
Источники и комментарии к ним
Если вы впервые решили почитать научную литературу, вас могут порадовать цены от $35. Деньги, однако, достаются не ученым, а издателям. Совет от бывалых: ученые всего мира *покупают* статьи на SciHub и LibGen.
Ищите по DOI (обычно можно найти в URL или возле заголовка), или по URL.
[1]: Chudek, M et al. (2013). Culture-gene coevolution, large-scale cooperation, and the shaping of human social psychology. In K. Sterelny, R. Joyce, B. Calcott, & B. Fraser (Eds.), Life and mind: Philosophical issues in biology and psychology. Cooperation and its evolution (p. 425–457).
[2]:What Research Tells Us About Making Accurate Predictions,* Harvard Business Review, 2015. Это краткий пересказ исследований Ф. Тетлока, оригинальная книга называется Expert Political Judgment.
[3]: Nofer M. (2015) Are Crowds on the Internet Wiser than Experts? In: The Value of Social Media for Predicting Stock Returns.
[4]:Lang et al. (2016). How Crowdsourcing Improves Prediction of Market-Oriented Outcomes. Journal of Business Research, 69:10, p. 4168-4176
[5]: VC.ru (2020).Джефф Безос рассказал о своих принципах принятия важных бизнес-решений. Из Invent and Wander: The Collected Writings of Jeff Bezos.
[6]: Kairos.Wikipedia.
[7]: Musson, A. (1958).Newspaper Printing in the Industrial Revolution. The Economic History Review, 10(3), 411.
[8]: Dietz, R. (2002).The estimation of neighborhood effects in the social sciences: An interdisciplinary approach. Social Science Research, 31(4), 539-575. Хорошая обзорная статья на тему того, что раньше думали социологи о соседях. Сейчас всё пишут об интернете и наркотиках, скукота.
[9]: DeVito, M. (2016).From Editors to Algorithms. Digital Journalism, 5(6), 753-773. Автор пытается деконструировать алгоритмы новостей Фейсбука по общедоступной информации. На мой вкус, с тех пор изменилось не так много.
Ищите по DOI (обычно можно найти в URL или возле заголовка), или по URL.
[1]: Chudek, M et al. (2013). Culture-gene coevolution, large-scale cooperation, and the shaping of human social psychology. In K. Sterelny, R. Joyce, B. Calcott, & B. Fraser (Eds.), Life and mind: Philosophical issues in biology and psychology. Cooperation and its evolution (p. 425–457).
[2]:What Research Tells Us About Making Accurate Predictions,* Harvard Business Review, 2015. Это краткий пересказ исследований Ф. Тетлока, оригинальная книга называется Expert Political Judgment.
[3]: Nofer M. (2015) Are Crowds on the Internet Wiser than Experts? In: The Value of Social Media for Predicting Stock Returns.
[4]:Lang et al. (2016). How Crowdsourcing Improves Prediction of Market-Oriented Outcomes. Journal of Business Research, 69:10, p. 4168-4176
[5]: VC.ru (2020).Джефф Безос рассказал о своих принципах принятия важных бизнес-решений. Из Invent and Wander: The Collected Writings of Jeff Bezos.
[6]: Kairos.Wikipedia.
[7]: Musson, A. (1958).Newspaper Printing in the Industrial Revolution. The Economic History Review, 10(3), 411.
[8]: Dietz, R. (2002).The estimation of neighborhood effects in the social sciences: An interdisciplinary approach. Social Science Research, 31(4), 539-575. Хорошая обзорная статья на тему того, что раньше думали социологи о соседях. Сейчас всё пишут об интернете и наркотиках, скукота.
[9]: DeVito, M. (2016).From Editors to Algorithms. Digital Journalism, 5(6), 753-773. Автор пытается деконструировать алгоритмы новостей Фейсбука по общедоступной информации. На мой вкус, с тех пор изменилось не так много.
[10]: Lee D. at al. (2014). The Effect of Social Media Marketing Content on Consumer Engagement: Evidence from Facebook. ISIS Conference. Кстати, интересный кейс использования Amazon Mechanical Turk для обработки большого массива комментов и сообщений.
[11]: Книжный чел. (2021). Энтони Юлай: плохие книги, будни книжного блогера. #74 на YouTube.
[12]: de Vries, D., & Kühne, R. (2015). Facebook and self-perception: Individual susceptibility to negative social comparison on Facebook. Personality And Individual Differences, 86, 217-221.
[13]: Pleshakov D. (2018). Facebook feed update: what happened and what to do? Captain Growth Blog.
[14]: Filter Bubble. Wikipedia.
[15]: Molla R. (2020). Social media is making a bad political situation worse. Vox.com
[16]: Еленевич А. (2020). Как JavaRush запускали продукт в США: ошибки, которые не стоит повторять. VC.ru
[17]: Ostracism. Wikipedia.
[18]: Semrush. (2020). Ranking Factors Study 2.0. Интереснейшее чтиво о том, что на самом деле влияет на поисковую выдачу Гугла.
[19]: Barber, N., Ph.D, (2020, July 31). Why Do Many Poor People Vote Republican? Psychology Today.
[20]: MIT Technology Review (2020, April 3). How to make sense of all the information about coronavirus.
