Содержание: Современные технологии стремятся проникнуть в наши головы. Их цель завладеть нашим вниманием. Мы ничего не можем с этим поделать. В результате, мы становимся зависимы от соцсетей и изолированы от социума, разгневаны и дезинформированы, мы всё больше готовы вовлекаться в политические распри. Все это делает нас слабее. Это существенная угроза для человечества.
Проблема: упадок человечества
В чем заключается основная проблема влияния технологий на общество?
Нас окружает нарастающая какофония возмущений и скандалов. Зависимость от технологий, недовольство политикой, манипулирование на выборах, подростковая депрессия, поляризация, искажение истины и рост тщеславия (каждый мнит себя звездой). Если мы так и будем жаловаться на отдельные проблемы, ничего не изменится. Это не отдельные вопросы. Все это взаимосвязанные элементы упадка человечества.
Основной причиной упадка человечества является гонка за нашим вниманием. Более двух миллиардов людей прикованы к социальным сетям. Вдумайтесь, соцсети оказывают на нас большее психологическое влияние, чем любая мировая религия! Они не только привлекают наше внимание, но и подсаживают нас на эту иглу — мы впадаем в зависимость от внимания других людей. Рекомендательные алгоритмы подсовывают нам все более громкие, возмутительные заголовки. Нас заставляют заходить на сайты, которые живут за счет просмотров рекламы. Технологии продолжают склонять нас к ярости и возмущению. Они стремятся пробраться к нам в голову и им это удается. Поэтому человечество находится в упадке.
Статья переведена при поддержке компании EDISON Software, которая разрабатывает приложения и сайты, а также инвестирует в стартапы.
Используя человеческие слабости, технологии берут на себя управление обществом и человеческой историей. Чтобы манипулировать человеком вовсе не нужно пытаться победить его сильные стороны. Достаточно найти слабые точки и надавить на них. Об этом знают все. Пока футуристы ждали момента, когда технологии превзойдут человека и отнимут у него работу, мы упустили кое-что важное. Технологии УЖЕ используют человеческие слабости. Опираясь на наш страх, гнев, тщеславие, технологии ослабляют нас ещё больше, тем самым подпитывая нашу потребность в бесконечно развивающихся машинах.
Подумайте о следующих примерах:
- Нами управляет экстремизм. YouTube ежедневно собирает больше миллиарда просмотров. 70% из них заработаны благодаря рекомендательной системе. Чаще всего в названиях рекомендаций встречаются такие слова: get schooled (проучить), shreds (клочья), debunks (разоблачает), dismantles (разборки), debates (дебаты), rips (разрывает), confronts (разоблачает), destroys (уничтожает), hates (ненавидит), demolished (разрушает) (речь идет об англоязычном сегменте ютуба)
- Нами управляет гнев. С каждым нравственно-эмоциональным словом (абьюз, честь и т.д.) в твите вероятность его ретвита увеличивается на 17% (PNAS)
- Нами управляет неуверенность. В 2018 году YouTube предлагал девушкам-подросткам, которые смотрели видео о диете, посмотреть следом видео об анорексии, потому что такой контент лучше удерживает внимание
- Нами управляют теории заговора. Если вы смотрите видео высадки НАСА на Луну, YouTube миллион раз предложит вам посмотреть тайные теории о плоской Земле. YouTube рекомендовал теории заговора Алекса Джонса (InfoWars) 15 миллиардов раз (источник)
- Нами управляет секс. Взрослым, которые смотрят секс-контент, были рекомендованы видео, в которых в основном участвуют молодые женщины, затем предлагались видео с девочками, а потом с детьми, играющими в купальниках (статья Нью-Йорк Таймс)
- Нами управляет предвзятость. Фейковые новости распространяются в шесть раз быстрее, чем настоящие, потому что у них нет никаких ограничений. Правдивые новости ограничены правдой. (Исследование Twitter от MIT)
Почему это вообще произошло? Из-за бизнес-модели рекламы. Бесплатность(free) — это самая дорогая бизнес-модель. Мы получаем «бесплатное» уничтожение общеизвестных истин, «бесплатную» злость по отношению к политике, «бесплатную» социальную изоляцию, «бесплатное» снижение критичности мышления. Вместо того, чтобы платить профессиональным журналистам «бесплатная» модель рекламы провоцирует платформы находить «бесплатную рабочую силу» среди пользователей. Соцсети подсаживают людей на иглу внимания, побуждая их создавать контент бесплатно. Вместо того, чтобы платить редакторам, которые решали бы, что публиковать и кому показывать, мы используем автоматизированные алгоритмы. Они сопоставляют непристойный контент и отзывчивую аудиторию, заменяя отдел новостей аморальными серверными фермами. Это подорвало доверие людей и всю информационную экологию.
Социальные сети создали неуправляемого цифрового Франкенштейна. Технологические платформы не могут принять все меры предосторожности по отношению к возникающим по всему миру проблемам. Контент генерируется на сотне языках, в миллионах групп на Facebook и каналов на YouTube. Два миллиарда автоматизированных каналов, подобных «Шоу Трумана», подобранных лично для каждого. Почему бы не нанять 10000 человек, которые бы за этим следили? Потому что это было бы неразумно с учетом постоянно возрастающей сложности ситуации. Контролировать такой поток информации невозможно.
- Геноцид 2017 года в Мьянме обострился за счет непроверенных фейковых новостей запущенных лишь четырьмя бирманцами на Facebook, которые контролировали 7,3 млн пользователей (отчет Reuters)
- В Нигерии на всю страну только четыре фактчекера. При этом 24 миллиона жителей этой страны используют Facebook. (отчет BBC)
- На недавних выборах в Индии выяснилось, что в этой стране говорят на 22 языках. Сколько инженеров или корректоров в Facebook и Google знают эти языки?
Человеческая слабость является важным фактором глобальной конкуренции. Глобальные силы, которые ослабляют свое население, будут вредить экономической производительности, установлению истины, творчеству, психическому здоровью и благополучию следующих поколений. Нельзя медлить с решением этой проблемы, если мы хотим выиграть в глобальной войне за производительность.
Общество сталкивается с неотложной экзистенциальной угрозой со стороны паразитических технологических платформ. Способность технологий использовать человеческие слабости становится только лучше, начиная от более сильных зависимостей, заканчивая более качественными подделками. Наши мировые проблемы становятся все более сложными и неотложными — изменение климата, неравенство, здравоохранение. В то же время наша способность понимать мир и действовать сообща падает. Если мы не изменим курс прямо сейчас, то у человечества не останется шансов.
Мы можем решить эту проблему: ускорить переход к гуманным технологиям.
Упадок человечества похож на глобальное изменение климата в культуре. И у того, и у другого могут быть чудовищные последствия. Но в отличие от изменений климата, в случае с этой проблемой только около 1000 человек должны изменить то, что они делают. Потому что каждая проблема, начиная от игровых автоматов, сбивающих нас с толку, заканчивая качественными подделками, подрывающими наше доверие, не защищает человеческие инстинкты. Если все системы будут разработаны для защиты людей, мы сможем не только избежать ослабления людей, но и приумножить потенциал человека.
Дать имя взаимосвязанным системам упадка человечества важно. В противном случае создатели решений будут работать разрозненно, пытаясь решить проблему. Это будет похоже на бесконечную игру в «Убей крота».
Есть три аспекта, катализирующих гуманные технологии:
1) Гуманные Социальные Системы. Нам нужно хорошо разбираться не только в технологиях, но и в человеческой природе. И в том как одно влияет на другое. Технологии должны подходить к вопросам инноваций и дизайна осознанно. Нельзя позволять, чтобы людьми манипулировали. Нам не нужно больше искусственного интеллекта или более продвинутых технологий. На самом деле нам нужно больше знаний о том, что защищает и лечит человеческую природу и социальные системы. Center for Humane Technology предлагают с чего можно начать. Инженеры могут использовать ниже перечисленные вещи для оценки того как технологии влияют на нас на индивидуальном, эмоциональном и социальном уровнях. (руководство по дизайну.)
- Телефоны, защищающие нас от получения бесконечных вознаграждений в игровых автоматах
- Социальные сети, защищающие наши отношения на экране
- Цифровые носители, разработанные для защиты от подделок путем выявления уязвимостей в нашей системе доверия
2) Гуманный искусственный интеллект (ИИ), а не подавляющий ИИ. ИИ уже обладает властью над человеческими слабостями. Он в состоянии точно предсказать, как заставить нас посмотреть что-либо и знает как можно политически манипулировать нами. Представьте себе юриста или священника, который будет вас использовать. Его бизнес-модель заключается в продаже доступа. Он хочет, чтобы вами могли пользоваться другие. Нам нужно преобразовать эту модель в ИИ, который будет действовать в наших интересах. Нужно запретить рекламные бизнес-модели, которые извлекают информацию о сугубо личных вещах.
3) Гуманные поощрения вместо суровой добычи информации. Нам стоит перестать дробить внимание человека. Нам нужно разработать новые стимулы, которые улучшат конкуренцию на рынке и исправят текущие проблемы. Нужно стремиться вверх, чтобы соотносить нашу жизнь с нашими ценностями, а не войной за внимание.
- Политические и организационные стимулы, которые направят деятельность разработчиков технологий на то, чтобы подчеркнуть качества, которые оживят социальную структуру
- Нам нужен помощник ИИ, который будет разработан, чтобы защитить человека и действовать в его интересах — своеобразный GPS для жизни, который поможет нам добраться туда, куда нам нужно.
Центр гуманных технологий хочет помочь ускорить эти изменения:
- Команды разработчиков в технологических компаниях могут интегрировать гуманный дизайн социальных систем в продукты, которые будут защищать человеческие слабости и поддержат социальную структуру.
- Технические привратники, такие как Apple и Google, могут побуждать приложения конкурировать за наше доверие, а не за наше внимание. Как? Стоит изменить AppStore, бизнес-модели и взаимодействия между приложениями, которые находятся на домашнем экране наших устройств и в уведомлениях.
- Политики могут защищать граждан и менять стимулы для технологических компаний.
- Акционеры могут требовать от компаний отказаться от бизнес-моделей, требующих максимальной вовлеченности людей. Подобные бизнес-модели являются огромным источником риска для инвесторов.
- VC могут финансировать этот переход
- Предприниматели могут создавать продукты, которые будут способствовать развитию человечества.
- Журналисты могут пролить свет на системные проблемы и их решения вместо того, чтобы писать о скандалах и обидах.
- Технари могут осветить тему вреда от упадка человечества
- Избиратели могут требовать политики от политиков, чтобы предотвратить упадок человечества ради своих детей.
Процесс изменений уже запущен. Когда люди начнут говорить на одном языке, когда появятся гуманные технологии, все изменится.
Перевод: Диана Шеремьева
Читать еще
- Как вернуть контроль и уменьшить зависимость от смартфонов и уведомлений
- Как технологии манипулируют вашим разумом: взгляд иллюзиониста и эксперта по этике дизайна Google (альтернативная версия)
- Как усовершенствованные технологии помогут нам сосредоточиться
