Неведомая фигня проникает в мозги сотням миллионов детей и мы все соучастники этого.
Я Джеймс Бридл. Я писатель и художник, обеспокоенный технологиями и культурой. Обычно я пишу в своем собственном блоге, но, честно говоря, я не хочу чтобы то что я говорю здесь, было где-то рядом с моим собственным сайтом. Обратите внимание: в этом эссе описываются тревожные вещи и ссылки на тревожный графический и видеоконтент. Вам не обязательно это читать, и рекомендую проявлять осторожность при изучении.
Как человек, выросший в Интернете, я считаю, что сеть оказала одно из самых важных влияний на то, кем я являюсь сегодня. В моей комнате был компьютер с доступом в Интернет с 13 лет. Это дало мне доступ ко многим вещам, которые были совершенно неуместны для подростка, но все было в порядке. Культура, политика и межличностные отношения, которые я считаю главными для моей личности, формировались в Интернете, таким образом, каким я всегда считал полезным для себя лично. Я всегда был критическим сторонником Интернета и всего, что он принес, и в целом считал его эмансипационным и полезным. Я заявляю об этом с самого начала, потому что, размышляя о последствиях проблемы, я, в значительной степени, буду опираться на свои собственные обобщения и предрассудки.
Один из таких гипотетических вопросов, который я задаю себе чаще всего, — это то, что я буду чувствовать, когда мои собственные дети имеют такой же доступ к Интернету сегодня. И я понимаю, что на вопрос все труднее ответить. Я понимаю, что это естественная эволюция отношений, которые происходят с возрастом, и в какой-то момент этот вопрос может быть гораздо менее гипотетическим. Я не хочу быть в этом лицемером. Я хотел бы, чтобы мои дети имели те же возможности исследовать и расти и выражать себя так, как я. Я бы хотел, чтобы у них был такой выбор. И эта вера расширяет отношение к роли Интернета в общественной жизни в целом.
Некоторое время я тоже был осведомлен о все более симбиотических отношениях между детьми и YouTube. Я вижу, что дети увлеченно смотрят в экран все время, в колясках и в ресторанах, и всегда возникает немного чувства луддизма, но я не родитель, и я не принимаю родительские суждения ни для кого-либо. Я видел, как члены семьи и дети друга подключались к просмотру Peppa Pig и видеороликам с детскими стишками, и это делало их счастливыми и давало всем передышку, так что все нормально.
Но у меня даже нет детей, и сейчас я просто хочу уничтожить все это.
Кто-то или что-то или какое-то объединение людей и вещей использует YouTube для систематического пугания, травмирования и жестокого обращения с детьми, автоматически и в большом масштабе, и это заставляет меня подвергать сомнению мои собственные убеждения в отношении Интернета на всех уровнях. Большая часть того, что я собираюсь описать далее, была освещена в других местах, хотя ни одно из популярных освещений, которые я видел, действительно не поняли последствий того, что, кажется, происходит.
Для начала: YouTube Kids определенно и заметно странный. Некоторое время я знал об этой странности. В прошлом году было опубликовано множество статей об увлечении Surprise Eggs. Видео с Surprise Eggs, часто длительные и мучительные, показывают процесс разворачивания Киндера и других яиц с игрушками. Это весь контент, но дети очарованы им. Есть сотни и тысячи этих видеороликов и сотни и тысячи, если не миллионы, детей, смотрящих их.
Из статьи, приведенной выше:
Это должно дать вам некоторое представление о том, насколько странным является мир детских онлайн-видео, и этот список с видеороликами намекает на чрезвычайные масштабы и сложность этой ситуации. Выглядит безобидно, но через пару минут вы поймете, что это часть какой-то довольно странной фигни.
Еще один огромный образ, особенно для самых маленьких детей, — это детские рифмованные видеоролики.
Little Baby Bum, который сделал вышеупомянутое видео, является 7-м по популярности каналом на YouTube. Всего лишь за 515 видеороликов они набрали 11,5 миллионов подписчиков и 13 миллиардов просмотров. Опять же, есть вопросы относительно точности этих чисел, которые я скоро получу, но ключевым моментом является то, что это огромная, огромная сеть и индустрия.
Видео является приманкой для родителей и для детей, и, следовательно, для создателей контента и рекламодателей. Маленькие дети загипнотизированы этими видео, будь то знакомые персонажи и песни, или просто яркие цвета и успокаивающие звуки. Длительность многих из этих видеороликов — одна общая цель видео собрать множество стихов для детей или мультфильмов в часовые сборники — и, таким образом, длина позиционирует как часть привлекательности видео, указывая на количество времени, которое некоторые дети проводят с ним.
Таким образом, ведущие каналов на YouTube разработали огромное количество тактик, чтобы привлечь внимание родителей и детей к их видеороликам, а также рекламным доходам, которые сопровождают их. Первой из этих тактик является просто копирование и пиратство другого контента. Простой поиск «Peppa Pig» на YouTube в моем случае дал «около 10 400 000 результатов», первая страница почти полностью состоит из видео с официального канала «Peppa Pig Official Channel», и один из роликов с неофициального канала называемый Play Go Toys, которые вы бы действительно не заметили, если бы вы не искали его:
Канал Play Go Toys состоит из (я предполагаю?) пиратского контента Peppa Pig и других мультфильмов, видео с анбоксингом игрушек (еще одного магнита для детей) и, предположительно, видео с собственными детьми владельца канала. Я не говорю ничего плохого о Play Go Toys; Я просто показываю, как структура YouTube облегчает расслоения контента и автора, и как это влияет на нашу осведомленность и доверие к его источнику.
Как отмечает еще один блоггер, одна из традиционных ролей фирменного контента заключается в том, что он является надежным источником. Будь то Peppa Pig на детском канале или Диснеевские фильмы, каковы бы ни были чувства к промышленной модели развлекательного производства, они тщательно продумываются и контролируются, чтобы дети по сути были в безопасности, смотря их, и им можно было доверять. Это больше не работает, когда бренд и контент не связаны платформой, и так известный и надежный контент обеспечивает бесшовный шлюз для непроверенного и потенциально вредного контента.
(Да, это тот же самый процесс, что и расслоение надежных средств массовой информации в фидах Facebook и результатах Google, которые в настоящее время наносят такой ущерб нашим образовательным и политическим системам, и я не буду сейчас явно изучать эти отношения дальше, но это очевидно, имеет большое значение.)
Второй способ увеличения количества просмотров видео — через ассоциацию ключевого слова / хештэга, что само по себе является целым темным искусством. Когда какая-то тенденция, такая как видеоролики Surprise Egg, достигает критической массы, производители контента наваливаются на нее, создавая сотни и тысячи этих видеороликов в любом возможном количестве. Это источник всех странных имен в приведенном выше списке: фирменный контент и названия детских стишков и «surprise egg», все набитые в салат из похожих слов, чтобы захватить результаты поиска, размещение на боковых панелях и рейтинга «вверх» для автопроигрывания.
Ярким примером странности является видео Finger Family (безвредный пример, вставленный выше). Я понятия не имею, откуда они пришли, и о происхождении детского стишка в основе образов, но на YouTube есть не менее 17 миллионов версий, и они снова охватывают все возможные жанры: с суммарностью миллиардов просмотров.
Опять же, количество просмотров на этих видео должны были взять под серьезный контроль. Огромное количество этих видеороликов в основном создаются ботами и просматриваются ботами, и даже прокомментированы ботами. Это целый странный мир сам по себе. Но не следует скрывать, что есть также много реальных детей, погруженных в айфоны и планшеты, смотрят это снова и снова — частично, учитывая повышенное количество просмотров — они наученны набирать основные поисковые термины в браузере или просто листать боковую панель, чтобы включить другое видео.
То, что я нахожу несколько тревожным по поводу распространения обычных (относительно) нормальных детских видео, — это невозможность определить степень автоматизации, которая здесь работает; как понять разрыв между человеком и машиной. Пример выше, из канала под названием Bounce Patrol Kids, почти с двумя миллионами подписчиков, демонстрирует этот эффект в действии. Они публикуют профессионально созданные видеоролики, с настоящими актерами, около одного ролика в неделю. Еще раз повторюсь, я не говорю ничего плохого о Bounce Patrol, которые явно следуют по стопам пре-цифровых детских ощущений, как их коллеги-австралийцы The Wiggles.
И все же есть что-то странное в отношении группы людей, которые бесконечно действуют вне зависимости от сочетания алгоритмически сгенерированных ключевых слов: “Halloween Finger Family & more Halloween Songs for Children | Kids Halloween Songs Collection”, “Australian Animals Finger Family Song | Finger Family Nursery Rhymes”, “Farm Animals Finger Family and more Animals Songs | Finger Family Collection — Learn Animals Sounds”, “Safari Animals Finger Family Song | Elephant, Lion, Giraffe, Zebra & Hippo! Wild Animals for kids”, “Superheroes Finger Family and more Finger Family Songs! Superhero Finger Family Collection”, “Batman Finger Family Song — Superheroes and Villains! Batman, Joker, Riddler, Catwoman” и дальше и дальше. Это производство контента в эпоху алгоритмического открытия- даже если вы человек, вы должны в конечном итоге олицетворять машину.
Другие каналы отказались от настоящих актеров, чтобы снова и снова создавать бесконечные реконфигурируемые версии одних и тех же видеороликов. То, что происходит здесь, явно автоматизировано. Фондовые анимации, звуковые дорожки и списки ключевых слов, собранных тысячами, создают бесконечный поток видео. Вышеупомянутый канал, Videogyan 3D Rhymes — Nursery Rhymes & Baby Songs, размещает несколько видеороликов в неделю, все больше используя византию в комбинациях ключевых слов. У них почти пять миллионов подписчиков — больше чем у Bounce Patrol в два раза — хотя еще раз скажу — невозможно узнать, кто или что на самом деле делает эти миллионы и миллионы просмотров.
Я стараюсь не превращать это эссе в бесконечный список примеров, но важно понять, насколько обширна эта система и как неопределенны ее действия, процесс и аудитория. Это также имеет международный характер: существуют вариации видеороликов Finger Family и Learn Colors для тамильских эпосов и малайзийских мультфильмов, которые вряд ли появятся в результатах поиска в англоязычной версии. Эта неопределенность и досягаемость являются ключом к ее существованию и его последствиям. Его размерность затрудняет понимание.
Мы столкнулись с очень наглядными примерами тревожных результатов полной автоматизации до этого — некоторые из них были к счастью оставлены с темным юмором, других — не так уж и много. Многое было сделано с помощью алгоритмических скрещиваний библиотек стоковых фотографий и по запросу производств, все — от футболок до кружек, от детских комбинезонов до чехлов для телефона. Вышеприведенный пример, доступный до недавнего времени на Amazon, является одним из таких случаев, и история о том, как это произошло, является увлекательной и странной, но по существу понятной. Никто не собирался создавать телефонные чехлы с наркотиками и медицинским оборудованием на них, это был всего лишь очень странный математический / вероятностный результат. Тот факт, что потребовалось некоторое время, чтобы заметить, может вызвать некоторые тревожные звонки.
Аналогичным образом, надпись на футболках «Keep Calm and Rape A Lot» (наряду с «Keep Calm and Knife Her» и «Keep Calm and Hit Her») удручает и огорчает, но довольно понятно что никто не собирался создавать эти рубашки: они просто связали неконтролируемый список глаголов и местоимений с помощью онлайн-генератора изображений. Вполне возможно, что ни одна из этих футболок, когда-либо физически существовавших, никогда не покупалась и не носилась, и поэтому никакого вреда не было. И снова же, люди, создающие этот контент не заметили, и ничего не сделал распространитель. Они буквально понятия не имели, что они делают.
То, о чем я буду спорить, исходя из этих случаев и тех, о которых я расскажу дальше, заключается в том, что масштабы и логика системы являются соучастниками этих результатов и требуют от нас анализа их последствий.
(И опять же: я не собираюсь вникать в более широкие социальные последствия таких процессов за рамками того, о чем я пишу здесь, но ясно, что можно сделать четкую линию из таких примеров, как настоятельные современные проблемы, такие как как расовая и гендерная предвзятость в больших системах данных и машинных системах, требующих неотложного внимания, но таким же образом не имеют ничего похожего на простые или даже предпочтительные решения.)
Давайте рассмотрим только одно видео среди груды видео для детей и попытаемся разобраться, откуда оно взялось. Важно подчеркнуть, что я не собирался найти это видео: оно оказалось выше по рейтингу при поиске «finger family» в режиме инкогнито (то есть на него не должен влиять предыдущий поиск). Эта автоматизация ведет нас в очень, очень странные места, и в этот момент кроличья нора настолько глубока, что невозможно понять, как это произошло.
Еще раз предупреждение о содержании: это видео не совсем неуместно, но оно явно отключено и содержит элементы, которые могут кого-то беспокоить. Оно очень мягко в масштабах таких вещей, но. Я пишу это ниже, если вы не хотите смотреть его и идти по этой дороге. Это предупреждение повторится.
Вышеупомянутое видео называется Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes. Название подтверждает его автоматическое происхождение. Я понятия не имею, откуда происходит выражение «Wrong Heads», но я могу себе представить, что, как и с песней Finger Family, где-то есть совершенно оригинальная и безвредная версия над которой смеялись дети после того как она, обработанная алгоритмом, превратилась в список несвязных друг с другом слов, в сочетании с «Learn Colors», «Finger Family» и «Nursery Rhymes», и все эти сочетания — не просто как слова, а как образы, процессы и действия – смешиваются с тем, что мы видим здесь.
Видео состоит из обычной версии песни Finger Family, исполняемой поверх анимации меняющихся и пересекающихся между собой голов и тел персонажей из Диснеевского Аладина. Опять же, это странно, но, откровенно говоря, не больше, чем видеоролики Surprise Egg или что-то еще, что смотрят дети. Я понимаю, насколько это невинно. Несоответствие сопровождается появлением неаладдинского персонажа — Агни, маленькой девочки из “Гадкий я”. Агнес — арбитр сцены: когда головы не совпадают, она плачет, когда совпадают, она радуется.
Создатель видео, BABYFUN TV (скриншот выше), выпустил много похожих видео. Как и многие из видео с неправильным соединением голов, которые я мог бы наблюдать, работали точно так же. Персонаж из мультфильма Головоломка плачет при смене голов Троллей и Смурфиков между собой. Это продолжается снова и снова. Я вижу это как игру, но постоянное наложение и смешение разных типов постепенно проникает внутрь нас. У BABYFUN TV всего 170 подписчиков и очень низкое число просмотров, но есть тысячи и тысячи таких каналов. Числа в этом длинном хвосте несущественны в абстрактном понимании, но существенно их количество.
Возникает вопрос: как это получилось? Образ «Bad Baby», также присутствующий на канале BABYFUN, имеет тот же плач. В то время как я нахожу это тревожным, я могу понять, что это может обеспечивать некоторый ритм или отношение к их собственному опыту, т.к в содержании видео участвуют реальные дети. Хотя он был растянут и искажен алгоритмическим повторением и рекомбинацией таким образом, что я не думаю, что кто-нибудь хочет, чтоб с ним произошло подобное.
Toy Freaks — чрезвычайно популярный канал (68-й на платформе), в котором отец и его две дочери, разыгрывают — или, в некоторых случаях, возможно, ведут себя как в жизни — подобно многим из образов, которые мы выделили до этого, включая «Bad Baby», выше. Как детские стишки и обучения цветам, Toy Freaks специализируется на оскорбительных ситуациях, так же как на других жанрах, многие люди смотрящие этот канал находятся на границе своего возмущения, если не выходят за нее, видя видео с тем как дети отвратительно себя ведут, Toy Freaks — это одобренный YouTube канал, что бы это ни значило. (Я думаю, мы знаем, что теперь это ни о чем не говорит).
Как и в случае с Bounce Patrol Kids, вы чувствуете что содержание этих видеороликов, невозможно понять, невозможно разобраться где начинается и заканчивается смысл, кто придумывает идеи и кто их играет. В свою очередь, образы в популярных каналах под руководством человека, таких как Toy Freaks, приводит к тому, что они бесконечно повторяются по сети во все более диковинных формах.
Это следующий уровень видео, охарактеризованных мной как видео с участием людей которые, в основном намного более тревожны, чем неприятные действия Toy Freaks и их родственников. Вот относительно мягкий, но все еще расстраивающий пример:
Шаг за пределы просто пиратских видеороликов Peppa Pig, упомянутых ранее, — это оскорбление. Они тоже изобилуют насилием. В официальных роликах Peppa Pig Пеппа действительно отправляется к дантисту, и эпизод, в котором она это делает, кажется популярным — хотя, неясно, то, что кажется настоящим эпизодом, доступно только на неофициальном канале. В официальной версии, Пеппу успокоил любезный дантист. В версии выше она в основном подвергается пыткам, прежде чем превратиться в серию роботов Iron Man и исполнить танцы Learn Colors. Поиск «Свинка Пеппа у дантиста» возвращает вышеупомянутое видео на первой странице, от этого ситуация только ухудшается.
Шокирующие видеоролики со Свинкой Пеппой, которые имеют тенденцию к крайнему насилию и страху, с Пеппой, едящим ее отца или выпивающей отбеливатель, являются, как оказалось, очень распространенными. Они составляют всю субкультуру YouTube. Многие, очевидно, пародии или даже сатиры сами по себе, довольно распространены в интернете и намеренно выполнены в оскорбительном и возмутительном стиле. Во всех 4chan сообществах, есть высмеивание данных видео, мы это знаем.
В примере выше тип менее ясен: видео начинается с высмеивающий пародии на Пеппу, но позже смешивается с автоматическим повторение образов которые мы недавно видели. Я не знаю к какому лагерю это принадлежит. Возможно это просто пародия на подобные мультфильмы, я надеюсь на это, но я не уверен. Пародии не охватывают пересечение настоящих актеров и более автоматические примеры дальше по линии. Они играют здесь но это не все.
Полагаю, наивно не видеть преднамеренности этих версий, но многие из них настолько близки к оригиналу, и поэтому не обозначены — как пример дантиста – каких много, многие дети смотрят на них. Я понимаю, что большинство из них не пытаются запутать детей, даже если так кажется.
Я стараюсь понять почему, если это является проблемой, почему не стоит вопрос “Кто нибудь думает о детях?”. Очевидно, что это содержание неуместно, очевидно что актеры плохие, очевидно что большинство из этих видео должно быть удалено. Очевидно, что это также вызывает вопросы о законности использования, присвоении, свободной речи и.т.д.
Но доклады, которые просто объясняют проблему сквозь розовые очки не могут в полной мере понять какие разворачиваются механизмы, и следовательно не способны думать о последствиях к чему это может привести чтобы принять соответствующие меры.
New York Times озаглавила свою статью об этой проблеме как “На YouTube Kids, мимо фильтров проскользнуло шокирующее видео”, что подчеркивает использование поддельных персонажей и детских стишков в запрещенном контенте, и призывает рассматривать это как проблему в работе модераторов и законодательстве. YouTube Kids, официальное приложение, которое утверждает, что оно безопасно для ребенка, но совершенно очевидно, является проблемой, потому что это обманно порождает доверие к пользователям. Статья в британском The Sun: «Дети, остались травмированными после больных клипов на YouTube, показывающие персонажей Peppa Pig с ножами и ружьями, появившихся в приложении для детей», взяли также правильную сторону, добавив дозу технофобии и уверенности в своей правоте. Но обе истории берут на себя основополагающие утверждения YouTube о том, что подобные видео невероятно редки и быстро удаляются: Утверждения полностью опровергаются распространением самих историй и ростом числа сообщений в социальных сетях, главным образом, со стороны заинтересованных родителей, от которых они возникают.
Но, как и в случае с Toy Freaks, то, что касается меня в отношении видео с Peppa, — это то, как очевидные пародии и даже более мрачные подделки взаимодействуют с легионами разработчиков алгоритмического контента, пока совершенно невозможно узнать, что происходит. («Существа снаружи выглядели от свиньи до человека, и от человека до свиньи и от свиньи к человеку снова, но уже невозможно сказать, что это было».)
Вот что такое версия Toy Freaks, выпущенная в Азии (снимок экрана выше). Вот один из России. Я действительно не хочу больше использовать термин «под руководством человека» к этим видео, хотя в них содержатся все те же образы и фактические люди, которые их нарушают. Я больше не знаю, что здесь происходит, и я действительно этого не хочу, и я начинаю думать, что это своего рода точка. Это часть того, почему я начинаю думать об осознанности всего этого. Приложено много усилий чтобы создавать это. И приносит доход больше чем от спама — не так ли? Кто пишет эти скрипты, редактируя эти видео? Еще раз хочу подчеркнуть: это по-прежнему очень мягкий, даже забавный материал по сравнению с тем, что там есть.
Вот несколько вещей которые меня действительно беспокоят:
Во первых — это уровень страха и насилия. Некоторое время это является оскорбительным; большую часть времени он кажется более глубоким и более бессознательным. Интернет имеет способ усиления и воплощения многих наших скрытых желаний; на самом деле, это то, что кажется можно сделать лучше всего. Я провожу много времени, обсуждая эту тенденцию в отношении сексуальной свободы человека, индивидуальности личности и других проблем. Здесь, и в подавляющем большинстве иногда чувствуется, что эта тенденция сама по себе является жестокой и разрушительной.
Во-вторых, уровни использования, не детей, потому что они дети, а детей, потому что они беспомощны к внушению. Автоматизированные системы вознаграждения, такие как алгоритмы YouTube, требуют использования так же, как капитализм нуждается в потреблении материалов, а если вы кто-то, кто противится во второй половине этого уравнения, то, возможно, это должно быть то, что убеждает вас в его истине. Эксплуатация закодирована в системах, которые мы строим, что усложняет работу, труднее думать и понимать, с чем нам стоит бороться и от чего защищаться. AI-повелители и роботы на фабриках не где то в будущем, а прямо здесь, сейчас, на вашем экране, в вашей гостиной и в кармане.
Многие из этих последних примеров противоречат любой попытке утверждать, что никто на самом деле не смотрит эти видео, что это все боты. В этой цепочке участвуют люди, хотя бы на стороне производства, и я тоже очень беспокоюсь о них.
Я написал достаточно, слишком много, но я чувствую, что мне действительно нужно оправдывать весь этот бред о насилии и злоупотреблениях и автоматизированных системах с примером, который подводит итог. Может быть, после всего, что я сказал, вы не будете думать, что все настолько плохо. Лично я не знаю, что думать дальше.
Это видео, BURIED ALIVE Outdoor Playground Finger Family Song Nursery Rhymes Animation Education Learning Video, содержит все элементы, которые мы рассмотрели выше, и выводит их на другой уровень. Знакомые персонажи, детские образы, словесная бессмыслица, полная автоматизация, насилие, а также самые плохие желания детей. И, конечно, огромное количество этих видеороликов. Канал за каналом за каналом аналогичного контента, каждый месяц выпускается со скоростью сотни новых видеороликов. Промышленное производство кошмаров.
В последнее время: есть более жестокий и более сексуальный контент, подобный этому. Я не собираюсь ссылаться на него. Я не верю в травмирование этим обычных людей, но нужно продолжать подчеркивать это, а не отрицать психологический эффект на детей вещей, которые не являются явно тревожащими для взрослых, просто невероятно абсурдными и странными.
Друг, который работает над цифровым видео, рассказал мне, что нужно сделать, чтобы создать что-то вроде этого: небольшая студия людей (полдюжины, а может и больше), делающая большие объемы контента низкого качества для получения дохода от рекламы, отключая определенные требования системы (в частности, в какой-то степени длительность). По словам моего друга, детский онлайн контент является одним из немногих альтернативных способов зарабатывания денег от 3D-анимации, ввиду низких стандартов качества анимации, и акцентирование упора на количество. Он использует существующий и легкодоступный контент (например, модели символов и библиотеки захвата движения), и его можно повторять и пересматривать бесконечно и в основном бессмысленно, потому что алгоритмы не различают — и дети тоже.
Эти видеоролики, где бы они ни были сделаны, они создаются, и независимо от сознательного намерения (то есть накапливать доход от рекламы), пользуются системой, которая была изначально предназначена для показа видео для детей, для получения прибыли. Бессознательно созданные, они оставляют результат своей работы повсюду.
Мы говорим не о спорных, но, несомненно, реальных последствиях насилия в кино или видеоиграх для подростков, или о последствиях порнографии или экстремальных изображений для молодых умов, которые были упомянуты в моем вступительном описании моего собственного подросткового использования Интернета. Это важные дебаты, но это не то, что обсуждается здесь. Речь идет о очень маленьких детях, эффективно с рождения, преднамеренно нацеленных на контент, который будет травмировать и беспокоить их, через сети, которые крайне уязвимы к именно этой форме насилия. Речь идет не о троллях, а о своеобразном насилии, присущем сочетанию цифровых систем и капиталистических стимулов. Это опускается до уровня железа.
Моя точка зрения: Система несет ответ за неправильное использование данных материалов.
И прямо сейчас, прямо здесь, YouTube и Google являются соучастниками этой системы. Архитектура, которую они построили для получения максимального дохода от онлайн-видео, используемые лицами, которые не подозревают о вреде, наносимом детям, возможно, даже не преднамеренно, но в массовом масштабе. Я считаю, что они несут полную ответственность за это, так как они несут ответственность за радикализацию (в основном) молодых (в основном) мужчин посредством экстремистских видеороликов — любых политических убеждений. Они до сих пор не проявляли абсолютно никакой склонности к этому, что само по себе презренно. Тем не менее, огромная часть моего беспокойного ответа на этот вопрос заключается в том, что я понятия не имею, как они могут реагировать, не закрывая сам сервис, и большинство систем, которые напоминают его. Мы создали мир, который работает в масштабе, где человеческий контроль просто невозможен, и никакая мера бесчеловечного надзора не будет противостоять большинству примеров, которые я использовал в этом эссе. Опасения, которые я оставил в круглых скобках повсюду, если они будут подняты на общее обсуждение, позволили бы с минимальными усилиями переписать все, что я сказал, не о жестоком обращении с детьми, а о белом национализме, о насильственных религиозных идеологиях, о поддельных новостях, о климатическом отрицании, о заговоре 9/11.
Это очень темное время, когда структуры, которые мы создали для себя, используются против нас — всех нас — систематически и автоматизированно. Трудно сохранять веру в сеть, когда она производит такие ужасы. Хотя хочется отклонить более дикие примеры как простое высмеивание, из которых, несомненно, значительная цифра, не учитывает чистый объем контента, взвешенный в особенно гротескном направлении. В нем представлены многие сложные и скрытые опасности, в том числе и то, что, как и все большее внимание к предполагаемому вмешательству России в социальные сети, такие события будут использоваться в качестве оправдания для усиления контроля над Интернетом, повышения цензуры и т. д. Это не то, чего хотело бы большинство из нас.
Я остановлюсь здесь, говоря только об этом:
Меня беспокоит не просто насилие над детьми, хотя это прямо касается меня. Мое мнение, что это всего лишь один из аспектов своего рода инфраструктурного насилия, совершаемого всем нам, все время, и мы все еще пытаемся найти способ поговорить об этом, описать механизмы его работы и последствия. Как я сказал в начале этого эссе: это делается людьми, технологиями и комбинацией технологий и людей. Невозможно переложить на кого-то ответственность за его результаты, но ущерб очень и очень реальный.
Перевод: Вячеслав Букатов
Я Джеймс Бридл. Я писатель и художник, обеспокоенный технологиями и культурой. Обычно я пишу в своем собственном блоге, но, честно говоря, я не хочу чтобы то что я говорю здесь, было где-то рядом с моим собственным сайтом. Обратите внимание: в этом эссе описываются тревожные вещи и ссылки на тревожный графический и видеоконтент. Вам не обязательно это читать, и рекомендую проявлять осторожность при изучении.
Как человек, выросший в Интернете, я считаю, что сеть оказала одно из самых важных влияний на то, кем я являюсь сегодня. В моей комнате был компьютер с доступом в Интернет с 13 лет. Это дало мне доступ ко многим вещам, которые были совершенно неуместны для подростка, но все было в порядке. Культура, политика и межличностные отношения, которые я считаю главными для моей личности, формировались в Интернете, таким образом, каким я всегда считал полезным для себя лично. Я всегда был критическим сторонником Интернета и всего, что он принес, и в целом считал его эмансипационным и полезным. Я заявляю об этом с самого начала, потому что, размышляя о последствиях проблемы, я, в значительной степени, буду опираться на свои собственные обобщения и предрассудки.
Один из таких гипотетических вопросов, который я задаю себе чаще всего, — это то, что я буду чувствовать, когда мои собственные дети имеют такой же доступ к Интернету сегодня. И я понимаю, что на вопрос все труднее ответить. Я понимаю, что это естественная эволюция отношений, которые происходят с возрастом, и в какой-то момент этот вопрос может быть гораздо менее гипотетическим. Я не хочу быть в этом лицемером. Я хотел бы, чтобы мои дети имели те же возможности исследовать и расти и выражать себя так, как я. Я бы хотел, чтобы у них был такой выбор. И эта вера расширяет отношение к роли Интернета в общественной жизни в целом.
Некоторое время я тоже был осведомлен о все более симбиотических отношениях между детьми и YouTube. Я вижу, что дети увлеченно смотрят в экран все время, в колясках и в ресторанах, и всегда возникает немного чувства луддизма, но я не родитель, и я не принимаю родительские суждения ни для кого-либо. Я видел, как члены семьи и дети друга подключались к просмотру Peppa Pig и видеороликам с детскими стишками, и это делало их счастливыми и давало всем передышку, так что все нормально.
Но у меня даже нет детей, и сейчас я просто хочу уничтожить все это.
Кто-то или что-то или какое-то объединение людей и вещей использует YouTube для систематического пугания, травмирования и жестокого обращения с детьми, автоматически и в большом масштабе, и это заставляет меня подвергать сомнению мои собственные убеждения в отношении Интернета на всех уровнях. Большая часть того, что я собираюсь описать далее, была освещена в других местах, хотя ни одно из популярных освещений, которые я видел, действительно не поняли последствий того, что, кажется, происходит.
Для начала: YouTube Kids определенно и заметно странный. Некоторое время я знал об этой странности. В прошлом году было опубликовано множество статей об увлечении Surprise Eggs. Видео с Surprise Eggs, часто длительные и мучительные, показывают процесс разворачивания Киндера и других яиц с игрушками. Это весь контент, но дети очарованы им. Есть сотни и тысячи этих видеороликов и сотни и тысячи, если не миллионы, детей, смотрящих их.
Из статьи, приведенной выше:
Создатель моих любимых видеороликов — «Blu Toys Surprise Brinquedos & Juegos», а с 2010 года он набрал 3,7 миллиона подписчиков и чуть менее 6 миллиардов просмотров на детском канале, полностью посвященного открытию игрушек-сюрпризов и распаковки игрушек. Названия видео — это шаблон неясных фирменных названий и связующих: «Surprise Play Doh Eggs Peppa Pig Stamper Cars Pocoyo Minecraft Smurfs Kinder Play Doh Sparkle Brilho», «Cars Screamin` Banshee Eats Lightning McQueen Disney Pixar», «Disney Baby Pop Up Pals Easter Eggs SURPRISE.»
Когда я писал это, он сделал в общей сложности 4 426 видеороликов. Для сравнения, с таким количеством просмотров — официальный канал Джастина Бибера имеет более 10 миллиардов просмотров, в то время как очная звезда YouTube PewDiePie имеет почти 12 миллиардов — вполне вероятно, что этот человек зарабатывает на жизнь с помощью пары нежно бормочущих рук, которые разворачивают яйца Kinder. (Видео с Surprise-egg сопровождается прероллами, а иногда и мидроллами и рекламой.)
Это должно дать вам некоторое представление о том, насколько странным является мир детских онлайн-видео, и этот список с видеороликами намекает на чрезвычайные масштабы и сложность этой ситуации. Выглядит безобидно, но через пару минут вы поймете, что это часть какой-то довольно странной фигни.
Еще один огромный образ, особенно для самых маленьких детей, — это детские рифмованные видеоролики.
Little Baby Bum, который сделал вышеупомянутое видео, является 7-м по популярности каналом на YouTube. Всего лишь за 515 видеороликов они набрали 11,5 миллионов подписчиков и 13 миллиардов просмотров. Опять же, есть вопросы относительно точности этих чисел, которые я скоро получу, но ключевым моментом является то, что это огромная, огромная сеть и индустрия.
Видео является приманкой для родителей и для детей, и, следовательно, для создателей контента и рекламодателей. Маленькие дети загипнотизированы этими видео, будь то знакомые персонажи и песни, или просто яркие цвета и успокаивающие звуки. Длительность многих из этих видеороликов — одна общая цель видео собрать множество стихов для детей или мультфильмов в часовые сборники — и, таким образом, длина позиционирует как часть привлекательности видео, указывая на количество времени, которое некоторые дети проводят с ним.
Таким образом, ведущие каналов на YouTube разработали огромное количество тактик, чтобы привлечь внимание родителей и детей к их видеороликам, а также рекламным доходам, которые сопровождают их. Первой из этих тактик является просто копирование и пиратство другого контента. Простой поиск «Peppa Pig» на YouTube в моем случае дал «около 10 400 000 результатов», первая страница почти полностью состоит из видео с официального канала «Peppa Pig Official Channel», и один из роликов с неофициального канала называемый Play Go Toys, которые вы бы действительно не заметили, если бы вы не искали его:
Канал Play Go Toys состоит из (я предполагаю?) пиратского контента Peppa Pig и других мультфильмов, видео с анбоксингом игрушек (еще одного магнита для детей) и, предположительно, видео с собственными детьми владельца канала. Я не говорю ничего плохого о Play Go Toys; Я просто показываю, как структура YouTube облегчает расслоения контента и автора, и как это влияет на нашу осведомленность и доверие к его источнику.
Как отмечает еще один блоггер, одна из традиционных ролей фирменного контента заключается в том, что он является надежным источником. Будь то Peppa Pig на детском канале или Диснеевские фильмы, каковы бы ни были чувства к промышленной модели развлекательного производства, они тщательно продумываются и контролируются, чтобы дети по сути были в безопасности, смотря их, и им можно было доверять. Это больше не работает, когда бренд и контент не связаны платформой, и так известный и надежный контент обеспечивает бесшовный шлюз для непроверенного и потенциально вредного контента.
(Да, это тот же самый процесс, что и расслоение надежных средств массовой информации в фидах Facebook и результатах Google, которые в настоящее время наносят такой ущерб нашим образовательным и политическим системам, и я не буду сейчас явно изучать эти отношения дальше, но это очевидно, имеет большое значение.)
Второй способ увеличения количества просмотров видео — через ассоциацию ключевого слова / хештэга, что само по себе является целым темным искусством. Когда какая-то тенденция, такая как видеоролики Surprise Egg, достигает критической массы, производители контента наваливаются на нее, создавая сотни и тысячи этих видеороликов в любом возможном количестве. Это источник всех странных имен в приведенном выше списке: фирменный контент и названия детских стишков и «surprise egg», все набитые в салат из похожих слов, чтобы захватить результаты поиска, размещение на боковых панелях и рейтинга «вверх» для автопроигрывания.
Ярким примером странности является видео Finger Family (безвредный пример, вставленный выше). Я понятия не имею, откуда они пришли, и о происхождении детского стишка в основе образов, но на YouTube есть не менее 17 миллионов версий, и они снова охватывают все возможные жанры: с суммарностью миллиардов просмотров.
Опять же, количество просмотров на этих видео должны были взять под серьезный контроль. Огромное количество этих видеороликов в основном создаются ботами и просматриваются ботами, и даже прокомментированы ботами. Это целый странный мир сам по себе. Но не следует скрывать, что есть также много реальных детей, погруженных в айфоны и планшеты, смотрят это снова и снова — частично, учитывая повышенное количество просмотров — они наученны набирать основные поисковые термины в браузере или просто листать боковую панель, чтобы включить другое видео.
То, что я нахожу несколько тревожным по поводу распространения обычных (относительно) нормальных детских видео, — это невозможность определить степень автоматизации, которая здесь работает; как понять разрыв между человеком и машиной. Пример выше, из канала под названием Bounce Patrol Kids, почти с двумя миллионами подписчиков, демонстрирует этот эффект в действии. Они публикуют профессионально созданные видеоролики, с настоящими актерами, около одного ролика в неделю. Еще раз повторюсь, я не говорю ничего плохого о Bounce Patrol, которые явно следуют по стопам пре-цифровых детских ощущений, как их коллеги-австралийцы The Wiggles.
И все же есть что-то странное в отношении группы людей, которые бесконечно действуют вне зависимости от сочетания алгоритмически сгенерированных ключевых слов: “Halloween Finger Family & more Halloween Songs for Children | Kids Halloween Songs Collection”, “Australian Animals Finger Family Song | Finger Family Nursery Rhymes”, “Farm Animals Finger Family and more Animals Songs | Finger Family Collection — Learn Animals Sounds”, “Safari Animals Finger Family Song | Elephant, Lion, Giraffe, Zebra & Hippo! Wild Animals for kids”, “Superheroes Finger Family and more Finger Family Songs! Superhero Finger Family Collection”, “Batman Finger Family Song — Superheroes and Villains! Batman, Joker, Riddler, Catwoman” и дальше и дальше. Это производство контента в эпоху алгоритмического открытия- даже если вы человек, вы должны в конечном итоге олицетворять машину.
Другие каналы отказались от настоящих актеров, чтобы снова и снова создавать бесконечные реконфигурируемые версии одних и тех же видеороликов. То, что происходит здесь, явно автоматизировано. Фондовые анимации, звуковые дорожки и списки ключевых слов, собранных тысячами, создают бесконечный поток видео. Вышеупомянутый канал, Videogyan 3D Rhymes — Nursery Rhymes & Baby Songs, размещает несколько видеороликов в неделю, все больше используя византию в комбинациях ключевых слов. У них почти пять миллионов подписчиков — больше чем у Bounce Patrol в два раза — хотя еще раз скажу — невозможно узнать, кто или что на самом деле делает эти миллионы и миллионы просмотров.
Я стараюсь не превращать это эссе в бесконечный список примеров, но важно понять, насколько обширна эта система и как неопределенны ее действия, процесс и аудитория. Это также имеет международный характер: существуют вариации видеороликов Finger Family и Learn Colors для тамильских эпосов и малайзийских мультфильмов, которые вряд ли появятся в результатах поиска в англоязычной версии. Эта неопределенность и досягаемость являются ключом к ее существованию и его последствиям. Его размерность затрудняет понимание.
Мы столкнулись с очень наглядными примерами тревожных результатов полной автоматизации до этого — некоторые из них были к счастью оставлены с темным юмором, других — не так уж и много. Многое было сделано с помощью алгоритмических скрещиваний библиотек стоковых фотографий и по запросу производств, все — от футболок до кружек, от детских комбинезонов до чехлов для телефона. Вышеприведенный пример, доступный до недавнего времени на Amazon, является одним из таких случаев, и история о том, как это произошло, является увлекательной и странной, но по существу понятной. Никто не собирался создавать телефонные чехлы с наркотиками и медицинским оборудованием на них, это был всего лишь очень странный математический / вероятностный результат. Тот факт, что потребовалось некоторое время, чтобы заметить, может вызвать некоторые тревожные звонки.
Аналогичным образом, надпись на футболках «Keep Calm and Rape A Lot» (наряду с «Keep Calm and Knife Her» и «Keep Calm and Hit Her») удручает и огорчает, но довольно понятно что никто не собирался создавать эти рубашки: они просто связали неконтролируемый список глаголов и местоимений с помощью онлайн-генератора изображений. Вполне возможно, что ни одна из этих футболок, когда-либо физически существовавших, никогда не покупалась и не носилась, и поэтому никакого вреда не было. И снова же, люди, создающие этот контент не заметили, и ничего не сделал распространитель. Они буквально понятия не имели, что они делают.
То, о чем я буду спорить, исходя из этих случаев и тех, о которых я расскажу дальше, заключается в том, что масштабы и логика системы являются соучастниками этих результатов и требуют от нас анализа их последствий.
(И опять же: я не собираюсь вникать в более широкие социальные последствия таких процессов за рамками того, о чем я пишу здесь, но ясно, что можно сделать четкую линию из таких примеров, как настоятельные современные проблемы, такие как как расовая и гендерная предвзятость в больших системах данных и машинных системах, требующих неотложного внимания, но таким же образом не имеют ничего похожего на простые или даже предпочтительные решения.)
Давайте рассмотрим только одно видео среди груды видео для детей и попытаемся разобраться, откуда оно взялось. Важно подчеркнуть, что я не собирался найти это видео: оно оказалось выше по рейтингу при поиске «finger family» в режиме инкогнито (то есть на него не должен влиять предыдущий поиск). Эта автоматизация ведет нас в очень, очень странные места, и в этот момент кроличья нора настолько глубока, что невозможно понять, как это произошло.
Еще раз предупреждение о содержании: это видео не совсем неуместно, но оно явно отключено и содержит элементы, которые могут кого-то беспокоить. Оно очень мягко в масштабах таких вещей, но. Я пишу это ниже, если вы не хотите смотреть его и идти по этой дороге. Это предупреждение повторится.
Вышеупомянутое видео называется Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes. Название подтверждает его автоматическое происхождение. Я понятия не имею, откуда происходит выражение «Wrong Heads», но я могу себе представить, что, как и с песней Finger Family, где-то есть совершенно оригинальная и безвредная версия над которой смеялись дети после того как она, обработанная алгоритмом, превратилась в список несвязных друг с другом слов, в сочетании с «Learn Colors», «Finger Family» и «Nursery Rhymes», и все эти сочетания — не просто как слова, а как образы, процессы и действия – смешиваются с тем, что мы видим здесь.
Видео состоит из обычной версии песни Finger Family, исполняемой поверх анимации меняющихся и пересекающихся между собой голов и тел персонажей из Диснеевского Аладина. Опять же, это странно, но, откровенно говоря, не больше, чем видеоролики Surprise Egg или что-то еще, что смотрят дети. Я понимаю, насколько это невинно. Несоответствие сопровождается появлением неаладдинского персонажа — Агни, маленькой девочки из “Гадкий я”. Агнес — арбитр сцены: когда головы не совпадают, она плачет, когда совпадают, она радуется.
Создатель видео, BABYFUN TV (скриншот выше), выпустил много похожих видео. Как и многие из видео с неправильным соединением голов, которые я мог бы наблюдать, работали точно так же. Персонаж из мультфильма Головоломка плачет при смене голов Троллей и Смурфиков между собой. Это продолжается снова и снова. Я вижу это как игру, но постоянное наложение и смешение разных типов постепенно проникает внутрь нас. У BABYFUN TV всего 170 подписчиков и очень низкое число просмотров, но есть тысячи и тысячи таких каналов. Числа в этом длинном хвосте несущественны в абстрактном понимании, но существенно их количество.
Возникает вопрос: как это получилось? Образ «Bad Baby», также присутствующий на канале BABYFUN, имеет тот же плач. В то время как я нахожу это тревожным, я могу понять, что это может обеспечивать некоторый ритм или отношение к их собственному опыту, т.к в содержании видео участвуют реальные дети. Хотя он был растянут и искажен алгоритмическим повторением и рекомбинацией таким образом, что я не думаю, что кто-нибудь хочет, чтоб с ним произошло подобное.
Toy Freaks — чрезвычайно популярный канал (68-й на платформе), в котором отец и его две дочери, разыгрывают — или, в некоторых случаях, возможно, ведут себя как в жизни — подобно многим из образов, которые мы выделили до этого, включая «Bad Baby», выше. Как детские стишки и обучения цветам, Toy Freaks специализируется на оскорбительных ситуациях, так же как на других жанрах, многие люди смотрящие этот канал находятся на границе своего возмущения, если не выходят за нее, видя видео с тем как дети отвратительно себя ведут, Toy Freaks — это одобренный YouTube канал, что бы это ни значило. (Я думаю, мы знаем, что теперь это ни о чем не говорит).
Как и в случае с Bounce Patrol Kids, вы чувствуете что содержание этих видеороликов, невозможно понять, невозможно разобраться где начинается и заканчивается смысл, кто придумывает идеи и кто их играет. В свою очередь, образы в популярных каналах под руководством человека, таких как Toy Freaks, приводит к тому, что они бесконечно повторяются по сети во все более диковинных формах.
Это следующий уровень видео, охарактеризованных мной как видео с участием людей которые, в основном намного более тревожны, чем неприятные действия Toy Freaks и их родственников. Вот относительно мягкий, но все еще расстраивающий пример:
Шаг за пределы просто пиратских видеороликов Peppa Pig, упомянутых ранее, — это оскорбление. Они тоже изобилуют насилием. В официальных роликах Peppa Pig Пеппа действительно отправляется к дантисту, и эпизод, в котором она это делает, кажется популярным — хотя, неясно, то, что кажется настоящим эпизодом, доступно только на неофициальном канале. В официальной версии, Пеппу успокоил любезный дантист. В версии выше она в основном подвергается пыткам, прежде чем превратиться в серию роботов Iron Man и исполнить танцы Learn Colors. Поиск «Свинка Пеппа у дантиста» возвращает вышеупомянутое видео на первой странице, от этого ситуация только ухудшается.
Шокирующие видеоролики со Свинкой Пеппой, которые имеют тенденцию к крайнему насилию и страху, с Пеппой, едящим ее отца или выпивающей отбеливатель, являются, как оказалось, очень распространенными. Они составляют всю субкультуру YouTube. Многие, очевидно, пародии или даже сатиры сами по себе, довольно распространены в интернете и намеренно выполнены в оскорбительном и возмутительном стиле. Во всех 4chan сообществах, есть высмеивание данных видео, мы это знаем.
В примере выше тип менее ясен: видео начинается с высмеивающий пародии на Пеппу, но позже смешивается с автоматическим повторение образов которые мы недавно видели. Я не знаю к какому лагерю это принадлежит. Возможно это просто пародия на подобные мультфильмы, я надеюсь на это, но я не уверен. Пародии не охватывают пересечение настоящих актеров и более автоматические примеры дальше по линии. Они играют здесь но это не все.
Полагаю, наивно не видеть преднамеренности этих версий, но многие из них настолько близки к оригиналу, и поэтому не обозначены — как пример дантиста – каких много, многие дети смотрят на них. Я понимаю, что большинство из них не пытаются запутать детей, даже если так кажется.
Я стараюсь понять почему, если это является проблемой, почему не стоит вопрос “Кто нибудь думает о детях?”. Очевидно, что это содержание неуместно, очевидно что актеры плохие, очевидно что большинство из этих видео должно быть удалено. Очевидно, что это также вызывает вопросы о законности использования, присвоении, свободной речи и.т.д.
Но доклады, которые просто объясняют проблему сквозь розовые очки не могут в полной мере понять какие разворачиваются механизмы, и следовательно не способны думать о последствиях к чему это может привести чтобы принять соответствующие меры.
New York Times озаглавила свою статью об этой проблеме как “На YouTube Kids, мимо фильтров проскользнуло шокирующее видео”, что подчеркивает использование поддельных персонажей и детских стишков в запрещенном контенте, и призывает рассматривать это как проблему в работе модераторов и законодательстве. YouTube Kids, официальное приложение, которое утверждает, что оно безопасно для ребенка, но совершенно очевидно, является проблемой, потому что это обманно порождает доверие к пользователям. Статья в британском The Sun: «Дети, остались травмированными после больных клипов на YouTube, показывающие персонажей Peppa Pig с ножами и ружьями, появившихся в приложении для детей», взяли также правильную сторону, добавив дозу технофобии и уверенности в своей правоте. Но обе истории берут на себя основополагающие утверждения YouTube о том, что подобные видео невероятно редки и быстро удаляются: Утверждения полностью опровергаются распространением самих историй и ростом числа сообщений в социальных сетях, главным образом, со стороны заинтересованных родителей, от которых они возникают.
Но, как и в случае с Toy Freaks, то, что касается меня в отношении видео с Peppa, — это то, как очевидные пародии и даже более мрачные подделки взаимодействуют с легионами разработчиков алгоритмического контента, пока совершенно невозможно узнать, что происходит. («Существа снаружи выглядели от свиньи до человека, и от человека до свиньи и от свиньи к человеку снова, но уже невозможно сказать, что это было».)
Вот что такое версия Toy Freaks, выпущенная в Азии (снимок экрана выше). Вот один из России. Я действительно не хочу больше использовать термин «под руководством человека» к этим видео, хотя в них содержатся все те же образы и фактические люди, которые их нарушают. Я больше не знаю, что здесь происходит, и я действительно этого не хочу, и я начинаю думать, что это своего рода точка. Это часть того, почему я начинаю думать об осознанности всего этого. Приложено много усилий чтобы создавать это. И приносит доход больше чем от спама — не так ли? Кто пишет эти скрипты, редактируя эти видео? Еще раз хочу подчеркнуть: это по-прежнему очень мягкий, даже забавный материал по сравнению с тем, что там есть.
Вот несколько вещей которые меня действительно беспокоят:
Во первых — это уровень страха и насилия. Некоторое время это является оскорбительным; большую часть времени он кажется более глубоким и более бессознательным. Интернет имеет способ усиления и воплощения многих наших скрытых желаний; на самом деле, это то, что кажется можно сделать лучше всего. Я провожу много времени, обсуждая эту тенденцию в отношении сексуальной свободы человека, индивидуальности личности и других проблем. Здесь, и в подавляющем большинстве иногда чувствуется, что эта тенденция сама по себе является жестокой и разрушительной.
Во-вторых, уровни использования, не детей, потому что они дети, а детей, потому что они беспомощны к внушению. Автоматизированные системы вознаграждения, такие как алгоритмы YouTube, требуют использования так же, как капитализм нуждается в потреблении материалов, а если вы кто-то, кто противится во второй половине этого уравнения, то, возможно, это должно быть то, что убеждает вас в его истине. Эксплуатация закодирована в системах, которые мы строим, что усложняет работу, труднее думать и понимать, с чем нам стоит бороться и от чего защищаться. AI-повелители и роботы на фабриках не где то в будущем, а прямо здесь, сейчас, на вашем экране, в вашей гостиной и в кармане.
Многие из этих последних примеров противоречат любой попытке утверждать, что никто на самом деле не смотрит эти видео, что это все боты. В этой цепочке участвуют люди, хотя бы на стороне производства, и я тоже очень беспокоюсь о них.
Я написал достаточно, слишком много, но я чувствую, что мне действительно нужно оправдывать весь этот бред о насилии и злоупотреблениях и автоматизированных системах с примером, который подводит итог. Может быть, после всего, что я сказал, вы не будете думать, что все настолько плохо. Лично я не знаю, что думать дальше.
Это видео, BURIED ALIVE Outdoor Playground Finger Family Song Nursery Rhymes Animation Education Learning Video, содержит все элементы, которые мы рассмотрели выше, и выводит их на другой уровень. Знакомые персонажи, детские образы, словесная бессмыслица, полная автоматизация, насилие, а также самые плохие желания детей. И, конечно, огромное количество этих видеороликов. Канал за каналом за каналом аналогичного контента, каждый месяц выпускается со скоростью сотни новых видеороликов. Промышленное производство кошмаров.
В последнее время: есть более жестокий и более сексуальный контент, подобный этому. Я не собираюсь ссылаться на него. Я не верю в травмирование этим обычных людей, но нужно продолжать подчеркивать это, а не отрицать психологический эффект на детей вещей, которые не являются явно тревожащими для взрослых, просто невероятно абсурдными и странными.
Друг, который работает над цифровым видео, рассказал мне, что нужно сделать, чтобы создать что-то вроде этого: небольшая студия людей (полдюжины, а может и больше), делающая большие объемы контента низкого качества для получения дохода от рекламы, отключая определенные требования системы (в частности, в какой-то степени длительность). По словам моего друга, детский онлайн контент является одним из немногих альтернативных способов зарабатывания денег от 3D-анимации, ввиду низких стандартов качества анимации, и акцентирование упора на количество. Он использует существующий и легкодоступный контент (например, модели символов и библиотеки захвата движения), и его можно повторять и пересматривать бесконечно и в основном бессмысленно, потому что алгоритмы не различают — и дети тоже.
Эти видеоролики, где бы они ни были сделаны, они создаются, и независимо от сознательного намерения (то есть накапливать доход от рекламы), пользуются системой, которая была изначально предназначена для показа видео для детей, для получения прибыли. Бессознательно созданные, они оставляют результат своей работы повсюду.
Мы говорим не о спорных, но, несомненно, реальных последствиях насилия в кино или видеоиграх для подростков, или о последствиях порнографии или экстремальных изображений для молодых умов, которые были упомянуты в моем вступительном описании моего собственного подросткового использования Интернета. Это важные дебаты, но это не то, что обсуждается здесь. Речь идет о очень маленьких детях, эффективно с рождения, преднамеренно нацеленных на контент, который будет травмировать и беспокоить их, через сети, которые крайне уязвимы к именно этой форме насилия. Речь идет не о троллях, а о своеобразном насилии, присущем сочетанию цифровых систем и капиталистических стимулов. Это опускается до уровня железа.
Моя точка зрения: Система несет ответ за неправильное использование данных материалов.
И прямо сейчас, прямо здесь, YouTube и Google являются соучастниками этой системы. Архитектура, которую они построили для получения максимального дохода от онлайн-видео, используемые лицами, которые не подозревают о вреде, наносимом детям, возможно, даже не преднамеренно, но в массовом масштабе. Я считаю, что они несут полную ответственность за это, так как они несут ответственность за радикализацию (в основном) молодых (в основном) мужчин посредством экстремистских видеороликов — любых политических убеждений. Они до сих пор не проявляли абсолютно никакой склонности к этому, что само по себе презренно. Тем не менее, огромная часть моего беспокойного ответа на этот вопрос заключается в том, что я понятия не имею, как они могут реагировать, не закрывая сам сервис, и большинство систем, которые напоминают его. Мы создали мир, который работает в масштабе, где человеческий контроль просто невозможен, и никакая мера бесчеловечного надзора не будет противостоять большинству примеров, которые я использовал в этом эссе. Опасения, которые я оставил в круглых скобках повсюду, если они будут подняты на общее обсуждение, позволили бы с минимальными усилиями переписать все, что я сказал, не о жестоком обращении с детьми, а о белом национализме, о насильственных религиозных идеологиях, о поддельных новостях, о климатическом отрицании, о заговоре 9/11.
Это очень темное время, когда структуры, которые мы создали для себя, используются против нас — всех нас — систематически и автоматизированно. Трудно сохранять веру в сеть, когда она производит такие ужасы. Хотя хочется отклонить более дикие примеры как простое высмеивание, из которых, несомненно, значительная цифра, не учитывает чистый объем контента, взвешенный в особенно гротескном направлении. В нем представлены многие сложные и скрытые опасности, в том числе и то, что, как и все большее внимание к предполагаемому вмешательству России в социальные сети, такие события будут использоваться в качестве оправдания для усиления контроля над Интернетом, повышения цензуры и т. д. Это не то, чего хотело бы большинство из нас.
Я остановлюсь здесь, говоря только об этом:
Меня беспокоит не просто насилие над детьми, хотя это прямо касается меня. Мое мнение, что это всего лишь один из аспектов своего рода инфраструктурного насилия, совершаемого всем нам, все время, и мы все еще пытаемся найти способ поговорить об этом, описать механизмы его работы и последствия. Как я сказал в начале этого эссе: это делается людьми, технологиями и комбинацией технологий и людей. Невозможно переложить на кого-то ответственность за его результаты, но ущерб очень и очень реальный.
Перевод: Вячеслав Букатов
