Китайская система соцкредита пугающе набирает обороты. Кажется, что все страны мира сговорились и обещают нам цифровизацию по самые уши. В Москве увеличивают количество камер с технологией распознавания лиц. Венесуэла, Монголия, Эквадор и даже Зимбабве – заказчики китайских IT-компаний по разработке подобных систем.
Одни вспоминают «Черное зеркало», другие – ассоциируют с нашим бытом с подтекстом «готовьтесь, смерть скоро сама явится в Россию». Давайте постараемся завести моторчик критического мышления. Так ли все пугающе на самом деле для нас?
Цифровая диктатура
Систему социального кредита Китайцы планируют запустить к 2020 году. Создают ее как саморегулирующуюся систему более мягкого тоталитаризма, дабы людишки с помощью манипулятивных запугивающих инструментов сами подводили себя к «правильному» поведению.
Получается все по классике: кто владеет информацией, тот владеет миром.
Началось все с того, что в Китае не было единой скоринговой системы до 2015 года, когда Ant Financial, дочка Alibaba Group, придумала свою (Zhima Credit) и предоставила доступ к ней народному банку Китая. Ну как предоставила, когда правительство увидело в этом пользу, само мягко заставило. IT-компании, создавшие технологию, подверглись давлению… хотя им, наверно, не привыкать. Не то, что бизнесу в России… хотя, о чем это я?
Все платежи в Китае (даже на рынке) проводятся через национальную платежную систему Alipay. В ней хранится все: и персональные данные разного сорта и инфа обо всех сторонах жизни человека (какую машину покупает, какое образование получает и много-много разного). Ничего от большого китайского глаза не ускользнет. Система соцкредита на правительственном уровне, конечно, не ограничивается одними платежами. Все значительно серьезней.
К 20-му году по всей территории Китая будет установлено еще 626 миллионов камер с технологией распознавания лиц при уже имеющихся 178 миллионах. Это, как если бы за каждым гражданином России круглосуточно следило в среднем 4 камеры. Так что следить большой брат будет за китайцами повсюду, и не просто следить, а еще и начислять рейтинг в зависимости от поведения. Подкрепляется всеобщая истерия еще и тем фактом, что он может не только повышаться, но и снижаться.
Купил памперсы – молодец, +n к рейтингу, поиграл несколько часов подряд в игры – минус к рейтингу. А что делать, если я, например, только что пересела с иглы мужского одобрения на видеоигры и ненавижу детей? (шутка). Список контактов тоже влияет на рейтинг, и пользователям ничего не остается, как оценивать человека на предмет размера его рейтинга. А вы говорите размер значения не имеет…
Если выглядите вы, мягко говоря, не очень, и на вид не скажешь, что вы – «белый» человек, то, скорее всего, вас гражданин Китая даже в список контактов не добавит. Ничего личного, просто рейтинг… Ну, а у кого плохой рейтинг, тот с ветерком не путешествует и чивас не пьет.
Если ты еще заклеиваешь скотчем вебку, то, наверно, зря, потому что мы, судя по всему, вступаем в эру цифровой диктатуры. Конфиденциальность под угрозой. В Москве увеличивают количество камер с технологией распознавания лиц. Приложение FindFace, которое позволяло сфотографировать засранца, курящего вам в лицо на улице, и найти его в соцсетях, чтобы обложить, привлекло внимание государства, которое стало его основным заказчиком и закрыло технологию от чужих глаз. А с умельцами, создавшими аналогичный сервис SearchFace, VK пытается бороться.
Статья в видео-формате
Риски
Мой мозг, технически образованный и имеющий опыт в разработке, кинулся мыслить в сторону реализации. Какие критерии правильности и неправильности будет учитывать система? Какова вероятность ее взлома? Кто в итоге будет принимать решения о судьбе нарушителя на основании выводов системы? Вопросы открытые.
Если предположить, что система распознавания лиц, нейросети и сами камеры имеют суммарную погрешность в 0,01% (такое вообще возможно?), то, умножив это на 626 миллионов камер, получим, что, примерно, 62 тысячи камеры будут приписывать ошибочные нарушения не тем людям.
Например, в Китайском городе Нинбо оштрафовали предпринимательницу Дун Мичжу за переход на красный для пешеходов, но самой Дун на месте не было. Система распознала ее лицо на автобусе, который проезжал на зеленый (интересно, если приклеить фотографию соседа – это сработает?).
Фото "нарушительницы"
Журналист Лю Ху не мог купить билет на рейс из-за штрафа, который он уже оплатил. Он отправил чек судье, но тот просто-напросто не отвечает. Парень не может выехать из страны.
Фарш из системы с потенциальными ошибками, человеческим фактором, возможным взломом и неизвестными критериями оценки вызвал у меня в голове потенциальный список стран, куда я могла бы свалить от такой системы, но ничего не придумала, ибо, как я писала выше, даже Зимбабве внедряет подобную систему.
Плюсы
Скорее всего, людям, которые просто живут, как среднестатистические наши с вами знакомые и товарищи, этот рейтинг побоку. Он у них будет в среднем хороший. А мы уже с вами выяснили, у кого рейтинг хороший – тот ест пирожки с полки и, как минимум, может вылететь из страны.
И вообще мне нравится технический прогресс, но, то мы негодуем, что Россия валенки плетет, то возмущаемся ее успехами в, как нам кажется, «страшных» технологиях. Цифровизация – неизбежное наше будущее. Ребят, раз говорим А, давайте говорить и Б. Хотим новых технологий, удобства и развиваться, давайте пожинать плоды мыслительных процессов людей «на верхушке». Мы ведь с вами не наивные ребята, чтобы думать, что нам создадут беспилотные бесплатные трамваи, но при этом не объявится очередная Яровая со своим очередным пакетом на основе этой технологии? А может быть, система будет карать тем, что только благонадежные будут бесплатно ездить на метро благодаря технологии распознавания лиц? Ну это я так, фантазирую.
Даже при том факте, что китайское правительство трижды выругалось, когда обалдело от 9-ти тысяч коррупционеров, выявленных системой, и решило прикрыть сервис для чиновников, чем это плохо для нас? Часть тех чиновников получило выговор, часть уволена. Бич нашей страны, может, и не уменьшится до 0 от подобных технологий, но хотя бы потенциально может снизиться. Как минимум, ленивые чинуши с закостенелым мозгом замучаются изобретать методы по сбору дани в обход системы.
Так может жизнь для нас вообще никоим образом не изменится, и мы будем все так же ходить на работу в 7 утра и толкаться попами в метро? Вот только карманника, укравшего в толпе ваш кошелек, или чувака, психанувшего от бренности бытия в метро и набившего морду парню, который случайно его толкнул, найти будет проще. Я, кстати, не раз сталкивалась с подобными ситуациями – приятного мало.
Сейчас меру наказания определяет полностью человеческий фактор, а с подобной системой ответственность за выявление нарушений поделится на 2, так как в оценке будет участвовать еще и система. Возможность уклонения пусть и не уйдет в абсолютный ноль, но снизится точно.
А вот еще из личного. Никто не воспользуется вашим билетиком в парк аттракционов Universal Orlando за 200 долларов, потому что вас сфотографировали на входе, и прежде, чем пустить на очередной аттракцион, сравнивают фото на билете и ваше лицо с помощью технологии распознавания лиц. Мелочь, а приятно…
Причем давайте не будем лицемерить и лукавить, нам значительно спокойнее, если в машине видеорегистратор, в подъезде камера, а на ребенке часы с GPS навигатором, чтобы (о ужас!) отслеживать его передвижения. У меня знакомая нацепила на ребенка браслет с такой функцией: звонишь ему на браслет и подслушиваешь, что происходит вокруг. И мы сознательно используем эти технологии. Мы сами приучаем детей спокойно относится к тотальному контролю. Они к моменту появления системы уже будут приучены.
Реальность
Вернемся к китайцам. Система социального кредита предполагает использование целого спектра различных сложных технологий – компьютерное зрение, в частности, распознавание лиц и образов, нейросети, Big Data, машинное обучение.
По версии компании Gartner у любой системы есть пик хайпа и следующее за ним плато продуктивности. Если мы говорим о нейросетях, как основе системы, то они как раз находятся на волне завышенных ожиданий, а до плато продуктивности им еще как раком до Китая. А, как правило, от всех хайповых систем на пике ожидают больше, чем они могут на самом деле.
Big Data вообще предполагает сбор, хранение и обработку данных такого масштаба, что Яровая со своим пакетиком отдыхает. Какие мощности понадобятся на население Китая, я даже представить не могу.
Но, само собой, китайцы запустят систему, пусть не к 20-му, так к 30-му году. И все равно последнее слово в такой системе, скорее всего, останется за человеком.
«Государственный центр информации о социальном кредите Китая подготовил отчет, из которого следует, что в 2018 году собрана информация о 14 млн случаев нарушений, которые ведут к снижению социального рейтинга компаний и физических лиц (таких как обман покупателей, просрочка по кредиту, реклама, вводящая в заблуждение и так далее). К настоящему времени в "черные списки" внесены почти 4 млн юридических лиц (им будет запрещено участвовать в госзакупках, аукционах на землю и так далее), 17,5 млн человек не могут купить авиабилеты, 5,5 млн человек — билеты на поезд. Кроме того, людям из "черных списков" сложнее купить страховку, недвижимость и финансовые инструменты. В некоторых случаях информация о "нарушителях" публиковалась в открытых источниках, чтобы их "пристыдить".»
Varlamov News
17,5 миллионов человек для Китая это 1,2% населения. В России доля граждан с доходами ниже прожиточного минимума на 2018 год составила 14,2% от населения страны. Это те люди, которым не нужно блокировать доступ к покупке авиабилетов, например, они в принципе купить билет не могут.
И даже закон об изоляции интернета в целях его защиты выглядит пугающе ровно до тех пор, пока не почитаешь об инициаторах закона – юрист-предприниматель, учительница русского языка и литературы и бывший зек. И на все про все ребятам нужно 1,8 миллиарда бюджетных рублей, а после еще и 20… Да и Россия не Китай, у нас нет интранета, у нас как-то по-другому все.
Пусть все на данный момент имеет вид хромой лошади, но, по-моему, чиновники сами роют себе яму.
Интернет, изолированный от главной угрозы
Внедрение полноценной хорошо работающей системы, четко выполняющей свои функции, как по мне, так идеальная картина мира, где страдают коррупционеры, где никто не хочет бить другого по морде потому, что перепил, а дети могут одни выйти во двор… давно я уже этого не видела, как в детстве, помните?
И по факту, мы ни черта не знаем, хорошо это или плохо. Но… мы же люди, нам проще мыслить в негативную сторону.
Фарида Рословец
