Запрещая распознавание лиц, мы упускаем суть

Original author: Bruce Schneier
  • Translation

Весь смысл современной слежки — различать людей, чтобы по-разному относиться к каждому. Технологии распознавания лиц — лишь малая часть системы тотального наблюдения


Автор эссе — Брюс Шнайер, американский криптограф, писатель и специалист по информационной безопасности. Член совета директоров Международной ассоциации криптологических исследований и член консультативного совета Информационного центра электронной приватности. Эссе опубликовано 20 января 2020 года в блоге автора и в газете The New York Times.

Сообщества озабоченных граждан по всей территории США начинают запрещать технологии распознавания лиц. В мае прошлого года их запретили в Сан-Франциско, вскоре последовал соседний Окленд, а также Сомервилл и Бруклин в Массачусетсе (запрет могут распространить на весь штат). В декабре Сан-Диего приостановил программу распознавания лиц в преддверии вступления в силу нового закона. Сорок крупнейших музыкальных фестивалей пообещали не использовать эту технологию, а активисты призывают к общенациональному запрету. Многие кандидаты в президенты от Демократической партии поддерживают хотя бы частичный запрет на распознавание лиц.

Эти усилия продиктованы благими намерениями, но запрет на распознавание лиц — неверный ответ на проблему современной слежки. Внимание к одному конкретному методу идентификации отвлекает от природы того общества наблюдения, которое мы строим, где повсеместная массовая слежка становится нормой. В странах вроде Китая правительство создаёт инфраструктуру тотального наблюдения для контроля над обществом. В странах вроде США она создаётся корпорациями, чтобы влиять на покупательское поведение, и попутно используется правительством.

Во всех случаях у современной массовой слежки три основных компонента:

  • идентификация;
  • корреляция;
  • дискриминация.

Рассмотрим их по очереди.

Распознавание лиц — технология, которую могут использовать для идентификации людей без их ведома или согласия. Она опирается на распространённость видеокамер наблюдения, которые становятся мощнее и компактнее, и технологии машинного обучения, способные сопоставлять отснятый материал с изображениями из базы данных существующих фотографий.

Но это всего лишь один из многих методов идентификации. Людей можно идентифицировать на расстоянии по сердцебиению или походке, используя лазерную систему. Камеры настолько хороши, что могут считывать отпечатки пальцев и радужную оболочку глаза с расстояния в несколько метров. И даже без всех этих технологий нас всегда можно идентифицировать, потому что наши смартфоны транслируют уникальные MAC-адреса. Нас идентифицируют номера телефонов, номера кредитных карт, номера автомобилей. Например, Китай для своей системы тотального наблюдения использует несколько методов идентификации.

Как только мы идентифицированы, данные о нашей личности и действиях можно соотнести с другими данными, собранными в другое время. Это могут быть данные о перемещениях, чтобы «отследить» человека в течение всего дня. Или данные о покупках, просмотрах страниц в интернете, с кем мы общаемся по электронной почте или в чатах. Это могут быть данные о наших доходах, этнической принадлежности, образе жизни, профессии и интересах. Существует целая индустрия брокеров данных, которые зарабатывают на жизнь анализом и дополнением данных о том, кто мы такие — используя данные наблюдения, собранные всеми видами компаний, которые продаются брокерам без нашего ведома или согласия.

В Соединенных Штатах огромная — и почти полностью нерегулируемая — индустрия брокеров данных, которые торгуют нашей личной информацией. Именно так зарабатывают деньги крупные интернет-компании, такие как Google и Facebook. Дело не только в идентификации. Главное, что они способны создавать глубокие профили на каждого, собирая информацию о нас и наших интересах и максимально дополняя эти профили. Вот почему многие компании покупают данные о номерных знаках у властей штатов. Именно поэтому компании вроде Google покупают медицинские записи, и отчасти поэтому Google купила Fitbit вместе со всеми её данными.

Вся цель этого процесса состоит в том, чтобы компании — и правительства — могли различать людей и относиться к ним по-разному. Людям показывают разные объявления в интернете и предлагают разные тарифы по кредитным картам. Умные рекламные щиты отображают разные рекламные объявления в зависимости от вашего профиля. В будущем нас могут автоматически распознавать при входе в магазин точно так же, как это происходит сейчас при заходе на веб-сайт.

Не имеет значения, какая технология используется для идентификации людей. То, что в настоящее время не существует всеобъемлющей базы данных сердцебиений или походок, не делает технологии сбора данных менее эффективными. И в большинстве случаев не имеет значения связь ID с настоящим именем. Важно, что нас могут последовательно идентифицировать на протяжении длительного времени. Мы можем быть полностью анонимны в системе, которая присваивает каждому пользователю уникальный файл cookie и отслеживает его действия в интернете, но это совершенно не мешает аналогичным процессам корреляции и дискриминации. То же самое и с лицами. Можно отслеживать наши перемещения по магазину или торговому центру даже без привязки к определённому имени. И эта анонимность хрупка: как только мы что-то купили с помощью банковской карты, внезапно наши настоящие имена прикрепляются к тому, что было анонимным профилем трекинга.

Для регулирования этой системы нужно принимать в расчёт все три этапа процесса слежки. Запрет на распознавание лиц не имеет никакого значения, если системы видеонаблюдения переключатся на идентификацию людей по MAC-адресам смартфонов. Проблема в том, что нас идентифицируют без нашего ведома или согласия, а обществу нужны правила, когда такое допустимо, а когда нет.

Точно так же нам нужны правила, как наши данные можно объединять с другими данными, а затем покупать и продавать без нашего ведома или согласия. Индустрия брокеров данных почти полностью нерегулируема; есть только один закон — принятый в Вермонте в 2018 году — который требует, чтобы брокеры данных регистрировались и объясняли в общих чертах, какие данные они собирают. Крупные компании по слежке в интернете, такие как Facebook и Google, собирают на нас более подробные досье, чем были у спецслужб любого полицейского государства 20 века. Разумные законы помогут предотвратить худшие из их злоупотреблений.

Наконец, нам нужны более чёткие правила, когда и как компании могут проводить дискриминацию. Дискриминация, основанная на таких защищаемых признаках, как раса и пол, уже является незаконной, но эти правила неэффективны против современных технологий наблюдения и контроля. Когда людей можно идентифицировать и сопоставлять их данные с невиданной ранее скоростью и масштабом, нам нужны новые правила.

Сегодня системы распознавания лиц приняли на себя основной удар критики, но запрещая их, мы упускаем суть. Нужно серьёзно поговорить обо всех технологиях идентификации, корреляции и дискриминации. Мы как общество должны решить, допустим ли такой шпионаж со стороны правительства и корпораций — и как мы хотим, чтобы они влияли на нашу жизнь.
Дата-центр «Миран»
Решения для аренды и размещения ИТ-инфраструктуры

Comments 58

    +5

    а не поздно?

      +2
      Поздно или рано, на мой непросвещённый взгляд, неправильный вопрос. Вопрос что с этим делать с учётом того, что понятия «персональных данных» или «дискриминации» принципиально не формализуемые.

      Я так думаю, что нужно законодательно обеспечить общедоступность всех накапливаемых баз. Рано или поздно, всё равно все всё про всех будут знать, просто, что бы уменьшить длительность переходного периода с наиболее злобными злоупотреблениями.
        +5
        Поздно обсуждать борьбу с персонализацией. Аннонимность мертва.

        Пока гос. машина (любой страны) создаст хотя-бы действующие законы по теме — пройдет не меньше декады.

        Любые предложения что делать — устареют к моменту когда за них будут голосовать в сенате (или где там еще).
          +1
          И это будет уже совершенно неважно, учитывая, что «неблагонадёжных членов общества», желающих расставлять точки над «i» в этой теме не будут пускать в аптеку и они сами вымрут (условно говоря). Пример Китая с экспериментами по социальной дискриминации вопит нам в лицо о том, что будет в самое ближайшее время.
            0
            либо все это примут, либо оно взорвется в лицо правительству (не китая).

            в обоих случаях — это не вопрос «как это решить», это вопрос «как пережить»
              0
              Метко. Солидарен.
            0
            Просто действующая система управления массами очень сильно устарела: пока на проблемы обращают внимание — они утрачивают актуальность. Решение социально значимых проблем должно становиться уже делом не избранной этими массами верхушки, а общим делом. Голосовать должны не в сенатах и думах, а в народе, как минимум за приоритеность проблем и возможных решений.
              0
              возможно управление устарело — это интересная тема для обсуждения.

              Но голосование народом — это невероятная глупость. Я бы даже сказал больше, но на хабре такой язык не приветствуется.
          0
          Лучше поздно, чем никогда.
          0
          «Поддых» — не гуманно…
            +6
            Тут самое интересное — это этическая проблема, связанная с тем, что люди одновременно и хотят и не хотят «дискриминации по разным признакам».
              0

              Да, взять ту же рекламу и таргетинг по уровню дохода.


              Хочет небогатый человек видеть баннеры с Бентли или предпочел бы рекламу Жигулей… б

                0
                Ради эксперимента зайдите на ютуб с чистого браузера, не логинясь в гугл-аккаунт, и посмотрите содержимое главной страницы. Адище там будет такое, что 99% людей предпочтёт согласиться на слежку, лишь бы больше это не видеть.

                А вот когда слежку используют для отказа в каких-то возможностях, это людям справедливо не нравится.
                  0
                  А вот когда слежку используют для отказа в каких-то возможностях, это людям справедливо не нравится.

                  Да, к примеру всякие Booking и прочие SkyScanner клиентам из разных стран показывают разные цены...

                    –3
                    Это то тут при чем? Логика из разряда «если мне нельзя получить самые выгодные условия — пусть ни у кого таких не будет!». Региональная ценовая политика — это не дискриминация.
                    В Steam, к примеру, цены для России существенно ниже, чем на западе, потому что «рынок развивающийся», народ небогатый и шансов продать по полной цене мало. Допустим, если это запретят, будут везде низкие цены по вашему? Да щас, везде будет как раз таки по уровню наиболее платежеспособных стран, цены для остальных только вырастут.
                    –1
                    Если бы 99% людей не хотели это видеть, то Ютуб бы разорился. Так что всё наоборот — 99% хавают адище, поэтому это и есть на главной.
                      +3
                      Вовсе не обязательно.

                      Возможно, у 99% людей единственные общие интересы — именно это адище. Но при этом каждый из них по отдельности смотрит адище крайне редко.

                      Возможно, 99% людей всегда залогинены и вообще не видят алгоритм выборки контента для анонимусов.

                      Возможно, 99% людей игнорят главную страницу, потому что там одно говно. Но при этом для остальных стран выборка там нормальная, и ютубу норм.

                      Не зная конкретики, мы не можем с уверенностью сказать, почему там адище.
                        –1
                        О каком адище речь-то? Чем более конкретный запрос вводится, тем приличнее подборка даже для не залогиненого пользователя, как в моём случае. К примеру, на запрос «где купить hp zbook» гугл на первой странице выдаёт в основном русские магазины и сайт производителя.
                          0
                          Речь была про рекомендованные виде в youtube
                      +1
                      Каждый видит рекламы ровно столько — сколько хочет!
                      +1

                      Ну да, в текущем режиме звучит довольно безобидно. Я тоже, в общем, не против такого "мягкого" таргетирования. Но вот если тебе специально показывают рекламу конкретной марки, к которой у тебя быстрее всего разовьётся зависимость, а на работе закидывают баннерами со спортивными машинами, например, провоцируя ассоциации с риском и желание пойти именно этим вечером в бар, что в итоге приведёт к увольнению и тому что ты просадишь последние деньги там же, то можно начинать бояться. Ничего невозможного в таком сценарии нет.

                    +1
                    Телефон можно сменить, а вот лицо только в кино международные террористы меняют.
                      +4
                      Плюс, ваше лицо сразу же идентифицирует конкретно вас, его владельца, а не просто кого-то, кто мимо проходил и попросил у вас телефон позвонить. Чем железобетоннее идентификация — тем больше возможностей для дискриминации.

                      Огромное количество признаков позволяют лишь с какой-то вероятностью предположить, что эти длинные чёрные продолговатые предметы выбирал тот же человек, который заходил на фейсбук тремя днями ранее под именем Иван Петров. Да, фейсбук Ивана Петрова завалят рекламой секс-шопов, но больше сделать ничего не смогут: доказательств нет.

                      А вот в случае с лицом и другой биометрией, как мне кажется, такая идентификация имеет все шансы не рассыпаться даже в суде. Максимальная дискриминация в таком случае ограничена только фантазией правоприменителя.
                      • UFO just landed and posted this here
                          +2
                          Т.е про вас однозначно могут сказать, где вы были, с кем вы говорили, что ели и с кем спали. Это ведь совсем не означает, что тут же в отношении вас начнутся какие то дискриминации.

                          Во-первых, они начаться могут. Повод нужен, это да. Но зато исправить это в деревне, где все всех знают, особо вариантов нет.
                          Во-вторых, в деревне есть полная симметричность информации — абсолютно все знают, кто пьёт, кто ворует, кто бьёт, кто изменяет. Как раз потому что связей не так много, и они [почти] все укладываются в память одного индивида. Ну а нет — так сосед(ка) расскажет :)
                          В большом городе — сменил арендную квартиру или поменялся, поменял работу, поменял машину — всё, тебя лишь случайно могут где-то когда-то увидеть и узнать. Или не узнать — мало ли похожих в людей в городе с населением в 15 миллионов человек.
                          • UFO just landed and posted this here
                              0
                              Понятно, что власть, частные детективы, коллекторы (не факт, но они постараются), прочие кредиторы смогут так или иначе найти какие-то зацепки или человека.
                              Но если мы говорим про двух жителей села, то от перемены мест слагаемых, все равно все будут знать, где они живут.
                              А если мы про горожан — ну потерялся человек из виду, и потерялся. Если специально не искать — не найдешь.
                            +1
                            Т.е про вас однозначно могут сказать, где вы были, с кем вы говорили, что ели и с кем спали. Это ведь совсем не означает, что тут же в отношении вас начнутся какие то дискриминации.

                            Вспомните коллективизацию и раскулачивание. Выжили только те, про кого никто ничего не знал.

                            При этом в большинстве остальных случаев деревенское «всё обо всех знаю» всё-таки недостаточно тянет на доказательства для суда. А запись, как вы 10 лет назад брали майнкампф в библиотеке, вполне потянет.

                            Что до правоприменителя, у которого разыграется фантазия. То в этом вопросе всё будет упираться в количественный показатель.

                            А может и не упереться, тут уже как реализуют. Сравните, сколько штрафов за превышение может выписать живой полицейский, и сколько — камера. Камере пофигу на количественный показатель, она может и весь город оштрафовать.

                            Хвалёная цифровизация экономики как раз в первую очередь и избавляет от верхнего лимита на карательные меры.
                            • UFO just landed and posted this here
                          +2
                          Сменить телефон легко, но потом Вы синхронизируете контакты через Google или Apple. Зайдёте на Фейсбук / ВК под своим именем. И вот Вам реклама — здорово увидеть Вас, Mogwaika, с новым телефоном! Что желаете? Новую обложку для телефона? А вот Вам игрушки, которые на старом телефоне не шли ;) Ну и вся старая реклама, раз Вы уж тут.
                            –1
                            Никто не мешает зарегать это всё повторно.
                              +1
                              Для этого надо ничего не покупать в google play (и вообще, в любых онлайн-сервисах).
                              Людям просто жалко выбрасывать вместе с аккаунтом всё купленное на него.
                                –1
                                Деньги тоже дело наживное…
                                Да и х.з. чего там покупать, я только «monefy pro» купил, да и то мог и без него обойтись…
                                  +4
                                  Так по-хорошему и квартиру надо менять вместе с покупкой нового телефона. Потому как ежедневный маршрут дом-работа идентифицирует не хуже, чем любое другое средство.
                                    +4
                                    Так вот зачем хитрые миллениалы каждые 2-3 года меняют телефон, работу и съёмное жильё!
                                    Шах и мат, бумеры!
                                0
                                Более того, никто не мешает вообще не регистрировать ничего из этого. Вау
                              0
                              Только смена телефона все равно ничего не даст. Если продолжать пользоваться новым в полноценном режиме, а не использовать его как одноразовый. Симку купить без паспортных данных все сложнее и рано или поздно мы придем к тому, что ее просто не продадут. Т.е. по факту покупки новой сим карты ваши данные уже у оператора сотовой связи. И как только вы ее вставили в смартфон и активировали ваш профиль пополнился названием устройства его IMEI и еще много чего, а потом ваш старый профиль просто пополнился еще одним устройством и еще одним номером телефона.
                                0
                                Телефон можно сменить, а вот лицо только в кино международные террористы меняют.
                                "Женщина с макияжем подобна женщине без макияжа только с макияжем"© А учитывая то, что на западе сейчас не возбранно можно и мужчинам краситься. Макияжем вполне можно снизить распознавание с 95% скажем до 50%.
                                p.s.: В китае медицинские маски носят и це тоже невозбранно, несмотря на их систему распознавания лиц и порывы ввести социальный рейтинг.
                                  +1
                                  Не всякий макияж настолько сильно изменяет лицо чтобы его перестало распознавать. Там мягко говоря нестандартный макияж должен быть.
                                    +2
                                    Чем макияж поможет? Ну, будешь ты в базе записан как накрашенный. А ещё лучше — в двух вариантах — накрашенный и не накрашенный. Или во всех вариантах покраски.

                                    То есть, перед тем как оплатить покупки под камерой в Ашане по банковской карте нужно заменить макияж на «официальный», а выйдя из магазина, заменить его на «скрытный», чтобы камеры, не связанные с другими источниками идентификации (такими, как банковская карта), потеряли след?
                                    0
                                    Телефон можно сменить, а паттерны его использования практически нет, так что это не решил проблему полностью.
                                    +7
                                    Телефон я могу оставить дома, если хочу снизить шансы, что конкретно вот это моё передвижение отследят. А лицо? Скрыть не вариант — наоборот, повышается вероятность, что тормознут и опознают уже традиционным способом — «ваши документики?»
                                    [Forwarded from Dan Kirsanov]
                                    Пробовал кепку с инфракрасными светодиодами… На выходе менты взяли

                                    [Forwarded from Dan Kirsanov]
                                    Дают засветку на лицо камера видит засвеченный овал

                                    [Forwarded from Dan Kirsanov]
                                    За то что меня не опознали, прошла команда проследить путь и опознать при выходе

                                    [Forwarded from Dan Kirsanov]
                                    Поговорили 15 минут в дежурке, рассказали что так ннправильно и отпустили
                                      0

                                      Подобные сценарии никогда не регулировались запланировано и по призывам. Любые регуляции нерегистрируемых ранее системных явлений происходят естественным путем, когда возникает крайняя необходимость. Под крайней необходимостью имею ввиду прецеденты, вызвавшие массовую реакцию среднего класса и выше. Сейчас и ещё долго в будущем только большинство (эволюционно) может влиять на изменения во внесистемных явлениях, которые влияют на эту самую систему. Недостаточно рационального зерна или чего-то подобного, так как пока "жопа не загорится", большинство не будет ничего предпринимать.

                                        –1
                                        В том то и дело, что камеры повсюду, а детекторов сердцебиения нигде нет. Если стоимость внедрения выше отдачи от технологии, то кто будет внедрять? Пусть запрещают слежку через камеры, а не борятся с призраками. Проблемы надо решать по мере их поступления.
                                          0
                                          Проблемы надо решать по мере их поступления
                                          Проблемы эффективнее предотвращать, а не бороться героически с последствиями.
                                          • UFO just landed and posted this here
                                              0
                                              К примеру, я махровый диссидент вышел из дома и двигаюсь в сторону центра с банкой кала в сумке. Как определить, что я задумал, сдачу анализов в поликлинике, или акцию протеста у администрации.

                                              Выслать к вам… медсестру, которая заберёт у вас баночку с калом и сама отвезёт на анализы. :)
                                              • UFO just landed and posted this here
                                          –3
                                          Это на фоне новостей про распознавание лиц в Москве? Хорошая попытка…
                                            +1
                                            Следить за каждым человеком — это слишком дорого, т.е. конечно «досье» cуществуют у facebook или VK, но не думаю, что они кому-то интересны в своем большинстве, кроме как компаниям, что предлагает нам банеры.
                                            А вот если ты становишься публичным человеком, тогда информация о тебе очень интересна и нужна всем.
                                            Но если подумать, то такое было всегда, да не в том маштабе, но и количесво людей уже не то.
                                            Мне очень понравился пример выше про деревню.
                                            Думаю, это очередное раздувание паники, что бы… и тут может быть много разных причин.
                                            • UFO just landed and posted this here
                                                +1
                                                Прогнозировать будущее — это, в принципе, прогнозировать невероятное, как и с погодой, чем дальше прогноз, тем меньше вероятность.
                                                +2
                                                Вас хотят принять на должность $4к или больше. Перед оффером компания платит небольшую таксу ($100) чтобы получить ваше досье для проверки. И сам фейсбук находит ваше сообщение (напомню пользователю искать в своих же сообщениях нельзя) многолетний пост, где вы вляпались в черный юмор. И все — ищи следуйщий оффер.

                                                Не так распространено у нас пока еще. Но на западе репутация все больше и больше важна.
                                                0

                                                А мне кажется, настолько массовое движение против камер это эхо политических игр в самих США — попытка некоторых политиков показать, что они "не такие как в Китае", у них скоро выборы. В реальности никто не будет отказываться от идентификации людей по лицам, но, возможно, делать это будут в соседнем штате, лазейки найдутся.


                                                Кроме того, попытка сохранить анонимность в реальности (как в комментарии выше было про специальную кепку) сама по себе идентифицирует не хуже камеры, поскольку таких людей единицы и они привлекают внимание этим способом.

                                                • UFO just landed and posted this here
                                                  –1
                                                  Шумиха поднятая вокруг системы распознавания лиц лишь ширма для того что бы покричали, выпустили пар, опознать человека гораздо проще по манере его движения, походке, локации и комплексу иных признаков, так что хочешь не хочешь, всё равно распознают, даже в маске. Любая государственная система, тем более та, которой принадлежит основная масса финансов будет защищать свои интересы, и никогда не упустит власть из рук, будет за эту власть цепляться ногтями. А люди лишь лёд под ногами майора.
                                                    –1
                                                    вот интересно — если просто создать сеть агентов, задача которых будет определять ближайших людей (например жителей одного дома) по морде и сообщать в соответствющие органы — это будет считаться незаконной индентификацией лиц? Ведь точно так же любой человек может опознать другого и заявить куда надо. КПД системы конечно будет ниже, но никаких принципиальных отличий от камер не будет — все то же распознание лиц. Полиция до камер работал примерно так-же. Полицейский так же распознает лица без ведома и согласия людей.
                                                    То-есть люди стали возмущаться только когда КПД системы, работавшей не одну сотню лет — выросло?
                                                      +1
                                                      В комментариях уже забылись. Напомню:
                                                      — «им решить»
                                                      — «они допустят»
                                                      Это перевод статьи, написанной для жителей цивилизованной другой страны, где граждане действительно могут решить, допустить, итд.

                                                      Only users with full accounts can post comments. Log in, please.