«РосКомСвобода» совместно с «Инфокультурой» весь день вела на Общероссийском гражданском форуме (ОГФ'2020) площадку «Право на приватность и открытость».
Собрали для вас самое важное из всех секций: про приватность, открытые данные в здравоохранении, открытый код, распознавание лиц и слежку.
Ключевые цитаты из выступлений:
Все видео выступлений
Ссылки на полные обзоры — в конце статьи.
В рамках дискуссии «Открытость и приватность: дисбаланс между правами граждан и действиями государства в эпоху пандемии коронавируса» спикеры попытались ответить прежде всего на два вопроса — есть ли баланс между интересами государства и общества и, если нет, как его достигнуть. Пожалуй, все они сошлись во мнении, что баланса нет.
Руководитель «РосКомСвободы» Артём Козлюк прямо заявил, что баланса между интересами государства и общества не сложилось. Налицо нарушение личного цифрового пространства, тайны связи, отсутствие защиты коммуникаций. Всё это было и до пандемии, но во время неё тенденции усилились. Спикер обозначил ключевых правонарушителей в этих сферах — это государство, корпорации и киберпреступники.
«Кто же акторы нарушения наших цифровых прав, нашего права на приватность? Это государства, корпорации и киберпреступники».
У каждого из них свои цели и методы. По мнению Козлюка, у общества нет рычагов давления на госорганы и потому в качестве самозащиты гражданам остаются повышение цифровой грамотности и инструменты общественного давления в виде подачи исков, участия в кампаниях, подписания петиций. К слову, у «Роскомсвободы» есть кампания против слежки через распознавание лиц Bancam. В рамках неё мы требуем ввести мораторий на массовое распознавание лиц, пока система видеонаблюдения не станет прозрачной и подотчётной и не будет иметь гарантии защиты от подобных злоупотреблений. Вы можете помочь нам, присоединившись к кампании и подписав петицию на сайте Change.org.
Координатор проекта Pandemic Big Brother Алёна Рыжикова на примере, собственно, Pandemic Big Brother рассказала о конкретных перекосах в мерах, принятых государствами по всему миру. В частности, она выделила массовые штрафы и даже аресты за т.н. коронафейки (информацию о пандемии, противоречащую официальной) и распознавание лиц, которое стали применять в отслеживании нарушителей карантина, вплоть до автоматического штрафа на основании его результатов. Подобное, по её словам, практикуют не только в России, но и во многих других странах.
«Массово стали использовать распознавание лиц не только для борьбы с преступностью, но и для отслеживания нарушителей карантина».
Pandemic Big Brother — интерактивная карта, на которой фиксируются случаи нарушения цифровых прав граждан, такие как введение слежки, цензуры и контроля за коммуникациями.
Юристы «РосКомСвободы» готовы помочь всем, кто пострадал из-за незаконной слежки. Ваши обращения вы можете присылать на адрес legal@roskomsvoboda.org
Руководитель юридической практики «РосКомСвободы» Саркис Дарбинян рассказал, что происходит с точки зрения прав в России, и назвал это «вируспруденциией» или «законорей». По его словам, законодатели десятилетиями думали о том, как защитить детей, как бороться с терроризмом, но совершенно забыли о вирусах. Поэтому в этой области у нас не сложилось практики: нормативно Россия оказалась неготовой к использованию современных технологий вроде геолокации, мобильных приложений, распознавания лиц.
«Те законы, которые долго писали, никак не были приспособлены для ситуации пандемии. Российские законодатели о чем только не думали: они думали, как спасти нас от террористов, как спасти наших детей, но они совершенно забыли, что существуют вирусы».Единственный подходящий закон — о защите во время чрезвычайных ситуаций. Он, к слову, не содержит ничего об ограничении прав, которые власти применяли с таким упорством, но только то, что должны делать МЧС и другие органы по координации своих действий во время ЧС. Федеральная власть не хотела рисков и потому поступила хитро, а именно: переложила все решения на субъекты. Как результат Москва начала принимать свои законы, которые вошли в диссонанс с федеральным законодательством. «Даже если бы ковида не существовало, его стоило бы придумать, по крайней мере для московских властей, которые годами держали эти технологии под сукном и ждали возможность начать их использовать», — сказал Дарбинян. По его словам, различные технологии для слежки у московской мэрии были давно, и пандемия послужила спусковым крючком для их использования.
В секции «Открытые данные как инструмент общественного контроля борьбы с пандемией» эксперты среди прочего рассказывают, можно ли доверять сайту «Стопкоронавирус.рф» и почему в общественном здравоохранении с открытыми данными всё плохо.
Кандидат биологических наук, независимый аналитик Алексей Куприянов представил доклад об общественном аудите государственной статистики. С 13 марта эксперт собирает данные по распространению коронавирусной инфекции по России. В апреле он стал публиковать их и в «Фейсбуке» на страничке инициативной группы Watching Covid-19.ru, где вместе с коллегами, в том числе другими докладчиками — Алексеем Ракша и Борисом Овчинниковым, — выкладывает аналитику. Основные источники данных — «Стопкоронавирус.рф» и СМИ, на первых порах — ещё бюллетени Роспотребнадзора.
Задачи инициативы — резервное копирование данных, расчёт их характеристик (к примеру, доля смертей, ускорение и замедление эпидемии), наработка аналитической инфографики для осмысления ситуации и методов выявления манипуляций с данными. Первое на удивление не менее важно, чем всё остальное, поскольку в России нет ресурсов, которые бы давали полную картинку по эпидемии, с самого начала, в динамике. Тот же сайт «Стопкоронавирус.рф» «не имеет памяти»: каждый месяц он «начинает с начала», а данные за минувшие месяцы «уходят».
Куприянов отметил, что это первая пандемия, по которой так много открытых данных, но, к сожалению, они не очень достоверны. Аналитик выявил две главных фальсификации, из-за которых доверять информации невозможно:
— избыточное сглаживание данных, когда показатели долгое время находятся на одном уровне («собянинский коридор»);
— дагестанский скачок, когда все вдруг резко выздоровели (в других регионах тоже такое было, например, в Марий Эл, где добились отрицательного количества заболевших).
«Эта пандемия развивается благоприятно в плане открытости данных, но она совершенно проиграна в плане достоверности данных».
Для получения более точных данных, по мнению учёного, необходимы:
- машиночитаемые данные;
- доступ к дезагрегированным данным;
- расширение спектра доступных параметров;
- смещение акцента с агрегирования на валидацию.
Для исправления ситуации эксперт советует, например, Росстату как можно раньше опубликовать данные по смертности по датам смерти, а не регистрации, а Роспотребнадзору — максимально подробно раскрыть данные по госпитализации (к примеру, количество людей на интенсивной терапии). Последнее поможет гражданам в принятии рациональных решений, уверен Куприянов.
Граждане подросли, а государство обращается с нами по-прежнему, как с малыми детьми, за которых надо всё решать, не предлагать разумные действия, а просто приказывать, посетовал аналитик. Но такая модель устарела, и теперь людьми надо вести более вдумчивый диалог, заявил он.
Поистине ужасную картину обрисовал проректор Высшей школы организации и управления здравоохранением Николай Прохоренко, рассказав о недостоверных данных в общественном здравоохранении. По его словам, чем больший интерес представляют данные, тем больше с ними происходит фальсификаций. Эксперт заявил, что в России неточные данные по численности населения, смертности, заболеваемости, потребности в объёмах медицинской помощи, обеспеченности кадрами и плохая обратная связь от населения.
В качестве причин недостоверной статистики спикер назвал:
- дефекты нормативной базы;
- дефекты управления;
- закрытость и несистемность статистики и аналитических данных;
- недостаток квалификации;
- избыточно сложную систему финансового обеспечения в системе ОМС со смещёнными приоритетами;
- разрозненность государственной, частной и ведомственной медицины;
- личный интерес в сокрытии или фальсификации данных;
- существование рынка с неформальной оплатой медицинской помощи;
- политизированность.
Общая численность населения неточна, например, из-за разницы между переписью населения и учётом за обозначаемый период. Также есть проблема подсчёта числа людей в регионах с интенсивной трудовой миграцией. Заболеваемость трудно исчислять из-за проблем диагностики, неучтённости повторных диагнозов и пр. Что касается смертности, то 74% врачей подтверждают в опросах те или иные манипуляции с кодировкой смертности, в двух случаев из трёх это происходит под административным давлением.
«Чем больше интерес к какому-то статическому показателю, тем больше этот показатель фальсифицируется».
По потребности в объёмах медпомощи последние исследования проводились ещё в СССР. Заявленные объёмы медорганизаций не обеспечены финансами, они непрозрачны и определены не научными методами. По обеспеченности кадрами нет единых, полных и научно обоснованных нормативов нагрузки. Многие нормативы сформированы 30-40 лет назад и отстают от возможностей современных технологий. Штатные расписания не соответствуют нормативам по медперсоналу. Нагрузка по ставкам искажена требованиями исполнения «майских указов» президента и не соответствует фактической.
Что касается обратной связи от населения, здесь не проводятся исследования жалоб и запросов (например, на лекарства) от пациентов, нет достоверных данных по употреблению алкоголя и курению, занятию спортом.
Для решения проблем спикер предлагает:
- сформировать единую научно обоснованную систему управленческого мониторинга;
- открыть данные для профессионального сообщества;
- упростить и устранить дублирование отчётности;
- изменить управленческий вектор с наказания на мотивацию;
- упростить порядок оплаты медпомощи.
Однако, по мнению эксперта, наведение порядка требует ресурсов и высокой квалификации. Достоверная информация может ухудшить показатели управленцев, поэтому большинство акторов системы не заинтересованы в научно обоснованных и прозрачных статистике и аналитике.
В рамках дискуссии «Ответственные алгоритмы: как открытость способна повлиять на легитимность технологий в обществе?» эксперты ответили на вопросы, ухудшает или улучшает безопасность открытый код и кто может его контролировать.
Генеральный директор Zecurion Алексей Раевский порассуждал о том, должен ли код быть открытым с точки зрения безопасности. По его мнению, нельзя однозначно ответить, ухудшает или улучшает ли безопасность открытие исходных кодов. Надо понимать, что в открытых кодах сразу же найдут много дыр, которые придётся оперативно закрывать.
«Важно не то, как мы открываем алгоритмы и как их впоследствии сертифицируем, а важно то, каковы последствия использования этих алгоритмов. Не должно быть такого, что, например, штраф начисляется автоматически на основе решения алгоритма».
Помимо этого высокоуровневые логические хакеры могут, используя открытый код, обмануть систему в своих целях. Самый простой пример — приложение для автомобилистов, которое показывает, где стоят камеры, следящие за превышением скорости. С точки зрения водителей приложение удобно, потому что позволяет ездить, как хочется, и снижать скорость только там, где камеры. С точки же зрения общей безопасности, наверное, было бы лучше, если такого приложения не было и владельцам автомобилей приходилось бы постоянно думать о подстерегающих неизвестно где камерах и возможных штрафах.
Директор АНО «Информационная культура» Иван Бегтин говорил об общественном контроле за алгоритмами в аспекте безопасности раскрытия кода. По его словам, большая часть госсистем на данный момент не использует умные алгоритмы, но переход к принятию решений на основе ИИ постепенно происходит и у них. Примеры тому — Банк России, Росфин, Правительство. Там, где есть трансфер денег, это используют, резюмировал спикер. Хотя происходит это «крайне непублично».
Пока государство приближается к использованию ИИ, компании его уже внедряют ИИ. Однако у государства есть проблема — работа с уклоном в наказания.
«Если дошёл до суда, тебя либо оштрафуют, либо посадят, но оправдан ты не можешь быть. Главная функция адвоката — развалить дело до суда. Шансов, что тебя оправдают, мало. Что хорошего в алгоритме, у которого выборка будет изначально тебя посадить», — размышляет Бегтин.
Однако нерелевантную выборку можно поправить. Для этого, к примеру, в ЕС разрабатывается стандарт проверки алгоритмов, по которому ответственность за ИИ несут его разработчики. Если система что-то неправильно распознала — оштрафуют её авторов.
Раскрыть данные можно и нужно, убеждён Бегтин. Но в России пока некому проверять их и следить за искусственным интеллектом. Для этого нужно повышать квалификацию чиновников.
Глава юридической практики «Роскомсвободы», управляющий партнер Digital Rights Center Саркис Дарбинян тоже посетовал, что юриспруденция не развивается экспертно, она давно уже не наука.
По его словам, депутаты действуют в духе «Давайте примем закон, а подзаконные акты о том, как их применять, напишет правительство».
Население не особенно доверяет государственным информационным системам, потому что те не раскрывают протекающие внутри процессы. Мы только догадываемся, как всё работает, но кто, когда загружает данные, как использует, с какой целью — не знаем. Это ярко иллюстрируют кейсы Сергея Межуева и Антона Леушина — первые известные нам случаи ошибки распознавания лица.
Поэтому право должно развиваться постепенно, с учётом специализированных знаний. Это, кстати, одна из причин, почему «РосКомСвобода» требует ввести мораторий на массовое распознавание лиц: в этой области нет правового и социологического исследования, хотя понятно, под прицелом камерам человек ведёт себя по-другому, нежели без них. Присоединиться к кампании против распознавания лиц можно здесь.
Гости секции «Гражданские инициативы по приватности и открытости в период пандемии коронавируса» представили конкретные проекты, рассказали о проведённых ими исследованиях и тестах, и даже посвятили в детали расследования, касающегося утечек данных из госструктур. Подобное об этом читайте по ссылке ниже, а сейчас мы расскажем, что сделала непосредственно «РосКомСвобода».
Журналист Андрей Каганских продолжил тему приватности и рассказал об утечках данных московской системы распознавания лиц и как благодаря «РосКомСвободе» в полиции раскрыли занимавшихся «пробивом по лицу» сотрудников. Он интересовался темой давно, предположив, что, поскольку данные из всех госсистем утекают, скорее всего, сольют их и с камер распознавания лиц. В ноябре 2019 года он обнаружил, что, хоть система и не была запущена в полном объёме, с неё уже появились утечки:
«Работали всего 2% камер, но с них уже вовсю «банчили» данные на чёрный рынок».
Об этом стали писать СМИ, которым Департамент информационных технологий Москвы отвечал одно и то же, хотя это явно противоречило объективной реальности: «Доступ к данным ЕЦХД [Единый центр хранения и обработки данных Москвы — прим. ред.] имеют только уполномоченные сотрудники органов исполнительной власти и правоохранительных органов».
К началу пандемии система видеонаблюдения заработала полноценно. Весной данные на чёрном рынке стали доступны за 1 тыс. долл. За полгода чиновники так и не остановили утечки данных с московских камер. «РосКомСвобода» мониторила ситуацию всю весну, а летом провела эксперимент: волонтёр Анна купила полное досье на себя за 15 тыс. руб. Кроме того, выяснилось, что барыги на чёрном рынке на просьбу показать, как работает слив данных, предоставили данные шести человек просто в качестве примера. «Если бы я был полицейским, это было бы шесть эпизодов в уголовном деле», — сказал Каганских.
ДИТ отвечает, что система анонимна, но на деле возможны так называемые корреляционные атаки, когда фотографии сопоставляются с данными из других систем, в результате чего личность человека раскрывается. Так, в МВД есть система, которая сверяет изображения с данными из системы «Российский паспорт». Получается, что анонимность системы по факту формальна. Можно использовать две системы и фото человека и на выходе получить досье на него.
В ноябре мэрия выделила 237 млн на реформу этой системы. Но можно израсходовать раз в 10 меньше денег на систему безопасности МВД, которая просто будет запугивать коррумпированных полицейских, которые сливают данные на чёрном рынке, считает Каганских. По его мнению, власти хотят «исправить» техническую часть системы, в то время как надо работать над юридической. Полиция, ДИТ не контактируют с людьми, поэтому расследование удалось провести благодаря тому, что «полиция любит сливать данные на чёрный рынок и зарабатывать. Зарабатывать, кстати, гроши». Мы только догадываемся, как работает система распознавания лиц. К слову, это ярко иллюстрируют кейсы Сергея Межуева и Антона Леушина — первые известные нам случаи ошибки этой системы.
Данные с камер — малая часть рынка пробива, где много коррумпированных сотрудников разных ведомств, а также провайдеров и инсайдеров, отметил спикер.
Ни у одной страны нет такой торговли данными, заявил журналист:
«В России есть огромная системная проблема со сливами: сотрудники силовых ведомств постоянно что-то сливают. Это значит, что службы безопасности МВД и ФСБ плохо справляются о своей работой».
Разработчик плагина CensorTracker «РосКомСвободы» Вадим Мисбах-Соловьёв представил инструмент для противодействия слежке в интернете.
CensorTracker умеет следующее:
- определять наличие домена в реестрах ОРИ и заблокированных сайтов;
- проверять блокировки по закону о «суверенном Рунете»;
- предоставлять доступ к заблокированным доменам.
Таким образом, плагин показывает — ресурс ориентирован на пользователя или на государство: сливает ли он государству данные по первому зову или же публично отказался от этого.
Для поиска домена в реестрах плагин раз в несколько часов скачивает актуальные «слепки» на основе реестров в локальный кэш при установке и проверяет наличие в «слепках» домена сайта, который открыт в текущей вкладке.
При проверке блокировок по закону о «суверенном Рунете» плагин собирает статистику о недоступности сайта: если сайт недоступен у нескольких человек, вероятно, его блокируют, хотя он может и не быть в соответствующем реестре.
Предоставляя доступ к заблокированным доменам, CensorTracker предлагает открыть сайт через прокси «РосКомСвободы», а также составляет локальный PAC-файл (понятный браузеру список сайтов и через какой прокси их открывать) и «подсказывает» его браузеру.
«Мы гарантируем приватность пользователей», — заявил Мисбах-Соловьёв.
Если хотите обезопаситься от утечек, вам нужно знать, как собирают ваши данные и куда отдают. Этот плагин полезен в плане информирования, убеждён программист.
Читайте подробные обзоры с секций по ссылкам ниже:
- «Открытость и приватность: дисбаланс между правами граждан и действиями государства в эпоху пандемии коронавируса» здесь.
- «Открытые данные как инструмент общественного контроля борьбы с пандемией» здесь.
- «Ответственные алгоритмы: как открытость способна повлиять на легитимность технологий в обществе?» здесь.
- «Гражданские инициативы по приватности и открытости в период пандемии коронавируса» здесь.