Хочу рассмотреть ставший вдруг актуальным вопрос. Цифра с каждым годом всё больше входит в нашу жизнь, а значит, результатами труда программистов и всех представителей сферы IT пользуется всё больше людей.
Но последние события, связанные с распостранением коронавируса и последующими мерами властей по всему миру, заставляют говорить о той степени ответственности, которую наш цех несёт, когда речь идёт о контурах нового, возможно, не самого радужного мира.
Если до всеобщей карантинизации населения IT было конечно важной, но всё же одной из отраслей, то с переходом всех на удалёнку многие вещи стали просто незаменимы. Однако, цифра используется не только для решения бизнес- и личных задач. Но и для ужесточения контроля над собственными населением, часто не имеющего под собой никаких разумных с точки зрения интересов общества оснований.
Самым ярким поводом поговорить об этике является деятельность ДИТ Правительства Москвы, в частности, их программа «Социальный мониторинг», которая по сути представляет собой электронный ошейник, надеваемый на тело гражданина без веских на то оснований. Всевозможные косяки этого приложения уже разбирали: например, на Хабре или в СМИ: «Москвичка-инвалид возмутилась после получения нового штрафа за нарушение изоляции».
Хотя почему «косяки»? Всё зависит от точки зрения. Официальные лица мэрии, похоже, просто горды своим поделием, заявляя вот такое:
У любого нормального человека из отрасли в первую очередь закралось бы подозрение: насколько продукт адекватен возложенным на него задачам? Иными словами, он настолько глючный и даёт такое количество ошибок? Из описания самого продукта видно, что не очень адекватен: например, определение местоположения по спутнику, что в городских условиях заведомо невозможно с хорошей точностью, или фотографирование на фоне домашних ковров, что также может являться слабым местом при доказательстве нарушений пользователя (ещё много примеров издевательств над гражданами вот здесь).
Понятно, что для людей, которые государство воспринимают как бизнес, а население как огромный и бесплатный ресурс, любая ошибка трактуется в пользу слабого. Понятно, что за общие вопросы, как то выводить этот сырой продукт в обращение, работу с нареканиями и так далее, отвечает высшее руководство города во главе с Собяниным, с молчаливого одобрения Прокуратуры и ФСБ.
Понятно, что начальник департамента и прочие топы от государственного и городского IT тоже преследуют свои интересы: такие люди обычно работают не за идею, а за гораздо более осязаемые и вполне себе внушительные бенефиты: от солидных зарплат до участия в распределении бюджетов, ведомственных квартир, автомобилей, получения личных политических перспектив.
Но как быть нам, разработчикам? Тем, кто занят в непосредственном производстве и отладке подобных программ? Ведь кто-то конкретно рисовал модуль, который будет решать, высылать ли POST-запрос в API с указанием данных «нарушителя» по его геолокации. Кто-то конкретно своими руками писал демона, который будет слать push-уведомления с требованием сфотографироваться без учёта локального времени, например, в 4 часа ночи? «Я просто выполнял приказ»?
Понятно, что во все времена был криминал, и сферу IT он миновать не мог. Кто-то занимается написанием фишинговых сайтов, бот-атаками, торговлей данными карт, запрещённым контентом и подобными вещами.
Но вполне себе легальные корпорации и государства всё больше начинают залезать на территорию частной жизни. Организуются системы тотальной слежки, автоматического сбора штрафов. На фоне эпидемии государства и политики многих стран озаботились мерами по какому-то совершенно фантастическому контролю за всеми сторонами жизни граждан. Всё это делается руками наших коллег.
Может ли сообщество внутри себя выработать и чётко сформулировать критерии допустимого? Подобно медицинскому «не навреди» — «не занимайся слежкой», например? Можем ли мы сказать, как следует относиться к тем из нас, кто участвует в этом? В современных компаниях, прежде всего западных, недавно озаботились всяким равенством возможностей, изничтожением буллинга, дискриминации, сексизма и прочих вещей. Может ли эта энергия быть направлена в русло нетерпимости к тем, кто создаёт инструменты по обилечиванию своих сограждан ни за что на многие миллионы долларов? Можно ли спрашивать кандидата при приёме на работу не только насчёт того, как он относится к женщинам в коллективе программистов, но и, например, участвовал ли он в проектах ДИТ Москвы?
Понятно, кто-то спросит: «Автор, а есть ли у тебя что-то, кроме наивных вопросов?» Признаюсь, пока нет. Но как мне кажется, ход истории подталкивает нас к некоей кристаллизации, формирования собственной позиции. Ведь многие разработчики сами сталкиваются с противоречием: с одной стороны, нам нравятся широкие возможности современного цифрового мира, свободы, в том числе получения информации, выражения себя, наконец, простого передвижения (в другую страну, например). С другой, всё больше крупных бизнесов нанимают разработчиков для того, чтобы ваять очередную систему хитрых микрозаймов или слежения за себе подобными с помощью геолокации. Как минимум, неуютно.
Ведь может так статься, что однажды у всех нас получится очень крепкая железная клетка, протестированная на всевозможные уязвимости, в которую нас же и посадят. Мы будем спрашивать сами себя: как мы до этого дошли? почему это сделано нашими руками? почему я ваял вот этот прутик, ради чего? И самое главное: был ли у нас выбор поступать по-другому?
Но последние события, связанные с распостранением коронавируса и последующими мерами властей по всему миру, заставляют говорить о той степени ответственности, которую наш цех несёт, когда речь идёт о контурах нового, возможно, не самого радужного мира.
Если до всеобщей карантинизации населения IT было конечно важной, но всё же одной из отраслей, то с переходом всех на удалёнку многие вещи стали просто незаменимы. Однако, цифра используется не только для решения бизнес- и личных задач. Но и для ужесточения контроля над собственными населением, часто не имеющего под собой никаких разумных с точки зрения интересов общества оснований.
Самым ярким поводом поговорить об этике является деятельность ДИТ Правительства Москвы, в частности, их программа «Социальный мониторинг», которая по сути представляет собой электронный ошейник, надеваемый на тело гражданина без веских на то оснований. Всевозможные косяки этого приложения уже разбирали: например, на Хабре или в СМИ: «Москвичка-инвалид возмутилась после получения нового штрафа за нарушение изоляции».
Хотя почему «косяки»? Всё зависит от точки зрения. Официальные лица мэрии, похоже, просто горды своим поделием, заявляя вот такое:
В системе «Социальный мониторинг», которая контролирует передвижения больных коронавирусом и ОРВИ, зарегистрировано более 60 000 пользователей, сообщил «Ведомостям» руководитель департамента информационных технологий Москвы Эдуард Лысенко. С момента ее запуска было выписано 54 000 штрафов – более чем на 216 млн руб., рассказал руководитель Главного контрольного управления Евгений Данчиков. Штрафы выписаны примерно 30% пользователей приложения: некоторые из них получили по 2–3 штрафа, говорит представитель мэрии.
У любого нормального человека из отрасли в первую очередь закралось бы подозрение: насколько продукт адекватен возложенным на него задачам? Иными словами, он настолько глючный и даёт такое количество ошибок? Из описания самого продукта видно, что не очень адекватен: например, определение местоположения по спутнику, что в городских условиях заведомо невозможно с хорошей точностью, или фотографирование на фоне домашних ковров, что также может являться слабым местом при доказательстве нарушений пользователя (ещё много примеров издевательств над гражданами вот здесь).
Понятно, что для людей, которые государство воспринимают как бизнес, а население как огромный и бесплатный ресурс, любая ошибка трактуется в пользу слабого. Понятно, что за общие вопросы, как то выводить этот сырой продукт в обращение, работу с нареканиями и так далее, отвечает высшее руководство города во главе с Собяниным, с молчаливого одобрения Прокуратуры и ФСБ.
Понятно, что начальник департамента и прочие топы от государственного и городского IT тоже преследуют свои интересы: такие люди обычно работают не за идею, а за гораздо более осязаемые и вполне себе внушительные бенефиты: от солидных зарплат до участия в распределении бюджетов, ведомственных квартир, автомобилей, получения личных политических перспектив.
Но как быть нам, разработчикам? Тем, кто занят в непосредственном производстве и отладке подобных программ? Ведь кто-то конкретно рисовал модуль, который будет решать, высылать ли POST-запрос в API с указанием данных «нарушителя» по его геолокации. Кто-то конкретно своими руками писал демона, который будет слать push-уведомления с требованием сфотографироваться без учёта локального времени, например, в 4 часа ночи? «Я просто выполнял приказ»?
Понятно, что во все времена был криминал, и сферу IT он миновать не мог. Кто-то занимается написанием фишинговых сайтов, бот-атаками, торговлей данными карт, запрещённым контентом и подобными вещами.
Но вполне себе легальные корпорации и государства всё больше начинают залезать на территорию частной жизни. Организуются системы тотальной слежки, автоматического сбора штрафов. На фоне эпидемии государства и политики многих стран озаботились мерами по какому-то совершенно фантастическому контролю за всеми сторонами жизни граждан. Всё это делается руками наших коллег.
Может ли сообщество внутри себя выработать и чётко сформулировать критерии допустимого? Подобно медицинскому «не навреди» — «не занимайся слежкой», например? Можем ли мы сказать, как следует относиться к тем из нас, кто участвует в этом? В современных компаниях, прежде всего западных, недавно озаботились всяким равенством возможностей, изничтожением буллинга, дискриминации, сексизма и прочих вещей. Может ли эта энергия быть направлена в русло нетерпимости к тем, кто создаёт инструменты по обилечиванию своих сограждан ни за что на многие миллионы долларов? Можно ли спрашивать кандидата при приёме на работу не только насчёт того, как он относится к женщинам в коллективе программистов, но и, например, участвовал ли он в проектах ДИТ Москвы?
Понятно, кто-то спросит: «Автор, а есть ли у тебя что-то, кроме наивных вопросов?» Признаюсь, пока нет. Но как мне кажется, ход истории подталкивает нас к некоей кристаллизации, формирования собственной позиции. Ведь многие разработчики сами сталкиваются с противоречием: с одной стороны, нам нравятся широкие возможности современного цифрового мира, свободы, в том числе получения информации, выражения себя, наконец, простого передвижения (в другую страну, например). С другой, всё больше крупных бизнесов нанимают разработчиков для того, чтобы ваять очередную систему хитрых микрозаймов или слежения за себе подобными с помощью геолокации. Как минимум, неуютно.
Ведь может так статься, что однажды у всех нас получится очень крепкая железная клетка, протестированная на всевозможные уязвимости, в которую нас же и посадят. Мы будем спрашивать сами себя: как мы до этого дошли? почему это сделано нашими руками? почему я ваял вот этот прутик, ради чего? И самое главное: был ли у нас выбор поступать по-другому?
