Хочу рассмотреть ставший вдруг актуальным вопрос. Цифра с каждым годом всё больше входит в нашу жизнь, а значит, результатами труда программистов и всех представителей сферы IT пользуется всё больше людей.
Но последние события, связанные с распостранением коронавируса и последующими мерами властей по всему миру, заставляют говорить о той степени ответственности, которую наш цех несёт, когда речь идёт о контурах нового, возможно, не самого радужного мира.
Если до всеобщей карантинизации населения IT было конечно важной, но всё же одной из отраслей, то с переходом всех на удалёнку многие вещи стали просто незаменимы. Однако, цифра используется не только для решения бизнес- и личных задач. Но и для ужесточения контроля над собственными населением, часто не имеющего под собой никаких разумных с точки зрения интересов общества оснований.
Самым ярким поводом поговорить об этике является деятельность ДИТ Правительства Москвы, в частности, их программа «Социальный мониторинг», которая по сути представляет собой электронный ошейник, надеваемый на тело граж��анина без веских на то оснований. Всевозможные косяки этого приложения уже разбирали: например, на Хабре или в СМИ: «Москвичка-инвалид возмутилась после получения нового штрафа за нарушение изоляции».
Хотя почему «косяки»? Всё зависит от точки зрения. Официальные лица мэрии, похоже, просто горды своим поделием, заявляя вот такое:
У любого нормального человека из отрасли в первую очередь закралось бы подозрение: насколько продукт адекватен возложенным на него задачам? Иными словами, он настолько глючный и даёт такое количество ошибок? Из описания самого продукта видно, что не очень адекватен: например, определение местоположения по спутнику, что в городских условиях заведомо невозможно с хорошей точностью, или фотографирование на фоне домашних ковров, что также может являться слабым местом при доказательстве нарушений пользователя (ещё много примеров издевательств над гражда��ами вот здесь).
Понятно, что для людей, которые государство воспринимают как бизнес, а население как огромный и бесплатный ресурс, любая ошибка трактуется в пользу слабого. Понятно, что за общие вопросы, как то выводить этот сырой продукт в обращение, работу с нареканиями и так далее, отвечает высшее руководство города во главе с Собяниным, с молчаливого одобрения Прокуратуры и ФСБ.
Понятно, что начальник департамента и прочие топы от государственного и городского IT тоже преследуют свои интересы: такие люди обычно работают не за идею, а за гораздо более осязаемые и вполне себе внушительные бенефиты: от солидных зарплат до участия в распределении бюджетов, ведомственных квартир, автомобилей, получения личных политических перспектив.
Но как быть нам, разработчикам? Тем, кто занят в непосредственном производстве и отладке подобных программ? Ведь кто-то конкретно рисовал модуль, который будет решать, высылать ли POST-запрос в API с указанием данных «нарушителя» по его геолокации. Кто-то конкретно своими руками писал демона, который будет слать push-уведомления с требованием сфотографироваться без учёта локального времени, например, в 4 часа ночи? «Я просто выполнял приказ»?
Понятно, что во все времена был криминал, и сферу IT он миновать не мог. Кто-то занимается написанием фишинговых сайтов, бот-атаками, торговлей данными карт, запрещённым контентом и подобными вещами.
Но вполне себе легальные корпорации и государства всё больше начинают залезать на территорию частной жизни. Организуются системы тотальной слежки, автоматического сбора штрафов. На фоне эпидемии государства и политики многих стран озаботились мерами по какому-то совершенно фантастическому контролю за всеми сторонами жизни граждан. Всё это делается руками наших коллег.
Может ли сообщество внутри себя выработать и чётко сформулировать критерии допустимого? Подобно медицинскому «не навреди» — «не занимайся слежкой», например? Можем ли мы сказать, как следует относиться к тем из нас, кто участвует в этом? В современных компаниях, прежде всего западных, недавно озаботились всяким равенством возможностей, изничтожением буллинга, дискриминации, сексизма и прочих вещей. Может ли эта энергия быть направлена в русло нетерпимости к тем, кто создаёт инструменты по обилечиванию своих сограждан ни за что на многие миллионы долларов? Можно ли спрашивать кандидата при приёме на работу не только насчёт того, как он относится к женщинам в коллективе программистов, но и, например, участвовал ли он в проектах ДИТ Москвы?
Понятно, кто-то спросит: «Автор, а есть ли у тебя что-то, кроме наивных вопросов?» Признаюсь, пока нет. Но как мне кажется, ход истории подталкивает нас к некоей кристаллизации, формирования собственной позиции. Ведь многие разработчики сами сталкиваются с противоречием: с одной стороны, нам нравятся широкие возможности современного цифрового мира, свободы, в том числе получения информации, выражения себя, наконец, простого передвижения (в другую страну, например). С другой, всё больше крупных бизнесов нанимают разработчиков для того, чтобы ваять очередную систему хитрых микрозаймов или слежения за себе подобными с помощью геолокации. Как минимум, неуютно.
Ведь может так статься, что однажды у всех нас получится очень крепкая железная клетка, протестированная на всевозможные уязвимости, в которую нас же и посадят. Мы будем спрашивать сами себя: как мы до этого дошли? почему это сделано нашими руками? почему я ваял вот этот прутик, ради чего? И самое главное: был ли у нас выбор поступать по-другому?
Но последние события, связанные с распостранением коронавируса и последующими мерами властей по всему миру, заставляют говорить о той степени ответственности, которую наш цех несёт, когда речь идёт о контурах нового, возможно, не самого радужного мира.
Если до всеобщей карантинизации населения IT было конечно важной, но всё же одной из отраслей, то с переходом всех на удалёнку многие вещи стали просто незаменимы. Однако, цифра используется не только для решения бизнес- и личных задач. Но и для ужесточения контроля над собственными населением, часто не имеющего под собой никаких разумных с точки зрения интересов общества оснований.
Самым ярким поводом поговорить об этике является деятельность ДИТ Правительства Москвы, в частности, их программа «Социальный мониторинг», которая по сути представляет собой электронный ошейник, надеваемый на тело граж��анина без веских на то оснований. Всевозможные косяки этого приложения уже разбирали: например, на Хабре или в СМИ: «Москвичка-инвалид возмутилась после получения нового штрафа за нарушение изоляции».
Хотя почему «косяки»? Всё зависит от точки зрения. Официальные лица мэрии, похоже, просто горды своим поделием, заявляя вот такое:
В системе «Социальный мониторинг», которая контролирует передвижения больных коронавирусом и ОРВИ, зарегистрировано более 60 000 пользователей, сообщил «Ведомостям» руководитель департамента информационных технологий Москвы Эдуард Лысенко. С момента ее запуска было выписано 54 000 штрафов – более чем на 216 млн руб., рассказал руководитель Главного контрольного управления Евгений Данчиков. Штрафы выписаны примерно 30% пользователей приложения: некоторые из них получили по 2–3 штрафа, говорит представитель мэрии.
У любого нормального человека из отрасли в первую очередь закралось бы подозрение: насколько продукт адекватен возложенным на него задачам? Иными словами, он настолько глючный и даёт такое количество ошибок? Из описания самого продукта видно, что не очень адекватен: например, определение местоположения по спутнику, что в городских условиях заведомо невозможно с хорошей точностью, или фотографирование на фоне домашних ковров, что также может являться слабым местом при доказательстве нарушений пользователя (ещё много примеров издевательств над гражда��ами вот здесь).
Понятно, что для людей, которые государство воспринимают как бизнес, а население как огромный и бесплатный ресурс, любая ошибка трактуется в пользу слабого. Понятно, что за общие вопросы, как то выводить этот сырой продукт в обращение, работу с нареканиями и так далее, отвечает высшее руководство города во главе с Собяниным, с молчаливого одобрения Прокуратуры и ФСБ.
Понятно, что начальник департамента и прочие топы от государственного и городского IT тоже преследуют свои интересы: такие люди обычно работают не за идею, а за гораздо более осязаемые и вполне себе внушительные бенефиты: от солидных зарплат до участия в распределении бюджетов, ведомственных квартир, автомобилей, получения личных политических перспектив.
Но как быть нам, разработчикам? Тем, кто занят в непосредственном производстве и отладке подобных программ? Ведь кто-то конкретно рисовал модуль, который будет решать, высылать ли POST-запрос в API с указанием данных «нарушителя» по его геолокации. Кто-то конкретно своими руками писал демона, который будет слать push-уведомления с требованием сфотографироваться без учёта локального времени, например, в 4 часа ночи? «Я просто выполнял приказ»?
Понятно, что во все времена был криминал, и сферу IT он миновать не мог. Кто-то занимается написанием фишинговых сайтов, бот-атаками, торговлей данными карт, запрещённым контентом и подобными вещами.
Но вполне себе легальные корпорации и государства всё больше начинают залезать на территорию частной жизни. Организуются системы тотальной слежки, автоматического сбора штрафов. На фоне эпидемии государства и политики многих стран озаботились мерами по какому-то совершенно фантастическому контролю за всеми сторонами жизни граждан. Всё это делается руками наших коллег.
Может ли сообщество внутри себя выработать и чётко сформулировать критерии допустимого? Подобно медицинскому «не навреди» — «не занимайся слежкой», например? Можем ли мы сказать, как следует относиться к тем из нас, кто участвует в этом? В современных компаниях, прежде всего западных, недавно озаботились всяким равенством возможностей, изничтожением буллинга, дискриминации, сексизма и прочих вещей. Может ли эта энергия быть направлена в русло нетерпимости к тем, кто создаёт инструменты по обилечиванию своих сограждан ни за что на многие миллионы долларов? Можно ли спрашивать кандидата при приёме на работу не только насчёт того, как он относится к женщинам в коллективе программистов, но и, например, участвовал ли он в проектах ДИТ Москвы?
Понятно, кто-то спросит: «Автор, а есть ли у тебя что-то, кроме наивных вопросов?» Признаюсь, пока нет. Но как мне кажется, ход истории подталкивает нас к некоей кристаллизации, формирования собственной позиции. Ведь многие разработчики сами сталкиваются с противоречием: с одной стороны, нам нравятся широкие возможности современного цифрового мира, свободы, в том числе получения информации, выражения себя, наконец, простого передвижения (в другую страну, например). С другой, всё больше крупных бизнесов нанимают разработчиков для того, чтобы ваять очередную систему хитрых микрозаймов или слежения за себе подобными с помощью геолокации. Как минимум, неуютно.
Ведь может так статься, что однажды у всех нас получится очень крепкая железная клетка, протестированная на всевозможные уязвимости, в которую нас же и посадят. Мы будем спрашивать сами себя: как мы до этого дошли? почему это сделано нашими руками? почему я ваял вот этот прутик, ради чего? И самое главное: был ли у нас выбор поступать по-другому?
