«Ни один этически подготовленный разработчик программного обеспечения никогда не согласился бы написать процедуру DestroyBaghdad. Элементарная профессиональная этика вместо этого потребовала бы, чтобы он написал процедуру DestroyCity, к которой Baghdad был бы задан в качестве параметра» — Натаниэль Боренштейн.
Uber использовал программное обеспечение для незаконной работы в сотнях городов
Два часа назад «The New York Times» поведал миру грандиозную историю о скандале, связанном с Uber. С 2013 года Uber использовал изощренный инструмент для обмана местных правоохранительных органов.
Программа называется Greyball, и работает она следующим образом:
- В городах, где Uber является незаконным, — а таких городов до сих пор еще много — Greyball помогает идентифицировать полицейских под прикрытием, которые пытаются вычислить водителей, работающих через Uber, вызвав такси и обанкротить их, конфискуя их транспортные средства.
- Когда эти полицейские открывают приложение Uber и пытаются заказать поездку, они видят на карте мнимые автомобили, ездящие по городу, но у них не получается их вызвать.
- Поскольку автомобили, которые появляются в приложении, в действительности не существуют, то полиция не может заставить водителя подобрать их сотрудников, а, соответственно, и применить к нему никаких санкций.
В результате Uber игнорирует тот факт, что город еще не одобрил совместные поездки, и просто начинает свою работу.
Просто осознайте это. Uber, благодаря своему превосходному программному обеспечению, находится по сути выше закона.
Способ идентификации подобных пассажиров на самом деле просто гениальный. На основе кредитных карт, используемых полицией, Uber может провести перекрестную проверку коммерческих баз данных, сопоставив их с базами данных государственных служащих, и выявить потенциальных полицейских, а затем «забанить» им возможность пользоваться сервисом Uber.
Полицейским никогда не удается вызвать такси Uber, но, как они полагают, они просто оказались не в то время не в том месте. Вот таким образом Uber проворачивал эту аферу год за годом, пока несколько разработчиков, страдая от угрызений совести, не сдали всех с потрохами.
Zenefits использовал программное обеспечение, чтобы обманным путем сертифицировать сотни страховых агентов
Zenefits — это компания, которая предоставляет программное обеспечение предприятиям, а затем пытается впарить им и страховые пакеты.
В 2016 году выяснилось, что генеральный директор компании, Паркер Конрад, разработал инструмент, который помог агентам Zenefits смухлевать в процессе лицензирования.
С помощью разработанного по их заказу браузерного расширения, агенты Zenefits смогли пропустить большую часть требуемого законом 52-часового онлайн-курса обучения.
Вместо того, чтобы оплачивать работу новых сотрудников, которые потратили бы полторы недели на прохождение этого курса, они позволяли им начинать продажи страховки намного раньше.
Конрад ушел в отставку вскоре после того, как эта схема вскрылась. Скандал стоил компании половины ее цены (2,5 млрд долларов), а сотни людей потеряли работу.
Volkswagen использовал программное обеспечение для продажи 10 миллионов ультра-загрязняющих автомобилей
С 2008 по 2015 год Volkswagen выпустил более 10 миллионов автомобилей на «экологически чистом дизельном топливе». Многие инженеры были поражены тем, что дизельные двигатели могут производить меньше вредных выбросов, чем стандартные неэтилированные автомобили, и при этом до сих пор имеют такой большой пробег. Собственно, их сомнения оправдались в 2014 году, когда исследователи обнаружили, что эти автомобили использовали обманное устройство наподобие «контроллера-симулятора».
Руководители Volkswagen приказали инженерам-программистам выяснить, как обмануть Агентство по Охране Окружающей Среды во время испытаний на определение уровеня вредных выхлопов. Они знали, что в ходе этих испытаний регуляторы будут использовать определенные параметры. Поэтому они написали алгоритм, согласно которому, если эти параметры будут выбраны, то двигатель начинает работу в специальном режиме.
Этот обманный механизм скрывал тот факт, что двигатели автомобилей Volkswagen, работающих на чистом дизельном топливе, фактически производили намного больше выброса оксида азота (NOx), чем это разрешается законом. В 40 раз больше федерального лимита.
А еще это вещество вызывает рак легких. По оценкам ученых Массачусетского технологического института, эти выбросы в конечном итоге приведут к преждевременной смерти 60 человек. И это только в Америке.
Да, именно так – программное обеспечение, которое написали эти разработчики, убивает невинных людей.
Volkswagen в конечном итоге выплатил 14,7 млрд долларов штрафа для урегулирования конфликта в 2016 году.
Но эта ситуация останется одной из самых больших экологических трагедий современности — все это было вызвано деятельностью нескольких разработчиков, которые просто исполняли приказы.
«С большой силой приходит большая ответственность» — дядя Бен.
Мир все больше зависит от кода, созданного разработчиками. Таким образом, разработчики быстро становятся одними из самых влиятельных людей в мире.
Кодирование — это суперсила. С его помощью вы можете подчинить реальность своей воле. Вы можете сделать мир лучше. Или можете уничтожить его.
Вы можете обмануть регулировщиков, полицию, судей. Вы можете обмануть общественность. И вы можете делать это бесконечно, вас даже не поймают.
Но это не правильно.
Разработчики обладают огромной силой. И они должны использовать ее с большой ответственностью.
Если вы разработчик или работаете над тем, чтобы стать одним из них, я настоятельно рекомендую вам прочесть статью Билла Соурора «Код, за который мне до сих пор стыдно».
И если кто-то попросит вас написать что-то явно незаконное — или категорически вредоносное — обращайтесь в СМИ. Разработчики во всех трех случаях могли это сделать, и спасти мир от многих страданий.
Помните: только ВЫ можете предотвратить вредоносный код.
