Алгоритмы машинного обучения определяют наиболее вероятные места будущих преступлений. Туда заранее направляют полицейские патрули. Иллюстрация: PredPol
Калифорнийский Санта-Круз стал первым американским городом, который запретил полицейскую деятельность по предсказанию преступлений (predictive policing). По мнению экспертов по цифровым правам, аналогичные шаги можно ожидать по всей стране по всей стране.
«Предсказание преступлений и распознавание лиц могут быть предвзяты в отношении цветных людей, поэтому мы официально запретили использование этих технологий в городе Санта-Круз», — заявил первый афроамериканский мэр города Джастин Каммингс (Justin Cummings).
Городская администрация вмешается в деятельность правоохранительных органов, чтобы «помочь устранить расизм в полицейской деятельности», заявил мэр на своей странице в Facebook.
Предсказание преступлений методами машинного обучения используется полицией на всей территории США в течение почти десяти лет. Технология опирается на алгоритмы интерпретации полицейских записей, анализа данных об арестах или условно-досрочном освобождении, чтобы направить сотрудников на поиск рецидивистов или определения мест, где может произойти преступление.
Но критики говорят, что это усиливает расистские модели полицейской деятельности — районы с низким доходом и этническими меньшинствами исторически чрезмерно патрулируются, поэтому данные показывают, что они являются горячими точками преступности, что приводит к отправке туда ещё большего числа полицейских.
«Как справедливо признал Санта-Круз, предсказание преступлений и распознавание лиц — это опасные, расово предвзятые технологии, которые никогда не должны использоваться нашим правительством», — сказал Мэтт Кейгл (Matt Cagle), юрист правозащитной организации ACLU.
Пионером в этой области является компания PredPol Inc. из города Санта-Круз. Она с понимание отнеслась к решению городских властей, «учитывая институционализированное состояние расового неравенства в Америке», сказано в официальном сообщении.
Как работает предсказание преступлений
Санта-Круз и Лос-Анджелес начали тестировать технологию предсказания преступлений ещё в 2011 году.
на массиве данных о преступлениях против собственности (угоны и кражи из автомобилей, ограбления домов). Предполагается, что преступники склонны действовать в привычных районах города и примерно в то же время, в какое они раньше осуществляли успешные ограбления.
Этот график отображает статистику гангстерских разборок в одном из районов Лос-Анджелеса и служит для демонстрации того, что преступления некоторых типов склонны группироваться по времени и месту.
На базе статистики преступлений за последние несколько лет вычисляется лямбда-функция λ(t).На этом графике показано, как статистика преступлений преобразуется в частотность.
Аналогичный параметр (crime rate) программа вычисляет для каждого района города и вида преступления. Если составить тепловую карту, то получится примерно следующее.
Более подробно математическая модель разъясняется на сайте Университета Санта-Клары, поскольку ведущим разработчиком системы является сотрудник университета. Если вкратце, то модель напоминает расчёт вероятности афтершоков — повторных сейсмических толчков, меньшей интенсивности по сравнению с главным толчком. Как и в случае с землетрясениями, каждое преступление тоже рождает волны «афтершоков», то есть повышают вероятность новых преступлений в том же месте в будущем. Хотя один процесс происходит в земной коре, а другой — в человеческом обществе, но как ни странно, для их описания используются похожие формулы.
Ранее городской совет Бостона проголосовал за запрет технологии распознавания и отслеживания лиц, что также приветствовали активисты за цифровые права.
В работе патрульных полицейских Санта-Крус практически ничего не изменилось, они делали свою работу точно так же, как и раньше. Только каждый день они получали новый маршрут для патрулирования, с указанием 10 «горячих точек» маршрута. Вот как выглядит эта информация в интерфейсе Google Maps.
Для каждого квадрата размером 150 на 150 метров указывается вероятность совершения преступления в 24-часовой период (P), распределение этой вероятности по двум видам преступления: автомобильные (Pveh) и домашние (Pres), время начала двух самых опасных часовых интервалов (TW).
Новые данные добавляются в систему каждый день. На фотографии — диспетчер колл-центра 911, который наносит на карту координаты преступлений в реальном режиме времени.
По словам начальника полицейского отдела Санта-Круз, в первый месяц тестирования система позволила предотвратить несколько преступлений и привела к пяти арестам. Для эффективной правоохранительной системы предотвращение преступлений важнее, чем поимка преступника. Так, в июле 2011 года количество ограблений машин снизилось на 27% по сравнению с тем же месяцем 2010 года.
Повышая эффективность работы патрулей, программа также экономила деньги налогоплательщиков. Но теперь от неё придётся отказаться по политическим причинам.
