Комментарии 27
Страж-птицы?
Грядет эпическое противостояние "Машина" vs "Самаритянин".
где то и когда то я про это уже слышал...ах да:
Программа "PredPol" (Predictive Policing), начатая в США примерно в начале 2010-х годов (около 2012 года). Она использовала алгоритмы и большие данные для "предсказания", где могут произойти преступления и кто потенциально может быть замешан.
Что пошло не так:
Предвзятость данных: Алгоритмы обучались на исторических данных, которые уже были искажены расовой или социальной предвзятостью полиции.
Целевые группы: Системы начинали чаще направлять полицию в районы с высоким процентом чернокожих и латиноамериканских жителей, усиливая там полицейское присутствие и аресты — замыкая цикл.
Непрозрачность: Часто никто не понимал, как именно алгоритмы приходили к выводам.
Недоказанная эффективность: Исследования показывали, что система либо не улучшает показатели, либо работает хуже традиционных методов.
Известные случаи:
Чикаго (2013-2017): Использовалась система "Strategic Subject List", создававшая списки "подозрительных" людей, но это не снизило уровень преступности. Более того, в 2016 году выяснилось, что большинство в списке даже не имели судимостей.
Лос-Анджелес: В 2020 году LAPD прекратила использование PredPol после критики и аудита, показавшего, что эффективность не была доказана.
ГПТ
Дальнейшее развитие - заранее посадить будущего преступника в тюрьму, а потом он выходит и собственно совершает преступление ;)
("Патруль времени", "Час расплаты", "Противостояние", "Особое мнение")
Да просто наняли бы трёх провов, пользы столько же, а денег бы сэкономили.
А что если "дискриминационные паттерны, характерные для источников данных." на самом деле не дискриминационные?
Психопаспорт в реальной жизни что-ли?
Профессор Донда, мы вас заждались.
Я уверен, что за скромную, но регулярную оплату любой энтузиаст согласится предсказывать убийства.. пока его не поймают.
Минутка классики:
— Пожалуй, — сказал Мелит. — Но, на мой взгляд... — он внезапно умолк, бросился к стене и схватил винтовку. — Вот он!
Гудмэн выглянул в окно. Мимо здания шел человек, внешне ничем не отличающийся от других прохожих. Он услышал приглушенный щелчок и увидел, как человек покачнулся и рухнул на мостовую.
Мелит застрелил его из винтовки с глушителем.
— Зачем вы это сделали? — выдавил из себя изумленный Гудмэн.
— Потенциальный убийца, — ответил Мелит.
— Что?
— Конечно, у нас нет открытой преступности, но все остаются людьми, поэтому мы должны считаться с потенциальной возможностью.
Насколько помню, убийцами признавались только преступники, лишившие жизни 10 и более человек, а застреленный был потенциальным убийцей, он успел лишить жизни только пятерых. Кроме того, все чиновники носили неснимаемые ошейники со взрывчаткой и, как только рейтинг одобрения их деятельности падал ниже определенного уровня...
Ну, предсказали, допустим. Получилось 99% вероятности убийства. Что дальше? оставлять его в тюрьме, но за что, если он ничего не совершил? Публиковать информацию о нем в интернете, чтобы его остерегались? но тогда человек превратится в парию, и вероятность, что он займется чем-то преступным, будет выше. Ничего не делать и хранить информацию в архиве, чтобы потом проверить теорию? Тогда в итоге ничего и не поменяется.
Профилактическую беседу провести! Потребовать предоставлять данные обо всех соцсетях или добровольно поставить троян. Условку или домашний арест в конце концов.
а насколько это этично? и по каким именно признакам ИИ будет выявлять возможность преступления? что то я не увидел как именно будут работать алгоритмы
Алгоритм использует данные об именах, половой и этнической принадлежности, дате рождения и номере из полицейской базы. Цель программы — «поиск характеристик, повышающих риск совершения убийства» и «поиск инновационных методов оценки угроз».
такое уже было, я выше написал об этом и провалилось все с треском
Теоретически, можно дать талон на бесплатные беседы с психологом, например.
А это уже другой сюжет... :)
Роберт Шекли «Терапия»
2 мая 2103 года Элвуд Кэсвел быстро шел по Бродвею с заряженным револьвером в кармане пиджака. Он не имел намерения пускать его в ход, но опасался, что все же может это сделать. Такое предположение не было лишено оснований, потому что Кэсвел страдал манией убийства.
Был мягкий туманный весенний день, в воздухе пахло дождем и цветущим кизилом. Кэсвел сжимал револьвер в потной ладони и пытался придумать хотя бы один веский аргумент, чтобы не убивать человека по фамилии Мэгнесен, который на днях сказал, что Кэсвел чудесно выглядит.
«Какое дело Мэгнесену, как я выгляжу? Проклятые любопытные, лезут не в свои дела, всегда все портят...»
.{тут рассказ}.
— Возьмите, — сказал Кэсвел, протягивая револьвер рукояткой вперед — Мне это больше не понадобится.Рэт с равнодушным выражением лица принял револьвер и засунул его в свой бесформенный карман.— Спокойной ночи, — сказал Кэсвел Он закрыл за Рэтом дверь и запер ее.Наконец он остался один.Кэсвел прошел на кухню. Откупорил бутылку пива, сделал большой глоток и сел за кухонный стол Он не спускал глаз с точки, находившейся немного выше и левее стенных часов.Он должен разработать свой план сейчас. Времени терять нельзя.«Мэгнесен! Злое чудовище, срубившее горику Кэсвелов! Мэгнесен! Человек, который тайно собирается заразить Нью-Йорк отвратительной фим-манией! О, Мэгнесен, желаю тебе долгой-долгой жизни, полной мучений, которые я тебе принесу! И для начала...» Кэсвел улыбнулся, представив, как он будет дварковать Мэгнесена влендишным способом.
ну есть методы слежки, gps, камеры и прочие методы, можно взять человека под слежку. но тут вопрос в другом, мы сами то понимаем по каким именно признакам кроме как предвзятость и дискриминация можно понять что на уме у человека? а будут ли нарушены правовые нормы граждан, права...вопросов очень много от этичных до психологических
Сразу вспомнился Физиогномист Клей. Джефри Форд.
В Великобритании создают инструмент «предсказания убийств» для выявления будущих подозреваемых