Comments 29
При негативном анализе отдельной группы — давать ссылку на позитивные стороны этой группы.
Полицейские опасаются, что масштабное использование ИИ с целью помочь полиции может привести к необъективной оценке рисков, ошибкам в анализе данных и прогнозировании.
То есть они предполагают настолько полагаться на прогнозы ИИ, что он для них не подсказчик, после чего нужно думать своей головой — а прямо-таки однозначно решающий перст судьбы?
С таким подходом — это уже страшно.
Потому как к ИИ привыкнут, то что мы видим сейчас, это всего лишь сомнения в новых технологиях.
А потом привыкнут и «программист забудет поставить запятую, а ты будешь сидеть 10 лет».
Недавно где-то читал, к сожалению ссылку найти не могу: в Германии запустили пилотный проект по обнаружению людей находящихся в розыске через общественные видеокамеры. Лица распознавались с вероятностью 99 с чем-то процентов. Звучит вроде бы совсем неплохо. Но в результате там на одном только мюнхенском вокзале было такое количество ложноположительных срабатываний что полиция не успевала их все проверять.
И это на данный момент большая проблема: доверять ИИ на 100% невозможно(как минимум пока), а чтобы проверять его часто просто не хватает ресурсов.
А выезжать на задержание ложноопознанного ресурсы есть? Это как с камерами автомобильным, как только завалили суды на отмену штрафов, сразу стали проверять тщательно, перед тем как штраф выписывать, а некоторые вообще по отключали.
Ну во первых это был пилотный проект, то есть там по идее должно было быть немного больше ресурсов чем в среднем.
А во вторых об этом и речь: нет этих ресурсов в необходимом количестве и поэтому нет особого смысла во всей этой новой системе в таком её виде.
И либо ИИ надо заметно улучшать, либо какой-то абсолютно другой концепт, либо вообще про это забыть.
Ну по сути система может отфильтровать из 100 человек одного похожего, а человек проверить… Т. Е. Она в помощь, а не для постоянного наблюдения очень даже. Например, есть наводка, что преступник будет на вокзале в ближайшее время… Вот и поставил систему и жди срабатывания. Сработало, проверил, ложное, ждём дальше.
А со временем точность улучшится
А теперь представьте что вам нужно распознать десяток потенциальных преступников, а мимо всех потенциальных точек появления у вас в день проходит несколько миллионов человек. Сколько надо будет проверок делать? И какова вероятность что преступник издалека увидит проверки, развернётся и уйдёт?
Я сейчас не хочу особо придумывать и спекулировать, но цифра в >99% мне запомнилась. Возможно там под это дело и специальные камеры ставили.
Но самое смешное что сейчас полез гуглить как оно было и ту статью не могу найти. Потому что теперь мне выдаёт более новые статьи о том что в Мюнхене запустили проект с так называемыми "super recognizer", то есть с людьми, которые могут хорошо распознавать лица. И похоже это работает лучше варианта с ИИ :)
Возможно там под это дело и специальные камеры ставили
Это вполне допустимый вариант, правда, значительно более дорогой (бОльшая матрица, более качественная оптика и более мощный процессор по сравнению с обычными камерами).
запустили проект с так называемыми «super recognizer», то есть с людьми, которые могут хорошо распознавать лица. И похоже это работает лучше варианта с ИИ
С большой вероятностью, лучше вариант с ИИ заставить работать в связке с людьми. Нашли сотню совпадений — отправили таким людям фото преступников и подозреваемых — по результатам уже посылать полицию для проверки. Тогда ложноположительные срабатывания не страшны.
Подозреваю что проблема как всегда в финансах. Но всё равно что-то придумывать надо, потому что этих самых super recognizer слишком мало чтобы покрыть все потребности.
П.С. И если честно я не особо то и уверен что мне нравится идея с видеокамерами на каждом углу. Даже в Германии с её более-менее адекватными правительством и законами о приватности.
В диагностике в медицине проблема давно известна.
то ты получишь 10000 подозреваемых из которых только 10 человек преступники. Хотя казалось бы
Если посадить человека, который вручную проверит совпадения фотографией подозреваемых и преступников, то тратя 1 секунду на проверку за день он сможет проверить порядка 28 тыс. совпадений. То есть в среднем, передав ему 10000 подозреваемых он сможет тратить по 3 секунды на проверку, что скорее всего вполне достаточно для первоначальной оценки «похож / не похож». Если сократить кол-во подозреваемых до 100 в день с этим уже вполне могут работать полицейские (им нужно будет проверять подозреваемого раз в 15 минут, что вполне по силам обычному патрулю).
Кстати, результаты проверки человеком можно использовать для дополнительного обучения нейросети.
Если посадить человека, который вручную проверит совпадения фотографией подозреваемых и преступников, то тратя 1 секунду на проверку
У хорошего профессионала на проверку (сличение фото и реального лица) уходит около 20 секунд. Почитайте что-нибудь о том как это делается. Это не просто смотрим на фото — похоже/не похоже. Это формализованная хорошо описанная процедура.
На сличение фото и фото будет уходить больше. Кроме того профессионалы эти работают в других местах, например на таможне, так что посадят туда в лучшем случае курсантов.
В самом лучшем, идеальном случае у него в итоге будет уходить не меньше 30 секунд на сличение, а это не большее 1000 фото в день, если пахать без перерывов и ни на секунду не отвлекаться. Так что придется посадить не меньше 10 таких курсантов. И это пока только миллион.
Нам в принципе, на этом этапе не нужно полное отсутствие ложноотрицательных страбатываний, если мы пропустим, скажем, каждого 10 преступника на этом этапе — не так страшно, он засветиться в других местах, если система глобальная.
На сличение фото и фото будет уходить больше.
Почему? Можно же и просто видео в хорошем качестве профессоналу прокручивать. Или показать ему не одно фото, а неколько десятков с разных ракурсов (выбирать их тоже можно с помощью ИИ).
Можно делать в несколько этапов. На первом, любой человек-любитель (причем в любой точке мира с любой квалификацией) будет отсеивать явные ошибки ИИ (вроде совпадения девочки и усатого мужика)
Да в принципе можно даже лучше — принять закон, чтобы каждый гражданин 1 день в месяц патрулировал улицы с фотографией преступника какого-нибудь. И если опознал кого-то — премию в 500 рублей. А если за день никого не опознал — 15 суток ареста.
По началу будет конечно сложно, но уже очень скоро, процент бегающих от 15 суток станет достаточно высок чтобы можно было ловить кого-то в каждом патруле и система придет в некоторое равновесие. Опять же на камерах большая экономия.
Проблема человеков в уставании, он не сможет проверить 10к за день, потому как после пары сотен начнёт подтормаживать, а после тысячи — пропускать. Именно поэтому и хотят использовать нейросети — они не устают (хотя и уступают в точности, но нейросети надеются допилить, а подсадить на стимуляторы смотрящих будет и общественность пока против и эффектовность крайне сомнительна).
Если не хватает ресурсов в этой ситуации, то я бы предложил не в часпик запускать т.к. людские ресурсы "простаивают" и обкатка неплохая получилась бы.
… вызывает серьезные вопросы как с этической, так и с юридической точек зрения...Если статистическая вероятность совершения преступлений среди малообеспеченных групп населения выше, то дело уже в интерпретации результатов. Система говорит, что вероятность выше, статистика подтверждает. Но политика толерантности запрещает отделять одну группу населения от другой. Так что тут проблема не в AI, а в политике толерантности.
Кроме того, машина следует правилам, которым её научили.
Было время, я участвовал в разработке системы постановки детей в детские сады и школы одного из регионов РФ. По регламенту, дети делились на возрастные группы и имели возможность поступления в зависимости от возраста и начала учебного года. Система автоматически распределяла их согласно льготам и возрасту. Всё бы хорошо, но проблемы возникали как правило с детьми, чей ДР был близок к пороговым.
Например, в 1 класс брали с 6 лет. А ребёнку без одного дня 6 лет и родители подают документы. Документы, естественно не проходят. То же самое и с группами в детские сады.
А ведь человек может сделать исключение в таких ситуациях или «войти в положение».
Иными словами, условия по регламенту недостаточно точные для системы, и человеческие «умолчания» системе с ходу не объяснишь.
Я считаю, что в куче 4 зёрнышка. А тётя Клава из отдела образования считает, что 5. Всё. Мы друг другу объяснили неверно. Отсюда и невернная работа системы. А система распределяет детей и иногда распоряжается их судьбами. Это важно.
А нечеткая логика как раз и призвана на практике выделять кучи в человеческом понимании, из всех математических куч.
Но реальность такова, что никто не будет в тз писать «дети, которым в этом году 6 лет», заранее сообразив, что на этом месте будут вопросы.
Не напишут в тз, так напишут в багрепорте. А сейчас точно так же вам какой-нибудь бюрократ спокойно отказать может "потому что в законе так написано". И даже если закон уже поменяли, но бюрократ это не знал, забыл или у него просто плохое настроение, то он вам всё равно отказать может.
Так что всё имеет свои плюсы и минусы.
Полиция Великобритании опасается необъективности ИИ