Comments 165
Rekognition может позволить полиции в режиме реального времени обнаруживать, кто присоединился к протесту. Или кто является нелегальным иммигрантом. «Это представляет фатальную угрозу общинам», – организации пишут в своем письме к Amazon. – «Люди должны иметь возможность свободно ходить по улице, без страха быть наблюдаемыми государством».
пфф!
как будто этот же инструмент не сможет идентифицировать каждого полицейского в оцеплении?
или найти политика и его родственников (на которые записаны многочисленные подставные фирмы) в ресторане\магазине или просто на улице? СкайНьюс — так уже это продемонстрировала ;)
Последнее я б воспринял очень насторожено. Во-первых, прекрасно знаю качество этих автоматических алгоритмов, не думаю, что появится столь значительное исключение. Одно дело — отслеживание, а решения принимают люди, другое — полная автоматизация в таких сферах. Во-вторых, замена людей роботами в силовых ведомствах опасна вообще, ещё больше — в военных целях, тогда роботы могут выйти из-под контроля и фантастические сюжеты о восстании роботов могут стать реальностью.
Увы и ах. Я не хочу демократию, я хочу порядок как в Германии, США или Китае
Технология — половина дела. А база в 115 млн подписанных лиц принадлежит государству.
Другой момент, что, когда я беру фотографию неизвестного мне человека, загружаю в частный сервис и на выходе получаю ФИ, которую сеть дала мне, основываясь на этой базе. Откуда у сети доступ к этой базе? Она общедоступна? Если нет, то на каких основаниях выдается доступ?
geektimes.com/post/301019
Сервис, о котором идет речь, предоставляет услуги корпорациям. В первую очередь, он предназначен для мониторинга работы сотрудников предприятий.
Надо начать с того чтобы признать незаконным само рабство дающее право следить за сотрудниками. Потому что такая слежка может дойти до того, чтобы запретить сотрудникам искать другую работу, что есть фактическое рабство.
А база в 115 млн подписанных лиц принадлежит государству.А в Facebook уже больше двух миллиардов.
Технологии развиваются, и это никак не остановить.
Ну почему же никак, способ вполне себе есть, но он лишит комфорта всех, включая его применивших, поэтому его использовать наверно не будут. Но могут использовать с другими целями (в случае неожиданной эскалации межгосударственных разногласий), тогда ликвидация всех этих отвратительных технологий произойдёт побочным последствием.
слежка не превратилась в антиутопию.
Она не может в неё превратиться или не превратиться, она — антиутопия и есть, сама по себе.
Она не может в неё превратиться или не превратиться, она — антиутопия и есть, сама по себе.
Сдаётся мне, если бы наша беседа происходила в середине девятнадцатого века, вы бы так же высказались относительно дактилоскопии.
Дактилоскопия всё же немного другое. Тем более была тогда. Уверен, до изобретения компьютеров и создания баз отпечатков процессы съёмки/сверки отпечатков был трудозатратным действием. Можно было снять отпечатки и максимум сверить с одними или несколькими отпечатками подозреваемых.
Но сейчас технологии… Включить немного паранойи, и можно придумать разные (пусть и странные) варианты утопичности и для дактилоскопии. Например, рассылать рекламки в почтовые ящики, а через пару дней отправлять человека снять отпечатки с рекламы, которую выложили на почтовые ящики сверху (не забрали домой). По отпечаткам узнавать, кто эту рекламу не принял (дополнять их потребительский профит, что сейчас, по сути, является товаром). Ещё один странный вариант — сделать автоматизированный завод по вскрытию мешков мусора и снятию отпечатков пальцев с мусора. Цель та же — составление потребительских профилей… И вроде людям ничего плохого не будет с этого (напрямую, как минимум), но большинство людей, вроде как, будет против.
Опять же, проблема не в слежке напрямую. Камеры слежения в городе могут помочь найти преступника (грабителя, угонщика, насильника, ...), но они могут использоваться и во вред. Если определять все лица — получаем массовую слежку за перемещениями людей, составляем для каждого список контактов (с кем гулял, встречался, вёл деловые переговоры и так далее). Вот если бы можно было удостовериться, что данные с камер только сохраняются временно и только для разбора преступлений («снять личико» грабителя, например) — тогда мало кто был бы против.
Можно было снять отпечатки и максимум сверить с одними или несколькими отпечатками подозреваемых.
Ну, не совсем так
Следы одиночных пальцев рук практически невозможно идентифицировать с использованием картотечной системы регистрации. В результате этого десятипальцевая дактилоскопическая картотека практически не используется для проверки следов рук с мест преступлений (которые обычно являются одиночными).
Всё же по одному отпечатку невозможно было найти человека из неограниченного круга лиц, да и больших баз отпечатков тогда ещё не было.
Дали бы государству своё лицо в базу данных?Оно уже там есть. Собственно, как и лица всех, у кого есть паспорт.
Забавнов видеть, как гуманитарии требуют от одной компании прекратить разработку технологии, над которой сейчас не работает только ленивый.
Чтобы, скажем, в режиме реального времени система могла на ухо прошептать полицейскому «Справа в черной куртке и белой кепке идет подозреваемый в трёх убийствах».После чего уже сам полицейский будет решать, что с этим человеком делать — арестовывать на месте, следить за ним, запросить помощь из участка или игнорировать. Старая «дилемма кухонных ножей» — то, что нож может послужить орудием убийства, не означает, что их (ножи) следует изымать из обихода…
Расовый вопрос тоже решаем. Немного сместить акценты в тренировке нейросети в сторону этнотипов с худшим распознаванием — и качество распознавания быстро выровняется.
Ага, скажут представители общин, мы так и знали!!!
в будущем придётся носить маски, аля Гая Фокса
одно дело доказывать, — что на фото/видео не твое лицо, другое походка, тут можно уже извернуться, сломать/укоротить ноги, надеть корсет/горб итд.тп)
хотя, в принципе грим тоже никто не отменял
Мне кажется, что человечество никогда не выйдет из парадигмы выстраивания подчиняющих иерархий и войны друг с другом. Пока в итоге не укокошит само себя.
Ну так это как раз не проблема — экзоскелеты не за горами + то что сказал предыдущий оратор.Тем более какой нормальный человек, зная что его разыскивают будет выходить на улицу с камерами в одиночку и без транспорта?
Из-за таких систем преступники станут умнее и малочисленны… но при этом будут в частности гос.служащими или военными(корупцию некто не отменял)… а их распознавать не нужно… оних другие методы скрытия...
Так что система неплохая и довольно хорошая если её изпользок также как и в статье… но вот только она не сможет ловить крупных мафиози… а значит она будет помогат лечить лишь симптом, а не болезнь.
Однако, они лучше побунтуют, чем откажутся от привычных удобств…
Подобные системы это неизбежность. А бунт может как раз привести к тому, что введут какие-то законодательные ограничения по использованию подобных систем. Соблюдение которых еще неизвестно как контролировать, но это уже хоть что-то.
байкотировать Амазон, как магазин?типа, проезжать мимо на байке?
Так и с анонимностью. Если такое право есть, то человек может ожидать, что за мелкое правонарушение (перешёл дорогу в неположенном месте) его не будут искать в контр-террористической базе.
в общественных местах — анонимность не есть хорошо
В общественных местах — вас каждая встречная собака знает?
В случае крупного бизнеса, информация будет собираться вся, до которой дотянутся руки, а продаваться она будет всем желающим, кроме явно незаконных случаев. Потому что это бизнес, а в уставе компании написано, что главная цель — извлечение прибыли для владельцев и/или инвесторов.
Может, ограничения должны быть не только для граждан (я имею в виду ограничение анонимности), но и для бизнеса и/или государств?
А в случае камер, развешанных по городу, распознающих всё и складывающих информацию (для дальнейшего анализа и/или перепродажи) в нескольких дата-центрах, распределённых по миру… Жители уже ничего не могут сделать. Разве что проплатить компании за удаление данных о себе; но не гарантия, что данные реально будут удалены, а не будут всё равно перепроданы третьим лицам. Если информацию собирает государство — суть всё равно особо не меняется.
Системе репутации куда больше лет, чем камерам, и ничего страшного не случилось.
Мой комментарий сводился к следующему — слежку камерами избежать практически невозможно, и это куда большее нарушение прав человека. Личную слежку можно оправдать правом на получение информации (хотя тоже сомнительно) или, в случае слежки следователями, проведения следственных действий (поиск преступника). Слежка же камерами настолько всеобхватывающа и права стóльких людей нарушает, что её imho уже нельзя оправдать отдельными плюсами. Особенно если учесть, что туда рано или поздно подключатся (или они изначально и ведут эти разработки, хех) компании по оперированию «большими данными» (big data) ради сбора и обработки информации для дальнейшей её монетизации.
Англичанин, француз и русский обсуждают кто как следит за женой, пока сам в командировке.
Англичанин:
— У меня датчики давления на кровати и я знаю, когда к жене кто-то приходил.
Русский:
— А если они на полу?
— Не подумал…
Француз:
— У меня по всей квартире инфракрасные камеры поставлены и записывается всё 24/7
Русский:
— А если они пробки вывернут?
— Не учёл…
— А сам-то как за женой следишь? — насели на русского англичанин и француз.
— А я перед тем, как заходить домой, иду к соседке и говорю: «Привет, старая проститутка». «Это я-то старая проститутка!?! А вот твоя...» и узнаю о своей жене всё.
Даже от одного человека оторваться сложно, даже если подозреваешь, что тебя «ведут». А от «бабок» на лавочке вообще невозможно укрыться.
Чтобы оторваться от слежки надо хотя бы подозревать, что за тобой следят. А если подозревать в слежке всех — это уже паранойя.
Даже от одного человека оторваться сложно, даже если подозреваешь, что тебя «ведут». А от «бабок» на лавочке вообще невозможно укрыться.
Опять же, заметить слежку и оторваться тяжело только если она совершается кем-то за деньги, то есть с умыслом. Если условный знакомый лично следит за вторым условным знакомым — при наличии минимальной внимательности («что-то я часто стал его видеть в городе, куда не пойду») можно как минимум заподозрить, а заподозрив — оторваться от непрофессионала без проблем. «Шпион», от которого сложно оторваться — это уже за деньги. Которые кто-то кому-то должен целенаправленно нести. Предположим, ради слежки за мной (ха-ха).
А такая система, после внедрения, уже исключает лишние траты для слежки за отдельным человеком. Разве что траты на обслуживания системы в общем, но становится принципиально не важно, следить за сотней человек, тысячей или всем городом. Позволяет легко собирать данные и продавать их куда угодно. И в этом плане я очень против — не хочу быть товаром, не хочу, чтобы обо мне знали сильно больше, чем я готов сам рассказать.
Поиск преступников и прочие плюшки по безопасности — это хорошо, но хотелось бы верить, что система не будет использоваться во вред людям (а она будет). И все мои комментарии в ветке направлены на то, чтобы объяснить, что массовая слежка на улицах — это всё же в том числе и вред людям; аргумент вида «улица — общественное место, и там и так может следить кто угодно» для меня звучит примерно как «на улице можно нечаянно наступить на ржавый гвоздь и подхватить столбняк, поэтому давай мы тебе при выходе на улицу будем парой таких гвоздей в ноги тыкать». Суть в том, что никто не будет платить за слежку за каждым отдельным человеком, но только до тех пор, пока такая массовая слежка требует отдельного обученного шпиона (минимум одного) на каждого человека, за которым следят.
не хочу быть товаром, не хочу, чтобы обо мне знали сильно больше, чем я готов сам рассказать
Не хочу тебя расстраивать но ты уже товар и информацией о тебе торгуют все, кому не лень (у кого она уже есть). О тебе уже известно мноооого больше, чем ты сам рассказал. Не в то время ты родился, чтобы анонимность культивировать, надо было на пару веков раньше.
Не хочу тебя расстраивать но ты уже товар
I know. Sad, but true. Тем не менее, хочется, чтобы сбор этой инфы был как можно сложнее, ну и чтобы законы заставляли собирающих блюсти хотя бы частичку наших прав.
О тебе уже известно мноооого больше, чем ты сам рассказал. Не в то время ты родился, чтобы анонимность культивировать, надо было на пару веков раньше.
Ну, я в этой ветке немного не о том. Я просто говорю о том, что нельзя просто отмахнуться и сказать «всё ок». Не ок. Мы далеки от той утопии, где можно было бы собирать такую информацию не во вред людям, и получая только лишь пользу (лёгкие ловлю и распознавание преступников, например).
Опять же, я же ни к чему не призываю. И мнение особо не навязываю, не хотите — не соглашайтесь.
Один из принципов современного права — неотвратимость наказания.
И если эта система распознавания приучит людей не переходить дорогу на красный свет и мусорить на улицах — это будет очень заметное благо для общества.
- присылать вам рекламные сообщения, если вы идёте возле проплатившего рекламу кафе, если известно, что вы давно на улице (гуляете, например) и за это время ещё ничего не ели;
- сбор потребительских профилей;
- оценка лояльности граждан;
- сбор статистик всех возможных видов.
Ну и так далее. Молжете перечитать пару книг об антиутопиях, и вам наверняка придут в голову ещё варианты )
Также европейские женщины начала прошлого века ходили под вуалью (больше из кокетства, но все-таки).
Думаю, скоро закрытие лица станет мировым трендом.
Я умышленно написал без разъяснения термина, так как если это право определить вкратце, то это будет неправда. Но для Вас я попробую. Это значит, к примеру, что должны быть ограничения по слежке за людьми и данные должны храниться ограниченное количество времени. То есть, полиция должна не распознавать всех, кто зашёл в метро просто так, а только, если произошло серьёзное преступление. Если преступление не произошло, все видео удаляются по закону через неделю без анализа. Для компаний можно потребовать доступ к и удаление всей информации о человеке. И так далее.
Информация по слежке должна храниться ограниченное время, плюс должна храниться неуничтожаемая информация о том, кто к этой информации запрашивал доступ (и получал эту информацию в итоге) и почему. И через какое-то время (может, в то время, когда уже информация будет удалена, или близко к этому) гражданин должен получать возможность увидеть, кто в его информацию лазил, и если не будет обоснования такого доступа — иметь возможность подать в суд и наказать того, кто следил незаконно или необосновано.
Пример — я прошёл по толпе на улице, и эту запись получил чиновник или полицейский. Через, скажем, два-три месяца (не раньше, чтобы преступники не могли знать, что их начали выслеживать) я вижу, что к этой информации кто-то имел доступ, и какая была причина. Если, скажем, через пять минут неподалёку было ограбление, и мимо меня прошёл тот, кто потом ограбил (и отслеживали его) — то всё ок, я сплю спокойно. Если окажется, что кому-то, у кого есть доступ к системе, просто было интересно, когда/где/с кем/какими маршрутами я гулял — я смогу подать в суд и наказать. Мало ли бывает случаев, когда решают «наказать» бывшего/бывшую жену/мужа/девушку/парня и так далее — и среди «имеющих доступ» такие случаи тоже могут иметь место. Нужно уметь пресекать.
Есть и чисто техническая причина
Мне кажется, что проблема не в определении лица на фота, а в доступности его в первую очередь коммерсам и полиции и прочим госслужбам. Мне кажется, дискомфорт можно значительно снять упростив сертификацию средств съёмки и идентификации, то есть с камерами ходят не только полицейские, а все, просто по желанию прицепив смартфон хлястиком, чтоб камера выглядывала. И точно так же все могут сообщить о преступлении (с предоставлением видео и результатов анализа, а также с указанием используемых инструментов; если те же или аналогичные используются той же полицией — предоставленное имеет ту же силу, что и у полиции), можно даже автоматом, если сделать сквозную связь и автоматическое распознавание преступлений. Это как минимум снимет проблемы с оговором и превышением пределов самообороны.
И точно так же все могут сообщить о преступлении (с предоставлением видео и результатов анализа, а также с указанием используемых инструментов; если те же или аналогичные используются той же полицией — предоставленное имеет ту же силу, что и у полиции), можно даже автоматом, если сделать сквозную связь и автоматическое распознавание преступлений.
Вы предлагаете неявно наделить огромнейшей исполнительной властью тех, кто разрабатывает или так или иначе имеет возможность повлиять на результат работы таких систем.
Вот то есть, немного утрируя — если вся полиция в США переходит на использование системы амазона, то полиция остаётся полицией на 70%, а на 30% полицией де-факто становится соответствующее подразделение амазона. В то время как де-юре это просто коммерческая контора.
Амазонское распознавание лиц — это, как и выше, не только база, но и использующие её люди (и «использование» в данном случае имеет существенно более широкий контекст, чем в случае банальной БД).
2. Как именно может помешать амазоновец? максимум, выкинуть человека из группы вероятных.
3. Если перенести всё администрирование внутрь полиции, принципиально ничего не изменится — сможет вмешаться адмн в погонах.
3. Если перенести всё администрирование внутрь полиции, принципиально ничего не изменится — сможет вмешаться адмн в погонах.
Юридическая ответственность «админа в погонах» принципиально другая.
— проще поймать (заметить и заявить о действии)
— проще практически ему что-то предъявить (внешний контроль против внутреннего, профессиональная солидарность, etc)
— а ещё ему сложнее приказать, т.е. почти наверняка если админ что-то шаманит, это его личная заинтересованность.
Способность «предъявить» прямо связана с коррупционным фактором, если кому-то проще «предъявить», то на него проще и «надавить». Со всеми вытекающими.
И я бы требовал законодательного закрепления обязательных компенсаций за ложное срабатывание подобных систем — любых, от общегосударственных до магазинных. И за любое ложное срабатывание — от ареста до простого досмотра охранниками. Во-первых, зная месторасположение рук большинства программистов, а во-вторых, чтоб не было соблазнов грести всех, а потом «приносить извинения за доставленные неудобства». Причем размер компенсаций должен быть отнюдь не символическим. Без хотя бы такой ответственности можно очень скоро увидеть полярного лисца.
Так что в худшем случае, полицейский задержит распознанного человека, начнут разбираться и отпустят. А тому кто внёс в базу по шапке надают, и уволят.
«У Орегона есть база данных с фотографиями всех пойманных преступников за последние 10 лет. Сейчас её используют в основном для поиска по именам, фамилиям и месту жительства. По лицам на глаз найти в ней кого-то почти нереально, особенно учитывая, что со временем люди выращивают бороды, делают новые прически и так далее. А вот нейросети с задачей справляются за несколько секунд»
Тоесть это выглядит как то что в сериалах показывают.
До тех пор, пока не ясно, что именно и как курят нейросети, и главное — пока нет очень суровой ответственности за ошибки подобного софта — я против. Цена ошибки в данном случае — не падение ворда, порча сэйвов в игрушке или висяк на телефоне. А видя, как этот самый софт пишут — нет, такое счастье мне не нужно.
Если нет камеры на полицейском, это только помогает им превышать полномочия. Но кому ещё это выгодно? Преступникам, которых задерживают или стреляют, а они потом — " мы ничего не делали."
Питер Уоттс
При базе в 100 млн человек, лицо совпадёт уже 2 тысячами людей.
То есть дрон с автоматической системой распознавания ликвидирует две тысячи непричастных человек, чтобы попытаться уничтожить одного террориста.
У системы кредит доверия гораздо выше, плюс ко всему, оператор (полицейский) со временем может привыкнуть и начнёт полностью полагаться данным системы.
Я очень хочу знать, когда ко мне приходит чиновник, полицейский, сотрудник налоговой, другой контролирующей организации или скандальный клиент. Амазон делает мои мечты реальными.
Одни получат предложение скидки, например за оплату налом или не пробитый чек (хана идеи онлайн касс), а другие ничего не получат или пойдут на… под благовидным предлогом. Вполне возможно, что одна группа населения рискует испытать на себе судьбу автолюбителей, которых динамят с ОСАГО по причине «нет полисов», «не работает терминал», «кончились бланки», «введите код СМС, пришедший на древнеегипетском».
Отличная система!
В чем общество может и станет лучше, но разнообразия точно поубавится.
Ну и конечно же — не такой как все = плохой в глазах огромного количества людей.
Это только если мы по умолчанию считаем, что за политические взгляды должна быть расплата (а это неправильно).
С отказом в выдаче ОСАГО считаю вообще надо отзывать лицензии. У них есть вопросы к этому человеку? Пусть идут в суд! У них был суд, и они проиграли? Пусть идут, если хотят, в вышестоящую инстанцию. Они проиграли и там? Пусть заткнутся и платят деньги. И если гражданин придет на следующий год оформлять ОСАГО, он пришел не потому что "захотелось", а потому что он обязан оформить этот чертов полис.
… в каких отношениях вы состоите."-- Не помню, пьяная была"?
Ага, особенно интересно будет если над головой проходящего мимо мужчины высветится — "любовник жены"...
Вскоро все с такими лицами будем ходить.
*ждёт будущего с интересом*
Единственное что, я подозреваю, пока Амазон сможет определять только американских грабителей и полицейских — вряд ли у них данные по России есть.
*ушёл гуглить*
*тоже ушёл гуглить*
Вот только я не знаю, где взять такую базу данных, о_О.
Про свою базу — надо уточнить, это для всех, и по какому тарифу.
За анализ:
aws.amazon.com/ru/rekognition/pricing
Анализ видео:
0,10 USD за 1 минуту анализа архивного видео (с пропорциональным распределением для неполных минут).
0,12 USD за 1 минуту анализа потокового видео (с пропорциональным распределением для неполных минут).
Хранение метаданных лиц:
Стоимость хранения метаданных 1000 лиц составляет 0,01 USD в месяц. Плата за хранение взимается ежемесячно и пропорционально распределяется для неполных месяцев.
описание демки с распознованием лиц — medium.com/@davidwallin/amazon-rekognition-api-example-23dc8d215a45
туториал по системе распознавания лиц на картинках aws.amazon.com/ru/getting-started/tutorials/detect-analyze-compare-faces-rekognition
описание как полиция в США по сути делала FindFace свой — aws.amazon.com/ru/blogs/machine-learning/using-amazon-rekognition-to-identify-persons-of-interest-for-law-enforcement
описание как работать с видео aws.amazon.com/ru/blogs/aws/launch-welcoming-amazon-rekognition-video-service/?nc1=b_rp
Вообщем похоже что вопрос клонирования FindFace как минимум = вопрос придумать как это монетизировать + немного написания кода работы с AWS + парсера фоток с ВК/OK/FB.
Но сам я монетизировать, конечно же, не буду.
грабителя или полицейского
неплохо)
накопление таких нарушений и в нужный момент надавить на жертву и принудить её к какому-то действию, угодному власти! Сейчас этим занимаются власть держащие, а смогут все!
Если каждый человек сможет отследить ВСЕ действия ЛЮБОГО человека, вне зависимости от его социального статуса, должности, и прочие, то либо настанет эра тотального шантажа, либо тотальной гласности. В любом случае будет «взрыв» и переосмысление поведений. Эх, если бы можно было потребовать у руководителя отчёт, куда уходят деньги из бюджета страны…
Как Amazon использует новую систему распознавания лиц, и за что её ненавидят