Китайские ученые научили нейросеть распознавать преступников по фотографиям

    Вскоре после изобретения фотографии некоторые криминалисты стали замечать схожие черты в фотокарточках преступников, сделанных после ареста. Если верить их словам, преступников объединяют общие черты лица, по которым их можно было бы отнести к правонарушителям. Современные ученые попытались доказать эту теорию с помощью возможностей искусственного интеллекта.

    imageЯрым сторонником антропологической теории был известный итальянский криминалист Чезаре Ломброзо. Он считал, что преступники были в большей степени, чем законопослушные граждане, похожи на человекообразных обезьян. Он был убежден, что можно определить обезьяньи черты: скошенный лоб, специфическое строение ушных раковин, различные асимметрии лица и длинные руки. Чтобы доказать свою точку зрения, он провел много измерений, хотя и не делал статистический анализ этих данных.

    Это упущение в конечном итоге развалило его теорию. Английский криминалист Чарльз Горинг опроверг взгляды Ломброзо. Он проанализировал всю информацию, связанную с физическими отклонениями преступников и законопослушных граждан, и не обнаружил никакой статистической закономерности.

    С тех пор дискуссии на эту тему затихли вплоть до 2011 года. Тогда группа психологов из Корнелльского университета продемонстрировала, что люди способны отличать преступников от других людей, просто просматривая их фотографии. Как такое оказалось возможным?

    Сяолинь Ву и Си Чжан из Шанхайского университета транспорта попытались дать ответ на этот вопрос. Ученые использовали различные алгоритмы машинного зрения, чтобы изучить лица преступников и законопослушных граждан, а затем проверили, может ли машина выявить разницу. Они использовали 1856 фотографий китайцев в возрасте от 18 до 55 лет. Половина из них – преступники. Затем ученые взяли 90% от всех фотографий и научили сверточную нейронную сеть распознавать разницу. Оставшиеся 10% изображений ушли на тесты.

    image
    Лица преступников

    image
    Лица законопослушных граждан

    Ву и Чжан обнаружили, что нейронная сеть может идентифицировать преступника с точностью до 89,5%. «Эти последовательные результаты – доказательство законности автоматизированной идентификации личности преступника, несмотря на исторические противоречия, окружающие эту тему» – говорят они.

    По словам ученых, есть три черты лица, по которым нейронная сеть идентифицирует человека как преступника. По сравнению с людьми, не совершавшими правонарушений, у преступников на 23,4% сильнее искривлена верхняя губа, расстояние от одного внутреннего уголка глаза до другого на 6% меньше, а угол между двумя линиями, проходящими от кончика носа к углам рта – на 20% меньше.

    В своей работе исследователи демонстрируют, что эти наборы данных являются концентрическими, но данные преступных лиц имеют гораздо более сильные отклонения. Другими словами, между лицами законопослушных граждан больше сходства, по сравнению с лицами преступников. Или преступники имеют более высокую степень различий во внешности, чем другие люди.

    Их работа объясняет, почему по результатам некоторых статистических тестов сложно увидеть разницу между двумя наборами данных. Когда Ву и Чжан объединили все портреты преступников и все остальные портреты, чтобы создать два «средних» лица, они оказались практически идентичными.

    image
    «Средние» лица: А (преступника) и B (обычного человека), составленные с помощью алгоритма Eigenface; С (преступника) и D (обычного человека), составленные путем усреднения ориентиров и деформации изображения

    Нельзя сказать, что результаты работы китайских ученых оказались неожиданными. Если люди могут справиться с этой задачей, не удивительно, что искусственный интеллект способен сделать то же самое. Главный вопрос заключается в том, как люди воспользуются этими возможностями ИИ. Нетрудно представить, как можно применить подход китайских ученых к наборам данных вроде фотографий с водительских удостоверений и паспортов. Таким образом можно выделить тех людей, которых
    машина идентифицирует как вероятных преступников, а затем выяснить, действительно ли это так.

    В работе также сказано: в отличие от эксперта или судьи, у алгоритма компьютерного зрения нет субъективного «багажа за плечами», эмоций, предубеждений относительно опыта, расы, религии, политических убеждений, опыта. Он не устает, ему не нужен сон или еда. Это действительно так. Но это вовсе не значит, что машины не могут быть предвзятыми. Например, Beauty.ai позиционировался как первый международный конкурс красоты, в котором участники оценивались искусственным интеллектом. Как выяснилось позднее, одним из критериев оценки стала этническая принадлежность и цвет кожи, за что он и подвергся резкой критике. Результаты конкурса показали, что ИИ отдавал предпочтение более светлокожим конкурсантам.

    Естественно, работа китайских ученых нуждается в более серьезном обосновании и доработке. Нужно повторить эксперимент с людьми разного возраста, пола, этнических групп и увеличить количество наборов данных. Это должно помочь разрешить некоторые спорные моменты. Например, Ву и Чжан считают, что криминальные лица можно разделить на четыре подгруппы, а законопослушные только на три. Почему так происходит? И как это алгоритм будет работать с другими группами людей? В то же время, работа поднимает важные вопросы. Если результат действительно выдерживает критику, то как его объяснить? Почему у лиц преступников гораздо больше отклонений по сравнению с обычными людьми? Как люди определяют преступников? Это врожденное или приобретенное умение?

    Если ученым удастся ответить на эти вопросы, тогда, возможно, работа ученых даст новый виток развития антропометрии уголовного или иного характера.

    Научная работа в последней редакции опубликована на arXiv.org (ArXiv:1610.09204 [cs.CV])
    Поделиться публикацией
    Ой, у вас баннер убежал!

    Ну. И что?
    Реклама
    Комментарии 68
    • +8
      > Нельзя сказать, что результаты работы китайских ученых оказались неожиданными. Если люди могут справиться с этой задачей, не удивительно, что искусственный интеллект способен сделать то же самое.

      Да ладно, а есть пруфы? Я вот знаком только с обратным — люди будут по-другому описывать и воспринимать внешность человека, если им рассказать, что он, например, преступник.

      90 процентов «точности» — это, конечно, здорово, но в классификации принято оперировать precision и recall. Если в тестовом наборе 90 процентов не-преступников, то модель «никто не преступник» тоже будет иметь 90 процентов точность.
      • +5
        Написано же, половина — преступники.
        • 0
          Я уже потом заметил. В любом случае было бы более корректно и информативно взять и другие метрики из статьи (хотя бы просто добавить AUC).
          • +2
            Все равно нужен recall, и нужно смотреть как они тренировались и как измеряли. Хотя что подразумевается под «точностью»? Это accuracy или precision?
        • 0
          Сразу вспомнилось это видео:
          https://www.youtube.com/watch?v=w1e4kffwaus
          • 0
            Именно этот эксперимент мне сразу и вспомнился :) Кстати, ниже в комментах кто-то такие же предвзятые характеристики давал. Надо было автору поменять местами подписи и посмотреть на реакцию в комментариях.
        • +3
          Советую посмотреть фильм «Я и другие». Только не новодел, а первоисточник — 1971 года. Очень хорошо прочищает мозги. В том числе и по поводу научной достоверности подобных исследований.
          • +3
            Достаточно вспомнить опыт одного известного европейского фюрера в теме очищения человечества от «плохих» рас.
            • +3
              Ну кто бы сомневался, что критерий Годвина в комментариях к такой статье будет удовлетворён почти сразу.

              Сомневаюсь, правда, что вы сможете пояснить, при чём тут Гитлер.
              • –1
                Иногда банан — это всего лишь банан, а не Годвин. Поразмышляйте, что связывает френологию, расологию и Гитлера сами. Я не сомневаюсь, что вы справитесь самостоятельно.
                • 0
                  Поэтому исследование и вышло в Китае.
                  В Европе или США этот критерий был бы удовлетворен ещё на стадии идеи.
            • –3
              Любая предсказательная система «добропорядочности» в стиле описанной в статье приведёт в долгосрочной перспективе лишь к вырождению популяции, её использующей. Китай рискует скатиться в непродолжительный период массовых репрессий, а затем откатиться к этапу накопления первоначальных капиталов. И легко представить, что эта блажь получит поддержку текущей администрации.
            • +15
              Интересно, у них все законопослушные граждане сфотографированы в костюмах?
              • +5
                Да, простая разгадка работы нейросети :).
                • +5
                  Так вот почему надо пришивать подворотничок к воротничку!
                  • +1
                    Ещё у них нет цепочки.
                    • +4
                      У преступников уголки губ слегка опущены. Возможно, это связано с обстоятельствами фотографирования.
                      • 0
                        Мне кажется что это просто определение «быдла»
                        сверху боз якудзы (пофиг что Китай), по середине — боевик якудзы, справа — водитель
                        Снизу — мальчики-зайчики
                        • 0
                          Интересно, а в понятие «преступники» там входило white collar crime? Или только старый добрый гопстоп и бакланка с мокрухой?
                      • +1
                        Очень маленький датасет, 10% на тесты- мало. Что еще более важно, не упомянули валидацилнный сплит, а значит они на тренировочном сете подкручивали структуру нейросети. Технология нарушена, результаты — туфта.
                        • +4
                          Чтобы выступать с позиции эксперта, хорошо бы прочитать исходник, а не «Битлз фуфло, мне Мойша по телефону напел.»
                          We perform 10-fold cross validation for all possible combinations of the three feature-driven classifiers and the four types of feature vectors, plus data-driven CNN without explicit feature vector; altogether thirteen cases (3 classifiers × 4 feature vectors plus CNN) of 10-fold cross validation type.
                          С методологией можно спорить, но она определённо продуманнее, чем «10% на тесты». И результаты других классификаторов не слишком отличаются от нейросети. Обвиним их в подгонке k в kNN? :)
                        • 0
                          Всё ясно — некоторых всю жизнь раздражает их чуть искривлённая верхняя губа и из-за этого они встают на преступный путь. Надо бы глянуть статистику преступников среди людей с исправленной «заячьей губой» :D
                          • +2
                            Мне вот интересно, они рождаются преступниками и это клеймо с пеленок, или это от скачивания пираток с торрентов их лица так перекосило?
                            • +5
                              Да, вопросов много. Любопытно.
                              1. Каковы критерии — чем преступник отличается от законопослушного гражданина? Какие статьи УК КНР были в выборке? А то вот я перешел дорогу на вчера красный свет… преступник я или кто?
                              2. Фотки сделаны до или после задержания? А то может критерий «не пойман — не вор»? «Честные» люди на фотках мне кажутся более наивными, а «преступники» — более напряженными.
                              Может нейросеть классифицировала по эмоциональному состоянию на фото, а не по криминальному прошлому?
                              3. Хваленая протопоповская «примативность» возможно вычисляется по линиям лица (человек видимо должен быть более похож на обезьяну) — и возможно может вести к преступлениям — все же законы джунглей отличаются от законов человеческого общества.
                              • 0
                                > А то вот я перешел дорогу на вчера красный свет… преступник я или кто?
                                Вы нарушитель)

                                > 2. Фотки сделаны до или после задержания?
                                Это самый главный вопрос)) не все «воры» любят светиться и фотографироваться, а тем более в профиль. А значит, их фотали скорее всего уже где-то в местном СИЗО. Естественно, ты не будешь там улыбаться и строить из себя зайчика.
                              • +2
                                Люди склонны исполнять ожидания общества от себя. Даже не отдавая себе в этом отчёта. И описанная технология, по-сути, детерминирует усреднённые стереотипы общества, «ожидающего» девиационное поведение от определённых типажей. Аналогичная экспертная система в Америке так же определила мексиканцев и афроамериканцев в преступники — просто такова статистика, вытекающая из текущего устройства американского общества.
                              • +6
                                Не верю. Лженаука какая-то.
                                • 0
                                  Китайцы Пола Экмана не читали. Очередная игрушка для привлечения инвестиций.
                                • –1
                                  Мне кажется, или 1 и 3 критерии, по которым сеть определят преступников взаимосвязаны/одно и то же?

                                  1 — «у преступников на 23,4% сильнее искривлена верхняя губа»
                                  3 — «угол между двумя линиями, проходящими от кончика носа к углам рта – на 20% меньше»
                                  • +8
                                    Так всё ещё проще! Посмотрите на фотографии: те, которые «обычные» граждане — улыбаюстся. Те, которые преступники — нет. Что, вообщем-то, логично. А описанные различия — это оно и есть.

                                    • +1
                                      Я вообще не к тому. Вывод про «преступники грустные» конечно напрашивается. Фотографии преступников, вполне вероятно, сделаны где-то в участке. Там не до счастья радости. Но забавны все таки именно эти пункты.
                                      Искривление рта (грустное выражение лица, с уголками губ вниз) в среднем должно уменьшать расстояние между уголками рта, что автоматически означает, что угол между двумя линиями, проходящими от кончика носа к углам рта становится меньше.

                                      Мой комментарий был не попыткой оценить их алгоритм, а именно претензией к их формулировке алгоритма. Ну или просьбой объяснить где там глубокий смысл, и зачем 3 пункт (прямое следствие первого) таки нужен.
                                      • +1
                                        Полагаю, для выравнивания условий, всех граждан (в основном касается добропорядочных), чьи фото использовались, надо было фотографировать в полицейском участке. С преступниками понятно, ну а прочих — задерживать на улице без объяснений, на полчаса в обезьянник и потом вести фоткать. Тогда подборка фото была бы куда более репрезентативной.
                                  • –4
                                    На самом деле есть теория (физиогномика), согласно которой на лице человека отражены его характер и склонности. Но на данный момент она не имеет доказательств и считается псевдонаукой.
                                    Но, если подумать, то мы часто по лицу делаем выводы о человеке. Например, многие по лицу могут выявить матерого уголовника. Или если видим, что у человека застывшая «обратная улыбка» или гримаса легкого отвращения, то с легкостью делаем вывод, что человек вероятно склочного характера.
                                    • +1
                                      Проблема в том, что такая оценка всегда относительна. А подобные системы эксплуатируют наивную обывательскую веру в абсолютное добро и зло и их уровень в конкретном человеке.

                                      Данная система обобщает не свойства людей, а свойства законодательной и судебной системы Китая.
                                      • 0
                                        При прочтении вашего комментария у меня возникла «гримаса легкого отвращения» :( Кажется я безнадежен
                                      • +3
                                        У людей на фото нижнего ряда лица «открыты» и расслаблены.
                                        У людей на фото верхнего ряда лица слегка напряжены: глаза чуть сужены, губы чуть сжаты. У них (кроме того, что по центру) больше приподнят подбородок, чем у людей на фото внизу.

                                        Без выводов. Просто наблюдение.
                                        • –2
                                          Возможно это влияние подписей под фото, но лица на фото, подписанные как преступники и «средние» лица преступников воспринимаются как лица жестоких людей, какое-то неуловимое ощущение жестокости, когда смотришь на фото. А когда смотришь на фото законопослушных, кажется что эти люди вот-вот улыбнутся.
                                          • +5
                                            Можно ещё распознавать преступников по цвету кожи. Ну то есть нельзя, конечно, но почему-то метод работает.
                                            • +3
                                              На приведенном примере оличие преступников от обычных граждан лишь в том, что первые не улыбаются, а вторые улыбаются. Поменял вручную улыбку местами в фотошопе и ощущение от обычных граждан поменялось полностью.
                                              • +5
                                                Так, собственно, «признак» номер 1 и 3 — это оно и есть. Нейросеть научилась отличать тех, кто улыбается — от те, кому сейчас не до улыбок, ибо арестовали. Серьезное достижение, что и говорить =)
                                                • 0
                                                  Плюс один. Мне вот кажется, что в фото преступников присутствует какая-то жёсткость, а «законопослушные» действительно будто вот-вот улыбнутся.

                                                  Не знаю насколько сейчас дела в отечественной армии поменялись, но когда я служил, у всей части лица были такие будто все там друг друга поубивали бы, дай им волю. Собственно у меня самого фотографии после армии как у злобной обезъяны какой-то… Вот думаю, если б они добавили солдат в выборку, пусть даже и тех кто не воевал (а следовательно, не совершал ничего априори плохого с моральной точки зрения), у них процент определённых преступников как минимум несколько уменьшился бы…
                                                  • 0
                                                    Солдаты в армии делают много плохого и без «воевания».
                                                    Я даже больше скажу. Убить врага куда более морально, чем избивать и унижать своих же сослуживцев.
                                                    Так что если в части была хоть какая-то дедовщина, то рожи злобных обезьян на снимках совершенно не удивляют.
                                                  • 0
                                                    Именно так, причем это заметно даже на «усредненных» портретах. Средний преступник грустный, а средний гражданин улыбается
                                                  • +6
                                                    В общем, китайцы научили нейросеть отличать фотографии улыбающихся людей от неулыбающихся.
                                                    • 0
                                                      Научат ли отличать одного от другого?
                                                      Или получится, что сегодня он встал не с той ноги и преступник, а завтра выпил с утра и добропорядочен.
                                                    • +2
                                                      Некорректно — во входных данных только те кто попались.
                                                      • 0
                                                        Ну почему же, они попали в «не преступников» :). Угрюмые, пойманные преступники, радостные — не пойманные + не преступники.
                                                    • –1
                                                      Такие признаки как складки, искривление губы, форма глаз — обусловлены повседневной мимикой. Так что, в принципе, всё логично. Мимика во многом обусловлена поведением в той или иной среде обитания и общения. Агрессия, жестокость, удовольствие, задумчивость — всё в лицо встраивается.
                                                      Кстати, после смерти прижизненная мимика разглаживается. По фотографиям трупов такая система вряд ли что-то определит. Есть даже такая история про художника-портретиста, который по основному роду деятельности трудился в морге. Людям его картины казались странными, иногда пугающими.
                                                        • –1
                                                          скорее уже вторая такая: image
                                                        • 0
                                                          «До 35 лет от роду он был умным и законопослушным молодым человеком. Но после того памятного события в 1997 году лицо его превратилось в гримасу и он просто был вынужден стать постоянным обитателем тюрем города N...»
                                                          • +3
                                                            Что если скормить этой системе лица депутатов?
                                                            • –2
                                                              Электрогитлер?
                                                              Электрогитлер это новое слово в технологии измерения черепа!
                                                              Покупая электрогитлера вы сэкономите время на измерениях!
                                                              Только наш электрогитлер обладает встроенным крематорием, горелкой и газовой камерой!
                                                              Немцам скидка в 25%!
                                                              *Внимание акция действительна до 9 мая.
                                                              • +1
                                                                Добро пожаловать в камеру, голубчик!
                                                                Ваша рожа не понравилась нашему судье…
                                                                • 0
                                                                  А кто говорит о досудебном применении? Я вижу применение подобных систем в охранном видеонаблюдении. Было бы неплохо, если бы система определяла преступные лица как подозрительные и помечала их на мониторах охраны, как требующие особого внимания.
                                                                  • 0
                                                                    В работе также сказано: в отличие от эксперта или судьи, у алгоритма компьютерного зрения нет субъективного «багажа за плечами», эмоций, предубеждений относительно опыта, расы, религии, политических убеждений, опыта.


                                                                    Как связаны эксперт или судья и сия статья?
                                                                    Я так понимаю, что сия фраза как бы намекает на учет физиономии подсудимого/подозреваемого на основе субъективизма. И сей распознаватель как-то должен улучшить работу правосудия. Но он оценивает рожи более объективно…

                                                                    Про досудебное применение лично я не сказал вообще ни слова. :)
                                                                • 0
                                                                  Наступит момент, и ИИ научится (если он еще этого не сделал) отличать по лицу правду от лжи.
                                                                  А потом эволюционирует (с нашей помощью) до способности понимать по лицу, что у нас на самом деле на уме.
                                                                  Вот тут важно, чтобы ИИ, проанализировав логи и глобально разобравшись что к чему, не сломался.
                                                                  Именем Азимова.
                                                                  • 0
                                                                    Это именем апостола Петра, скорее, — о вере в Истинную Правду, в Вероломную Ложь и в Бога как Абсолютного Арбитра, устанавливающего соответствие поступков этим понятиям.
                                                                  • 0
                                                                    Уже по разделу 'data preparation' можно сказать что результат ни о чем.
                                                                    Авторы нарушили технологию уже когда отсэмплили два различных класса с использованием различных систем.
                                                                    Дальше статью можно не читать.
                                                                    • 0
                                                                      Зерно истины в исследованиях Ломброзо было в том, что дефомированный череп указывал на деформацию мозга, а человек с уменьшенными лобными долями вряд ли превратится в законопослушного гражданина.
                                                                      Мы тут можем сколько угодно играться в гуманизм, говорить, что биологических различий не существует, а кто не согласен тот австрийский художник, но быть преступником в обществе биологически выгодно: минимум усилий — максимум результат, хотя риски высоки. Лодыри рождаются даже в колонии дрожжей и хотя человек не одноклеточный гриб, у него есть неокортекс, а внешняя среда может влиять на него в процессе взросления, все же люди с генетической предрасположенностью остаются в зоне риска.
                                                                      В стране с разрешенной смертной казнью, подобная технология кажется зловещей ибо вполне может стать презумпцией вины, но исследовать закономерность куда разумнее, чем делать вид, что ее не существует
                                                                      • 0
                                                                        Наивность (правовая, типичная для физикалистов-редукционистов) заключается в том, что преступление — это следствие социально-экономических условий и доступности «хороших» и «плохих» ролей в социуме (в рамках текущего законодательства или текущих стереотипов людей), а не объективный параметр самого человека. Это как негры бы были виноваты в том, что они чёрные. Правовое поле — это эволюционирующая система законов и их «реализаций», и в нём всегда есть противоречия, устранение которых и ведёт к прогрессу. Но этот прогресс бесконечен, нет никакого конечного «абсолютного состояния справедливости», есть лишь всегда временное состояние, удовлетворяющее текущим условиям среды (социальной, экономической, физической).
                                                                      • 0
                                                                        Можно уточнить: фотографии преступников делались в Китае? Включаются ли политические заключённые в список преступников? Студенты на площади Тяньаньмэнь в 1989 — это преступники?
                                                                        • 0
                                                                          Судя по всему нейросеть научилась отличать задержанных от свободных. Это конечно большое достижение, но причём тут преступники?
                                                                          Если бы сравнивали фотографии задержанных невиновных и задержанных виновных — тогда был бы совсем другой разговор. А так — сплошной обман.

                                                                          Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                          Самое читаемое