Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 68
> Нельзя сказать, что результаты работы китайских ученых оказались неожиданными. Если люди могут справиться с этой задачей, не удивительно, что искусственный интеллект способен сделать то же самое.
Да ладно, а есть пруфы? Я вот знаком только с обратным — люди будут по-другому описывать и воспринимать внешность человека, если им рассказать, что он, например, преступник.
90 процентов «точности» — это, конечно, здорово, но в классификации принято оперировать precision и recall. Если в тестовом наборе 90 процентов не-преступников, то модель «никто не преступник» тоже будет иметь 90 процентов точность.
Да ладно, а есть пруфы? Я вот знаком только с обратным — люди будут по-другому описывать и воспринимать внешность человека, если им рассказать, что он, например, преступник.
90 процентов «точности» — это, конечно, здорово, но в классификации принято оперировать precision и recall. Если в тестовом наборе 90 процентов не-преступников, то модель «никто не преступник» тоже будет иметь 90 процентов точность.
Написано же, половина — преступники.
Сразу вспомнилось это видео:
https://www.youtube.com/watch?v=w1e4kffwaus
https://www.youtube.com/watch?v=w1e4kffwaus
Советую посмотреть фильм «Я и другие». Только не новодел, а первоисточник — 1971 года. Очень хорошо прочищает мозги. В том числе и по поводу научной достоверности подобных исследований.
Любая предсказательная система «добропорядочности» в стиле описанной в статье приведёт в долгосрочной перспективе лишь к вырождению популяции, её использующей. Китай рискует скатиться в непродолжительный период массовых репрессий, а затем откатиться к этапу накопления первоначальных капиталов. И легко представить, что эта блажь получит поддержку текущей администрации.
Интересно, у них все законопослушные граждане сфотографированы в костюмах?
Да, простая разгадка работы нейросети :).
Так вот почему надо пришивать подворотничок к воротничку!
Ещё у них нет цепочки.
У преступников уголки губ слегка опущены. Возможно, это связано с обстоятельствами фотографирования.
Мне кажется что это просто определение «быдла»
сверху боз якудзы (пофиг что Китай), по середине — боевик якудзы, справа — водитель
Снизу — мальчики-зайчики
сверху боз якудзы (пофиг что Китай), по середине — боевик якудзы, справа — водитель
Снизу — мальчики-зайчики
Очень маленький датасет, 10% на тесты- мало. Что еще более важно, не упомянули валидацилнный сплит, а значит они на тренировочном сете подкручивали структуру нейросети. Технология нарушена, результаты — туфта.
Чтобы выступать с позиции эксперта, хорошо бы прочитать исходник, а не «Битлз фуфло, мне Мойша по телефону напел.»
We perform 10-fold cross validation for all possible combinations of the three feature-driven classifiers and the four types of feature vectors, plus data-driven CNN without explicit feature vector; altogether thirteen cases (3 classifiers × 4 feature vectors plus CNN) of 10-fold cross validation type.С методологией можно спорить, но она определённо продуманнее, чем «10% на тесты». И результаты других классификаторов не слишком отличаются от нейросети. Обвиним их в подгонке k в kNN? :)
Всё ясно — некоторых всю жизнь раздражает их чуть искривлённая верхняя губа и из-за этого они встают на преступный путь. Надо бы глянуть статистику преступников среди людей с исправленной «заячьей губой» :D
Мне вот интересно, они рождаются преступниками и это клеймо с пеленок, или это от скачивания пираток с торрентов их лица так перекосило?
Да, вопросов много. Любопытно.
1. Каковы критерии — чем преступник отличается от законопослушного гражданина? Какие статьи УК КНР были в выборке? А то вот я перешел дорогу на вчера красный свет… преступник я или кто?
2. Фотки сделаны до или после задержания? А то может критерий «не пойман — не вор»? «Честные» люди на фотках мне кажутся более наивными, а «преступники» — более напряженными.
Может нейросеть классифицировала по эмоциональному состоянию на фото, а не по криминальному прошлому?
3. Хваленая протопоповская «примативность» возможно вычисляется по линиям лица (человек видимо должен быть более похож на обезьяну) — и возможно может вести к преступлениям — все же законы джунглей отличаются от законов человеческого общества.
1. Каковы критерии — чем преступник отличается от законопослушного гражданина? Какие статьи УК КНР были в выборке? А то вот я перешел дорогу на вчера красный свет… преступник я или кто?
2. Фотки сделаны до или после задержания? А то может критерий «не пойман — не вор»? «Честные» люди на фотках мне кажутся более наивными, а «преступники» — более напряженными.
Может нейросеть классифицировала по эмоциональному состоянию на фото, а не по криминальному прошлому?
3. Хваленая протопоповская «примативность» возможно вычисляется по линиям лица (человек видимо должен быть более похож на обезьяну) — и возможно может вести к преступлениям — все же законы джунглей отличаются от законов человеческого общества.
> А то вот я перешел дорогу на вчера красный свет… преступник я или кто?
Вы нарушитель)
> 2. Фотки сделаны до или после задержания?
Это самый главный вопрос)) не все «воры» любят светиться и фотографироваться, а тем более в профиль. А значит, их фотали скорее всего уже где-то в местном СИЗО. Естественно, ты не будешь там улыбаться и строить из себя зайчика.
Вы нарушитель)
> 2. Фотки сделаны до или после задержания?
Это самый главный вопрос)) не все «воры» любят светиться и фотографироваться, а тем более в профиль. А значит, их фотали скорее всего уже где-то в местном СИЗО. Естественно, ты не будешь там улыбаться и строить из себя зайчика.
Люди склонны исполнять ожидания общества от себя. Даже не отдавая себе в этом отчёта. И описанная технология, по-сути, детерминирует усреднённые стереотипы общества, «ожидающего» девиационное поведение от определённых типажей. Аналогичная экспертная система в Америке так же определила мексиканцев и афроамериканцев в преступники — просто такова статистика, вытекающая из текущего устройства американского общества.
Не верю. Лженаука какая-то.
Мне кажется, или 1 и 3 критерии, по которым сеть определят преступников взаимосвязаны/одно и то же?
1 — «у преступников на 23,4% сильнее искривлена верхняя губа»
3 — «угол между двумя линиями, проходящими от кончика носа к углам рта – на 20% меньше»
1 — «у преступников на 23,4% сильнее искривлена верхняя губа»
3 — «угол между двумя линиями, проходящими от кончика носа к углам рта – на 20% меньше»
Так всё ещё проще! Посмотрите на фотографии: те, которые «обычные» граждане — улыбаюстся. Те, которые преступники — нет. Что, вообщем-то, логично. А описанные различия — это оно и есть.
Я вообще не к тому. Вывод про «преступники грустные» конечно напрашивается. Фотографии преступников, вполне вероятно, сделаны где-то в участке. Там не до счастья радости. Но забавны все таки именно эти пункты.
Искривление рта (грустное выражение лица, с уголками губ вниз) в среднем должно уменьшать расстояние между уголками рта, что автоматически означает, что угол между двумя линиями, проходящими от кончика носа к углам рта становится меньше.
Мой комментарий был не попыткой оценить их алгоритм, а именно претензией к их формулировке алгоритма. Ну или просьбой объяснить где там глубокий смысл, и зачем 3 пункт (прямое следствие первого) таки нужен.
Искривление рта (грустное выражение лица, с уголками губ вниз) в среднем должно уменьшать расстояние между уголками рта, что автоматически означает, что угол между двумя линиями, проходящими от кончика носа к углам рта становится меньше.
Мой комментарий был не попыткой оценить их алгоритм, а именно претензией к их формулировке алгоритма. Ну или просьбой объяснить где там глубокий смысл, и зачем 3 пункт (прямое следствие первого) таки нужен.
Полагаю, для выравнивания условий, всех граждан (в основном касается добропорядочных), чьи фото использовались, надо было фотографировать в полицейском участке. С преступниками понятно, ну а прочих — задерживать на улице без объяснений, на полчаса в обезьянник и потом вести фоткать. Тогда подборка фото была бы куда более репрезентативной.
На самом деле есть теория (физиогномика), согласно которой на лице человека отражены его характер и склонности. Но на данный момент она не имеет доказательств и считается псевдонаукой.
Но, если подумать, то мы часто по лицу делаем выводы о человеке. Например, многие по лицу могут выявить матерого уголовника. Или если видим, что у человека застывшая «обратная улыбка» или гримаса легкого отвращения, то с легкостью делаем вывод, что человек вероятно склочного характера.
Но, если подумать, то мы часто по лицу делаем выводы о человеке. Например, многие по лицу могут выявить матерого уголовника. Или если видим, что у человека застывшая «обратная улыбка» или гримаса легкого отвращения, то с легкостью делаем вывод, что человек вероятно склочного характера.
Проблема в том, что такая оценка всегда относительна. А подобные системы эксплуатируют наивную обывательскую веру в абсолютное добро и зло и их уровень в конкретном человеке.
Данная система обобщает не свойства людей, а свойства законодательной и судебной системы Китая.
Данная система обобщает не свойства людей, а свойства законодательной и судебной системы Китая.
При прочтении вашего комментария у меня возникла «гримаса легкого отвращения» :( Кажется я безнадежен
У людей на фото нижнего ряда лица «открыты» и расслаблены.
У людей на фото верхнего ряда лица слегка напряжены: глаза чуть сужены, губы чуть сжаты. У них (кроме того, что по центру) больше приподнят подбородок, чем у людей на фото внизу.
Без выводов. Просто наблюдение.
У людей на фото верхнего ряда лица слегка напряжены: глаза чуть сужены, губы чуть сжаты. У них (кроме того, что по центру) больше приподнят подбородок, чем у людей на фото внизу.
Без выводов. Просто наблюдение.
Возможно это влияние подписей под фото, но лица на фото, подписанные как преступники и «средние» лица преступников воспринимаются как лица жестоких людей, какое-то неуловимое ощущение жестокости, когда смотришь на фото. А когда смотришь на фото законопослушных, кажется что эти люди вот-вот улыбнутся.
Можно ещё распознавать преступников по цвету кожи. Ну то есть нельзя, конечно, но почему-то метод работает.
На приведенном примере оличие преступников от обычных граждан лишь в том, что первые не улыбаются, а вторые улыбаются. Поменял вручную улыбку местами в фотошопе и ощущение от обычных граждан поменялось полностью.
Так, собственно, «признак» номер 1 и 3 — это оно и есть. Нейросеть научилась отличать тех, кто улыбается — от те, кому сейчас не до улыбок, ибо арестовали. Серьезное достижение, что и говорить =)
Плюс один. Мне вот кажется, что в фото преступников присутствует какая-то жёсткость, а «законопослушные» действительно будто вот-вот улыбнутся.
Не знаю насколько сейчас дела в отечественной армии поменялись, но когда я служил, у всей части лица были такие будто все там друг друга поубивали бы, дай им волю. Собственно у меня самого фотографии после армии как у злобной обезъяны какой-то… Вот думаю, если б они добавили солдат в выборку, пусть даже и тех кто не воевал (а следовательно, не совершал ничего априори плохого с моральной точки зрения), у них процент определённых преступников как минимум несколько уменьшился бы…
Не знаю насколько сейчас дела в отечественной армии поменялись, но когда я служил, у всей части лица были такие будто все там друг друга поубивали бы, дай им волю. Собственно у меня самого фотографии после армии как у злобной обезъяны какой-то… Вот думаю, если б они добавили солдат в выборку, пусть даже и тех кто не воевал (а следовательно, не совершал ничего априори плохого с моральной точки зрения), у них процент определённых преступников как минимум несколько уменьшился бы…
Именно так, причем это заметно даже на «усредненных» портретах. Средний преступник грустный, а средний гражданин улыбается
В общем, китайцы научили нейросеть отличать фотографии улыбающихся людей от неулыбающихся.
Некорректно — во входных данных только те кто попались.
Такие признаки как складки, искривление губы, форма глаз — обусловлены повседневной мимикой. Так что, в принципе, всё логично. Мимика во многом обусловлена поведением в той или иной среде обитания и общения. Агрессия, жестокость, удовольствие, задумчивость — всё в лицо встраивается.
Кстати, после смерти прижизненная мимика разглаживается. По фотографиям трупов такая система вряд ли что-то определит. Есть даже такая история про художника-портретиста, который по основному роду деятельности трудился в морге. Людям его картины казались странными, иногда пугающими.
Кстати, после смерти прижизненная мимика разглаживается. По фотографиям трупов такая система вряд ли что-то определит. Есть даже такая история про художника-портретиста, который по основному роду деятельности трудился в морге. Людям его картины казались странными, иногда пугающими.
Фотография законопослушного гражданина
«До 35 лет от роду он был умным и законопослушным молодым человеком. Но после того памятного события в 1997 году лицо его превратилось в гримасу и он просто был вынужден стать постоянным обитателем тюрем города N...»
Что если скормить этой системе лица депутатов?
Электрогитлер?
Электрогитлер это новое слово в технологии измерения черепа!
Покупая электрогитлера вы сэкономите время на измерениях!
Только наш электрогитлер обладает встроенным крематорием, горелкой и газовой камерой!
Немцам скидка в 25%!
*Внимание акция действительна до 9 мая.
Электрогитлер это новое слово в технологии измерения черепа!
Покупая электрогитлера вы сэкономите время на измерениях!
Только наш электрогитлер обладает встроенным крематорием, горелкой и газовой камерой!
Немцам скидка в 25%!
*Внимание акция действительна до 9 мая.
Добро пожаловать в камеру, голубчик!
Ваша рожа не понравилась нашему судье…
Ваша рожа не понравилась нашему судье…
А кто говорит о досудебном применении? Я вижу применение подобных систем в охранном видеонаблюдении. Было бы неплохо, если бы система определяла преступные лица как подозрительные и помечала их на мониторах охраны, как требующие особого внимания.
В работе также сказано: в отличие от эксперта или судьи, у алгоритма компьютерного зрения нет субъективного «багажа за плечами», эмоций, предубеждений относительно опыта, расы, религии, политических убеждений, опыта.
Как связаны эксперт или судья и сия статья?
Я так понимаю, что сия фраза как бы намекает на учет физиономии подсудимого/подозреваемого на основе субъективизма. И сей распознаватель как-то должен улучшить работу правосудия. Но он оценивает рожи более объективно…
Про досудебное применение лично я не сказал вообще ни слова. :)
Наступит момент, и ИИ научится (если он еще этого не сделал) отличать по лицу правду от лжи.
А потом эволюционирует (с нашей помощью) до способности понимать по лицу, что у нас на самом деле на уме.
Вот тут важно, чтобы ИИ, проанализировав логи и глобально разобравшись что к чему, не сломался.
Именем Азимова.
А потом эволюционирует (с нашей помощью) до способности понимать по лицу, что у нас на самом деле на уме.
Вот тут важно, чтобы ИИ, проанализировав логи и глобально разобравшись что к чему, не сломался.
Именем Азимова.
Уже по разделу 'data preparation' можно сказать что результат ни о чем.
Авторы нарушили технологию уже когда отсэмплили два различных класса с использованием различных систем.
Дальше статью можно не читать.
Авторы нарушили технологию уже когда отсэмплили два различных класса с использованием различных систем.
Дальше статью можно не читать.
Зерно истины в исследованиях Ломброзо было в том, что дефомированный череп указывал на деформацию мозга, а человек с уменьшенными лобными долями вряд ли превратится в законопослушного гражданина.
Мы тут можем сколько угодно играться в гуманизм, говорить, что биологических различий не существует, а кто не согласен тот австрийский художник, но быть преступником в обществе биологически выгодно: минимум усилий — максимум результат, хотя риски высоки. Лодыри рождаются даже в колонии дрожжей и хотя человек не одноклеточный гриб, у него есть неокортекс, а внешняя среда может влиять на него в процессе взросления, все же люди с генетической предрасположенностью остаются в зоне риска.
В стране с разрешенной смертной казнью, подобная технология кажется зловещей ибо вполне может стать презумпцией вины, но исследовать закономерность куда разумнее, чем делать вид, что ее не существует
Мы тут можем сколько угодно играться в гуманизм, говорить, что биологических различий не существует, а кто не согласен тот австрийский художник, но быть преступником в обществе биологически выгодно: минимум усилий — максимум результат, хотя риски высоки. Лодыри рождаются даже в колонии дрожжей и хотя человек не одноклеточный гриб, у него есть неокортекс, а внешняя среда может влиять на него в процессе взросления, все же люди с генетической предрасположенностью остаются в зоне риска.
В стране с разрешенной смертной казнью, подобная технология кажется зловещей ибо вполне может стать презумпцией вины, но исследовать закономерность куда разумнее, чем делать вид, что ее не существует
Наивность (правовая, типичная для физикалистов-редукционистов) заключается в том, что преступление — это следствие социально-экономических условий и доступности «хороших» и «плохих» ролей в социуме (в рамках текущего законодательства или текущих стереотипов людей), а не объективный параметр самого человека. Это как негры бы были виноваты в том, что они чёрные. Правовое поле — это эволюционирующая система законов и их «реализаций», и в нём всегда есть противоречия, устранение которых и ведёт к прогрессу. Но этот прогресс бесконечен, нет никакого конечного «абсолютного состояния справедливости», есть лишь всегда временное состояние, удовлетворяющее текущим условиям среды (социальной, экономической, физической).
Можно уточнить: фотографии преступников делались в Китае? Включаются ли политические заключённые в список преступников? Студенты на площади Тяньаньмэнь в 1989 — это преступники?
Судя по всему нейросеть научилась отличать задержанных от свободных. Это конечно большое достижение, но причём тут преступники?
Если бы сравнивали фотографии задержанных невиновных и задержанных виновных — тогда был бы совсем другой разговор. А так — сплошной обман.
Если бы сравнивали фотографии задержанных невиновных и задержанных виновных — тогда был бы совсем другой разговор. А так — сплошной обман.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Китайские ученые научили нейросеть распознавать преступников по фотографиям