Twitter признал свой алгоритм обрезки изображений расистским

[ABConymous]

Именно так он и работает, по крайней мере до недавнего времени.

[Vsevo10d]

То есть мы тотально проигнорируем факт, что алгоритм не обладает свободной волей и заложенными предрассудками, а значит, результаты его работы вообще нельзя трактовать как деятельность (и соответственно как выбор, как предпочтение, как сознательное оскорбление)?

[snizovtsev]

Но обучался то алгоритм на выборке, размеченной людьми с предрассудками.

[Alex_ME]

Если алгоритм обучался на том, как пользователи кадрируют изображения вручную (Индии ю или на иной другой базе изображений), то вполне вероятно, что в этой базе изображений белых больше, возможно, потому что процент белых в населении больше.

[DistortNeo]

Вопрос не только в соотношений белых и чёрных на исходных изображениях в обучающей выборке, но и в соотношении белых и чёрных после кадрирования в той же выборке. В обществе, где цвет кожи не имеет абсолютно никакого значения, наблюдалось бы равенство соотношений. Но что-то мне подсказывает, что это далеко не так, так как большинство людей таки имеет предубеждения.

[vanxant]

Доля негров в США — порядка 13% ЕМНИП.

[kkslider]

Жизнь повторяет искусство.

Конкретно в этом случае - Хармса.

— Шеф, наш алгоритм для обрезки изображений в 4% случаев предпочитает белых черным, нас обвиняют в расизме, все пропало, что будем делать?!
— Да идут они н&$#! со своими жалобами, пусть сами обрезают свои изображения, раз такие умные.

[Ahen]

Картинка

[Murimonai]

Немного отвлеченных размышлений:

• смуглую женщину слева выделило вполне отчетливо
• мужик не выделенный алгоритмом реально трудно заметен на фоне одежды окружающих
• трое мужчин сверху имеют не особо-то светлые тона кожи...
• … тогда как самая нижняя троица — наоборот, хотя «белыми» видимо считают всех выделенных алгоритмом
• из 11 чеоловек в кадре целиком — только 4 можно с натяжкой отнести к «белым» или «черным»...
• … но от маразма связанного с «войной с расизмом» огребать будут все кто в кадре
• если поменять негра местами с любой из соседних женщин — алгоритм его без труда опознает, но видимо фен-шуй не позволяет ¯\_(ツ)_/¯

[StSav012]

Всё проще: алгоритм показывает не более 10 лиц, и естественно, что он покажет те лица, которые лучше всего видны. По найденным лицам камера фокусируется. Я много лет назад читал про этот алгоритм, сейчас не найду.

[alex6999]

В данном случае по зубам можно определить лицо. Очень контрастный элемент

[Shtucer]

Так и до формы черепа уже близко...

[alex6999]

В частности алгоритмы идентификации по фото как раз исспользуют форму черепа и на чёрных работают с ошибками, вероятно черепа не сильно различаются

[mithdradates]

Если у них там алгоритм машинного обучения задействован, то возможно все дело в несбалансированности тренировочной выборки?

[DistortNeo]

Вполне возможно, что тренировочную выборку создавали сами пользователи, самостоятельно кадрируя изображения. А пользователи, в основной своей массы, расисты.

[kAIST]

Расисты то тут причем? Просто белых пользователей больше, вот и алгоритм даёт им больше веса.

[DistortNeo]

Если на фотографии будет присутствовать и белый, и чёрный человек, то белый пользователь с большей долей вероятности выберет белого. Ну а так как белых пользователей больше, то и алгоритм машинного обучения подстраивается под них.

[namikiri]

Чтобы облегчить кадрирование, Twitter увеличил размер превью изображений в своих приложениях для iOS и Android.

А веб?

[uhf]

Какой странный мир. 10% населения планеты страдают от голода, еще больше не имеют доступа к медицинской помощи, но Twitter считает проблемой 4% расхождения для разных рас в алгоритме кадрирования.

[izogfif]

У человечества свои проблемы, у Twitter — свои. А так да, мир странный.

[kAIST]

Следуя той же логике, вам стоит прекратить писать комментарии на Хабре, до тех пор пока не решается все проблемы на планете.

[uhf]

Мой комментарий призывает сместить приоритеты проблем, а ваш призывает к бездействию.

[germn]

Давайте перефразируем: "вам стоит прекратить писать комментарии на Хабре, до тех пор пока вы не решите проблему голода на планете". Теперь и этот комментарий призывает сместить приоритеты.

[uhf]

Ага, то есть я должен решать проблему голода, а Twitter (компания с капитализацией 40 млрд) будет решать проблему дискриминации негров алгоритмом кадрирования? Ну ок, замолкаю.

[Qwerty19999]

Мы же равны, напишите свой алгоритм с блекджеком и черными лицами. Не по силам? Пользуйтесь чем есть и не выебуйтесь

[loderunner84]

Социальная справедливость — это умение решать проблемы за чужой счет. Вроде того комментатора выше, который хочет помочь голодающим за счет триттера.

[VitalHar]

господи, лучше бы редактирование твитов наконец ввели.

[xxxLOGIATxxx]

Возможно пользователям просто надо включать свет ​

[Shtucer]

А потом объясняй, почему это они включают расистский белый свет, и не включают идеологически верный чёрный...

[Kazehay]

Все негодуют о неграх, но никто не обратил внимания на перекос в сторону женщин. Фу такими быть. Режьте сами свои фотки как хотите.