Facebook опубликовала датасет лиц с указанием пола, возраста и тональности цвета кожи

[NotToxic]

[Amanku]

ИИ от Amazon, Clarifai, Microsoft и других поддерживает уровень точности выше 95% для цисгендерных мужчин и женщин, но ошибочно идентифицирует трансгендерных мужчин и женщин в 38% случаев. Н

О, нашел что-то общее у меня с ИИ от Microsoft'a :)

[barbaris76]

Не понял, а как модель должна определять трансгендерность? Тем более, если она будет только в голове у отвечающего? Можно ведь только определить, с какой вероятностью человек относится к женскому или мужскому полу, и всё. Если Василий наденет парик, накрасит губы и будет называть себя Василисой — то, боюсь, если он не прошел мощную гормональную терапию и не сделал десяток пластических операций, алгоритм, скорее всего, распознает в нем мужчину, чего бы там себе Василий не нафантазировал.

[picul]

«Специалисты по этике» лишь говорят что должна; как — это уже вопрос к специалистам по машинному обучению.

[mypallmall]

… чего бы там себе Василий не нафантазировал

Василий ничего себе не нафантазировал. А, если и «нафантазировал» то вероятно это было как минимум за 10 лет до того, когда было сделано фото. А, именно в период полового созревания. То есть, до примерно 12 летнего возраста.

… как модель должна определять трансгендерность?

Иди знай, может быть модель сможет уловить, то что человеческий глаз уловить не может.
Как пример, у многих животных зрение на порядок «мощнее», чем у человека.

[gsaw]

Ранее исследования показали, что в современные модели классификации изображений, обученные в ImageNet, популярном наборе данных из открытых источников, автоматически закладываются человеческие предубеждения относительно расы, пола, веса и т. д.

Немного не так мне кажется. В научной статье речь о «human like biases», а не о «автоматически закладываются человеческие предубеждения». И не в сетях дело, а в том на чем их тренируют. Сетям все равно, белый или черный.

А так согласно цитате получается сети расисты и их надо как то исправить. Наверное все картинки с человеками делать одного цвета при обучении, обрезать всякие выпуклости на теле итд. И будет мир во всем мире.

[Vinchi]

Вот когда трансгендер на уровне днк будет доказан можно начинать париться.

[Nehc]

ИИ от Amazon, Clarifai, Microsoft и других поддерживает уровень точности выше 95% для цисгендерных мужчин и женщин, но ошибочно идентифицирует трансгендерных мужчин и женщин в 38% случаев.

Я не совсем понял: т.е. ИИ определяет пол по чисто биологическим признакам и считается, это ошибка? Или наоборот? Что значит «ошибочно идентифицирует трансгендерных мужчин и женщин в 38% случаев» — ошибочно с точки зрения биологии или их собственного о себе представления? И что сделали в фейсбуке — в качестве ground truth подали то, что люди сами о себе написали? И что — помогло? Ну т.е. стало «лучше»?