Как стать автором
Обновить

Результаты конкурса Twitter подтвердили, что ее алгоритм обрезки фотографий на самом деле «расистский и сексистский»

Время на прочтение1 мин
Количество просмотров4.9K
Эксперименты с изменением тона кожи показали, что алгоритм предпочитает светлую кожу более темной
Эксперименты с изменением тона кожи показали, что алгоритм предпочитает светлую кожу более темной

Алгоритм обрезки изображений Twitter предпочитает более молодые лица и более светлую кожу. К таким выводам пришли участники конкурса, посвященного расследованию предвзятости программного обеспечения.

Лучше всех проблему удалось продемонстрировать Богдану Кулиничу, аспиранту швейцарского университета EFPL. Он сгенерировал множество человеческих лиц, а затем пропустил их через алгоритм обрезки Twitter, чтобы увидеть, на что ориентируется ПО. Некоторые лица были почти идентичными, но разного пола, возраста и цвета кожи. Кулинич выяснил, что алгоритм действительно фокусировался на более молодых, стройных и светлых лицах чаще, чем на тех, что были старше, толще или темнее. Компания выплатила студенту $3,5 тысячи долларов.

Другие участники отметили также, что алгоритм обрезает фотографии, оставляя вне кадра пожилых людей и инвалидов. При публикации фото с надписями (например, мемов) алгоритм предпочитал латинские шрифты арабским. Полные результаты конкурса подтвердили расизм, сексизм и эйджизм алгоритма. Один участник даже обнаружил, что технология предпочитает смайлики с более светлым оттенком кожи смайликам с темным оттенком.

ПО Twitter подверглось критике в 2020 году, когда пользователи заметили, что алгоритм чаще фокусируется на белых лицах, чем на темнокожих. Компания сначала извинилась, заявив, что команда платформы провела тест на предвзятость перед запуском модели и не нашла доказательств расовой или гендерной предвзятости. 

В более позднем собственном исследовании Twitter обнаружила лишь очень умеренную предвзятость в пользу белых лиц.

Теги:
Хабы:
Всего голосов 10: ↑8 и ↓2+17
Комментарии24

Другие новости

Истории

Ближайшие события

7 – 8 ноября
Конференция byteoilgas_conf 2024
МоскваОнлайн
7 – 8 ноября
Конференция «Матемаркетинг»
МоскваОнлайн
15 – 16 ноября
IT-конференция Merge Skolkovo
Москва
28 ноября
Конференция «TechRec: ITHR CAMPUS»
МоскваОнлайн
25 – 26 апреля
IT-конференция Merge Tatarstan 2025
Казань