Алгоритм обрезки изображений Twitter предпочитает более молодые лица и более светлую кожу. К таким выводам пришли участники конкурса, посвященного расследованию предвзятости программного обеспечения.
Лучше всех проблему удалось продемонстрировать Богдану Кулиничу, аспиранту швейцарского университета EFPL. Он сгенерировал множество человеческих лиц, а затем пропустил их через алгоритм обрезки Twitter, чтобы увидеть, на что ориентируется ПО. Некоторые лица были почти идентичными, но разного пола, возраста и цвета кожи. Кулинич выяснил, что алгоритм действительно фокусировался на более молодых, стройных и светлых лицах чаще, чем на тех, что были старше, толще или темнее. Компания выплатила студенту $3,5 тысячи долларов.
Другие участники отметили также, что алгоритм обрезает фотографии, оставляя вне кадра пожилых людей и инвалидов. При публикации фото с надписями (например, мемов) алгоритм предпочитал латинские шрифты арабским. Полные результаты конкурса подтвердили расизм, сексизм и эйджизм алгоритма. Один участник даже обнаружил, что технология предпочитает смайлики с более светлым оттенком кожи смайликам с темным оттенком.
ПО Twitter подверглось критике в 2020 году, когда пользователи заметили, что алгоритм чаще фокусируется на белых лицах, чем на темнокожих. Компания сначала извинилась, заявив, что команда платформы провела тест на предвзятость перед запуском модели и не нашла доказательств расовой или гендерной предвзятости.
В более позднем собственном исследовании Twitter обнаружила лишь очень умеренную предвзятость в пользу белых лиц.
