Twitter признал, что алгоритм обрезки изображений платформы чаще выбирает для превью лица белых, а не чернокожих. В компании считают, что людям стоит кадрировать изображения для предварительного просмотра самостоятельно.
Twitter начал использовать алгоритм для обрезки изображений в 2018 году. Функция обрезает изображения так, чтобы они помещались в окнах предварительного просмотра. Алгоритм пытается определить, что будет наиболее интересно пользователю, и включает эту часть изображения в превью. Некоторые обвиняют алгоритм в предпочтении белых лиц темнокожим. Чтобы определить, так ли это, Twitter подготовил исследование.
Его результаты показали, что алгоритм чаще выбирает для превью лица белых, а не чернокожих женщин в 7% случаев и предпочитает белых мужчин темнокожим в 2% случаев. Общий результат — 4% предпочтение белых.
Twitter также проверил алгоритм на предмет предвзятости по половому признаку, пытаясь понять, выбирает ли алгоритм мужчин для превью чаще, чем женщин, и не обрезает ли он фотографии женщин ненадлежащим образом (например, кадрируя фото вокруг груди или ног, а не лица). Выяснилось, что алгоритм отдавал предпочтение женщинам в 8% случаев, но примеров неуместного кадрирования исследователи не нашли.
Twitter также признает, что использование машинного обучения для кадрирования изображений лишает пользователей свободы действий. Компания пришла к выводу, что «не все в Twitter является хорошим вариантом применения алгоритма, и в этом случае решение, как кадрировать изображение, лучше пусть принимают люди».
Чтобы облегчить кадрирование, Twitter увеличил размер превью изображений в своих приложениях для iOS и Android. Когда нужно обрезать изображение, пользователю будет показан предварительный вариант, как оно будет выглядеть.
