Microsoft прописала в условиях обслуживания прямой запрет на использование Azure OpenAI полицией США (или кем‑либо для полиции США) для распознавания лиц. Для правоохранительных органов по всему миру прописан запрет на использование системы для распознавания лиц на видео с мобильных камер «в прямом эфире», при этом не упомянут запрет на использование системы в стационарных камерах в «контролируемых средах».
Как указано в одном из новых пунктов условий обслуживания, полиции США запрещено использовать Azure OpenAI для распознавания лиц в целом, для правоохранительных органов по всему миру — использовать для распознавания лиц в режиме реального времени на мобильных камерах для идентификации человека в «неконтролируемых условиях». В качестве конкретного примера Microsoft приводит патрульных, использующих нательные камеры или видеорегистраторы, установленные на приборной панели патрульной машины, использующие технологию распознавания лиц для идентификации лиц, присутствующих в базе данных подозреваемых или бывших заключенных.
За неделю до введения изменений компания Axon (производитель оборудования и софта для военных и правоохранительных органов) анонсировала решение, использующее OpenAI GPT-4 для расшифровки звука с мобильных камер у полицейских. Правозащитники указали на «галлюцинации» у ИИ и расовые предубеждения, появившиеся из базы данных, используемой для обучения. Согласно этой базе, у «цветных» больше нарушений, а значит ИИ на них может обращать особо пристальное внимание и влиять таким образом на предвзятость самой полиции.
