В 2021 году житель Сан-Франциско по имени Марк заметил, что пенис его сына опух и причиняет ребёнку боль. Мужчина сделал фотографии на смартфон на Android, чтобы задокументировать проблему и назначить онлайн-встречу с врачом. Приём в поликлинике был невозможен из-за пандемии. Медсестра попросила отправить фотографии, чтобы врач мог просмотреть их заранее. Историю Марка рассказал The New York Times.
Жена Марка отправила с его смартфона несколько фотографий на свой iPhone, чтобы загрузить их в систему обмена сообщениями поставщика медицинских услуг. В одном из них была видна рука Марка, что помогло лучше показать степень отёка. С помощью фото врач диагностировал проблему и прописал ребёнку антибиотики.
Через два дня после консультации с врачом на телефон Марка пришло уведомление о блокировке его учётной записи из-за «вредоносного контента». Кнопка «узнать больше» привела к списку возможных причин, включая «сексуальное насилие над детьми и их эксплуатацию».
Мужчина предположил, что алгоритмы Google отнесли фотографии гениталий мальчика к детскому порно. Марк заполнил форму с просьбой пересмотреть решение, но Google ответил, что не восстановит учётную запись, и отказался от каких-либо дальнейших объяснений.
Мужчина потерял электронные письма, контакты друзей и бывших коллег, а также документацию о первых годах жизни своего сына. Учётная запись Google Fi тоже стала недоступна. Без доступа к своему старому номеру и адресу электронной почты он не мог получить коды безопасности, необходимые для входа в другие интернет-аккаунты. Google фактически заблокировал большую часть его цифровой жизни.
Компания передала сведения о «детском порно» в Департамент полиции Сан-Франциско. Следователь изучил материалы дела и решил, что никакого преступления не было. Марк попросил следователя сказать Google, что он невиновен, чтобы компания вернула ему аккаунт, но его учётную запись уже удалили.
