В апреле 2019 года издание Bloomberg шокировало пользователей Amazon Alexa тем, что подрядчики Amazon прослушивают аудиозапросы, адресованные голосовому помощнику, для улучшения его работы. Теперь, как стало известно изданию из собственных источников подразделения Amazon в Индии, десятки работников-людей в Индии и Румынии могут просматривать отрывки видео, снятых с помощью ещё одного устройства Amazon — облачной камеры видеонаблюдения камеры Cloud Cam.
Видеоролики используются для обучения алгоритмов искусственного интеллекта. К примеру, ИИ учат отличать реальную угрозу от ложной. Сейчас Cloud Cam может среагировать, послав сигнал тревоги из-за прыгнувшей на диван кошки. Чтобы исправить это, подрядчики Amazon отсматривают в день около 150 видеороликов длительностью от 20 до 30 секунд.
Как приводит слова пресс-службы Amazon агентство Bloomberg, записи с камер Cloud Cam присылают работающие на компанию тестировщики продукции, а также сами владельцы устройств, которые отправляют видео для устранения недочетов, например, ошибочного оповещения или плохого качества картинки.
«Мы серьезно подходим к вопросу неприкосновенности частной жизни и предоставляем пользователям возможность контроля за видеозаписями Cloud Cam, — заявила представитель компании Amazon. Также она подчеркнула, что за исключением тех случаев, когда записи предоставляются компании для устранения недочетов, возможность просмотра видео с камер есть только у самих клиентов.
В свою очередь, инсайдеры Bloomberg сообщают, что команды подрядчиков, работающих с Cloud Cam в Индии и Румынии, не знают, как компания выбирает отрывки видеозаписей для обучения искусственного интеллекта, но они отметили, что в видеоряде не было заметно очевидных технических сбоев, которые потребовали бы его передачи в целях устранения неполадок.
В пользовательском соглашении к Cloud Cam прямо нет прямых указаний на то, что люди участвуют в процессе обучения алгоритмов обнаружения движения, которые используются в работе устройства. В разделе «Вопросы и ответы» о Cloud Cam на своем веб-сайте Amazon говорит, что «только вы или люди, которым вы предоставили информацию о своей учетной записи, могут просматривать ваши видеозаписи, если только вы не решите отправить запись нам напрямую для устранения неполадок. Клиенты также могут делиться записями по электронной почте или в социальных сетях».
Хотя в Amazon уверяют, что пользователи предоставляли записи добровольно, инсайдеры Bloomberg утверждают, что среди них есть такие, какими люди точно не хотели бы выставить на всеобщее обозрение — например, кадры ссор или интимной близости.
Камеры Cloud Cam появились в продаже в 2017 году. Вместе со смарт-динамиками Echo это еще одно устройство Amazon, рассчитанное на использование в рамках систем «умного» дома. Стоимость Cloud Cam составляет 120 долларов. За эти деньги пользователь получит камеру, которая в его отсутствие будет наблюдать за обстановкой в дома и подаст сигнал тревоги в случае опасной ситуации — например, незаконного проникновения в жилище.
Помимо Amazon, в прослушивании аудиозаписей пользователей в этом году обвинялись Google, Apple и Microsoft. В июле компания Google официально признала, что её подрядчики систематически прослушивают аудиофайлы, записанные «умными» колонками Google Home и приложением для смартфонов Google Assistant. Подрядчики Apple прослушивали личные разговоры и команды, отданные голосовому помощнику Siri в рамках глобальной программы оценки работы помощника, из-за чего Apple даже столкнулась с коллективным судебным иском и была вынуждена приостановить программу оценки. С подобными обвинениями столкнулась и корпорация Microsoft: журналисты обнаружили, что разговоры через Skype также прослушиваются сотрудниками подрядных организаций, причём речь шла как о личных разговорах пользователей, так и о командах голосовому помощнику Cortana.
Техногиганты по-разному отреагировали на связанные с конфиденциальностью пользователей скандалы. Amazon, например, изменил настройки конфиденциальности в приложении Alexa и дал возможность просить Alexa удалять записанные ранее аудиоданные. Apple, как и Google, извинилась перед своими пользователями и также внесла изменения в политику, чтобы усилить контроль над информацией пользователей и отказалась от прослушивания записей сторонними подрядчиками. Microsoft пообещал «пересмотреть способы обработки голосовых данных, чтобы обеспечить максимально четкие варианты выбора для клиентов и обеспечить надежную защиту конфиденциальности».
