Европейская комиссия для борьбы с сексуальными надругательствами над детьми в интернете предложила требовать от таких компаний, как Meta* и Apple, внедрять системы сканирования контента с сексуальным насилием над детьми на своих платформах. Предполагается, что личную переписку пользователей будет проверять система искусственного интеллекта, а затем её будет изучать уполномоченный сотрудник.
В релизе ЕК говорится, что только за 2021 год в мире было зафиксировано 85 млн фотографий и видео, на которых запечатлено сексуальное насилие над несовершеннолетними. По сравнению с 2020 годом число подтвержденных случаев сексуальной эксплуатации детей выросло на 64%. Данные оценки удалось получить на основе данных, которые добровольно передавали сервисы, специализирующиеся на эротическом и порнографическом контенте.
В ЕК считают, что новый закон должен касаться всех онлайн-сервисов, предлагающих услуги в ЕС: мессенджеров, интернет-провайдеров, магазинов приложений и хостингов.
Еврокомиссия предлагает создать базу CSAM (Child Sexual Abuse Material, «материалы, описывающие сексуальное насилие над детьми»). Это база конкретных изображений, которую собрали организации по защите детей, фотографии из которой или похожие на них будут искать в соцсетях и цифровых хранилищах. Технологии обнаружения CSAM обычно основаны на хешировании, то есть, каждому изображению из базы данных присваивается уникальный цифровой отпечаток. Коллекция таких хешей загружается на платформу или устройство. Фотографии, которые пользователи отправляют друг другу в переписках или загружают в облако, также получают свой хеш. Если в сообщениях возникнет изображение с детской порнографией, искусственный интеллект выделит его в соответствующую категорию и сопоставит код с уже загруженными. При совпадении хешей изображение проверит сотрудник компании.
Затем компании должны будут сообщить об обнаруженном изображении в специально созданный Центр ЕС. Национальные органы могут обязать удалить контент, если файлы не были быстро удалены самими платформами, либо обязать провайдеров отключить доступ к фото и видео, которые размещены за пределами ЕС.
Если компания нарушит правила, ей будет грозить штраф в размере до 6% от глобального годового оборота.
Однако критики идеи заявляют, что закон фактически лишит частной жизни и безопасности миллионы людей. Они также указывают на высокую вероятность ложной идентификации.
Эксперты «Лаборатории Касперского» отмечают: «Претензии правоохранительных органов о сложностях в поимке преступников и сборе доказательной базы из-за повсеместного внедрения шифрования понятны. Опасения по поводу массовой цифровой слежки тоже очевидны. Проблема заключается в том, что общественного договора, определяющего баланс между безопасностью и приватностью, пока нет».
ЕК обещает предотвращать злоупотребление технологиями и будет поощрять только варианты, наименее нарушающие конфиденциальность. Для расшифровки хеша, скорее всего, потребуется несколько совпадений. Таким образом, под действие закона подпадут уже известные материалы CSAM, новый CSAM-контент, а также сообщения, содержащие груминг. Однако это предполагает анализ текстовых сообщений, который выглядит ещё менее прозрачной и точной процедурой, чем поиск CSAM-изображений.
«Пугает то, что, как только вы используете машины, читающие ваши текстовые сообщения, для какой бы то ни было цели, остальные ограничения просто исчезают», — говорит профессор криптографии Мэтью Грин.
В июле 2021 года Европейский парламент одобрил закон, позволяющий компаниям сканировать переписки на предмет сексуального насилия над детьми, не опасаясь нарушения GDPR.
В начале августа журналисты Financial Times выяснили, что Apple намерена встроить в свои iPhone бэкдор, который позволит проверять смартфоны на наличие фотографий с жестоким обращением с детьми. Система получит название neuralMatch. Компанию резко раскритиковали специалисты по кибербезопасности — по их словам, это опасно тотальной слежкой за пользователями устройств. В сентябре стало известно, что Apple отложила свои планы по сканированию пользовательских фотографий.
Между тем правительство Великобритании согласилось с инициативой Apple и заявило, что хочет заполучить возможность проверять зашифрованные сообщения, даже если используется сквозное шифрование.
* признана экстремистской организацией, её деятельность в России запрещена
