Комментарии 11
Разработчики подчеркивают, что не используют, не хранят и не просматривают пользовательские изображения. Кроме того, медиафайлы не покидают устройство пользователя — хеширование происходит на машине юзера.
Хорошо... Даже готов забыть техника Эппл и обработку паром ноутбука. Это НАМНОГО лучше, чем прислать нюдсы самому себе и надеяться, что техники признают их не фапабельными (как было предложено в Австралии) и заблочат.
Только вот простое редактирование фото позволяет полностью обойти хэш!
Есть разные алгоритмы хеширования.
Почитайте: https://habr.com/ru/post/120562/
Сравнение через хеши, в частности: MD5 for videos. Т.е. достаточно перекодировать что угодно в видео, да даже просто поменять контейнер.
Для фото интереснее: PDQ, но тесты его (https://arxiv.org/pdf/1912.07745.pdf) не такие впечатляющие:
In an investigative context, we would recommend removal of more than 10% be regarded as out of scope for reliable match detection.
(10% обрезки достаточно для обхода алгоритма)
А могу ли я зайти на онлифанс какой-нибудь "модели", скачать её фотку, загрузить на этот сайт и наблюдать, как фотки удаляются?
Здесь нет никаких гарантий, что заинтересованный системный администратор не подменит код, который выполняется в браузере пользователя, и не начнёт собирать эти самые фото. Нет гарантий, что фото не покинет устройство пользователя. Злоупотребления такие были и будут. Отдельно стоит добавить потенциальные риски MitM.
Последнее дело, что нужно делать с чувствительным контентом — обрабатывать его недоверенным, неверифицированным удалённым кодом.
Единственный надежный способ нераспространения интимных фотографий - это не фотографироваться в пикантном виде)
Опыт учительницы в купальнике намекает, что границы пикантности у всех разные.
Я так понимаю, что проблема распространения интимных фотографий, в основном, в возможности шантажа угрозой их размещения в открытом доступе. Фоткой в купальнике сильно не пошантажируешь...
Вы не в курсе этой истории? Учительница выложила фото на своей странице в Вк. Ученики перетащили на свою ленту и стали похабно комментировать. Мать одного оболтуса увидела и написала директору. Директорша обвинила учительницу в возбуждении педофилии и предложила уволиться. В общем была буча и учительницу отстояли. НО осадочек то остался...
В общем то фейсбук анонсировал неплохой механизм, чтобы такие, внезапно ставшие вирусными, фото гасить. Беда только в том, что не очень то он пока работает...
Что-то непонятно, как это должно работать. Если я, к примеру, загружу туда хеш не голых фоток, а обычных, их тоже потрут? Или у них есть чудо-алгоритм, который по хешу умеет определять достаточно ли одет человек на фото, и есть ли там вообще человек? А если это будут не мои фотографии, а чужие? В общем пока всё это выглядит как пустая показуха и ещё один шпионский зонд.
Meta запустила сервис StopNCII.org для борьбы с распространением интимных фото и видео без согласия