Comments 55
Война меча и щита начата! Ваш ход, компания!
Я имел в виду, что будет некое распознавание фото, а в ответ будут программные средства как этого избежать. По типу блокировок и VPN. Не более того.
Именно, в очередной раз прикрываясь "детьми, наркотиками и террористами" бьют по нашей приватности. Да, этот инструмент можно использовать и для тех "благих" задач, только вот его возможности этим не ограничиваются, и нет причин почему они не могут использовать иначе, как и причин доверять им на слово
Я правильно понимаю, что в момент синка фоток с клаудом, у каждой новой фотки будет посчитан хеш, который уедет на серваки эпла, что бы сравниться с базой хешей которая вообще у фбр и прочих ?
И из-за этой фигни весь сыр бор?
В плане, ну блин, микрософт получает краш репорты с миллионом деталей о системе, про гугл и гугло фотки, собирающий вообще все даж как-то и упоминать.., про андроид - туда же.. (я сейчас про обычные миллионы пользователей которые дают доступ всему ко всему не глядя, а не про 1% гиков) а тут - хеши?
Я не за, каждая такая добавка уменьшает и ухудшает приватность, но почему конкретно на этот маленький эпизод, прямо скажем достаточно незначительный на фоне общего - вдруг такая агрессивная реакция ? Я вот это не очень понимаю, кто б мне пояснил, чем и как хеши так опасны?
Это вообще возможно ? Типа какого-то усредненного хеша членов, сисек, и т.д. И суммарный который говорит что - похоже тут что-то не то? Оо
Вы для меня сейчас открыли новое и неизвестное, спасибо
Да, возможно, алгоритмы computer vision и нейросети неплохо научились различать объекты. Плюс у них дополнительный огромный датасет для обучения - фото на устройствах, и качество этих данных значительно лучше чем данных с камер видеонаблюдения (а значит их проще классифицировать).. Но это что касается распознавания объектов.
Что касается базы хэшей с "усредненными членами" - тут поход немного иной, фото проходят предварительную постобработку перед расчётом хэша. Это позволяет срезать значительную часть возможных артефактов при конверсии между форматами и графической обработки исходного изображения. После этого рассчитывается хэш, принципиальная разница с криптографическим у него в том, что при изменении даже одного бита криптографический хэш изменится до неузнаваемости и единственное что можно сказать о файлам по их криптографическим хэшам - что они отличаются. Используемые же в данном случае алгоритмы (есть несколько популярных походов со своими плюсами и минусами, но никто не запретит корпорации заняться разработкой своего. Уж что-что, а ресурсы на это у них есть) позволяют оценивать "расстояние" между хэшами и у двух практически одинаковых изображений будут близкие хэши. Кроме того, можно выделять объекты на изображении и обрабатывать уже их, или тупо разрезать картинку на блоки что позволит оценивать совпадения даже на обрезанных изображениях. Походы можно комбинировать.
У подобного поиска по изображению есть недостаток в виде куда более простых способов создания искусственных коллизий и два абсолютно разных изображения могут получить одинаковый хэш, после наложения на одно из них специально рассчитанной маски на основе второго. При этом первое останется узнаваемым.
>фото даже в облако не улетело
Вообще-то только в облаке и сканируется, не локально. Мне, конечно, тоже не нравится, что происходит, но давайте все же будет оперировать фактами.
Если верить вот этому, то как раз на устройствах и будет сканироваться. При условии включенной синхронизации, и мы конечно "верим", что все так и будет. Особенно с учётом того что они наверняка будут настойчиво рекомендовать включить синхронизацию ибо от неё одни "плюсы"
Насчёт жены вы чушь написали, будет сравнение с базой уже собранных фотографий, а не просто поиск детского порно
По большому счету оно может попасть туда из clearnet-a, вплоть до передачи через мессенджер самому себе. Но если хочется сразу их дарквеба - то ВПН клиент до входной настроенной ноды - и вперёд, на покорение дарквеба
А я слабо представляю как вести переписку имеющую хоть какую либо ценность или несущую угрозу для меня никак её не защищая, пусть даже это будет банальный tls от браузера до сервера прячущий от промедуточных узлов. А вот террористы во Франции координировалась по средствам обычных смс, никак не защищённых. Но это есть, а мессенджеры с "честным" e2e ещё и закроют от создателей мессенджера что именно ты передал. Но вот я все равно против ослабления шифрования и допуска спецслужб к личным перепискам, пусть я и буду в них отправлять фото котиков и обсуждать бабочек.
А каким образом проверка скачанного файла по базе данных хэшей файлов защищает детей? Видимо, это работает таким образом: система обнаруживает фотографию изнасилования ребёнка и откатывает транзакцию, в которой ребёнок был изнасилован, таким образом, чтобы ребёнок разнасиловался обратно.
Другой версии у меня нет.
Примерно так же, как защищают запреты аниме и рисованных картинок. Нейросети могли бы "узнать" новый авторский контент, только вот это дополнительные ложно положительные срабатывания и ещё более глубокий зонд телеметрии. Нет, ни то, ни другое во благо не будет работать принципиально
Даже если там будет специнтеллект, который будет автоматически определять возраст вагины по мутной фотке 320х200, то, повторю, как оно будет защищать ребёнка? Роллбэк пенетрации?
Пострадавшим - разве что психологическая помощь. Новых - тюрьмой для совершившего. Но, это если допустить существование нейросети способной очень четко распознавать новый "контент" с минимальным false-positive. И даже будь такая сеть - я был бы всё равно против её внедрения.
Только это вот фантастика, а анализ по базе хэшей защитит так же как и блокировка аниме. Т.е. никак, эту задачу нужно решать иначе.
Ещё раз, если кто-то скачал фотку, каким образом обнаружение этой фотке кому-то поможет? Даже самая интеллектуальная нейронная сеть не сможет определить где этот ребёнок находится, и в каком году фотография была сделана.
Я понимаю, что бороться с детской порнографией благородно. Но дети страдают не от детской порнографии, а от сексуального насилия.
... Напоминает рассказ, в котором герой решил бороться с упоминаниями драконов. Он ходил по деревням, сжигал книги про драконов, крушил их статуи, закрашивал их изображения. Потом ему сказали, что за деревней живёт дракон и попросили его убить, на что герой сказал, что он борется с памятью о драконах, а не с драконами, и тихо слинял.
Называть её я не буду, потому что закон внезапно может иметь обратную силу, а эта контора(и другие трёх буквенные) внимательно читают все сообщения на данном сайте и может счесть данное сравнение оскорбительным, подтянув/придумав на это дело какой нибудь закон.
Тогда пусть прочитают моё послание: неоСССР падёт!
/оффтоп/
А по сабжу, полностю согласен с 404амарао(кстати давно Вас читаю). %Юзернэйм, мог просо загрузить фото с фотохостинга для помастурбировать. Хотя есть вариант анализировать метаданные, если фото было сделано с камеры этого айфона(айди-камеры, когда, еще там что..)? А в остальном, пострадают "невинные" извращенцы?
А так же, не забывайте, что добрая половина порно студий живет на том, что нанимает молодых моделей 18+ выглядящих очень молодо, а позиционирует их, как: teens, young rough и тд..
То есть вся эта задумка очень спорная, и единственное, что немного оправдывает затею, если они будут сканировать прежде всего метаданные подтвержадющие, что снимок был сделан с конкретного девайса, а потом смотреть нейро-связи с базамм ФБР, но и то - выглядит с(т)ранно:(
Да и дети благодаря интернету стали быстрее взрослеть в этом плане.
Что интересно будет делать полиция если найдёт запрещённый контент который сам несовершеннолетний владелец сделал, не особо понимая что это незаконно.
Посадить ребёнка за то что он занимался кое чем на камеру, а потом продавал свои фото/видео?
У нас так «шпионов» ловили. Что дело до президента дошло и внесения поправок в закон.
Сотрудники с ФГМ есть в любых органах любых стран.
Повышается риск чего? Уменьшается выгода чего? Каким образом "риск фотографирования с айфона" хоть каким-то образом снижает риск принудительной пенетрации для ребёнка?
а при чём тут бизнес, если львиная доля всего происходящего, так сказать, "для души"?
Хотя это возможно бизнес обмана, т.к. обманутый клиент никуда жаловаться не пойдёт.
Я бы поставил 100 рублей на то, что это чисто разводилово лохов.
Но я думаю скоро такой «бизнес» закроется, т.к. сам себе роет могилу(все просто перестанут верить продавцам в телеге).
Когда ты заливаешь легальное видео на условный порнхаб, у тебя условная галочка "получать бабло за рекламу". Когда ты пытаешься продать нелегальное видео хоть кому-то, ты рискуешь встретиться с полицией и сесть всерьёз и надолго. В таких условиях мотивации творить ради денег, а не "для души", по-моему, не очень-то много.
Я подозреваю, что мало того, что "бизнес" в распространении нелегального видео — это капля в море, но и видео любого сорта — это капля в море собственно физических деяний. Подобные записи на порядок повышают риск встретиться с полицией.
А вы сейчас, по сути, рассказываете, что наркотой барыжат для души.
У продажи наркотиков и производства нелегальных видео тюремные сроки различаются в 10 раз, потенциальный доход в 1000 раз, целевая аудитория в 10000 раз. Я уж молчу про восприятие окружающими: одно — посидел и вышел, другое — клеймо на всю жизнь, которое ставит крест на личной и профессиональной жизни. Ну вы сравнили, конечно.
За порнохаб к вам так же могут прийти. В РФ — за создание и распространение порнографии, например.
В России скорее за распространение запрещённых мультиков в eMule в Shareaza придут. За ПорнХаб, ну, в Китае, может, придти могут.
А ещё туда немного лили чужие видосики и изнасилования.
Сомневаюсь, что таких видео больше 0.0001%, так что вряд ли имеет смысл обсуждать с точки зрения закономерностей.
Вы, видимо, очень мало знаете о порнографии. В интернете это товар №1 уже многие годы и вряд ли это когда-нибудь изменится.
А где написано, что цель — защищать детей?
Спасибо Apple за ещё 1 повод не покупать iPhone )
Твою мать! Я буду судить! Я буду судить бумагу и Древний Египет! Я буду судить Альзазена за изобретение фотографии! И бумаги!
Как они посмели... Из-за их позорного изобретения страдают люди.
У меня есть две идеи. Первая чисто "поржать", а вторая серьезная:
1) del, ибо народ не оценил идею заговора;
2) коротко: я не могу понять - это вообще законно? Вроде как есть основополагающие статьи о праве на приватность частной жизни, переписки, и онное может быть нарушено только с санкции суда. Тут получается, санкция была выдана заочно/привентивно? Ведь дойдет до того, что чьи-то репльно безобидные фотки просканируют(выяснится, что это не то, что искали), но этот уже скандал станет достоянием общественности, и пострадавший скажет: какого черта, кто-то сканировал мои фото без санкции суда?! Пусть из хороших побуждений
Странно это все выглядит.
Глава антифрод-подразделения Apple назвал компанию «платформой для распространения детского порно»