Comments 105
Как-то уж очень много на себя собирается взять apple. И дело даже не в нужности / ненужности, а на каком основании коммерческая организация берет на себя право и обязанность полицейской / судейской системы? Я уже молчу про возможность ошибок и манипуляций
а) Они могут
б) Мы им сами даём материал для этого
в) Сейчас это в тренде.
Потому что «добровольное сотрудничество кабы чего не вышло» — одно дело, а subpoena + gag order — другое. Во втором случае вы совершаете преступление просто упоминая тот факт, что государство что-то от вас хотело (не говоря уже о том, если откажаетесь выполнять требование суда).
Вы определенно не понимаете, что такое subpoena в юридическом смысле. Если сильно упрощённо, то вы, фактически, спрашиваете, возможно ли выписать ордер на обыск, который не связан ни с конкретным расследованием, ни с конкретными подозреваемыми, имеет открытую дату (позволяет приходить и искать когда угодно и сколько угодно раз), а ограничен только объектом поиска. Нет, такой мрак совершенно невозможен. Впрочем, возможен закон, который позволял бы такое, и нечто подобное есть в Австралии, но нет в США.
Добавлю, что хотя некоторый произвол со стороны спецслужб всегда возможен, масштаб этого и методы его реализации могут очень различаться от страны к стране. Именно по этой причине случилось, например, известное (вероятно, не вам) недавнее противостояние по поводу шифрования телефонов между Apple и ФБР. И именно по этой причине спецслужбы в США стараются протолкнуть технические средства обхода шифрования и т.п. какими угодно методами, а не просто пользуются "телефонным правом", как в других странах.
PRISM дает право Агентству получать самую разнообразную информацию: просматривать электронную почту, прослушивать голосовые и видеочаты, просматривать фотографии, видео, отслеживать пересылаемые файлы, узнавать другие подробности из социальных сетей.
По заявлениям спецслужб, по решению суда на активное сотрудничество вынуждены были пойти многие крупные компании, предоставив спецслужбам доступ к серверам Microsoft (Hotmail), Google (Google Mail), Yahoo!, Facebook, YouTube, Skype, AOL, Apple и Paltalk.
(...)
Директор Национальной разведки США Джеймс Клэппер принёс извинения перед американским Сенатом за ложное заявление о характере работы АНБ, которое он сделал в марте 2013 года на слушаниях в Сенате. Тогда Клэпперу был задан вопрос, ведёт ли АНБ сбор данных о миллионах американцев. Клэппер ответил: «Нет, сэр».
(Википедия)
То есть, если по-честному, он должен был бы ответить: «Да, сэр. Ведем, сэр. Собираем данные о миллионах американцев, крупные компании предоставили нам доступ к своим серверам по решению суда.» Все эти миллионы американцев были, исходя из вашей трактовки, «конкретными подозреваемыми»?
Ситуация с PRISM не противоречит тому, что я утверждал выше, потому что вы, опять, не понимаете юридической механики этого конкретного нарушения со стороны NSA. Во-первых, факт того, что это было признано нарушением, как раз и указывает на то, что законно требовать "дать им доступ ко всему подряд" спецслужбы не могу, всё подряд они могут получить только незаконно. Во-вторых, законная процедура использования предполагает решение суда (ордер), который разрешает получение информации, прямо относящейся к конкретному расследованию (и ключевым словам/фразам). Это всё равно не ситуация, когда "NSA пришли к Google и сказали выдать им всё подряд, при этом это было законно". Другие случаи (например, история с обвинением Майкла Флинна в сотрудничестве с российскими спецслужбами) также иллюстрируют это - слежка была авторизована специальным судом FISC в результате того, что представители спецслужб соврали суду.
Для тех, кто всё ещё не понимает, о чём идёт речь, коротко суммирую, что проблема со слежкой конкретно в США не в том, что она законна, а в том, что спецслужбы не несут ответственности за нарушение закона в должной степени. И в том, что такие нарушения сравнительно (для них) легко совершить, либо злоупотребляя возможностями существующих инструментов, либо введя суд в заблуждение.
Ну, вы не понимаете или отвергаете разницу между описанным вами невозможным гипотетическим ордером "на всё вообще, без всяких оснований, потому что нам так хочется" и вполне реальным ордером на конкретные ключевые слова в рамках конкретного расследования, которым ещё и злоупотребили. Вот в Австралии, например, нет такой структуры, как FISC, там то, про что вы говорите, возможно. Забавно, что существует абсолютно пророческий художественный фильм Secret City о том, как это там работает, снятый незадолго до того, как тамошним спецслужбам были даны практически неограниченные полномочия, описанные в фильме.
Они просто не хотят хранить такие фотки у себя в облаке, во избежание проблем с законом у самой Apple. Проверка будет проводиться для тех изображений, которые синхронизируются через iCloud.
Потому что никто не возражает. Рухнули акции эпл после этой новости? Нет.
Покупатели отказались от эпл? Нет.
Значит слежка всех устраивает.
Жду, когда к Apple придёт КПК и предложит включить эту технологию для них. Контроль над iCloud Китай уже отобрал в своём регионе.
Итого способ атаки: - берем 31 криминальное изображение, со смартфона с левой симкой засылаем по iMessage жертве часа в 3 ночи, к утру сообщения синхронизируются с iCloud и вуаля, учетка заблокирована, на жертве ярлычок. И по практике paypal, facebook и иже с ними - доказать роботу, что ты не верблюд - будет нереально. И прощай купленный контент, музыка, игры, дополнительное место и т.д.
Очень спорный инструмент, однако:
почему компания берет на себя эти функции? (хотя в целом это понятно, иначе правительства будут под предлогом поиска этих изображений требовать доступ уже к серверам Apple);
почему именно 30 картинок (у меня ассоциация только с 30 сребрениками Иуды). :)
Самое сложное - найти это 31 криминальное изображение.
Ну датасет достаточно (самый?) известный, хоть и не содержит самих фотографий, а только их хеши, но не думаю, что будет мегасложно найти всего 30 примеров самих изображений, которые попадают под хеши датасета.
Т.е. умышленно искать то, что по законам практически любого государства уголовно наказуемо?
И как же? Я вот всё равно в недоумении, как найти 30 запрещённых фотографий, если они в гугле не отображаются. Да ещё и с определёнными хэшами.
Да зачем искать? Возьмет маленький ребенок телефон поиграться, пофоткает себя и всё.
Скорее интересно, это только у нас в статьях так изменилась повесточка или это их новостники сменили тон? Изнчально вроде фигурировало "фотографий жестокого обращения с детьми"(в новости ссылка на закрытый подпиской сайт новостей), а теперь "материалов о сексуальном насилии над детьми".
С одной ведь стороны, журналисты типа поднимают кипиш, что эпл будет сканировать фотки, но вот замена с насилия на педофилию настораживает. Уж не будет ли как у нас, только менее явное продавливание системы через "для защиты детей".
А откуда у них в бд будет хеш фотки, которую сделает ваш маленький ребенок? Если верить, то будут чекать только по хешу, а не пытаться определить что содержат ваши фотки.
Тут речь не про хэш файла, а про хэш содержимого (потому что прям говорится что речь о Фотографиях и видео перед выгрузкой в облако, а не о изображениях, хотя у них там оч кривая формулировка на самом деле).
Компания пояснила, что новая система по обеспечению безопасности детей не будет иметь доступа к контенту пользователей. Она сможет только анализировать хэши фотографий на устройстве пользователя и даже сканировать видео, но лишь в том случае, если этот контент будет загружаться в iCloud.
Оч похоже что "система" - у них в облаке, которая будет получать хэши, а вот на телефоне будет уже что как захочет обсчитываться.
Отчасти так яндекс к примеру ищет походие фотографии. Локально на устройстве всё считаем, с любыми опциями, а на сервер отправляем только хэш. И типа никаких личных фото никуда не передаем, никто не посмотрим. Но по таким хэшам можно судить о содержимом.
Но это я сильно на пальцах рассказал. Погуглите перцептивный хэш
Не думаю, что там реализован поиск похожих картинок. Имеет смысл искать именно известные изображения, иначе будет слишком много ложных срабатываний. Кмк, идея в раскрытии сети педофилов, которые делятся картинками. Получил доступ к телефону одного, нашёл его друзей. Правда, после таких инициатив, они перейдут на другие платформы.
новость www.reddit.com/r/MachineLearning/comments/p6hsoh/p_appleneuralhash2onnx_reverseengineered_apple
гихаб github.com/AsuharietYgvar/AppleNeuralHash2ONNX
Не считая того, что искать известные изображения как есть не имеет смысла... Хорошо, как Вы будете искать известные изображения, без анализа содержимого, если их пересохранили (или как часто бывает скриншот фотки в браузере/вацапе/другом_мессанджере). jpg2png png2webp jpeg2webp - оно же постоянно сейчас пережимается то туда то сюда, а кроме того изменение размеров (а как заметили что эпл говорит оно тип невоспримчево - то тогда ваще бред и непонятно нахрен оно нужно) и т.д. и т.п. Ну и не уверен, что там в США по теме хранения ЦП, изготовление и распространение однозначно карается. А то что кто то себе в телефон закачал такие картинки вроде прав не нарушает (могу ошибаться, не слежу за темой). Про ложные срабатывания - речь идет про какую то базу все же. А значит кто то и уточнять будет, точно ли стоит агриться на детект. Да и не просто так говорится у них про минимальное количество фоток для срабатывания. Ну и не забываем, это корпорация. Они ничего не делают просто так. Доступ к фото это еще повод собрать больше информации таргетирования, а дети лишь предлог, как это всегда и бывает с педо-истерией.
Парсите превьюхи DLsite.com. Все предельно легально и не требует ничего сложнее wget'а.
Задумка Apple - это просто некомпетентно. Для заявленных целей не годится совсем, а для множества посторонних - абьюзится за десять минут на уровне скрипт-кидди.
Да и заявленные цели - та еще лажа, если уж говорить начистоту.
Сейчас такие мультфильмы рисуют, что от реальности не отличишь. Так что их можно генерить тысячами. Была бы такая задача...
Сообщения никто не читает. Написано же в статье, iCloud Photos. То есть, сначала нужно доступ к аккаунту получить, чтобы фотки сохранить из сообщений в фото пользователя.
Сообщения в iOS по умолчанию бэкапятся в iCloud, в отличие от резервирования фото, которое надо включать при первоначальной настройке.
В whatsapp есть галочка "Save to Camera Roll". Не помню ее дефолт, но изюминка в том, что это работает для всех чатов включая группы
По дефолту из многих мессенджеров фото сохраняются в телефон. И по дефолту же у многих включена синхронизация с iCloud. Никакого доступа не нужно, только прислать.
засылаем по iMessage жертве часа в 3 ночи, к утру сообщения синхронизируются с iCloud
Вот только эта штука работает с iCloud Photos, не с сообщениями.
Зато вот Whatsapp… некоторые пользователи включают там опцию «Добавлять любые присланные изображения от любых номеров в мою фотогалерею», а оттуда уже можно попасть в iCloud Photos (и в Dropbox и в Яндекс-фотки и много куда ещё)
Гугл и Майкрософт сканируют около десяти лет все файлы на всех сервисах, но атаки придумывают когда только в тексте слово "Apple".
Тоже об этом подумал. Интересно, предусмотрели ли они что-нибудь для защиты от такой атаки. Наверное, можно подать апелляцию, доказать, что картинки прислали, хотя никто не просил, и т.д., но всё равно — несколько дней изволь посидеть с заблокированной учёткой.
Интересно, мир уже забыл случай, когда рядовой техник Эппла рекомендовал красивым девушкам заносить технику в ванную комнату для "воздействия паром", чтобы иметь возможность полюбоваться на них?
Ясное дело его уволили, пообещали исключи-ть возможность в дальнейшем, НО... Кто реально верит в приватность данных?
Поэтому фоточки в стиле Ню нужно делать только на "тупые" фотокамеры :)
Вот просто представил девушку, которая чтобы посоветоваться с подругой "это целлюлит или не" достает штатив, устанавливает на его зеркалку и делает селфи своей пятой точки. Потом безопасно шифрует и отправляет через Сигнал...
А только потом их загружать в смартфон, чтоб отправить любимому в мессенжере?
Мне вот интересно, а разве чтобы тренировать ИИ у эпла не должно быть куча фоток с ДП, и с детским насилием, иначе как ИИ узнает что на фото?
Мне другое интересно... В изначальных анонсах, до того, как пошла волна протестов, Эппл вообще чудесную функциональность заявлял...
Самое интересное это ваучеры криптографической безопасности и скан ЗАШИФРОВАННЫХ данных. Изначально еще планировался скан на стороне пользователя. Вроде бы от него отказались.
А так есть же PhotoDNA от MS. Вполне себе похожая технология и прошла без скандала...
https://daringfireball.net/2021/08/apple_child_safety_initiatives_slippery_slope
Хэши (причём не md5, а "отпечатки", призванные обнаруживать изменённые изображения) им отдаёт некоммерческая организация NCMEC. Вообще, рекомендую прочитать всю ссылку, там есть уточнения относительно того, что вводят Apple.
хэшей изображений жестокого обращения с детьми, включая детскую порнографию, с базой данных ФБР и организации «Национальный центр пропавших без вести и эксплуатируемых детей»
ИИ должен автоматически сканировать все фото, сравнивая полученные сигнатуры с сигнатурами в базе данных, как таковых фотоматериалов в самой apple не будет, она ведь не является гос-что-то-там. А доработка алгоритма должна вестись с подачи и по материалам самой фсб.
Меня смущает, что весь пользовательский материал будет перетекать к этому алгоритму, расположенному на отдельном сервере в другой компании(пусть и дочке apple)
Написано же - хэши. И не у эпла, а у других организаций. А хэшировать, наверное, будут участки изображения, а не целиком, или нормализовывать по какому-то принципу, тому же, что и у оригиналов тех хэшей. Но инфы маловато.
Все уже собрано за вас. И за них если уж на то пошло тоже.
родители фотографируют своих детей
нейросеть находит фотографии обнажённых детей
родителей задерживают по подозрению в педофилии
родителей отпускают после допроса
повторять до совершеннолетия...
ну в общем то формально смартфон в руках подростка принадлежит его родителям. Замутили подростки приватный чат с пересылкой ню-селфи = приехала полиция.
формально смартфон в руках подростка принадлежит его родителям
Если это подарок, то нет. Было бы дико, если бы это легально было так, как вы говорите.
В большинстве стран есть юридическое разделение на "владелец" и "пользователь"(не знаю как это точно будет в российских юридических терминах). И обе эти вещи дают определённые права и обязанности
И в случае со смартфоном "владелец" и "пользователь" могут быть как одним и тем же человеком(взрослый купил себе смартфон), так и разными(родители купили смартфон ребёнку или фирма выдала смартфон сотруднику).
То есть да, в определённых ситуациях если ребёнок что-то начудил на купленном ему смартфоне, родителей тоже могут привлечь к отвественности. Или даже могут привлечь только их. Для примера может погуглить различные ситуации когда ребёнок качал какой-то "пиратский" контент, а штрафы прилетали родителям.
By design, this feature only applies to photos that the user chooses to upload to iCloud
Photos, and even then Apple only learns about accounts that are storing collections of known
CSAM images, and only the images that match to known CSAM.
Нет, так систему не затриггерить.
А еще изображения обнаженных моделей с примененным фильтром омолаживания\детского лица у разных там любителей. И еще изображения от художников(бальтус), нашумевших фотографов-современников(стерджес) и другие
Когда Шилдс сказала, что утопает в море жутких отзывов о себе и о фильме, ее мать ответила: «Ты гордишься тем, что сделала? Ну тогда пошли они на ...» - частный случай
Общество должно саморегулироваться и морализироваться и его нужно к этому подталкивать, надеюсь действие Apple облагородит социум или подтолкнет, но не создаст прецеденты вопиющего безобразия
Зачем родители фотографируют своих обнаженных несовершеннолетних детей?
Можно смело добавлять насильное кормление детей (ложечку за маму, ложечку за папу).
У технологий нет намерения. Ну, пока не создали роботов с сознанием :)
Печально, что люди, которые разрабатывают эти технологии и работают с ними, имеют весьма странные и однобокие представления о реальной жизни и концепциях прав и свобод, так что всё, за что они берутся применительно к общественным проблемам, превращается в какой-то авторитарный мрак, мотивированный диванным героизмом, чувством интеллектуального превосходства и идеей о том, что благородная цель оправдывает любые средства и ошибки.
Печально также то, что люди, не входящие в этот круг, "обычные граждане", в массе не понимали и не понимают, что это - новый источник авторитаризма, который может оказаться хуже государственного, так как проголосовать за новое правительство может быть куда проще, чем избавиться от диктатуры технологических компаний.
Проблема с этим утверждением в том, что вы следуете стандарту (определению) диктатуры, который возник в иной социокультурной ситуации. Впрочем, вы и сами, похоже, интуитивно понимаете, что этот стандарт несовершенен, делая предположение о возможной связи корпораций и государства. Только зачем-то ограничиваете это предположение использованием возможностей корпораций государством, тогда как элементарно возможно обратное - влияние корпораций на государственную систему в своих политических интересах.
Право на цензуру они уже потихоньку перетянули, думаю, право на насилие получить не проблема. Нужно всего-то какое-то прокси-законодательство, например, возможность собирать и предоставлять улики, таким образом провоцируя деятельность правоохранительных органов... OH SHI~~~~
так как проголосовать за новое правительство может быть куда проще, чем избавиться от диктатуры технологических компаний
Если у вас работает механизм голосования - то через него вы приводите такое правительство, которое зарегулирует и закрутит офигевшие технокомпании.
Ну а если нет - вам и так и эдак будет плохо, и не важно кто там что у кого отжал или с кем договорился, корпорации правительство или наоборот.
На самом деле этого стоило ожидать гораздо раньше. Google Chrome любит сканировать диск, телеметрия от Windows. Думаете, чем они занимаются? Вполне возможно, что ищут совпадения хэшей файлов пользователей с хэшами ДП. Также, можно вообще хранить базу данных хешей файлов для всех файлов, когда либо побывавших на устройстве пользователя. То есть алгоритм такой. Плохой дядя делает фото детей на фотокамеру. Загружает файлы на компьютер, а потом продает за биткоины в интернете. Рано или поздно файлы попадают в руки ФБР, опознаются как ДП, и поиск по базе хэшей сразу же выдает производителя этой фотографии.
Ну не верится, что злыдни, работающие с таким токсичным контентом - настолько наивны. Всяко додумываются работать на изолированной от сети машине (пусть под Win/Mac, но никогда не подключающейся к сети), перенося уже готовые пакеты в виде шифрованных архивов оффлайн способом (флешкой/диском).
А вот против оппозиции, всяких free Tibet/Belarus/MAGA - самое то, что надо использовать. Эти люди не считают свои данные криминальными, и тут-то их и брать тепленькими ;)
если погуглить новости про задержание фотографов такого контента, там обычно при обыске находят коллекции, и пишут даже объем-количество. То есть, никаким шифрованием и не пахнет. И задерживают их не после первых же съемок, а по факту уличения родителями. То есть, загадочная телеметрия если что и собирает, то никому не рассказывает про найденное
Причём, если допустить, что Google или Microsoft действительно это делают — у них как раз есть шансы что-то находить, поскольку это не афишируется. А вот на устройствах Apple теперь уже точно никто в здравом уме не станет хранить ничего "такого", раз они открыто заявили о сканировании фото. Получается, что эта система по сути бесполезна. Конечно, Apple молодцы, что говорят о ней открыто, а не шпионят исподтишка. Но реальных нарушений она не найдёт, когда "нарушитель" знает о ней заранее.
Аппле надеется, что шумиха отпугнёт пользовательей ЦП с их устройств, уменьшая ее проблемы с законниками.. куда они уйдут, аппле не интересует вовсе (логично). Ну и подчеркнёт лояльность закону и мировым ценностям.
Но все понимают, что если кто-то стал на путь стукачества, то с него уже не слезут. Завтра будут искать трампистов-навальнят-тихановичей, послезавтра вообще всех, на всякий случай...
.
Тут главное на себя не выйти
zen.yandex.ru/media/id/5b280e3ca052b200a9a582d7/sdelaite-rebenku-ukol-5df8f1c12beb4900b1cb76bf
Apple’s weather app won’t say it’s 69 degrees
think different, то есть как мы сказали
А можно также про говно? Серьёзно. Ребёнок страдал расстройством желудка, и врач сказала фоткать стул ребенка в течение месяца. Потом смотрела, диагноз ставила. У жены, кстати, айфон. Ну раз уже полезли в личную жизнь, так хоть с пользой для владельцев.
Лучше бы смотрели на тот беспредел, который на Ютубе происходит. Всякие невинные, ничего не нарушающие видео пачками удалют, а зато видео с депиляцией интимных мест это норм, омерзительное кормление грудью, что на Ютубе, что в инстаграме, это пожалуйста. Молокоотсос на грудях на Ютубе — милости просим. Тьфу!
У майкрософта имеется своя реализация — PhotoDNA. У Apple наверное будет своя, но основаны они скорее всего на одном и том же стандарте чтобы хеши были одинаковыми.
Вкратце — оно ищет только конкретные уже известные фотографии, хэш картинки остатется таким же при поворотах, изменении размера, изменениях яркости. Т.е. по таким хэшам можно опознать наличие уже ранее известных криминалистам фоток полученных/скаченных откуда то извне. Если вы сами что то сфотографировали — хэш будет уникальным.
Apple раскрыла начальный порог срабатывания триггера системы сканирования фотографий пользователей — 30 запретных кадров