Исследователь Asuhariet Ygvar опубликовал на Reddit информацию о спрятанном в iOS 14.3 коде алгоритма NeuralHash. Ранее Apple заявляла, что только планирует внедрять его в систему. Благодаря опубликованному коду пользователи уже протестировали работу алгоритма и начали находить способы выдать ложноположительный результат.
5 августа этого года Apple объявила о введении новых функций в iOS 15 и iPadOS 15. В частности, речь шла об алгоритме NeuralHash для анализа хешей всех фотографий в iCloud и поиска там запрещенного контента. Это вызвало волну недовольства среди пользователей и подозрения в тотальной слежке.
18 августа после копания в скрытых API-интерфейсах iOS пользователь Asuhariet Ygvar обнаружил код алгоритма в iOS 14.3. По его словам, код был захоронен среди скрытых API в MobileNetV3. На то, что он принадлежит именно к NeuralHash, указывают два фактора: файлы моделей имеют тот же префикс, что и в документации Apple, и проверяемые части кода работают аналогично описанию NeuralHash от Apple.
Пользователь рассказал, что умудрился экспортировать модель MobileNetV3 и пересобрать весь алгоритм на Python. Благодаря этому алгоритм можно проверить и определить недостатки до того, как он появится на устройствах.
Уже во время первых проверок алгоритма пользователи GitHub обнаружили несколько особенностей, по которым его можно обмануть. В частности, если знать находящийся в базе данных алгоритма хэш, можно создать поддельное изображение.
На изображении ниже показан пример, при котором два абсолютно разных изображения генерируют одинаковый хэш. Подстроить хэш реально под любую картинку вне зависимости от визуального содержания.
Пользуясь этой особенностью, злоумышленники могут отправлять на смартфон файлы, запускающие NeuralHash. Если они попадут на iCloud, это приведёт к блокировке аккаунта.
Неясно, нашёл ли Asuhariet Ygvar полную версию алгоритма, или это только предварительный вариант. Пока никто не обнаружил следы базы данных CSAM или NeuralHash в бета-версиях iOS 15. Как только он появится, пользователи смогут сравнить его с кодом Asuhariet Ygvar.
17 августа Corellium запустила новую инициативу, направленную на содействие независимым исследованиям в области кибербезопасности. Первой целью стала проверка NeuralHash от Apple. Компания выделила на это три гранта по $5 тысяч и с бесплатным годовым доступом к Corellium.
