У Microsoft появился новый план, как доказать, какой контент в интернете реален, а какой нет. Компания представила набор технических стандартов, которые помогут определить, подвергался ли цифровой контент манипуляциям. Эти стандарты предполагается использовать разработчикам ИИ-инструментов и крупным онлайн‑платформам.
В Microsoft объясняют подход на примере картины Рембрандта, подлинность которой нужно подтвердить документально. Можно проследить её историю владения, собрать данные обо всех перепродажах и перемещениях, а также создать «цифровой отпечаток» на основе анализа мазков кисти. Тогда любой человек, который сомневается в подлинности экспоната, сможет сопоставить эти данные и убедиться, что перед ним оригинал. По мнению компании, похожий принцип можно применить к фото, видео и другим видам контента в сети.
Специалисты Microsoft протестировали около 60 разных комбинаций методов проверки — метаданные, водяные знаки, криптографические подписи и многое другое. Они смоделировали разные сценарии: от простого удаления служебной информации до частичного редактирования изображения или целенаправленной подмены содержимого. В итоге исследователи выделили наборы методов, которые дают надёжный результат.
В компании подчёркивают, что предлагаемые средства не предназначены для определения истинности или ложности информации. Их задача — показать, был ли материал изменён и откуда он произошёл, то есть дать контекст его появления. Эксперты считают, что если отрасль примет такие инструменты, распространение сфабрикованного контента и обман аудитории станут заметно сложнее.
