Минцифры планирует создание платформы для выявления дипфейков, созданных с помощью технологий искусственного интеллекта (ИИ), рассказал «Ведомостям» представитель министерства. Соответствующее поручение министерству дал премьер Михаил Мишустин.
«Обсуждается возможность создания единой платформы, которая будет выявлять недостоверную информацию, сгенерированную в том числе с помощью технологий ИИ, — пояснил представитель Минцифры. — Предложено предварительно провести научно‑исследовательские работы по обозначенной тематике». Собеседник не уточнил, когда планируется запуск платформы и кто займется её разработкой.
Сегодня выявление дипфейков строится на ручной работе криминалистов и специалистов по информационной безопасности при анализе конкретного видео. Они обращают внимание на муар вокруг изображений, дрожание, запаздывание речи, склейки, нарушение потоков аудиозаписи и особенности гистограмм.
IT‑система могла бы выявлять в видео и изображениях неестественные изменения или аномалии, рассуждает заместитель директора Центра компетенций НТИ «Технологии доверенного взаимодействия» на базе ТУСУРа Руслан Пермяков. Но логичнее выявлять не внешние признаки дипфейка, а использование конкретной методики создания контента, отмечает руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. «То есть эффективнее было бы детектировать конкретную технологию. Это правильнее, поскольку дипфейк‑технологии постоянно улучшаются», — добавил он.
«Одно из вероятных решений — поисковый робот, который будет сканировать видео, проверяя его уникальность и вероятность того, что оно сгенерировано. Но такой подход потребует большого количества вычислительных ресурсов», — отмечает генеральный директор VisionLabs Дмитрий Марков.
Инструмент, который планирует разрабатывать Минцифры, мог бы поставляться в виде плагина в браузере, который будет автоматически сканировать сайты на предмет ИИ‑контента, предполагает менеджер продуктов в Just AI Алексей Борщов. Для мониторинга соцсетей, например Telegram, необходимо будет разрабатывать специальный софт либо получать разрешение и доступ к API той или иной соцсети, считает сооснователь компании Parodist AI Владимир Свешников.
Опрошенные «Ведомостями» эксперты сошлись во мнении, что в появлении такой платформы в первую очередь заинтересованы банки и другие финансовые институты, медиа, владельцы крупных Telegram-каналов и социальные сети. То есть те, кто работает с большим объёмом данных, UGC-контентом и заинтересован в снижении количества дезинформации и уровня мошенничества, уточняет Марков.
