«Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного ИИ, в частности нейросетью компании «Шедеврум», сообщают «Ведомости» со ссылкой на три источника, знакомых с планами по разработке проекта. Представитель «Яндекса» подтвердил газете эту информацию. Однако сроки готовности разработки там не назвали.
По словам одного из источников издания, речь идет о микроскопическом артефакт-маркере, заметном анализатору, а не о видимом «водяном знаке», который можно закрасить или обрезать. Для проверки изображения на ИИ-генерацию «Яндекс» разрабатывает сервис по распознаванию маркировки, рассказал собеседник газеты, знакомый с ходом разработки. Он добавил, что технологию могут стандартизировать и выложить в опенсорс для всех участников рынка.
Представитель «Яндекса» сообщил «Ведомостям» о планах компании по внедрению таких инструментов в свои сервисы. По его словам, для распознавания сервисом изображений или видео, созданных с помощью ИИ-моделей других компаний, должен быть отраслевой стандарт генерации ИИ-контента. Издание направило запрос в ИСП РАН.
В «Сбере» на вопрос «Ведомостей» о том, планирует ли компания внедрение сервиса «Яндекса» для маркировки контента или аналогичного ему в сервис генерации картинок Kandinsky, не ответили.
По словам директора департамента расследований T.Hunter Игоря Бедерова, совместная разработка «Яндекса» и ИСП РАН основана на внедрении невидимых цифровых водяных знаков в ИИ-контент, пишет газета. Он пояснил, что такая технология включает в себя два направления исследований. Во-первых, это стеганографические метки, когда в изображения, аудиодорожки или кадры видео внедряются алгоритмические паттерны, которые незаметны человеку, но обнаруживаются специальными инструментами, отметил Бедеров. Во-вторых, технология предполагает выявление артефактов генерации. Речь идет о статистических следах в контенте, остающихся при работе нейросетей.
Как отмечает издание, в настоящее время дипфейки выявляются криминалистами и специалистами по информационной безопасности вручную при анализе конкретного видео. Они смотрят на такие признаки генерации, как муар вокруг изображений, дрожание, запаздывание речи, склейки, нарушение потоков аудиозаписи и особенности гистограмм.
«Яндекс» не имеет влияния на ChatGPT и другие нейросети, которые были созданы не в России, поэтому речь, вероятно, идет о российских стандартах, которые внедрят совместно с инструментами регулирования на федеральном уровне, сообщил «Ведомостям» заместитель исполнительного директора ЦК НТИ по большим данным МГУ Гарник Арутюнян.
По его словам, «Яндекс» и ИСП РАН в отсутствие четких законодательных норм в сфере ИИ-контента берут инициативу по созданию отраслевого стандарта на себя. Он отметил, что это является формой саморегуляции: компании стремятся создать правила и инструменты до появления внешнего регулирования. Однако в случае, если давления со стороны законодателей на сервисы генерации контента по внедрению стандартов борьбы с фейками и штрафов за отсутствие маркировки такого контента не будет, эффективность инициативы уменьшается, указал Бедеров.
Ранее, 8 июля, «Известия» сообщили, что Минцифры обсуждает с профильными ведомствами маркировку материалов, созданных с применением ИИ, а также уголовную ответственность за ИИ-контент, который был произведен без согласия изображенных или озвученных лиц.
Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.
