Facebook и Microsoft запускают конкурс по обнаружению deepfake



    Facebook совместно с Microsoft и коалицией «Партнёрства по искусственному интеллекту во благо людей и общества» (PAI), а также научными работниками из нескольких университетов анонсировала конкурс на разработку технологии распознавания дипфейков (deepfake).

    Как сообщается в блоге Facebook, в рамках проекта, который получил название Deepfake Detection Challenge, Facebook поручит исследователям создавать реалистичные дипфейки. После этого участники конкурса будут прорабатывать алгоритмы обнаружения deepfake. Авторы лучших получат гранты. Призовой фонд проекта — $10 миллионов.

    Стартует Deepfake Detection Challenge уже в октябре, а завершится в марте следующего года. Первые дипфейки для конкурса протестируют на Международной конференции по компьютерному зрению, а весь набор видео для работы выпустят в декабре.

    «В отрасли нет достаточного набора данных или эталона для их обнаружения. Мы хотим стимулировать больше исследований и разработок в этой области и разработать лучшие инструменты с открытым исходным кодом для обнаружения подделок», — заявили в Facebook.

    Deepfake (видео, созданные нейросетью) давно привлекают к себе внимание американских властей. В августе Орегонский университет анонсировал исследования, в рамках которых учёные будут пытаться научить мышей распознавать искусственную речь. Управление перспективных исследовательских проектов Министерства обороны США (DARPA) за последние два года потратило $68 миллионов на разработки, призванные обнаруживать дипфейки. С 2016 года в агентстве работает команда Media Forensics (MediFor), занимающаяся разработками в этой области.

    Сама технология, тем временем, становится всё доступнее. На прошлой неделе китайское приложение под названием Zao, которое позволяет пользователям превращать свои лица в лица кинозвезд, вышло в топ в магазине приложений страны. Сервис был запущен 30 августа и за два дня быстро набрал популярность. Количество упоминаний о нем в китайском аналоге Twitter (Weibo) превысило 8 миллионов. Правда, приложение почти сразу столкнулось с негативной реакцией. Главная социальная сеть Китая, WeChat, даже заблокировала сервис.
    Поделиться публикацией
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 16

      +7
      Классика жанра. Лучшее решение будет включено в состязательную архитектуру DeepFake 2.0, чтобы новая версия училась обманывать детектор фейков.
        +2

        Что-то похожее мы делали при построении синтезатора речи: 2 сетки, первая ищет оптимальные векторы параметров генерации речи, а вторая пытается задетектить результат синтеза: человек это сказал, или робот. Так и конкурируют, улучшая себя.

          0
          Вирусы и антивирусы… Жизнь это конкуренция)
            0

            Так это же и есть GAN-подход для обучения нейронных сетей.

            0
            Забавно, кстати, было смотреть, как в Сети наперебой появляются комментарии «DeepNude — отстой, не тратьте время, хорошо, что её выпилили ото всюду, всё равно она ни одно фото у меня нормально не рбработала».

            Я потестировал на фотографиях знакомой (да простит она меня), на одной да, грудь размазало по всему телу. А вот на второй… скажем так, практически идеально. Если бы я сам этот фейк не сделал, то вполне бы поверил, что это реальное фото.
              0
              У меня это, друг просит вторую. Для научных целей (друг — учёный, честно :)
              +4
              ну правильно, выгоднее всего продавать оружие на оба фронта. Лет через 10 политики/знаменитости на любые утечки будут говорить «да это дипфейк»
              –1
              Остановите землю, я сойду…
                –1
                Кажется, Пелевин про это не писал.
                  +1
                  «Generation „П“»?
                  Классику надо знать и любить!
                    0
                    Я и говорю, что он не писал про обнаружение сгенерированных персонажей. Ведь обнаружение, это удар по всенародной любви.
                  +2
                  The Wall Street Journal рассказал об интересном случае: мошенники использовали голосовой deepfake, чтобы во время телефонного разговора выдать себя за руководителя неназванной немецкой фирмы. По телефону фиктивный CEO, чей голос был подделан при помощи ИИ, попросил главу неназванной дочерней фирмы из Британии срочно перевести 220 000 евро на счет некоего венгерского поставщика, хотя на самом деле этот счет принадлежал преступникам.


                  Не зря торопятся, т.к. по телефону много делов можно натворить, еще подменив номер телефона через SS7
                    +2
                    Facebook и Microsoft решили, что deepfake что-то медленно развивается. И надо бы его подстегнуть. Теперь с обеих сторон будет будут ИИ: с одной стороны создавать фейки, с другой их искать. Так развитие пойдёт гораздо быстрее.
                    К тому же они как минимум обзаведутся детектором и смогут его продавать. Или другим способом извлекать прибыль из его применения.
                      0

                      Хотели бы подстегнуть, запустили бы нормальный конкурс, а это попил грантов или пиар акция с целью подготовки почвы для законодательного ограничения оборота информации по технологиям так называемого ai.

                        0
                        А что в этом конкурсе ненормального?
                      0
                      Интересно, какой процент ложных срабатываний у текущих разработок.

                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                      Самое читаемое