Когда же появится DeepRegistry? О любви мировых регуляторов все контролировать

    image

    Современный уровень развития достиг того, что даже школьник может взять библиотеку с моделями, к примеру отсюда, обучить на данных взятых из публичных источников и с приемлемым качеством ее применить к своим данным. Иногда это может быть забавным, когда выступление Дженнифер Лоуренс демонстрируют с лицом Стива Бушеми. Или к примеру 11 вариантов подряд уже с другими личностями: 11-Deepfakes-In-One! Но на текущий момент, техно гиганты уже озаботились происходящим и об этом уже была статья на Habr, о том что Facebook и Microsoft выделяют гранты для обнаружения DeepFake. Не особо верится в альтруистичность намерений, я больше поверил бы в обыкновенную выгоду. Скорее всего, это способ найти ещё лучшие стратегии обучения моделей, чтобы создавать еще более правдоподобные DeepFake. Скорее всего здесь круг и замкнется, будут разрабатываться методы борьбы с DeepFake и они же будут стимулировать его развитие как технологии.

    Думаю ни для кого не секрет, что такая технология — это великолепный инструмент для манипуляций и провокаций. Что касается политиков и известных личностей — здесь огромное поле для создания новостей в желтой прессе и не только. Также стоит вспомнить нашумевший и быстро свернувшийся проект DeepNude. Это вообще скорее был предвестник создания новой технологической ниши, скорее всего в каком то будущем (настоящем?) можно будет наблюдать появление продуктов наподобие того, что во взрослом видео за определенную плату можно будет увидеть кого угодно, даже тех кто от такого жанра максимально дистанцировались.

    Предположим это никому не нужно. Предлагаю это проверить на примере. Давайте проверим интерес к раскрученному порно бренду, против известной, но официально не засветившейся в этой деятельности актрисе. Возьмем Сашу Грей и Дженнифер Лоуренс. Вот сравнение тренда обеих за последние 12 месяцев. Незапятнанная актриса проигрывает в интересе к своей особе в качестве такой деятельности, но точно можно сказать что интерес есть и он достаточен. А если есть спрос, есть рынок, остается придумать как это монетизировать.

    Понятное дело, что речь идет не только о взрослом контенте, если проблема в том, что можно подобрать двойника человека, воспользоваться DeepFake моделями и создать такой контент, который уже никто не отличит от видео созданного с потенциальной жертвой, то это уже может создавать уже имиджевые и репутационные потери для личностного бренда жертвы. На текущий момент, в имидж человека могут вкладываться и усилия и средства и причем немалые, и этим дорожат. Поэтому я не удивлюсь, что могут появиться контролирующие органы для создания контента и на публичные медиа площадки не будет возможности выложить фото/видео контент, который может содержать изображения публичных личностей не прошедший верификацию. Возможно в будущем не только публичных, а всех подряд, потому что состояние не публичности — априори временное. К примеру, может появиться какое-нибудь “агентство по верификации личностей” и без подписи такого органа невозможно будет, даже технически, публично распространять контент. Пусть это звучит как бред, но система социального рейтинга уже внедряется в Китае, например, вот слайд с Reddit, который иллюстрирует эту систему, которую собираются внедрять в 2020 году. Напротив, Yandex уже готов предоставлять информацию о поисковой истории пользователей банкам для более точного кредитного скоринга. Вообще, не понятно как это будет работать, так как для кредитного скоринга обычно выдвигаются требования, что модель обязана быть интерпретируемой. Поэтому часто для такой задачи используются модели основанные на деревьях. В случае с Yandex, судя из публичной информации — это будет черный ящик. С другой стороны, если заемщик получил кредит, чаще всего ему безразлично, почему ему выдали кредит, а если отказали, в этом случае банки юридически защищаются, тем что они вправе не разглашать причину отказа.

    Мне кажется, что на всем этом фоне, появление контролирующих органов неизбежно. Возможно пионерами будут китайцы? Почему это неизбежно? Потому что, если будет легко испортить кому угодно репутацию, соответственно это будет влиять на социальный рейтинг и мне кажется, граждане имеющие высокий социальный рейтинг и не желающие с ним расставаться будут предпринимать меры, по защите своей социальной собственности.

    В этом отношении интересным еще будет то, что скорее всего подобные системы не будут иметь срока давности и в момент внедрения припомнят каждому все найденные скелеты в шкафу. Текущая ситуация с социальным рейтингом в Китае похоже обстоит именно таким образом, в момент запуска, внезапно может оказаться то, что конкретно вам теперь чего то нельзя.

    Интересно, а как аукнется мне все это, как разработчику VPN сервиса? Время покажет.
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 11

      –1
      Хоспади, да сколько уже можно про эти deep fakes писать в жанре «все пропало». Я вот может кому-то страшную тайну открою, но проблеме детектирования искажения сообщения при передаче через незащищенный канал сто лет в обед. Видео в этом смысле не отличаются ничем. Оригиналы будут шифроваться закрытым ключом, открытым ключом всегда можно будет проверить оригинальное видео или модифицированное.
        +1
        Вы говорите о передаче контента, я упомянул о создании. Речь о том, что подделка может быть создана изначально. На самом деле эта проблема уже существует и она не решена. Присутствует она в судебной практике, что касается Украины, так точно, на текущий момент данные с автомобильных цифровых видео-регистраторов могут быть приняты только по усмотрению органов исключительно как косвенные доказательства. Как доказательство может быть принято только видео снятое на аналоговую камеру, то есть нужно предоставить никак не модифицированную пленку с аналоговой записью. Причиной тому является то, что цифровые записи легко модифицируются.
          +2
          Да кого волнует, что компрометирующее видео на youtube не подписано или подписано как-то неправильно. Юзеры будут на него вестись, а значит публичной репутации будет наноситься ущерб, как бы не было это странно для разумных людей.
            0
            Не могу с вами согласиться, похожая ситуация с сайтами, пользователей уже приучили смотреть на замочек в строке URL. Можно с видео сделать, что то подобное, что на нем будет шильдик, который будет говорить, что этому видео доверять можно, а если нет — то сами думайте доверять ему или нет.
              0
              Можно переучить, но нужно на это лет 10 и 100500 загубленных карьер политиков, а также внедрение технологии подписи во все бытовые камеры (что тоже утопично, т.к. ключи будут утекать направо и налево, как показывает пример HDCP, DVD, BD).

              А пока юзеры верят любому видео, политики будут просто пытаться делать что проще — контролировать видеохостинги.
                +1

                На замочек обращает внимание даже не вся аудитория хабра, говорить о какой-то заметной части пользователей вообще странно.

                0
                => такие вещи рано или поздно будут клепать на всех публичных (и не только) людей, и всем станет, в общем-то, пофигать.

                Хватит панику разводить.
              +4
              хех в наш век фейков реальность — вещь весьма эфимерная. Например я не могу быть уверен, что Путин существует как человек — я не знаю его лично, у меня нет друзей, которые бы знали его лично, так же и нет таких друзей у друзей. В итоге я могу полагаться только на то, что мне дает СМИ. А имея мощности целого государства — создать человека или событие — задача не сложная. Еще более простая задача — изменить событие если его очевидцев почти не осталось. Мифы второй мировой — тому отличный пример.
              Вопрос, как понять, где иллюзия, а где реальность — будет вставать все более остро с развитием технологий.
                0
                Мне кажется, что на данный момент бесследно пропасть глава государства не может, все еще не может, что бы его могли заменить каким то рядом социальных действий. Все таки они появляются публично. В будущем, может это и будет возможно.
                  0

                  Двойников глав государств и прочих власть имущих придумали задолго до всех этих интернет СМИ.

                0
                Можно конечно зарегулировать всех и всё, но мне кажется, это путь в никуда. Лучше пойти по пути по повышению ценности оригинала, чем бороться с подделками тотальными запретами. А то так и оригиналу придется доказывать, что он оригинал.
                Гос.органам и прочим товарищам собирающим персональную информацию нужно гораздо внимательнее относится к сбору и хранению персональных данных, а так же и защите своих баз данных от изменения.

                Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                Самое читаемое