ИИ не сможет защитить нас от дипфейков, утверждает новый доклад



    Новый доклад Data and Society ставит под сомнение автоматизированные решения для распознавания видео, созданных с помощью машинного обучения. Авторы исследования — Бритт Пэрис и Джоан Донован — утверждают, что дипфейки, хотя и кажутся относительно новым явлением, на самом деле являются частью долгой истории манипулирования средствами массовой информации.

    Чтобы изменить ситуацию, необходимы как социальные, так и технические усовершенствования. Доверие к ИИ, по их мнению, может на самом деле усугубить ситуацию, сконцентрировав больше данных и мощности в руках частных корпораций.

    «Отношения между СМИ и правдой никогда не были стабильными, — говорится в отчете. — В 1850-х годах, когда суды начали принимать фото в качестве доказательства, люди не доверяли новой технологии и предпочитали свидетельские и письменные показания. К 1990-м годам медиа-компании были замешаны в искажении событий и избирательной редактуре вечерних трансляций».

    Видеоподделки, как указывают исследователи, существовали задолго до появления дипфейков. Так, способность манипулировать видеодоказательствами была продемонстрирована в 1991 году во время судебного разбирательства в отношении четырех полицейских из Лос-Анджелеса за избиение Родни Кинга за сопротивление полиции. Одним из основных доказательств невиновности полицейских было видео, снятое прохожим. Демонстрация видео присяжным с замедлением в несколько раз показала, что непроизвольные физические реакции Кинга на удары выглядели так, как будто он пытался встать.

    «Сегодня технологи спешат бороться с проблемой с помощью исключительно технических решений, включая автоматическое распознавание манипуляций с видео с использованием ИИ. Однако нахождение подделок в истории позволяет нам увидеть, что то, что считается «доказательством», может только навредить».

    Проблема дипфейков, уверены исследователи, может решиться только сочетанием технических и социальных методов, включая снижения влияния медиасистем на общественность.

    «Более комплексные решения могут заключаться в принятии правительственных мер в отношении корпораций, чтобы побудить их более осмысленно подходить к последствиям их разработок», — уверены авторы доклада.

    Кроме того, как указано в докладе, в настоящее время в США на стадии разработки находятся четыре законопроекта, касающихся дипфейков. Если их примут, подобные видео обяжут маркировать — для явного указания, что это фейк, и определения создателей. Это позволит правительству налагать штрафы на лиц, распространяющих вредный контент, созданный с использованием ИИ, считают авторы исследования.

    Бобби Чесни, соавтор статьи «Дипфейки: надвигающаяся проблема конфиденциальности», уверен, что остановить распространение дипфейков возможно, а вот уничтожить их — нет.

    «Мы должны говорить о смягчении и ограничении вреда, а не о полном устранении этой проблемы, — добавил Чесни. — Дипфейки не исчезнут».
    Поделиться публикацией
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 26

      +1
      Дикари увидели фотоаппарат и испугались что фотография похитит душу сфотографированного…
        +5
        " видео обяжут маркировать — для явного указания, что это фейк, и определения создателей. Это позволит правительству налагать штрафы на лиц"

        Всех жуликов и воров заставят прийти в полицию и сознаться самостоятельно.
          –1
          Я вижу другую проблему: ок, кто-то выложил честно такой маркированный контент. Потом кто-то другой взял и использовал его в злодеяниях (на 1000 человек не один может найтись, кто «не заметит маркировки»). Кого в итоге судить будут? Правильно. Того, кто подписался под видео, которое свободно копируется и распространяется в сети.
            0
            Судить будут того, кто непосредственно совершил преступление. Того, кто подписался, только если найдут связь определенного рода с непосредственным исполнителем.
              –1
              В идеале — да. Но вот наша реальность совсем не идеальна.
          +1

          Мне кажется, все в итоге придёт к тому, что люди будут доверять только записям, каждый кадр которых будут подписан цифровой подписью хотя бы камеры/телефона.

            –1
            Можно попробовать сделать запись экрана.
              0

              Тогда можно попробовать записывать ещё карту глубины и ее подписывать.
              Но все равно получится лишь повышать стоимость взлома.

              0
              Уже проходили через это. DRM не работает. Какой бы сложной система ни была, она рано или поздно она будет взломана.
              –1

              Нужно разрабатывать протоколы, позволяющие железно отличить в интернете авторский контент от анонимного и добавлять соответствующие теги в стандарт html на уровне браузера. Тогда все будет просто. Анонимно можно выкладывать что угодно, все равно скоро все привыкнут не верить анонимам. Если фейк размещен от чьего-то лица, сразу тащим это лицо в суд.

                +2
                И перед любым выкладыванием контента, чтобы получить право на тег с сертификатом, «лицо» обязано зарегистрироваться в Министерстве Правды…
                  –1

                  Никто ничего не обязан, интернет останется свободным. Речь о дополнительной возможности придать вес контенту выкладывая его официально от свого лица. Сегодняшние попытки контроля анонимного контента гораздо хуже пахнут.

                    0
                    Суть вопроса:
                    1. Если сертификат личной подписи никем доверенным не удостоверяется, то в нем нет смысла, будут подделывать. Значит, централизованная раздача нужна.
                    2а. Если удостоверяется, то остается риск злоупотреблений со стороны государственного центра сертификации (примерно как сейчас недвижимость от имени физлиц по поддельным ЭЦП продают).
                    2б. Если вы из дома со своей машины вышли в сеть с сертифицированной государством ЭЦП — подключение следует считать условно скомпрометированным, ничего анонимного с него больше никогда делать не следует, сопоставят «отпечаток» железа и софта, точку выхода в сеть и паттерн поведения, и уверенно свяжут ваши анонимные действия с вашей реальной личностью.
                    3. Держать 2 разных непересекающихся подключения от провайдеров (одно из них на «левый» паспорт), два физически независимых компа, оставлять дома телефон и всю электронику при анонимных действиях (вы же не будете регистрировать «легальное» и «анонимное» подключение на один и тот же домашний адрес), менять поведение в сети — слишком сложно. В итоге получим либо полное отсутствие возможности выкладывать «подтвержденный» контент, либо полную деанонимизацию.
                      –1
                      Сложностей много, но преимущества велики. Все сколь угодно демократические правительства мира сейчас переживают, что любая фабрика тролей может склонить общественное мнение в любую сторону, какую хочется кому-то в сугубо корыстных интересах. За это уже санкции накладывают и прям бомбить готовы или весь интернет контролировать. Если люди привыкнут относиться к неавторизованному контенту как к информационному мусору, это решит проблему.
                      Авторизованный контент контролировать не нужно, здесь всегда есть пострадавший, ответчик и суд. Авторизованный контент нет смысла блокировать или удалить по той же причине — есть ответчик, суд вынесет ему приговор и он сам все удалит. Если вы не хотите, чтобы ваш контент был внезапно «удален по требованию правообладателя» просто делаете его авторизованным и владельцы сайта отправят правообладателя к вам лично, чтобы он забрал ваши деньги, если он считает, что вы нарушаете закон.
                      Анонимный контент остается контролировать только в области авторских прав. Все остальное или попадает в категорию «что взять с анонима» или в категорию того за что можно поймать за руку в реальной жизни.
                      Значит, централизованная раздача нужна.
                      Нужна. Видимо, еще нужно всемирное распредененное хранилище всей истории по сертификатам, на некой платформе наподобие блок-чейна.
                      Если удостоверяется, то остается риск злоупотреблений со стороны государственного центра сертификации (примерно как сейчас недвижимость от имени физлиц по поддельным ЭЦП продают).
                      Злоупотребления от государства всегда возможны. Оно даже может все у вас забрать и бросить вас в тюрьму без любых объяснений. Но это не означает, что все проблемы нужно решать без привлечения государств. Выдачу можно фиксировать, например в блок-чейне, чтобы потом суд мог разобраться кто где чем злоупотреблял.
                      Если вы из дома со своей машины вышли в сеть с сертифицированной государством ЭЦП — подключение следует считать условно скомпрометированным
                      Сложный вопрос. Допустим, я анонимно тролю на разных сайтах и затем хочу разместить на Хабре сообщение как авторский контент. Тогда необходимость подписывать что-либо возникает только в момент отправки авторского сообщения. Кроме того, подписанный контент отправляется по https, поэтому в чем разница — подписанный он или нет? Например, сообщение отправляется с моей подписью, Хабр размещает его в странице с тегом «авторский» и прилагает подпись. Браузер отображая сообщение проверяет подпись, обращаясь к некой распределенной базе по сертификатам и подсвечивает его как авторское.
                        0
                        любая фабрика тролей может склонить общественное мнение в любую сторону, какую хочется кому-то в сугубо корыстных интересах. Если люди привыкнут относиться к неавторизованному контенту как к информационному мусору, это решит проблему
                        1. Сначала люди должны привыкнуть всегда подписываться. Например, здесь в комментах, или на других посещаемых сайтах, типа pikabu. Как мне кажется, добровольно никто подписываться не будет. А значит, тролли спокойно будут общаться, как все другие пользователи, и формировать общественное мнение.

                        2. В чём проблема государству сделать 100500 виртуальных личностей с валидной подписью? В чём проблема для иностранной спецслужбы украсть 100500 приватных ключей у неграмотных пользователей с дырявым софтом? Даже проще, можно устроить «атракцион невиданной щедрости» — 2 литра чистого технического спирта за одну подпись, от желающих отбоя не будет.
                          –1
                          Сначала люди должны привыкнуть всегда подписываться. Например, здесь в комментах, или на других посещаемых сайтах, типа pikabu.
                          Большинство людей не смущает, что их аккаунты в социальных сетях очень легко связать с их личностью.
                          Представьте, человек видит в интернете нечто вроде «Студент из Минска изобрел супер-таблетку», наводит мышкой на материал, браузер выдает подсказку «анонимный контент», даже тупой поймет что читать дальше не стоит. Или браузер выдает некий сертификат физического или юр-лица. Тогда любой может сразу загуглить все что выкладывало это лицо и понять с кем имеет дело.
                          В чём проблема государству сделать 100500 виртуальных личностей с валидной подписью?
                          Так сделать ничего не помешает. Это система для более-менее добросовестных государств, заинтересованных в упорядочении интернета, которые могут подписать соглашения и затем из выполнять (как это делается и в других сферах). Факты выдачи сертификатов несуществующим лицам можно выявлять и отбирать права у злоупотребляющих государств. Тогда все их граждане в мировом интернете автоматически статут серыми анонимами.
                          В общем, это все непросто, но разделить контент и затем контролировать мне кажется лучшей идеей, чем контролировать вообще весь контент методами скрытой слежки и запугивания, к чему сейчас все и идет.
                            0
                            Большинство людей не смущает, что их аккаунты в социальных сетях очень легко связать с их личностью
                            Если специально всех принудить входить через Facebook, то наверное, смирятся. Если же оставить выбор — с подписью публиковать или нет, предпочтут без подписи. За примером далеко ходить не надо — у вас в профиле не указаны ФИО )))
                            Представьте, человек видит в интернете нечто вроде «Студент из Минска изобрел супер-таблетку», наводит мышкой на материал, браузер выдает подсказку «анонимный контент», даже тупой поймет что читать дальше не стоит
                            Какая ерунда. А если написано «Виктор Петрик», или «Иван Сидоров», то читать стоит? Реальный человек, не аноним, может писать любую чушь. Не будешь у каждого проверять биографию перед чтением каждого коммента.
                            но разделить контент и затем контролировать мне кажется лучшей идеей, чем
                            Для пользователей лучше. Но оно так не будет работать, поэтому останется старое доброе запугивание и цензура.
                              –1
                              Если же оставить выбор — с подписью публиковать или нет, предпочтут без подписи.
                              Западное общество довольно сознательно. Если появится идея, что авторизация это честно и правильно, мне кажется будут авторизовываться.
                              За примером далеко ходить не надо — у вас в профиле не указаны ФИО )))
                              Наполовину да. Но на самом деле ник Muhaa это и есть фамилия и имя. Еще я живу в диктаторской Беларуси и мало ли что могу написать. Речь о том как решать проблему неконтролируемого интернета в нормальном обществе.
                              Не будешь у каждого проверять биографию перед чтением каждого коммента.
                              Я проверяю, если мне интересно насколько достоверно написанное. Если написано «Петрик» то читать не стоит именно потому, что легко узнать кто он если он представился.
                              Для пользователей лучше. Но оно так не будет работать, поэтому останется старое доброе запугивание и цензура.
                              Как раз оно не старое доброе. До интернета автор любой информации был указан. А если речь шла о слухах или желтой прессе, то все знали этому цену.
                                0
                                И всё же я не понимаю, что сейчас мешает сознательным пользователям черпать информацию только с сайтов официальных СМИ и из аккаунтов известных личностей, а весь остальной неавторизованный интернет считать недостоверным.
                                  0
                                  Ну, может идея пока и преждевременна, потом видно будет.
                                  Для примера сейчас открыл rbc.ru и ткнул по случайному банеру. Вышел на статью Человек без стержня. Автор «СерпомПо, Telegram», об этом сайте тоже ничего не знаю.
                                  Вопрос: насколько я могу верить написанному? Допустим автор анонимно пишет все что ему в голову взбредет и просто знает что его никто не найдет. Или может это честный журналист известный в своих кругах. Как это узнать обычному человеку, который от скуки серфит по новостям и не в тренде?
                                  Собственно, я предлагаю официально разрешить писать анонимно безнаказанно любую ложь (или почти любую). И наоборот, авторский контент будет ответственным. Тогда контент расслоится сам по себе на «свободный полет мысли» и ответственную информацию.
                                  Я не утверждаю, что сегодня это будет работать. Но эта идея кажется мне хорошей.
                                    0
                                    Не вижу разницы, будет публикация подписана псевдонимом «СерпомПо», или какой-то фамилией типа «Иванов Сергей», в любом случае, может быть написана как чушь, так и нет. В первом случае проще запоминать жёлтых авторов.
                                      0
                                      Если автор известен, там по крайней мере не может быть клеветы, потому что за нее есть ответственность. И кроме того можно загуглить что этот автор еще писал.
                                      Псевдонимом «СерпомПо» может подписаться любой кому захочется, хоть вы или я. Это вообще не обязан быть один человек.
                                        0
                                        по крайней мере не может быть клеветы, потому что за нее есть ответственность
                                        Почему нет, пиши что угодно про политических деятелей условного противника. У нас будет наоборот, отсутствие правдивой информации о людях во власти. Хотя, вы эту систему позиционируете как пригодную для запада, но что там мешает втихую расправляться с неугодными?
                                          0
                                          Почему нет, пиши что угодно про политических деятелей условного противника.
                                          Не совсем так. В любой стране есть закон о клевете, наказывающий за сознательную публичную ложь о ком-то.
                                          У нас будет наоборот, отсутствие правдивой информации о людях во власти.
                                          Будет. Большинство журналистов и так подписываются своим настоящим именем и всегда до интернета подписывались. Анонимные источники по сути никогда не имели никакой ценности. Разве что анонимки, по которым сажали при Сталине.
                                          В конце концов, никто не запрещает распространять информацию анонимно. Хотя доверия этой информации будет меньше чем сейчас, когда можно выдать себя за кого угодно.
                                          Наконец, можно даже расширить систему сертификатов — позволить получать сертификаты через интернет анонимно без паспорта, создавая виртуальную личность со своей историей и репутацией. Такая личность в глазах читателей будет иметь меньший вес чем реальная, но больший чем полный аноним.
                                          Хотя, вы эту систему позиционируете как пригодную для запада, но что там мешает втихую расправляться с неугодными?
                                          Ничто не мешает, никогда не мешало и не будет мешать. Сейчас во всем мире возьмут интернет под контроль под видом борьбы с террористами и русскими-корейскими-китайскими фабриками троллей, а потом будут втихую следить за кем надо и расправляться с кем надо. А остальные смогут свободно писать что угодно, пока не насолили кому-то. Чтобы этого избежать я и предлагаю отделить свободный интернет который не будет смысла контролировать от авторизованного, который будет контролируемым судами, прокурорами и адвокатами по определению без средств скрытой слежки.
                                            0
                                            В любой стране есть закон о клевете, наказывающий за сознательную публичную ложь о ком-то
                                            Анекдот
                                            Скрытый текст
                                            Спорят американец и русский. Американец: — Я могу выйти посреди площади с плакатом «Долой американского президента!» — и ничего страшного со мной не будет, не арестуют! Русский: — И что? Я тоже могу выйти посреди площади с плакатом «Долой американского президента!» — и тоже ничего страшного со мной не будет, тоже не арестуют!

                                            предлагаю отделить свободный интернет который не будет смысла контролировать от авторизованного
                                            Идея хорошая, и я её абсолютно поддерживаю. Пусть будет «белый» интернет по паспортам, где всё законно и благопристойно. И «чёрный» интернет, где анонимы обсуждают любую клевету и политоту. Но вот незадача: каким бы ничтожным не был «чёрный» интернет, чиновники и депутаты будут лезть туда со своей регуляцией, с желанием заткнуть всех неугодных и там. Так что, идея не работает.
                0
                Все эти танцы вокруг deepfake напоминают известную историю с 'Прибытием поезда на вокзал Ла-Сьота'.

                Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                Самое читаемое