Как стать автором
Обновить

Комментарии 49

Если у подделки есть дефекты, которые можно конкретно описать словами, средний индивидуум распознает такую легко и естественным образом, потому что люди имеют (за редким исключением) механизмы узнавания других людей, которые значительно эффективнее сравнения по формальному описанию.

Это если активно пытаться понять реально ли видео. Однако если что-то делать в спешке, слушать запись на фоне, смотреть его на небольшом экране смартфона, то можно просто не обратить внимание на детали которые выдадут поддельность видео.

В спешке можно и в магазине двойную цену заплатить. Однако это не повод запретить магазин.

Ваш аргумент лишён смысла в этом контексте, потому что я говорил о том, что один способ определения подделки (естественный) более эффективен, чем другой (поиск визуальных дефектов по описанию). А вы говорите, что если вообще не обращать внимания на видео, можно не заметить, что оно поддельное. Да, можно что угодно не заметить, но это не может быть ни возражением, ни дополнением к сказанному мной.

Достаточно пожать все до VGA разрешения картинки, как это водится в видеозаписях почти везде. Артефакты сжатия "перебьют" почти все артефакты дипфейка, и будет не совсем ясно - то ли запись плохая, то ли дипфейк.

Напомню, что чат-бот, который смог обмануть большинство людей, прикидывался ребенком, кхм, с некоторыми особенностями развития.

Если дефекты нельзя заметить естественным образом, их нельзя заметить и анализируя видео визуально по формальному списку. Я не утверждал, что люди в состоянии видеть дефекты, которые вообще нельзя увидеть, потому что они, например, ниже уровня дефектов сжатия видео.

Если мой старый друг будет прикидываться человеком с некоторыми особенностями развития, я думаю, я что-то заподозрю...

Друг может сказать "что он после аварии и лежит в больнице".. и тут уже любые особенности пролетят..

Остаётся понять, зачем ему деньги, если он лежит в больнице ;)

В реалиях ex-USSR — дать на лапу главврачу, чтобы лечили нормально.
потому что люди имеют (за редким исключением) механизмы узнавания других людей
Эти механизмы очень не точные. У меня у матери очень хорошая зрительная память на лица, но при этом она «купилась» на фотографию человека очень похожего на меня, почти двойника, которую я случайно нашел в сети и отправил ей.
Помнится, в ЖЖ накатила очередная волна ботов, которые маскировались под обычных пользователей — имели записи в ленте, постили осмысленные реплаи. Но я все равно выкупал их на раз. Очевидно же: Записи либо бессистемны, либо являются репостами, реплаи шаблонны или не попадают в тему беседы.
Но очень многие не могли их определить. Поэтому людская способность выловить дипфейк мне кажется сильно переоцененной.

В моём комментарии выше речь шла о визуальном распознавании. Люди очень долго эволюционировали, чтобы узнавать лица, видеть тонкие различия в выражениях и так далее. Феномен uncanny valley - прямой результат этого, например.

Думаю, будет как с шахматами — задавят грубой силой. Первые программы тоже играли так себе, а когда скорость CPU выросла в 1000 раз, человек окончательно проиграл.

Мы не знаем, на что будут способны сети, если число слоёв/нейронов увеличить в 10 или в 100 раз.

Кто-нибудь будет в этой ветке вообще читать исходное сообщение? Кажется, что нет. Потому что сравнивал я два подхода людей к определению поддельных фото и видео с участием других людей.

НЛО прилетело и опубликовало эту надпись здесь

Как обычно - им хочется, чтобы только "правильные" люди имели к ней доступ и чтобы обманывать этой технологией можно было только "неправильных" людей. "Друзьям - всё, врагам - закон", вот это вот всё. А тут кто угодно подделывает кого угодно - конечно, кому такое понравится… Вот и ищут способы если не загнать джинна обратно в бутылку, то хотя бы научиться его контролировать.

Думаю в итоге дело идёт к тому чтобы никакие видео и аудио (и другие которые научатся подделывать) материалы не являлись доказательством каких-либо действий (преступных и не очень). Придется доказывать что эти доказательства являются доказательством, а не являются подделкой, хз может их электронной подписью будут подписывать или как-нибудь блокчейн использовать.

Почему-то ни слова про биометрию. Однако при аутентификации по голосу дипфейки легко обойдут автоматику. Тем временем Сбербанк всё ещё активно убеждает сдавать биометрические данные. Ну вы поняли.

Вообще любая биометрия, которая может быть считана с индивидуума без его согласия и ведома - средство аутентификации с пониженной надёжностью относительно того, что не может быть снято скрытно и без ведома. Потому что единственным препятствием для копирования становится сложность/цена. Плюс, не забываем о невозможности добровольной инвалидации биометрии и возможности случайной (для некоторых случаев) в результате травмы, например.

Вообще любая биометрия, которая может быть считана с индивидуума без его согласия и ведома

Примерно так

Только в оригинале там кое-что другое было :)

Если это можно сделать удаленно через браузер, то можно заранее забить в базу сбера такой адов дипфейк на себя, который просто не удастся никому сгенерировать. Ну а далее просто постоянно отказываться от всяческих логинов по биометрии (типа «нету камеры и микрофона»).

Сходил недавно в сбер и отписался от использования биометрии. Посмотрю пока на это всё со стороны.

подали заявление о запрете на сбор биометрии?

НЛО прилетело и опубликовало эту надпись здесь

программы клонирования голоса развиваются угрожающе быстро.

А ведь нас ещё в Союзе учили:

одного отпечатка голоса мало, нужен ещё shared secret!

А как же позитивная сторона? Обратная отдача. Конкретный вид и голос человека обесценится — то есть, общение станет объективным, оно будет влиять только своим содержанием и смыслом.

Следующий шаг — дипфейк содержания и смысла. Ну тут — уж за что боролись, на то и напоролись. Если у бублика откусить и правую часть и левую, то пользоваться оставшейся частью по своему назначению станет только удобнее.
Следующий шаг — дипфейк содержания и смысла.
Так это предыдущий же, всякими GPT-3 вроде бы уже налюбовались.
Любоваться ими можно пока они заметны. А вот станут неотличимы, вот это будет другой разговор. Нужно будет прежде чем разговаривать с человеком убеждаться в его адекватности. Это станет не лучшей практикой, а необходимостью.
Нужно будет прежде чем разговаривать с человеком убеждаться в его адекватности.
Ммм… Если абсолютно адекватен и без закидонов — значит 100% робот?
Потому как слишком уж много людей тест на адекватность завалят :-)

Скоро будем верифицировать своего босса методом профессора Плейшнера:

— Отто просил передать, что вчера вечером ждал вашего звонка.

— Странно, я был дома, но, видимо, он перепутал номер.

Ну почему же не сулят?

Фильм, в котором можно самому выбрать актеров или, что проще, перевод оригинальны голосом актера. Даже от порно с выбранным образом "звезды" большинство бы не отказались (-;хоть и будут утверждать обратное;-)

Просто надо признать, что видео, где человек похожий на ген. прокурора отдыхает в обществе дам похожих на ... Ну в общем не работает такое видео. Да и, в те времена оно тоже работало тогда и только тогда, когда кому-то это было нужно.

Так, весь прикол в том, что через несколько лет какой-нибудь сферический Жириновский в вакууме сможет всё спихнуть на дипфейк при публикации видео в бане в компании молодых мальчиков.

И что? Вы гомофоб? Политиков надо судить по их политическим взглядам, а не по личной жизни! Вот не было бы мальчиков, вы бы пошли за ЛДПР голосовать?

Надо понимать, что компромат работает тогда и только тогда когда кому то надо и проплачивают шумиху в сети. Вон в одной стране поставщик лоли политикам повесился в камере и тишина. Престарелый криптоанархист попытался шум поднять и тоже самоубился в камере. И тишина... В общем то мне параллельно. Если в одной стране можно с 21, а в другой с 14 и кто то решил сделать на этом гешефт, то это их личное дело. И как максимум дело их избирателей. Но вот когда они начинают убивать - это как то не весело.
Поэтому я за то, чтобы политиков не судить по фото из бани. А только за поступки.

На самом деле политиков (да и иных публичных личностей) судят не по поступкам, а по взаимосвязи их высказываний и заявлений с их поступками. Если человек на словах яростно борется с уничтожением человеком окружающей природной среды и в то же время расстреливает лосей в заповеднике, это вызывает общественное неприятие. Ибо политик созданием законов (или иных правил поведения) принуждает окружающих поступать определённым образом, но сам так поступать не намерен.

Лицемерие - довольно серьезный проступок для политика, но явно не основной, а тем более - единственный вид нежелательного поведения, на которое обращают внимание люди. Как минимум, ложь сама по себе покрывает больше негативных ситуаций, включая лицемерие.

судят не по поступкам, а по взаимосвязи их высказываний и заявлений с их поступками. 

Увы, не судят (в юридическом аспекте). Законотворческие инициативы о наказании за невыполнение предвыборных обещаний не проходят дальше первого чтения :).

Никогда не доверял какой-либо информации независимо от репутации/авторитета источника/субъекта. Дипфейки просто обращают внимание на то что мы существуем в окружении иллюзий и приближают то время когда идеализм перестанет быть самым популярным мировоззрением.

А мне кажется, что обсуждаемая тема станет еще одной тростинкой в неразрешимом ворохе проблем с которым человечество встретится ближайшее время перед своим вымиранием.

Дипфейк идеально подойдет для новостей на ТВ как иллюстрация события.

Например, можно воссоздать (эскизно, но все-таки) сцену любого происшествия

Не вижу какой-то явной угрозы при условии адекватной реакции общества - по факту дипфейки ставят под удар биометрические технологии аунтификации (в том числе аналоговые "вроде знакомый голос начальника в телефоне, значит надо делать то, что он говорит"). Классические технологии аунтификации по паролям, смарткартам, ЭЦП и прочим подобным штукам дипфейки вообще никак не затрагивают. Просто придётся признать, что биометрия для критических вещей (а не неуловимых Джо) - не может быть достаточным средством аунтификации, максимум дополнительным фактором.

В целом во многих развитых странах и так на биометрию на государственном уровне не полагаются. Системы распознания лиц в Европе сильно ограничены (из-за GPDR), в США зарегулированы на уровне отдельных штатов. Системы "оплата взглядом" в Европе вообще не слышал, чтобы внедрялись, в США внедряются опять же как частная инициатива отдельных компаний (то есть от сворачивания программы глобальных последствий не будет). Тот же пограничный контроль в ЕС для граждан ЕС - биометрия только второй фактор, без физической id-карты (на которой есть всякая криптография) тебя через границу не пустят автоматически.

По факту массово внедряют биометрию как основной фактор для идентификации граждан и умных платежей только Китай да Россия. Ну, им, возможно, придётся свернуть инициативу, либо сильно закрутить гайки в области разработки и использования ПО (но это уже будет шаг назад во всех сферах развития, чтобы спасти одну не особо значительнуюс сферу). Гражданам по возможности стоит избегать использования биоматрической идентификации при наличии выбора (в России он пока есть, в Китае не знаю).

Что касается сотрудников фирм, готовых перевести большие деньги по звонку с незнакомого номера просто потому что голос показался знакомым - это во все времена кажется чем-то неправильным, просто потому что бывают люди с похожими голосами, не все люди одинаково хорошо умеют голоса различать и т. д. Дипфейки ничего нового тут опять же не открыли. Идентификация без секрета, просто по принципу "ну вроде выглядит/звучит похоже" by design обречена на провал и годиться только для того, чтобы правильного ребёнка в детсаду забрать - просто потому что вряд ли неправильный ребёнок будет специально мимикрировать под правильного, слишком экзотическая атака (если только речь не о сыне миллиардера, но, мне кажется, они не ходят в обычные детские сады). Но когда очевидна финансовая угроза, атака перестаёт быть экзотической.

Так всем это понятно. Но наше доблестное правительство упорно так не считает. В ход идут новые средства по сбору биометрии. Единая база. Госуслуги и все дела. Попахивает новыми возможностями для мошенников. И при этом мошенники не только могут провести через эту систему сделки или получить фиктивные документы но и проголосовать за вас, например.

Мне кажется, все эти "достижения" (распознавание лиц, фокусы с нейросетями) однажды будут запрещены международной конвенцией так же, как запрещены сейчас химическое оружие, кассетные боеприпасы и экспансивные пули. Когда-то это все тоже было достижением инженерии и вызывало восторг в определенных кругах. Вопрос, понадобится ли для этого глобальный катаклизм.

Пожалуй видеодоказательства потеряли силу ещё в 1997 после выхода фильма "Титаник". Правда тогда это было дорого и доступно далеко не всем. Но ведь до сих пор публикуют какие-то аудио "прослушки", которые кем-то принимаются как доказательства...

Это как с огнестрельным оружием, убивает не оружие - убивает человек, оружие это инструмент и только человек принимает решение использовать оружие для защиты или для нападения.

Здесь тоже самое. Технология хорошая, вот только в мире негодяев и подлецов многовато. В 90-е было стало модно зарабатывать много не задумываясь о том что такое хорошо и что такое плохо. Сейчас с 90-ми мало что изменилось, во всем мире культ денег, а не чести и справедливости, просто инструменты изменились. Негодяи (мошенники, политики и т.п.) разного пошиба достигают цель любыми способами наплевав на все, в т.ч. на свою же репутацию. Поэтому, что бы любой инструмент не стал оружием, например, вымогательства или фейковых политических новостей, то людей надо воспитывать с самого детства. Дети не рождаются плохими, а становятся такими с возрастом и отсутствием правильного воспитания.

чтобы любой инструмент не стал оружием, например, вымогательства или фейковых политических новостей, людей надо воспитывать с самого детства

Так в СССР с детства и воспитывали,

предупреждая как раз о таких ситуациях
НЛО прилетело и опубликовало эту надпись здесь

Ну так я и говорю: воспитание было. А принимать его близко к сердцу или нет — личное дело каждого.

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.