Как стать автором
Обновить

Комментарии 269

НЛО прилетело и опубликовало эту надпись здесь
Фото и видеоматериалы проходят экспертизу. Создать систему, способную сделать абсолютно реальную картинку дело далекого будущего, а тогда и экспертные программы подтянутся.

Пока нейросеть не делает это лучше, чем это делают профессионалы. Сейчас так же можно подделывать фотографии и видео, причем человек это сделает гораздо лучше.

После недавней публикации поглядел десяток роликов на redite. Не увидел ни одного достоверного ролика. Там и экспертиза не нужна, монтаж виден невооруженным взглядом.
Возможно дело в мастерстве создающего.
В статье приведет весьма неплохой ролик с подменой погоды.
Качество видео с видеорегистратора и так не очень, а в таких случаях подделку очень сложно определить на глаз.
Я говорил о роликах с людьми. Все те что я видел на reddit имели очень слабую реалистичность.
ЗЫ В ролике из статьи артефакты отлично видны, правый нижний угол.
Сейчас экспертиза стоит недорого. Если будут массовые подделки, причем качество будет таково, что потребуется экспертиза крутого специалиста на каждый случай — вот тут будет плохо
Если эту технологию продолжат развивать

Вы видите альтернативный путь? Очевидно, что технологию продолжат развивать, теми или иными путями.
Ну тут вопрос только в соотношении сил. К сожалению, сейчас слишком много богатых «защитников» таких технологий. Но при наличии скоординированного международно-государственного желания, вполне можно было бы всё это прижать и запретить, оставив разрешение только для специальных государственных организаций этим заниматься, а всех остальных при обнаружении признаков наличия подобного софта надолго сажать. Есть же ограниченные к распространению вещества (думаю у всех первая ассоциация со всякой наркотой, но это не только она — плутоний там же, и некоторые даже угрожают военным вмешательством по этому поводу), почему бы на опасные алгоритмы это не распространить?
И часто участковый проверяет, каким софтом вы владеете? То есть да, на уровне выпуска очередной запретительной бумажки это легко организовать, в отличие от практики. Не говоря уж о том, что так можно дозапрещаться до возврата в каменный век.

А я и не говорил "участковый проверяет". Два примера из не-ИТ, которые я привёл, они тоже не проверяют, но это не мешает с распространением вредных сущностей бороться.


Не говоря уж о том, что так можно дозапрещаться до возврата в каменный век.

Весьма однобокий взгляд на каменный век. В нём ещё было разрешено много того, что сейчас наоборот запрещено (а точнее, государственных запретов вообще не было по причине отсутствия государств).

ничто не препятствует собирать статистику о установленном софте посредством ОС, и судя по всему скоро это будет не статистика, а именной список, есть конечно еще право на свободу от слежки, но это можно быстро поправить, оправдывая борьбой с террором и педофилами.

Ну да, будет светится установленный компилятор с питона или джавы… да у каждого 9 из 10 программистов они есть. А сам софт для подмены лиц будет распространяться в виде обфусцированных исходников, устанавливаться скриптом и 8 из 10 программистов будут доказывать что это скрипт для удобства а не для установки/запуска программы подмены лиц.
Смотрели фильм «Гений»? "… нажимаем на эту кнопочку на чемоданчике, весело мигает светодиод… и всё готово — плёнки-доказательства размагничены."
Смотрел, с хардами такой фокус не прокатит, ну вообще сейчас носитель можно вообще вделать в стену и в случае чего просто отдать пустую систему, где нет ничего провокационного, а при необходимости просто забить гвоздь в нужном месте, полностью разрушив носитель
Прокатит, есть даже специальные магнитные уничтожители для хардов. А хард в стене… если будут проводить обыск по наводке, профессионально, то даже стены разберут и не дадут даже шанса вбить гвоздь в нужное место. Только магнитный уничтожитель с автономным источником питания и «педаль мертвеца».

Любите вы все "прижимать и запрещать". Запрещать использовать чужое изображение — понятно. А запрет на алгоритм — не будет такого. Да и глупо это, уже пытались.

При наличии какого софта сажать? При наличии компилятора или интерпретатора на компьютере? Или, быть может, за библиотеки для разработки нейросетей? А сами программы и исходники вполне можно спрятать и на внешнем устройстве. Пока что это никто не делает, ибо не запрещено.
Знаете, что случится, будь введен запрет?
  • Даже самый безграмотный и невнимательный преступник, в условии запретов будет прятать улики. Без запрета вероятность значительно ниже — больше шансов доказать наличие преступления.
  • Общество будет полагаться на надежность закона — подделка видео для большинства станет чем-то из другой реальности(Киберпреступления — они из другой вселенной, у нас спокойный городок/мы ничем не примечательны), вместо того, что бы самостоятельно защищать себя, некоторые будут скомпрометированы, что ударит по ним сильнее, нежели без такой «защиты» со стороны государства.
  • Опять же, надежные средства позволяющие прятать улики и человеческая психология, отвергающая подобные преступления, как нечто далекое, приведут к тому, что в большинстве случаев виновные будут оправдываться за неимением доказательств, а для людей эти преступления станут всё дальше и всё призрачнее.
  • Интернет, а тем более компьютеры пользователей контролировать практически невозможно. Развитие технологии, несмотря на радужные мечты, будет идти своим чередом. В какой то момент доказать поддельность видео уже будет невозможно, что усугубит последствия предыдущих пунктов.
  • Помимо преступников, есть ещё государство. Регулирование подделки видео еще может привести и к государственной монополии.
  • В условиях коррупции, ещё и государственные служащие получат такую возможность.
  • Итого, некоторые лица смогут нарушать закон в ещё большем масштабе, со всё еще большими последствиями, в т.ч., сажать будут уже не за подделку видео, а, в совокупности с коррупцией и развитым технологиям, по поддельным видео, чего вы хотите избежать

Кстати, знаете, почему государства могут контролировать, например, тот же плутоний?
Его трудно добыть, поскольку контролируются все поставщики, так же его невозможно использовать в кустарных условиях, вероятно, требует специфических условий хранения. Ну, и еще он не дешев. Знаете, к чему я? Всё это не про интернет и не про компьютеры. Они лишен этих трудностей.
При наличии какого софта сажать? При наличии компилятора или интерпретатора на компьютере?
Браузер есть? Яваскрипт умеет? Посадить! И не надо выдумывать кучу законов, чтобы подловить кого надо. (сарказм, если что)
Качественная подделка любой информации — вопрос лишь времени и никуда от этого не деться.

Не передёргивайте. Оружие без спец. разрешения запрещено иметь, а вот промышленные станки, на которых его можно изготовить — не запрещено. И точно так же, можно сказать, что из-за запрета ношения оружия преступник будет его (улику) прятать после убийства.


Общество будет полагаться на надежность закона… вместо того, что бы самостоятельно защищать себя

Закон и правоохранительные органы это и есть способ, которым общество себя защищает от вредительства. Это, в общем-то, именно то, ради чего их придумали.


Интернет, а тем более компьютеры пользователей контролировать практически невозможно

Не более невозможно, чем другое личное пространство.


привести и к государственной монополии.

У государства есть монополия на ряд действий, которые запрещены для граждан. Это необходимо для его исправной работы.


В условиях коррупции,

Это — плохо, да. С коррупцией надо бороться и не только тут а везде. Но это совсем другая история.


Всё это не про интернет и не про компьютеры. Они лишен этих трудностей.

Не лишён. Написание (да и эксплуатация) сложного алгоритма в одиночку — весьма затруднительная и, обычно, не окупающая себя деятельность. А не в одиночку уже растёт вероятность столкновения с сознательными гражданами, которые сообщат куда следует.

Не более невозможно, чем другое личное пространство.
Но вы же понимаете, тем самым придется разрешить полный контроль личного пространства? Т.е. все личные данные каждого гражданина должны досконально и регулярно проверяться, даже самые частные моменты жизни. Это, несколько, и в противоречие с конституцией может вступить, да и вы вряд ли согласитесь на это.
У государства есть монополия на ряд действий, которые запрещены для граждан. Это необходимо для его исправной работы.
Да, есть, именно поэтому я понимаю, что не всякая государственная монополия одинаково хороша, особенно в контексте других существующих проблем.
Написание (да и эксплуатация) сложного алгоритма в одиночку — весьма затруднительная и, обычно, не окупающая себя деятельность деятельность.
Возможно, однако, это не мешает уже сейчас иметь целые готовые библиотеки машинного обучения. В интернете достаточно статей, где создают нейронную сеть из готовой библиотеки и 15 строк кода. Знаете, что произойдет в случае тотального контроля? Всё так же можно будет написать программу в 15 строк, только теперь инструкция к ней будет подробной и платной, равно как и библиотека.
Закон и правоохранительные органы это и есть способ, которым общество себя защищает от вредительства.
Да, так и есть, однако не все методы одинаково эффективны в разных вопросах. От киберпреступлений надежной защиты нет в принципе — внимательность позволит снизить риски. Государственные органы могут помочь, когда дело совсем уж плохо. Но помочь можно не всегда. А поймать преступника до преступления будет затруднительно, ибо тотальный контроль невозможен — полагаю, электронных устройств уже больше, чем население планеты. Тут вам и интернет вещей, и смартфоны(на которых при желании тоже можно написать противозаконный код), а не только компьютеры. Предлагаете извлекать и проверять данные из каждого чайника?
Оружие без спец. разрешения запрещено иметь, а вот промышленные станки, на которых его можно изготовить — не запрещено.
А ещё, промышленные станки, вероятно, немаленьких размеров и покупку каждого экземпляра можно контролировать, что отличается от ситуации с интернетом, где мы просто копируем данные.

Но знаете главную проблему? Пока все библиотеки и разработки публичны, каждый желающий может разрабатывать и средства защиты. Но, как только такие программы станут нелегальны — они станут закрыты и противодействие им будет значительно затруднено. А государство не всесильно и не способно проверить каждый исходный код, уж не говоря, о том, чтобы его найти.
Но вы же понимаете, тем самым придется разрешить полный контроль личного пространства?

Повторю: не передёргивайте. Я нигде такого не предлагал и наоборот привёл пример того, как это уже боле сотни лет с удовлетворительным качеством делается в не-ит сфере без указанного вами тотального контроля.


А ещё, промышленные станки, вероятно, немаленьких размеров и покупку каждого экземпляра можно контролировать, что отличается от ситуации с интернетом, где мы просто копируем данные.

Периметр доступности этих данных тоже можно контролировать. Если у кого-то они обнаружились за периметром — значит он виноват.


Но знаете главную проблему?

Ваши рассуждения один в один подходят и к ситуации с легальностью/нелегальностью оружия. Да, если загнать некоторую активность в подполье, то бороться с ней станет сложнее. Но это вроде бы очевидный факт — когда вы с чем то боретесь, вы обычно встречаете противодействие, имеющее своей целью отразить вашу атаку и заставить вас сдаться. По сути вы как раз предлагаете сдаться на том основании, что противник может воспротивиться.


А государство не всесильно

Сила государства определяется его народом. Надо предполагать, что граждан, желающих порядка, заметно больше, чем граждан, желающих его нарушить, а значит первые сильнее.

привёл пример того, как это уже боле сотни лет с удовлетворительным качеством делается в не-ит сфере без указанного вами тотального контроля.
И тут мы видим ситуацию под разными углами. Вы считаете качество удовлетворительным, а вот я нет, боле того, считаю, что некоторые средства усугубляют проблему. Полагаю, дальнейшее обсуждение может вестись только в контексте этого вопроса, а поскольку он, скорее, дело вкуса, то конструктивного общения не выйдет. Полагаю, на этом стоит остановиться.
Ох уж эти прижатьизапретить, а на дыхание ваше разрешение не просрочено?
Не бывает «опасных алгоритмов». Бывает опасное их применение. Притом любых алгоритмов. Включая сортировку пузырьком, прости господи. Что и как вы будете запрещать?
Следующий шаг — мыслепреступление. Вдруг я что то такое представил?

Про мировую практику не знаю, но в России видеоматериалы могут быть доказательством только на усмотрение судьи. Не захочет — не примет, без объяснения причин.

У вас уже частично устаревшая информация. В административном делопроизводстве неопределенный статус аудио и видеоматериалов устранен, согласно федеральному закону от 26 апреля 2016 г. № 114-ФЗ в ст.26 КоАП внесены изменения, которые прямо относят их к документам как разновидности доказательств и требуют анализа на общих основаниях.

В ГП а АП такой определенности пока нет, но и там судья не может ничего сделать на свое усмотрение — он принимает или отвергает доказательства с обязательной мотивировкой причин такого отказа. В уголовном процессе еще в начале двухтысячных при направлении дела в суд мы сами цифровали с кассет записи, выполненные в ходе следственных действий и прикладывали компакт-диски в качестве приложений (иные документы по терминологии УПК) к протоколам осмотра места происшествия, следственного эксперимента, и т.д.
обязательно произойдет череда громких подделок, где какой-нибудь политик(не обязательно в СНГ) будет якобы принимать/давать взятку и будет за это осужден/смещен с поста.
В СНГ будут подделки, где какой-нибудь политик будет не принимать взятку.
Значит будут принимать видео только с защищённых камер.
хмм… я вот что подумал — а если с обратного конца подходить?
То есть — генерировать видео по его описанию, и тогда вместо базы данных с фильмами будет seed, с которого пользователь будет генерить себе «мягкое с блондинкой» или «жесткое с негром».
Игры такие вроде есть, с глубокой кастомизацией персонажей. А люди все равно смотрят видео. Люди не любят сложностей
Тут скорее эффект зловещей долины. Графика в играх стала весьма хорошей за последние годы, но всё ещё недостаточно. Плюс помимо графики есть ещё и анимация движений персонажей, которая тоже может выглядеть неестественно.

Слишком высокие требования у потребителей такого контента (просто потому что главное воздействие оказывается на бессознательное, которое очень хорошо обучено находить зловещую долину), что пока дешевле и быстрее снять видео с настоящими людьми.

К тому же хорошая графика требует достаточно дорогого железа…
Скажем, технически возможно такое: снимаем плохую 3d анимацию «лишь бы хоть что-то», а потом на наших болванчиков натягиваем лица голливудских актёров. Да и вообще, можно будет что угодно натянуть — дома, деревья, поля и реки, леса и горы, автомобили… Короче, снимать голливудское кино, натягивая на плохие рендеры объекты реального мира.

В плохой анимации будет плохая физика и неуклюжие движения. Исправлять движения нейронки пока не умеют.

плохая физика
прикрутить bullet
неуклюжие движения
ладно, уговорили, движения болванчиков тоже поручить нейронке — если такого ещё нет, то скоро сделают.
Нет никаких этических проблем. Есть лишь непомерная жадность некоторых людей, которые почему-то искренне уверены, что всё, к чему они хоть раз приложили руку, отныне и навек принадлежит им, даже если они давным-давно это продали, а все остальные теперь обязаны на каждый чих получать нотариально заверенное разрешение.
Справедливости рады — вы не правы.

Преположим, есть девушка А, которая недавно отказала парню в свидании. Озлобленный парень решил нагенерировать десятки порно с ее участием и разослать ее друзьям, родителям и коллегам.

В итоге жизнь девушки будет разрушена, так как далеко не все будут задумываться о том, фейк это или нет.

Ну и мне кажется, что делать порно с изображениями людей, которые против этого в целом немного нехорошо. Это пока есть шумиха и пока это знаменитости все над этим смеются. А как только явление станет немного более массовым, будет хуже.
Как только явление станет достаточно массовым, все к нему привыкнут и просто перестанут верить подобным видео. Даже наоборот, у человека, пойманного на горячем, всегда будет отмазка, что это сгенерированный фейк.
Кроме того, порно с изображениями любых людей научились делать сотни лет назад, для этого надо всего лишь уметь рисовать. Такая замена лица в общем-то мало отличается от рисования, просто основную работу делает машина. Вместо этой самой машины вы могли бы пойти к художнику, показать ему исходное изображение и новое лицо, которое там надо поставить — и за соответствующую плату он выполнил бы задание.
Но мне почему-то казалось, что это только в детском саду бросаются друг на друга с кулаками и криками, увидев в тетрадке кривую рожу с надписью «это Лена».
Ну, тут как бы есть два момента:
1. Это будет довольно дорого, а значит обычный обыватель сделать так не может.
2. А для необычных обывателей есть проверка фактов и экспертиза.

Вы не учитываете, что большинство людей не будет заниматься проверкой фактов и вопросами «а так это или нет». Замечательный пример тому — мем про «первого русского я убил в 16 лет», которая приписывается человеку, который ее никогда не публику не говорил и записей с тем, что он ее говорит тоже нет.
1. Это будет довольно дорого, а значит обычный обыватель сделать так не может.

Сейчас в фотошопе можно пририсовать чужую голову к порно-телу практически бесплатно и невероятно качественно. И что — сильно люди покупаются на такие фотографии?

Если жизнь девушки будет разрушена, потому что её близкие не будут заниматься проверкой фактов, это печально. Но почему-то кажется, что её жизнь рядом с такими близкими будет разрушена и без фейкового порно.

Жизнь в таких ситуациях рушится скорее не из-за близких, а из-за коллектива и руководства на работе, в вузе и т.п. Многие ли люди смогут абстрагироваться от увиденного образа, особенно если происходящее в ролике далеко от общепризнанных норм (даже в весьма раскованных обществах)? У нас технологии развиваются намного быстрее мозга и интеллекта.

Даже если полностью отбросить довод о разрушении жизни. Далеко не все люди — высокопримативные экстравертивные мачо (или их женские аналоги), которым совершенно плевать (или даже будет приятно), если порно с ними, подлинное или поддельное, попадет в широкий доступ. Думаю, достаточно людей, достаточно брезгливых и не особо любящих секс, которым будет неприятно, да попросту очень противно видеть себя в такой роли, отвечать на бесконечные вопросы и т.д. Только не надо путать некую брезгливость и разные степени асексуальности с ханжеством и моралофажеством. Мир многогранен.

Да, проблема, но она не сильно больше, чем с поддельными фото. С изначальным утверждением, что нет никаких этических проблем, я не согласен. Есть, но не очень большая. Наказание за обман в целом должно быть. И за фальшивое видео и за фото и за статью в газете с враньём. Но большинство людей считает, что враньё — нормально. Так что в среднем остаётся как есть. А случаи с видео будут так же редки, как и с фото.

Где-то была новость про то, что больше 80% людей верят, что ГМО опасно. А вы говорите, про какие-то проверки фактов)
Не понимаю, к чему эта аналогия. ГМО, по вашей логике, надо запретить, вместо того, чтобы просвещать людей?
> все к нему привыкнут

Не надо к такому привыкать.
Надо. Иначе как такой шоковой терапией общество не отучится судить о людях по нерелеватным для поставленной задачи характеристикам. Сколько карьер было разрушено из-за того, что становилось известно, что человек имеет какие-то необычные сексуальные предпочтения? Хотя казалось бы, как это влияет на его интеллектуальные или организаторские способности?

Если в области подобных «компрометирующих» материалов будет хаос, то приватности только прибавится.
Лично Вы готовы увидеть на любом порно- и не только сайте себя или близкую Вам женщину в видео, которое может подмочить репутацию, созданное умышленно?

Ниже некоторые ратуют за свободу в Интернете… По-моему свободу путают со вседозволенностью. Я против запретов в Сети, но за слова и поступки надо отвечать.
Я готов. Хотя бы в порно у меня будет близкая женщина :-)
Угу, или близкий темнокожий мужчина.
P.S. пойду ка вконтакте почищу «немного»
>за поступки надо отвечать
Надо
>но за слова
Не надо. Слова это просто слова. Картинка в интернете это набор пикселей. А вот кулак в челюсть, это больно и за это надо отвечать.
И это, табу на секс просто огромная глупость. Обычное естественное занятие превратили в какой-то мистический греховный ритуал. На экране кровь, кишки, расколбасило, ничего, смотрим всей семьей. На экране начинаются поцелуи, всё, детишкам пора баиньки.
А потом удивляемся, откуда столько насилия.

Если что, порно со своим участием не боюсь. Как и фотожаб.
Впрочем, моего лица в сети практически и нет. Как говорится, береги личные данные смолоду.
НЛО прилетело и опубликовало эту надпись здесь
Но мне почему-то казалось, что это только в детском саду бросаются друг на друга с кулаками и криками, увидев в тетрадке кривую рожу с надписью «это Лена».

Ну например ещё лет 30-40 назад за кривую рожу в тетрадке с надписью «это Ленин» можно было огрести совсем не от детсадовцев, а от более опасных личностей. И не то чтоб в современном мире любые неприятные картинки вам сойдут с рук.
Проведите эксперимент — сделайте фотофейк с собой (даже корявый) и пошлите, например, родителям анонимно. Они, конечно, увидят что фейк (возможно, не сразу), но «осадочек останется». Если уж без всякого фото и видео люди верят очевидным фейкам и тельавизора, то уж картинке поверят точно.
В данном случае, порнография — это такая мелочь. Взрослых людей не должно волновать что и как другой взрослый делает в своей постели, выставляет ли это напоказ — это личное дело и поддельный ролик должен так же восприниматься, в духе «ну и что?».

Другой момент, что с современной истерией по некоторым поводам, даже ничего не значащим (например, высказывание личного мнения в твиттере и последующее увольнение), может получиться интересная коллизия, когда в ролике можно нафантазировать такого, от чего действительно не отмыться. Вспомним ту грязь, что лилась на того же Трампа пару месяцев назад, ну хотя бы ту же историю про проституток в номере. Придумываем историю, снимаем с похожими актерами на нужных ракурсах кадры (нейросеть не научилась пока что качественно менять лицо, если есть какой-то предмет на переднем плане или ракурс не совпадает), вываливаем в интернет — и все, тут уже будь это 100 раз неправдой — инфоповод будет работать.

Я не удивлюсь, что сейчас какой-нибудь политик, скажем, английский, заявит, что не сношался со свинями, как ему это приписывают, а стал жертвой подделки видео. И вся любовь.
Другой момент, что с современной истерией по некоторым поводам, даже ничего не значащим (например, высказывание личного мнения в твиттере и последующее увольнение)
Да ладно, даже делать ничего не нужно.
image
Кто не помнит — руководитель миссии Розетты и его рубашка.
Я дико извиняюсь. А что такого особенного в съемках в порно, что жизнь будет разрушена? Нет я понимаю что так оно и будет, но не совсем понимаю почему.
Мне лично — ничего. Но вот есть большое количество людей, для которых это повод затравить или перестать общаться с человеком. Можно погуглить по «травля за порно».

Почему? Ну, потому что это АМОРАЛЬНО, БОЖЕНЬКА ПОКАРАЕТ и прочее.
Ну например, стали бы вы встречаться с девушкой, если бы знали, что она снималась? Смогли бы вы поверить, что прямо сейчас она не спит с кем-нибудь на камеру или за деньги? Быть может, она просто не рассказывает это вам. Даже если с моральной точки зрения вам всё равно, остаются ИППП и то, не будете ли вы воспитывать чужих детей.

Или положим, отдадите ли вы своих детей в школу к учительнице, которая снимается в порно? Не будете ли вы опасаться, что она сформирует положительное отношение к съёмкам у ваших детей?

Поддержите ли вы друга в его отношениях с девушкой, если найдёте порно с ней в интернете, а он об этом не будет ничего знать до этого?
1. Да. Для меня важнее честность и разумность. Мне вот дико смотреть как знакомые встречаются с девушками жрущими мозг совковыми лопатами.

2. Однозначно да, не буду. В вас не смущает что половина учителей в школе самоутверждается за счет детей? Я лично с начальной школы не перевариваю олимпиады, с тех же пор перестал прикладывать усилия к учебе, потому что был сеанс криков и унижения за какую то хрень вроде второго места вместо первого.

3. Поддержу. Не всем везет найти себе вторую половину, зачем это рушить? Тем более что у меня есть друг который уже вотнулся не раз в тот факт, что счастье все таки в неведении. К тому же порно может быть из категории «порно из мести». Говорить или нет это сложный вопрос на отдельную долгую и сложную дискуссию.
1. Если жизнь человека в обществе можно разрушить написав на заборе «NNN — дура!» — то это значит что не патрули у заборов организовывать надо; это значит что надо лечить сумасшедшее общество, для которого настолько важны надписи на заборах.

2. Это хорошо что такие вещи появляются и это здорово что оно становится массовым. Всё что обесценивает цифровую слежку — хорошо и правильно.
То есть, по-вашему, людям не должно принадлежать их собственное лицо?
Собственное — должно. А копия-то лица с чего вдруг?
А уж конкретно тем, которые сейчас возмущаются, так и оригиналы лиц давно не принадлежат — ведь актёры давно продали все права на них соответствующим студиям, подписав многолетний контракт и получая деньги за съёмки. Так что по идее возмущаться должны бы правообладатели, но уж никак не те самые актёры.
Вы так говорите, как будто лицо и копия лица отделяются, и если копия вашего лица в чем-то участвует, то оно никак на вас не повлияет. К сожалению, это далеко не так, как минимум, общество не готово так мыслить. Потому это и этическая проблема.
Опушу в сторону этические проблемы, но позволю себе заметить, что лицо вполне себе отделяется. Если вы помните фильм «Терминатор: Да придёт спаситель», то там шварца вполне успешно играет его цифровая копия…
Вы же в курсе, что гонорар за это получила не цифровая копия, а сам Арнольд?
Конечно. Тем не менее я запросто могу представить ситуацию, когда актер разрешает компании использовать свой цифровой образ для окончания съемок фильма по завещанию, а денежные средства за это получат его наследники или какой-нибудь фонд.
Видимо так и будет. А потомки Харрисона Форда будут продлевать срок использования образа всё больше и больше :).
Так оно уже не совсем принадлежит. Если я с согласия человека сделал его фото, то, по нынешнему законодательству, права на это фото у фотографа (меня), а не у изображённой персоны.

Я могу это фото передать в общественное достояние, после чего любой может из этого изображения извлекать даже коммерческую выгоду (допустим, печатая и продавая постеры).
а потом нельзя будет фотографировать на улице без того, чтобы копирасты не вчинили из за нелегальную копию чьего-то лица?
Право на фото — да Но есть вроде бы ещё право на распространение. Т.е. владеть можете, а вот распространять — нет. (не помню точно, как оно там формулируется).
Это что такое за «нынешнее законодательство»? Откуда вы это взяли? У нас есть закон о защите изображения человека.

1. Согласие на съёмку человека не нужно получать.
2. Такое «согласие» по получение изображение не даёт вам каких либо прав, т.к. оно изначально ничего не значит.
3. Текущий закон в РФ регламентирует использование изображения человека, а не получение. Об использовании Вам и стоит договариваться, а не о съёмке. Желательно в письменном виде.
Тут немного сложный вопрос. Как на счёт двойников? А как на счёт моделирования/рисования похожего (случайно?) лица? Сетка же не лепит туда фотографию, а рисует, на основе неё.
Но в данном случае этой проблемы нет, никто, включая создателей видео, не пытается отрицать, что это именно лица актёров.
По факту даже тут это всё-таки «произведения на основе» лиц актёров, а не приставленная из другого видео голова. А подписать вообще что угодно можно. Собственно вроде и раньше подписывали порой известными именами похожих… хм… актрис :)
Ну а если станут действительно давить — будут просто подписывать по другому и всё. Ну или напишут, что видео на основе лица двойника. Всё-таки лицо (за крайне редкими исключениями) не уникально. Если оно «принадлежит» кому-то одному — это ещё не означает, что оно его не может иметь кто-то другой.
Т.е. мультики тоже все оттуда удалят? Рисованные персонажи то не давали своё согласие чтоб их нарисовали…
Я тут недавно узнал, что Pornhub — не порносайт, а сайт с порнографическими видео, в числе прочих. Такой youtube с порно.
Тут есть и детские телешоу, и мультики, и russian youtube poop с мемами, и рестлинг, и Barbie Girl в исполнении русских солдат, и корейские музыкальные видео.
Что интересно, через поиск найти не-порнуху очень сложно. Полная противоположность youtube, с интересными комментариями и адекватными комментаторами.
>поднимает серьёзные этические проблемы

В каком бредовом мире мы живем…
хотел бы увидеть приложение на основе этой нейросеточки, что превращает скриншоты из игр в реальные фото
Кстати такое уже было давно. Найти не смог.
Были какие-то новости про обученную нейронку, которая дорисовывала крупнопискельные картинки из игр. И про сетку, которая по схематичной картинке генерила фото. А для современных игр с их графоном это уже не так актуально.
в кино Бегущий человек 1987 года можно посмотреть. Там Арнольда превращали в злодея.
Как мне кажется, эта история — готовый сюжет для серии из следующего сезона сериала Black Mirror. И это только начало. Следуя логике, человека можно «утопить» в жизни совсем просто. И не только знаменитостей.
Ну конечно же обратный эффект гарантирован: зная что подделки стали на столько хороши, имея реальные прецеденты, можно будет с легкостью доказать, что на самом деле это не я избиваю человека на этом видео — меня подставили)
Да, есть определенная цифровая защита (которая возможно будет усовершенствована), которая позволяет идентифицировать источник съёмки и уникальный зашифрованный код конкретной камеры. Но качественную эмуляцию с учетом постоянного усовершенствования производительности никто не отменял.
Качественную фотографию никак не отличить от качественного фотомонтажа, можно только делать предположения и дополнять их другими фактами. Сейчас нейросеть не идеальна и ее косяки видны, но пройдет пару лет — и видео так же будет неотличимо. А записать защиту в видеокамеру — нереально. Все, что можно перезаписать — можно заменить, тут ничего не придумать.

А для Черного Зеркала можно другую историю придумать, поинтереснее — как возникают, скажем, беспорядки из-за очередного убийства чернокожего, которое показывают в прямом эфире. При этом в реальности поток стрима сразу же меняется на поддельное с помощью нейросети. Серия про синего медведя покажется детским садиком.
Уже примерно было. (Завязка фильма" 13 район 2")
А записать защиту в видеокамеру — нереально.

Почему? Просто сертификацию камер введут и все. Навскидку: сертифицированные будут писать файлы и отправлять хэши куда надо для последующих проверок. Возможность отдавать снятое «на лету» отключат, дадут только отдельные, уже записанные файлы смотреть.
куда надо

Защита от коррупции там «где надо» тоже должна быть.
Лично я «им» не доверяю.
Тех, кого можно обвинить в коррупции, в этой стране вы все равно не посадите, с защитой камер и без.
А вот в бытовых «он на меня наехал, и битой себя избил сам потом» — вполне поможет.
А запись видео с камер наблюдения мимо «них» вы и сейчас не получите, максимум — в реалтайме.
Pornhub, верни видео на место, ещё не все посмотрели.
Уже давно существует Photoshop. В нем пользователь даже с небольшим опытом может фотографию любой актрисы приделать к телу так, что отличит только профессионал. Почему никто в ужасе еще не паникует? Чем фальшивые фотографии/фотожабы отличаются от фальшивых видеозаписей? Кто ценит свою личность и безопасность — сохраняет анонимность и не выкладывает биометрику в интернет. А кто выкладывает о себе всю информацию в интернете, включая фотографии (сотни, тысячи фотографий?) и видео, пусть не удивляется найдя внезапно фотожабы и порноролики со своим участием.

Нужно понимать, что если будет принят регулирующий фейковые видео закон — это будет еще один шаг в сторону регулирования свободы в сети. Сначала видео, потом суды за комментарии, потом запрет анонимности, потом вход в интернет по паспорту, дальше «1984».
А кто выкладывает о себе всю информацию в интернете, включая фотографии (сотни, тысячи фотографий?) и видео, пусть не удивляется найдя внезапно фотожабы и порноролики со своим участием.

Ну что ж теперь, всяким актёрам/актрисам и прочим фотомоделям – вообще не сниматься? А если сниматься – то как им сохранить репутацию после каких-то «особо острых» фейковых видео? Ладно бы ещё безобидное порно – но если их лица так же прилепят к съёмкам каких-либо преступлений?

И, с другой стороны… Если сейчас закрывать глаза на подобные «шалости» – то как в будущем вообще отличать настоящее видео от фейкового? Тогда любой виновный, заснятый на видео, всегда сможет сказать, что «это монтаж» – и попробуй докажи…

еще один шаг в сторону регулирования свободы в сети

Не надо путать свободу с безответственностью. Это разные вещи, всё же…

Люди закрывают глаза на фейковые новости. Никакой уголовной ответственности, никаких запретов. При этом фейковую новость сделать — даже Фотошоп не нужен. После особо острых фейковых новостей они же умудряются сохранять репутацию? Видео, кроме своей необычности, ничем не отличается. Будут давать опровержения и судиться. Все как сейчас.

Немного не соглашусь.
Видео, всё же, отличается от новостей – тем, что в него больше верят. И даже сейчас достаточно всего лишь «творческой» нарезки выдернутых из контекста кадров, чтобы сотни тысяч поверили в самую лютую хрень и самый лютый фейк.

Но то просто нарезка – на которую при желании всегда можно предоставить полную версию, «без купюр».
А вот в случае с наложением лиц и прочей крутотенью – это уже совсем другая песня. Уже даже не «творческая нарезка», а заведомая фальсификация. Согласен, пока ещё этот момент мало регулируется. Но со временем, уверен, и такое будет наказываться, ИМХО…
Есть вариант производства особых сертифицированных видеокамер, которые подписывают все видео с таймстампами цифровой подписью. При этом, разумеется, конструкция предполагает невозможность извлечения ключей шифрования. Есть же всякие аппаратные криптотокены, которые ломай-не ломай, а ключи не вытащишь. Ну разве что каким-то очень дорогим оборудованием и высококвалифицированным персоналом. Но с такими условиями уже сейчас можно делать 100% натуральные фейки, так что ничего не изменится.

И именно такие девайсы использовать во всех ответственных местах.
А можно примеры указанного оборудования? Вот чтобы прямо совсем никак не подделать? Я знаю про Canon и фотографии, но у них не получилось (Canon Original Decision Data habrahabr.ru/post/109396 )
Тогда просто «сертифицированными» фейками смогут заниматься властьимущие, для более лучшей пропаганды в СМИ.
И часы на камере не переведёшь… никак. Ибо если есть возможность сменить время то это открывает широкие перспективы для снятия роликов «из будущего» или «прошлого». И ведь честно подписаны будут. Или каждую минуту ключи менять путем обновления через интернет с авторизованных серверов?
Не надо путать свободу с безответственностью. Это разные вещи, всё же…


Вот бы ещё законотворцы это осознали, а не как сейчас:

– У нас в стране свобода слова!!!
– Слово свободно, а вы пройдемте.
Полностью согласен. Просто о возможности легко подделать фото в Photoshop знают уже все, а о возможности также легко подделать видео – пока еще не все. Уверен, что скоро все будут относится к таким видео как к «фотожабам» и эта истерия пройдет

Кто ценит свою личность и безопасность — сохраняет анонимность и не выкладывает биометрику в интернет.


А вот здесь не согласен. Даже если вы не вкладываете свои фото – за вас это сделают другие (друзья, коллеги и т. д.)
Уверен, что скоро все будут относится к таким видео как к «фотожабам» и эта истерия пройдет

Тут главная опасность не в «истерии» – а в том, что теперь вообще считать достоверными доказательствами. И как бороться с фальсификацией таких «лже-пруфов».
Поэтому не стал бы настолько спокойно относиться к этой теме. Это пока ещё на видео местами видно, что монтаж (по крайней мере, опытным взглядом). А пройдёт лет 5-10, алгоритмы усовершенствуются, и…
На видеокарте потребительского уровня обучение занимает несколько часов, на CPU может продолжаться несколько суток. Для работы нужна установленная среда CUDA 8.0. Обучение нейросетей уже давно стало доступной технологией, поиграться с которой может даже подросток.

Это сильно вряд-ли насчет поиграться да подросток… Запуск сопровождается необычными ошибками, да и время на обучение может затянуться на весьма продолжительный период. Ну и терпения автору побольше — нарезать клипы на кадры и добиться приемлемого результата после сборки тоже не каждому дано
А на сайте всегда блокировались любые типы видеороликов, когда участник явно не согласен на происходящее.


Что?
Но ведь на сайте просто огромное количество настоящих voyeur роликов. Из душевых и прочее.
«Настоящих» как отечественные сыры по 100 рублей
Спасибо за сарказм, но я именно про настоящие. Любитель вопроса понимает все нюансы. Вплоть до того, каким автором, и где это было снято. Есть же целые серии.

Дайте угадаю, у вас как раз есть друг, являющийся любителем вопроса?

Это я сам, и мне нечего стесняться. Это мой любимый жанр.
Кстати, в полной мере он раскрыт только на закрытых сайтах. А на порнхабы и порнолабы попадают обрывки.

Да вас никто и не осуждает, это же просто стандартная шутка для данного сабжа :)

Прям интересно стало, не поделитесь?

reddit.com/r/deepfakes/ прикрыли прямо на глазах.
ИМХО, тут единственное спасение от такой напасти – со стороны разработчиков видеоформатов (и производителей техники, конечно же). Чтобы каждое видео непременно сопровождалось метками о том, что оно действительно оригинальное и не подвергалось сколь-либо серьёзной обработке.
Грубо говоря, нечто вроде покадрового хеширования видеоряда (можно даже с каким-то определённым шагом и приемлемым «упрощением», для снижения нагрузки) – что в сумме должно занимать не так уж много ресурсов и объёма, с учётом современных мощностей.

Для обычных обработанных видео это будет совершенно прозрачно (да и вообще несущественно), а вот для таких «типа компроматов» – можно будет сразу же обнаружить палево…
Во первых после съемки сырой материал никто потребителю сразу не выкатывает. Все монтируется. Да и даже если бы вот прям с камеры ролики были, кто мешает воспроизвести все тоже самое, что делает камера? И самый важный вопрос: зачем?)
Именно с учётом последующего монтажа и написал про хеширование не всего видео полностью, а покадрово (либо по каким-то ключевым кадрам).

А на вопрос «кто мешает воспроизвести все тоже самое, что делает камера» ответ уже есть. То самое хеширование (если вам, конечно, знакома сама суть этого слова).
Вам и предлагают заново перехешировать после фотошопинга и компрессии.
Но тогда не совпадёт с хешами исходного видео – которые должны быть вшиты «намертво». Что автоматически будет маркироваться как «фейк».
И тогда, чтобы «заново перехешировать» – вам надо будет как минимум знать алгоритмы хеширования конкретного производителя и/или конкретного устройства. А с учётом того, что информацию можно не только писать во всякие аналоги exif-ов, но и «подмешивать» в общий видеоряд (причём, практически незаметно) – думаю, это не будет настолько уж простой задачей, как кажется…

P.S. Разумеется, даже это вовсе не «абсолютная панацея». Теоретически можно обойти что угодно. Если кто-то действительно задался большой целью напакостить – он всё равно это сделает.
Но при таких мерах – как минимум, для этого потребуется на порядки больше усилий и стараний. Что сразу же отсеет большинство «тупо-шутников»…
Но тогда не совпадёт с хешами исходного видео

Какого исходного видео? С камеры я его удалил, сама камера случайно под каток попала, но вот такая вот удача — видео где я и Галь Гадот в городки играем я скопировал на компьютер. Видите, все корректно хешировано — видео не поддельное.
Какого исходного видео?

Того самого, на котором камера проставит свои метки о том, что снято именно на неё (модель X производителя Y, возможно даже серийный номер Z) и именно в такое-то время.
Причём, как уже говорил – метки возможно подмешивать даже в сам видеоряд, незаметно для глаза.

Будете сильно редактировать – метки неизбежно нарушатся, ни один плеер не сможет правильно их прочитать. Соответственно, в любом плеере, поддерживающем такой тип верификации – видео хоть и проиграется, но автоматически попадёт в разряд «сомнительных источников» (как минимум).

Попытаетесь «перехешировать» – новые метки всего лишь подмешаются к старым, читаться всё равно не будет. Опять «сомнительный источник».
Вы наверное хотите ставить цифровую подпись, а не просто хэш. Но тогда никакого монтажа или перекодирования… Т.е. никакой обработки совсем.
Плюс никто не мешает сделать экранку ну или подмешать цифровой поток между сенсором и процессором, если сенсоры не начнут шифровать сырой поток, ну и так далее…
Вы наверное хотите ставить цифровую подпись, а не просто хэш.

Тут, скорее, сочетание получится – сначала хешируется кадр в целом (по определённому алгоритму), потом этот же хеш со всеми необходимыми параметрами прописывается-«подмешивается» в сам кадр, только потом кадр непосредственно записывается.

Т.е. никакой обработки совсем.

Кодировать можно по массе параметров (см. «стеганография») – от яркости или оттенка отдельных пикселей и вплоть до какого-нибудь более сложного искусственного шума.
Глаз этого не заметит. И при обычном линейном монтаже всё сохранится на каждом настоящем кадре. Но вот при более серьёзном редактировании (то есть, при грубом нарушении хеша исходного кадра) – неизбежно потеряется.
История защит DVD, блюреев и т.п. доказывает, что все можно подделать, ключи украсть или подобрать. Была бы потребность. А если дело будет стоить того, потребность будет.
Попытка реализовать подобное для фото(!) была предпринята Canon (продукт Canon Original Decision Data). Предполагалось что система сможет подтвердить оригинальность сделанного снимка (RAW). Но, даже если не учитывать возможность снять игровую сцену, макет, или переснять изображение, систему взломали, что позволило выдавать за оригинальные изображения любые.
Несколько подробнее habrahabr.ru/post/109396
Справедливости ради, во всяких DVD и прочих блюреях защита была достаточно стандартная, без таких заморочек.

Но, в любом случае, даже если защита будет достаточно простой – даже это уже значительно изменит «порог вхождения» для основной массы «шутников»…
Пока очередной шутник не выложит в паблик программу-ломалку, распечатав её на футболке )))
Попытаетесь «перехешировать» – новые метки всего лишь подмешаются к старым, читаться всё равно не будет. Опять «сомнительный источник»

Я беру гипотетическую китайскую камеру от Ксяоми, которая снимает несжатое видео на ССД диск без всяких меток. Снимаю на него милые посиделки с милой девушкой за 100 долларов в час.

Потом закидываю его в CoolHackerVideoEditor, подставляю в видео лицо Галь Гадот. После этого беру те же алгоритмы, которые использует iCamera от Apple и кодирую видео с Галей всякими метками, серийными номерами, добавляю метки даже в видеоряд.

И вот «источник подтвержденный лично компанией Эппл, а Галь Гадот, оказывается, та еще штучка»
Так в том-то вся и фишка, что «штампы» могут (и должны) подмешиваться в самом процессе съёмки – генерируясь по огромному количеству как программных, так и аппаратных параметров. И тогда уже никак не удастся их «сфейковать» – просто физически не получится воспроизвести все вводные данные (которые априори неизвестны). А без аутентичных вводных данных – не пробьются итоговые хеши.

В качестве грубого примера из «смежной области» – вспомните, например, как работают «труъ-рандомайзеры» (аппаратные), на каком количестве случайных и невоспроизводимых данных там замешаны алгоритмы.
Ваша «фишка» работает только в сферическом мире, в котором есть исключительно производители камер, которые вставляют шифрование. Вы понимаете, что для многих целей (ну, например, съемка фильма) это просто вредно. Всегда будут камеры, которые не вставляют такие метки, а значит можно работать с немеченым видео, а потом его метить и вся ваша «фишка» летит коту под хвост.
Почему же?
«Немеченное» видео и не будет содержать в себе никаких вводных данных. А если вы будете пытаться генерить их искусственно – опять же, не пробьются хеши.
А видео совсем без меток и без хешей – так и вовсе можно по умолчанию помечать как «сомнительное».

Можно, конечно, искусственно генерить совсем левые данные, чтобы вышли совсем произвольные хеши – но это лишь в том случае, если вы точно знаете конкретную модель камеры и все её особенности.
А поскольку у разных моделей (и, тем более разных производителей) алгоритмы как генерации данных, так и шифрования будут отличаться – задача вовсе не из лёгких. Что, опять же, хотя бы снизит упоминаемый ранее «порог вхождения» в область фейковых видео, ИМХО…

P.S. С кино ситуация несколько другая. Там всегда найдётся целая команда свидетелей того, что исходное видео подлинно. Всё документируется, все исходники хранится. Так что там эти функции можно и вообще просто отключать.
А если вы будете пытаться генерить их искусственно – опять же, не пробьются хеши.

Что значит «не пробьются хеши»? Вы какую-то пьяную фантазию рассказываете.

Ваша гипотетическая камера работает так:
сырые входные данные => алгоритмы подлинности => «верифицированное» видео

Если у меня есть сырые входные данные (а я уже выше описал, что они у меня есть). То я могу использовать алгоритмы камеры для того, чтобы создать «верифицированное» будто этой камерой видео. Там будет все пучком — и хеши и метки. Все будет указывать на то, что именно нужной камерой снималось это видео и оно было верифицированно.

Можно, конечно, искусственно генерить совсем левые данные, чтобы вышли совсем произвольные хеши

Какие левые данные? Какие произвольные хеши? Я буду брать алгоритмы камеры и генерировать ровно те же данные и хеши, которая сгенерировала бы камера.
Объясняю на пальцах…
Камера генерит данные, на их основе выбиваются хеши кадров. Методы проверки достоверности (но не генерации) хешей занесены в базы всех легальных видеохостеров – проверка происходит уже сразу при добавлении.

Вы можете сколько угодно добавлять на видео нужные артефакты, да. Но достаточно добавить к вводным данным всего лишь показания какого-нибудь копеечного гироскопа или термометра камеры (то есть, данные, которые вам априори неизвестны) – либо «наложенные» артефакты у вас не совпадут с оригинальными, либо не пробьётся хеш, либо хеш не будет соответствовать артефактам.
И даже если снимете на собственную камеру «без подписей», даже если всё смонтируете, даже если потом что-то там наложите искусственно – всё равно может не пробиться «правильный» результат проверки. Просто потому, что вам неизвестны все вводные данные.
Тест на подлинность провален.

В этом-то и вся прелесть подобной методики – подлинность подтверждается не «после», а уже во время записи видео.
Я ведь уже говорил, что вводные данные могут генерироваться по множеству параметров – даже по тем, которых вы можете и просто не знать. И по ним будут генерироваться данные, вшиваемые прямо в сами кадры.
Почему «данные неизвестны»? У меня ведь в руках камера, которая выдает эти данные, значит они известны!

И вот вы говорите о «то есть, данные, которые вам априори неизвестны». Так и проверяльщикам они неизвестны. Вот я напишу, что термометр камеры выдает мне +40 градусов. Как тот, кто проверяет видео может удостовериться, что в камере не было +40 градусов. Я могу подставить совершенно любые данные и они будут считаться валидными!
У меня ведь в руках камера, которая выдает эти данные, значит они известны!

Но кодирует она, в том числе, и по самой картинке – как уже упоминал выше. После этого уж точно фиг выдерете с видео все её «подписи» – которые, напомню, вшиваются прямо в сам кадр и генерятся «на лету» по множеству параметров (то есть, никакого чёткого алгоритма их вычищения вы не получите).
Тут даже ваш вариант с нонейм-камерой, не «подписывающей» поток – и то был чуть более оптимистичнее. ))

Я могу подставить совершенно любые данные и они будут считаться валидными!

Только в том случае, если вы сам не только инженер-разработчик, но и главный программист софта для этой камеры. ))
Ну, и конечно, если ваша «левая» камера сама ничего не подмешивает.
Мне не нужно вычищать. Я просто беру датчик камеры и пишу данные с него рядом с сырым видео на ССД диск, а потом использую эти данные для того, чтобы зашифровать это видео.

Только в том случае, если вы сам не только инженер-разработчик, но и главный программист софта для этой камеры. ))

Это почему вдруг? Такс, давайте закончим всякие «абстрактные» данные. Давайте настоящие примеры.

копеечного гироскопа или термометра камеры

Гироскоп? Окей, камера у меня на штативе/прикручена к стене, потому я просто пишу (х:180, у:177). Термометр? В комнате все двери закрыты, потому постоянно 20.5 — 20.6 градусов. Беру эти случайные данные и кодирую ими сырое видео, снятое на другую камеру. Все подписи и хеши становятся корректными.
Вы не знаете, как именно шифруется видео. Для этого вам нужны данные софт-отдела каждого отдельно взятого производителя.
Вы не знаете, как именно и в каком виде параметры передаются с датчиков. Для этого вам нужны данные инженерного отдела каждого отдельно взятого производителя.

Ну что, всё ещё «запросто»? ))

P.S. Минусовать просто потому что вам возражают – достаточно низко, я считаю. Тем более низко, когда заранее знаете, что вам временно не могут ответить тем же. ;)
P.S. Минусовать просто потому что вам возражают – достаточно низко, я считаю. Тем более низко, когда заранее знаете, что вам временно не могут ответить тем же. ;)

Очевидно, я не только вас минусую, но и сам себя плюсую, да? Минусы лишь указывают на то, что кто-то не согласен с вашими аргументами. Не в карму же ж пошли.

Вы не знаете, как именно шифруется видео. Для этого вам нужны данные софт-отдела каждого отдельно взятого производителя

Нет, только одного производителя — любого, который признается судом. И этот софт есть на камере, которую я могу купить.

Вы не знаете, как именно и в каком виде параметры передаются с датчиков. Для этого вам нужны данные инженерного отдела каждого отдельно взятого производителя.

Нет, только одного производителя. И у меня есть купленная камера, где есть датчики, которые посылают эти данные. Не телепатически ведь они в софт передаются?

Вы таки из приверженцев, что «Security through obscurity» — серебрянная пуля. Почитайте там про Скайп. Тоже у взломщика не было софта. Как-то ему помешал этот факт?
Очевидно,...

Да, но только почему-то появляются каждый раз после моего ответа именно вам. Впрочем, можете списать просто на старческий маразм (и заранее прошу прощения, если вдруг это в самом деле действительно не вы, а просто какой-то ваш неадекватный фанат)…

Не телепатически ведь они в софт передаются?

Разумеется, не телепатически. ))
Но для этого вам надо знать про эти датчики вообще всё – как именно с них передаётся информация, в каком конкретно виде, как конкретно её читать. Это – к инженерному отделу.
Далее, вам надо ещё знать, как именно эти данные интерпретируются, какие именно учитываются в создании хешей и по каким именно алгоритмам – это уже к софт-отделу.
Таким образом, в ожидаемой вами утечке должны участвовать как минимум два отдела аж целой компании-производителя. И это даже не считая того, что таких компаний как минимум сотня по всему миру…

Почитайте там про Скайп.

Скайп – сам по себе софт. Он один, он централизован. Конечно, даже для его взлома надо сильно постараться – но там ступила всего лишь одна компания.
В нашем же случае речь идёт о рынке со множеством компаний, у каждой из которых минимум по паре-тройке моделей. И, в теории, у каждой могут быть свои особенности шифрования.
Вы же не будете снимать все свои фейковые видео на одну-единственную камеру одной-единственной компании – да и то, лишь ту камеру, данные по которой когда-то вам случайно попали в руки? Ну тогда вас просто спалят ещё быстрее…
Тайным Сантой оказался я.
Вам уже несколько раз заметили, что для компрометации достаточно одной камеры.
Для возможности независимой проверки хэша/подписи нужно всем рассказать алгоритм проверки и например предоставить открытый ключ.
Вас просят как можно проще описать эксперимент, по опровержению подлинности видео, подписанного по вашей схеме, а Вы снова и снова кидаете умные слова смысла которых не понимаете, и логических связок, и постановки задачи тоже имхо не видите.
Тайным Сантой оказался я.

Благодарю за честность. Уважаю. Искренне.
Для возможности независимой проверки хэша/подписи нужно всем рассказать алгоритм проверки и например предоставить открытый ключ.

Разумеется.
На алгоритм проверки – не синоним алгоритма шифрования. Взять хоть ту же ЭЦП – удостовериться в аутентичности может множество софта, но вот подделать уже на многие порядки сложнее. Поэтому заморачиваться подделкой уже не может кто угодно (поправьте, если вдруг ошибаюсь)…

Вновь повторю, что в теории, разумеется, взломать можно что угодно. Но повышенные меры безопасности резко отсекают всяких «шутников» и прочих идиотов (вроде этих вот из статьи-сабжа)) – что в данном случае и является главной целью. Ведь именно такие и являются основной массой «фейкоделателей».
Вновь повторю, что в теории, разумеется, взломать можно что угодно. Но повышенные меры безопасности резко отсекают всяких «шутников» и прочих идиотов (вроде этих вот из статьи-сабжа)) – что в данном случае и является главной целью. Ведь именно такие и являются основной массой «фейкоделателей».

Еще раз — идея не сработает, если будет софт, который может ставить видео метку о том, что оно валидно. С этих пор фейковое видео будет иметь подпись и будет еще труднее доказать, что видео реально подделка. Эта идея создает не безопасность, а иллюзию безопасности, что еще хуже.

Более того, если начнут появлятся подписанные подделки — вся идея будет скомпрометирована и с этих пор даже реально корректно подписанные оригинальные видео не будут иметь доверия.

Ваша идея — это «давайте сделаем еще один формат, которому все-равно никто не будет доверять, авось что-то поможет»

И это не «в теории можно взломать что угодно». Это система, которая без сомнений будет взломана. Потому что богатым людям нужно будет кого-то подставить и они взломаюь и поставят подпись на видео, а из-за того, что уязвимость неизвестна — никто не усомнится в подлинности и суд признает, что убийца — дворецкий.

Или если кому-то нужно будет выгородить своего племянничка — поставят его лицо на видео, где он кошечек лечит во время пьяного вождения в другом штате — и снова же поставит подпись.

Все эти уязивмости будут активно эксплуатироваться в подполье и страдать от вашей идеи будут только хорошие люди
Еще раз — идея не сработает, если будет софт, который может ставить видео метку о том, что оно валидно. С этих пор фейковое видео будет иметь подпись и будет еще труднее доказать, что видео реально подделка.

Согласен. )
Именно потому, собссно, и говорю, что для максимально надёжной валидации – подписывать нужно не целое видео сразу, а «метить» именно покадрово.
Это сразу же на многие порядки усложнит саму возможность фальсификаций. Вместо одной (!) «большой» подписи – множество (!) мелких и разных (!!!). И попробуй-ка их все вычистить или отредактировать…

P.S. А так-то, без предлагаемых мер и вообще безо всякой защиты – все описанные вами методы фальсификации доступны и сегодня.
Так что совершенно не вижу, чем конкретно моё предложение якобы «вредит людям» – если всё уже вовсю делается, против чего и предлагаются подобные меры… ))
Вместо одной (!) «большой» подписи – множество (!) мелких и разных (!!!)
Что это меняет, если для наложения подписи и её проверки нужен весь пакет подписей? Украдут не одну, а сразу 16.
И попробуй-ка их все вычистить или отредактировать…
Вычистить = сконвертировать в формат, который не умеет хранить подписи (например, в набор кадров JPG и обратно из них собрать видео).
Что это меняет, если для наложения подписи и её проверки нужен весь пакет подписей?

Видимо, вы невнимательно читали ранее, если задаёте вопрос, который уже задавали до вас…
Каждый кадр (или хотя бы каждый ключевой кадр) сам по себе имеет уникальную метку «о самом себе», вшитую прямо в него путём «подмешивания»… в него же. Метку, которая генерируется прямо в процессе записи – на основании ряда параметров (как минимум банальной разницы яркости-насыщенности-контраста в соседних областях, как максимум каких-то более «умных» алгоритмов).
Таким образом, при детальном монтаже (то есть, при изменениях непосредственно участков кадра, с неизбежной потерей вшитых меток) – сами кадры будут терять аутентичность. После чего уже вся запись в целом будет помечена как «сомнительная».
Ранее в теме уже приводил грубую аналогию с пачкой купюр. Вот примерно так же и тут…
например, в набор кадров JPG и обратно из них собрать видео

Вновь читайте выше. Не получится – все подписи подмешаны уже в само изображение…
И попробуй-ка их все вычистить или отредактировать…

Я начинаю плохо думать о ваших способностях к чтению. Вам уже десятки раз говорили, что ничего вычищать нету необходимости. Специально для тех, кто плохо понимает предложения длинные:

Ничего вычищать не нужно

Повторюсь еще раз, немного перефразируя, может так дойдет:

Нету необходимости вычищать какие-нибудь данные пусть он хоть поверх каждого кадра рисует лично ваш портрет

То есть вы можете сейчас рассказывать про то, какой крутой замок вы поставите на свою калитку, но оставляете мне один фейспалм, потому что ваша калитка выглядит так:


Не рассказывайте, какие замки на нее будете ставить, что замок будет на каждой жердочке — плевать. Нету НИКАКОЙ НЕОБХОДИМОСТИ вычищать эти метки.

Я не знаю, скажите, сколько раз еще вам повторить эту мысль, чтобы вы перестали пороть эту чущь про вычищение?

Второе, повторю — мне плевать какое количество подписей вы ставите. Пусть даже подписываете каждый отдельный пиксель каждого кадра. У вас в камере стоит блок, который получает на вход данные с видеовхода и хаотичные данные с окружающей среды (температура, гироскоп, случайное число). Этот блок делает все работу по переводу этих сырых данных в «корретное видео». Пусть он делает это на одном кадре, или на всех — совершенно не важно.

Я беру чистейшее видео, снятое на камеру, которая не ставит ваших дурацких меток и обработанное любимым редактором, подставляю абсолютно любые числа вместо хаотичных данных и получаю на выходе видео, в котором есть все необходимые метки.
Я беру чистейшее видео, снятое на камеру, которая не ставит ваших дурацких меток и обработанное любимым редактором, подставляю абсолютно любые числа вместо хаотичных данных и получаю на выходе видео, в котором есть все необходимые метки.

И зачем было так много писать? ))
Не будет меток – не пройдёт валидацию. Будут «левые» метки – не пройдёт валидацию. Будут «псевдо-аутентичные» метки – не пройдёт валидацию. Всё, точка же…

Говорил уже, что весь ваш метод основывается исключительно на одном громадном допущении – что вы каким-то образом заполучите алгоритмы какой-то конкретной камеры.
Но даже если допустить, что утекут алгоритмы хоть с десяти моделей камер – обилие «компромата» именно с этих моделей уже само по себе будет говорить о том, что видео с этих моделей надо проверять особо тщательно, что камеры скомпрометированы (да, вот в отношении техники это слово ещё не применялось))…
Скорее всего, проканает в первый раз. Возможно, во второй. Но уже точно не в третий. Вам самому не кажется, что это вариант «шило на мыло»?
Что значит, утекут алгоритмы? Они и должны быть открыты, чтобы можно было построить верификатор. Или как верифицировать? Писать официальный запрос производителю камеры, прилагая видео, а он сделает официальный ответ?
Да просто же. Алгоритмы верификации предоставляются только надёжным проверенным партнёрам (как минимум, хоть тому же YouTube, где всё достаточно строго с «корпоративной тайной»). И всё. С этим вы что сделаете? Будете надеяться на утечку от партнёров, или на что вообще??? ))
А если работать с левыми «менее разборчивыми» хостерами – так и видео с них всегда априори будет считаться левым…

P.S. И хорош уже минусовать. Понимаю, что вы со мной несогласны. Но по существу давайте, сударь, больше конкретики. )))
Но даже если допустить, что утекут алгоритмы хоть с десяти моделей камер – обилие «компромата» именно с этих моделей уже само по себе будет говорить о том, что видео с этих моделей надо проверять особо тщательно, что камеры скомпрометированы

А почему вы считаете, что факт скомпрометированности камеры будет общеизвестным? Уязвимость годами будет ходить на черном рынке. За доступные деньги можно будет оправдать преступника или посадить невинного человека, потому что камера считалась надежной и уязвимость была только в руках небольшой преступной группы.

что вы каким-то образом заполучите алгоритмы какой-то конкретной камеры

Так а в чем проблема? У меня на руках есть это устройство, полный доступ к нему. Я не понимаю, почему вы считаете это столько сложным, что скорее невероятным. Доступ к такой уязвимости дает огромную власть, а защита устройств — слабая, ведь все миллионы устройств не лежат на хранении в отделении КГБ, а на руках у людей.

Алгоритмы верификации предоставляются только надёжным проверенным партнёрам (как минимум, хоть тому же YouTube

Во-первых, надежда на Security through obscurity — признак полного дилетантства.
Во-вторых, то есть вы хотите дать рядовым сотрудникам кучи частных компаний доступ к алгоритмам подделки улик?
А почему вы считаете, что факт скомпрометированности камеры будет общеизвестным?

Это станет известно после первого же сколь-нибудь громкого фейка. Странно, что приходится объяснять настолько очевидные вещи…
Доступ к такой уязвимости дает огромную власть...

Уязвимости закрываются. Пусть и не сразу, но таки закрываются. Что, опять же, позволяет не доверять любым «компрометирующим» видео, снятым на определённую модель с определённой прошивкой.
Во-первых, надежда на Security through obscurity — признак полного дилетантства.

Во-первых – подозревать всех подряд есть признак полного дилетантства и незнания рынка… )))
Крупные конторы таким мараться не будут – им имидж важнее всего. И если даже внутри найдётся «крыса» – предпочтут вычистить как саму «крысу», так и все вызванные ей проблемы максимально бесшумно и непублично. Что явно на пользу обычным юзерам…
Во-вторых, то есть вы хотите дать рядовым сотрудникам кучи частных компаний доступ к алгоритмам подделки улик?

Чего??? О_о ))))
Поясните, пожалуйста, пока я не помер со смеху… ))))
Уже есть стандарты для «подмешивания» и есть реализации от энтузиастов, которые делают Magic Lantern.
Только пока не совсем понятно, как это докажет реальность съемки. Основная идея показать авторство материалов (цифровая подпись).
Да, есть. Потому и пишу, в общем-то. )
Но конкретно по теме сабжа – авторство тут уже меньшее из зол, увы. Впрочем, одно другому не мешает – надеюсь, что оба направления взаимодополнят друг друга. А по каким общим принципам может строиться доказательство реальности – попытался описать выше.
Но тогда не совпадёт с хешами исходного видео

Зачем ему совпадать исходным видео? Исходное видео (с другими лицами) вообще никому нельзя показывать, ни с хэшами, ни без. Иначе провал.


А сокрытие алгоритма — это глупость. На пару лет такой "защиты" хватит, как обычно.

Вы немного не поняли. Тут вся фишка не просто в «совпадении» – а в том, что после любого сложного монтажа файл будет сразу терять «почётное звание» аутентичности оригиналу (и даже не нужен будет сам оригинал для сравнения). Это будет заметно уже по самому файлу.
А если владелец заявляет, что это и есть корректно подписанный оригинал (и он правда имеет все корректные метки)?

Нет оригинала — нет аутентичности. Файл будет записан на старую камеру, которая не делает никаких меток. И после редактирования у вас так же остаётся файл без меток. А потом накладываете метки по алгоритму, который утек в сеть.


Впрочем, если вы сделаете статью с proof-of-concept на любом языке программирования или с математическими выкладками, будет интересно почитать.

Не ждите математических выкладок. Складывается впечатление, что автор не знает даже основ.
«Автор» защищал дипломную именно по теме «Криптография». ))
И если раньше подобные методы были недоступны массово просто в силу нехватки мощности устройств – то уже сейчас все эти фишки вполне можно реализовать.
Впрочем, «подробно и со всеми выкладками» – сейчас уже действительно мало что вспомню, тут вы правы. Слишком уж давно это всё было.
А я защищал дипломную по теме «Активы и пассивы в Укргазбанке». Сейчас даже сходу не вспомню чем отличаются активы от пассивов. Ви, видимо, тоже забыли какие-то важные части вашей дипломной, раз сейчас не можете понять, где в вашей идее архитектурная дырка.
При всём уважении – я пока эту «дырку» так и не увидел. ))

Хеширование кадров и прочих параметров «на лету» – раз.
Подмешивание хешей прямо в сам кадр – два.
Общее хеширование всего видео – три.
Итого: после любого редактирования получаем на выходе «не оригинал». И если последний параметр тут не критичен, то обойти первые два будет крайне сложно. Даже при искусственном наложении чаще всего на выходе получится «не оригинал».
Даже при искусственном наложении чаще всего на выходе получится «не оригинал».

Почему? Как раз на выходе получится «100% оригинал», потому что накладывается тем же алгоритмом, что и используется камерой. В этом и есть ваша огромная дыра. Вы почему-то думаете, что алгоритм, который использует камера почему-то не может использовать злоумышленник, который держит эту камеру в руках.

Возможно, вы рассчитываете на какой-то божественный и исключительный Security through obscurity, но уж такую глупую детскую ошибку, человек, писавший дипломную на тему «Криптография», врядли допустил бы
Я тут в теме уже упоминал аппаратные рандомайзеры. Сможете добиться такого же уровня реально случайных чисел программными методами? ;)))

Если сможете – первым прокричу, что вы гений. Если не сможете – не пройдёте ни одну проверку на оригинальность.
Поскольку все эти данные также участвуют в создании хешей. И они уже сразу пишутся в кадр, да. И, как уже говорил – хрен вы их оттуда вычистите, не зная исходных алгоритмов.
Более того – вы их даже хрен запишете, не зная всех подробностей.

Понимаете, вы сейчас надеетесь исключительно на то, что «где-то скачаете готовые базы» (что, впрочем, само по себе гигантское допущение из серии «если бы у бабушки был...»)). Я же говорю вам о том, что даже эти самые скачанные базы порой могут совершенно не помочь. ))
всю ветку прочел и в голове вертелась одна мысль: вы правда не понимаете что воспроизвести можно результат ЛЮБОГО алгоритма?

У вас два требования:
— верифицируемость источника
— возможность монтажа
Одно полностью исключает другое. Ну и допустим что прилетел волшебник и таки реализовал ваши мечты. Без проблем, выпаиваем сенсор камеры и вместо него подаем видеосигнал с нашего устройства.

Вопрос взлома ВСЕГДА только в цене.
Без проблем, выпаиваем сенсор камеры и вместо него подаем видеосигнал с нашего устройства.

Вопрос взлома ВСЕГДА только в цене.


Вот именно об этом и речь. Именно об этом повышении «порога вхождения» и говорилось. ))
Тот, кто станет заморачиваться подобными «тонкостями» – вряд ли будет заниматься мелкими пакостями. И даже на средние пакости вряд ли будут тратить столько усилий.

А если уж кто-то решит устроить какую-либо подставу действительно «по-крупному» – тут уж всё равно ничем не остановить, всё равно своего добьются.

К слову, такое можно делать уже даже сегодня, даже обычными «ручными средствами» без нейросетей – вопрос только в огромной цене.
Поэтому главная проблема именно в том, что с появлением таких вот во многом автоматизированных систем – и цена на подобные услуги резко упадёт, сразу на порядки (как это в своё время уже случилось с тем же фотомонтажом, например). Что и представляет собой главную опасность…
Да, сорри, чуть не забыл…
Одно полностью исключает другое.

Не исключает.
Именно поэтому и говорил о «вшитых метках» на каждом кадре (или хотя бы через каждые N кадров). Тогда даже склейка отдельных эпизодов – не приведёт к потере «оригинальности».

Если образно – просто представьте себе пачку купюр. Каждая их них является оригинальной – что подтверждено всеми маркерами аутентичности (водяные знаки, магнитные полосы и т.д.). И любое количество этих купюр является оригинальным, как бы вы эту пачку ни делили на части.
Но если в эту пачку попадёт хотя бы одна фальшивая (а тем более, если несколько) – у вас уже будет разумный повод не доверять тому, кто вам эти деньги дал.

Надеюсь, аналогия понятна…
То есть вы предлагаете верифицировать каждый кадр? Тут у меня целая пачка возражений:
— нереальная нагрузка на плееры
— пачка состоит из купюр но видеопоток не состоит из кадров
— ну и как пытались вам выше объяснить: изготовить поддельную купюру, неотличимую от настоящей, можно
Да, верифицировать именно по кадрам, ибо единственный самый надёжный вариант, как мне кажется.
Если смущает быстродействие – можно даже по каждому N-му кадру, даже в этом случае уже не особо разгуляешься с фейками…

Подделать – да, можно что угодно, повторял тут уже много раз. Априори не существует абсолютно защищённых «идеальных» систем и шифров.
Вопрос лишь в том, насколько трудно будет подделать – именно это сейчас и является главным вопросом.

P.S. Любое видео делится на кадры. Из конкретных кадров не состоит лишь непосредственно сам поток, передаваемый через интернет (там свои алгоритмы компрессии/декомпрессии). Но и транслируемый файл, и полученные/просматриваемые вами сегменты – таки из кадров…
Априори не существует абсолютно защищённых «идеальных» систем и шифров.

Ваша система вообще не защищена. Ну совершенно, а не «слегка не защищена».
Примеры обхода защиты?
Только вот без этого вашего «я пойду и скачаю всё что угодно из волшебного всезнающего интернета» и прочих утопий, если можно… )))
Какой защиты? Вы пока никакой защиты не описали — я просто беру шифрующий модуль камеры и пропускаю через него свое видео.
Если я правильно понял – вы искренне считаете, что только лишь один «шифрующий модуль камеры» даст вам ответы на все вопросы? ))))))
А в условиях задачи пока ничего кроме него нету.
В «условиях задачи» ещё есть как минимум софт… От которого, внезапно, зависят результаты работы того самого «шифрующего модуля камеры»… Ну не сам же по себе он чего-то там шифрует волшебным образом… )))
Софт работает в шифрующем модуле камеры и не знает, что настоящий сенсор отключили, а проводок до сенсора подключили к фейковому источнику.
Боже ж ты мой, да какие «проводки до сенсора»???
Вы вообще современные чипы вживую видели? Куда там «проводки» втыкать, при такой микропайке? Там ваш «проводок» нередко может быть тупо толще расстояния между контактами… )))

Впрочем, чёрт с ним, даже если принять все ваши «проводки до сенсора»…
На это уже способен далеко-далеко-далеко не каждый (даже я бы не стал таким париться ради просто тупого фейка, честно). Что уже выполняет главную задачу, о которой изначально и говорилось – резко отсеять основную массу «тупо-шутников».

P.S. Как уже упоминал в комментарии несколькими минутами ранее – никто не говорит об «абсолютной защите». Говорится о защите, которую не смогут обойти 99% школоты и прочей фейкообразующей публики – что уже будет благо…
Таки знаете… бывает и чипы взламывают подключаясь к отладочным контактным площадкам ПРЯМО НА КРИСТАЛЛЕ. А вообще есть специальные микрощупы. Как думаете тестируют и бракуют кристаллы с вытравленной кремниевой пластины и до корпусировки?

Да и чего долго парится, китайцы будут специальный адаптер под чип штамповать, не надо будет ничего даже паять. Может, и вовсе обойтись без выпайки оригинального чипа — только один резистор выпаять и надеть специальный адаптер.
Кстати школота будет распространять фейк-компромат как раз БЕЗ меток, мотивируя это тем чтобы их не вычислили.
бывает и чипы взламывают подключаясь к отладочным контактным площадкам ПРЯМО НА КРИСТАЛЛЕ.

Ну и много вы знаете таких людей? )))
Если очень мало – так именно о том и речь.
китайцы будут специальный адаптер под чип штамповать, не надо будет ничего даже паять.

Во-первых – под какой конкретно чип и какой конкретно модели? Производителей десятки, моделей сотни.
Во-вторых – китайцы, конечно, могут наштамповать что угодно, верю. Но как они будут продавать товар, являющийся откровенно криминальным с точки зрения производителей (которые тоже обладают собственными отделами безопасности)? Через Али, что ли?
Кстати школота будет распространять фейк-компромат как раз БЕЗ меток, мотивируя это тем чтобы их не вычислили.

Ну вот, наконец-то, дошли до главного, ура! ))
Вот именно это и является целью. Нет меток – видео помечается как фейк, точка. И все пользователи будут видеть на видео надпись «Возможный фейк».
И никакие словесные отмазки-оправдания автора уже не проканают (тем более, что «вычислить» кого-то только лишь по модели камеры как-то сложновато, откровенно говоря)).

P.S. Это даже не говоря о том, что школота должна ещё обладать знаниями, необходимыми для покупки именно «неподписывающей» камеры. А если намеренно покупают именно такую камеру – значит, зачем-то нужно видео именно без подписей. А зачем такое в обычной жизни?
Впрочем, это уже из области общей логики… ))
Вот именно это и является целью. Нет меток – видео помечается как фейк, точка. И все пользователи будут видеть на видео надпись «Возможный фейк».
И как на это будут реагировать обыватели, для которых эти фейки предназначены? Мамаша, выложившая в контактик видео с 6-го айфона «первые шаги моего сыночка» и получившая под видео плашку «фейк». Она может хорошую истерику закатить. Никакой видеохостинг на это не пойдёт.
Хмм…
А с чего это вдруг мамаша будет обладать «левой» камерой, не «метящей» видео? Если только это не жена самого нашего «фейкоплёта», конечно… ))
И, на всякий случай, для понимания предыдущего комментария…
Много вы знаете нынче камер, не прописывающих хоть тот же тупой EXIF? Хоть китайских, хоть уругвайских, хоть каких? А ведь с самого начала стандарт был совершенно не обязательным (да и теперь, собственно, никто не заставляет)…
Как думаете, почему все «подписались»?
Удобно сортировать и упорядочивать в библиотеке. А кому нужно, легко правит, например если наснимал на тупой м42, то потом можно ручками приписать тэги и параметры объектива и в лайтрумчике всё красиво и аккуратно.
Это всего лишь телеметрия, имитовставок там вроде бы нет…
Так EXIF сам по себе и не средство защиты. Потому и править его как нефиг делать. ))

Речь была совершенно о другом – что все производители легко и просто «заморочились» этим стандартом. А внедрять его во все модели было тоже не так уж и легко – там и те же самые софтовые теги, и те же самые данные всяких аппаратных датчиков (или хотя бы отправляемые им значения).
Понимаете, это вот всё – вопреки вашим словам о том, что производителям все подобные фичи якобы вообще нафиг не нужны. Именно поэтому привёл в качестве достаточно яркого примера.

Не было производителям с этого ни прямой выгоды, ни дополнительного бабла – однако же, поддержали практически все, даже распоследние китайцы. Сможете объяснить этот «феномен» со своей точки зрения?
Неужели не очевидно, вы же специалист.

EXIF — открытый стандарт, не требующий секретных ключей. В вашем же случае, либо любой китаец в подвале сможет получить возможность ставить доверенные подписи, и тогда ноль доверия к этим подписям, либо только условная большая тройка производителей камер будет ставить подписи, а весь ширпотреб будет без подписей.
только условная большая тройка производителей камер будет ставить подписи, а весь ширпотреб будет без подписей.

Почему? Что помешает ширпотребу получить нужные алгоритмы – если вся их продукция всё равно основывается на элементной и софтовой базе, схожей с вашей условной «большой тройкой»?
Разве что только лень…

Отдельно по «любому китайцу в подвале, ставящему подписи»…
Вам ведь уже не раз и не два повторили, что подписи подделать будет крайне сложно – ибо они будут вообще на каждом кадре. И подписываться кадры будут не только лишь собственным ключом камеры, но и по многим другим параметрам, включая даже экспресс-анализ изображения в кадре.
Иначе говоря, тут даже некий «мастер-ключ» производителя поможет далеко не всегда – он сможет быть лишь базой для общего процесса шифрования, но не сможет определить и предугадать содержимое кадров.

Минимум два независимых фактора. Теперь-то хоть понимаете?
подписываться кадры будут не только лишь собственным ключом камеры, но и по многим другим параметрам, включая даже экспресс-анализ изображения в кадре.
Иначе говоря, тут даже некий «мастер-ключ» производителя поможет далеко не всегда – он сможет быть лишь базой для общего процесса шифрования, но не сможет определить и предугадать содержимое кадров

А формально это можно выразить? Типа, вот есть Si,j — пиксели изображения, X — параметр «температура в месте съёмки», AES256(S,X) — изображение S, зашифрованное параметром X, и т.д.

А то сдаётся мне, что либо вы троллите, либо в криптографии не разбираетесь от слова «совсем», и думаете, что так можно сделать, а что нужно конкретно сделать, не знаете.
То есть, вы просто не знаете, как можно снять «слепок» любого изображения? Так бы сразу и сказали, а не бросались бы обвинять чёрт знает в чём. Уже ведь даже подсказки давал.

Ну, если уж и теперь не поймёте…

1) Кадр делится на матрицу NхK областей, в каждой области анализируются весовые коэффициенты пикселей по значениям яркости и/или оттенков – значения пишем в массив.
2) Полученный массив пропускаем через наш алгоритм шифрования. Получаем тот самый «слепок» кадра – который для любого произвольного кадра будет в достаточно высокой степени уникальным, а уж для последовательности и подавно.
3) На наш «слепок» накладываем случайные коэффициенты – с тех самых физических датчиков, которые не только также участвуют в формировании исходного массива, но и обладают своими собственными подписями данных.
4) Получаем итоговый хеш. Причём просто «левые» значения не подойдут – данные с датчиков и «слепок» кадра совместно (!) формируют полностью уникальное сочетание параметров.

Итого, получаем для каждого кадра:
1) Уникальный «слепок» картинки;
2) Случайные данные с датчиков;
3) Итоговое шифрование предыдущими двумя независимыми (!) массивами данных.

Как видите, достаточно незатейливо – и готов наш уникальный идентификатор оригинального кадра. Чем больше элементов в матрице – тем выше надёжность и точнее результат.
Осталось лишь аккуратно наложить эти метки на сам кадр вновь через яркость/цветность небольших групп пикселей (получится нечто вроде размазанного по всему экрану этакого «видео QR-кода», для ясности)) – чтобы было незаметно для глаза и не мешало просмотру, но в то же время уверенно считывалось валидаторами.

Надеюсь, теперь видите, что в теоретической части это вовсе не так уж и сложно? Самый сложный момент тут – лишь аппаратные ресурсы. Что, впрочем, для процессоров современных камер даже бытового уровня уже далеко не критическая проблема. Тем более, как уже писал ранее, есть «компромиссные» варианты решения и этой проблемы – от понижения размерности нашей матрицы до маркировки лишь каждого N-го кадра…

Если сможете, предложите своё видение подделки такой защиты. Только вот, пожалуйста, без этого «скачаю готовое» (его может и не быть) – а как сам понимаете этот процесс… ;)

P.S. В грубом приближении (хотя там гораздо сложнее, разумеется) – именно на основе подобного «матричного» принципа работают любые системы распознавания изображений, от OCR до какого-нибудь поисковика картинок.
И даже те же самые нейросети из статьи в самой своей основе используют ровно те же самые «матричные» методы распознавания, только более заковыристые…
Хе-хе, вновь два «тупо-минуса», и оба вновь без опровержений – почти за целые сутки. )))

Ребятишки-минусишки, если уж считаете меня тупым и достойным минуса «динозавром» – так хоть поясните, хоть опровергните. Ну хоть докажите, что вы сами имеете собственное решение проблемы и реально достойны ставить те минусы, которые проставили. ИМХО, это будет хотя бы честно.
В противном случае – это можно воспринимать исключительно как «минусы от бессилия», о которых уже говорил. Ну, вам-то виднее, в любом случае, «специалисты»… ;)))
Итого, получаем для каждого кадра:
1) Уникальный «слепок» картинки;
То есть, какие-то статистические особенности изображения (типа, цвет, наиболее часто встречающийся в блоке, либо соотношение интенсивностей самого яркого и самого тёмного пикселей). К таким характеристикам элементарнейше подбираются коллизии (при условии, что алгоритмы известны, не известны только ключи). То есть, можно найти фантастическое кол-во изображений с тем же слепком, либо «допилить» нужное изображение до нужного слепка.
2) Случайные данные с датчиков;
Абсолютно бесполезные, потому что вы не указали, что с этими данными делать (как они используются в верификации) и чем они лучше настоящего физического белого шума (которого у всех сколько угодно).
Если сможете, предложите своё видение подделки такой защиты.
Не представлена процедура верификации, поэтому и говорить не о чем.

По сути, тут намешана куча умных слов и отсутствуют конкретные алгоритмы.

Не стесняйтесь, предлагайте конкретику. Вместо «весовые коэффициенты пикселей по значениям яркости и/или оттенков» — конкретно, что нужно брать из массива пикселей (в теориях обработки сигналов или в криптографии нет такого термина «весовые коэффициенты», сами по себе).

Вместо «Полученный массив пропускаем через наш алгоритм шифрования» — давайте конкретный алгоритм и как берётся ключ. Иначе какой смысл предлагать обсуждать стойкость этого.
можно найти фантастическое кол-во изображений с тем же слепком

Попробуйте. Если получится – сообщите. )))
либо «допилить» нужное изображение до нужного слепка

Не получится, увы. После этих искажений вмонтированный фрагмент будет уже выглядеть явно инородно в кадре – что просечётся даже самым непрофессиональным зрителем.
Да и с теми же подписанными видео такой финт уже не пройдёт, как говорил ранее.
чем они лучше настоящего физического белого шума (которого у всех сколько угодно)

Тем, что работают одновременно с кодировщиком. И тем, что сочетание этих двух параметров (кадра и состояния датчиков в момент его съёмки) – максимально уникально.
в теориях обработки сигналов или в криптографии нет такого термина «весовые коэффициенты», сами по себе

Назовите это как вам будет удобно, смысл не изменится. Заодно можете вспомнить, как работает то же самое размытие по Гауссу – внезапно, это всё из той же оперы, да… ;)
давайте конкретный алгоритм и как берётся ключ

Угу. Вам как – прямо тут выкатить готовое решение, или по почте выслать? )))

P.S. Знаете, есть старая добрая формула: «Критикуя – предлагай». Так вот вам не кажется, что с вашей стороны, мягко говоря… эээммм… как-то многовато критики и маловато «встречных предложений»?
Вы никак не хотите осознавать, что решение должно быть практичным.

Ни один уважающий себя крупный производитель не будет пользоваться «секретным алгоритмом», надежность которого недоказана, в том числе и клиентам.

А доказать надежность, устойчивость к реверс-инженерингу, устойчивость к банальному бруту или перебором с примененим нейросетей, не пояснив детально как действует алгоритм с примерами — нельзя.

Вы же не думаете, что ответственность за «достоверность видео» будет брать на себя судья? Или производитель оборудования?
Нет, это должен быть совершенно явный, понятный любому математику алгоритм, чтобы экспертиза могла основываться именно на общепонятных принципах, а не на обещании неизвестного программиста.

Ни один уважающий себя крупный производитель не будет пользоваться «секретным алгоритмом»

Во-первых, ИМХО, единый алгоритм для всех будет из серии «все яйца в одну корзину».
А вот разнообразие алгоритмов дополнительно усложнит задачу злоумышленникам – как писал выше, видео со скомпрометированной модели априори будет вызывать больше подозрений. В случае же с единым алгоритмом – будет скомпрометирована сразу вся техника всех производителей.
В этом как раз один из немногих минусов и «обратная сторона медали» всех универсальных стандартов, увы…
… не пояснив детально как действует алгоритм с примерами — нельзя.

Да, но для этого и существуют программы сертификации, в том числе международные.
Вы же не думаете, что ответственность за «достоверность видео» будет брать на себя… производитель оборудования?

Почему бы и нет?
Именно производитель лучше всех знает принципы работы своей техники и своих алгоритмов. И может провести максимально полную проверку – по методике, известной ему одному.
Собственно, сейчас ведь в любых технических вопросах так и поступают – если не могут справиться сторонние эксперты, то обращаются к экспертизе производителя (вспомните хоть скандалы с тесловскими авариями). И я не слышал, чтобы производители в этом отказывали (кроме одной вредной яблочной конторы, но там ситуация была несколько иная)).

Да и то, это касается лишь совсем уж громких и спорных моментов – когда дело доходит до суда, в котором одна из сторон окончательно и бесповоротно настаивает на факте подделки. А подавляющее большинство видео может проходить стандартную проверку сразу на хостинге, как уже писал…
Я: Вы же не думаете, что ответственность за «достоверность видео» будет брать на себя… производитель оборудования?


Вы: Почему бы и нет?


То есть на видео с какой-нить голой моделью, она подаст в суд например на Sony, которая выпустила камеру?
Зачем производителю нужен такой гемор вообще?

«А подавляющее большинство видео может проходить стандартную проверку сразу на хостинге, как уже писал…»

Вы видимо не представляете мир за пределами СНГ, где судебная система хоть и не идеальная, но действительно рабочая, и подать в суд любому гражданскому лицу — не проблема и не слишком дорого.
То есть на видео с какой-нить голой моделью, она подаст в суд например на Sony, которая выпустила камеру?

Хммм… Даже вот пытаюсь придумать, как бы помягче спросить-то…
Вы считаете, что ответственность может быть только лишь непременно уголовной? Тогда, видимо, это вы «не представляете себе мир за пределами СНГ» ©…

Говорилось об ответственности в целом – за то, чтобы видео можно было как можно труднее подделать. Внезапно, «за пределами СНГ» – производители могут нести за такие скандалы достаточно серьёзные репутационные потери, что прямо бьёт по их прибыли.
Именно потому им это всё и нужно.
подать в суд любому гражданскому лицу — не проблема и не слишком дорого.

Подать – действительно не проблема (особенно при тамошней мании сутяжничества). Но вот выиграть этот суд – дело совершенно другое. Вспомните, сколько было скандалов на подобные темы. Хоть раз кто-то получал реальные компенсации? Вот и я как-то не особо припоминаю…

А всё потому, что действительно крупные производители кровно заинтересованы в том, чтобы не создавать прецедентов и не удовлетворять подобные частные иски. Поскольку де-факто это будет означать признание вины – что вызовет «эффект домино» и, соответственно, громадные финансовые потери.
Но ещё более кровно они заинтересованы в том, чтобы подобных исков в дальнейшем не было – дабы не создавать «негатив» вокруг бренда и не бить по продажам.
Вот поэтому и стараются исправлять косяки, в меру сил. Чтоб свести к нулю возможные будущие претензии – и, соответственно, возможные будущие финансовые потери.

Да, это именно знаменитое «бабло побеждает зло» – чертовски эффективный метод порой…
Не получится, увы
Вы не читали приведённые мною примеры «сигнатур»?

цвет, наиболее часто встречающийся в блоке, либо соотношение интенсивностей самого яркого и самого тёмного пикселей

И на таком примере не можете найти коллизию? (ничего другого вы не предложили). Меня достал ваш троллинг, держите минус.
Вы не читали приведённые мною примеры «сигнатур»?

Читал. Потому и разъяснил. ))
И на таком примере не можете найти коллизию?

Поясните уж, наконец-то. Устал ждать от вас чего-либо, кроме минусов и твёрдой убеждённости в том, что совершенно всё можно скачать из волшебного интернета… )))

В качестве «лабораторной работы» по весовым коэффициентам (и самого простейшего наглядного примера)…
Сильно размойте тем же упомянутым ранее «гауссом» сто похожих изображений. В качестве «факультатива» – можете даже предварительно прифотошопить на одно и то же фото разные лица.
Затем прогоните все полученные файлы через анализатор. А затем расскажите нам, пожалуйста, сколько конечных размытых изображений оказались полностью идентичными между собой. Особенно интересует сравнение тех пар картинок, одна из которых является оригиналом, а вторая с прифотошопленным лицом.
Вангую, что они будут отличаться даже по размерам файла (в незначительных пределах), не то что по контрольным суммам (в ощутимых пределах)… ;)))

Ну, а если вы всё ещё настаиваете на своём авантюрном варианте «подписать невесть откуда взятым ключом неподписанное отредактированное видео» – то даже тут при желании можно найти варианты вроде этого вот. Тут уж даже без ключей, как видите. Впрочем, подобные «игрушки» уже для достаточно глубокой экспертизы, пихать такую штуку массово во все сервисы будет действительно излишне. Разве что в виде опции при первой же жалобе на фейк – либо в виде отдельного онлайн-сервиса…

Меня достал ваш троллинг

Не разбрасывайтесь словами, значение которых не понимаете. Для пары «тролль-жертва» – как-то слишком уж много описаний со стороны якобы «тролля» и как-то совсем уж чахло с информацией от якобы «жертвы». Похоже даже на то, что всё наоборот… =/
У вас два требования:
— верифицируемость источника
— возможность монтажа
Одно полностью исключает другое.
Допустим, подпись встроена в сенсор, а ключ из чипа вытащить мы не можем. Тогда возможно следующее решение:
1. с камеры получаем подписанный поток.
2. видеоредактор генерирует отредактированное видео и помещает его в контейнер mkv, как primary video, а оригинальный подписанный поток как secondary.
3. при просмотре юзер не видит второй поток, но, если потребуется провести экспертизу, можно переключиться на нередактированное видео и понять, что же там было снято в оригинале, не подменили ли голову потом )))
можно переключиться на нередактированное видео

… И размер файла сразу увеличивается вдвое… Ну да, «отличный вариант»… )))
Предложите другой?
Уже ведь предложил. ;)
Никто ничего не понял. Напишите пошагово, что делать, чтобы реализация была очевидной.
Простите уж, но повторяться не буду. Вполне достаточно описал все процессы ранее в этой теме. Перечитайте – а уже потом сможете возразить более детально, по каждому шагу…

Ваш вариант очевидно вызывает как минимум полутора-двоекратное увеличение размера видео за счёт фактического «удвоения» потоков – что явно не самый оптимальный вариант. Как с точки зрения увеличения объёма, так и с точки зрения более простых методов вырезания «лишнего» потока. Это даже не считая вопроса о том, как быть с действительно оригинальными видео – им тоже дублировать потоки?
На что и указал.
Я тут в теме уже упоминал аппаратные рандомайзеры. Сможете добиться такого же уровня реально случайных чисел программными методами? ;)))

Если сможете – первым прокричу, что вы гений
Конечно, смогу. Вот мой чёрный ящик:

Беру ключ длиной 65536 бит, вам неизвестный.
Выдаю первые 256 бит на выход, и шифрую весь блок алгоритмом AES-256, используя выданные биты как ключ.
Выдаю следующие 256 бит, шифрую, и т.д.
После 256 итераций, когда смещение, по которому читается ключ, достигает конца блока, перехожу на начало блока, и так по кругу.

Внимание, вопрос: предложите способ отличить выход этого алгоритма от настоящего аппаратного рандома.
Нет, эта схема чуть-чуть дырявая.

Надо так:

Выдаю первые 256 бит на выход, и шифрую весь блок алгоритмом AES-256, используя следующие 256 бит как ключ. Т.е., когда на выход уходит 256 бит по смещению (i mod 256)*256, шифруем весь наш буфер на 65536 бит, ключом по смещению ((i+1) mod 256)*256.
Где i = 0,1,2,3,… (до бесконечности)
И всё равно – есть общая логика. Значит, уже есть теоретическая возможность дешифровать.

Аппаратные рандомайзеры именно потому и «едят свой хлеб» (впрочем, в крайне узких сегментах)), что любая хоть как-то просчитываемая логика в их работе априори стремится к нулю. Поскольку на выходе получаются реально случайные значения – подверженные буквально "случайному стечению многих обстоятельств", а не просто многократным итерациям алгоритмов…
Конечно, смогу.

Увы…
Эти результаты всё равно не будут реально случайными – даже псевдо-случайными не будут. Максимум будут дико-дико запутанными (что почему-то часто путают со случайностью). Но всё равно будут подчиняться некой «общей» логике.
Иначе говоря, в самой своей основе – весь ваш вариант основывается на одном и том же наборе постоянных (!) данных, пусть даже многократно искажённом и перетасованном в результате множества итераций. Но суть именно в том, что все итерации производились по одному алгоритму – что теоретически может позволить найти «ключик» ко всему «ларчику»…

предложите способ отличить выход этого алгоритма от настоящего аппаратного рандома

Если хотя бы теоретически поддаётся дешифровке без ключа (см. выше).
А в целом, на наш с вами невооружённый взгляд – да, выход обоих будет сущей абракадаброй… ))
Увы…
То есть, никакого способа различить предложенный поток от случайного у вас нет.
Иначе говоря, в самой своей основе – весь ваш вариант основывается на одном и том же наборе постоянных (!) данных, пусть даже многократно искажённом и перетасованном в результате множества итераций.
С периодом повторения порядка 265536, что больше времени жизни всех воображаемых вселенных.
То есть, никакого способа различить предложенный поток от случайного у вас нет.

Конкретно в отношении видео – есть. Внезапно, именно такой метод был в общих чертах описан ранее…

С периодом повторения порядка 265536, что больше времени жизни всех воображаемых вселенных.

А тут во многом пофиг даже на период повторения. Грубо говоря, главное вычислить сам алгоритм шифрования (на котором, в том числе, основаны и периоды повторения) – после чего все ваши итерации расшифруются одна за другой, до получения вменяемого результата. Что будет на бесконечное количество порядков меньше времени жизни всех воображаемых вселенных… )))
Это даже не говоря о настолько банальных вариантах, как утечка ключа и прочих «бытовых»…

Понимаете, неважно, насколько сильно запутаны данные и с каким количеством итераций. Для того, кто реально хочет взломать – это пустяки. Ему главное просечь сами методы, которыми шифровали, понять их суть. После этого получение исходных данных – вопрос лишь времени.
Именно поэтому главной тайной являются не столько непосредственно ключи, сколько сами методы шифрования…

P.S. А вообще, весьма занятная дискуссия внезапно образовалась в теме про… Порнхаб. )))
Вы опечатались, троллите или реально так считаете про тайные алгоритмы шифрования?
Ни первое, ни второе, ни третье. ))
Под «алгоритмом» тут понимается намного больше, чем просто общий принцип. Именно поэтому данное слово встретилось в посте всего один раз, до него и после него речь шла о непосредственных методах.

Кстати, я вот тут как раз задал вопрос нашему коллеге. В нём как раз вся самая суть и закопана (не в коллеге, в вопросе))…
Для того, кто реально хочет взломать – это пустяки. Ему главное просечь сами методы, которыми шифровали, понять их суть. После этого получение исходных данных – вопрос лишь времени.
Именно поэтому главной тайной являются не столько непосредственно ключи, сколько сами методы шифрования
Что-то я не наблюдаю массового взлома кошельков bitcoin, где все алгоритмы открыты, неизвестны только ключи. Или просто никому не надо?
Вот, уже ближе к теме… ))
Наводящий вопрос «на пятёрку» – скажите, а каким образом ключи генерируются так, что их крайне сложно получить «левым» путём, даже при известных алгоритмах?
Просто кто-то вот тут в теме как раз недавно предлагал «вставлять любые значения» – всё равно, мол, проканает… )))
Я не очень в теме про криптовалюты, но предположу, что каждый может создать кошелёк с любым ключом и он будет валидным кошельком и ваш ключ всегда к нему подойдёт.
Это при условии, что сама система допускает произвольные ключи (которые в данном случае просто являются грубым аналогом пароля).
Но если ключи генерируются по строго заданной методике – такой фокус уже не пройдёт.

Понимаете, чтобы подделать даже самый тупой штрих-код – уже нужно знать методы его генерации. И если вы нарисуете штрих-код «от балды» – даже самый тупой сканер в магазине его просто не прочтёт, поскольку даже там есть свои зависимости. И это даже самый простейший пример…
«Понимаете, чтобы подделать даже самый тупой штрих-код – уже нужно знать методы его генерации. „

Можно просто сфоткать штрих-код с соседнего товара.

Вы громко кидаетесь словами “верификация, алгоритмы, генерация», но такое впечатление что никогда не смотрели как оно работает под капотом на самом деле.
Можно просто сфоткать штрих-код с соседнего товара.

Можно и так, да. Но тогда всё равно на кассе у вас возникнут… эээммм… «некие затруднения», скажем так. Там же пробивается не только цена, но и сам товар… ))
Вы громко кидаетесь словами “верификация, алгоритмы, генерация», но такое впечатление что никогда не смотрели как оно работает под капотом на самом деле.

Собственно, спорю лишь потому, что не только «смотрел», но и знаю, как оно всё устроено «под капотом».
В целом, увы, у меня уже такое ощущение, что тут просто почти не осталось настоящих специалистов – а есть лишь либо «недо-программисты» (для которых эго важнее реальной квалификации), либо просто неопытная молодёжь (у которой, искренне надеюсь, всё ещё впереди и до всего этого дойдут сами)…

P.S. И, таки да – минусуйте нещадно! )))))))
Вновь повторю, что в теории, разумеется, взломать можно что угодно. Но повышенные меры безопасности резко отсекают всяких «шутников» и прочих идиотов (вроде этих вот из статьи-сабжа)) – что в данном случае и является главной целью. Ведь именно такие и являются основной массой «фейкоделателей».


А зачем? Я буду подставлять туда всегда 42, а вы докажите,, что это не реально число, которое выдал супер-крутой генератор случайных чисел.

В этом одна из ваших проблем — вы почему-то думаете, что я эти числа получаю в центральном офисе КГБ под расписку и никак не могу на них повлиять, а суд всегда может обратиться к оригинальным значениям.

Я могу подставить ЛЮБЫЕ ЗНАЧЕНИЯ, мне не нужна истинная случайность — ведь никто не знает — я эти значения поставил в качестве «исходных данных» сам или их поставил ваш супер-пупер генератор.

Поскольку все эти данные также участвуют в создании хешей. И они уже сразу пишутся в кадр, да. И, как уже говорил – хрен вы их оттуда вычистите, не зная исходных алгоритмов.

Почему вы упорно игнорируете то, что вам говорят. Мне приходится орать капсом из-за вашей слепоты. МНЕ НЕ НУЖНО ВЫЧИЩАТЬ НИКАКИЕ ДАННЫЕ, у меня есть камера, которая записывает чистое видео и мне необходимо лишь подписать это видео алгоритмом из другой камеры, которая считается авторитетной.

Эти все ваши глупые идеи про каждый кадр — обычное любительство. Да хоть в каждый пиксель вставляйте по хешу. Абсолютно все-равно. У меня есть эти чистые пиксели и есть алгоритм, который подписывает эти пиксели. С этим алгоритмом справляется какая-то схема в камере, значит справится и мой комп.

Все ваши «входные данные» — точно такое же дилетанство. Потому что никто кроме меня не может сказать, в каких условиях я это записывал. Кроме меня. Что выдал случайный генератор, что выдал гироскоп, акселерометр, термометр. Под все эти значения я могу поставить любое число которое захочу — и никто не сможет их провалидировать, потому что никто и никак не может узнать, какие именно числа там должны быть.
Я могу подставить ЛЮБЫЕ ЗНАЧЕНИЯ, мне не нужна истинная случайность — ведь никто не знает — я эти значения поставил в качестве «исходных данных» сам или их поставил ваш супер-пупер генератор.

Поставить можете любые, да.
Но с «любыми» – у вас не пробьётся контрольная сумма. Которая тоже должна быть правильной – поскольку зависит как раз от тех самых значений. Неужели этот момент так сложен для понимания?
В общем-то, по этом принципу уже давным-давно и достаточно надёжно работают все CRC-алгоритмы (порой их юзают даже антивирусы, внезапно). Даже не говоря о том, что истинную контрольную сумму можно также писать в неизвестное для вас место.
Слишком уж много неизвестных для «простого взлома», вам не кажется? ;)

Так что, если уж и спорить по данному вопросу – то точно не со мной, а с изобретателями этого метода… ))

Все ваши «входные данные» — точно такое же дилетанство.

Что выдал случайный генератор, что выдал гироскоп, акселерометр, термометр. Под все эти значения я могу поставить любое число которое захочу — и никто не сможет их провалидировать, потому что никто и никак не может узнать, какие именно числа там должны быть.

Хммм… Ну ладно, пусть будет «дилетантство» именно с моей стороны, если вам так спокойнее… )))
Но, всё же, ради расширения кругозора – настоятельно рекомендую ознакомиться с темой генерации и валидации случайных и псевдослучайных ключей… ;)
Но с «любыми» – у вас не пробьётся контрольная сумма

Какая именно контрольная сумма? Я ведь в контрольную сумму подставлю те же фейковые данные, ведь контрольную сумму вычисляю тоже я.

Но, всё же, ради расширения кругозора – настоятельно рекомендую ознакомиться с темой генерации и валидации случайных и псевдослучайных ключей… ;)

Вы о приватный-публичный ключ? Я прекрасно знаю, как работает эта система, и она не имеет ничего общего с вашей.

В общем-то, по этом принципу уже давным-давно и достаточно надёжно работают все CRC-алгоритмы (порой их юзают даже антивирусы, внезапно). Даже не говоря о том, что истинную контрольную сумму можно также писать в неизвестное для вас место.

Смотрите, если Алиса делает видео, подписывает его своими данными, делает свой ключ, то Чаку будет сложно изменить это видео и послать Бобу так, чтобы тот подумал, что видео валидное, тут ваша система работает.

Но если все видео подписывает Чак и у него есть все данные, чистое видео, он может подставить любые значение, то это совершенно не похоже на ситуацию, когда контрольные суммы защищают.
Я ведь в контрольную сумму подставлю те же фейковые данные, ведь контрольную сумму вычисляю тоже я.

Чтобы знать, по каким конкретно параметрам она вычисляется – вы должны полностью владеть всеми данными производителя, внезапно…
Вы о приватный-публичный ключ? Я прекрасно знаю, как работает эта система, и она не имеет ничего общего с вашей.

Если «прекрасно знаете» – тогда не вполне понятно, почему спорите… )))
Но если все видео подписывает Чак и у него есть все данные...

В том-то и дело, что у Чака не может быть ВСЕХ данных. Он просто физически не может их получить, если только сам не работает в компании-производителе.
А если работает и слил инфу налево, если вообще становится известно что-либо об утечке – компания либо быстро-решительно увольняет Чака, либо обновляет прошивки своих моделей (и все алгоритмы, соответственно), либо всё вместе. И в ответ на обвинения в фейке – злоумышленнику останется лишь беспомощная отмазка в виде «не успел обновить прошивку». Но любые видео с конкретно этой версией прошивки конкретно этой модели уже будут помечены как «сомнительные».
В этом и весь смысл.
О! Снова «пустые-безответные» минусы, аж два! )))
Ребят, вновь напоминаю о простейшем правиле: «Минусуя – аргументируй!». На каждый минус должно быть реальное опровержение. Иначе вообще вся эта система превращается в тупое сведение личных счетов, по принципу: «Нечего возразить, но хоть так подгажу, тупо из принципа»…

Пожалуйста, не заставляйте думать о том, что минусы появляются лишь от невозможности внятно ответить. Это явно не то, что было запланировано на данном ресурсе…
Придётся повториться…
Пусть алгоритмы секретные и должны продержаться в секрете время t.
Будет ли видео переснятое вашей (самоуничтожающейся при попытке вскрытия) камерой (которая в это время генерит не менее секретные ключи и случайные числа) с экрана, на который транслируется отнейросеченное видео, считаться валидным?
Будет ли видео переснятое вашей… камерой… с экрана, на который транслируется отнейросеченное видео, считаться валидным?

Формально – да, будет «пробиваться» по всем подписям и прочим параметрам. Но фактически – «экранка» всегда видна и невооружённым глазом, даже самая лучшая. Что, опять же, уже породит сомнения в оригинальности видео. В первую очередь – у экспертов, которые будут данное видео оценивать…

Тут вот и получается, что либо валидация через цифровые подписи, либо через живых людей. В обоих случаях – с вероятностью не менее 90% фейк не пройдёт.

P.S. Неужели вы искренне считаете, что вот эти вот все мои споры сейчас просто «от балды», или чтобы просто отстоять какую-то личную точку зрения? )))
Это действительно реальная проблема, которую надо реально решать. И как можно быстрее. И пока видятся только такие способы. Сможете придумать лучше – озвучьте, я буду только рад.
Я занимался и криптографией, и аппаратной обработкой видео и этой самой съёмкой (правда чаще фото) и смею утверждать, что либо вы верите в какую-то «магию» случайных чисел и тайной криптографии, как люди верят, что магнитик или крестик в определённые даты меняют структуру воды и с пеной у рта доказываете, что это так, но вы точно не знаете как это объяснить, но оно точно так, иначе придумайте сами почему святая вода с содой помогает от рака или вы все дураки и мальцы.
Но всётаки предпочту считать вас толстым-толстым троллем. Также скажу, что в обоих случаях рекомендую остальным читателям проанализировать пару ваших сообщений и сделать вывод, стоит ли вас тут читать дальше или сделать вас читателем…
Хммм… )))))))

Я задал вам прямой вопрос – озвучить своё собственное видение решения этой проблемы. Своё видение я при этом полностью (!!!) описал, хотя бы с общими выкладками (путь и достойными критики, но с реальными выкладками).
Вы же своё видение – не описали даже в зародыше. С вашей стороны до сих пор была лишь голая и совершенно ничем не обоснованная критика. И даже от прямого предложения описать ваше собственное решение – вы позорно сбежали, сразу же перейдя к каким-то абсурдным обвинениям… )))

И вот после всего вышеперечисленного – вы ещё смеете в чём-то обвинять меня??? Сударь, да при таком раскладе – именно вы получаетесь троллем. Это даже не обсуждается, даже вообще без вариантов…
Решения нет, только гонка вооружений, что сделал один человек, повторит и другой, а третий возможно распознает. Что сделала одна нейросеть, другую можно научить распознавать.
Решения нет, только гонка вооружений

А, ясно-понятно…
Если правильно понял ваше мнение, то получается что-то вроде: «Ребят, ничего не делайте, ничего не придумывайте – ибо всё вообще говно и мы все умрём!»…

Ну а более конструктивное-то есть хоть что-то? Реально рациональные предложения есть? Я ведь именно про это спрашивал, если вдруг забыли…
Если нет – то и говорить с вами вообще не о чем.
Он просто физически не может их получить, если только сам не работает в компании-производителе.

Всмысле? У него же камера в руках. Как камера получает эти данные, находять в тех же условиях, что и Чак?
«Камера в руках» – вовсе не означает понимать все принципы работы этой камеры. И, уж тем более – не означает понимать принципы работы её софта.
Иначе получается просто карго-культ какой-то… )))

На самом деле, тут вопрос совершенно в другом… Как ваш Чак поймёт, как именно камера подписывает кадры в данных условиях? И как он сможет смоделировать именно эти условия? А если будет тупо снимать с экрана – я уже описал выше…
Garruz, утечка алгоритма — это то, что будет 100%.
Чтобы вы не делали, как бы вы не хотели — камера, сканер штрихкода, какой-то там счетчик — это не то, что вы можете контролировать. Это даже не ваш сервер, не ваш датаценр.

Это конечное устройство, уже проданное пользователю.
Вдобавок совсем не факт, что у пользователя будет возможность и желание регулярно обновлять на нем прошивку в случае чего.
А собственно замена прошивки никак не помешает сделать видео, которое как бы снято этой камерой «задним числом», когда была еще старая прошивка.

Я уже говорил вам, что вы не понимаете как это работает под капотом. Я имел ввиду интеграцию решений на реальных устройствах с реальными проектами, а не математическая теория в песочнице на контролируемой вами территории.
Я имел ввиду интеграцию решений на реальных устройствах с реальными проектами, а не математическая теория в песочнице на контролируемой вами территории.


Так и я исключительно о практическом решении. ))
Понятно, что теории «абсолютной защиты» можно строить бесконечно – и бесконечно же они будут упираться в человеческий фактор. Идеальной защиты за весь недолгий век IT пока ещё не изобрёл никто.
Именно поэтому практически с самого начала и сказал о том, что 100% защиты этот метод не даст (как и любой другой) – но как минимум отсеет абсолютное большинство всяческих «кулцхакеров-качальщиков-готовых-решений» (от которых и есть больше всего головняка). И отдельно заметил, что смысл именно в этом, резко повысить тот самый «порог вхождения» в область фейков – чтоб если уж и «баловались» такими вещами, то хотя бы более-менее умные, а не кто попало…
Ну вот, снова «бессильный минус» – без ответа, без реального возражения… )))
Даже несмотря на то, что в этом посте высказал даже не собственное мнение, а вот просто абсолютно банальнейшие истины, которые априори должны быть известны любому реальному специалисту…

Ох, ребят… Ну блджад же ж… Как дети малые – пох на истину, пох на решение проблемы, своё эго ближе к телу…
Даже несмотря на то, что в этом посте высказал даже не собственное мнение, а вот просто абсолютно банальнейшие истины, которые априори должны быть известны любому реальному специалисту…
Вероятно, настоящие специалисты и минусуют, потому что вы их дискредитируете такими заявлениями :)
Вероятно, кто-то просто с ходу воспринимает эти предложения как некую «сферическую защиту в вакууме» – и потому сразу же бросается пылко «опровергать». ))

Так вот, разочарую – это не специалисты. Точнее, просто молодые и неопытные специалисты, с присущим им юношеским максимализмом. Такие сразу пытаются искать «идеальное решение» – которого зачастую просто не существует. И зачастую проводят в бесплодных поисках этого самого несуществующего «идеала» всю профессиональную карьеру – после чего становятся просто старыми ворчунами, озлобленными на всё и вся...
В то время как «зрелый» реальный специалист, обладающий хотя бы минимальным практическим опытом – всегда знает, что «идеального» ничего не бывает. И поэтому надо постоянно пытаться выжать максимум из того, что есть по факту прямо здесь и сейчас. Только так реально и создаётся прогресс – команды разработчиков учатся на опыте и/или ошибках других команд, за счёт чего всё постоянно совершенствуется. А создать прямо сразу с нуля и сразу что-то «идеальное» – история не знает таких примеров (поправьте, если ошибаюсь)…
Так и я исключительно о практическом решении. ))
Понятно, что теории «абсолютной защиты» можно строить бесконечно – и бесконечно же они будут упираться в человеческий фактор.
Практично — это когда взлом дороже защиты. А тут предлагается много денег вложить в стандарты (сколько стоит созвать консорциум?), много денег в оборудование и софт, чтобы потом инженер в гараже разломал это за полдня?

Если идти от экономической целесообразности, то кому это надо? При выборе между обычным телефоном и телефоном с защищённой камерой (более дорогой), массовый потребитель выберет обычный, потому что какой смысл ему кому-то что-то доказывать. А значит, фейки пойдут по принципу «снял на то, что было под рукой».

Далее, какие гарантии даёт производитель на «защищённую» камеру? Допустим, выложат пикантное фейковое видео с политиком, подписанное этой камерой. Производитель разорится выплачивать компенсации, т.к. получается, что фейк подкреплён подписью, и они либо сами его сделали, либо допустили утечку ключей, т.е. виновны в любом случае.
Практично — это когда взлом дороже защиты.

Согласен.
На одной чаше весов – оплата труда одной команды инженеров и программеров, которые будут разрабатывать стандарт. Оплата немаленькая, да.
Но на другой чаше весов – «гонорары» многим командам за взлом действительно хорошей защиты. Это даже не считая «повышенную ставку» за нелегал.
Вот и считайте…
Если идти от экономической целесообразности, то кому это надо?

Ну а кому были нужны всякие сертификаты, HTTPS-ы, и даже те же сканеры отпечатков-радужек и прочих частей тела в потребительских (!) устройствах, например?
Да самим же производителям/разработчикам всё это и понадобится – если появится реальный спрос.
Далее, какие гарантии даёт производитель на «защищённую» камеру?

Гарантии того, что видео, сделанное именно с неё – всегда пройдёт валидацию.
А вот если кто-то успешно косит под эту модель, компрометируя её – да, большой фейл для производителя, но никак не ответственность. Зато жёсткая финансовая мотивация улучшить защиту – иначе юзеры перестанут покупать.
Много вы слышали случаев, чтобы на производителей техники подавали в суд за то, что кто-то хакнул их системы защиты? Вот и я не слышал…
Все ошибаются, признают свои ошибки, и идут дальше. Но тут сама идея в корне порочная. И вот почему.

Допустим, появляется видос с компроматом на политика. Он обращается к производителю камеры с требованием: «заявите, что это фейк». Дело передаётся инженерам. Они смотрят — все ключи на месте, все метки не фальшивые. Проблема в том, что даже производитель на самом деле не знает, настоящее это видео, или какая-то крыса в компании украла ключи и технологии (или очумелый китаец в подвале нашёл уязвимость). То есть, что есть эта подпись, что нет — никакой разницы.
Разница огромная.
Случаев действительно грамотной подделки – уже будет на многие порядки меньше. И тут инженеры компании-производителя действительно могут лишь честно сказать, что по всем меткам видео выглядит настоящим (после чего уйти в запой от депрессии, а потом думать над новыми алгоритмами))).

Возможно, этот инцидент не спасёт одного политика.
Но если он сможет достаточно убедительно доказать хотя бы инженерам – это будет мощным поводом для нового витка «гонки безопасности», для новых методов, ещё более изощрённых. Опять плюс получается, как ни крути.
Что в будущем спасёт уже многих политиков…

Говорю же – простая «спираль». Точно такая же, как и со всеми прочими средствами защиты.
Это называется реверс-инженеринг. Берётся камера, разбирается до винтика, небольшое усилие по просвечиванию платы рентгеном и мы уже знаем какие датчики и что именно поступает в прошивку. Прошивка тоже достаётся не так чтобы космически сложно, даже если сам чип закрыт на считывание и вообще… хоть бери да устраивай в камере отдельный Secure Enclave с датчиками, ключами, своими ЧАСАМИ и прочим. Но это ведь не бесплатно. В итоге у нас появляется камера неконкурентноспособная, с посредственными характеристиками но с которой МОГУТ принять видео в качестве свидетельства и в 3 раза дороже, ага. Потом находят сотню уязвимостей и камера по свойствам становится «обычной» и с неё не принимают никаких доказательств.
А… минусы не мои, не могу физически.
Ну ладно, вот на «рентгене» я сдаюсь… И высказываю отдельный респект за полёт мысли… )))))))

А если серьёзно – лично вы готовы на весь этот геморрой ради фейка? Каково будет соотношение «усилия/прибыль»?
Теоретизировать о «сферической защите в вакууме» можно сколько угодно. Но решать проблему фейков надо уже здесь и сейчас. Поэтому тут уже не до голых теорий…
Мне это не надо ибо мне за это не платят. Но есть люди готовые заплатить за фейк любые деньги, а значит и найдутся умельцы(да те же студенты на подработке). Вы тут пыжитесь, стараетесь… а вашу расчудесную систему ломают за день-два-неделю-месяц… и всё. Коту под хвост. Ну не держатся долго секретные алгоритмы. Даже самые расчудесные и стойкие. Погуглите алгоритм KeeLoq используемый в автосигнализациях. Он теоретически не взламываемый, если… правильно его применить! Но ломают его за считанные недели. А всё потому что неправильно его используют, будто специально снижают его стойкость! И вы то же самое делаете.
Но есть люди готовые заплатить за фейк любые деньги, а значит и найдутся умельцы(да те же студенты на подработке).


А много вы знаете «студентов на подработке», которые:
а) Обладают оборудованием для всех описанных ранее способов «технического хака»;
б) Обладают для этого достаточной квалификацией?

Плюс прибавьте к этому тот очевидный факт, что людей, «готовых заплатить за фейк любые деньги» – на порядки меньше, чем просто «вредителей-любителей».

В итоге и получится именно то, о чём вам говорят – некий «естественный отсев по финансовому признаку». Цель-то не в том, чтобы создать «идеальную защиту» (которой не бывает, как уже говорил) – цель в том, чтобы резко повысить её сложность.

Поскольку сейчас ту же самую нейросеть, обладая изрядной долей терпения – можно худо-бедно натренировать даже на домашнем компе любого студента. Минимум расходов. Но результат может кому-то серьёзно навредить.
Именно это главная беда – массовая доступность настолько мощных технологий, способных серьёзно навредить. А вовсе не сам факт того, что такое технически возможно…

P.S. С автоугонщиками (как и с грабителями, взломщиками, и т.д.) ситуация принципиально иная – это по определению криминальный мир, там всегда имеется стабильный спрос на технические решения, всегда имеется своя платёжеспособная клиентура, всегда имеются свои исполнители. И финансовая отдача всегда имеется стабильная…
Я выше уже ответил на эту тему для TheShock.
Это скорее для камер слежения, что бы они подписывали снятое видео своим цифровым ключом, для исключения подделки. В суде тогда можно будет сразу доказать что видео было или не было подвергнуто обработке.
Не говоря уже о том, что одновременно используется тело другой актрисы тоже без её согласия.

Чего?
Она актриса, она старалась, а ее лицо закрыли чем-то другим и теперь значительно меньше людей узнает о её таланте.

По идее, можно будет в перспективе присобачить на видео с собой чьё-то другое тело. Или отдельные его части. И да, я понял, что в статье речь не об этом.

Так и представляется:
«Кого бы выбрать? У этой ножки красивые, у той — грудь, а у вон той — мордашка… Так, где там программа...»
Франкенштейна, версия 2.0
Хех… джин выпущен из бутылки, теперь в сети больше нельзя верить глазам.
Порноролики это фигня.
Зато теперь абсолютно любой человек может сгенерировать тонны любых фейковых новостей с лицами чиновников, министров, солнцеликого… да вообще что угодно. Ну например выпустить в сеть «шок контент» где мизулина занимается сексом… и все… она никогда не докажет, что этого небыло, ибо плодить «реальные фото и видео» а так же «свидетелей» можно со скорость света, так что любые отговорки будут начисто похоронены под тоннами фейка и будут лишь подтверждать.
Наступает новая эра троллинга ))
Ага с Милоновым
Есть ещё одна сторона — любое реальное видео можно похоронить под тоннами фейка

Нужен достойный ответ создателям FakeApp — нейросеть, тренированная на мультфильмах.


https://youtu.be/ttBv5Bp7N-A

Я вот прочитал это и чё-то вдруг подумал: а неужели не существует с древних, ещё может даже докомпьютерных, времён такого жанра, как порно с двойниками знаменитостей? Если да, то как к этому относится порноиндустрия, киноиндустрия, а также законодательное собрание и независимый суд? К примеру, пялит «Чак Норрис» «Анджелину Джоли» на камеру — что им предъявить? Они же в своём праве?
«человек, похожий на генерального прокурора». Или видео, где Жириновский матом кроет Штаты. Проходили уже это, ничего не доказали подобными видео…
А я не про доказательство чего-либо, я про эксплуатацию образа.
«За насильственные действия с виртуальным образом человека без согласия этого человека, возможно, тоже введут ответственность».
— по идее, «порно со звездой» это фантазия (продукт независимого творчества) создателя этого порно. Виртуальные образы других людей мы представляем в своих мыслях, в своих снах. Предлагается запрещать свободу мысли? Вводить понятие «Мыслепреступление»?

Свободу мысли — не предлагается. А свобода воплощения мысли в реальность и сейчас ограничивают.

Просто введут виртуальное наказание за эксплуатацию виртуального образа.

Потом подумал и считаю нужным добавить. Это вполне реально, например отлучение от соцсетей, от поиска в интернете, то покупки любимых сериалов. К тому времени, когда доступ в интернет будет по паспорту (по крайней мере к таким «полезным» вещам типа стриминговых сервисов и магазинов приложений), вполне можно вводить виртуальные наказания.

А вообще, они там в этих америках уже совсем от реальной жизни далеки, их такие смешные проблемы волнуют (вот недавно возмущались, что голые модели не могут сниматься вместе, если они сестры).
«Отлучение от соцсетей и поиска в интернете» — это не виртуальное, а вполне реальное наказание. Виртуальное — это если смоделировать образ мыслепреступника и заточить в 3д-тюрьму, например.
Отлучение от соцсетей — это не наказание вообще, а скорее принудительное лечение.
До чего техника дошла, а вот перевести качественно на другой язык это все никак.
Так это по сути тоже перевод. На «язык тела» :)
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь

Теперь порнхабу нужна нейросеть для идентификации видео, созданных нейросетью.

Опасной дорогой идёте. Соревновательные генеративные сети — это типичный способ увеличить качество генерации.

Борьба между генерирующей и детектирующей сетью достигнет такого напряжения, что обычный человек не сможет отличить подделку от реальности, это сможет сделать только детектирующая сеть, обучавшаяся дольше генерирующей.
НЛО прилетело и опубликовало эту надпись здесь
Интересно, что распространителей подобных видео всё ещё можно привлечь к ответственности за распространения контента, защищённого авторским правом (всё, кроме пририсованного лица), не так ли?
Вообще данная проблема с faceswap, равнозначна проблеме «ножа на кухонном столе». Нож он изначально не хороший, и не плохой. Им можно нарезать хлеб, порезать колбаску, почистить картошку, все самые обычные действия. И только в руках асоциального человека он превращается в зло что может нанести вред здоровью, и даже смерти невинного человека.
А крокодиловые слезы представителей порноиндустрии в стиле «нас посчитали» выглядят как минимум двусмысленно, ведь они выполняют интимные действия, публично, на камеру, получив при этом деньги, более того осознавая что это видео будет доступно множеству заинтересованных людей. Или это испуг перед конкурентом, который сможет разрушить их песочницу? Ведь сейчас лицо, а потом возможно соберут тело, и окружающую обстановку, просто по сценарию.
«окружающую обстановку»
— если в порно в кадр попадёт техника Apple или, допустим, синтезатор Ямаха, это основание этим компаниям подать в суд за нелицензированное использование своей техники?
Если в начале всего этого непотребства добавить волшебное слово «пародия», которое в США выступает качестве юридического аналога терапевтического разрешения на допинг, то можно использовать для съемок пародию на iPhone, под музыку исполняемую на пародии синтезатора Yamaha, где один, два или более разнополых обнаженных пародиста, которые в целях пародии, пародируют половые отношения, пародируя саму идею пародии.
Как то так. (Не использовать в качестве инструкции к пародии) ;)
(Не использовать в качестве инструкции к пародии)

Но если я сниму пародию на ваш текст, то можно?
Если вы соблюдете определенные условия, такие как:
Вы должны быть резидентом США или территорий где действует юрисдикция законов США, где слово пародия разрешает использовать объекты авторского права.
Достаточно глубокий стек погружения в пародию, чтоб не вызвать ошибку «переполнение стека возврата из пародии»
Чувство юмора, как минимум действующее, чтобы понять абсурдность некоторых законов и правил.
Если вы соблюдете эти условия, то да — можно.
п.с. главное не попасть в ловушку сепулек и сепулькариев. ;) Cheers!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации