Комментарии 38
Можно и статью в УК придумать — Публичная демонстрация непромаркированного изображения, сгенерированного нейросетями.
Как эти картинки коснутся власти, так и примут закон одним днем.
Учёный и его коллега Софи Найтингейл отмечают, что средний человек не может отличить изображение реального человека от образа, созданного нейросетями.
Я бы отметил, что средний эксперт, учёный и компьютерщик обычно не могут предложить что-то полезное, но зато талантливо придумывают способы засунуть голову в песок и экспертно так сидеть.
В мире, где существуют ботнеты как сервис, фишинг как сервис, вирусы как сервис, злоумышленники явно будут страдать от того, что публичные сервисы добавят какие-то отметки на изображения или видео. Злоумышленники же безумно тупые и не могут сами ничего сделать.
Это немного напоминает ситуацию с телефонным мошенничеством, когда разные авторы начинают придумывать способы проверки, действительно ли звонят из полиции, банка, ЦБ: «А сколько звёздочек на погонах лейтенанта», «А из управления чего и по чему вы», «А в каком районе у вас офис». Эти способы не работают, они создают иллюзию, что человек может что-то проверить. Имхо, гораздо важнее понимать, что на сегодняшний день любое видео или изображение может быть фейковым, чем полагаться на ненадежные способы проверки.
Меня крайне раздражают эксперты, которые придумывают методы, создающие иллюзию безопасности, чтобы просто слегка пропиарить себя.
Истинно так.
гораздо важнее понимать, что на сегодняшний день любое видео или изображение может быть фейковым
Но на это способны только осознанные люди: или осознанно работать с информацией, или осознанно её игнорировать. Последнее - потому что не пофиг ли? Ну сказал что-то какой-то там президент - ну чё, ну и? Убиться теперь что ли? Но мы живём в обществе, в котором принято обрушивать акции компаний из-за записей в Твиттере)) Паникёры все дофига. Вот именно на такое общество все эти "эксперты" и ориентируются.
Более того, наплодив аутентификаций и подписей, это позволит системе ещё сильнее загнать в рабство простой народ. А профессиональные мошенники да, будут там процветать. Но "экспертам" то какое дело до этого?
Статус эксперта не требует глубинного понимания процессов и какой-то высокой философии. В этом контексте, можно сказать, статус эксперта вообще ничего не значит. Это просто формальный статус, позволяющий толкнуть какие-либо идеи в СМИ. А может быть там в этих идеях что угодно.
Я бы сказал проще: такие способы создают давление естественного отбора, которое приводит к ухищрению (как глагол!) скриптовых алгоритмов, используемых мошенниками.
Цифровой «Лжедмитрий 3.0» и правила идентификации.
ИМХО, намного адекватнее для всех официальных изображений генерировать сертификат, для чего дополнить соответствующие форматы. А рассчитывать что никто не создаст ИИ без водяного знака или тем более что ИИ повторит его без потери данных крайне глупо.
всех официальных изображений
Что такое официальное изображение?
для чего дополнить соответствующие форматы
Цифровую подпись уже давно придумали и реализовали.
Что такое официальное изображение?
Любое изображение, имеющее цифровую подпись того лица, к которому оно заявлено. Если изображение заявлено как изображение госоргана, то подписано подписью государства, аналогично для всех остальных кто хочет подтвердить достоверность изображения и его принадлежность.
Цифровую подпись уже давно придумали и реализовали.
И сомнений не было. Даже проверял достовернось с их помощью. Осталось рассказать этим "экспертам". Ну и возможно подсказать Twitter о возможности выдавать изображения соответствующую галочку, даже в случае когда фото было скачано локально и оттуда загружено.
Такие подписи ничего, кроме авторства не гарантируют. И то, частично — можно взять чужую фотографию и переподписать. И фотография все так же может быт сгенерирована. Конечно, это заменяет проблему подделки фотографий проблемой доверия конкретному субъекту. Но раньше фото, а особенно видео записи, обладали определенным уровнем доверия только потому, что их подделывать было очень сложно.
Так ведь и смысл в гарантии авторства. И даже не в гарантии что заявленный автор в подписи и автор фото одно лицо. А в том, что если люди увидят некое фото с общественно важной информацией, можно будет гарантировать уровень доверия, равный уровню доверия к заявленному автору. И с этой точки зрения возможность переподписи будет даже полезна.
Тут проблема, что надо тогда все камеры в каждом телефоне снабжать закрытым ключем, которым она будет генерировать сертификат. Конечно, есть способы осложнить его выковыривание оттуда, но рано или поздно ключ оттуда достанут. Или, что еще проще — подпаяют что-то вместо сенсора в камеру или вообще сфоткают распечатанное изображение в специальной студии. И будет на выходе подписанное сгенерированное изображение. Как и копирование при "пиратстве" (нелицензионном копировании на самом деле), возможность создавать информацию — ее натуральное свойство. Его законом и техническими костылями не уберешь.
Вообще, внезапное развитие генеративных нейросеток создает огромную проблему: очень скоро никаким аудио/видео данным нельзя будет верить. Что считать доказательствами в суде тогда? Показания сведетелей только? Специальные сертифицированные опломбированные камеры (начиненные взрывчаткой против вскрытия), охраняющиеся толпой автоматчиков все время? Но массово такое не применить. Только какие-нибудь суд-эксперты и будут их носить (под наздором специальной комиссии).
Речи не идёт о подписи всех изображений. Речь о сертификатах, которыми владеют именно организации, медийные лица и просто мимокрокодилы. Идея в том, что бы обеспечить людей возможностью в любой момент проверить что заявленное фото ареста Трампа действительно опубликовано СМИ или полицией. Если люди не хотят, могут не подписывать, но если подобное фото выложить, то люди могут попросить пруф. Именно таким пруфом принадлежности и предлагаю сделать подпись.
Ну так-то, эта проблема уже была и без нейросеток и она уже решена без сертификатов. Если фото выложено на сайте организации, или в ее верифицированном аккаунте в соцсети, то ясно, кем оно опубликовано. В чатиках это все подтверждается простой ссылкой на сайт.
Криптография бы тут, конечно, улучшила ситуацию, но не принципиально.
Проблема в том, что эта верификация работает только если кто-то туда смотрит. И не просто смотрит, а проверяет. Подобным людям никакие нейросети не помешают определить достоверность информации. А вот тем, кто это не делает, она позволит научиться смотреть на неизвестные фото с большим скепсисом.
Проблема в том, что эта верификация работает только если кто-то туда смотрит. И не просто смотрит, а проверяет.
Точно та же проблема и у криптоподписей. Вы часто EV сертификаты у сайтов проверяете, кому он принадлежит? А как вы себе представляете мимокрокодилов в социальных сетях, которые это будут проверять?
Что считать доказательствами в суде тогда? Показания сведетелей только?
Лично я за то, чтобы отказаться от всей этой системы вообще полностью.
Ну это так, мой личный взгляд, 95% людей его не разделит, власть этой системы в чужих умах уж слишком сильна.
От судебной системы? Или от показания свидетелей?
От судебной системы.
И чем ее заменить?
Осознанной жизнью и хорошей кармой)
Только я не предлагаю заменить судебную систему на уровне системы, как и отказаться от неё: в систему эта система как раз-таки вписывается (хотя возможны изменения судебной системы).
Отказываться от "услуг" систем могут только индивиды.
Ну, собственно, вот: когда людей будет доставать, что доказательства в судах фальсифицируемы by design, а потому суды не могут нормально работать в принципе, они смогут начать делать выводы) Сейчас тоже есть те, кто сомневается в правильности работы судебной системы. Но обычно люди ищут проблемы в других местах: предвзятые или продажные судьи, плохо сформулированные законы и т.д. Трудно осознавать, что проблемы лежат в самом фундаменте. Потенциальная фальсифицируемость доказательств поможет лишь приблизить просветление. Но сложно сказать, насколько. Всё это - про понимание ситуации со стороны самих людей.
Ну вот вы живете осознанной жизнью и стремитесь к хорошей карме. А вас сосед, допустим — нет. Что с ним делать-то в вашей системе?
Если отвечать именно на вопрос "что с ним делать", то есть закон бумеранга. Причём он работает и без желания жаждущего мести (и справедливости), и таким образом жаждущий их будет лишь очернять свою душу. Это можно без сожаления просто выбросить.
А так, если жить осознанной жизнью и стремиться к хорошей карме, то и проблем с соседом не будет, даже если он не стремится.
Это неопровержимо: никто не проводит реальных и чистых экспериментов, в которых можно удостовериться. Все могут говорить, какие они хорошие, и как по отношению к ним поступили плохо, но в своих косяках, приведших к проблемам, не признаются (а в многом из того, в чём можно признаться, тебя может поддержать общество, т.к. это делают все). Я и сам накосячил, и что-то из этого осознаю, а что-то - нет. Разобраться со всем этим можно только для себя самостоятельно, и то может быть нелегко. Максимум, с помощью друзей, искренне заинтересованных в твоём развитии. Но мне трудно представить реализацию этого на уровне системы.
то есть закон бумеранга
Это заблуждение справедливого мира. Но мир не справедлив.
Все могут говорить, какие они хорошие, и как по отношению к ним поступили плохо, но в своих косяках, приведших к проблемам, не признаются (а в многом из того, в чём можно признаться, тебя может поддержать общество, т.к. это делают все).
Это был бы мой следующий аргумент. Люди по природе своей — мудаки. Но при этом все свято верят, что они паиньки. Это естественная защитная реакция мозга. Поэтому все эти утопии не работают — они требуют от людей вести себя не по-людски.
У меня есть соображение против справедливости как концепции (и из него не следует несправедливость мира). Хотя сам я всю свою жизнь до недавнего момента был за справедливость. Вы уверены, что хотите прочесть это? ))) (Если нет, то просто так тратить силы и будоражить чужие умы не буду. А если есть спрос, то можно.)
Ну, поведение мудаков - уже их дело. Личное дело. (По ним просто жахнет закон бумеранга. А они потом пусть уже сами думают, "что же они такого сделали".) А вот задача индивидов, желающих не иметь проблем от мудаков - выстроить лучшим для себя образом своё взаимодействие с внешним миром. Чтобы поведение мудаков и оставалось их личным делом.
Это ведь всё равно приходится делать, поскольку судебные системы не помогают (а тем, кому они помогают, труднее в них усомниться - а значит, они в ещё менее выигрышном положении, хотя казалось бы).
Выглядит как идея для NFT government edition.
А преподов снабдить антиплагиат-лупой)
Средний человек может и не сможет отличить. Зато специально разработанный алгоритм сможет вполне, и без всяких водяных знаков. Возможно, что это можно сделать даже без вникания глубоко в матчасть используя другую, специальным образом натренированную нейросеть. Просто похоже ещё никто не озаботился всерьёз этим вопросом.
Ну и — на фото с Трампом посмотрите внимательно, где чьи ноги.
Как только к этому алгоритму будет открыт публичный доступ, ему конец: сделают генеративно-состязательную модель, обученную обходить именно этот алгоритм.
Так а зачем открывать доступ? Делаешь сервис по онлайн проверке, 10 бесплатно, больше по подписке, попутно рекламы можно напихать.
Злоумышленник оплатит подписку и будет учить свою генеративную сетку обходить алгоритм-детектор.
Говорите так будто это можно сделать за пару дней на домашнем ПК. Вероятно, ресурсы потраченные на такое обучение не будут оправданы. Это как со взломом паролей - взломать брутфорсом можно любой. Но не у каждого под боком есть суперкомпьютер чтобы этим заниматься. Потому в ход идёт соц. инженерия и прочие хитрости.
Вероятно, придумают что-то для борьбы с такой нейронкой. Антиплагиаты же обходят. Но это уже отсечёт 90% дешёвых жёлтых фейков, которые сейчас начали плодить всякие второсортные журналы и просто люди по приколу. Делать такие фейки станет дороже чем потенциально иметь с них профит.
Мне кажется, ситуация близка к симметричной. Если непонятно, как будет финансироваться преодоление детектора фейков, то также непонятно, как будет финансироваться сам детектор фейков.
А что тут непонятного? Спрос на детектор уже есть. Люди будут платить как за антивирусы и антиплагиаты. Тот кто первым займёт нишу и сможет обеспечить в ней высокое качество о профите может не переживать. Возможно, это будет сам OpenAI или кто-то из других создателей нейронок. Сами породили - сами и борются. Двойной профит. И ресурсы у них на начало обучения такой нейронки тоже есть.
Детектор пока не монетизирован, а генераторы уже монетизированы. Например, midjourney хочет денег. Естественно, генераторы заинтересованы в том, чтобы обходить детекторы, это повышает их качество генерации.
Сами породили — сами и борются. Двойной профит
О чём я и говорю. Ситуация симметричная, об "окончательном решении вопроса" и речи нет.
Этот метод с картинами еще могу представить. Потому что физически нанесенный знак на картине сложно будет подделать, да и не известно что дороже по итогу будет реальная картина или искусственная. Для всего остального - сомнительно.
Исследователи поясняют, что в будущем будет несложно производить видео, в которых генеральный директор объявит о значительном снижении прибыли компании, приведя к миллиардным потерям доли на рынке. При помощи таких средств можно создавать контент, где лидер страны станет угрожать военными действиям, что может спровоцировать геополитический кризис.
А может быть это наоборот хорошо? Вам не кажется что проблема как раз в том, что из-за одного твита можно обрушить стоимость акций корпорации, или спровоцировать полит. кризис? Может лучше пустить все на самотек, ничего не регулируя, тем самым сделав более устойчивыми и стабильными и рынок и международные отношения?
Эксперт предложил маркировать водяными знаками сгенерированные нейросетями результаты