Comments 61
А как, вообще говоря, можно определить, реальное ли это фото или ИИ?
Я бы даже сказал... если сгенерировать ИИ картинку и сфотографировать её. Это фотография или ИИ контент?
Как человек, генерирующий картинки для твиттера - по характерным для ИИ артефактам, включая цифровые шумы. ScuNET их хорошо давит, но мало кто им пользуется, и я думаю что лично я, например, все равно отличу ИИ от реального цифрового рисунка (насчёт фото не уверен).
Другой ИИ наверняка увидит ещё и что-то, чего не видит человек: не зря советуют не использовать ИИ-картинки для (до)обучения моделей - артефакты множатся.
насчет советов, это предубеждение не работающее на практике. Например, SD3 обучалась на очень большом датасете MidJourney, что они даже их сервера положили. SD3 вышла отличной, возможно лучше моделью в своем классе, если использовать API конечно...
SD3 вышла отличной, возможно лучше моделью в своем классе
Мы говорим об одной и той же SD3?
Так это кастрированная модель, выкаченная для "быдла". Написано же
если использовать API конечно...
И даже в таком виде, если не трогать nsfw и анатомию, получилась мощная модель, хорошо "понимает" промпт и может генерировать читабельный текст.
Виноват, не знаю ни о каком API... Можете дать на почитать и потестировать что-то?
может генерировать читабельный текст.
Никогда не понимал этой одержимости текстом. По нему все равно зачастую видно, что он сгенерирован. По-моему проще добавить его руками на нормально сгенерированную в SD1.5\SDXL картинку.
Пальцы посчитать :-)
С новыми моделями не очень работает, плюс нормальные "креативщики" ИИ изначально не выкладывали картинки с кривыми пальцами. ;)
Видел в интернете палец-пестень: чтобы надеть и потом в случае чего говорить: "это не я, это нейросеть нарисовала, я в этот момент вообще на работе был" Современные времена требуют современных решений.
Вполне вероятно никак, в принципе. Генератор изображения тренируется вместе с детектором сгенерированных изображений. Задача детектора, определить, что изображение сгенерированно, задача генератора - обмануть детектор.
помечает реальные фотографии, которые отредактировали при помощи ИИ-инструментов
По-моему всё честно, и метка должна быть.
По моему все честно, нынче все фотографии так или иначе прошли обработку ИИ. Даже снимок черной дыры нарисованное алгоритмами изображение. :)
Полгода назад кажется была волна, Самсунги рисовали шикарную луну в небе, вместо бледного пятна. Для реалистичности.
А мне лично пофиг, какая разница, фотография нарисованная или реальная, если выглядит реальной. Ну сделают фейк с голым торсом и приклеенной головой, ну увидит кто то, а через день уже забудется. Прошли те времена, когда это могло повлиять на чью то репутацию. Это в начале 2010-х всем еще было интересно, все эти утечки с телефонов знаменитостей, а сейчас все уже пресытились имхо.
Неужели кто то в здравом уме сегодня будет основывать свои действия по рандомному изображению найденному в интернетах?
Это в начале 2010-х всем еще было интересно, все эти утечки с телефонов знаменитостей, а сейчас все уже пресытились имхо.
Знаменитостями может быть. А вот как скажем отреагируют ваши соседи если подсунуть им сфабрикованный компромат на вас? Будут они разбираться дипфейк это или нет? И даже если будут, то осадочек точно не останется? Как отреагируют дети на сфабрикованный компромат на одноклассников или даже учителя? Коллеги на работе?
Предположу в ближайшее время возникнет спрос на подтверждение реальности сделанного снимка по умолчанию.
В каждом фотике будет подписываться каждый кадр и проверить подлинность снимка сможет любой желающий по аналогии с сертификатами ssl/tls. Например, производитель камеры будет раздавать сертификаты всем своим выпущенным устройствам. Все неподписанные кадры по умолчанию будут считаться отредактированными.
Ловите момент кому интересно.
Профессиональные фотографии без обработки в основной массе не имеют ценности.
В таком случае метка "сгенерено ИИ" висит на этих фотографиях по праву.
Почему? Если фото сделано человеком, а ИИ просто обработано? В чем принципиальное отличие от кнопки "auto" в Camera Raw или "Auto Color"? Для обработки ИИ уже давно придумали термин: "ai-assisted".
Так и рождаются проблемы https://habr.com/ru/articles/189010/ Сканеры и копиры Xerox могут менять цифры в документах при копировании
Совсем не так: ИИ бывает разный, есть например и те, которые вообще не способны менять ничего, кроме цвета. По вашей статье же проблема вообще в алгоритме сжатия от 2000 года, там ни о каком ИИ даже речи не идет.
Кроме того, в контексте профессиональной фотографии, цифры в документах являются объектом съемки примерно никогда.
Сырое, продаваемое как сырое, должно быть сырым. Иначе, например, может оказаться на скамье подсудимых человек, которому ИИ камеры наблюдения вместо авторучки в руках приделал нож.
Кто и когда "продал" вам в Интернете "сырую" фотографию?
Фотография у профессионального фотографа не существует без обработки: как минимум подвигать уровни и баланс белого в camera raw. Делаются тысячи фотографий, отбираются десятки, редактируются единицы, получается фотосет. Чтобы кто-то кому-то в Интернете просто выложил RAW-ку - я о таком даже не слышал, зачем?
UP: если же вы про любительские фотографии, то там точность тем более никого не волнует, вы такую "защиту" там не продадите, она никому не нужна, а фотографии обрабатываются смартфоном еще до сохранения, чтобы подтянуть качество того, что может смартфон, до того, что хочется видеть на хорошей зеркалке.
Значит нужна какая-то градация. Основная проблема у ИИ - далеко не техническая, а юридическая: кто отвечает за то, что сделал этот ИИ?
Условно - когда фотограф редактирует фотку, заменяя на ней всякие "малозначимые" детали, типа надписи на шлеме Гагарина во время его первого полёта (убирая СССР, добавляя USA, например) - ответственность несёт он. А когда это же делает ИИ в ответ на запрос "нарисуй мне первого космонавта" - кто будет отвечать?
Тогда таки нужна пометка "Точно не ИИ, мамой клянусь", а не так что "Алкаш" на зожнике с литром кефира в желудке
Делать цепочку сертификатов, от железа, где появились сырцы, до профессионального софта, где продуцировались различные версии сохраненных файлов, и каждое пересохранение подписывать. Наступила новая эра цифры, где никакому потоку данных нельзя доверять без цепочки сертификатов. Еще к тому же, появится новая ниша для зарабатывания денег - нужны удостоверяющие центры, которые будут выпускать сертификаты для железа и проф. софта, и это будет заложено в цену лицензии.
Охренеть. Даже интересно, кто из авторов контента подпишется на такую схему, даже бесплатно? Или это /s?
Не сарказм. Я думаю, ИИ обесценят любой контент, к которому не будет приложено подтверждения, что он основан на данных из реального мира.
Интересная точка зрения. Я думаю, что сгенерированный без человеческого вмешательства контент со временем отомрет (наиграются), а честный ai-assisted встанет в ряд с обычным.
Я бы сказал, что адаптируется, что потом под лупой не отличишь, где ai-assisted, а где чисто сгенерированный.
Качественный ai-assisted уже не отличишь, причем достаточно давно. Кто выкладывает не первую попавшуюся картинку, а работает над каждой от часа - там в целом нет очевидных ошибок, а все, что есть - можно списать на стиль (свет, пропорции, etc). Но это только digital art-а касается, за фотографии сказать не могу.
С чего бы? Скорее, наоборот. Как практически отмер театр (жив, конечно, но по количеству человеко-сеансов на порядки уступает оффлан кино и онлайн всему), как практически отмерли фотографии без постобработки (которая делается либо профи в редакторах, либо самой камерой), так отомрёт и вот этот "сгенерированный при участии человека контент" - останется для эстетов, а на два порядка больше будет сгенерированного по промптам и образцам
Контент без участия человека сейчас генерируется очень вяло, толком нет даже адекватных моделей для оценки качества результата. Я недавно как раз пытался решить задачу автоматической генерации картинок и убился об этот грустный факт. А без контроля (хотя бы автоматического) все будет завалено лишними пальцами и прочими прелестями.
Ввести промпт и отселектирвоать - это участие?
Настроить скрипт для автогенерации - это участие?
Поставить задачу "раскрутить паблик картинками с мемасиками", а дальше оно само - это участие?
Где граница?
Что до лишних пальцев, немножно экстраполируйте прогресс последних 3х лет. Совершенно не видно причин для остановки развития. В конце концов, добавить сеть-контролёра, считающую пальцы и проверяющую прочие косяки не видится проблемой уже сейчас
Не ИИ, а монетизация контента.
Щас в интернете полно "историй из жизни", который выглядят слишком качественными, чтобы быть правдой.
С картинками будет то же самое.
Да и уже есть, по большому счёту.
Делать цепочку сертификатов, от железа, где появились сырцы, до профессионального софта, где продуцировались различные версии сохраненных файлов, и каждое пересохранение подписывать.
...
Наступила новая эра цифры, где никакому потоку данных нельзя доверять без цепочки сертификатов.
Не поможет. Или поможет плохо.
Делаем сколь угодно измененную картинку, выводим ее на экран подходящего качества и фотографируем той самой насмерть облепленной сертификатами камерой. Потом утверждаем "Видите? Так оно и был - файл не редактировался ничем, там подпись только от самой камеры".
Взломают очень быстро. А ещё, что будет, если отредактированную фотографию крупно распечатать и снова сфотографировать.
Определяется это макисимально тупо - просто по определенным exif тегам в файле. Фотошоп пишет в фотку эти теги если хоть один пиксель был изменен каким-то инструментом с аи. Причем, даже не generative fill а просто новый дефолтный remove tool тоже.
А самое смешное что фотошоп добавляет эти теги и инстак втупую вешает плашку когда тот же stable diffusion никаких тегов в файл не пишет и в итоге инстак завален низкопробной генеративной херней без маркировки (особенно неприятно когда это выдается за профиль живого человека) а на настоящих честно снятых камерой фотках (если убрали пакет/столб/прохожего с фона) стоит плашка Made with AI 🤡
Немного поковырял, убираются теги очень просто одной командой:
exiftool.exe -all= -tagsfromfile @ -colorspacetags -overwrite_original photo.jpgЗато не 30 инженеров делали
Вы проверили, действительно ли одну и ту же фотографию с тегами и без Meta помечает по-разному?
Я проверял, но не на одной и той же фотографии.
Веду инстак жены как латексной модели, там две фотки из последних попало с тегами (не знал что начали отмечать, заметил только когда уже опубликовал) и на последней снес эти теги - надпись не прилепило.
Ну и, опять же, постоянно вижу в инстаке тонны контента из стейбл дифужена и он не маркирован как аи контент - так что это именно тупой эксиф а не распознавание контента на предмет аи.
Кстати, в связи с появлением огромного количества любителей автоматически искать профили в соцсетях по фото лица (ставшего, по сути, эдаким QR-кодом), вопрос: нет ли ИИ-обработчиков лиц на фотографиях, чтобы лица виделись для человеков почти такими же, а вот всякая автоматическая биометрия не могла сопоставлять?
Он полагает, что некорректное срабатывание алгоритма могло быть вызвано использованием инструмента для редактирования изображений Adobe.
Так это как раз корректное срабатывание.
Не удивлюсь если эта штука будет срабатывать на фотографии сделанные смартфоном - там по дефолту включены всякие улучшайзеры и прочая "вычислительная фотография".
Нет, мне кажется дело в том, что "нейросетки" натренированы на фотографиях, до которых смогли добраться легально. Договоры туда-сюда, фотки со стоков, обработанные до уровня "на обложку глянцевого журнала, лицо блестит как металл отполированный". Оттуда именно этим же фотографам прилетает бумерангом ответка.
Нагенеренные по образу профессиональых фотографий изображения -> тренируемся на этом как источнике ИИ -> распознаем исходный материал (проф. фото) как сгенерированный.
Потому что с телефонов никто датасеты не снимал, те наоборот будут "самыми настоящими".
Meta также неправильно помечает реальные фотографии, которые отредактировали при помощи ИИ-инструментов, включая Generative Fill от Adobe, для удаления малых объектов.
Т.е. итоговое изображение таки сгенерировано ИИ. И в чём тогда претензии?
Не сгенерировано, а отредактировано. Сгенерировано - это Stable Diffusion и прочие.
Насколько я понял, там изменён фон и убраны некоторые объекты. Это не отредактировано, это сгенерированно на основе оригинального изображения.
В чем принципиальное отличие от Spot Healing Tool, доступного в Photoshop с 2002 года?
Без понятия, я не специалист по фотошопу. В моём понимании фотография "отредактирована", когда на ней делается цветокоррекция, правится ББ, искажения объектива и вот это вот всё. Когда на фото не появляются вещи, отсутствующие в кардре при съёмке или не исчезают присутствовавшие. Если появилось то, чего не было или пропало то, что было, это уже не фото, это производное произведение на основе изначального фото.
В моём понимании фотография "отредактирована", когда на ней делается цветокоррекция, правится ББ, искажения объектива и вот это вот всё.
Нет, фоны на фотографиях меняются часто, как и текстуры объектов (например, дешевых пропов, чтобы не выглядели такими игрушечными), свет; а в предметке еще и нередко убираются подпорки, нитки и прочее, если использовались.
Съемка не обязана быть документальной: более того, она почти никогда ей не является.
Что нет? С чего вы решили, что ваша точка зрения лучше/правильнее моей? И где я писал, что обязана? Просто нужно как-то по-другому это называть, если на снимке у девушки убрали подпорки, сменили текстуру кожи, удалив прыщи, увеличили грудь и поместили на задник Челябинск.
И совершенно пофиг, кто это сделал, человек в фотошопе или ИИ, результат для меня одинаковый - это изображение сгенерированное по фото. Ничего плохого в этом нет, кстати, я двумя руками за такие работы, часто просто снос башки получается. Только давайте называть вещи своими именами.
Что нет? С чего вы решили, что ваша точка зрения лучше/правильнее моей?
Я не оцениваю вашу точку зрения, я просто пишу о том, как устроена индустрия.
Вы можете поинтересоваться мнением профессиональных фотографов, они вам скажут тоже самое. У меня область смежная: видео. Фотографии и видео без обработки обычно не представляют ценности, если только это какие-то семейные фотографии на смартфоне от своих и для своих. Выкладывать необработанное фото - это как выкладывать необработанную генерацию Stable Diffusion: тут не то лезет, там не то проскакивает. Так еще делают разве что ценители пленочных фотоаппаратов, наверное, но там своя атмосфера.
Т.е. итоговое изображение таки сгенерировано ИИ. И в чём тогда претензии?
Поэтому нет, обработанное в фотошопе фото не "сгенерировано ИИ" - просто по определению, потому что это фото сделано и обработано, у него есть исходный RAW. А Instagram лепит плашку просто за наличие метки в EXIF, как уже упомянули выше. В то время как реально сгенерированные от начала и до конца изображения этой метки не имеют. В этом и претензии.
Вы не читаете то, что я вам пишу. Какая разница, как устроена индустрия?
Выкладывать необработанное фото...
Никто не призывает выкладывать необработанное фото, просто не надо рисование поверх фото обработкой называть.
Поэтому нет, обработанное в фотошопе фото не "сгенерировано ИИ"
Это ваша точка зрения, у меня она другая.
А Instagram лепит плашку просто за наличие метки в EXIF, как уже упомянули выше.
Это плохо, нужно вырабатывать какие-то другие критерии.
В то время как реально сгенерированные от начала и до конца изображения
SD генерит изображения на основе других изображений. Точно так же, как генерит их тот, кто в фотошопе фон вырезает и что-то пририсовывает с другой фотографии, а текстуру с третьей. Только исходных изображений у SD гораздо больше, вот и всё. Не вижу причин, почему бы не помечать и то и другое.
Когда появилась эта ваша цыферковая фотография, я поднимал вопрос на одном говенном фотосайтике, о изначальной недостоверности цыфрофото, однако, меня подняли на смех. Хотя и в аналоге хватает дипфейков, но , все же, это сделать в аналоговом процессе,труднее, нежели чем с ЦФ, где изначально отсутствует физический исходник- и следовательно, можно все подвергнуть справедливому сомнению.
Алгоритмы Meta* стали ошибочно помечать реальные фотографии как сгенерированные ИИ