Microsoft провела исследование: насколько люди хорошо распознают изображения, созданные ИИ

[elektrovenick]

Так ведь нужна ещё одна метрика: сколько раз ошиблись, сколько раз назвали реальность - нейронкой. Люди могут видеть нейронку там, где её нет. Даже в фотографиях 10 летней давности

Подобное можно встретить и на хабре с текстами, каждый первый текст могут считать нейронкой, а комментаторов - ботами

[Zara6502]

опасность представляют не дипфейки или сгенерированные картинки, а заведомо необразованное общество склонное истерить по любому поводу когда на утюге появляется какое-то sms.

[SadOcean]

Нужно понимать, что методы "определения того, что изображение сгенерировано" как и "обработки картинок, чтобы человек их распознавал, а ИИ модели - нет" - это временные решения, которые базируются на особенностях текущих архитектур. В пределе, если задаться такой задачей, вероятно можно добиться полной неразличимости.

[NeriaLab]

Всегда узнаю: волосы, блеск кожи, поры - если на изображении человек

[TemaAE]

А как определяете, что всегда?
Все изображения, на которые вы смотрите, сопровождаются разметкой?

[NeriaLab]

Покажите мне хоть одну сгенерированную картинку, на которой скажу - "Упс... Извиняюсь, да... не понял, что она не настоящая". Дьявол кроется в деталях и именно детали на сгенерированной картинке сразу бросаются в глаза

[bfDeveloper]

Исследование больше говорит об отсутствии навыка и избирательности у испытуемых, нежели о качестве нейросетевой генерации. То, что у инструментальной проверки точность 95% косвенно подтверждает эту гипотезу. Я очень редко встречаю изображения, которые не могу сразу определить. Чуть больше ошибок, когда реальное фото может быть воспринято как ИИ, но никак не 50%

[GarantexAi]

По мере роста качества технологий генерации изображения и анимации, обязательно будут появляться детекторы для определения реалистичности фотографии, вопрос лишь в том, какая из сторон будет наиболее качественной, ведь зная механику детекта, при желании можно выстраивать алгоритмы генерации таким образом, чтобы ее обходить. Достаточно интересно, как развернется эта ситуация через пару лет)

[old_bear]

Проблема не в тех ИИ-изображениях, которые трудно распознать, а в откровенном, простите мой французский, ИИ-говнище которое льётся из всех щелей.
И самое печальное, что постепенное улучшение средне-больничного качества генерации тут не особо помогает. Поскольку всегда же можно типа сэкономить времени и/или денег и использовать самую убогую сетку с примитивнейшим промтом и без какой-либо проверки результата.
Если раньше за подобное отношение к своей работе дизайнеров, верстальщиков, редакторов били ногами, то теперь же у всех оправдание: "это не я говнодел, это ИИ сгенерил".