? ? ? - ИИ vs ИИ.

В современном мире уже не отличишь изображение, сгенерированное Midjourney, от настоящего. И как же не стать жертвой шантажа?

Для решения проблемы исследователи из MIT разработали технологию PhotoGuard, которая вносит в изображения незаметные искажения, затрудняющие манипуляции с ними. 

PhotoGuard использует две "атаки":  

• "кодирующая" атака направлена на скрытое представление изображения в модели ИИ, заставляя модель воспринимать изображение как случайную сущность. 

• Более сложная "диффузионная" атака оптимизирует искажения так, чтобы они максимально походили на целевое изображение.

Несмотря на то что PhotoGuard открывает широкие возможности для защиты от манипуляций с изображениями. Требуется сотрудничество всех заинтересованных сторон, включая разработчиков моделей, платформы социальных сетей и политиков. 

Хотя PhotoGuard не является полным решением, он представляет собой шаг к защите от несанкционированных манипуляций. Проблема заключается в создании надежных средств защиты, способных противостоять будущему развитию технологий ИИ. Для решения этой актуальной проблемы необходим совместный подход, позволяющий найти баланс между потенциальными преимуществами и защитой генеративных моделей.

Наш Telegram канал.