? ? ? - ИИ vs ИИ.
В современном мире уже не отличишь изображение, сгенерированное Midjourney, от настоящего. И как же не стать жертвой шантажа?
Для решения проблемы исследователи из MIT разработали технологию PhotoGuard, которая вносит в изображения незаметные искажения, затрудняющие манипуляции с ними.
PhotoGuard использует две "атаки":
"кодирующая" атака направлена на скрытое представление изображения в модели ИИ, заставляя модель воспринимать изображение как случайную сущность.
Более сложная "диффузионная" атака оптимизирует искажения так, чтобы они максимально походили на целевое изображение.
Несмотря на то что PhotoGuard открывает широкие возможности для защиты от манипуляций с изображениями. Требуется сотрудничество всех заинтересованных сторон, включая разработчиков моделей, платформы социальных сетей и политиков.
Хотя PhotoGuard не является полным решением, он представляет собой шаг к защите от несанкционированных манипуляций. Проблема заключается в создании надежных средств защиты, способных противостоять будущему развитию технологий ИИ. Для решения этой актуальной проблемы необходим совместный подход, позволяющий найти баланс между потенциальными преимуществами и защитой генеративных моделей.
Интересно о науке и технологиях!
Самые интересные новости финансов и технологий в России и мире за две недели: Флорида пытается через суд притормозить OpenAI, из РФ запретили вывозить много налички, Китай включил экспортный контроль за своими AI-спецами, Anthropic подали заявку на IPO, OpenAI запустил агентов-точечек, но отложил новую GPT-6.1 Astra из-за проблем с безопасностью, а Google тоже не спешит выпускать Gemini 4 Argon.
