Семь крупных IT-компаний (OpenAI, Microsoft, Google, Meta*, Amazon, Anthropic и Inflection) взяли на себя обязательство разработать технологию, позволяющую наносить водяные знаки на контент, созданный искусственным интеллектом. Разработчики и регуляторы рассчитывают, то эта мера поможет сдержать распространение дипфейков и дезинформации.
Как следует из сообщения в блоге OpenAI, компании согласились «разработать водяные знаки для аудио- и визуального контента», а также «инструменты или API для определения того, был ли конкретный фрагмент контента создан с помощью ИИ».
Такие инструменты будут применяться к большинству ИИ-контента за редкими исключениями, такими как голоса виртуальных помощников. Пока неясно, как именно будут работать водяные знаки, но, скорее всего, они будут встроены в контент, чтобы пользователи могли проследить его происхождение.
Google заявила, что в дополнение к водяным знакам она также интегрирует метаданные и «другие инновационные методы» для подтверждения достоверности информации.
Компании взяли на себя также ряд других обязательств. В частности, они пообещали проводить как внутреннее, так и внешнее тестирование ИИ-моделей перед их выпуском. Они также заявили, что будут больше инвестировать в кибербезопасность и делиться информацией с отраслью, чтобы снизить риски от ИИ начиная с предвзятости и заканчивая использованием ИИ при разработке оружия. Белый дом, в свою очередь, взял на себя задачу создания и ведения национального реестра, куда будут заноситься ИИ-системы с высоким уровнем риска.
*Meta Platforms признана экстремистской, её деятельность запрещена на территории РФ.
