Привет, на связи Елена Кузнецова, специалист по автоматизации бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью о методах, с помощью которых можно выявить фальшивые изображения, созданные ИИ. Ранее мы уже писали о таком явлении, как чрезмерно реалистичные дипфейки от ИИ. И эта тема еще долго будет актуальной - продукты нейросетей все сложнее становится отличить от результатов деятельности настоящих людей. Но это вызывает определенные опасения. Предлагаю ознакомиться с методом выявления фальшивок ИИ, предложенным астрономами.
В 2024 году создание реалистичных изображений людей с помощью искусственного интеллекта стало почти тривиальным процессом, что вызвало опасения по поводу того, как распознавать эти обманчивые изображения. Исследователи из Университета Халла недавно представили новый метод обнаружения фальшивок, анализируя отражения в глазах человека. Эта техника, продемонстрированная на Национальной астрономической конференции Королевского астрономического общества на прошлой неделе, адаптирует инструменты, используемые астрономами для изучения галактик, для анализа согласованности световых отражений в глазах.
Уникальный подход
Исследование возглавила Аджемоке Оволаби, студентка магистратуры Университета Халла, под руководством профессора астрофизики Кевина Пимблетта. Их метод обнаружения основывается на простом принципе: пара глаз, освещаемая одним и тем же набором источников света, обычно имеет похожие по форме отражения света в каждом глазу. Многие из созданных на сегодняшний день изображений, сгенерированных ИИ, не учитывают отражения в глазах, поэтому симулированные отражения света часто оказываются несогласованными между глазами.
Хотя астрономический аспект не всегда необходим для такого рода обнаружения фальшивок — достаточно лишь быстро взглянуть на глаза на фотографии, чтобы заметить несоответствия в отражениях, — применение астрономических инструментов для автоматического измерения и количественной оценки отражений в глазах является новшеством.
Автоматизированное обнаружение
В блоге Королевского астрономического общества Пимблетт объяснил, что Оволаби разработала метод автоматического обнаружения отражений в глазах и провела анализ морфологических характеристик отражений, сравнивая их между левым и правым глазами. Результаты исследования показали, что у фальшивок часто наблюдаются различия между парами глаз.
Команда использовала методы астрономии для количественного сравнения отражений в глазах. Они применили коэффициент Джини, который обычно используется для измерения распределения света в изображениях галактик, чтобы оценить однородность отражений по пикселям глаз. Значение Джини, близкое к 0, указывает на равномерное распределение света, в то время как значение, приближающееся к 1, свидетельствует о сосредоточении света в одном пикселе.
Пимблетт также провел параллели между измерением формы отражений в глазах и измерением формы галактик в телескопических изображениях: "Для измерения форм галактик мы анализируем, насколько они компактны, симметричны и гладки, а также распределение света."
Конкуренция в области обнаружения
Хотя метод анализа отражений в глазах предлагает потенциальный путь для выявления изображений, созданных ИИ, он может оказаться неэффективным, если модели ИИ будут развиваться и включать физически точные отражения в глазах, возможно, применяя это на этапе после генерации изображения. Кроме того, этот метод требует четкого и близкого взгляда на глаза для своей работы.
Также существует риск ложных срабатываний, поскольку даже аутентичные фотографии иногда могут демонстрировать несогласованные отражения в глазах из-за различных условий освещения или методов постобработки. Тем не менее, анализ отражений в глазах может стать полезным инструментом в более широком наборе методов обнаружения фальшивок, который также учитывает такие факторы, как текстура волос, анатомия, детали кожи и согласованность фона.
Хотя техника показывает обещающие результаты в краткосрочной перспективе, доктор Пимблетт предостерегает, что она не идеальна. "Есть ложные срабатывания и ложные негативы; она не справится со всем," — отметил он в комментарии к Королевскому астрономическому обществу. "Но этот метод дает нам основу, план действий в гонке вооружений по обнаружению фальшивок."
Комментарий
Контент занимает очень важное место в жизни современных людей. Уже сейчас Интернет заполнен фейками в стиле “Девушка вырастила гигантскую Буклю”... И все чаще друзья и коллеги присылают мне фото и видео, по которым нельзя однозначно сказать, реальные они или сгенерированные. Приходится раскапывать первоисточники, перерыть кучу сайтов, чтобы это понять.
Сгенерированные изображения и видео - это серьезный вызов для общества. Подобные материалы в будущем могут использоваться не только в виде развлекательного контента, но и в качестве доказательной базы в судах, например. А это уже не шутки.
Поэтому развитие методов определения подлинности изображений и видео на данный момент является одним из наиболее важных направлений в сфере информационной безопасности в отношении искусственного интеллекта.
Спонсор материала - Sherpa Robotics
Sherpa Robotics – ведущий российский вендор программных решений для роботизации бизнес-процессов на предприятии с помощью программных роботов RPA и LLM.
Продуктовая линейка компании: Sherpa RPA, Sherpa Process Discovery, Sherpa AI Server.
Платформа Sherpa RPA — это экосистема, которая объединяет классических программных роботов и современные технологии искусственного интеллекта. С помощью платформы автоматизируются не только рутинные бизнес-процессы в самых разных областях, но и интеллектуальные задачи, которые до недавнего времени считались прерогативой человека.
Sherpa Process Discovery — инструмент на базе искусственного интеллекта для анализа и выявления бизнес-процессов для последующей роботизации.
Sherpa AI Server - платформа для работы с генеративными нейросетями в закрытом контуре компании.
Sherpa AI – это первая российская оффлайн платформа для использования нейросетей в корпоративной среде в закрытом контуре. Sherpa AI позволяет решать задачи с помощью искусственного интеллекта в компаниях, где политикой информационной безопасности и требованиями ФСТЭК запрещено использование облачных нейросетей.
Интеграция Sherpa RPA и Sherpa AI Server позволяет совмещать преимущества классической RPA автоматизации и технологий искусственного интеллекта при решении сложных бизнес-задач.
Ключевые преимущества Sherpa RPA
Встроенные инструменты интеллектуального распознавания сложных структурированных и неструктурированных документов из сканов, фото, PDF-файлов.
Поддержка машинного обучения и применение искусственного интеллекта для обработки естественного языка.
Нативная интеграция с популярными корпоративными системами - SAP, Oracle, Java, 1C, RDP, Citrix и другими.
Разнообразные опции разработки роботов: от полного No-Code до использования .NET, C++, C#, JavaScript, Python, PowerShell.
Мощный Оркестратор для централизованного управления роботами, сценариями, очередями, пользователями, логированием, правами, безопасностью.
Гибкая ценовая политика с возможностью неограниченного использования роботов без привязки к количеству внедренных сценариев.
Решения экосистемы Sherpa RPA включены в реестр российского ПО.
