Как стать автором
Обновить

Эти странные, тревожные фото говорят о том, что ИИ умнеет

Блог компании Madrobots Искусственный интеллект
Перевод


ИИ учится генерировать изображения из подписей и начинает лучше понимать наш мир


Из всех моделей искусственного интеллекта именно GPT-3 разработки OpenAI сильнее всего поразила воображение публики. Она без особых подсказок может извергать стихотворения, короткие рассказы и песни, заставляя думать, что это работы человека. Но красноречие — всего лишь уловка, которую не стоит путать с реальным интеллектом.
Разве может робот создать шедевр?
Всего голосов 51: ↑48 и ↓3 +45
Просмотры 84K
Комментарии 144

Мнение: дипфейки совсем скоро смогут сделать правду неотделимой от вымысла

Блог компании Neuro.net Обработка изображений *Искусственный интеллект Будущее здесь
Перевод
image

Искусственный интеллект, т.е. слабая его форма, дает человечеству большое количество благ, включая экономические, научные, социальные и все прочие. Но есть у ИИ обратная сторона — это дипфейки и все, что с ними связано.

Уже сейчас достаточно высококачественных подделок — якобы реальных видеозаписей политиков, актеров и других знаменитостей. Пока что специалисты могут отличить дипфейк от настоящего видео, но не за горами время, когда это может стать невозможным.
Читать дальше →
Всего голосов 14: ↑11 и ↓3 +8
Просмотры 4.9K
Комментарии 11

Deepfake: краткая история появления и нюансы работы технологии

Блог компании Neuro.net Работа с видео *Машинное обучение *Искусственный интеллект Будущее здесь

О дипфейках мы уже писали. Сейчас технологии генерации такого контента достигла очень высокого уровня. Правда, даже очень хорошо подготовленный дипфейк можно (пока еще) отличить с помощью специализированных технологий. Совсем недавно дипфейки делали для развлечений или чтобы досадить кому-то, сейчас же их начинают применять и в интересах разных компаний - телевизионных, кинематографических и т.п. Актерам уже даже не нужно лично озвучить персонажей фильмов или мультиков - технологии позволяют синтезировать любые слова и фразы, произнесенные якобы самим актером (тональность, высота голоса и т.п. синтезируется очень точно).

Правда, есть и другая сторона медали. Кроме индустрии развлечений, дипфейки используются еще и для составления фальшивых видео с участием известных людей. Это могут быть те же актеры, политики, предприниматели - да кто угодно. Комбинация ИИ-технологий с CGI-технологиями дает поистине потрясающий эффект и обширные возможности, использовать которые можно как во благо, так и в не самых законных целях. Как все это работает?

Читать далее
Всего голосов 14: ↑13 и ↓1 +12
Просмотры 14K
Комментарии 2

Итоги хакатона по синтезу речи и голосовым дипфейкам

Блог компании Наносемантика Программирование *Хакатоны Искусственный интеллект Natural Language Processing *

22-24 апреля 2022 года в Российском Технологическом Университете МИРЭА при поддержке компании «Наносемантика» прошел студенческий хакатон по разработке алгоритмов генерации голосовых фейков. В течение 3-х дней 17 команд соревновались в разработке программы, которая копирует голос конкретного человека. Под катом — подробности и результаты прошедшего мероприятия.

Читать далее
Всего голосов 3: ↑2 и ↓1 +1
Просмотры 1.2K
Комментарии 1

Новинки deep learning. Часть 2: Trusted Media Challenge, HeSeR и Tortoise-tts

Блог компании HOSTKEY Машинное обучение *Искусственный интеллект

Продолжаем обзор интересных работ в области глубокого обучения. На очереди — создание и распознавание дипфейков, плюс новый способ генерации речи по заданному тексту.

Читать далее
Всего голосов 5: ↑5 и ↓0 +5
Просмотры 1.6K
Комментарии 0

Картинкам нельзя верить. Видеоспуфинг в реальном времени

Блог компании GlobalSign Информационная безопасность *Работа с видео *Обработка изображений *Видеоконференцсвязь


Некоторые люди полагаются на зрение для распознавания личности собеседника. Это крайне ненадёжный подход, если можно подделать картинку на экране. В эпоху цифровой видеосвязи внешность, голос и поведение человека перестали выполнять функцию надёжной идентификации.

За последние годы разработано несколько эффективных инструментов для подделки видеопотока, в том числе Avatarify Desktop и Deepfake Offensive Toolkit. Таким образом, у злоумышленников появились все возможности, чтобы подделать лицо и голос произвольного человека во время звонка. Специалисты по безопасности и пользователи должны понимать, насколько элементарно выполняется такая операция.
Читать дальше →
Всего голосов 25: ↑23 и ↓2 +21
Просмотры 13K
Комментарии 20

Facebook и Microsoft запускают конкурс по обнаружению deepfake

Работа с видео *Машинное обучение *Искусственный интеллект


Facebook совместно с Microsoft и коалицией «Партнёрства по искусственному интеллекту во благо людей и общества» (PAI), а также научными работниками из нескольких университетов анонсировала конкурс на разработку технологии распознавания дипфейков (deepfake).

Как сообщается в блоге Facebook, в рамках проекта, который получил название Deepfake Detection Challenge, Facebook поручит исследователям создавать реалистичные дипфейки. После этого участники конкурса будут прорабатывать алгоритмы обнаружения deepfake. Авторы лучших получат гранты. Призовой фонд проекта — $10 миллионов.
Читать дальше →
Всего голосов 16: ↑15 и ↓1 +14
Просмотры 8.2K
Комментарии 17

ИИ не сможет защитить нас от дипфейков, утверждает новый доклад

Работа с видео *Обработка изображений *Машинное обучение *Законодательство в IT Искусственный интеллект


Новый доклад Data and Society ставит под сомнение автоматизированные решения для распознавания видео, созданных с помощью машинного обучения. Авторы исследования — Бритт Пэрис и Джоан Донован — утверждают, что дипфейки, хотя и кажутся относительно новым явлением, на самом деле являются частью долгой истории манипулирования средствами массовой информации.

Чтобы изменить ситуацию, необходимы как социальные, так и технические усовершенствования. Доверие к ИИ, по их мнению, может на самом деле усугубить ситуацию, сконцентрировав больше данных и мощности в руках частных корпораций.

«Отношения между СМИ и правдой никогда не были стабильными, — говорится в отчете. — В 1850-х годах, когда суды начали принимать фото в качестве доказательства, люди не доверяли новой технологии и предпочитали свидетельские и письменные показания. К 1990-м годам медиа-компании были замешаны в искажении событий и избирательной редактуре вечерних трансляций».
Читать дальше →
Всего голосов 12: ↑11 и ↓1 +10
Просмотры 4.6K
Комментарии 26

Google выпустила большой датасет дипфейков для борьбы с ними

Работа с видео *Обработка изображений *Машинное обучение *Искусственный интеллект Звук


Google в сотрудничестве с компанией Jigsaw (бывшей Google Ideas) выпустила обширный датасет, в который вошло более трех тысяч видеороликов, созданных с помощью искусственного интеллекта. Видеоролики исследователи добавили в другой большой проект, посвященный подмене лиц на видео, — FaceForensics++.

«Машинное обучение привело к появлению технологий, которые считались невозможными всего несколько лет назад. Сегодня можно синтезировать гиперреалистичные изображения, речь, музыку и даже видео. Эта технология создает новые проблемы. Так называемые «глубокие подделки» являются одной из них», — пишут в Google.
Читать дальше →
Всего голосов 17: ↑16 и ↓1 +15
Просмотры 4.8K
Комментарии 3

Калифорния ввела два закона против дипфейков

Работа с видео *Машинное обучение *Законодательство в IT Искусственный интеллект


Губернатор Калифорнии Гэвин Ньюсом подписал два законопроекта, касающихся дипфейков. Первый делает незаконным размещение любых видео с манипуляциями в политических целях — например, замена лица или речи кандидата для его дискредитации. Другой позволит жителям штата подать в суд на любого, кто использует дипфейк в порнографическом видео.

Дипфейки могут быть забавными, однако некоторые могут принести ощутимый вред. Например, дипфейк-видео со спикером палаты представителей конгресса США Нэнси Пелоси, на котором была изменена её речь. Создавалось впечатление, что политик была пьяна и едва выговаривала свои слова. Видео было опубликовано на Facebook, и компания не согласилась удалить его сразу, заявив, что вместо этого разместит статью-опровержение, в которой будет подчеркиваться факт редактирования речи.
Читать дальше →
Всего голосов 7: ↑7 и ↓0 +7
Просмотры 5.6K
Комментарии 5

Исследование показало, что 96% дипфейков в интернете — это порно с известными женщинами или бывшими подругами

Обработка изображений *Законодательство в IT Искусственный интеллект Видеотехника
В ноябре 2017 года аккаунт Reddit под названием deepfakes опубликовал первые в интернете порнографические видеоролики, в которых программное обеспечение заменяло лица реальных актрис лицами голливудских знаменитостей. Почти два года спустя «дипфейки» стали общим явлением и термином, который описывает любое поддельное видео, сделанное с помощью программ ИИ. Этот метод используют и для смешных видеороликов на YouTube, он также вызывает озабоченность законодателей, опасающихся политической дезинформации. Тем не менее, новое исследование говорит о том, что дипфейки в основном остаются верными своим непристойным корням.

Стартап Deeptrace провел своего рода перепись дипфейков в июне-июле 2019 года, чтобы отрекламировать свои инструменты обнаружения, которые он надеется продать новостным организациям и онлайн-платформам. Всего стартап обнаружил 14 678 видеороликов, открыто представленных в качестве дипфейков: почти в два раза больше, чем семь месяцев назад. Около 96% из них оказались порнографическими.

История дипфейков повторяют историю многих других медиатехнологий, которые получили распространение благодаря порно: от VHS до потокового вещания.
Читать дальше →
Всего голосов 19: ↑14 и ↓5 +9
Просмотры 15K
Комментарии 33

Facebook презентовала систему ИИ, которая может обмануть искусственный интеллект на видео

Алгоритмы *Facebook API *Искусственный интеллект IT-компании
image

Facebook AI Research заявила о разработке системы машинного обучения, которая не дает искусственному интеллекту определять людей по видео. На этой технологии основаны все современные системы распознавания лиц.

Разработчики утверждают, что ИИ для автоматической модификации видео не требует дополнительного обучения под конкретное видео. Как пояснил инженер-исследователь Facebook AI и профессор Тель-Авивского университета Лиор Вольф, система объединяет состязательный автокодировщик с нейросетью. Алгоритм просто заменяет лицо человека его слегка искаженной версией, а ИИ использует архитектуру кодировщика-декодера и генерирует искаженные и неискаженные изображения лица человека, которые затем можно встроить в видео. Разработка показала на видео, как это работает.
Читать дальше →
Всего голосов 13: ↑13 и ↓0 +13
Просмотры 7.3K
Комментарии 4

В Китае публикацию дипфейков отнесли к уголовным преступлениям

Информационная безопасность *Законодательство в IT
image

Власти Китая объявили любую публикацию заведомо ложной информации, в том числе дипфейков, уголовным преступлением. Соответствующий закон вступит в силу 1 января 2020 года.

Согласно новым нормам, все дипфейки нужно будет отмечать специальной пометкой, которая будет предупреждать пользователей о том, что это ненастоящая новость.
Читать дальше →
Всего голосов 12: ↑12 и ↓0 +12
Просмотры 4.9K
Комментарии 39

В Alphabet разработали инструмент для борьбы с фейковыми фото

Информационная безопасность *Обработка изображений *Искусственный интеллект Социальные сети и сообщества

Источник: Jigsaw

Компания Jigsaw, технологическое подразделение Google, выпустила инструмент под названием Assembler, который должен помочь в проверке подлинности изображений. Как указано в описании платформы, Assembler объединяет несколько методов обнаружения манипуляций над изображением, включая детектор, который определяет дипфейки, созданные с помощью нейросети StyleGAN.
Читать дальше →
Всего голосов 8: ↑8 и ↓0 +8
Просмотры 4.6K
Комментарии 10

Программист создал дипфейк с Илоном Маском в реальном времени в режиме видеоконференции

Ненормальное программирование *Обработка изображений *Машинное обучение *Видеоконференцсвязь
image

Программист Али Алиев разместил на YouTube видео, в котором он подставляет себе лицо Илона Маска и участвует в различных видеоконференциях Zoom. Он использовал открытый исходный код «First Order Motion Model for Image Animation» от специалистов Трентского университета для создания программы Avatarify.
Всего голосов 17: ↑16 и ↓1 +15
Просмотры 10K
Комментарии 7

Программист из Минска победил в конкурсе Facebook Deepfake Detection Challenge

Работа с видео *Алгоритмы *Искусственный интеллект IT-компании

В сентябре 2019 года компания Facebook запустила конкурс Deepfake Detection Challenge (DFDC), посвящённый разработке алгоритмов обнаружения дипфейков, с призовым фондом в $1 млн. Итоги конкурса стали известны на прошлой неделе. Первое место занял Селим Сефербеков, инженер по машинному зрению из Минска, работающий в белорусской компании Mapbox. 

Читать дальше →
Всего голосов 12: ↑12 и ↓0 +12
Просмотры 8.1K
Комментарии 16

Нейросеть Disney Research реалистично заменяет лица на видео

Работа с видео *Обработка изображений *Машинное обучение *


Инженеры Disney Research разработали нейросеть, которая заменяет лица на фотографиях и в видео. Замена осуществляется в полностью автоматизированном режиме. Как показано на видео (под катом), дипфейк реалистично заменяет мимику и речь в соответствии с оригиналом.

За несколько лет системы автоматизированной подмены лиц на основе нейронных сетей превратились из слегка убедительных в устрашающе правдоподобные. Благодаря новым исследованиям Disney, нейронная замена лиц готова стать высококачественным инструментом для студий визуальных эффектов, работающих над голливудскими блокбастерами. Возможно, систему могут использовать для реалистичной подделки видеозаписей в целях развлечения.
Всего голосов 8: ↑7 и ↓1 +6
Просмотры 21K
Комментарии 5

Владелец WeChat перечислил плюсы дипфейков

Работа с видео *Обработка изображений *Искусственный интеллект IT-компании

Компания Tencent разработала white paper о планах, посвящённых разработкам в области искусственного интеллекта. В документе владелец WeChat подчёркивает, что считает дипфейки не только способом обмануть людей, но и «очень креативной и революционной технологией». Компания настоятельно призывает регулирующие органы «быть осторожными» и избегать жёстких ограничений в отношении дипфейков, чтобы не упустить потенциальную выгоду для общества.

Читать дальше →
Всего голосов 9: ↑7 и ↓2 +5
Просмотры 6.1K
Комментарии 8

МТИ и Microsoft обучили алгоритм находить скрытые параллели между картинами

Алгоритмы *Обработка изображений *Искусственный интеллект
image

Команда из Массачусетского технологического института помогла Microsoft создать систему поиска изображений. Она базируется на работе алгоритма, который ищет соответствия картин разных художников.
Читать дальше →
Всего голосов 18: ↑17 и ↓1 +16
Просмотры 4.1K
Комментарии 3

Российский стартап клонирования голоса Vera Voice выходит на американский рынок

Развитие стартапа Искусственный интеллект Звук
image

Российский сервис Vera Voice объявил о запуске технологии в США. В приложения клонирования голоса Parodist теперь есть возможность создавать контент на английском языке. Пока доступны голоса 32 знаменитых личностей, в том числе Дональда Трампа, Джо Байдена, Уилла Смита и Билли Айлиш.
Читать дальше →
Всего голосов 10: ↑10 и ↓0 +10
Просмотры 3.2K
Комментарии 2
1