А много ли дроны дают молока? Приёмы обратной разработки в звуковом дизайне

  • Tutorial
Статья является попыткой разобраться, можно ли передавать опыт обратной разработки в звуковом дизайне средствами выразительности русского языка.

Как-то раз, читая музыкальные форумы, я наткнулся на тему с обсуждением саунд дизайна в фильме Обливион. Людей интересовал процесс создания звуков дронов. Так как ответов по существу, спустя несколько недель, в той теме так и не появилось, а в официальном видео была одна вода, я решил попробовать найти ответ самостоятельно, применив методы обратной разработки.

В качестве референса была выбрана первая сцена с участием дрона (на 12-й минуте фильма), с которой можно ознакомиться на Ютюбе. После нескольких часов работы я смог получить следующий результат:



Подготовка


Весь цикл разработки можно поделить на следующие этапы:

  1. Поиск любой дополнительной информации по теме
    • видео из студий, занимавшихся озвучкой фильма
    • интервью с создателями
    • обсуждения на специализированных форумах (вдруг кто-то уже во всём разобрался и мы изобретаем велосипед)
    • технические статьи на смежные темы
  2. Анализ оригинала
    • визуальный анализ формы волны, спектрограммы и т.п.
    • составление списка всех используемых в сцене звуков
    • описание каждого звука в технических терминах (тембр, спектр, тип синтеза, слои, артикуляция)
    • составление списка ассоциаций для каждого звука (предметы, эмоции)
    • группировка родственных звуков (чтобы избежать повторных действий)
  3. Выбор подходящих инструментов
    • спектральный анализатор
    • аудио редактор
    • синтезатор
  4. Синтез
    • собственно синтез
    • дополнительное звуковое оформление

Анализ оригинала


Первым делом, с помощью ffmpeg я вырезал из фильма 30-секундную референсную сцену и сохранил её в виде аудио файла, который импортировал в основной хост для удобного A/B сравнения в процессе работы. Затем, используя SoX, сделал крупноформатные (2000x2000 пикселей) спектрограммы каждого аудио канала. Несмотря на то, что большую часть работы со спектром я провожу в Adobe Audition, где есть свой спектральный редактор, спектрограммы SoX позволяют быстро получить представление о звуковой картине в целом и о наполнении каждого из 6 каналов 5.1 звука.

image
Спектрограмма оригинального 5.1 звука сцены в Adobe Audition

Так как выбранный мной эпизод довольно статичен, основные звуки находятся в центральном канале, что подтверждает и спектрограмма. Это значительно облегчает дальнейшую работу. С помощью ffmpeg экспортирую центральный канал и открываю его в аудио редакторе.

image
Волновой и спектральный режимы отображения звука центрального канала

Как правило, режим просмотра формы волны помогает при анализе простых звуков, а основная информация, которую мы можем с его помощью получить — в какой момент появляются звуки, какова их амплитуда и продолжительность. В случае же с комплексными сценами, в которых присутствуют фоновые шумы и многослойные элементы, можно смело переключаться в спектральный режим.

В двух словах о разнице между волновым и спектральным режимами: в волновом режиме звук представлен в двухмерном пространстве XY, где Х — ось времени, а Y — амплитуда колебания волны в дБ. Спектральный режим позволяет видеть звук в трёхмерном пространстве XYZ, где X — время, Y — диапазон частот в Hz, а Z — интенсивность (громкость) сигнала, которая задаётся цветом, по принципу: чем громче звук — тем ярче цвет.

Разберём первые 6 секунд сцены. Так выглядит её спектр:

image

После внимательного прослушивания сцены и исследования спектрограммы можно выделить следующие звуковые элементы:

image

Разбиваем их на логические группы:

image

Получаем следующий список:

  1. Лай собаки
  2. Барабанная дробь
  3. Высокочастотный звук активации дрона
  4. Звук работы сервомеханизма
    a. Высокочастотный шум (дополнение к 5a)
    b. Высокочастотный шум (дополнение к 5b)
    c. Звук фиксации сервомеханизма (дополнение к 7)
  5. Сигнал
    a. «Вопрос»
    b. «Ответ»
  6. Низкочастотный сигнал (дополнение к 7)
  7. Сирена
  8. Звук работы двигателя
  9. Фоновый широкополосный шум (звуки окружающей среды, ветер, песок и т.п.)

Это наша звуковая карта. Напомню, что карта != территория. В данном случае это моё субъективное видение звукового наполнения сцены. У другого человека карта и группы могут получиться иными. И в этом нет ничего плохого, важно понимать, что от того, насколько правдоподобно и детально мы прорисуем карту, будут зависеть наши дальнейшие действия и конечный результат.

Итак, карта. Лай собаки и барабанная дробь не имеют отношения к дрону, поэтому сразу перейдём к пункту 3.

image
Спектрограмма звука активации дрона

По спектрограмме видно, что начало этого звука умещается в диапазоне от 5000 до 10000 Гц и потом линейно переходит в диапазон от 6000 до 12000 Гц. Это значит, что мы можем синтезировать статичный звук, со спектром, как в начале звука активации, а потом, с помощью автоматизации, плавно изменить высоту тона, до состояния в конце звука активации. Само звучание этого элемента имеет тональные характеристики и в спектре, среди шума, просматриваются отдельные полоски гармоник. Можно предположить, что изначально это был богатый гармониками сигнал (например, пилообразная волна), который обработали полосно-пропускающим фильтром (с полосой пропускания 5000-10000 Гц). Попробуем повторить этот процесс.

Синтез


Синтезетор U-HE Zebra известен среди музыкантов и саунд дизайнеров не только своим наводящим тоску внешним видом, но и очень гибкой модульной организацией, а так же большим количеством уникальных эффектов, которые позволяют создавать звуки практически любой сложности. Известный саунд дизайнер Howard Scarr использовал Зебру для создания звуков к «Inception», «The Dark Knight», «The Dark Knight Rises» и многим другим фильмам.

image
Синтезетор U-HE Zebra. Пресет звука активации дрона

Логика пресета на скриншоте выше проста: к осциллятору OSC1, генерирующему пилообразную волну, применяются эффект Wrap (для обогащения спектра дополнительным гармониками и шумом) и Bandworks (полосный фильтр, который удаляет из спектра всё, кроме диапазона 5000-10000 Гц). Высота тона OSC1 (Tune) изменяется во времени с помощью огибающей MSEG1. В конце цепочки обрезной фильтр (VCF1) срезает частоты выше 10000 Гц, с которыми не справился Bandworks, а так же слегка уплотняет звук резонансом (Res) и сатурацией (Drive). Весь процесс звукообразования можно представить в виде цепочки модулей:

OSC1 -> Wrap -> Bandworks >>> MSEG1 >>> VCF1 -> Res -> Drive >>> Envelope 1

Последний модуль в списке — это т.н. ADSR-огибающая, которая в нашем случае управляет изменением общей громкости.

В результате этой операции получаем:

image
Сравнение спектра исходного (A) и синтезированного (B) звуков активации

Скачать MP3 пример с Google Drive
Плеер

Синтез механизмов


Синтез сервомеханизмов — это отдельная тема и я не буду подробно рассматривать её в этой статье, так как в оригинальной сцене для озвучки этих элементов скорее всего применялись записанные сэмплы. Скажу только, что звук работы любого механизма состоит из трёх фаз: включение, работа, выключение. Звук работы представляет из себя зацикленный короткий фрагмент, который повторяется до тех пор, пока не наступает фаза выключения. Повторение зацикленного фрагмента с частотой выше 20 раз в секунду выводит эту (несущую) частоту (колебаний) в слышимую человеком область. То что мы слышим в такой ситуации называется дроном. К дронам, например, относятся звуки работающих вентиляторов, двигателей машин и станков, дрелей, электробритв, жужжание насекомых и т.д… Дроны (как впрочем и любые другие звуки) бывают музыкальными (когда можно определить высоту основного тона, то есть тональность) и атональными (тональность определить сложно или невозможно). В случае с летающим дроном в нашей сцене, мы имеем дело с работающим двигателем в момент разгона, то есть это атональный дрон, несущая частота которого постепенно повышается. На скриншоте с группами этот звук отмечен цифрой 8, а синтезируется он по тому же принципу, что и предыдущий элемент. В спектрограмме выбираем место, где хорошо просматриваются все гармоники, записываем их частоты в этой точке времени и воссоздаём с помощью одного или нескольких осцилляторов синтезатора. После чего автоматизируем изменение высоты тона, имитируя разгон. Поскольку в нашей сцене звук двигателя не играет существенной роли, я не стал воспроизводить его во всех деталях, а быстро накидал пресет для Зебры, чтобы продемонстрировать саму идею:

image
Пресет звука двигателя

image
Спектрограмма синтезированного звука двигателя

Скачать MP3 пример с Google Drive
Плеер

Синтез сирены


Идем дальше. Тембр сирены выделяется из звуковой палитры дрона в первую очередь наличием характера. Он не похож на остальные холодные электронные пищалки и гуделки. Это звук, который однозначно сулит приближающиеся неприятности тому, кто его слышит, он как бы намекает, что что-то, кажется, пошло не так (и это будет катастрофа).

image
Спектрограмма сирены из фильма

Это богатый гармониками звук, в гармониках просматривается лёгкая вибрация с нефиксированной частотой, что характерно для звуков живой природы. Сирена напоминает крик человека или животного и по тембру похожа на что-то среднее между звуками А, У, Ы, что подтверждает версию о том, что это живой звук. Сначала я подумал, что звукорежиссёры, работавшие над фильмом, наверняка читали Филипа Дика и, возможно, решили использовать в качестве источника этого звука блеяние овцы — своего рода, пасхальное яйцо. Но поискав овец на freesound.org, я пришёл к выводу, что голоса у них слишком высокие и поэтому нужно искать животное покрупнее, но с похожими голосовыми характеристиками. Первый же сэмпл мычащей коровы оказался тем, что я искал.

Применив к этому мычанию эффекты time stretch, distortion и слегка подправив высоту тона, получаем следующее:

Скачать MP3 пример с Google Drive
Плеер

Добавляем низкочастотный сигнал (6) и реверберацию:

Скачать MP3 пример с Google Drive
Плеер

Сравним спектр сирены из фильма и финальную версию нашей коровы:

image

Синтез сигналов


Все три элемента 5a, 5b и 6 — интервалы, сыгранные одним или тремя похожими инструментами, в тембре которых, прослеживаются признаки, характерные для FM-синтеза. Звук так же напоминает сигналы DTMF. Эти моменты определяются без анализа спектрограмм, просто на слух, как и сами интервалы: для 5a это тритон вверх, для 5b — квинта вниз, для 6 — кварта вверх. Далее, поэкспериментировав с FM осциллятором в Зебре, довольно быстро получаем похожий звук.

image

Скачать MP3 пример с Google Drive
Плеер

Осциллятор OSC1 генерирует синусоиду, которая задаёт основной тон. OSC2 и FM-осциллятор FMO1 находятся в диссонансе друг с другом и с OSC1 (то есть их частоты не кратны частоте тона OSC1), что в результате даёт этот напряжённый звук, чем-то похожий на сирену или милицейскую крякалку.

Фон


Фоновые шумы относятся, наверно, к самой недооцениваемой большинством людей информационной составляющей звуковой картины. Впрочем, то же верно и для фона во всех остальных сферах жизни. В своё время, появление такого жанра как пейзаж, стало революцией в живописи, шаблон обывателя рвался при виде картин, где не было основного действующего персонажа. Сегодня все знают как выглядит Мона Лиза, но далеко не все могут вспомнить, что изображено за её спиной, сидит ли она у открытого окна или, может быть, стоит в чистом поле. И тем не менее, если фон убрать совсем, это сразу бросается в глаза. Та же история и со звуковым фоном. Если его нет, сцена теряет реализм, атмосферу и смысловую нагрузку. Звуковые события происходят в… «нигде». Поэтому, чтобы оживить звук нашей сцены, я подобрал на freesound.org подходящий для неё эмоциональный фон.

Финальная версия со всеми свистелками и гуделками:

Скачать MP3 пример с Google Drive
Плеер

В заключение


Когда я задумал эту статью, я планировал описать процесс создание всех звуков, которые есть в финальной версии. Но судя по количеству воды, которую я тут развёл, даже до этого абзаца, скорее всего, добрались немногие. Привет! Спасибо, что дочитали до конца.

Ссылки


FM-синтез (Википедия)
DTMF (Википедия)
ADSR-огибающая (Википедия)
Сэмпл коровы
Сэмпл окружающей среды
Сэмплы сервомеханизмов из финальной версии [1], [2]
Howard Scarr
U-HE Zebra

Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.

Нужен ли на Хабре встроенный плеер аудио файлов?

Поделиться публикацией

Комментарии 12

    +2
    Лично у меня упал Сафари на прослушивании ролика. Видимо от испуга :)
      +13
      Потрясающе. Мне всегда было интересно, как обстоят дела с обратной инженерией в индустрии звука и видео, от части мое любопытство было удовлетворено. Больше таких статей, больше.
        0
        Очень интересный и грамотный звукоряд у фильма, как звуки природы и техники, так и музыка.
        Спасибо за отличную статью!
          0
          Мне кажется, этот эффект (непонятное пугающее низкочастотное что-то) впервые появился в серии Mass Effect, по крайней мере начал обращать на него внимание в фильмах именно после прохождения третьей части. Если интересно, посмотрите пожалуйста видео на ютубе по запросу «mass effect reapers sound».
            +2
            Да, в Mass Effect звук из той же смысловой группы. Тип синтеза другой — гранулярный, поэтому исходник там особой роли не играет, это может быть и синтетический звук. Важно, что все эти звуки — с интонацией , т.е. с характерным изменением тона. У интонации бывают разные функции, но у звуковых эффектов в фильмах и играх это как правило экспрессивная функция, с её помощью передаётся определённая эмоция. В нашем случае — тревога. Вот ещё подобный звук из «Войны миров»: www.youtube.com/watch?v=jzY099ihULs
            +11
            Достаточно старое но тоже занимательное видео про реставрацию Prodigy.
              –1
              Просто представил, как было бы круто проигрывать ваш звук двигателя при нажатии на кнопку питания компьютера. Попробовать что ли реализовать как-нибудь :)
                0
                Почему-то в вашей сирене угадывается корова… Причем настолько угадывается, что мысль о сирене даже не приходит в голову.
                  0
                  Согласен. Я мало над ней поработал и не пытался скрыть, что это корова. В результате: не та интонация и несколько другой тембр. Мой косяк.
                  0
                  Хотел сказать что довольно простые в генерации звуки — это Вам не Prodigy восстановить.
                  В том смысле, что можно в простом пакете FLStudio нарисовать это.
                    +1
                    Я мечтал о такой статье!
                      –1
                      Передаю спасибо и + от paulwide

                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                      Самое читаемое