Создание игровых 3D-моделей «для бедных»: путь инди

https://www.endofsun.com/2018/12/28/from-old-to-young-how-we-create-scanned-characters-with-one-camera/
  • Перевод
Вы когда-нибудь задумывались о том, как работает небольшая инди-студия, занимающаяся разработкой видеоигр?

Создавать игры с очень маленьким бюджетом можно, но для этого необходима смекалка, много труда и ещё больше любви к своему делу.

Мы — небольшая команда из Польши. Нас всего три человека, но полный рабочий день занимаются проектом всего двое.


Сегодня мы расскажем о процессе создания персонажей для нашей игры «The end of the Sun». Имейте в виду, что показанные в статье скриншоты взяты из проекта, который пока находится в разработке.

Этот текст посвящён только статичным элементам персонажей: мы расскажем, как сканировали персонажа и одежду, как создавались дополнительные элементы, а также о том, как мы настроили движок Unity, чтобы получить такие скриншоты:







Но начнём с начала. Прежде чем приступать к работе, мы подготовили список свойств, необходимых нашим персонажам:

  1. 80% элементов нашей игры сканируется с помощью фотограмметрии. Кроме того, мы хотели придать нашим героям человеческий внешний вид, поэтому решили сканировать лица людей.
  2. Красивые волосы, совместимые с игровым движком Unity.
  3. В нашей игре можно будет встретить одного и того же персонажа в разные периоды его жизни. Что это значит? Нам нужно было создать целых четыре версии персонажей для каждого периода (ребёнок, подросток, взрослый, пожилой). Поэтому нам важно было найти способ как можно более быстрого создания пожилых версий персонажей.
  4. Чтобы подчеркнуть у персонажей славянский внешний вид, типичный для тех мест, где мы живём, также была отсканирована традиционная народная одежда.
  5. Некоторые элементы, которые не существуют в реальном мире или невозможно отсканировать, мы создавали вручную стандартным способом (3D-моделированием).
  6. Каждый элемент персонажа можно включать или отключать. Что это значит? Например, мы можем заменить юбку персонажа, снять шляпу, если она не нужна. Это даёт широкие возможности по созданию нового внешнего вида — в одной катсцене герой может быть без рубашки, во второй — полностью одетым.
  7. Наши персонажи неинтерактивны, то есть игрок не может ими управлять (по крайней мере, напрямую). Но это игра об их истории, поэтому нам очень важно иметь возможность управления всем персонажем с движением лицевых мышц (об этом подробнее будет рассказано в другом посте).


В статье мы расскажем только об одном персонаже в молодом и пожилом состоянии, потому что в нашей игре очень важен сюжет и мы не хотим портить удовольствие игрокам.

Итак, составив список, можно приступать к работе над графикой.

1. Фотограмметрия лица и подготовка трёхмерного тела



Актриса в процессе фотограмметрии.

Фотогра… что?

Мы начали со сканирования лица нашей модели с помощью метода фотограмметрии. Это тема для отдельного поста, но немного подробнее о нём можно узнать на нашем youtube-канале.

Обратимся к Википедии:

Фотограмметрия — научно-техническая дисциплина, занимающаяся определением формы, размеров, положения и иных характеристик объектов по их фотоизображениям.

Другими словами: фотограмметрия — это способ восстановления 3D-глубины по нескольким фотографиям (или множеству снимков) для создания трёхмерной виртуальной модели, выглядящей как объект в реальном мире.

В крупной AAA-студии с большим бюджетом для сканированимя персонажа используется множество камер. Они располагаются вокруг актёра и делают кучу снимков примерно в одинаковое время…

… Но что если у нас есть только одна камера?

Да, здесь возникает проблема, и как же мы её решили? Сканы, созданные таким образом, будут хуже, чем при работе со множеством камер, но этого достаточно для нас, чтобы создать базовую форму лица и запечённую высококачественную текстуру. Это «инди-способ» создания фотограмметрии.


Мы сделали множество попыток, поэтому вот советы по созданию снимков только одной камерой:

Актёр или актриса не должны двигаться, пока вы не закончите делать снимки лица. Они не могут даже моргать и дышать. (Съёмка обычно занимает около 10-20 секунд, но этого всё равно сложно добиться)

Нам приходилось очень быстро делать снимки с разных сторон актрисы. Для этого мы использовали режим серии фотографий (burst mode). Иногда возникали проблемы с фокусировкой, но так снимки сделать быстрее всего, чтобы актриса оставалась неподвижной.

Лучше посадить актёра на кресло с подлокотниками, так проще сидеть неподвижно.

Мы делали снимки только с передней части актрисы. На скриншотах можно увидеть фотографии и сзади, но в финальном скане мы их не использовали. В целом для создания скана необходимо всего 8-10 хороших фотографий спереди.

Хорошо также использовать с камерой поляризационный фильтр, потому что он уменьшает засветы на коже, что улучшает форму модели и текстуру.

Для такой схемы используйте не менее четырёх софтбоксов, чтобы улучшить текстуру и снизить объём постобработки.

Используйте как можно более высокую скорость затвора, чтобы избежать размытия в движении, а также как можно меньший размер диафрагмы (я имею в виду f.5 и выше), чтобы получать на фотографиях широкий диапазон фокусировки. Именно для этого нужны как минимум четыре очень мощных софтбокса. Разумеется, ISO должно быть как можно меньше, чтобы избежать шума.

Для анализа фотографий и создания модели мы использовали ПО Photoscan 3D. Вот как выглядит облако точек после обработки фотографий:


Облако точек и визуализация схемы расположения фотографий.

Как видите, здесь есть фотографии сверху и снизу персонажа, но сейчас я могу сказать, что мы не рекомендуем их делать. Гораздо лучше сделать примерно 8-12 хороших фотографий передней части лица (дуги от левого до правого уха). Это даёт намного более качественные результаты для текстуры и модели. Единственный недостаток в том, что шею модели нужно создавать вручную, но это небольшая проблема.

После создания облака точек мы перерабатываем его в трёхмерную высокополигональную модель:


Уже выглядит лучше, правда? Но на 3D-модели видно много шума:



Он возникает по следующим причинам:

— Размытие движения при очень быстром создании снимков

— Микродвижения нашей актрисы (да, даже перемещение лица на 1 миллиметр приводит к подобному шуму)

Большинство из вас наверняка думает, что это выглядит ужасно, и вы правы. Именно поэтому мы сделали ещё несколько шагов.

Теперь можно сделать операцию под названием «ретопология». Это техника создания 3D-модели более простой и оптимальной формы на основе высокополигональной модели.

Вот как это выглядит на практике:


Ретопология персонажа.

Это делается потому, что показанная выше модель содержит более миллиона треугольников. Обычный компьютер для работы с частотой кадров 30-60 fps способен обрабатывать 5-6 миллионов. (Эта информация даётся просто для общего понимания, на самом деле, на производительность влияет множество других аспектов.) То есть в игре может отображаться всего несколько моделей с таким количеством треугольников.

Ещё один важный аспект ретопологии — это создание гладкой модели лица, готовой к лицевой анимации. Для выполнения ретопологии мы используем ПО Topogun 2.

Вот наша модель лица после ретопологии (мы отполируем её позже, после текстурирования):


Затем мы запекли (в сленге 3D-графики это означает просто подготовку/создание) текстуру лица с помощью наших фотографий, Эта операция выполняется почти автоматически. Именно поэтому мы решили использовать фотограмметрию — модель лица и хорошая текстура делают наш персонаж естественным.


Хм, тут ещё многое предстоит сделать — как видите, в текстуре есть небольшие ошибки. Ещё одна небольшая проблема заключается в отсутствии задней части головы и глаз.

Поэтому следующим этапом будет создание неотсканированных элементов и элементов, которые невозможно отсканировать, например ресниц, волос, глаз. Поэтому давайте узнаем, как это делается. Мы используем ещё один программный пакет под названием Cinema 4D. В этом ПО мы можем создать остальные части модели и усовершенствовать её текстуру.



Отлично, выглядит намного лучше. Прежде чем мы начнём работать над текстурой, необходимо создать тело с костями для анимирования. (Об этом в нашем блоге будет отдельный пост.)

Для нашего первого персонажа мы создали всё тело вручную, но это была совершенно ненужная трата времени, особенно с учётом того, что когда мы одели его, голые части тела были видны только в редкие моменты игры.

Немного поискав, мы обнаружили отличный способ создания 3D-тел для наших отсканированных лиц. Мы используем для этой задачи бесплатное для коммерческого использования ПО Make human. С помощью этого софта можно создать целое тело, даже с лицом и скелетом. Достаточно просто передвигать ползунки, пока не получишь нужный результат, к тому же у него будет скелет, совместимый с движком Unity 3d.


Поэтому всего за несколько минут мы получили целое тело с отличной топологией и даже весами, готовое к анимированию! (Если вы не понимаете, о чём я говорю, то прочитайте второй пост об анимировании персонажей, который скоро выйдет!) Это очень полезное ПО.

Единственная проблема в том, что нам нужно уничтожить часть модели, отрезав от тела голову (звучит страшновато). Нам нужно это сделать, чтобы заменить её отсканированной моделью.

Самое важное здесь то, что благодаря ПО Make human у нас есть веса на костях, подготовленные к анимированию.


Нам достаточно просто добавить кости лица, чтобы иметь возможность анимирования лицевых эмоций или для синхронизации движений губ с диалогами. Но об этом скоро будет следующий пост в нашем блоге.

На создание правильной системы лицевых костей может уйти целый день (да, я знаю, на лице не кости, а мышцы, но так они называются в 3D-графике).


Разумеется, для создания красивых текстур нужно ещё и много труда. Мы используем Frequency Separation Technique в Photoshop для устранения засветов и ретуши кожи. Так создаётся рабочий процесс, хорошо подходящий для устранения из текстур ненужного освещения (даже когда это отсканированная модель камня, а не человеческого лица). Вам тоже стоит попробовать этот процесс. (В интернете есть множество информации о Frequency Separation.)

Финальная Albedo-текстура выглядит так: (простите, но до выпуска игры мы не хотим выкладывать текстуру большого разрешения)


Albedo-текстура

А вот как выглядит модель с уже наложенной albedo-текстурой.



Теперь мы добавляем зубы, язык и глаза:


Вот как выглядит готовая модель из соединённых вместе отсканированного лица и тела с готовой текстурой (цензура наложена, чтобы можно было делиться картинкой в соцсетях).


Готовый внешний вид 3D-тела и лица.


2. Создание волос головы и ресниц реального времени.


Я написал эту главу, потому что создание волос, работающих и хорошо выглядящих в видеоигре — это довольно широкая тема. Наверно, одни из самых красивых волос вы могли видеть в AAA-играх. Мы — инди, поэтому не можем тратить столько же времени на один аспект наших персонажей, как большие компании.

Поэтому мы создали волосы из полигонов с наложенной на них текстурой с прозрачностью.

Как это работает? Сначала мы моделируем полигоны в форме волос, а затем располагаем их на голове персонажа и перемещаем/распределяем с помощью инструментов 3D-моделирования. (В нашем случае Cinema 4D.) Также можно сделать это в генераторе сплайнов — создать сплайн с динамическим мешем вдоль него, тогда манипулирование волосами упростится.

Итак, все причёски создавались из таких частей:


Волосы без материала выглядят так:



Вот причёска с наложенной готовой текстурой:



А вот как выглядит причёска со скриншотов, которая показана в начале поста.

Как видите, мы можем менять причёски, поэтому нет никаких проблем, например, в добавлении пожилому персонажу причёски молодого.



Разумеется, при создании волос мы используем Photoshop и BodyPaint 3d для отрисовки полос на волосах и элементов разных форм. Вы можете использовать любое другое ПО, но было бы здорово, если бы в нём присутствовал режим просмотра альфа-прозрачности в реальном времени. Тогда вы точно будете видеть, что делаете (а не только серые полосы на голове персонажа).

Текстура волос выглядит следующим образом:


Albedo-текстура волос с прозрачностью

Чтобы придать волосам естественность поведения, мы пробовали использовать на меше волос компонент ткани Unity 3d, чтобы добавить небольшой эффект ветра или гравитации, но подробнее об этом в другом посте.


3. Создание пожилых версий персонажей



«Girl you’ll be a women soon»

Как я говорил выше. в нашей игре можно встретить персонажей в разные стадии их жизни. Это добавляет интереса для игроков, а также заставляет нас выполнять дополнительную интересную работу.

Я покажу, как мы сделали красивую девушку намного старше. Мы просмотрели множество видео, картинок и интернет-страниц о том, как стареет человеческое тело.

Дело не только в морщинах, свою форму меняет всё лицо человека. Подробнее об этом можно прочитать например здесь.

В статье я расскажу о технической стороне вопроса. Итак, сначала мы завершили 3D-модель молодого персонажа со всеми костями. Это очень важно, потому что на подготовку скелета и добавление весов уходит очень много времени. После этого мы просто скопировали её и начали работать с копией модели. Благодаря такому рабочему процессу нам не нужно заново заниматься оснасткой (риггингом) пожилой версии персонажа, потому что в ней используется та же система скелета. Это гораздо важнее в движке. Подобная система ускоряет загрузку и выгрузку ресурсов, потому что мы загружаем/выгружаем только нужное нам.

Итак, сначала мы изменяем базовый меш и опускаем некоторые части лица к земле, как это делает при старении мать-гравитация. Нос, щёки, брови, уши. Но мы не слишком увлекаемся, потому что модель имеет те же лицевые кости, что и модель молодого персонажа. (То есть при слишком сильном изменении базового меша могут возникнуть проблемы.)


Только деформация меша

Затем мы наносим скульптингом крупные морщины и детали в каком-нибудь ПО для скульптинга. Например, вы можете воспользоваться бесплатным Scupltris. Затем мы запекаем их в текстуру, называющуюся картой нормалей. Почему? Потому что она даёт нам показанный ниже результат без добавления лишних треугольников в модель. (Чтобы ваш PC смог справиться с её обработкой.) Также мы создаём карту нормалей некоторых деталей на основании текстуры кожи, а затем смешиваем их вместе.


Меш плюс карта нормалей

Наконец, мы добавляем морщины на albedo-текстуру (текстуру с базовым цветом). Мы сделали снимки нескольких пожилых людей, а затем добавили к модели морщины с помощью смешения в Photoshop.


Меш плюс карта нормалей крупных деталей и albedo-текстурой старой кожи

Итак, в результате в коже нашей модели пожилого персонажа используется карта нормалей деталей и albedo-текстура. Мы также подготавливаем текстуру подповерхностного рассеяния (subsurface scattering, эффект просвечивания света сквозь кожу) и specular-карту, но в том, что вы видите на экране, используются только albedo и карта нормалей (смешанные в одну карта нормалей крупных деталей + карта нормалей деталей).

Здесь мы можем видеть следующие части:

1. Albedo-карту.

2. Карту нормалей крупных деталей, основанную на вылепленных деталях модели.

3. Карту нормалей крупных деталей, смешанную с деталями кожи, созданными из albedo-текстуры.




Пожилой персонаж выглядит гораздо лучше в движке Unity 3D, где мы используем подходящие шейдеры:



А вот соединённые в Photoshop две версии персонажа (размещённые в движке в одном месте)


image

4. Сканирование для персонажей настоящей одежды.


Итак, мы добрались почти до конца, но чтобы добиться финального внешнего вида персонажа, предстоит ещё многое сделать.

Мы отсканировали множество разной одежды. Техника сканирования похожа на сканирование лица или других объектов, но теперь это можно делать медленно, обычно одежда не движется (ветер или пробегающие мимо кошки бывают очень надоедливыми, особенно когда даже небольшое перемещение может испортить часы работы).

Мы не смогли подобрать советов или готовых решений по правильному сканированию одежды, потому вот наши советы о том, что нужно и чего нельзя делать:

— Самое важное — закрепить конструкцию, чтобы одежда была неподвижной; ещё лучше расположить одежду в устойчивой T-позе. Что это значит? Это поза с широко расставленными руками, стандартная позиция для персонажей игр, к которым применяется анимация. Также в такой позе лучше всего сканировать одежду.

Для этого мы купили манекен. Нам не удалось сразу найти манекен в T-позе, поэтому съёмка под руками была очень сложной, а ещё больше работы требовалось на совмещение 3D-моделей отсканированной одежды с руками, опущенными вдоль тел персонажей. Изначально система выглядела так:


Наш первый манекен с опущенными вниз руками

… поэтому мы модифицировали его, чтобы он поднял руки. Мы сделали новые руки из ПВХ-трубы. Вот как теперь выглядит наш «трубонекен» в T-позе:


У этого манекена руки сделаны из ПВХ и он поставлен в T-позу


Мы можем снимать эту трубу, чтобы упростить одевание манекена.


Ну ладно, это отлично, но зачем на нашем пластмассовом друге эти чёрные точки?

Это потому, что поверхность очень блестящая, а скрипты сопоставления точек в фотограмметрии очень не любят блестящих вещей, но обожают точки и характерные особенности, поэтому мы нанесли маркером так много точек. Это позволило нам лучше сопоставлять позиции фотографий в ПО, чтобы получать более качественные сканы одежды.

Вот как выглядит на нём одежда, в данном случае меховая (в T-позе):


— Второй по важности аспект при создании одежды с помощью фотограмметрии — не забывать делать снимки под руками и снизу одежды. Вот сколько фотографий нам пришлось сделать, чтобы создать достаточно хороший скан этой одежды:


Здесь можно увидеть облако точек сканирования:


— Некоторые виды одежды очень сложно сканировать, например, с длинным мехом или из очень блестящих материалов, поэтому иногда проще их не сканировать, а создавать вручную.

Например для улучшения внешнего вида этого меха мы создали дополнительные элементы меха с альфа-каналом прозрачности. Это аналогично тому, что мы делали с волосами персонажей.


Красная часть — это элементы меха, созданные вручную с альфа-каналом


Вот как это выглядит без текстуры

— Некоторые типы объектов сканировать проще, например, эта матовая юбка выглядит очень хорошо, потому что сделана из матового материала. Также здесь мы использовали HDR-снимки, чтобы получить больше информации в тенях и засветах, но hdr-фотограмметрия занимает кучу времени. Почему? Потому что каждый снимок нужно делать со штатива, иначе фотографии будут размытыми. Теперь представьте уровень раздражения, когда спустя час работы одна из наших кошек просто прыгнула на этот мех. Нам пришлось всё начинать с начала.



Выглядит хорошо, правда? В целом чем больше времени ты тратишь на скан, тем лучше результат получаешь, и меньше занимаешься постобработкой.

— Ещё одни элементы, которые лучше делать вручную, а не сканировать — это пояса. Мы создавали их вручную. Мы сделали так, чтобы текстуры зацикливались, чтобы даже при небольшом разрешении текстур качество в игре было высоким.



— Венок тоже делался аналогично волосам, с использованием прозрачности. Он ещё не готов, но его видно на скриншотах:


Ну, на этом пока всё об одежде.

image

5. Соединение всего в игровом движке.


Ранее я говорил, что мы используем движок Unity 3D. Расскажу о том, какие шейдеры и настройки мы использовали, для того чтобы модель выглядела как на скриншотах.

Для всех элементов персонажей мы сейчас используем бесплатный Alloy Shader. Мы выбрали его, потому что в нём есть всё необходимое нам, особенно опция растворения для каждой вариации шейдера и многие другие опции в сегментах. Вы можете использовать любой другой шейдер, но мы пользуемся Alloy (кроме того, он бесплатен).


Различное положение света даёт интересные эффекты

— Кожа: для этой части персонажей мы используем шейдер кожи с эффектом подповерхностного рассеяния и передачей света. Что такое эффект подповерхностного рассеяния? Это симуляция фактора прохождения освещения сквозь кожу. Посмотрите на сделанные нами снимки:


Вот как выглядит подповерхностное рассеяние на руке в реальном мире

Как видите, освещение (если оно достаточно сильное) проходит сквозь кожу.

Это придаёт очень естественный внешний вид, особенно при слабом освещении. Можно увидеть, как этот эффект ведёт себя в The End of the Sun на примере этого gif и показанных выше скриншотов. (Учтите, что пока у модели даже нет specular-текстуры и Subsurface-карты, поэтому на финальном этапе она будет выглядеть немного лучше.)


— Глаза: как известно, глаза — зеркало души. И это правда — очень сложно придать персонажу естественный вид, не сделав его глаза идеальными. Глаз — это не просто сфера. Он плоский там, где находится радужная оболочка, а зрачок даже ещё ниже. Именно поэтому мы используем шейдер Parallax. Это поверхность, создающая иллюзию того, что глубже есть что-то ещё, и она даёт очень хорошие результаты!



Глаза с дополнительной прозрачной сферой большего размера для эффекта дальнего отражения


Глаза без этой сферы.

Более того, теперь мы можем управлять расширением зрачков, и в катсценах это создаёт очень естественный вид (немного пугает, когда зрачок максимально расширен, но для фэнтезийных целей этот эффект всё равно полезен).


— И последнее: поскольку мы используем один скелет для всех версий одежды и тел, то можем без всяких проблем превратить молодого персонажа в пожилого или поменять его одежду. Это создаёт отличные возможности по созданию кинематографических сцен, а также замечательно оптимизирует игру.


Вот так мы можем смешивать элементы созданного таким образом персонажа.
— Для одежды мы используем двухсторонний шейдер, чтобы можно было видеть её с обеих сторон.


— Для волос мы используем специальный двусторонний шейдер с гладкими прозрачными краями.


6. Окончательные результаты


Под катом представлена полная галерея того, как выглядит финальная версия персонажа в движке Unity 3D: (но он по-прежнему находится в разработке)

Галерея













Поделиться публикацией

Похожие публикации

Комментарии 15

    +2
    Мороки много, вот бы был какой-нибудь модный ИИ, который по фотографии делал бы такую модель… И анимировал, максимально близко к естественным движениям. И всё это в VR или AR.
      +3
      — Вы что, и есть за меня будете?!
      — Ага!
        +1
        Почему нет, ведь это вполне логичный исход развития технологий — технологическая сингулярность.
        0

        в vocord telecom есть технология получения вполне пристойной 3D реконструкции лиц и не только по стереопаре или 4м синхронным снимкам полный цикл длится несколько секунд. К сожалению на рынке это почти никому не нужно. Я думаю можно было за 2 раза меньшие ресурсы договориться и сделать достаточно много персонажей.

          0
          Генерация модели лица по одной фотографии — уже пройденный этап. Навскидку, статья от 2016 года: arxiv.org/abs/1612.00523
            0
            На практике где оно? Почему автор этой статьи им не воспользовался? В 2016 году кстати много чего интересного было, например некто И.Маск показывал автономный электромобиль, который сам доехал от дома до офиса и припарковался в кармашек у дороги параллельной парковкой, видео в ютюбе. Проблема в том, что для реальной практики подобную технологию можно будет купить через условные «2 года», и как мне кажется эти «2 года» ещё лет на 5 как минимум, а сейчас оно откровенно скажем не работает.
            +2
            Такие системы уже существуют. Например наша система Avatar SDK by itSeez3d (http://avatarsdk.com). Вот здесь можно попробовать создать свой аватар по фотографии: webdemo.avatarsdk.com
              +1
              это охрененно
            0
            Эх, жаль что ретопологию надо делать, есть автоматические инструменты, но так нужного качества не добиться, наверное. В статьях про 3D принтеры видел такое, где делают фигурку по реальному человеку.
              +1
              Фигурке скорее всего не потребуется дальнейший риггинг, поэтому и требования к качеству полигональной сетки другие.
              +1
              Такое чувство что для всего лица и для ткани используется одинаковый roughness. А так вполне интересный метод.
                0

                Для лицевой анимации Skinning mesh не подходит? Или это сложнее рига?

                  0
                  Не рассматривали блэндшейпы для лицевой анимации? С ними анимация лица выглядила бы намного более реалистично.
                    0
                    Если их смешивать, то иногда такой ужас получается ))
                    0

                    «для бедных», photoshop, cinema 4D...

                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                    Самое читаемое