company_banner

Клиент-серверное взаимодействие в новом мобильном PvP-шутере и устройство игрового сервера: проблемы и решения

    В предыдущих статьях цикла (все ссылки в конце статьи) о разработке нового fast paced шутера мы рассмотрели механизмы основной архитектуры игровой логики, базирующейся на ECS, и особенности работы с шутером на клиенте, в частности, реализация системы предсказания локальных действий игрока для повышения отзывчивости игры. В этот раз подробнее остановимся на вопросах клиент-серверного взаимодействия в условиях плохого соединения мобильных сетей и способы повышения качества игры для конечного пользователя. Также вкратце опишу архитектуру игрового сервера.




    Во время разработки нового синхронного PvP для мобильных девайсов мы столкнулись с типичными для жанра проблемами:

    1. Качество соединения мобильных клиентов оставляет желать лучшего. Это и относительно высокий средний пинг в районе 200-250 мс, и нестабильное распределение пинга по времени с учётом смены точек доступа (хотя, вопреки расхожему мнению, процент потерь пакетов в мобильных сетях уровня 3G+ довольно низок — порядка 1%).
    2. Существующие технические решения — это монструозные фреймворки, которые загоняют разработчиков в жесткие рамки.

    Первый прототип мы сделали на UNet, пусть это накладывало ограничения на масштабируемость, контроль над сетевой составляющей и прибавляло зависимость от капризного соединения мастер-клиентов. Потом перешли на самописный netcode поверх Photon Server, но об этом чуть позже.

    Рассмотрим механизмы организации взаимодействия между клиентами в синхронных PvP-играх. Наиболее популярные из них:

    • P2P или peer-to-peer. Вся логика матча хостится на одном из клиентов и не требует от нас практически никаких затрат на трафик. Но простор для читеров и высокие требования к хостящему матч клиенту, а также ограничения NAT не позволили взять это решение для мобильной игры.
    • Client-server. Выделенный сервер, наоборот, позволяет полностью контролировать всё происходящее в матче (прощайте, читеры), а его производительность — рассчитывать некоторые специфичные для нашего проекта вещи. Также многие крупные хостинг-провайдеры имеют свою структуру подсетей, которая обеспечивает минимальную задержку для конечного пользователя.

    Было принято решение писать авторитарный сервер.


    Сетевое взаимодействие при peer-to-peer (слева) и client-server (справа)

    Передача данных между клиентом и сервером


    Мы используем Photon Server — это позволило быстро развернуть необходимую инфраструктуру для проекта на основе уже отработанной годами схемы (в War Robots используем её же).

    Photon Server для нас исключительно транспортное решение, без high-level конструкций, которые сильно завязаны на конкретный игровой движок. Что дает некоторое преимущество, так как библиотека передачи данных может быть заменена в любой момент.

    Игровой сервер представляет из себя многопоточное приложение в контейнере Photon. На каждый матч создается отдельный поток, который инкапсулирует всю логику работы и предотвращает влияние одного матча на другой. Всеми подключениями сервера управляет Photon, а данные, пришедшие в него от клиентов, складываются в очередь, которая затем разбирается в ECS.


    Общая схема потоков матчей в контейнере Photon Server

    Каждый матч состоит из нескольких стадий:

    1. Игровой клиент встаёт в очередь в так называемый сервис матчмейкинга. Как только в нем набирается необходимое количество игроков, удовлетворяющих определённым условиям, он сообщает об этом игровому серверу с помощью gRPC. В этот же момент передаются все необходимые для создания игры данные.


      Общая схема создания матча
    2. На игровом сервере начинается инициализация матча. Обрабатываются и подготавливаются все параметры матча, включая данные о карте, а также все данные о клиентах, поступившие от сервиса создания матчей. Обработка и подготовка данных подразумевает, что мы парсим все необходимые данные и записываем их в специальное подмножество сущностей, которое мы называем RuleBook. Оно хранит статистические данные матча (которые не изменяются в его ходе) и будет передано всем клиентам в процессе подключения и авторизации на игровом сервере один раз или при переподключении после потери соединения. К статическим данным матча относятся конфигурация карты (представление карты компонентами ECS, связывающими их с физическим движком), данные о клиентах (ники, набор оружия, которое у них есть и не меняется в течение боя и т.п).
    3. Запуск матча. Начинают работать ECS-системы, составляющие игру на сервере. Все системы тикают 30 кадров в секунду.
    4. Каждый кадр происходит считывание и распаковка вводов игроков или копирование, если игроки не присылали свой ввод в пределах некоторого интервала.
    5. Затем в этом же кадре происходит обработка ввода в системе ECS, а именно: изменение состояния игрока; мира, на который он влияет своим вводом; и состояния других игроков.
    6. В конце кадра происходит упаковка результирующего состояния мира для игрока и отправка его по сети.
    7. В конце матча результаты отправляются на клиенты и в микросервис, обрабатывающий награды за бой с использованием gRPC, а также аналитика по матчу.
    8. После происходит клинап потока матча и поток закрывается.


    Последовательность действий на сервере внутри одного кадра

    Со стороны клиента процесс подключения к матчу выглядит следующим образом:

    1. Сперва осуществляется запрос на постановку в очередь в сервис создания матчей посредством websocket с сериализацией через protobuf.
    2. При создании матча этот сервис сообщает клиенту адрес игрового сервера и передает дополнительный пейлоад, необходимый клиенту перед началом матча. Теперь клиент готов начать процесс авторизации на игровом сервере.
    3. Клиент создает UDP-сокет и начинает отправлять игровому серверу запрос на подключение к матчу вместе с некоторыми идентификационными данными. Сервер уже ожидает этот клиент. При подключении он передает ему все необходимые данные для начала игры и первичного отображения мира. Сюда входят: RuleBook (список статических данных для матча), а также именуемый нами StringIntMap (данные об использованных в геймплее строках, которые будут идентифицироваться целыми числами в процессе матча). Это нужно для экономии трафика, т.к. передача строк каждый кадр создает существенную нагрузку на сеть. Например, все имена игроков, названия классов, идентификаторы оружия, аккаунтов и тому подобная информация вся записывается в StringIntMap, где кодируется с помощью простых целочисленных данных.

    Когда игрок непосредственно влияет на других пользователей (наносит урон, накладывает эффекты и т.д.) — на сервере происходит поиск истории состояний, чтобы сравнить реально видимый клиентом игровой мир в конкретный тик симуляции с тем, что в этот момент на сервере происходило с другими игровыми сущностями.

    Например, вы стреляете у себя на клиенте. Для вас это происходит моментально, но клиент уже «убежал» на некоторое время вперёд по сравнению с окружающим миром, который он отображает. Поэтому из-за локального предсказания поведения игрока, серверу необходимо понять, где и в каком состоянии находились противники в момент выстрела (возможно они были уже мертвы или, наоборот, неуязвимы). Сервер проверяет все факторы и выносит свой вердикт по нанесенному урону.


    Схема запроса на создание матча, подключения к игровому серверу и авторизации

    Сериализация и десериализация, упаковка и распаковка первых байт матча


    У нас самописная бинарная сериализация данных, а для передачи данных мы используем UDP.

    UDP является наиболее очевидным вариантом для быстрой пересылки сообщений между клиентом и сервером, где обычно гораздо важнее отобразить данные как можно скорее, чем отобразить их в принципе. Потерянные пакеты вносят коррективы, но проблемы решаются для каждого случая индивидуально, а т.к. данные постоянно поступают от клиента к серверу и обратно, то можно ввести понятие соединения между клиентом и сервером.

    Для создания оптимального и удобного кода на основе декларативного описания структуры нашего ECS мы используем кодогенерацию. При создании компонент для них также генерируются правила сериализации и десериализации. В основе сериализации лежит кастомный бинарный упаковщик, который позволяет упаковать данные наиболее экономным образом. Набор байт, полученный при его работе, не является самым оптимальным, но позволяет создавать поток, из которого можно считывать некоторые данные пакета без необходимости его полной десериализации.

    Ограничение передачи данных в 1500 байт (он же MTU) — это, на самом деле, максимальный размер пакета, который можно передать поверх Ethernet. Это свойство может быть сконфигурировано на каждом хопе сети и часто бывает даже ниже 1500 байт. Что будет, если послать пакет больше 1500 байт? Начинается фрагментация пакетов. Т.е. каждый пакет будет принудительно разбит на несколько фрагментов, которые будут отдельно отправлены с одного интерфейса на другой. Они могут быть отправлены совершенно разными маршрутами и время получения таких пакетов может существенно увеличиться, прежде чем сетевой уровень выдаст вашему приложению склеенный пакет.

    В случае с Photon — библиотека принудительно начинает слать такие пакеты в режиме reliable UDP. Т.е. Photon будет дожидаться каждого фрагмента пакета, а также пересылать недостающие фрагменты, если они затерялись при пересылке. Но такая работа сетевой части недопустима в играх, где необходима минимальная задержка сети. Поэтому рекомендовано уменьшать размеры пересылаемых пакетов до минимума и не превышать рекомендуемых 1500 байт (в нашей игре размер одного полного состояния мира не превышает 1000 байт; размер пакета с дельта-компрессией — 200 байт).

    Каждый пакет от сервера обладает кратким заголовком, который содержит несколько байт, описывающих тип пакета. Клиент сначала распаковывает этот набор байт и определяет, с каким пакетом мы имеем дело. На это свойство нашего механизма десериализации мы сильно полагаемся при авторизации: чтобы не превышать рекомендуемый размер пакета в 1500 байт, мы разбиваем посылку RuleBook и StringIntMap на несколько этапов; а чтобы понять, что именно мы получили от сервера — правила игры или само состояние — мы используем заголовок пакета.

    При разработке новых фич проекта размер пакета неуклонно растет. Когда мы столкнулись с этой проблемой, было решено написать собственную систему дельта-компрессии, а также контекстную вырезку ненужных клиенту данных.

    Контекстно зависимая оптимизация сетевого трафика. Дельта-компрессия


    Контекстная вырезка данных пишется вручную на основе того, какие данные необходимы клиенту для корректного отображения мира и корректной работы локального предсказания собственных данных. Потом к оставшимся данным применяется дельта-компрессия.

    Наша игра каждый тик производит новое состояние мира, которое необходимо упаковать и передать клиентам. Обычно дельта-компрессия заключается в том, чтобы сперва послать полный стейт со всеми необходимыми данными клиенту, а затем слать только изменения этих данных. Это можно представить так:

    deltaGameState = newGameState — prevGameState

    Но для каждого клиента посылаются разные данные и потеря всего лишь одного пакета может привести к тому, что придется пересылать полное состояние мира.

    Пересылка полного состояния мира — задача довольно затратная для сети. Поэтому мы модифицировали подход и отсылаем разницу между текущим обработанным состоянием мира и тем, который точно получен клиентом. Для этого клиент в своём пакете с вводом также отсылает номер тика, являющийся уникальным идентификатором игрового состояния, которое он уже точно получил. Теперь сервер знает, на основе какого состояния необходимо строить дельта-компрессию. Клиент обычно не успевает послать серверу номер тика, который у него есть до того, как сервер подготовит следующий кадр с данными. Поэтому на клиенте существует история серверных состояний мира, к которым и применяется патч deltaGameState, сгенерированный сервером.


    Иллюстрация частоты клиент-серверного взаимодействия в проекте

    Остановимся подробнее на том, что посылает клиент. В классических шутерах такой пакет называется ClientCmd и содержит информацию о нажатых клавишах игрока и времени создания команды. Внутри пакета с вводом мы посылаем гораздо больше данных:

    public sealed class InputSample
    {
      // Время сервера, которое видит игрок в данный момент времени
      public uint WorldTick;
      // Время, в котором видит себя клиент локально, на основе системы предсказания
      public uint PlayerSimulationTick;
      // Ввод джойстика движения. Тип (idle, ходьба, бег)
      public MovementMagnitude MovementMagnitude;
      // Направление джойстика, управляющего движением
      public float MovementAngle;
      // Состояния джойстика прицеливания
      public AimMagnitude AimMagnitude;
      // Угол джойстика прицеливания
      public float AimAngle;
      // Цель для выстрелов, в которую хотел бы попасть клиент
      public uint ShotTarget;
      // Данные с джойстика прицеливания, сжатые для более экономной передачи по сети
      public float AimMagnitudeCompressed;
    }


    Тут есть несколько интересных моментов. Во-первых, клиент сообщает серверу, в каком тике он видит все окружающие его объекты игрового мира, которые он не способен предсказать (WorldTick). Может показаться, что клиент способен «остановить» время для мира, а сам бегать и расстреливать всех из-за локального предсказания. Это не так. Мы доверяем только ограниченному набору значений от клиента и не даём ему стрелять в прошлое на более чем 1 секунду. Также поле WorldTick используется в качестве acknowledgment-пакета, на основе которого строится дельта-компрессия.

    В пакете можно обнаружить числа с плавающей запятой. Обычно такие величины часто используются для снятия показаний с джойстика игрока, но не очень хорошо передаются по сети, так как они обладают большим «дребезгом» и обычно чересчур точны. Мы квантуем такие числа и пакуем с помощью бинарного упаковщика, чтобы они не превышали целочисленное значение, которое может поместиться в несколько бит в зависимости от его величины. Таким образом разбивается упаковка ввода с джойстика прицеливания:

    if (Math.Abs(s.AimMagnitudeCompressed) < float.Epsilon)
    {
      packer.PackByte(0, 1);
    }
    else
    {
      packer.PackByte(1, 1);
      float min = 0;
      float max = 1;
      float step = 0.001f;
      // Разбиваем величину ввода на 1000 и округляем до целого,
      // которое будет преобразовано в необходимое число бит и упаковано
      // для передачи по сети
      packer.PackUInt32((uint)((s.AimMagnitudeCompressed - min)/step), CalcFloatRangeBits(min, max, step));
    }


    Ещё одна интересная особенность при посылке ввода это то, что некоторые команды могут посылаться несколько раз. Очень часто нас спрашивают, что делать, если человек нажал ультимативную способность, а пакет с её вводом потерялся? Мы просто посылаем этот ввод несколько раз. Это похоже на работу гарантированной доставки, но более гибкой и быстрой. Т.к. размер пакета ввода очень маленький, мы можем упаковать в результирующий пакет несколько смежных вводов игрока. В данный момент размер окна, определяющий их количество равен пяти.


    Пакеты ввода, формируемые на клиенте в каждый тик и отправляемые на сервер

    Передача такого рода данных является наиболее быстрой и достаточно надежной для решения наших задач без использования reliable UDP. Мы исходим из того, что вероятность потерять такое количество пакетов подряд весьма низка и является индикатором показателем серьезной деградации качества сети в целом. Если такое случается, сервер просто копирует последний полученный ввод от игрока и применяет его, надеясь, что он остался неизменным.

    Если же клиент понимает, что он очень долго не получал пакеты по сети, то запускается процесс переподключения к серверу. Сервер со своей стороны отслеживает, чтобы очередь вводов от игрока была полной.

    Вместо заключения и ссылки


    На игровом сервере существует много и других систем, отвечающих за обнаружение, отладку и правку матчей «наживую», обновление конфигурации геймдизайнерами без перезапуска, логирование и отслеживание состояния серверов. Об этом тоже хотим написать подробнее, но отдельно.

    В первую очередь при разработке сетевой игры на мобильные платформы следует обращать внимание на корректность работы вашего клиента с высокими пингами (около 200 мс), чуть более частыми потерями данных, а также с размерами посылаемых данных. И необходимо четко укладываться в лимит пакета в 1500 байт для избежания фрагментации и задержек трафика.

    Полезные ссылки:


    Предыдущие статьи по проекту:

    1. «Как мы замахнулись на мобильный fast paced шутер: технологии и подходы».
    2. «Как и почему мы написали свой ECS».
    3. «Как мы писали сетевой код мобильного PvP шутера: синхронизация игрока на клиенте».

    Pixonic

    294,00

    Международная компания по разработке мобильных игр

    Поделиться публикацией
    Комментарии 19
      0

      1.А почему вы используете в input структуре такие емкие типы данных? Разве нельзя обрезать лишние байты?


      1. Насколько мне известно, в мобильной сети чаще происходят групповые ошибки. Поэтому, если потерялся какой-то пакет, то и следующие несколько с большой вероятностью потеряются. Получается, что повторную отсылку лучше выполнять с каким-то периодом. А если за это время придёт ответ от сервера, то вообще можно не выполнять.
      2. Почему вы не используете относительно временную метку?
      3. Вы предотвращает повторную пересылку ранних пакетов, когда сервер уже ответил на более поздний?
        +2

        Такие типы данных использованы для удобства. Наш упаковщик данных режет лишние байты и биты. Если посмотрите на пример его вызова packer.PackUInt32((uint)((s.AimMagnitudeCompressed — min)/step), CalcFloatRangeBits(min, max, step)) — второй аргумент — это как раз количество значимых бит. В каждом компоненте мы помечаем допустимые значения, а автоматический генератор создаёт на основе этого оптимальный код для передачи по сети с использованием упаковщика.
        По остальным вопросам:


        1. Размер серии вводов в пакете не превышает 200 байт. Потому следить за тем, что сервер уже получил, а чего нет, с точки зрения трафика, избыточно. Проще отправлять всё подряд и надеяться, что данные, сдублированные несколько раз рано или поздно будут доставлены. Если же нет, то тут либо дисконнект, либо слишком поздно досылать ввод. Сервер его уже все равно не примет.
        2. Относительно чего? Не совсем понял. Временная метка у нас только одна — номер тика симуляции.
        3. Нет. В этом случае сервер просто отбрасывает ввод игрока, т.к. если сервер обработал более поздний тик, чем клиент, значит клиенту надо подстроить свою локальную симуляцию под тики сервера так, чтобы опережать его на необходимое для досылки данных время. Этот процесс хорошо описан в нашей предыдущей статье.
          0
          Спасибо. Я бы конечно сделала всё по-другому)) Но всегда надо знать альтернативные варианты.
          Возникла опечатка. Я про относительную временную метку. Относительно синхронизированного состояния. Этот вопрос был в догонку к первому.
        0
        Так где все таки можно сыграть в ваш шутер? А то расписываете хорошо, но как оно на деле выглядит?
          0

          Играется очень неплохо. К сожалению, пощупать можно будет только после глобального релиза :)

            0
            И когда релиз?
          +1

          Приятно читать и осознавать что все (кроме дельта-комперссии) сделано так же:D


          На тему задержек: мы вот с такой проблемой сталкиваемся: у Wi-Fi роутера иногда случается буфферизация, которая на 0.1-0.4 секунды задерживает пакеты, а потом выдает их все пачкой. (Пакеты — UDP, проверяли с помощью wireshark)


          Вроде причина такая: сети 2.4 GHz очень уж плотно населяют наш мир. И две точки на соседних каналах не могут говорить одновременно. Так что если кто-то посторонний начинает активно орать в эфир, наша точка стоит и ждёт своей очереди.
          В пользу этой теории говорит тот факт, что подобных провисаний на роутере 5GHz не наблюдается.


          Вы с таким сталкивались? Какое у вас решение этой проблемы?

            +2

            Мы сталкивались с этой проблемой на ранних этапах и довольно быстро поняли, что если несколько пакетов не приходят подряд из-за сетевого уровня, то тут ничем не поможешь, кроме локального предсказания на клиенте, интерполяции и т.п. Всё это, по сути, клиентские уловки для маскировки задержек и лагов.


            Единственное, что могу сказать — проблемы потери нескольких пакетов подряд при игре в реальных условиях (через мобильные сети, публичные wi-fi точки) — сильно преувеличены. Мы это видим на основе определённых данных, которые собираем в процессе тестирования. Если же wi-fi эфир действительно нагружен до предела, то все сетевые игры будут лагать. Как пример — на той же перегруженной wi-fi сети смотрели на Clash Royale и игра вела себя крайне нестабильно. Попробуйте поиграть в Overwatch на такого рода соединении.

            +1
            Везет вам, у вас есть UDP. В браузерном мире это недоступное удовольствие =)
              0
              в браузерном мире есть webrtc, который вполне можно применять
                0
                … И хотя WebRTC позволяет удобно отправлять ненадёжные «беспорядочные» данные из браузера в браузер, он терпит крах, когда требуется передача данных между браузером и выделенным сервером.

                Проблема возникает из-за чрезвычайной сложности WebRTC. Причины этой сложности понятны: WebRTC в первую очередь был разработан для обмена данными peer-to-peer между браузерами, поэтому для обхода NAT и передачи пакетов он в худшем случае требует поддержки STUN, ICE и TURN.

                Source

                  0
                  теоретически, можно сделать на сервере webrtc-шлюз, которому не нужны будут ни stun ни torn. А их поддержка в браузерах уже есть. Да это сложнее чем udp но все же реализуемо. Вопрос нужно ли такое решение для игр
                  0
                  Поговаривают, что Photon тоже скоро будет поддерживать WebRTC
                0

                Всё верно. Мета серверы используют Java и соответствующий стек технологий. Об этом тоже планировали рассказать в будущих статьях.

                  0
                  Почему тот же фотон не использовали? Это бы сократило количество используемых технологий?
                    0

                    Photon не очень хорошо предназначен для подобного. Инфраструктура на Java гораздо более приспособлена под такого рода задачи.

                  0
                  Правильно ли я понимаю, что у вас только Игровые сервера на Photon работают. Остальное что-то самописаное?
                    0
                    mrguardian вы когда-нибудь тестили Гугловский реал-тайм мультиплеер?
                    developers.google.com/games/services/cpp/realtimeMultiplayer
                    Что-нибудь можете про него сказать?

                    Именно 200мс пинг? Разве региональные сервера эту проблему не решают?
                      0
                      По поводу готового решения от Google — нет не смотрели. Спасибо за ссылку, посмотрим.
                      200мс — это то, что мы видим на большом наборе данных. Это среднее значение и физически у вас вряд ли получится поставить по серверу в каждой стране. По крайней мере, в нашем кейсе это так.

                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                    Самое читаемое