Как стать автором
Обновить

Серверная кластеризация маркеров на карте. От теории к практике

PHPMySQL
Привет Хабр. История начинается с того что мы решили сделать гео сервис с возможностью размещения меток на карте самими пользователями.
И когда решили залить в базу 1 миллион маркеров то поняли, что даже если запрашивать маркеры только в определенном радиусе то все работает очень медленно и кластеризация на клиенте тоже не вариант :)

А где-то под этим лесом находится манхетен




Кластеризация это очень интересная задача, есть клиентская, есть серверная и все крупные картографические сервисы ее поддерживают. Известно множество видов кластеризации, но я в своих поисках выбрал Grid-кластеризацию. Про нее расказывали сотрудники Яндекса в нескольких своих докладах на конференциях. Она используется в яндекс картах для кластеризации маркеров.
Yandex кластеризация


Немного теории


Grid-кластеризация основана на проекции Меркатора, вкратце это проецирование сферической поверхности земного шара на прямоугольную плоскость. Это как раз все атласы, карты итд. Как понятно из названия в этой кластеризации мы покрываем карту сеткой и вычисляем количество маркеров в каждой ячейке это сетки.

Термины:

Тайл(tile, плитка) — то по сути просто разделение карты на квадраты для определенного zoom-а. На первом уровне у нас карта будет состоять из 1 квадрата(тайла) на 0 уровне, на 1 уровне из 4-х квадратов(тайлов), на втором уровне на 16 на третьем на 64 и т.д. По сути это 4 в степени уровня.


Quadkey — это уникальный идентификатор тайла на любом уровне. На первом уровне нумеруем тайлы 0,1,2,3 справа налево, сверху вниз. Затем на следующем уровне для каждого тайла из верхнего уровня делаем такую же нумера но уже добавляя quadkey родителя т.е. 00,01,02,03,10,11,12,13 и т.д. Более понятно это становится по рисунку:

Посути мы получили число в 4-чной системе исчисления. Теперь у нас каждый тайл имеет свой уникальный идентификатор на любом уровне zoom-а. Из zoom-а, широты и долготы можно получить уже сам quadkey тайла т.е. любую точку можно преобразовать в quadkey соответсвующего уровня zoom-а. А вот так будет выглядеть quadkey для конкретных координат:
longitude -79.377807617187500
latitude 43.653785705566406
quadkey 13940830302567 (base4: 03022313122033033011213)

Описание этого подхода на англиской языке от Microsoft:
Bing Maps Tile System
В этой статье реализации всех этих преобразований написана на C#, я побыстрому переписал ее на PHP:
TileSystem.php
class TileSystem
{
  const EarthRadius = 6378137;
  const MinLatitude = -90;
  const MaxLatitude = 90;
  const MinLongitude = -180;
  const MaxLongitude = 180;
  const MaxZoom = 23;

  private static function clip( $n, $minValue, $maxValue)
  {
    return min( max( $n, $minValue), $maxValue);
  }

  public static function mapSize( $levelOfDetail)
  {
    return 256 << $levelOfDetail;
  }

  public static function GroundResolution( $latitude, $levelOfDetail)
  {
    $latitude = self::clip( $latitude, self::MinLatitude, self::MaxLatitude);
    return cos( $latitude * pi() / 180) * 2 * pi() * self::EarthRadius / self::mapSize( $levelOfDetail);
  }

  public static function mapScale( $latitude, $levelOfDetail, $screenDpi)
  {
    return self::groundResolution( $latitude, $levelOfDetail) * $screenDpi / 0.0254;
  }

  public static function latToPixelY( $latitude, $levelOfDetail)
  {
    $latitude = self::clip( $latitude, self::MinLatitude, self::MaxLatitude);
    $sinLatitude = sin( $latitude * pi() / 180);
    $y = 0.5 - log((1 + $sinLatitude) / (1 - $sinLatitude)) / (4 * pi());
    $mapSize = self::mapSize( $levelOfDetail);
    $pixelY = (int) self::clip( $y * $mapSize + 0.5, 0, $mapSize - 1);
    return $pixelY;
  }

  public static function longToPixelX( $longitude, $levelOfDetail)
  {
    $longitude = self::clip( $longitude, self::MinLongitude, self::MaxLongitude);
    $x = ($longitude + 180) / 360;
    $mapSize = self::mapSize( $levelOfDetail);
    $pixelX = (int) self::clip( $x * $mapSize + 0.5, 0, $mapSize - 1);
    return $pixelX;
  }

  public static function pixelXToLong( $pixelX, $levelOfDetail)
  {
    $mapSize = self::mapSize( $levelOfDetail);
    $x = ( self::clip( $pixelX, 0, $mapSize - 1) / $mapSize) - 0.5;
    $longitude = 360 * $x;
    return $longitude;
  }

  public static function pixelYToLat( $pixelY, $levelOfDetail)
  {
    $mapSize = self::mapSize( $levelOfDetail);
    $y = 0.5 - (self::clip( $pixelY, 0, $mapSize - 1) / $mapSize);
    $latitude = 90 - 360 * atan( exp(-$y * 2 * pi())) / pi();
    return $latitude;
  }

  public static function pixelYToTileY( $pixelY)
  {
    return $pixelY / 256;
  }

  public static function pixelXToTileX( $pixelX)
  {
    return $pixelX / 256;
  }

  public static function tileXYToPixelXY( $tileX, $tileY, &$pixelX, &$pixelY)
  {
    $pixelX = $tileX * 256;
    $pixelY = $tileY * 256;
  }

  public static function tileXYToQuadKey( $tileX, $tileY, $levelOfDetail)
  {
    if ($levelOfDetail == 0)
      return "0";

    $quadKey = "";
    for ($i = $levelOfDetail; $i > 0; $i--) {
      $digit = 0;
      $mask = 1 << ($i - 1);
      if (($tileX & $mask) != 0) {
        $digit++;
      }
      if (($tileY & $mask) != 0) {
        $digit++;
        $digit++;
      }
      $quadKey .= $digit;
    }
    return $quadKey;
  }

  public static function latLongToQuadKeyDec( $lat, $long, $zoom)
  {
    return self::quadKey4ToDec( self::latLongToQuadKey( $lat, $long, $zoom));
  }

  public static function latLongToQuadKey( $lat, $long, $zoom)
  {
    $pixelX = \foci\utils\TileSystem::longToPixelX( $long, $zoom);
    $pixelY = \foci\utils\TileSystem::latToPixelY( $lat, $zoom);
    $tileX = \foci\utils\TileSystem::pixelXToTileX( $pixelX);
    $tileY = \foci\utils\TileSystem::pixelYToTileY( $pixelY);
    return \foci\utils\TileSystem::tileXYToQuadKey( $tileX, $tileY, $zoom);
  }

  public static function pixelXYToQuadKey( $pixelX, $pixelY, $zoom)
  {
    $tileX = \foci\utils\TileSystem::pixelXToTileX( $pixelX);
    $tileY = \foci\utils\TileSystem::pixelYToTileY( $pixelY);
    return \foci\utils\TileSystem::tileXYToQuadKey( $tileX, $tileY, $zoom);
  }

  public static function pixelXYToQuadKeyDec( $pixelX, $pixelY, $zoom)
  {
    return base_convert( self::pixelXYToQuadKey( $pixelX, $pixelY, $zoom), 4, 10);
  }

  public static function quadKeyToTileXY( $quadKey, &$tileX, &$tileY, &$levelOfDetail)
  {
    $tileX = $tileY = 0;
    $levelOfDetail = strlen( $quadKey);
    for( $i = $levelOfDetail; $i > 0; $i--)
    {
      $mask = 1 << ($i - 1);
      switch( $quadKey[$levelOfDetail - $i])
      {
        case '0':
          break;

        case '1':
          $tileX |= $mask;
          break;

        case '2':
          $tileY |= $mask;
          break;

        case '3':
          $tileX |= $mask;
          $tileY |= $mask;
          break;

        default:;
      }
    }
  }

  public static function tileXYToQuadKeyDec( $tileX, $tileY, $levelOfDetail)
  {
    return base_convert( self::tileXYToQuadKey( $tileX, $tileY, $levelOfDetail), 4, 10);
  }

  public static function quadKey4ToDec( $quadkey)
  {
    return base_convert( $quadkey, 4, 10);
  }
}


Переходим к практике


Область видимости


Тут надо учесть важный момент, не нужно запрашивать все кластеры на карте на конкретном zoom, а нужно получать только те, которые входят в область видимости клиента(в нашем случае это android и web).

Варианты получения кластеров в области видимости:
  • Умный клиент. Клиент сам определяет какой zoom ему нужен и какие кластеры войдут в область его видимости и запрашивает их все сразу например при инициализации view либо запрашиват только те которые вошли в область видимости при перемещении по карте
  • Ленивый клиент. Клиент просто отсылает свою область видимости на сервер и отображет то что будет прислано сервером.

Мы выбрали Ленивый клиент. Почему?
  • Логика клиента очень проста. Посути клиент работает как view, что получил то и отображает.
  • Это простота удобна если как у нас есть несколько клиентов на разных платформах. Не надо дублировать хитрую логику определения фокусов в области видимости. Вся логика сосредоточина а одном месте — на сервере.
  • Как показала практика требуется малое время на реализацию.

Какова будет логика сервера?
  • На сервер приходят координаты углов прямоугольной области видимости( например верхний левый угол, нижний правый угол).
  • Сервер зная размеры этой прямоугольной области определяет тайл какого размера в нее входит полностью(и по ширине и по высоте)
  • Дальше сервер зная размер тайла может определить zoom, поэтому его передавать вместе с координатами нет необходимости.
  • Затем надо учесть что этот zoom надо увеличить, для более удобного отображения.
  • И последним сервер опеределит quadkey-и попадающие в область видимости, сделает выборку кластеров и отдаст клиенту.

Хранение


Для хранения quadkey-ев нам надо выбрать уровень zoom, возьмем 23, его будет вполне достаточно. БД будем использовать MySQL. Таблица хранения маркеров будет иметь следующую структуру:
CREATE TABLE `marker` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `latitude` FLOAT(19,15) NOT NULL,
  `longitude` FLOAT(19,15) NOT NULL,
  `quadkey` bigint(20) NOT NULL DEFAULT 0,
  PRIMARY KEY (`id`),
  INDEX `quadkey ` (`quadkey `)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

Индекс по quadkey позволяет нам легко делать выборки количества маркеров в тайле(кластере).

Для хранения quadkey в MySQL можно использовать bigint(20), просто переводим из 4-чной системы в десятичную и в БД и приложении работаем с 10-чным quadkey.

Код получения кластеров


Код получения кластеров будет выглядеть примерно так:
  public function getClusters( $quad_key, $zoom)
  {
    $q1 = $quad_key . str_repeat("0", TileSystem::MaxZoom - $zoom);
    $q2 = $quad_key . str_repeat("3", TileSystem::MaxZoom - $zoom);
    $mask = $q1;
    $mask_plus = 1;
    $mask = $quad_key . str_repeat("3", $mask_plus);
    $mask = $mask . str_repeat("0", TileSystem::MaxZoom - $zoom - $mask_plus);

    $q1 = TileSystem::quadKey4ToDec( $q1);
    $q2 = TileSystem::quadKey4ToDec( $q2);
    $mask = TileSystem::quadKey4ToDec( $mask);

     return $this-> findBetweenQuadKeys( $q1, $q2, $mask);
  }

 public function findBetweenQuadKeys( $quad_key_l, $quad_key_r, $mask)
  {
    $entities = [];

    $sql = "SELECT `quadkey`, MIN(id) AS id, COUNT(id) AS count, AVG(longitude) AS longitude, AVG(latitude) AS latitude ";
    $sql .= "FROM `marker ` ";
    $sql .= "WHERE `quadkey` BETWEEN $quad_key_l AND $quad_key_r ";
    $sql .= "AND `is_deleted`= '0' ";
    $sql .= "GROUP BY (`quadkey` & $mask) ";

    if( $stmt =  $this->_connection->query( $sql))
    {
      foreach( $stmt as $row)
        $entities[] = $this->_createEntityFromRow( $row);
    }

    return $entities;
  }

Переменная $mask позволяет нам группировать quadkey-и c определенным zoom. Переменные $quad_key_l и $quad_key_r позволяют учитывать quadkey-и всех маркеров для данного родителя т.е если $quad_key_l=03022313122033033000000 и $quad_key_r=03022313122033033033333 то мы найдем в базе все маркеры для 030223131220330330.
Так будет выглядеть результирующий sql запрос:
SELECT `quadkey`, MIN(id) AS id, COUNT(id) AS count, AVG(longitude) AS longitude, AVG(latitude) AS latitude
FROM marker 
WHERE quadkey between 15499682906112 and 15499683168255 
GROUP BY (quadkey & 15499683151872);

-- более понятная 4-чня форма
-- WHERE quadkey between "03201203031012000000000" and "03201203031012333333333"
-- GROUP BY (quadkey & "03201203031012330000000")


Что получилось


К сожалению скриншотов с кластерами на базе в 1 миллион маркеров не сохранилось(хотя это было нечто), но есть текущая небольшая база, и вот как это выглядит:
web

Android


Координаты кластеров находятся в месте наибольшего скопления маркеров в тайле а не в его центре и все благодаря простому усреднению координат в sql запросе.

Результаты


Сервиc использующий данную кластеризацию запущен, и работает. Сам подход очень удобен для дальнейшего масштабирования.
Для избежания постоянного пересчитывания количества маркеров в кластере просто добавлятся кеширование клестера.
Если рассматривать данную тематику дальше то тайлы активно используются картографическими сервисами для отрисовки карт. Так же что-то подобное используется в разработке игр и т.д.

Источники


www.mapbox.com/guides/how-web-maps-work
msdn.microsoft.com/en-us/library/bb259689.aspx
Теги:phpmapsкластеризация
Хабы: PHP MySQL
Всего голосов 32: ↑30 и ↓2+28
Просмотры27K

Похожие публикации

Лучшие публикации за сутки