Определение объёма кластера Elasticsearch и тестирование производительности в Rally

    В этой статье мы разберёмся с основными подходами к сайзингу Elasticsearch, покажем сравнения бенчмарков кластера при загрузке логов и метрик. А разница там заметная. Надеемся, вам это поможет с определением объёма кластера Elasticsearch и расшифровкой того самого «it depends».



    В некотором роде, эта статья является продолжением нашей статьи о сайзинге на Хабре. Но здесь появились примеры из реальной жизни, поэтому если есть потребность в некоей преемственности, начните с той статьи, а уж потом возвращайтесь сюда. Под катом все подробности.

    Материалы этой статьи основаны на публикации Benchmarking and sizing your Elasticsearch cluster for logs and metrics в блоге Elastic. Мы её немного доработали и выкинули примеры с облачным Elastic.

    Аппаратные ресурсы кластера Elasticsearch


    Производительность кластера Elasticsearch зависит в основном о того как вы его используете и что под ним работает (в смысле аппаратное обеспечение). Аппаратное обеспечение характеризуется следующим:

    Хранилище


    Вендор рекомендует использовать SSD везде где это только возможно. Но, очевидно, что возможно это не везде, поэтому к вашим услугам архитектура hot-warm-cold и Index Lifecycle Management (ILM).

    Elasticsearch не требует избыточного хранилища (можно обойтись без RAID 1/5/10), сценарии хранения журналов или метрик обычно имеют по крайней мере одну реплику, что обеспечивает минимальную отказоустойчивость.

    Память


    Память на сервере делится на:

    JVM Heap. Хранит метаданные о кластере, индексах, сегментах, сегментах и данных полей документов. В идеале стоит на это выделить 50% доступной оперативной памяти.

    Кэш ОС. Elasticsearch будет использовать оставшуюся доступную память для кэширования данных, что заметно повысит производительность за счет предотвращения чтений с диска во время полнотекстового поиска, агрегирования значений документов и сортировки. И не забудьте отключить swap (файл подкачки), чтобы избежать сброса содержимого оперативной памяти на диск и последующее чтение с него (это медленно!).

    Процессор


    Узлы Elasticsearch имеют т.н. thread pools (пулы потоков) и thread queues (очереди потоков), которые используют доступные вычислительные ресурсы. Количество и производительность ядер CPU определяют среднюю скорость и пиковую пропускную способность операций с данными в Elasticsearch. Чаще всего это 8−16 ядер.

    Сеть


    Производительность сети — пропускная способность (bandwidth), так и время задержки (latency) могут заметно влиять на связь между нодами Elasticsearch и взаимодействие между кластерами Elasticsearch. Обратите внимание, что по умолчанию проверка доступности нод выполняется каждую секунду и если в течении 30 секунд нода не пингуется, она помечается как недоступная и выключается из кластера.

    Сайзинг кластера Elasticsearch по объёму хранения


    Хранение логов и метрик обычно требует значительного дискового пространства, поэтому стоит использовать количество этих данных для первоначального определения размера нашего кластера Elasticsearch. Ниже несколько вопросов для понимания структуры данных, которыми нужно управлять в кластере:

    • Сколько необработанных данных (ГБ) будем индексировать в день?
    • Сколько дней будем хранить данные?
    • Сколько дней в горячей зоне?
    • Сколько дней в теплой зоне?
    • Сколько реплик будет использоваться?

    Сверху желательно накинуть 5% или 10% и чтобы в запасе всегда оставалось 15% свободного места от общего дискового объёма. Теперь попробуем это дело сосчитать.

    Общий объем данных (ГБ) = Количество сырых данных в день (Гб) * Количество дней хранения * (Количество реплик + 1).

    Общий объем хранилища (ГБ) = Общий объем данных (ГБ) * (1 + 0.15 запаса дискового пространства + 0.1 дополнительного резерва).

    Общее количество нод данных = ОКРВВЕРХ (Общий объем данных (ГБ) / Объём памяти на ноду данных / Соотношение память: данные). В случае крупной инсталляции лучше держать в запасе ещё одну дополнительную ноду.

    Elastic рекомендует следующие соотношения память: данные для различных типов нод: «горячие» → 1:30 (30 Гб дискового пространства на каждый гигабайт памяти), «тёплые» → 1:160, «холодные» → 1:500). ОКРВВЕРХ — окружение до ближайшего большего целого числа.

    Пример расчёта малого кластера


    Давайте предположим, что каждый день прилетает ~1 ГБ данных, которые нужно хранить 9 месяцев.

    Общий объем данных (ГБ) = 1 ГБ x (9 месяцев x 30 дней) x 2 = 540 ГБ

    Общий объем хранилища (ГБ) = 540 ГБ x (1+0.15+0.1) = 675 ГБ

    Общее количество нод данных = 675 ГБ / 8 ГБ ОЗУ / 30 = 3 ноды.

    Пример расчета крупного кластера


    Вы получаете 100 ГБ в день, будете хранить эти данные 30 дней в горячей зоне и 12 месяцев в теплой зоне. У вас есть 64 ГБ памяти на каждый узел, из которых 30 ГБ выделено для JVM Heap, а оставшаяся часть — для кэш-памяти ОС. Рекомендуемое соотношение память: данные для горячей зоны 1:30, для теплой — 1: 160.

    Итого, если вы получаете 100 ГБ в день и должны хранить эти данные в течение 30 дней, получим:

    Общий объем данных (ГБ) в горячей зоне = (100 ГБ x 30 дней * 2) = 6000 ГБ

    Общий объем хранилища (ГБ) в горячей зоне = 6000 ГБ x (1 + 0,15 + 0,1) = 7500 ГБ

    Общее количество нод данных в горячей зоне = ОКРВВЕРХ (7500/64/30) + 1 = 5 узлов

    Общий объем данных (ГБ) в теплой зоне = (100 ГБ x 365 дней * 2) = 73 000 ГБ

    Общий объем хранилища (ГБ) в теплой зоне = 73 000 ГБ x (1 + 0,15 + 0,1) = 91 250 ГБ

    Общее количество узлов данных в теплой зоне = ОКРВВЕРХ (91 250/64/160) + 1 = 10 узлов

    Таким образом, получили 5 узлов под горячую зону и 10 узлов плод теплую. Для холодной зоны аналогичные расчеты, но коэффициент память: данные уже будет 1:500.

    Тесты производительности


    Когда размер кластера определен, нужно подтвердить, что математика работает в реальных условиях.

    Для этого теста используется тот же инструмент, который используют инженеры Elasticsearch — Rally. Он прост в развертывании и запуске и полностью настраивается, поэтому можно тестировать несколько сценариев (треков).

    Чтобы упростить анализ результатов, тест делится на два раздела: индексирование и поисковые запросы. Для тестов будут использоваться данные из треков Metricbeat и логов веб-сервера.

    Индексирование


    Тестирование отвечает на следующие вопросы:

    • Какова максимальная пропускная способность индексирования кластеров?
    • Какой объем данных можно индексировать за день?
    • Кластер больше или меньше подходящего размера?

    Для этого теста используется кластер из 3 узлов со следующей конфигурацией для каждого узла:

    • 8 vCPU;
    • HDD;
    • 32GB/16 heap.

    Тест индексирования № 1

    Набор данных, используемый для теста, представляет собой данные Metricbeat со следующими характеристиками:

    • 1 079 600 документов;
    • Объем данных: 1,2 ГБ;
    • Средний размер документа: 1,17 КБ.

    Далее будет несколько тестов, чтобы определить оптимальный размер пакета и оптимальное количество потоков (threads).

    Всё начинается с 1 клиента Rally для нахождения оптимального размера пакета. Первоначально, загружаются 100 документов, затем их количество увеличивается вдвое при последующих запусках. Результатом будет оптимальный размер пакета в размере 12 000 документов (это около 13,7 МБ). При дальнейшем росте размера пакета производительность начинает падать.

    image

    Затем, используя аналогичный метод, обнаруживается, что 16 — оптимальное количество клиентов, что позволяет достигать обработки 62 000 событий, индексируемых за секунду.

    image

    Итого, кластер без потери производительности может обрабатывать максимально 62 000 событий в секунду. Чтобы увеличить это количество, нужно будет добавить новый узел.

    Ниже тот же самый тест с пакетом из 12 000 событий, но для сравнения приведены данные пропускной способность при наличии 1 ноды, 2 и 3 нод.

    image

    Для тестовой среды максимальная пропускная способность индексации составит:

    • С 1 нодой и 1 шардом индексировалось 22 000 событий в секунду;
    • С 2 нодами и 2 шардами индексировалось 43 000 событий в секунду;
    • С 3 нодами и 3 шардами индексировалось 62 000 событий в секунду.

    Любой дополнительный запрос на индексирование будет помещен в очередь, и когда она заполнится, нода ответит отклонением запроса на индексирование.

    Обращаем внимание, что набор данных влияет на производительность кластера, поэтому важно выполнять треки Rally с вашими собственными данными.

    Тест индексирования № 2

    Для следующего шага будут использоваться треки с данными лога HTTP-сервера со следующей конфигурацией:

    • 247 249 096 документов;
    • Объем данных: 31,1 ГБ;
    • Средний размер документа: 0,8 КБ.

    Оптимальный размер пакета — 16 000 документов.

    image

    Оптимальное количество клиентов — 32.

    image

    Соответственно, максимальная пропускная способность индексирования в Elasticsearch — 220 000 событий в секунду.

    Поиск


    Пропускная способность поиска будет оцениваться при условии использования 20 клиентов и 1000 операций в секунду. Для поиска будет выполнено три теста.

    Тест поиска № 1

    Сравнивается время обслуживания (а точнее 90 процентиль) для набора запросов.

    Набор данных из Metricbeat:

    • Агрегированная гистограмма дат с автоматическим интервалом (auto-date-historgram);
    • Агрегированная гистограмма дат с таймзоной с автоматическим интервалом (auto-date-histogram-with-tz);
    • Агрегированная гистограмма дат (date-histogram);
    • Агрегированная гистограмма дат с таймзоной (date-histogram-with-tz).

    Можно заметить, что запрос auto-date-histogram-with-tz имеет наибольшее время обслуживания в кластере.

    image

    Набор данных из лога HTTP-сервера:

    • Default;
    • Term;
    • Range;
    • Hourly_agg;
    • Desc_sort_timestamp;
    • Asc_sort_timestamp.

    Можно заметить, что запросы desc_sort_timestamp и desc_sort_timestamp имеют более длительное обслуживания.

    image

    Тест поиска № 2

    Теперь разберемся с параллельными запросами. Посмотрим, как время обслуживания на 90 процентиле увеличится, если запросы будут выполняться параллельно.

    image

    Тест поиска № 3

    Рассмотрим скорость индексирования и время обслуживания поисковых запросов при наличии параллельного индексирования.

    Выполним задачу параллельного индексирования и поиска, чтобы увидеть скорость индексации и время обслуживания запросов.

    image

    Посмотрим, как время обслуживания запросов на 90 процентиле увеличилось при выполнении поиска параллельно с операциями индексации.

    image

    Итого имея 32 клиента для индексации и 20 пользователей для поиска:

    • Пропускная способность индексации 173 000 событий в секунду, что меньше 220 000, полученных в предыдущих экспериментах;
    • Пропускная способность поиска 1000 событий в секунду.

    Rally — мощный инструмент для бенчмаркинга, но использовать его стоит только с теми данными, которые в дальнейшем будут также литься в продакшен.



    Пара объявлений:
    Мы разработали обучающий курс по основам работы с Elastic Stack, который адаптируется под конкретные потребности заказчика. Подробная программа обучения по запросу.

    Приглашаем зарегистрироваться на День Эластика в России и СНГ 2021, который пройдёт онлайн 3 марта с 10 до 13 часов.



    Читайте наши другие статьи:




    Если вас интересуют услуги администрирования и поддержки вашей инсталляции Elasticsearch, вы можете оставить заявку в форме обратной связи на специальной странице.

    Подписывайтесь на нашу группу в Facebook и канал в Youtube.
    Gals Software
    Системы ИТ-мониторинга

    Comments 4

      +2
      И не забудьте отключить swap (файл подкачки), чтобы избежать сброса содержимого оперативной памяти на диск и последующее чтение с него (это медленно!).

      Ну, началось опять…
        0
        Прошу уточнить, как относится к статье хаб «Информационная безопасность»?
        Потому что в конце статьи дана ссылка на другую Вашу статью, касающуюся безопасности Elastic Search или потому, что в последнее время Elastic Search асоциируется с утечками конфеденциальной информации? :)
          0
          По части утечек вы, возможно, путаете с Solarwinds. «Информационная безопасность», потому что у Elastic Stack есть функционал SIEM-системы.
            0
            С SolarWinds я не путаю. Большинство крупных утечек конфиденциальной информации в прошлом году были через неправильно настроенный и опубликованный в Интеренет Elastic Search.
            В статье нет упоминания о Elastic Stack. Всегда думал, что Elastic Stack = Kibana + Logstash + Beats + X-Pack + Elasticsearch + misc etc. Статья всё же не об этом.

        Only users with full accounts can post comments. Log in, please.