company_banner

Tarantool Kubernetes Operator



    Kubernetes становится де-факто стандартом для запуска stateless-приложений. В основном потому, что позволяет значительно сократить time-to-market для доставки новых фич. Запуск stateful-приложений — баз данных, stateful-микросервисов — все еще представляет собой сложную задачу, но необходимость выдерживать конкуренцию и поддерживать высокий темп доставки подталкивает компании к экспериментам в этой области и создает спрос на подобные решения.

    Представляем вам наше решение для запуска stateful-кластеров Tarantool Cartridge: Tarantool Kubernetes Operator, за подробностями прошу под кат.

    Оглавление:

    1. Вместо тысячи слов
    2. Чем вообще занимается оператор
    3. Немного про нюансы
    4. Как оператор работает
    5. Что оператор разворачивает
    6. Итог


    Tarantool — это opensource база данных и сервер приложений в одном флаконе. Как база данных он обладает рядом уникальных характеристик: высокая эффективность утилизации железа, гибкая схема данных, поддержка как in-memory, так и дискового хранилища, возможность расширения за счет использования языка Lua. Как сервер приложений он позволяет переместить код приложения максимально близко к данным, достигая при этом минимального времени отклика и максимальной пропускной способности. Помимо этого Tarantool обладает обширной экосистемой, предоставляя готовые модули для решения прикладных задач: шардинг, очередь, модули для облегчения разработки (cartridge, luatest), решения для эксплуатации (metrics, ansible) — и это только несколько примеров.

    При всех своих достоинствах, возможности одного инстанса Tarantool не безграничны: для хранения терабайтов данных и обработки миллионов запросов необходимо поднимать десятки и сотни инстансов, а это уже распределенная система, со всеми присущими ей проблемами. Для их решения у нас есть Tarantool Cartridge — фрэймворк, основная задача которого — скрыть всевозможные сложности написания распределенных приложений и дать возможность разработчикам сфокусироваться на бизнес-ценности приложения. Cartridge предоставляет мощный набор компонентов для автоматической оркестрации кластера, автоматического распределения данных, webui для эксплуатации и инструменты разработчика.

    Tarantool — это не только технологии, но еще и команда инженеров, которая занимается разработкой enterprise-систем “под ключ”, коробочных решений и поддержкой opensource-компонентов.

    Глобально наши задачи можно поделить на два направления: разработка новых систем и аугментация уже существующих решений. Например, есть большая база от известного вендора. Чтобы отмасштабировать ее на чтение, за ней ставят eventually consistent кэш на Tarantool. Или наоборот: чтобы отмасштабировать запись, ставят Tarantool в конфигурации горячий/холодный, где по мере “остывания” данные скидываются на холодное хранилище и параллельно в очередь для аналитики. Или чтобы подпереть уже существующую систему, пишется облегченная версия этой системы (функциональный резерв), которая резервирует основную “по-горячему” с репликацией данных из основной системы. Подробнее можно узнать из докладов с T+ 2019.

    У всех этих систем есть одна общая черта: их довольно сложно эксплуатировать. Быстро раскатать кластер на 100+ инстансов с резервированием в 3 ЦОДа, обновить приложение, которое хранит данные без простоев и просадок в обслуживании, сделать бэкап рестор на случай катастрофы или рукотворных ошибок, обеспечить незаметную отработку отказов компонентов, организовать управление конфигурацией… В общем, масса интересного.

    А было бы здорово, если бы все это еще и эксплуатировалось так же просто, как разрабатывается. Kubernetes дает возможность достичь нужного результата, но использование специализированного оператора делает жизнь еще проще.

    Вместо тысячи слов


    Мы подготовили небольшой пример на основе Tarantool Cartridge, с ним и будем работать. Простенькое приложение типа «распределенное key value хранилище с HTTP интерфейсом». После запуска получим вот такую картину:



    Где:

    • Routers — часть кластера, которая отвечает за принятие и обработку входящих HTTP-запросов;
    • Storages — часть кластера, отвечающая за хранение и обработку данных, из коробки поднимается 3 шарда, в каждом мастер и реплика.

    Для балансировки входящего HTTP-трафика по роутерам используется кубернетовский Ingress. Данные распределяются в хранилище на уровне самого Tarantool с помощью компонента vshard.

    Нам понадобится kubernetes 1.14+, сойдет и minikube. Также не помешает наличие kubectl. Для запуска оператора потребуется создать для него ServiceAccount, Role и RoleBinding:

    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/service_account.yaml
    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/role.yaml
    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/role_binding.yaml

    Tarantool Operator расширяет Kubernetes API своими определениями ресурсов, создадим и их:

    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/crds/tarantool_v1alpha1_cluster_crd.yaml
    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/crds/tarantool_v1alpha1_role_crd.yaml
    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/crds/tarantool_v1alpha1_replicasettemplate_crd.yaml

    К запуску оператора все готово, поехали:

    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/deploy/operator.yaml

    Ждем, когда оператор запустится, и можем переходить к запуску приложения:

    $ kubectl create -f https://raw.githubusercontent.com/tarantool/tarantool-operator/0.0.1/examples/kv/deployment.yaml

    В yaml-файле с примером объявлен Ingress на web UI; он доступен на cluster_ip/admin/cluster. Когда хотя бы один Pod из Ingress’а поднимется, можно будет зайти туда и понаблюдать за тем, как в кластер добавляются новые инстансы и как меняется его топология.

    Дожидаемся, когда кластер можно использовать:

    $ kubectl describe clusters.tarantool.io examples-kv-cluster

    Ожидаем, что в Status’е кластера будет следующее:

    …
    Status:
      State:  Ready
    …

    Все, приложение готово к использованию!

    Нужно больше места в хранилище? Добавим шардов:

    $ kubectl scale roles.tarantool.io storage --replicas=3

    Шарды не справляются с нагрузкой? Увеличим количество инстансов в шарде, отредактировав шаблон replicaset’а:

    $ kubectl edit replicasettemplates.tarantool.io storage-template

    Установим .spec.replicas, равное например 2, чтобы увеличить количество инстансов в каждом репликасете до двух.

    Кластер больше не нужен? Удаляем его вместе со всеми ресурсами:

    $ kubectl delete clusters.tarantool.io examples-kv-cluster

    Что-то пошло не так? Забивайте тикет, будем оперативно разбирать. :)

    Чем вообще занимается оператор


    Запуск и эксплуатация кластера Tarantool Cartridge — это история о выполнении определенных действий, в определенном порядке, в определенный момент.

    Сам по себе кластер управляется в первую очередь через админское API: GraphQL поверх HTTP. Можно, конечно, пойти уровнем ниже и вбивать команды прямо в консоль, но такое случается редко. Например, вот так выглядит запуск кластера:

    1. Поднимаем нужное количество инстансов Tarantool, например под systemd.
    2. Объединяем инстансы в membership:

      mutation {
          probe_instance: probe_server(uri: "storage:3301")
      }

    3. Присваиваем инстансам роли, прописываем идентификаторы инстанса и репликасета. Для этого также используется GraphQL API:

      mutation {
           join_server(
              uri:"storage:3301",
              instance_uuid: "cccccccc-cccc-4000-b000-000000000001",
              replicaset_uuid: "cccccccc-0000-4000-b000-000000000000",
              roles: ["storage"],
              timeout: 5
          )
      }

    4. Выполняем bootstrap компонента, отвечающего за шардинг. Также через API:

      mutation {
          bootstrap_vshard
      
          cluster {
              failover(enabled:true)
          }
      }


    Несложно, правда?

    Все становится интереснее, когда речь заходит о расширении кластера. Роль Routers из примера масштабируется просто: поднимаем больше инстансов, подцепляем их к существующему кластеру — готово! Роль Storages несколько хитрее. Хранилище шардированное, поэтому при добавлении/удалении инстансов необходимо выполнить перебалансировку, чтобы данные переехали на новые инстансы/переехали с удаляемых инстансов. Если этого не сделать, то в одном случае получим недогруженные инстансы, во втором — потеряем данные. А если в эксплуатации не один, а десяток вот таких кластеров с разными топологиями?

    В общем, этим всем и занят Tarantool Operator. Пользователь описывает желаемое состояние кластера Tarantool Cartridge, а оператор транслирует это в набор действий над ресурсами k8s и в определенные вызовы к админскому API кластера Tarantool’ов — в определенном порядке, в определенный момент, и вообще всячески старается скрыть от пользователя все нюансы.

    Немного про нюансы


    В работе с админским API кластера Tarantool Cartridge важны как порядок вызовов, так и куда они приходят. Почему так?

    Tarantool Cartridge несет на борту свое хранилище топологии, свой компонент service discovery и свой компонент работы с конфигурацией. Каждый инстанс кластера хранит копию топологии и конфигурации в yaml-файле.

    servers:
        d8a9ce19-a880-5757-9ae0-6a0959525842:
          uri: storage-2-0.examples-kv-cluster:3301
          replicaset_uuid: 8cf044f2-cae0-519b-8d08-00a2f1173fcb
        497762e2-02a1-583e-8f51-5610375ebae9:
          uri: storage-0-0.examples-kv-cluster:3301
          replicaset_uuid: 05e42b64-fa81-59e6-beb2-95d84c22a435
    …
    vshard:
      bucket_count: 30000
    ...

    Обновление происходит согласованно с использованием механизма двухфазного коммита. Для успешного обновления необходим 100 % кворум: каждый инстанс должен ответить, иначе откат. Что это означает с точки зрения эксплуатации? Все запросы к админскому API, модифицирующие состояние кластера, надежнее всего отправлять на один инстанс, на лидера, иначе мы рискуем получить разные конфиги на разных инстансах. Tarantool Cartridge не умеет делать leader election (пока что не умеет), а Tarantool Operator умеет — и вам об этом можно знать только как о занимательном факте, потому что оператор всё разрулит.

    Также каждый инстанс должен обладать фиксированным identity, то есть набором instance_uuid и replicaset_uuid, а также advertise_uri. Если вдруг случится перезапуск storage и изменится один из этих параметров, то вы рискуете развалить кворум — этим тоже занимается оператор.

    Как оператор работает


    Задача оператора — приводить систему в заданное пользователем состояние и поддерживать систему в этом состоянии до поступления новых указаний. Для того чтобы оператор мог выполнять свою работу, ему нужны:

    1. Описание состояния системы.
    2. Код, который приводит систему в это состояние.
    3. Механизм интеграции этого кода в k8s (например, чтобы получать уведомления об изменениях в состоянии).

    Кластер Tarantool Cartridge описывается в терминах k8s через Custom Resource Definition (CRD); оператору нужно 3 таких кастомных ресурса, объединенных под группой tarantool.io/v1alpha:

    • Cluster — ресурс верхнего уровня, соответствует одному кластеру Tarantool Cartridge.
    • Role — в терминах Tarantool Cartridge это пользовательская роль.
    • ReplicasetTemplate — шаблон, по которому будут создаваться StatefulSet’ы (почему stateful — расскажу чуть позже; не путать с k8s ReplicaSet).

    Все эти ресурсы напрямую отражают модель описания кластера Tarantool Cartridge. Имея общий словарь, эксплуатации проще общаться с разработчиками и понимать, что те хотят увидеть в проде.

    Код, приводящий систему в заданное состояние — в терминах k8s это Controller. В случае с Tarantool Operator контроллеров несколько:

    • ClusterController — отвечает за взаимодействие с кластером Tarantool Cartridge, подключает инстансы к кластеру, отключает инстансы от кластера.
    • RoleController — контроллер пользовательской роли, отвечает за развертывание StatefulSet’ов из шаблона и поддержание их числа в заданном количестве.

    Что из себя представляет контроллер? Набор кода, поэтапно приводящего мир вокруг себя в порядок. ClusterController схематически можно изобразить вот так:



    Точка входа — это проверка, существует ли ресурс Cluster’a, относительно которого произошло событие. Не существует? Выходим. Существует? Переходим к следующему блоку: захватываем Ownership над пользовательскими ролями. Захватили одну — вышли, на втором круге захватываем вторую. И так далее, пока не захватим все. Все роли захвачены? Значит переходим к следующему блоку операций. И так, пока не дойдем до последнего; вот тогда можно считать, что контролируемая система в заданном состоянии.

    В целом все просто. Важно определить критерии успешности прохождения каждого этапа. Например, успешной мы считаем операцию присоединения к кластеру не тогда, когда она вернула условный success=true, а когда она вернула ошибку типа «already joined».

    И последняя часть этого механизма — интеграция контроллера с k8s. С высоты птичьего полета, весь k8s состоит из набора контроллеров, порождающих события и реагирующих на них. События ходят через очереди, на которые мы можем подписываться. Схематически это можно изобразить вот так:



    Пользователь вызывает kubectl create -f tarantool_cluster.yaml, создается соответствующий ресурс Cluster. ClusterController получает уведомление о создании ресурса Cluster. И первое, что он пытается сделать — найти все ресурсы Role, которые должны входить в этот кластер. Если находит, то назначает Cluster как Owner для Role и обновляет ресурс Role. RoleController получает уведомление об обновлении Role, видит, что у ресурса появился Owner, и начинает создавать StatefulSet’ы. И так далее по кругу: первый стриггерил второго, второй стриггерил третьего — и так, пока кто-нибудь не остановится. А еще можно триггериться по времени, например раз в 5 секунд, что иногда бывает полезно.

    Вот и весь оператор: создаем кастомный ресурс и пишем код, который реагирует на события над ресурсами.

    Что оператор разворачивает


    Действия оператора в итоге приводят к тому, что k8s создает Pod’ы и контейнеры. В кластере Tarantool Cartridge, развернутом на k8s, все Pod’ы объединены в StatefulSet’ы.

    Почему именно StatefulSet? Как я писал ранее, каждый инстанс Tarantool Cluster хранит у себя копию топологии и конфигурации кластера, а еще частенько на app server’ах нет-нет, да и используют какой-нибудь спейс, например под очереди или справочные данные, а это уже полноценное состояние. А еще StatefulSet дает гарантию сохранения identity Pod’ов, что важно при объединении инстансов в кластер: identity инстансов должен быть фиксированным, в противном случае мы рискуем потерять кворум при перезапуске.

    Когда все ресурсы кластера созданы и приведены в нужное состояние, они формируют следующую иерархию:



    Стрелками обозначено отношение Owner-Dependant между ресурсами. Оно нужно, чтобы Garbage Collector прибирал за нами в случае, например, удаления Cluster.

    В дополнение к StatefulSet’ам Tarantool Operator создает Headless Service, который нужен для leader election, и через него инстансы общаются между собой.

    Под капотом Tarantool Operator лежит Operator Framework, сам код оператора — на golang, здесь ничего экстраординарного.

    Итог


    Вот, в общем-то, и все! Ждем от вас фидбэка и тикетов — куда ж без них, альфа-версия все-таки. Что дальше? А дальше предстоит масса работы по доведению этого всего до ума:

    • Unit, E2E-тестирование;
    • тестирование Chaos Monkey;
    • нагрузочное тестирование;
    • backup/restore;
    • внешний topology provider.

    Каждая из этих тем обширна сама по себе и заслуживает отдельного материала, ждите апдейтов!
    Mail.ru Group
    Строим Интернет

    Комментарии 4

      0
      Здравствуйте!
      Планируется ли интеграция решения с OKD?
        0
        Интеграцию с okd не тестировали, но, если прогоните и найдете баги, приносите, исправим.
        0

        Даунскейл стореджа как решен? Или админ может выстрелить в себе ногу — сделав даунскейл и потеряв часть данных ?

          0
          Сейчас умеем: поднять кластер, апскейлить по репликасетам и апскейлить по репликам. Даунскейл на подходе.
          Выкатывать будем в порядке усложнения процесса: сначала даунскейл по репликам, затем даунскейл по репликасетам.
          Сейчас, при худшем сценарии, данные останутся на persistent volume, фиксированный identity инстансов дает возможность вернуть инстансы в строй и забрать данные.

        Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

        Самое читаемое