Наши первые шаги по миграции в Kubernetes

[chemtech]

Спасибо за пост. Рассматривали ли VictoriaMetrics? Как вы собираете логи? Собираете ли трейсы?

[Demosfen]

На VictoriaMetrics смотрели неоднократно. При запуске мониторинга в кубе смотрели еще раз, в том числе, и на сравнение в этой статье: https://habr.com/ru/companies/itsumma/articles/912804/. Хостер нам предоставляет относительно дешевый S3, плюс в имеющиеся машины жесткие диски установить невозможно физически, а на SSD хранить дорого. Было еще что-то из аргументов, но сейчас уже точно не вспомню. Ну и Thanos хорошо интегрируется с kube-prometheus-stack.
Логи раньше собирали по схеме filebeat->kafka->logstash-ELK, но потом перешли на Loki.
Трейсы только начали внедрять - Grafana Tempo.
По observability планируем отдельную статью собрать когда закончим миграцию.

[poige]

Кроме того, нам пришлось бы на серверах писать свои правила для iptables/firewall и т.д.

Начинаю понимать боль рекрутеров в 2020-х…

[Demosfen]

На самом деле часть аргументов не дошла до статьи. Если кратко - чем больше уровней абстракции, тем сложнее все это сопровождать, поэтому стараемся придерживаться принципа KISS.