Elasticsearch, Kibana и Logstash (ELK) – отличный набор инструментов для сбора и визуализации большого количества данных.
Логи, журналы, события – всё это довольно легко собирается, мапится и отображается в едином инструментарии. Logstash мапит данные, Elasticsearch хранит их, а Kibana отображает в виде графиков.
При всей мощи этой связки, естественно, есть задачи, которые невозможно реализовать через встроенные возможности.
Например, Kibana прекрасно показывает данные в рамках одной таблицы (индекса), но как только дело доходит до объединения разных индексов в одну выборку, она беспомощно разводит руки.
И единственный способ решить задачу в этом случае – выгрузить данные из Kibana и объединить их в любом другом средстве, например, в Excel.
Простой пример. Представьте, что Ваша Ёлка (ELK) собирает и хранит события Jira – по любому изменению любой из задач таск-трекера.
В этом случае в индексе Elasticsearch по одной задаче будет храниться несколько записей:
![](https://habrastorage.org/r/w1560/webt/n5/es/_l/n5es_l0gutmilv1g72-k0k6itao.png)
Если Вы захотите построить график событий Jira, показывающий конверсию задач по состояниям, то с помощью Kibana Вы вряд ли сможете это сделать. Из-за особенностей noSQL Вам понадобится все события по одной задаче «загнать» в одну запись Elasticsearch.
Сделать это довольно затруднительно без привлечения разрабов и переписывания конфигов Logstash.
Первое, что придёт Вам на ум – выгрузить данные из Kibana, чтобы вручную покрутить их в обычном Excel.
Но поиски кнопки выгрузки, к Вашему большому удивлению, закончатся неудачей, особенно в том случае, если Kibana корпоративная и имеет ограничения на модуль Reporting:
![](https://habrastorage.org/r/w1560/webt/4x/fo/ub/4xfoubdea8vmtyosrlugbv-wbfa.png)
Что же получается, данные есть, а воспользоваться ими нельзя?
На самом деле есть один тайный способ. Через стандартный табличный отчёт Data Table.
На закладке «Visualize» можно создать множество разных отчётов, но только в Data Table есть кнопка выгрузки данных в формате csv.
![](https://habrastorage.org/r/w1560/webt/us/2g/63/us2g63xvo0pec7ju0ino3jirnc8.png)
Если Вы работаете с Kibana, то, вероятно, воспринимаете Data Table как агрегат, т.е. таблицу, в которой можно посчитать суммарное количество чего-нибудь, а вывести список всех записей невозможно. Однако это не совсем так.
У таблицы есть замечательная функция – Unique Count (подсчитать количество уникальных элементов), которым и можно воспользоваться, чтобы вывести весь список записей в таблицу.
Нажмите «+» в закладке Visualize, выберите «Data Table» и укажите индекс, из которого нужно сделать выгрузку. В параметрах таблицы укажите агрегат – «Unique Count» и чуть ниже поле с уникальным ID.
![](https://habrastorage.org/r/w1560/webt/ka/n6/xu/kan6xu9kwfkqnmz1mnhdga3a1jk.png)
Если запустить пересчет, то Kibana выдаст количество уникальных записей в индексе.
Как же превратить одно число в список записей? Очень просто — с помощь кнопки «Split Rows»
Нажмите на неё и в качестве агрегата выберите «Terms» (разбивка по значениям поля).
Это ключевой момент: в «Field» укажите поле с уникальным ID записей.
И, о чудо, одно число при пересчете таблицы магическим образом превращается в таблицу!
Вот он, момент истины.
Что же Вы сделали? Если в двух словах, то Вы сказали Kibana, что хотите посчитать количество уникальных записей и также указали группировку записей по признаку, а именно по уникальным значениям указанного Вами поля.
Теперь Kibana отдельно подсчитывает количество элементов в каждой группе, а т.к. в качестве значений Вы указали уникальный ID записей, то Kibana стала подсчитывать количество уникальных записей, сгруппированных по уникальному ID, т.е. по сути, рядом с каждой строкой таблицы метрика «Unique Count» будет равна «1».
Вы получили нужный результат – вывели все записи и дополнительно посчитали сколько у Вас в индексе строк с одинаковым ID.
![](https://habrastorage.org/r/w1560/webt/6b/oy/tn/6boytng4ypu6ajrivjasoksuxqy.png)
Теперь, если колонки в таблице недостаточно, добавьте дополнительные поля с помощью кнопки «Add sub-buckets» и далее «Split Rows».
![](https://habrastorage.org/r/w1560/webt/86/bn/-k/86bn-k8pachweobxqwaao7npuni.png)
Везде выбирайте «Terms» в качестве агрегата и указывайте названия полей, которые хотите добавить в таблицу.
![](https://habrastorage.org/r/w1560/webt/je/jl/wn/jejlwnvhoo6aymu-vmtzq7mprxk.png)
Готово. Вы получили полную выгрузку индекса.
Все, что осталось сделать – сохранить визуализацию и нажать кнопку «Export Raw» или «Export Formatted».
![](https://habrastorage.org/r/w1560/webt/ng/ha/wd/nghawdmii16zzs8stpyhildlufk.png)
«Raw» выгрузить всё в сыром виде, а «Formatted» переформатирует данные согласно установленной в Kibana локали.
Всё.
Как видите, сделать выгрузку из Kibana простому человеку, не знакомому с программированием, все же возможно, хотя решение и не лежит на поверхности.
Надеюсь, этим маленьким трюком я облегчу кому-то жизнь и дам возможность быстро проанализировать данные не привлекая для выгрузок разработчиков.
Если мой опыт помог Вам, буду рад увидеть Ваш комментарий к этой статье.
Логи, журналы, события – всё это довольно легко собирается, мапится и отображается в едином инструментарии. Logstash мапит данные, Elasticsearch хранит их, а Kibana отображает в виде графиков.
При всей мощи этой связки, естественно, есть задачи, которые невозможно реализовать через встроенные возможности.
Например, Kibana прекрасно показывает данные в рамках одной таблицы (индекса), но как только дело доходит до объединения разных индексов в одну выборку, она беспомощно разводит руки.
И единственный способ решить задачу в этом случае – выгрузить данные из Kibana и объединить их в любом другом средстве, например, в Excel.
Простой пример. Представьте, что Ваша Ёлка (ELK) собирает и хранит события Jira – по любому изменению любой из задач таск-трекера.
В этом случае в индексе Elasticsearch по одной задаче будет храниться несколько записей:
![](https://habrastorage.org/webt/n5/es/_l/n5es_l0gutmilv1g72-k0k6itao.png)
Если Вы захотите построить график событий Jira, показывающий конверсию задач по состояниям, то с помощью Kibana Вы вряд ли сможете это сделать. Из-за особенностей noSQL Вам понадобится все события по одной задаче «загнать» в одну запись Elasticsearch.
Сделать это довольно затруднительно без привлечения разрабов и переписывания конфигов Logstash.
Первое, что придёт Вам на ум – выгрузить данные из Kibana, чтобы вручную покрутить их в обычном Excel.
Но поиски кнопки выгрузки, к Вашему большому удивлению, закончатся неудачей, особенно в том случае, если Kibana корпоративная и имеет ограничения на модуль Reporting:
![](https://habrastorage.org/webt/4x/fo/ub/4xfoubdea8vmtyosrlugbv-wbfa.png)
Что же получается, данные есть, а воспользоваться ими нельзя?
На самом деле есть один тайный способ. Через стандартный табличный отчёт Data Table.
На закладке «Visualize» можно создать множество разных отчётов, но только в Data Table есть кнопка выгрузки данных в формате csv.
![](https://habrastorage.org/webt/us/2g/63/us2g63xvo0pec7ju0ino3jirnc8.png)
Если Вы работаете с Kibana, то, вероятно, воспринимаете Data Table как агрегат, т.е. таблицу, в которой можно посчитать суммарное количество чего-нибудь, а вывести список всех записей невозможно. Однако это не совсем так.
У таблицы есть замечательная функция – Unique Count (подсчитать количество уникальных элементов), которым и можно воспользоваться, чтобы вывести весь список записей в таблицу.
Нажмите «+» в закладке Visualize, выберите «Data Table» и укажите индекс, из которого нужно сделать выгрузку. В параметрах таблицы укажите агрегат – «Unique Count» и чуть ниже поле с уникальным ID.
![](https://habrastorage.org/webt/ka/n6/xu/kan6xu9kwfkqnmz1mnhdga3a1jk.png)
Если запустить пересчет, то Kibana выдаст количество уникальных записей в индексе.
Как же превратить одно число в список записей? Очень просто — с помощь кнопки «Split Rows»
Нажмите на неё и в качестве агрегата выберите «Terms» (разбивка по значениям поля).
Это ключевой момент: в «Field» укажите поле с уникальным ID записей.
И, о чудо, одно число при пересчете таблицы магическим образом превращается в таблицу!
Вот он, момент истины.
Что же Вы сделали? Если в двух словах, то Вы сказали Kibana, что хотите посчитать количество уникальных записей и также указали группировку записей по признаку, а именно по уникальным значениям указанного Вами поля.
Теперь Kibana отдельно подсчитывает количество элементов в каждой группе, а т.к. в качестве значений Вы указали уникальный ID записей, то Kibana стала подсчитывать количество уникальных записей, сгруппированных по уникальному ID, т.е. по сути, рядом с каждой строкой таблицы метрика «Unique Count» будет равна «1».
Вы получили нужный результат – вывели все записи и дополнительно посчитали сколько у Вас в индексе строк с одинаковым ID.
![](https://habrastorage.org/webt/6b/oy/tn/6boytng4ypu6ajrivjasoksuxqy.png)
Теперь, если колонки в таблице недостаточно, добавьте дополнительные поля с помощью кнопки «Add sub-buckets» и далее «Split Rows».
![](https://habrastorage.org/webt/86/bn/-k/86bn-k8pachweobxqwaao7npuni.png)
Везде выбирайте «Terms» в качестве агрегата и указывайте названия полей, которые хотите добавить в таблицу.
![](https://habrastorage.org/webt/je/jl/wn/jejlwnvhoo6aymu-vmtzq7mprxk.png)
Готово. Вы получили полную выгрузку индекса.
Все, что осталось сделать – сохранить визуализацию и нажать кнопку «Export Raw» или «Export Formatted».
![](https://habrastorage.org/webt/ng/ha/wd/nghawdmii16zzs8stpyhildlufk.png)
«Raw» выгрузить всё в сыром виде, а «Formatted» переформатирует данные согласно установленной в Kibana локали.
Всё.
Как видите, сделать выгрузку из Kibana простому человеку, не знакомому с программированием, все же возможно, хотя решение и не лежит на поверхности.
Надеюсь, этим маленьким трюком я облегчу кому-то жизнь и дам возможность быстро проанализировать данные не привлекая для выгрузок разработчиков.
Если мой опыт помог Вам, буду рад увидеть Ваш комментарий к этой статье.