Привет, меня зовут Владимир Шилов, я руководитель направления в департаменте анализа данных «Ростелекома». В мае 2019 года я пришёл в команду Business Intelligence (BI) и одной из первых задач была реализация отчётности по анализу посещаемости отчетов во всех BI-инструментах, установленных в компании.
Решение этой задачи позволило собрать любопытную статистику и сделать выводы о востребованности BI-инструментов в «Ростелекоме». В этой статье я хочу поделиться следующими результатами нашего анализа:
Какие BI системы наиболее востребованы в реалиях крупной компании;
Какие критерии влияют на внутреннюю популярность решения;
Какие современные тенденции пользовательского поведения можно наблюдать внутри компании и какие вопросы будут стоять перед ИТ-подразделениями в ближайшее время.
![](https://habrastorage.org/getpro/habr/upload_files/d2d/5ce/474/d2d5ce474b7ba1df30d604414366f797.jpg)
С чего всё началось: реализация решения по анализу используемости BI систем
Начну с общего описания ситуации и подходов к сбору информации. У нас в компании целевыми BI-системами являются:
Кроме перечисленных инструментов, у нас на разных уровнях также используются более узкоспециализированные и «экзотические» решения. Но для целей нашей статьи мы опустим эти нюансы, и далее речь пойдет именно о целевых BI-системах (за исключением Форсайта), так как именно они используются в масштабах всей компании, и на наш взгляд их обзор будет более интересен читателям.
Для сбора информации об использовании инструментов было разработано специализированное решение, подход к реализации которого можно представить в виде последовательности шагов:
Провести анализ логов BI-систем по запуску отчётов;
Спроектировать модель витрины данных;
Разработать ETL;
Реализовать отчет в Power BI;
Решение получилось примерно следующим:
Очевидно, что любая разработка в крупной компании с некоторой бюрократией превращается в нечто большее, чем просто «Возьми и сделай! Ты же мужик!» и выполнение простого алгоритма из четырёх шагов. Я довольно сильно погряз в разработку архитектурного решения и согласования его с архитекторами, а также предоставления доступов к логам и ETL. В этой статье описывать свои трудности я детально не буду и сконцентрируюсь на конечном результате.
Для начала предлагаю рассмотреть каждый BI-инструмент в отдельности.
Oracle BI
На Oracle BI реализовано подавляющее большинство отчётности в виду того, что Oracle BI является самым старым инструментом и у него почти не было альтернативы очень долгое время. Ниже представлены графики динамик по следующим показателям:
Количество используемых уникальных отчётов за период;
Количество уникальных пользователей.
![](https://habrastorage.org/getpro/habr/upload_files/baa/168/f54/baa168f543c8850155f3e5e912d1f90a.png)
![](https://habrastorage.org/getpro/habr/upload_files/6cb/339/602/6cb3396025629f357b5f9cd248fbf236.png)
На основе второго графика динамики уникальных пользователей можно сделать вывод, что аудитория BI-системы стабилизировалась и сильного роста в 2020 году не наблюдается. Этому есть ряд причин:
Доступ к отчётности требует согласования, а прозрачность процесса предоставления доступа очень низкая;
Новые предметные области появляются очень редко;
Нет возможности создавать дашборды с аналитикой.
Analysis services
Microsoft Analysis services в компании – это тоже достаточно распространённый инструмент, что во многом обусловлено удобной для пользователей работой в Excel. Именно этот инструмент получил наибольшее распространение в компании: он даже более популярен в МРФ (макрорегиональных филиалах), чем в корпоративном центре. Это можно увидеть на следующей диаграмме по уникальным пользователям в разрезе территорий за последние 12 месяцев:
![](https://habrastorage.org/getpro/habr/upload_files/d18/30f/681/d1830f681897b02a9ac2d7a91f49bca8.png)
Ниже представлены графики динамик по следующим показателям:
Количество используемых уникальных OLAP-кубов за период;
Количество уникальных пользователей.
![](https://habrastorage.org/getpro/habr/upload_files/e3c/a4c/dcc/e3ca4cdcc5e8964139e80cb89cc2a8a0.png)
![](https://habrastorage.org/getpro/habr/upload_files/131/6d7/8e9/1316d78e912f0119a6d3623d4bbc414a.png)
Рост количества используемых OLAP-кубов за последний год не наблюдается, а рост аудитории в BI-системе нестабильный со значительными всплесками. У такой статистики несколько причин:
OLAP-кубы в основном дорабатываются, а новые кубы появляются очень редко;
BI-система больше предназначена для аналитиков, умеющих работать с данными, и она сложно продается широкой аудитории;
Доступ к отчётности требует согласования с владельцем OLAP-куба.
Power BI
BI-система Power BI от Microsoft появилась самой последней в стеке инструментов компании, но именно к этой системе сейчас приковано самое большое внимание со стороны бизнеса по следующим причинам:
Базовый набор визуализаций имеет хороший дизайн;
Лицензирование осуществляется по ядрам на сервере, отсутствует лицензирование по пользователям;
Скорость разработки отчётов довольно высокая, но стоит отметить, что на полный цикл разработки это не сильно влияет.
Ниже представлены динамики показателей аудитории и количество отчётов, которые она использует:
![](https://habrastorage.org/getpro/habr/upload_files/98f/788/36a/98f78836aebb017dce6030d5a8ad3f9e.png)
![](https://habrastorage.org/getpro/habr/upload_files/982/9ed/525/9829ed525e65b47eab5aff35a3bcf356.png)
Стоит отметить, что при относительно низком росте количества используемой отчётности аудитория продолжает расти. Это связанно в большей степени с тем, что доступ к отчётам предоставляется без выделения лицензий на каждого пользователя и изначально нет никаких ограничений по доступу, то есть оформлять заявку не нужно. Уже сейчас наблюдается тенденция перевода отчетов с Qlik sense на Power BI именно потому, что новые пользователи подключаются бесплатно.
Qlik sense
Qlik sense была первой корпоративной BI-системой с возможностью реализации полноценных дашбордов. Именно с Qlik sense связан переход от предоставления табличных данных к графическим визуализациям в компании.
Ниже представлены графики динамик по следующим показателям:
Количество используемых уникальных отчётов за период;
Количество уникальных пользователей.
![](https://habrastorage.org/getpro/habr/upload_files/b9c/e09/863/b9ce09863108b0dd0b52d99c1a22b47d.png)
![](https://habrastorage.org/getpro/habr/upload_files/ff7/c5c/9e0/ff7c5c9e0dcacefceb542c95cb75f621.png)
Казалось бы, перед нами современный BI-инструмент с высоким спросом, в котором можно создавать красивые решения, но сильного роста отчётности по сравнению с Oracle BI и Analysis services мы не наблюдаем. Тут есть несколько причин, влияющие на аудиторию и количество новых отчётов:
Лицензия на одного пользователя стоит существенных денег, и поэтому бизнес отказывается заказывать отчетность в Qlik sense;
Длительный период реализации отчётов от подготовки данных до реализации не позволяет быстро перенести все бизнес-процессы на новый инструмент.
Теперь поговорим про инструменты Self-service.
Self-service инструменты
Qlik sense self-service
В ноябре 2019 для бизнеса мы развернули self-service и предложили бизнесу реализовывать свои отчеты на своих источниках самостоятельно. С точки зрения лицензирования было одно изменение – разработчики лицензируются отдельно. С лицензиями пользователей изменений не было по причине того, что сервера были объединены в один кластер и лицензии, соответственно, тоже.
Графики динамик количества запускаемых отчётов и уникальных пользователей в недельной динамике представлены ниже:
![](https://habrastorage.org/getpro/habr/upload_files/b28/921/12e/b2892112e6190eb41086df9dc1475ec9.png)
![](https://habrastorage.org/getpro/habr/upload_files/710/9d3/673/7109d36736dd0e9530f8d2faa66c2a29.png)
По графикам можно сделать вывод, что первоначальный рост аудитории и количества отчётов остановился в первом квартале 2020 года, а дальше наблюдается стагнация числа уникальных пользователей. Но стоит отметить, что с появлением новых отчётов в сентябре используемость отчётности вернулась на свой максимум, хотя роста аудитории не наблюдается. Основной причиной является высокая стоимость лицензий пользователей системы, что не позволяет делать отчёты для большой аудитории.
Power BI self-service
Вот мы и дошли к самому интересному. Power BI self-service появился примерно в то же самое время, что и Qlik Sense self-service, но у данных систем есть одно существенное отличие в лицензировании. Для подключения команды разработчиков от бизнеса в Power BI self-service надо разово заплатить за лицензию на 2 ядра, что примерно равняется 35 лицензиям пользователей в Qlik sense, но лимита на пользователей в Power BI нет.
То есть бизнес-подразделение разово платит за одну лицензию и получает существенные возможности по реализации отчётности для большой аудитории. Разумеется это позитивно повляло на показатели используемости данной системы, стоит отметить, что цена вхождения BI-разработчика в разработку базовых отчетов очень низкая.
Ниже представлены динамики показателей аудитории и количество отчётов, которые она использует:
![](https://habrastorage.org/getpro/habr/upload_files/0b2/32d/cc4/0b232dcc42897d1d8bff5118818f0074.png)
Ещё более наглядно всё выглядит если показать все рассматриваемые системы вместе:
![](https://habrastorage.org/getpro/habr/upload_files/70b/7f9/307/70b7f9307df18a75e2f3c80586449204.png)
![](https://habrastorage.org/getpro/habr/upload_files/8f6/589/1b2/8f65891b2eafc60487388536e927f82a.png)
Какие критерии влияют на развитие отчетности?
В части развития отчетности в BI-системах стоит выделить следующие особенности, которые описаны в таблице:
Свойство\BI-система | Power BI | Power BI self-service | Qlik sense | Qlik sense self-service | Analysis services | Oracle BI |
Лицензирование | Бесплатно для бизнеса | Лицензия на 2 ядра на одну команду разработки. Для пользователей бесплатно. | Лицензия на каждого пользователя | Лицензия на каждого пользователя и разработчика | Бесплатно для бизнеса | Бесплатно для бизнеса |
Вид визуализации | Дашборды | Дашборды | Дашборды | Дашборды | Excel таблицы | Табличные отчеты без аналитики |
Требования к квалификации BI-разработчика | Низкие | Низкие | Средние | Средние | Средние | Выше среднего |
Качество дизайна базовых визуализаций | Высокое | Высокое | Среднее | Среднее | Отсутствует | Низкое |
Процесс подготовки данных | Централизованное хранилище | Собственные источники | Централизованное хранилище | Собственные источники | Централизованное хранилище | Централизованное хранилище |
Предоставление доступа | Все отчеты публичные | Все отчеты публичные | По согласованию владельца лицензий | По согласованию владельца лицензий | По согласованию владельца куба | По согласованию владельца области предметной области |
Исходя из результатов нашего анализа именно критерии, описанные в таблице, оказали самое большое влияние как на скорость создания новой отчетности, так и на востребованность отчетности пользователями компании. А ключевым фактором успеха Power BI self-service стала политика лицензирования и его условная «бесплатность» для разработчиков на стороне бизнеса.
Заключение
Из выше сказанного можно сделать вывод, что ключевыми факторами по использованию отчётности в различных BI-системах являются (расположены по мере уменьшения значимости):
Стоимость подключения новых пользователей, особенно на большую аудиторию;
Длительность полного цикла реализации отчёта от подготовки данных до публикации;
Простота реализации отчётов в BI-системе.
Если бизнесу предоставить возможность самостоятельно заниматься подготовкой данных или предоставить доступ к уже подготовленным данным и дать простой и дешевый инструмент для анализа, то бизнес очень быстро начнёт самостоятельно удовлетворять свои потребности в аналитике данных. При таком подходе остаётся много открытых вопросов: «Кто будет сопровождать отчёты и данные в них?», «Каким отчётам можно доверять?», «Как сделать единую систему отчётности с общей навигацией в едином стиле?».
Несмотря на то, что у ИТ сейчас нет однозначных ответов на эти вопросы, очевидно, что бизнес уже сделал свой выбор в пользу Self-service инструментов, и на эти вопросы нам придется отвечать. Будем рады присоединиться к обсуждению в комментариях. О том, какие решения мы нашли для self-service контура «Ростелекома» мы расскажем вам в наших будущих статьях.
Статья подготовлена командой управления данными «Ростелекома»