Резервирование в MultiSim — что это и как оно работает

    Привет!

    Меня зовут Антон Даценко и я отвечаю за развитие корпоративных решений и сервисов в подразделении Билайн Бизнес. Сегодня я расскажу вам, как мы используем технологии резервирования и балансировщик в MultiSIM, для каких клиентов подобный продукт важнее, чем кажется на первый взгляд, и немного про сети в общем.

    Оговорюсь сразу, что в посте речь будет идти именно о B2B-клиентах. Потому что для обычного абонента резервирование связи — это смартфон с двумя симками.



    Но если совсем серьезно, то подходы здесь немного похожи. О важности резервирования канала связи стоит говорить примерно в той же плоскости, что и о важного резервного копирования данных. Нету у вас бэкапа — это в принципе плохо (но временно). Есть у вас бэкап — это уже сильно лучше. А если вы не только делаете бэкапы, но и проверяете на всякий случай, насколько хорошо из них все восстанавливается — уже совсем хорошо.

    Стабильная сеть для большинства предприятий, включая даже малый и средний бизнес, это без шуток залог нормальной работы. Потому что на сеть завязано очень многое — и работоспособность интернет-магазинов, и работы с базами данных в офлайн-магазинах, и работа онлайн-касс и пинпадов. В общем, если нету сети — вы не сможете нормально оплатить товар, вам не осилят выбить чек в онлайн-кассе, и прочее, прочее.

    Что такое балансировщик и зачем он нужен


    Балансировщик (он же агрегатор трафика) представляет собой аналог роутера, в котором стоит от 2 до 4 сим-карт (зависит от модели, нужной заказчику). С помощью партнеров мы устанавливаем оборудование у корпоративных клиентов и настраиваем подключение. Это может быть или подключение непосредственное через балансировщик по LTE-сетям, или же через устройство с резервированием. Ещё есть вариант с VPN-туннелем, но о нём я расскажу отдельно в следующем посте.


    Тут две SIM-карты

    Так вот. Каждый балансировщик производит сложение полос пропускания каналов, которые подаются с сим-карт, и работает с сервером агрегации. Сервер находится в нашей сети, на стыке нашей сети и сети партнёра, и мы получаем рабочий канал. Визуально это роутер, чаще всего Mikrotik (да, да), на котором стоит кастомная прошивка, мы брали за основу OpenWrt и довольно серьезно её переписали.


    А здесь уже 4

    О нужности подобных устройств более 10 лет назад задумались медийные компании США. Телевидение там развито посерьезнее, чем у нас, причем особое внимание уделяется прямым эфирам и прямым включениям с места событий. Качество картинки и звука важно, это тоже составляющая конкурентного преимущества, поэтому существует ряд компаний, у которых есть специальные патенты на технологии в плане того, как правильно разбить качественный видеофрейм на фрагменты, все это упихнуть в сотовую сеть, на стороне студии из этих фрагментов снова собрать отличную картинку, а не стаю шакалов, и показать зрителю. И всё это, что важно, с минимальной задержкой по времени.

    Вот и используют специальные устройства, у которых на борту сразу набор всевозможных симок, позволяющие гнать качественный видеопоток с места событий до студий.

    У нас сам телевизионный рынок построен немного иначе, посему такое решение не прижилось, ибо получилось одновременно и дорогим, и не самым востребованным.

    А вот для бизнеса балансировщики на 2-4 симки оказались как раз кстати.

    Кому полезно


    Хорошо, если у вас в компании отличные сетевые администраторы, да и с провайдером все здорово. Но бывают случаи, когда резервирование спасает привычный рабочий уклад.

    Большая часть клиентов, которые активно используют наш продукт, это компании, у которых есть сложности с проводным каналом связи. Причин тому множество — это может быть провайдер-монополист в бизнес-центре, это может быть расположение магазина не в здании, в котором проводной канал есть, а в небольшой пристройке к нему, в которой этого канала уже нет. Скажем, небольшой крытый рыночек в шаговой доступности от жилых домов. А тянуть к такой пристройке линию от основной ВОЛС или сложно, или невыгодно.

    А ещё есть клиенты с передвижными офисами или сезонным бизнесом, включая организаторов мероприятий. Наш балансир (читай — роутер с симками и специальным софтом) это небольшая коробочка, которую можно быстро взять с собой, подключить на месте, и все заработает. Допустим, есть страховая компания, которой надо много и часто разворачивать свои офисы на новых местах. Пока такой новый офис обслуживания клиентов полноценно и со всеми документами подключат к сети, может пройти неделя. Если же использовать балансировщик MultiSIM, достаточно будет закинуть его в офис с первой же поставкой мебели и бумаги для принтеров, после чего его просто включат и тут же получат рабочую сеть с защищенным доступом к корпоративным ресурсам.

    Как только офис подключают к полноценной проводной сети, балансировщик можно просто убрать и отложить его до следующего такого случая, или же оставить как запаску при аварии на сети.

    Банки. Подавляющее большинство банкоматов подключены к сети именно по мобильной связи, внутри у такого банкомата стоит свисток с SIM-картой, который и обеспечивает связь. Этого обычно хватает с запасом, потому что обмен процессинговыми данными с точки зрения трафика — это на самом деле копейки, а торренты качать с банкоматов никто не будет. Если только ради интереса. Кроме этого, подключение банкомата по мобильной сети делает его немного мобильнее: в рамках торгового центра, скажем, его можно будет достаточно быстро передвигать с места на место, ориентируясь только на наличие розетки поблизости, а не на интернет-кабель.

    Раз есть плюсы, будут и минусы. Главный — в свистке стоит только одна SIM-карта. Поэтому если конкретно у этого оператора возникнут проблемы, то банкомат временно выходит из строя и не может связаться с банком. Банки же не любят такое, во-первых, по причине потери денег (каждый час простоя банкомата это неиллюзорная потеря средств), во-вторых, такие простои не очень хорошо сказываются на лояльности клиентов. Пришли вы в ТЦ к банкомату срочно снять деньги, а он тупит.

    Мы-то с вами сейчас понимаем, что с большой вероятностью это может быть проблема с сетью, но для конечного человека, ожидающего хрустящие наличные через минуту, источником проблемы всегда будет сам банк. Раз не работает банкомат конкретного банка = дурацкий банк, вот всё у них так. Балансировщик в случае чего переключит сеть на вторую симку. Ситуация, когда в городе синхронно легли сразу два разных оператора, происходит сильно реже, чем временные поломки у одного.

    Плюс не забываем про создание ситуационных центров и оперативных штабов экстренных служб и госорганов. Для них критично развернуть защищенную сеть, чтобы иметь возможность полноценно работать со всеми своими внутренними базами данных из любого места, будь то поле или болото. Сейчас процесс развертывания подобной сети выглядит так:

    • экстренные службы приезжают на место и выгружаются;
    • устанавливают USB-свистки с симками операторов;
    • ищут фиксированную точку присутствия операторов (для этого у них есть контакты всех операторов по такому случаю);
    • прокидывают канал (или просто до интернета, или сразу до своей сети);
    • накладывают на всё это сверху своё специальное оборудование;
    • разворачивают сеть.


    Вроде бы, пунктов не так много. Но процесс может занимать пару дней. С балансировщиком всё укладывается в 5 минут. Достал его, включил, и всё. О балансе думать не надо (это уже мы со своей стороны самим держим руку на пульсе, независимо от того, симки каких операторов использует клиент), плюс устройство можно не держать в тепличных условиях, а вообще закинуть на крышу передвижного вагончика, где ловит лучше — защита по IP67 вполне позволяет это сделать.

    Особенности резервирования


    Девайсы, обеспечивающие резервирование, в общем-то, работают по похожему принципу, что и балансировщик, но с парой особенностей. Во-первых, симок тут всегда только две. Во-вторых, работают они по очереди, то есть активна всегда лишь одна, тут не производится никакой склейки каналов.

    Установка со стороны клиента выглядит так же просто — ставится роутер, в который залит специальный скрипт на Python, и работает он в режиме LTE-модема, при необходимости переключаясь с первой симки на вторую (скрипт делает это автоматически в зависимости от срабатывания тех или иных триггеров). Дополнительной плюшкой тут является не только работа как LTE-модема вчистую, но и работа по кабелю. То есть, если у вас есть доступ по кабельной сети, в роутер можно воткнуть кабель и работать по нему. Если с кабельным соединением что-то пойдет не так, включится LTE-канал. Выходит такое вот резервирование кабельного сигнала при желании.

    Здесь мы всё делали сами, без привлечения партнеров или сторонних подрядчиков.

    Ключевая характеристика работы с резервированием — это VPN only. Да, всю сеть мы строим через VPN-туннель. Все симки, установленные в таких девайсах, находятся в единой VPN-сети, поэтому если её для пробы вынуть из устройства и вставить в привычный смартфон, работать оно не будет. Устройство резервирования через VPN-сеть прокладывает туннель до нашего шлюза, куда и выходят клиенты. В принципе, для конечного клиента тут нет никакой разницы, за исключением размера конечного нефрагментированного пакета.

    При этом мы сохраняем за конкретным клиентом один и тот же IP и соответствующие настройки. Работает по кабелю, переключается на симки, решил перенести устройство куда-то — IP будет тем же самым.

    Есть еще две полезные функции для корпоративных клиентов.

    Во-первых, Wi-Fi. Устройство работает как ограниченный маршрутизатор сети, своеобразная точка между оператором и клиентом, при этом может работать и как привычный клиентский маршрутизатор по заранее обусловленному набору правил. Ничто не мешает накинуть на это сверху Wi-Fi, чтобы корпоративный клиент смог раздавать своим сотрудникам быстрый Wi-Fi. Замечу, что в этом сценарии мы говорим именно о корпоративной рабочей сети, а не общедоступном Wi-Fi с авторизацией по SMS, как в кафе и прочем.

    Во-вторых, имеется встроенный SIP-шлюз. В роутере есть маленькая PBX, которая может работать с нашей облачной АТС и давать клиенту возможность прямо к роутеру подключать аналоговые телефоны. В конце этого года мы планируем развернуть полноценный сервис, multisim-резервирование + Wi-Fi + облачная АТС, пока всё это в тесте. Есть задумка предоставлять такой сервис в формате двух сущностей — или сразу с нашей ОАТС, или с АТС, которая уже есть у клиента.

    Допустим, есть у клиента своя IP VPN-сеть без доступа в интернет и своя PBX на Asterisk, он дает нам свои настройки, а мы настраиваем все так, что клиент получает на выходе роутер, у которого есть сразу две абонентские линии, Wi-Fi и IP VPN-доступ.

    Как подключить


    Вот на этих страницах.

    Резервирование интернет-соединения.
    Объединение мобильных сетей.

    Пока же проводим активное нагрузочное тестирование. О результатах тоже отпишусь отдельно. Если у вас есть какие-то вопросы по работе нашего MultiSIM — задавайте в комментариях, отвечу.
    Билайн Бизнес
    Компания

    Комментарии 6

      0
      Несколько вопросов.
      Кому принадлежат Симки сторонних операторов, который установлены в балансировщик? И кто их настраивает?
      А что будет если упадет ваш шлюз — канал схлопнется даже при наличии связи?
      Что мешает клиенту на средне и слабо нагруженных каналах (те же банкоматы) не воспользоваться настоящей MultiSIM (MultiIMSI) симкой, просто вставив её в устройство. А она уже будет перещелкивать операторов по необходимости.
        +1
        У физика спокойно часы, телефон, планшет. 3-5 операторов, — на всякий случай.
        … и немножко гемороя, запоминать всё это.
          0
          Стационарно установленный роутер-балансировщик полезен только в случаях когда ближайшую вышку сотового оператор сбило ракетой и роутер автоматически переключился к другому оператору. Наверное есть люди готовые платить за такую возможность в 5 раз больше чем стоит один USB модем, но скорее нет.
          Решение по объединению нескольких каналов передачи данных должны решать следующие задачи
          1. увеличение пропускной способности с утилизацией суммируемых каналов с не менее 80% (иначе это спорное увеличение пропускной способности)
          2. увеличение надежности передачи данных. Это когда падение любого канала кроме последнего не вызывает разрыв соединения и влияет только на скорость передачи данных

          Более подробно о том, как решаются эти задачи тут
            0
            Красивый ролик, приятная музыка. Очень на фэнтизи похоже, особенно учитывая что в один поток на TCP «выжрали» всю полосу. Дальше первого «теста» смотреть не стал. Ну и решение по объединению каналов нужно и работает, когда количество потоков данных хотя бы равно числу каналов. Тот же банкомат, из примера выше, строит vpn тоннель до процессинга. Ему что один канал, что 5 без разницы. Гипотетически можно предположить вариант с некой точкой от которой тоннели с этой многоканальной железки сходятся и там уже попадают в сеть (корпоративную или интернет не важно) тогда можно пакетики в рамках одного соединения распихивать по разным каналам и заниматься борьбой с reordering в «точке сбора». Особенно весёлым это занятие становится на RTP. А так агрегирование нескольких каналов выигрыш даёт практически неизмеримый. Для целей резервирования то что надо.
              +1
              Очень на фэнтизи похоже, особенно учитывая что в один поток на TCP «выжрали» всю полосу


              К сожалению, то что у нас в стране принимают за решение по агрегации — практической пользы имеет чуть меньше чем совсем. Запускают 10 потоков на 4 модемов и показывают пальцем как это здорово, в то время как Linux из коробки умеет делать умные bonding интерефейсы, но целевую задачу это тоже не решает
              100% компаний на рынке, которые заверяют что делают «агрегаторы», имеют утилизацию агрегируемых симметричных каналов в один поток не выше 40%. На несимметричных (например в одном 50 Мбит/с а на другом 2Мбит/с) не более 25%. Это значит, что имея 4 модема по 10 мегабит, выходной канал будет 4*10*0,4. Суть понимаете? 4 модема в один поток дадут такую же скорость как дал бы один.
              Если для кейса с пользовательским трафиком чтобы посерфить в интернетах, где каждый получает небольшую полосу отдельного модема, такие решения могут работать, то вот для промышленных систем уже никак. Попробуйте передать качественный видео-поток там где любой один 4g модем не справляется и вы увидите что существующие решения на 4 модема также не справятся.

              Приходите в нашу лабораторию. Я лично покажу как правильно работают системы суммирования пропускной способности и отказоустойчивости каналов передачи данных.
              Upload 900Мбит/с на 16ти модемах — это тоже правда.

            0
            Каждый балансировщик производит сложение полос пропускания каналов, которые подаются с сим-карт, и работает с сервером агрегации. Сервер находится в нашей сети, на стыке нашей сети и сети партнёра, и мы получаем рабочий канал

            интересно больше деталей по реализации: какой протокол (mptcp? mpudp? что-то своё?), как реализован congestion control, с какими альтернативными реализациями сравнивали и с каким результатом…

            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

            Самое читаемое