Как стать автором
Обновить

Архитектура национального видеохостинга: путь RUTUBE к 10 Тбит/с с использованием своей CDN

Уровень сложностиСредний
Время на прочтение7 мин
Количество просмотров12K
Всего голосов 52: ↑38 и ↓14+35
Комментарии60

Комментарии 60

национального видеохостинга

громко сказано

Ну орки доступ к нормальному видеохостингу не зря же поломали :)

Теперь вот локальные аутсайдеры голову подняли, красивые графики рисуют, об успешном успехе распортуют.

инфоргафика, превосходная. Моё почтение ребятам которые над этим работали
А сколько всего сейчас используется серверов для реализации CDN и каков полезный объем хранилищ? Решение оптимизировано явно не плохо и видно что есть куда расти, но рассматривался ли вариант нового "слоя CDN" и разнесение на большее количество локаций, раз вы упираетесь в сеть?

CDN сейчас 250+ штук, полезный объем 120ТБ.

Про новый слой CDN и оптимизациях мы расскажем в ближайшее время, тк в настоящий момент активно работаем над их внедрением. Если спойлерить, то мы планируем значительно снизить нагрузку на хранилище. Также расскажем про это здесь https://devopsconf.io/moscow/2025/abstracts/14164

полезный объем 120ТБ

Думал над этой цифрой, думал. И непонятно как-то - это много или мало) С одной стороны четверть тысячи серверов, с другой - объём 120Тб как-то вообще не поражает. Это же получается в среднем всего по 2Тб на сервер?

Так это на каждом 120тб, а не общее

А из комментария это непонятно. Хотя, наверное, логично)

молодцы рутубовцы!!!

Круто
А придумали механизм борьбы с деградацией серверов, чтобы потом видео не замедлялись? Один айти гигант не смог вот

Пусть учится у лучших

Просто будут менять серверы на новые с Эльбрусом )

Такой вопрос, вы сделали систему отказоусточивой. Только для чего ? Где вы собрались брать аудиторию с полным отсутсвием алгоритмов, неправильно работающим поиском, кроме того с конкурентами, которые все тоже самое могут предоставить, примерно в том жеиспонением. Вам нужно не над отказоустойчивостью и крутой системой думать, а об алгоритмам, о привлечении аудитории, другими словами вам надо все тоже самое, что у ютуба

Аудитория, судя по графикам, вполне есть и, как написано в статье - ребята решали проблему масштабирования сервиса . Вряд ли аудитории будет интересен поиск или рекомендации, если видео не проигрывается, а то и веб-интерфейс не открывается

Ну сейчас на ТВ, телефоне и компе рутуб оперативно открывается. Это прям достижение. Правда загрузить туда ничего нельзя и контента нет. Там просто нечего ранжировать, хотя алгосики очень нужны.

Объём видеохранилища на сегодня составляет более 250 Пбайт, в нём хранится около 400 млн видео и каждый день их количество увеличивается в среднем на 1 млн — столько новых видео пользователи в среднем загружают на платформу. 

Прям уж нет контента =)

Сделать рабочий рекомендательный сервис, конечно, посложнее будет, чем сделать CDN. Но не будем терять оптимизма

Каналы на Ютубе массово жалуются при попытке перехода, да и тонны не релевантного контента не аргумент.

Для начала "фундамент" должен надежно работать, а потом уже все остальные опции. Я вот не люблю, когда инженеры отстают от идей маркетологов, а идей можно много нагенерировать, только вот какой от них толк, если все жуть как тормозит или вообще не работает.

Тут ж статья про развитие инфраструктуры от человека, который этим занимается. А вы пишите Инфре про алгоритмы, поиск и конкурентов - этим всем занимаются другие люди. Логичное поступательное развитие сервиса, каждый на своем направлении что-то делает. Вы ж не предлагаете инфре сидеть ждать, пока разработчики допилят поисковый алгоритм, а потом резко поднимать сервера?)

Хочется верить в отечественное, но первый абзац должен был быть написан так: количество пользователей, количество видео, трафик и еще 100500 показателей выросло на 146%, но сервис с точки зрения конечного юзера как был дном, так там и остался. Показатели и инфографика хороши для стейкхолдеров, но реальность земная, она увы пока другая

Смотрел раньше, ютьюб чрез VLC, на скорости 3.5 (видео открывалось по щелчку колёсиком), очень экономит время в обучающих и информационных видео. РуТьюб на телевизоре вообще не даёт изменять скорость, несколько месяцев назад просил в техподдержке, ответили отказом - разработчикам сообщать не будут и это не ошибка. (телек LG если что - в нашей стране распространённая марка). Пару раз приложение обновлялось за это время. VK - аналогично, хотя я был готов топить за любу платформу, предоставляющую подобную фичу.

Итого, видео, практически не смотрю, кроме 2 информационных каналов, и те только на компьютере. Те кто прокачал такой же скил меня поймут - смотреть "пьяюную жвачку", просто невыносимо! Добавьте скорости!!!

P. S. Пусть, даже это будет только в премиум подписке, но тогда уж до 4x.

Заливает он.гавно полное ваш рутуб.

Американцы интересно в курсе, что у них физически находится CDN одного из российских видеохостингов? У них же вроде было строго с иностранными агентами, FARA и т. д.

национального видеохостинга

Какие громкие слова

с июля 2024 года большинство аудиторных и технических показателей RUTUBE выросло в разы

Интересно, с чем это связано

В век клипового мышления

А оно сейчас с нами в одной комнате, это клиповое мышление?

В общем, ждём статью про разработку рекомендательных алгоритмов. Ах да, а зачем они телевизору. Тогда хотя бы про механизмы борьбы с деградацией серверов.

Вы, если что, не удивляйтесь такой реакции — популярность, построенная на чужих костях, она такая.

Всё чаще замечаю, что Хабр читать очень неприятно - на вроде бы техническую статью льётся куча ненависти. Писали статью о надёжности и производительности, а в комментах "говно", "чужие кости", "дно". Какое отношение это имеет к CDN, не ясно.

С нетерпением жду статьи о каком-нибудь устройстве автомобиля с комментами вроде "колёса-дно", "зачем автомобиль, если жизнь полный отстой".

Выше в комменте хорошо высказались на этот счёт: "Вы, если что, не удивляйтесь такой реакции — популярность, построенная на чужих костях, она такая."

Если бы Рутуб бился за пользователя в честной конкуренции - реакция была бы несколько другой.

"Честность" тут относительная. По-моему RUTUBE столь же "виноват" в замедлении Youtube, как и последний в том, что доступность высокопроизводительного оборудования для RUTUBE ограничена.

По-моему как youtube не должен ограничивать свое развитие из-за того, что rutube сложно найти эквивалентное оборудование, так и rutube не должен ограничивать себя в развитии из-за трудностей конкурента.

По-моему RUTUBE столь же "виноват" в замедлении Youtube

Виноват, т.к. смотрите начало статьи.

По-моему как youtube не должен ограничивать свое развитие из-за того, что rutube сложно найти эквивалентное оборудование, так и rutube не должен ограничивать себя в развитии из-за трудностей конкурента.

Проблема в том, что Ютубу наплевать, ему и без нас хорошо. Рутуб тоже хорошо, т.к. он бесплатно получил приток пользователей. В этой ситуации страдаем только мы- обычные пользователи, причем еще и за наши же деньги. Т.е. классический пример выстрела себе в ногу.

из-за трудностей конкурента.

Как я писал выше, у "конкурента" вообще никаких трудностей.

Не могу с вами согласиться, но это и не требуется: разные люди, разные мнения. Я также обычный пользователь и, в отличие от вас, нахожу в конкуренции сервисов плюсы как принципиальные, так и конкретные. Rutube (как и VKvideo) мне, например, нравятся отсутствием рекламы "от сервиса" (по крайней мере до сих пор) и возможностью слушать выпуски в режиме "подкаста", положив телефон в карман, тогда как Youtube за эту функцию (как и отключение рекламы) требует денег. Необходимость VPN для Youtube - также минус в его использовании и наличие альтернатив, такого подключения не требующих, для меня плюс.

Необходимость VPN для Youtube - также минус в его использовании и наличие альтернатив, такого подключения не требующих, для меня плюс.

Подождите, вы ведь понимаете почему появилась такая необходимость в VPN? И в чьих интересах появилась эта необходимость?

Насколько я понимаю, площадка игнорировала требования российских властей, за что и поплатилась. Справедливо ли требование соблюдения локального законодательства в изначально безграничном Интернет - вопрос дискуссионный. Как мы видим на практике в общем и целом он решается в пользу того, что требования локального законодательства выполнять придется, если есть желание работать в данной юрисдикции (взять, к примеру, арест Дурова в ЕС за "недостаточное сотрудничество" Telegram с тамошними госслужбами, а сейчас власти Британии от Apple требуют доступа к защищенным данным пользователей в облаке).

Я бы конечно предпочел, чтобы Youtube соблюдала законодательство, а доступ к сервису сохранился в полной мере, но как вы сами написали "Ютубу наплевать". Что же, получил себе "лишний" конкурентный недостаток, а конкуренты - преимущество. Конкуренция - это хорошо, монополизм - плохо.

А не подскажете юридические основания, что именно нарушил ютуб, какие есть решения суда или государственных органов? Что-то я не нашёл.

Я не искал и тоже не знаю таковых. То, что замедление youtube - следствие решений наших (российских) органов власти, как и мотивы таких решений - мое предположение. Конечно, вы можете с ним не согласиться и парировать тут мне нечем.

Мне кажется это произвол, в РФ есть законы и процессы по которым ограничивают интернет сервисы. Я может с ними и не согласен, но порядок хотелось бы соблюдать. Пока мне кажется что если законы игнорирует даже само государство, то и общество может законы игнорировать.

Был ли нарушен порядок я не знаю (судебное решение, вообще говоря, не обязательно, согласно закону есть и внесудебная процедура ограничения; ну а российское юрлицо Гугла - владельца сервиса, было наказано через суд), но если, положим, он было нарушен - нарушен он был конкретным ведомством, а не абстрактно "государством".

Посмотрим с другой стороны: среди членов общества, к сожалению, есть убийцы. Но это ведь не повод государству (раз уж вы противопоставляете общество и государство) заявить всему обществу: если "вы" убиваете, то и относиться к "вам" (всем вам) нужно как к убийцам.
Преступление совершают конкретные люди, так и установленные порядки нарушают конкретные юрлица и ведомства руками должностных лиц.
И те, и другие достойны наказания и порицания, и те, и другие, не являются оправданием правонарушений для кого-то еще - по моему так.

Какое отношение это имеет к CDN, не ясно.

А какую реакцию ещё можно ожидать. Не спорю, с технической точки зрения всё хорошо (хотя я бы хотел больше подробностей). Но я ещё и человек, у которого отобрали то, что ему нравится и навязывают ЭТО.

Да, это

Сервис, который был скорее мёртв, чем жив, года так с 2011-13 (спасибо, ГазпромМедиа, за рекламу по 3 минуты с вопросами после неё), и который воскресили. Просто потому что надо сказать своё "Фи".

И самое главное — всё может стать ещё хуже.

С нетерпением жду статьи о каком-нибудь устройстве автомобиля с комментами вроде "колёса-дно", "зачем автомобиль, если жизнь полный отстой".

Не поверите, будь это АвтоВАЗ, я бы так же реагировал, цены на авто давно видели? Можете ради интереса посмотреть тарифы утильсбора и растаможки.

Да, пишу эмоционально, уж извините, накипело :)

Тут несомненно продвинутая, всесторонне развитая публика с независимым мнением, средний IQ которой существенно превышает общепопуляционный. Ещё не публиковался, но читаю давно и у меня сложилось такое мнение.

Хочется поставить эксперимент в виде публикации, которая соберёт максимальное количество лайков и кармы, которую "невозможно не лайкнуть". Надо попробовать помайнить лайки, карму и всё, что можно поднять и объективно оценить на этом ресурсе, естественно в рамках правил ресурса и действующего законодательства. Есть опыт фарминга на других сетевых ресурсах, вплоть до получения максимального рейтинга. Посоветуйте тематику статьи-лайкосборника.

Хороший подробный diy на микроконтроллерах с интересной темой. Раньше это всегда собирало плюсы)

Я знаю тему, которая популярнее и интересна не только узкому кругу гиков, который узок и здесь :). Фарминг на ней проверен и безотказен.

Когтеточки?

Позавчера просто включил мультфильмы с флешки т.к. рутуб или не запускал видео или прерывал показ минут через 5. И такое вижу раза два в неделю.

Хорошая интересная статья. Но таких нужно больше. Если вы сами не будете рассказывать историю про себя, ее расскажут другие.

Нужно больше технических статей. Работы еще много и нужно делать. Работать с аудиторией в проф. среде.

Слушать ИТ сообщество в отношении вас и рефлексировать. Это все важно и на долго.

П.С. Возможно имеет смысл рассмотреть выкладывание каких то своих внутренних продуктов на ОпенСорс (которые на самые стратегические, но удачные)?

Вам удачи!

...Работы еще много и нужно делать...

Может не надо? А то у нас тогда в Инете совсем ничего не останется...

Почему? Смотрите:

Идут процессы о которых мы все знаем и видим; и скорее всего дальше будут идти; и долго и много. Нравится нам это или нет. Но они идут.

А дальше мы можем об этом всем узнавать только мнения сторонних наблюдателей + псевдо-инсайды или слухи. И этого предостаточно в отношении РуТьюба. Каждая новость обрастает слухами и уже давно сложно найти хоть что-то интересное и подтвержденное.

А можем - какую то часть получать непосредственно от людей изнутри. Как к этой инфе относиться - сообщество решит само. Но получить еще один (новый и оригинальный) канал информации об этом процессе - мне кажется нормальная тема.

П.С. Плюс эта статья - чисто техническая. А экспертизы открытой по этой теме не много. И делалось это все обычными трудягами ИТшниками. Так что тут тоже вполне себе.

А позже в диалоге с комьюнити, глядишь, может и прольется немного свет на детали не-технических решений по РуТьюбу, которые всех интересуют. Но для этого нужен инфо канал. А это способ его наладить.

Идут процессы о которых мы все знаем и видим; и скорее всего дальше будут идти; и долго и много. Нравится нам это или нет. Но они идут.

И кто же в этом виноват?

Каждая новость обрастает слухами и уже давно сложно найти хоть что-то интересное и подтвержденное.

О чем вы говорите? Всем уже давно все ясно. Что произошло, как произошло и, главное, ради чьих карманов это произошло.

А можем - какую то часть получать непосредственно от людей изнутри. 

Вы сейчас про технику или про что? Да даже если про технику. Кто вам сказал что это все правда? Если вам каждый день врут, то есть вероятность что и тут тоже.

П.С. Плюс эта статья - чисто техническая.

Текст может быть и да. Но, как я писал выше, мы все понимаем что произошло. И кто тут зло. Поэтому в такой ситуации люди будут выражать свое "Фи!" там где это пока можно, даже и в таких статьях.

И делалось это все обычными трудягами ИТшниками.

Ну да, щас айтишникамм же тяжело. Приходится работать вот в этом...

...которые всех интересуют. 

Не буду говорить за всех. Но мне кажется многих тут больше интересует когда это закончится. Как это закончится для рутуба и так понятно, уже проходили. Можно посмотреть на тот же Автоваз.

Спасибо за поддержку! Очень откликается, что если не расскажем сами, то расскажут другие. Планируем больше писать на Хабр и выходить в паблик с техническим контентом.

Приходите рассказывать всякое техническое про видео на VideoTech https://vtconf.com/callforpapers/

Уже думаем над темами для докладов ;-)

А если они ещё и порно будут хостить, то уууу.

Эта ниша за вк

уже нет, они же удалили фильтр безопасного поиска

  • Естественно вся загрузка и нарезка происходит чанками — по 3–6 Мбайт. 

То есть у вас транскодинг происходит на лету, отдельными чанками на разных транскодерах? Или загруженный файл транскодируется целиком, а уже потом нарезается на отдельные чанки (для HLS или DASH)?

второй вариант получается, нарезаем калтурой (Kaltura)

количество ежедневных пользователей выросло почти в 4 раза

Заокеанским лузерам надо поучиться у эффективных менеджеров под руководством господина Ж., победивших супостата в честной конкурентной борьбе.

Ну о каком национальном видеохостинге и скорости доставки контента можно говорить, если у вас до сих пор после загрузки видео идет модерация от 2 минут до 1 часа. Это я тут подумал о том, чтобы канал СМИ сделать, зашел и удивился. Это же невозможно использовать для новостей с такой задержкой. А главное зачем - остальные же обходятся без модерации.

Про то, что у вас чтобы получить код встраивания shorts надо вручную править URL в адресной строке вообще слов нет.

Одна из немногих российских компаний, кому не желаю развития.

К техническим специалистам из рутуб у меня нет никаких вопросов. Ребята молодцы и делают свою работу. Но вот менеджмент, я от всей души желаю им всего наихудшего. Худший сервис чем рутуб ещё нужно поискать, и за последний год, несмотря на то, что они пролоббировали запрет Ютуба, их сервис лучше не стал и не похоже, что вообще кто-то там задумывается над его улучшением. Видимо, они считают что пипл будет хавать и так.

Это же типичная ситуация, когда сначала надо занять долю рынка, продать обещания, а потом уже что то делать. Буквально все импортозамещение на этом стоит

У меня есть. Я не понимаю, как 14-секундное видео в 1,87 мб может вдруг начать обрабатываться почти час. Причем другое будет нормально, со следующим опять такая история. Ладно рекомендательные алгоритмы, они с базовой функцией видеохостинга пока не очень справились. Им пользоваться практически невозможно. Зато текст красивый про CDN.

О, а rutube, оказывается, видеохостинг? Видеохостинг это ютуб, а rutube - сайт с пиратскими фильмами. Скорее «национальный сайт пиратских фильмов и закупленного контента». Гроза lordfilm)

Зарегистрируйтесь на Хабре, чтобы оставить комментарий