Comments 40
Словом у вас получается полезная емкость - половина от сырой. Довольно расточительно.
Мы минимизируем риски потери пользовательского видео, используем две реплики
А энергопотребление стойки в которой 900 дисков не "ой-ой-ой"? А то там ведь под 20 киловатт в неудачный момент может быть, а потом эти киловатты надо еще и в охлаждение увести.
Уверен, тут большинство не переносят рутуб, но техническая сторона от этого интереснее не становится. Спасибо, что делитесь ❤️
Норм 👍
стоимость хранения на SSD в 10 и более раз превышает стоимость хранения на традиционных жёстких дисках
Это как посчитать, на графике HDD должен стоить уже меньше $10/TB, но тот же Seagate 36TB стоит $800 или $22/TB. Для сравнения KIOXIA LC9 на 245.76 TB будет стоить порядка $16000 (для сравнения цена на 122TB сейчас $8000) или примерно $66/TB что как раз в 3 раза дороже HDD. Вот только теперь понадобится почти в 7 раз меньше дисков/серверов/стоек, так что CTO вряд ли в 10 раз больше.
И это в сегменте "самых емких". А если брать обычные 1 - 2 тб, там ссдшки иногда даже не в 1.5 раза дороже.
Ну должна же быть какая-то скидка за опт (нет) :)
Вообще уже сейчас доступны Lenovo ThinkSystem SR650 V3 в формате 2U с поддержкой 36 дисков 2.5" NVMe SSD на PCIe 5.0 и с Intel Xeon Gold. То есть пока паритет 900 SSD против 900 HDD в стойке, но когда перевыпустят старый Supermicro SuperStorage Server SSG-2028R-NR48N на 48 дисков будет 1200 SSD на стойку (сейчас все скорее всего упирается в количество PCIe линий). В 2027 весь RuTube влезет в 1 стойку
А скорости hdd хватает для отдачи, например, 4k видео (скоро и 8k) ?
Статья называется хранилище на 400 ПБ. При этом внутри речь идёт о самописном ПО, которого нет в открытом доступе. Какая польза тогда от этой статьи? Смотрите - мы используем самописное ПО, которое вы нигде не увидите и никак не попробуете, но оно у нас есть и работает очень быстро и стабильно. И что?
По поводу MinIO - кто мешает в бакетах так же делать несколько уровней вложенности на основе uuid? И откуда утверждение, что после 100К файлов в бакете всё начинает тормозить? Кстати, кто придумал дергать куски uuid из его конца, чтобы делать вложенность? Разве с начала не логичнее? Т.е. файл 63bf5103.mkv должен лежать в папке /63/bf, а не в папке /51/03. Даже глазом так неудобно читать.
По поводу "чем больше дисков в сервере, тем выше плотность" - так это итак понятно, без статьи.
Мы видео в принципе раскладываем по папкам и храним в минио. Но мы сразу его нарезаем в HLS - удобно для воспроизведения. А если нужен просто единый файл то он налёту ффмпегом создается
Хм, статья больше похожа на оправдание, почему используется HDD… ну и ответ - потому что гладиолус, т.е. закрытое свое собственное ПО, которое из овоща делает золотую карету для принцессы)))) не, с технической стороны - интересно, хотя идеология использования обычных хардов в овер-дохуха объемах, на самосборных платформах - двигалась зарубежными хостерами еще лет 10-20 назад, и так же говорилось, что суть не в скорости, а сколько вам место выделено, правда тогда сравнивали сравнительно новый интерфейс sata с теми же scsi, sas, а сейчас, когда ssd недалеко уходят по цене от hdd - ну такое себе
2x SSD минимум 480Gb под ОС (Hardware RAID)
А это не оверхэд?
Интересно, не использование СХД это действительно изначально целевое решение или больше от безысходности, так как те же Lenovo уровня enterprise проблематично в РФ притащить, а "импортозамещенные" по цене "крыла сбитого Боинга"?
Когда нужно вечно хранить гигантские объмы данных, их хранение превращается в ключевую статью расходов. И чем больше этот массив, чем дольше срок его хранения — тем острее встает вопрос экономической целесообразности.
Стоимость хранения одного гигабайта становится не просто метрикой, а стратегическим KPI прибыльности.
За статью спасибо, правда интересно. Прошу прощения, но есть фундаментальные проблемы в территориальном расположении и эффективных менеджерах. И даже важные дяди не могут заставить меня смотреть то, что они хотят. Я буду смотреть то, что мне надо. И вопрос этики остаётся открытым
Вот такие статьи могли бы быть частью кампании по привлечению аудитории. А не блокировка конкурентов. Но увы... А репутация теперь навсегда испорчена.
И все равно нет. Нет здесь тех видеоматериалов, которые мне нужны.
Загруженное видео нам нужно преобразовать в формат, который мы потом сможем показать на всём многообразии пользовательских устройств. Соответственно, перед тем как положить видео в основное видеохранилище, нужно его перекодировать
У пользователя есть возможность подобрать на своём компьютере для сохранения видео такие параметры кодирования, чтобы оно в оригинальном разрешении было доступно в исходном качестве? Или ваша система принудительно пережёвывает любое загруженное видео, с сопутствующими потерями от сжатия?
Предположим ты загрузил нам видео в 720p значит видео фаил будет кодирован и оптимисирован в следующие качеста:
240p,360p,480p,720p
Видео всегда будет перекодироваться.
Но зачем 720p перекодировать в 720p? Ютуб такой "оптимизацией" для оригинального разрешения не занимается, если загруженное видео соответствует его требованиям. Как к вам загружать демонстрационные видео, которые должны быть в наилучшем качестве?
Насколько мне известно YouTube перекодирует ВСЕ загруженные видео без исключения.
Вы не знаете внутренние алгоритмы YouTube. Алгоритмы перекодирования YouTube оптимизированы под его огромную инфраструктуру и битрейты. Ваш конвертер может использовать другие настройки, которые могут быть хуже.
Лучшей выход залить нам видео в максимальном качестве которое у вас есть. так как двойное перекодирование это плохо.
Ютуб хранит исходник видео (его можно запросить через выгрузку архива), и сразу перекодирует его в AVC1. Если разрешение видео 1440р и выше, то еще и в VP9. Если видео популярное, то вдобавок в AV1. То есть по три кодека на каждое разрешение.
Там много нюансов, кодеки зависят и от разрешения и от популярности канала.
Скрытый текст
RUTUBE — видеохостинг, а не банк. Мы не закладываем требование стопроцентной сохранности данных
Наслышаны, наслышаны!
1.Что с энергопотреблением на стойку?
2. Засыпание дисков используете ? Какой сценарий? Или как экономите?
Я понимаю, что вы подневольные люди, но разве вам нравится продвигать провластные нарративы?
Собственное файловое хранилище для 400 Пбайт видеоконтента