Как стать автором
Обновить

Анализ производительности контроллера Broadсom 946N-8i 2Gb

Уровень сложностиСредний
Время на прочтение3 мин
Количество просмотров4.5K
Всего голосов 6: ↑6 и ↓0+8
Комментарии15

Комментарии 15

Хоспадя, ну сколько можно тестировать скорость SSD кэша, указывая в CrystalDisk мизерный размер тестовых данных в 1(!) ГБ при кэше в 2(!) ГБ только на контроллере?!

А ещё на накопителях (нормальных) стоит своего кэша по 0,5 ГБ и более.

Что вы хотите померить и проанализировать таким способом?

Поставьте хотя бы 32 ГБ, но лучше 64, а правильно - натравить на него тот же IOmeter на часок-другой. Хотя это уже тест накопителей будет.

А вот для тестирования именно контроллера надо было не 2 накопителя цеплять, а под завязку - все 8 каналов нагрузить. И в RAID6 их собрать, что бы процессор там напрягся. То и будет видна производительность контроллера, как вы планировали.

А так мы увидели, что кэш на контроллере быстрее, чем PCIe x8. Как неожиданно, просто удивительно: какой быстрый там кэш!

+поднять Debian или Ubuntu посвежее с ZFS и протестировать производительность FS, когда диски в JBOD или RAID0...

Дело в том, что ZFS поддерживает только HBA контроллеры, но не поддерживает RAID контроллеры, поэтому ZFS мы конечно будем тестировать, но с другими контроллерами типа Broadcom 9400-8i

ZFS поддерживает любое блочное устройство.
Да, с аппаратными рейдами (не в HBA режиме) есть нюансы с кешем записи.
Но я не зря указал режим JBOD и RAID0 для каждого диска.
Заодно протестите RAID на логику детекта бэдов и отдачу статистики SMART с каждого диска...

Полностью согласен, но идея статьи именно анализ производительности хардового рейда, а не софтового

Во-первых, Вы наверно путаете обычные SSD SATA диски и NVMe, данный контроллер имеет несколько режимов Tri-Mode: один из режимов - это подключение до 8 дисков SATA или SAS (максимально до 8 дисков), но в этом режиме NVMe диски не поддерживаются, выбирая профиль 11, дает возможность переключить контроллер в режим поддержки NVMe дисков, тогда можно подключить максимум 2 NVMe диска, а RAID 6 из двух дисков не собрать.
Во-вторых, мы действительно тестируем контроллер с кешем и максимальную производительность получили только, если кеш используется, а это очень полезно для высокопроизводительных БД, где важна скорость, а не объем данных.

Хочу еще добавить про кеш самих накопителей - ведь он не дает гарантию, что данные будут сохранены при внезапном отключении питания! А у контроллера есть батарея, которая даже при полном отключении питания, гарантирует, что данные сохранятся на встроенную плату CacheVault

а это смотря какие накопители — у интела на эту тему была Extended Power Loss Prevention, у самсунга что-то аналогичное, суть — куча конденсаторов и алгоритм аварийного сброса всего во флеш при пропадании питания.

Нет, диски не путаю.

Если у этого конкретного контроллера есть такое ограничение по кол-ву подключенных накопителей NVMe - возможно стоило на это обратить внимание в тексте более явно. Не все прочитавшие в курсе нюансов возможностей той или иной модели контроллеров. Я вот например закончил с ними знакомство где-то на 92хх или 93хх моделях, и с тех пор перешёл на софтовые массивы как более гибкие и удобные.

Хотя ограничение логичное, т.к. 8 линий PCIe контроллера хватит как раз на пару NVMe SSD, которые как раз обычно используют 4 линии.

Вопрос вот тогда назрел. Если речь зашла про "скорость".

В вашем случае как раз именно контроллер выглядит узким местом, т.к. позволяет подключить всего 2 накопителя, в то время как уже доступны модели серверов с корзинами на десятки U.2 SSD. Это вот если реально надо скорость.

А для старого сервера проще (и сильно, сильно дешевле) воткнуть пассивный переходник с M.2 на PCIe - есть модели на 1,2 и даже 4 планки (16 линий PCIe). В результате всё так же требуется 1 слот PCIe , всё так же получаем от 2 шт. M.2 на 1 слот. Но без дорогущего контроллера, кабелей, переходников и "вот этого всего". А ведь это ещё и (не)одна точка отказа. И если сервер не очень древний - то есть шанс получить уже PCIe 4.0, и задействовать весь потенциал новых SSD.

А есть аналогичные пассивные переходники с PCIe x16 на 2(4) U.2 NVMe: если есть желание использовать правильные компоненты серверного класса. Там и кэш здоровый, и скорость стабильная, и защита от отключения питания есть.

После этого собираем нужный массив средствами ОС, и радуемся предсказуемому результату. А у вас кэш контроллера кончится - и херакс, кол-во IOps внезапно падает в n раз. Как раз когда привалил основной массив работы. Клиенты задают вопросы, напряжение витает в воздухе...

Хочу еще добавить про кеш самих накопителей - ведь он не дает гарантию, что данные будут сохранены при внезапном отключении питания

У многих (возможно что и у большинства) корпоративных накопителей предусмотрено резервное питание (на суперконденсаторах) как раз для возможности сброса кэша в основную память при выключении. Видел даже M.2 планки с такой защитой. Надо только уточнять спецификации перед покупкой.

Судя по вашему посту давно не пользовались хардовыми контролерами, а цель статьи - восполнить этот пробел и ничего более! Удачи вам и профессионального роста!

Аргумент (нет)

Скажите, а нет ли у вас опыта использования адаптеров NVME - SAS, о которых вы упомянули, в серверах HP Proliant с их родными контроллерами Smart Array? Интересно заработает ли там подобное решение.

Тут зависит о каких контроллерах идет речь, потому что линейка Smart Array довольно обширная, но на сколько нам известно HP чаще всего используют в своих контроллерах не чипы LSI/Broadcom, а их конкурента Adaptec/Microsemi

Интересуют контроллеры P420 (DL380G8) , P440 (DL380G9).

Серии HP 420-440 не поддерживают NVMe диски, но уже более современные HPE MR416i-p построены на базе чипа Broadcom - вот они поддерживают.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации

Истории