Согласно прогнозам Stratistics MRC, к 2023 году стоимость рынка технологий водяного охлаждения в ЦОД достигнет 4,55 млрд долларов. Под катом разбираемся в причинах роста спроса на такие разработки и рассказываем о самих технологиях, которые развиваются в этой области.
/ фото Rolf Brink CC / Система иммерсионного охлаждения
Одна из причин роста рынка — увеличение объемов обрабатываемых данных. Согласно исследованию IDC, к 2025 году объем данных, генерируемых человечеством, составит 163 зеттабайта. С ростом объемов данных растет и нагрузка на серверы в дата-центрах, особенно в тех, что занимаются высокопроизводительными вычислениями (HPC). Для охлаждения таких систем обычных воздушных установок уже недостаточно.
Например, для охлаждения тензорных процессоров Google (TPU), которые заточены под TensorFlow, ИТ-гиганту впервые пришлось использовать воду. Из-за того, что новое поколение процессоров (TPU 3.0) отличается мощностью и высоким энергопотреблением, воздушное охлаждение оказалось для них неприменимо.
Клайв Лонгботтом (Clive Longbottom), директор по сервисному обслуживанию аналитической компании Quocirca, отмечает, что воздух не настолько хорош в качестве теплоносителя: по сравнению с водой он от 50 до 1000 раз хуже отводит тепло от оборудования.
Кроме того, традиционные установки для воздушного охлаждения занимают больше места и потребляют больше энергии. А это сказывается и на счетах за электричество. Поэтому в машинных залах дата-центров, где постоянно повышается плотность оборудования, использовать воздух для охлаждения становится невыгодно. По этой причине вентиляторы в ЦОД Агентства национальной безопасности США заменили системой иммерсионного охлаждения (о других альтернативных решениях мы писали в одном из постов).
Вали Сорелл (Vali Sorell), президент компании Sorell Engineering, занимающейся техническим проектированием зданий и прокладкой инженерных коммуникаций, и Марк Хурикен (Mark Hourican), управляющий партнер консалтинговой компании Syska Hennessy Group, полагают, что ЦОД-индустрия пока не готова взять и полностью отказаться от «инвестиций в воздух» и целиком перейти на охлаждение водой. В этом случае придется полностью перестраивать всю инфраструктуру ЦОД, что довольно дорого.
Однако компании, которым приходится работать с большими нагрузками, уже разрабатывают и применяют жидкостные системы охлаждения.
Иммерсионное охлаждение. Одна из множества технологий жидкостного охлаждения — иммерсионное охлаждение (о котором мы уже рассказывали в блоге). Технология подразумевает полное погружение оборудования в специальную масляную среду. Главное достоинство технологии в том, что масло имеет более высокую теплопроводность, по сравнению с воздухом. Это помогает системе эффективнее поглощать тепло и удалять его избытки.
В 2015 году систему для погружного охлаждения представили Horizon Computing: в компании разработали специальный бокс для серверов, который заполняется минеральным маслом. Конструкция бокса поддерживает оптимальную температуру оборудования с помощью конвекции. Такой «контейнер» способен работать на улице без кондиционеров, а низкие затраты на изготовление и незамысловатый дизайн бокса позволяют использовать его без изменения инфраструктуры дата-центра.
Непрямое жидкостное охлаждение. Эту технологию уже используют в ЦОД Facebook: в начале июня компания продемонстрировала, как новая система охлаждения сделала ЦОД в Северной Каролине более энергоэффективным.
Представители Facebook отмечают, что в некоторых дата-центрах использовать фрикулинг невозможно из-за суровых природных условий или высокого уровня загрязнения воздуха (с этой проблемой, например, борются в Китае). Поэтому компания приняла решение разработать систему непрямого жидкостного охлаждения.
В основе системы лежит технология испарительного охлаждения. Вода для системы охлаждается в специальном теплообменнике, испаряясь через особый мембранный слой. Затем она охлаждает воздух внутри дата-центра, сохраняя оптимальную температуру серверов (схему работы технологии можно посмотреть в посте из блога Facebook).
Тестирование системы показало, что она способна уменьшить потребление воды в ЦОД на 20% (в местах с жарким и влажным климатом) и на 90% (в умеренных и холодных климатических условиях).
/ фото poolie CC
Теплообменники на задней части серверной стойки. В этом случае охлаждённая вода поступает непосредственно к стойке с оборудованием, удаляя избытки тепла. Эту технологию используют Lenovo в своем проекте Neptune: теплообменники уже применяют 30% клиентов компании для своих HPC-систем.
Помимо упомянутого теплообменника, в проект Neptune входят теплообменный модуль (Thermal Transfer Module) и система непосредственного охлаждения узлов (Direct to Node Cooling).
Модуль использует жидкость из теплопоглощающего резервуара, чтобы по специальным трубкам переместить избытки тепла от процессора в область с разреженным воздухом. Система имеет компактные размеры, потому позволяет уменьшить традиционный гул в серверной. А система непосредственного охлаждения доставляет холодную воду прямо к узлу и «снимает» лишнее тепло с ключевых компонентов системы.
Как говорят эксперты отрасли Сорелл и Хурикен, воздушное охлаждение полностью уступит водяному свое место тогда, когда применять его будет совершенно невыгодно или невозможно (например, из-за физических ограничений дата-центров). Однако специалисты прогнозируют, что переход не будет единовременным. Сперва распространятся гибридные технологии (например, системы на базе испарительных охладителей, как в Facebook), а затем уже будет осуществлен переход на прямо охлаждение с помощью воды.
В Lenovo также надеются, что применение водяного охлаждения выйдет за рамки HPC-систем и станет популярным среди обычных ЦОД. Для этого компания будет работать над снижением стоимости их реализации. Их цель — сделать системы водяного охлаждения дешевле и доступнее для обычных компаний.
P.S. Дополнительные материалы из Первого блога о корпоративном IaaS:
P.P.S. Статьи по теме из нашего блога на Хабре:
Основное направление деятельности компании ИТ-ГРАД — предоставление облачных сервисов:
Виртуальная инфраструктура (IaaS) | PCI DSS хостинг | Облако ФЗ-152 | Аренда 1С в облаке
/ фото Rolf Brink CC / Система иммерсионного охлаждения
Одна из причин роста рынка — увеличение объемов обрабатываемых данных. Согласно исследованию IDC, к 2025 году объем данных, генерируемых человечеством, составит 163 зеттабайта. С ростом объемов данных растет и нагрузка на серверы в дата-центрах, особенно в тех, что занимаются высокопроизводительными вычислениями (HPC). Для охлаждения таких систем обычных воздушных установок уже недостаточно.
Например, для охлаждения тензорных процессоров Google (TPU), которые заточены под TensorFlow, ИТ-гиганту впервые пришлось использовать воду. Из-за того, что новое поколение процессоров (TPU 3.0) отличается мощностью и высоким энергопотреблением, воздушное охлаждение оказалось для них неприменимо.
Почему воздушное охлаждение уступает водяному
Клайв Лонгботтом (Clive Longbottom), директор по сервисному обслуживанию аналитической компании Quocirca, отмечает, что воздух не настолько хорош в качестве теплоносителя: по сравнению с водой он от 50 до 1000 раз хуже отводит тепло от оборудования.
Кроме того, традиционные установки для воздушного охлаждения занимают больше места и потребляют больше энергии. А это сказывается и на счетах за электричество. Поэтому в машинных залах дата-центров, где постоянно повышается плотность оборудования, использовать воздух для охлаждения становится невыгодно. По этой причине вентиляторы в ЦОД Агентства национальной безопасности США заменили системой иммерсионного охлаждения (о других альтернативных решениях мы писали в одном из постов).
Вали Сорелл (Vali Sorell), президент компании Sorell Engineering, занимающейся техническим проектированием зданий и прокладкой инженерных коммуникаций, и Марк Хурикен (Mark Hourican), управляющий партнер консалтинговой компании Syska Hennessy Group, полагают, что ЦОД-индустрия пока не готова взять и полностью отказаться от «инвестиций в воздух» и целиком перейти на охлаждение водой. В этом случае придется полностью перестраивать всю инфраструктуру ЦОД, что довольно дорого.
Однако компании, которым приходится работать с большими нагрузками, уже разрабатывают и применяют жидкостные системы охлаждения.
О технологиях жидкостного охлаждения ЦОД
Иммерсионное охлаждение. Одна из множества технологий жидкостного охлаждения — иммерсионное охлаждение (о котором мы уже рассказывали в блоге). Технология подразумевает полное погружение оборудования в специальную масляную среду. Главное достоинство технологии в том, что масло имеет более высокую теплопроводность, по сравнению с воздухом. Это помогает системе эффективнее поглощать тепло и удалять его избытки.
В 2015 году систему для погружного охлаждения представили Horizon Computing: в компании разработали специальный бокс для серверов, который заполняется минеральным маслом. Конструкция бокса поддерживает оптимальную температуру оборудования с помощью конвекции. Такой «контейнер» способен работать на улице без кондиционеров, а низкие затраты на изготовление и незамысловатый дизайн бокса позволяют использовать его без изменения инфраструктуры дата-центра.
Непрямое жидкостное охлаждение. Эту технологию уже используют в ЦОД Facebook: в начале июня компания продемонстрировала, как новая система охлаждения сделала ЦОД в Северной Каролине более энергоэффективным.
Представители Facebook отмечают, что в некоторых дата-центрах использовать фрикулинг невозможно из-за суровых природных условий или высокого уровня загрязнения воздуха (с этой проблемой, например, борются в Китае). Поэтому компания приняла решение разработать систему непрямого жидкостного охлаждения.
В основе системы лежит технология испарительного охлаждения. Вода для системы охлаждается в специальном теплообменнике, испаряясь через особый мембранный слой. Затем она охлаждает воздух внутри дата-центра, сохраняя оптимальную температуру серверов (схему работы технологии можно посмотреть в посте из блога Facebook).
Тестирование системы показало, что она способна уменьшить потребление воды в ЦОД на 20% (в местах с жарким и влажным климатом) и на 90% (в умеренных и холодных климатических условиях).
/ фото poolie CC
Теплообменники на задней части серверной стойки. В этом случае охлаждённая вода поступает непосредственно к стойке с оборудованием, удаляя избытки тепла. Эту технологию используют Lenovo в своем проекте Neptune: теплообменники уже применяют 30% клиентов компании для своих HPC-систем.
Помимо упомянутого теплообменника, в проект Neptune входят теплообменный модуль (Thermal Transfer Module) и система непосредственного охлаждения узлов (Direct to Node Cooling).
Модуль использует жидкость из теплопоглощающего резервуара, чтобы по специальным трубкам переместить избытки тепла от процессора в область с разреженным воздухом. Система имеет компактные размеры, потому позволяет уменьшить традиционный гул в серверной. А система непосредственного охлаждения доставляет холодную воду прямо к узлу и «снимает» лишнее тепло с ключевых компонентов системы.
Будущее технологий водяного охлаждения
Как говорят эксперты отрасли Сорелл и Хурикен, воздушное охлаждение полностью уступит водяному свое место тогда, когда применять его будет совершенно невыгодно или невозможно (например, из-за физических ограничений дата-центров). Однако специалисты прогнозируют, что переход не будет единовременным. Сперва распространятся гибридные технологии (например, системы на базе испарительных охладителей, как в Facebook), а затем уже будет осуществлен переход на прямо охлаждение с помощью воды.
В Lenovo также надеются, что применение водяного охлаждения выйдет за рамки HPC-систем и станет популярным среди обычных ЦОД. Для этого компания будет работать над снижением стоимости их реализации. Их цель — сделать системы водяного охлаждения дешевле и доступнее для обычных компаний.
P.S. Дополнительные материалы из Первого блога о корпоративном IaaS:
- Почему хороший IaaS-провайдер не должен иметь собственный ЦОД
- Наш unboxing: блейд-сервер Cisco UCS B480 M5
- На чем развернуть SAP: обзор основных платформ
P.P.S. Статьи по теме из нашего блога на Хабре:
- Почему нельзя так просто взять и внедрить «зеленые» технологии в ЦОД
- Дата-центры, похожие на курятники, и работа в Антарктиде: подборка необычных ЦОД
- UL 3223: представлен новый стандарт сертификации ЦОД
Основное направление деятельности компании ИТ-ГРАД — предоставление облачных сервисов:
Виртуальная инфраструктура (IaaS) | PCI DSS хостинг | Облако ФЗ-152 | Аренда 1С в облаке
