Ну что есть то есть, действительно память стала узким местом. Например часто производительность 4090 достаточна для задачи, а вот памяти мало. Отсюда и кастомные доработки, как в комментарии выше. Мы, к примеру, уже начинаем переход на 96 GB в среднем сегменте для работы с ИИ )
Цена сопоставима именно проф видеокарт для серверов , если сравниваем L40S 48GB ( на том же чипе что и 4090 ) и новую RTX 6000 Blackwell 96GB , но последние только только поступают в продажу еще, так как недавно анонсированы. L40S 48GB мы из облака своего отдаем )
Сейчас даже 5090 с 32GB стоит достаточно кусаче для десктоп сегмента ) Но с другой стороны, наследник карты L40S 48GB - RTX 6000 Blaсkwell Server уже перешла на 96GB, при практически той-же цене.
Такая практика есть не только на РФ рынке. Российские вендоры научились ей у западных - Dell, HPE, Huawei и тд ) Другое дело, что сейчас РФ цены на большой спектр оборудования, местами выше ожиданий, а местами сильно выше и склонны к росту год к году, в основном ввиду сниженной конкуренции от западных вендоров.
С стандартных ЦОДах больше сложностей чем пользы. Сложности с обслуживанием серверов, например чтоб диск заменить - нужно будет доставать узлы, целиком погруженные в жидкость. Тут совсем другая философия и другой подход к самому ЦОДу - чем обычные коммерческие TIER III, и специфические применения. Да и не все вендора сертицифируют свое оборудование для подобного применения. Сложно будет стандартную архитектуру так эксплуатировать, например сервера и схд. Экономические эффект тоже сомнительный. Скорее это для нишевых, кастомных решений, чем массовое применение. Хотя безусловно сама технология достаточно эффективна.
Речь про охлаждение нагруженных HPC систем , не про "домашние водянки". Поэтому технологии немного отличаются и мы показали именно их использование в серверах для ЦОД.
С точки зрения эксплуатации, топ вендора в мире продают сервис на эти решения до 7-ми лет, поэтому думаем вопросы надежности решены, хоть и могут быть ньансы.
Про энергоэффективность, тут как минимум следует иметь ввиду, что чем прохладнее процессоры, тем кулеры продуващие радиаторы серверов, крутятся с меньшим числом оборотов, это либо можно выставить либо вручную, либо менеджмент сервера подстроит обороты под температуру. Это на уровне сервера только уже. И это уже снизит энергопотребление. Что касается самих процентов в 11-18% - это заявляется вендорами, тем же Dell.
Про как попадает Dell к нам, тут ничего необычного - параллельный импорт работает в РФ, но без прямой поддержки от вендора, конечно. Но непосредственно на жидкостном охлаждении мы не используем решения, нет такой необходимости.
Недостатки есть безусловно, это и сложность такой инфры, стоимость, совместимость, обслуживание. Сервис лучше брать под ключ от единого вендора с поддержкой. Опять же, применимость не для обычных корпоративных заказчиков, скорее для HPC и нагруженных AI задач.
В 2,5 дюйма форм-факторе также заявлена поддержка до 245.76 TB . Но живых накопителей пока не видели , думаем позже в этом году появятся уже реальные тесты.
Чаще дороже, меньше памяти и еще остаются сложности с нагревом разъемов питания при полной нагрузке. Но производительность хорошая. Мы ожидаем доступность карт на базе того же чипа, что и 5090 - RTX PRO 6000 c 96GB памяти на борту , но стоимость пока сложно предсказать )
Ну что есть то есть, действительно память стала узким местом. Например часто производительность 4090 достаточна для задачи, а вот памяти мало. Отсюда и кастомные доработки, как в комментарии выше. Мы, к примеру, уже начинаем переход на 96 GB в среднем сегменте для работы с ИИ )
Да, китайские доработки слышали. Даже в РФ на Авито есть )
Цена сопоставима именно проф видеокарт для серверов , если сравниваем L40S 48GB ( на том же чипе что и 4090 ) и новую RTX 6000 Blackwell 96GB , но последние только только поступают в продажу еще, так как недавно анонсированы. L40S 48GB мы из облака своего отдаем )
Сейчас даже 5090 с 32GB стоит достаточно кусаче для десктоп сегмента ) Но с другой стороны, наследник карты L40S 48GB - RTX 6000 Blaсkwell Server уже перешла на 96GB, при практически той-же цене.
Буквально на этой неделе объявили о партнерстве OpenAI c Oracle по аренде мощностей в ДЦ, так что потребность в энергетике еще сильнее ускоряется )
Такая практика есть не только на РФ рынке. Российские вендоры научились ей у западных - Dell, HPE, Huawei и тд ) Другое дело, что сейчас РФ цены на большой спектр оборудования, местами выше ожиданий, а местами сильно выше и склонны к росту год к году, в основном ввиду сниженной конкуренции от западных вендоров.
С стандартных ЦОДах больше сложностей чем пользы. Сложности с обслуживанием серверов, например чтоб диск заменить - нужно будет доставать узлы, целиком погруженные в жидкость. Тут совсем другая философия и другой подход к самому ЦОДу - чем обычные коммерческие TIER III, и специфические применения. Да и не все вендора сертицифируют свое оборудование для подобного применения. Сложно будет стандартную архитектуру так эксплуатировать, например сервера и схд. Экономические эффект тоже сомнительный. Скорее это для нишевых, кастомных решений, чем массовое применение. Хотя безусловно сама технология достаточно эффективна.
Речь про охлаждение нагруженных HPC систем , не про "домашние водянки". Поэтому технологии немного отличаются и мы показали именно их использование в серверах для ЦОД.
С точки зрения эксплуатации, топ вендора в мире продают сервис на эти решения до 7-ми лет, поэтому думаем вопросы надежности решены, хоть и могут быть ньансы.
Про энергоэффективность, тут как минимум следует иметь ввиду, что чем прохладнее процессоры, тем кулеры продуващие радиаторы серверов, крутятся с меньшим числом оборотов, это либо можно выставить либо вручную, либо менеджмент сервера подстроит обороты под температуру. Это на уровне сервера только уже. И это уже снизит энергопотребление. Что касается самих процентов в 11-18% - это заявляется вендорами, тем же Dell.
Про как попадает Dell к нам, тут ничего необычного - параллельный импорт работает в РФ, но без прямой поддержки от вендора, конечно. Но непосредственно на жидкостном охлаждении мы не используем решения, нет такой необходимости.
Недостатки есть безусловно, это и сложность такой инфры, стоимость, совместимость, обслуживание. Сервис лучше брать под ключ от единого вендора с поддержкой. Опять же, применимость не для обычных корпоративных заказчиков, скорее для HPC и нагруженных AI задач.
Так и есть, пока в рейтинге самых горячих - Intel все еще. Epyc более холодные.
Samsung PM9A3 15.36 можно купить до 2к и новый )
В 2,5 дюйма форм-факторе также заявлена поддержка до 245.76 TB . Но живых накопителей пока не видели , думаем позже в этом году появятся уже реальные тесты.
Пока заявлено от 10 тысяч, но некоторые источники пишут и про 25к, хотя 25к тоже от 10 тысяч )
Скромно умолчим про цены за эти рекорды ) Пока наши рабочие лошадки для инфры в клауде - все еще 7,68Gb )
Возможно это прямо влияет на экономику таких решений. Особенно в потребительском сегменте.
Производители указывают такую метрику, думаем потому что она более техническая и подчеркивает разность в поколениях более наглядно )
Вы правы, опечатка - 11% , конечно. 24 наслоилось с гигабайтов ) В начале статьи также есть разница в примерно в 11% . Спасибо за внимательность )
В один логический GPU десктопные карты объединить не получится, NVlink не поддерживают.
Аренду имеете ввиду или покупку, с точки зрения цены? Аренда примерно одинаково сейчас стоит, плюс минус 5-10% в зависимости от поставщика решения.
Чаще дороже, меньше памяти и еще остаются сложности с нагревом разъемов питания при полной нагрузке. Но производительность хорошая. Мы ожидаем доступность карт на базе того же чипа, что и 5090 - RTX PRO 6000 c 96GB памяти на борту , но стоимость пока сложно предсказать )