Комментарии 13
очень сбивчивое и рваное изложение. в чём безумие, с которого начинается статья, я так и не понял.
Если у вас бизнес — облако, то он про софт и управление железом. Если вы строите ЦОД — то это про недвижку особого типа. Строители редко бывают айтишниками. Поэтому если вы делаете облако — странно быть строителями. Но нам пришлось и то, и то. А без специально спроектированных облачных продуктов эта история еще и не очень выгодная
а как искать такие ЦоД? т.е. дешевый (дорогих полно и так) потому что слабое железо, плохие сети но много GPU
Мы как-то не про плохие сети (у нас 400G) и не совсем про слабое железо — мы делали для себя бенчмарки и выбили больше, чем коллеги по цеху.
Мы скорее о том, что в дорогих коммерческих ЦОДах как раз целесообразно размещать как можно более новое и мощное железо, которого нужно меньше и у которого аппетиты к электричеству скромнее в пересчете на производительность.
А дешевое электричество сейчас в принципе найти уже невозможно, тем более в МСК.
Ну и встречный вопрос: в дешевый — это сколько в рублях?
дешевле vast.ai
p.s. если в цод вкладывать хорошее железо, дешевым оно быть не может физически, серверное железо примерно в 10 раз дороже десктопного, которое в некоторых задачах не уступает и даже где то как то быстрее (но не стабильнее)
майнеры хорошее железо не покупали, это просто видеокарты, все остальное железо тупо затычка. Но такое железо внезапно для inference llm подходит
Обычный ЦОД — это просто места для стоек. Железо уже на стороне заказчиков.
Есть хостинги, они железо купили/взяли в лизинг, и предлагают в аренду, либо строят на них сервис. И статья как раз о том, что если ты — облачный хостинг, то свой ЦОД — не совсем выгодная история. Но в нашем случае, по стечению обстоятельств, вышло исключение.
Про наше железо — для облака IaaS, которое на воздухе, у нас HPE последнего поколения с топовыми процами и DDR5, а от майнеров нас только видюхи и интересуют, майнерские материнки с дохлыми процами и парой гигов памяти мы не брали, под иммерсию спроектировали специальный модуль. Об этом как-нибудь позже расскажу, вместе с бенчмарками.
Насчёт vest.ai: а в деньгах за хостинг вашего железа, дешево — это сколько? Мы чужое железо у себя не ставим, но подсказать по рынку я могу, только надо не абстрактно обсуждать, а конкретное железо, потребление и условия.
Так вот, когда крупный завод говорит, что взял фотографии продукции из цеха, или розница говорит, что взяла фотографии продуктов с весов и обучила нейросеть — это происходит обычно либо в каком-нибудь дата-центре крупной корпорации зла, либо в таком вот ангаре, внутри которого стоят машинные залы.
меня сбила с толку эта цитата, и дальше я за это зацепился и задал вопрос
естественно я не говорил про хостинг своего железа, а доступ к самому железу для своих задач
Спасибо за публикацию. Интересно было бы узнать про то какие имерсионные ванны вы используете и про их устройство
Расскажи хоть какой город у цода? Интересно куда 100г не смогли вам построить? Могу поделиться группой ТГ, где все московские операторы сидят.
Почему свой ЦОД в котельной (ведь это совершенно невыгодно)