Комментарии 22
Всем колоссально пофигу сколько электричества потребляют сервера aws'а. При их конских ценах - хоть киловатты.
Любая цена определяется рынком. Вряд ли амазон работает себе в минус. Значит кто-то готов платить за это и, более того, имеет какую-то выгоду и для себя тоже.
работал на америку, и амазон - это было недорого, по сравнению с содержанием своих стоек в куче мест + саппорт и вся обвязка. Но зависит от объёма конечно, если серверов просто пара десятков на все регионы то аренда - больше гемора, меньше профита. Если при этом рассматривать нормальное железо и нормальные площадки, а не хецнер/овх. Развернуться в новом регионе - задача на пол часа, увеличить ресурсов в 2 раза - 10 минут, плюс есть весьма дешёвые спотовые инстансы, не всегда нужны полноценные машины. Никаких (почти) проблем с сетью, кучу головной боли на амазоне, собственные решения на тьму задач.. Стоимость владения в целом ниже, развёртывания ниже итд. Да, получается вендорлок. Да, если много трафика то амазон резко становится невыгоден, но это решается сторонним CDN при сохранении "костяка". А ещё можно попасть на программы (не помню как называется, типа дотаций, у нас была такая на $100k на год) и там цена становится от нулевой до более чем разумной.
За счет меньших затрат они могут (и делают) их дешевле чем x86 инстансы. Будущее у x86 выглядит туманным: макбуки уходят, облака уходят, следом уйдут игры, и останется одно большое ничего.
Их "дешевле" классом дороже, чем рынок. aws продаёт сервисы, а не вычислительную мощь. Для лидирования по вычислительной мощи в general compuations им придётся поставить свой инстанс нос-в-нос с условным R720xd и посмотреть что дешевле в месяц по ядрам и памяти, и у меня есть большие сомнения, что Боливар выдержит хотя бы одного.
Вы же понимаете чем отличается амазон от bare metal сервера под кроватью. У них уже почти для всех целей есть сервисы, все больше компаний идут в сторону "cloud native" архитектуры, которая супердешевая. Лямбды+динамо+s3, вот и нехитрое (или хитрое) веб приложение.
Я не возражаю против "cloud native", но я реально не понимаю в каком месте вы там нашли "супердешёвая". Вы хотя бы примерно себе представляете, сколько стоит обсчитать гигабит лябмд на aws'е?
лямбды меряются не в гигабитах, для среднемелкого сайта с 5 rps будет 2.5 млн запросов в месяц, примерно на 0.5 usd. Еще пару баксов накинуть на dynamo и на s3.
На маленькой нагрузке на самом деле сравнимо с дешевой vps (а совсем маленькая нагрузка влезет в free tier). При этом есть гарантия что ничего не упадет с OOM если придут не 5 а 10 запросов сразу.
У больших сайтов расчеты другие, но там отличается вообще всё.
Конечно, лямбды не меряются в гигабитах, кроме того момента, когда ваш api генерирует гигабит мелких ответов на мелкие запросы.
Вот, сколько будет стоить на aws'е hello world на (условном питоне), который обслуживает 30krps 24/7? Если вы такое сбашляете на трёх серверах с redundancy - порядка 900 баксов в месяц. Причём это будет большой over-provisioning как по трафику, так и по вычислительным мощностям. На top-tier железе в top-tier дата-центре, с 10Г линками и почти безграничными аплинками, с полной redundancy всюду, где можно.
А теперь расскажите мне про "сверхдешёвый aws". Я даже не поленился посчитать - 77 миллиардов запросов в месяц. Я посмотрел их цены - "всего-то" 15 тысяч баксов только на запросы, не считая "гигабайто-минуты".
Пока вы никому не нужный хипстер с стартапом-кнопкой, вам миллион запросов за 20 центов звучит как "супердёшево". Как только вы оказываетесь хоть сколько-то востребованы, отдать квартиру за пару месяцев "взывного роста" как нефиг делать.
шутка: апишка которая выдает 10k rps на питоне с сервера вполне поместится в S3.
3 сервера обслуживающие клиентов на полную мощность - это не redundancy. Redundancy будет когда это будет по 3 сервера в нескольких разных датацентрах.
Предположим 30к - пиковая нагрузка, среднюю можно тогда оценить в 15. Это уже не 15 а 7000$ в месяц. Избыточность по датацентрам даст цену "серверного" решения не 1000 баксов, а 2000.
При этом свое решение потребует еще рабочих рук на конфигурацию, отдельного кластера для разработки и тестирования, тогда как aws дает базовую обвязку (скейлинг, права доступа, CI/CD пайплайн) практически бесплатно.
А самое главное, что расходы амазона на инфраструктуру и железо очевидно очень малы, и они всегда могут опустить цены если на то возникнет реальная рыночная необходимость.
Ну не особо оно туманное, вполне предсказуемое. х86 занял рынок ПК вытеснив оттуда другие архитектуры, перешел на рынок серверов, поглотив и его, и рынок мобильных решений, с которым тоже всё шло довольно успешно, пока не появились кпк и смартфоны, которые интел особо не заинтересовали.
Это была вторая фатальная ошибка интел. Первой было решение монополизировать рынок, выдавив из него всех игроков кроме АМД. Что, с одной стороны, притормозило прогресс х86 решений в определенный момент времени. А с другой, безальтернативно направило всех кто хотел сам разрабатывать процессоры в сторону других ISA. Тактически интел получала сверхдоходы с рынка ПК и около, не деля его по сути ни с кем.
Но стратегически, спустя 25 лет из оставленной мобильной форточки полезли RISC-решения, которые сначала захватили рынок мелочи, а теперь вот лезут в рынок лаптопов и серверов. И компетенций у интел нет для игры на их поле. Но попытки их отрастить, судя по интересу к RISC V, предпринимаются.
Закат всегда похож на рассвет, просто события разворачиваются в обратном порядке. Вот и с х86 будет так же. Придя в качестве одой из платформ ПК она, благодаря открытой архитектуре IBM PC, смогла занять выдающееся место на рынке вычислительной техники. А теперь будет снова просто "одной из".
Однако из описаний видно: использование чужих ядер
Пусть каждый занимается своим делом.
Это одно из достоинств работы в ARM экосистеме — иметь доступ ядрам с хорошими характеристиками и т.о. возможно создавать чипы с меньшими усилиями.
(то есть только у эпл хватает навыков свои пилить для всего)
Ещё Fujitsu(A64FX), Qualcomm/Nuvia, Phytium, Ampere (next-gen), Nvidia (Grace) и другим. Это чипы которые есть/скоро выйдут. А список тех, кто делал кастомные ядра и перешёл на стоковые, гораздо длиннее.
односокетность
Значит им нужна односокетность. Ваш КО.
К архитектуре это не имеет отношения.
И Altra и ThunderX работают в двухсокетных материнках.
переход на чиплеты (то есть падение производительности, по опыту АМД) и небольшой кэш.
Вы бы разобрались о чём вообще речь идёт, и причём тут AMD (нет ничего общего).
Процессор монолитный, а на чиплеты же вынесены контроллеры PCIe5 и DDR5.
Видимо они разрабатывались независимо в разные отрезки времени.
Плюс есть возможность конфигурации не меняя сам вычислительный чиплет.
Такая же схема может быть использоваться на GPU Nvidia:
twitter.com/Underfox3/status/1379693330435604480
"небольшой кэш" — это 96-128 мегабайт-то «небольшой» (L2+L3)?
На фоне даже апгрейда эпиков кэшем до 800 мегабайт на сокет
Никаких чудес от него не будет. AMD обещает в среднем 12% (от DDR4?)
Так что вместо огромного кэша проще использовать быструю DDR5 память.
Интел просто поднимет чуть частоту и спокойно их обойдёт при меньшей цене.
это демонстрирует, почему нельзя взять и просто так самому разработать на арме
Опять вы притягиваете архитектуру туда, где она не имеет значения.
На самом деле это демонстрирует, что разработать высокопроизводительный процессор на любой архитектуре сложно, а так же сложно соперничать с конторами, которые на этом специализируются.
Угу, вот эти скоро выйдут
2 из 5 уже давно вышли и эксплуатируются в суперкомпьютерах. Я просто обозначил конторы, которые продолжают разработку кастомных микроархитектур.
То есть им не нужна плотность на стойку, ок МСу в облаках нужно, а им — нет)
Как раз плотность им и нужна, а не многосокетность.
Поэтому у них 3 (три) односокетных системы (192 ядра) в одном сервере.
Если вы не заметили, в статье целых две картинки, где это показано.
И?
Ничего, что у AMD вычислительные кластеры разнесены на разные чиплеты? Передача между ядрами может выполняться через внешний канал.
Ничего, что упаковка чиплетов выполнена по разным технологиям вообще?
What stands out is that they are packaged using advanced packaging. The size of the ubumps connecting each die are <55um whereas every CPU from Intel and AMD is still at >100um. Intel and AMD only catch up with their next generation CPUs.
То есть только слияние чиплета контроллера с чиплетом ядер увеличивает производительность заметно.
Вы делаете вывод на основании чипов с другим назначением и характеристиками.
Измерить этот эффект можно лишь сравнив Graviton2 и Graviton3.
Приплетать туда мобильные чипы AMD это фейспалм фейспалмов.
Думаете инженеры Amazon такие глюпые и недогадались интегрировать контроллер на кристалл? Это всё решается на начальных стадиях разработки чипа и выбирается наиболее эффективное решение (включая time-to-market)
С падением тдп заметным
Ещё раз. Связь чиплетов у G3 имеет совсем другие характеристики чем у AMD.
Ой, ну гляньте сливы МС тестов новых эпиков под их задачи Азуры.
Т.е. MС удалось получить прирост в какой-то задаче больше чем AMD пишет в рекламных материалах? Частность это не общее правило.
Что же вы ссылку не привели на эти сливы? Если вы апеллируете к каким-то результатам, доказательная база лежит на вас. Так что незачёт.
800 мб кэша АМД нового поколения передают привет. Доступны будут вот, зимой, всем.
Этот кэш будет на каких-то отдельных чипах и за большие деньги.
На данный момент кэш G3 является большим, а не «небольшим».
Существование Белаза не даёт права называть Камаз микролитражкой.
Ну и да, все новости про быструю ДДР5 — так же из разряда «скоро выйдут (по безумной цене)»
Graviton3 с DDR5 доступен прямо сейчас.
Макбуки с LPDDR5 доступны прямо сейчас.
Интел и меньшая цена на что?
Да на что угодно.
Alder Lake сейчас зачастую дешевле и быстрее аналогичных райзенов.
И в тестах конкуренция даже старым эпикам не особо замечена.
Ахах, Интел, который продаёт 80% х86 серверных чипов «не конкурент» тем, кто продаёт 20%?
На самом деле доля серверных ARM процессоров растёт неплохими темпами
servernews.ru/1055888
ARM уже занимает 5% рынка. А во всяких Амазонах растёт ещё быстрее.
Угу, особенно в домашних процах 8 ядерных, в которых как раз хорошо видна была разница между 8 ядер на чиплете + внешний контроллер и 8 ядер на чипе с контроллером?
Причём тут домашние процы? Мы говорим про серверный 64-ядерный процессор.
Какая связь между райзеновским IOD? Он не имеет ничего общего с чиплетами у Graviton3.
Там интерконнект на порядок быстрее. Про латентность ничего не могу сказать, т.к. не измерял.
Сам вынос с чипа влияет на производительность на 5-10%, что приходится заливать увеличенным кэшем.
Нет, вы лучше расскажите насколько вынос контроллера на чиплеты влияет на производительность Graviton.Что там на AMD — не интересно.
Я делаю вывод на факте разделения на чиплеты с внешним контроллером и монолитные чипы и что разница производительность по объективным причинам будет заметная. Ну там физика, бессердечная наука такая…
Т.е. ничем не подтверждённый тык пальцем в небо. Как я уже сказал, технологии упаковки там использованы разные и под одну гребёнку их нельзя грести.
Но указать, где я подобное написал вы, естественно, не сможете?
Если в предложении стоит знак вопроса, то наверное это вопрос, который я вам задаю. Вам так не кажется? (это тоже вопрос).
К тому же я не заметил чтобы вы хвалили инженеров за разумное решение вынести контроллеры на чиплеты. Мы не знаем, какие опции конфигурации они готовят. В статье про GPU будущего от Nvidia рассмотрены различные варианты.
А, я забыл, люди на хабре забанены в гугле и не следят за новостями.
Ах, я забыл что я обязан следить за новостями.
Забавно, что вы написали целое приложение, вместо того чтобы сделать Ctrl+C/Ctrl+V на URL. Всё ещё незачёт.
Во всех эпиках новых с большим числом ядер, сравнимым с указанным армом. То есть вы вообще ни черта не зная о новом поколении чипов эпик вступили в полемику?
Классика хабра.
Ого, сколько экспресии.
Где можно ознакомиться со спецификациями? Ссылку на сайт AMD, пожалуйста, приведите.
Что касается «Во всех», это навряд ли так, даже учитывая информацию из утечек. Классика хабра(с)
Даже если подумать логически — гигантский кэш нужен далеко не для всех задач, а стоить процессоры с ним и без него одинаково не могут.
Увы, пока данные по частотам, TDP и цене компания не приводит — выпуск Milan-X запланирован на I квартал 2022 года. Но в сносках к презентации, в частности, упоминаются не только 64-ядерные Milan-X, но и 16-ядерные.
О, подмены классические подъехали! Когда конкуренцию в производительности конкретных процессоров подменяют продажами общими!
Извиняюсь конечно, но цель сих контор — зарабатывание денег.
Посему это и есть неплохой индикатор конкурентоспособности.
Ок, сколько новых суперов на интеле делается, а сколько на АДМ?
Не интересовался. Мне гораздо интереснее, сколько делается на других архитектурах.
А то окажется, что altera, которая вроде как свои уникальные ядра обещала, так же на ARM Neoverse N1 основана…
Вы какую-то путаницу разводите на пустом месте.
Старые чипы Ampere eMAG 8180 (AKA X-Gene 3) — кастомные.
Актуальные чипы Ampere Altra выполнены на N1, а следующее поколение будет на кастомных, как я и написал.
www.anandtech.com/show/16684/ampere-roadmap-full-custom-cores
А вот Amazon поступает умнее — берёт и делает максимально быстро.
Когда там Ampere созреет со своим некстгеном, они выкатят G4 ещё более производительный.
Вон Байкал Электроникс анонсировал 128-ядерные N2…
servernews.ru/1056125
… но к 2025г, когда западные конторы будут иметь условный N5. Но отставание всего в 3 года это конечно прорыв для России (если опять под санкции не попадут).
Ах да, доля амд 5 лет назад в серверном была практически ноль.
Так у ARM три года назад была доля — ноль. Причём надо ещё софт портировать в отличии от AMD =)
Есть нюансы.
Во-первых, AWS имеет цены для кого-попало и для серьёзных ребят типа Deutsche Telekom. И там маржа куда ниже и цены намного ближе к себестоимости. И я подозреваю, что такие гиганты могут давать выручки даже больше, чем мелочь + они менее подвержены экономическим циклам, чем тоже более интересны, чем мелочь, которая может схлопнуться резко, быстро и глобально в случае фигни вроде краха доткомов.
Во-вторых, высокое энергопотребление тянет целую цепочку расходов. Как больше чиллеров, больше ИБП, больше проводов до электростанции (если она ещё имеет нужный объем). Думаю, если инженеры принесут новый камень, потребляющий 2 киловатта и скажут, мол, а теперь установите их в имеющиеся ДЦ в имеющиеся стойки вместо x86 старичков, отработавших ресурс, то это совсем не обрадует руководство, ведь придётся делать апгрейд инженерных систем по всему миру.
Интересно, сколько рам памяти у такой машины на борту
AWS выпустила 64-ядерный Graviton3 — самый мощный ARM-процессор в мире