80% мирового HBM. Как Корея захватила рынок памяти для ИИ

[iONHOLM]

А еще есть китайский CXMT, чья доля за год достигла 10% и продолжает расти.

[TsarS]

Американцы решили окончательно забить на этот рынок, японцы закрыли часть заводов, а Samsung… наоборот стал расширяться.

Samsung решил, что спад - лучший момент для инвестиций. Есть время построить новые заводы и нарастить производство, чтобы к новому подъёму быть на коне.

Читал, что из-за обязательного увольнения сотрудников в Японии в 55 лет (а пенсия начиналась только в 60 до их пенсионной реформы), они "бросились" работать на корейцев — в пятницу вечером улетали туда, консультировали и в воскресенье вечером обратно.

[AlenaStavrova]

Какой главный корейский продукт? 

Кимчи, конечно же

[AlekseiPodkletnov]

Справедливо

[ssj100]

HBM

А случаем не в кэше использовали ее, до всей этой ИИ эпопеи?

Еще про Самсунг не упомянули что у них были терки с американцами насчет памяти и вроде после выигранного суда, президент США наложил вето на решения. (Потом та же ситуация была и со смартфонами и также президени наложил вето)

[Brak0del]

А случаем не в кэше использовали ее, до всей этой ИИ эпопеи?

Нет, HBM медленная для кэша, latency у неё так себе.
До эпопеи её использовали в высокопроизводительных роутерах и в высокопроизводительных ПЛИС. Т.е. при решении достаточно нишевых задач.

[mctrash13]

Леша, спасибо, статья кайф, как всегда держишь уровень!
Жаль ни слова о том, что HBM сейчас держится на ИИ-капексе, который растёт быстрее доткомов 2000-го. Когда (не если) этот пузырь сдуется, у Кореи на руках окажется не "главная драгоценность мировых технологий", а завод по выпуску золотых лопат после золотой лихорадки. Корея не захватила рынок памяти, она просто стала самым крупным заложником ставки Nvidia. Переубедите меня))

[AlekseiPodkletnov]

Спасибо! Да тут собственно переубеждать и не надо. Если правда лопнет, то... )) но что-то мне подсказывает, что память миру понадобится ещё долго и стабильно в любом случае

[avshkol]

Память будет требоваться ещё долго - наступает время, когда каждая крупная компания, а за ней и средние, захотят иметь собственные сервера в закрытом контуре с видеокартами, на которых развёрнуты отфайнтюненные на их задачах llm, с RAG на их внутренних документах.

[Skipy]

Ну не знаю, где именно Hynix менее известная, но в начале двухтысячных она была в топе производителей оперативной памяти. Когда не было еще всех этих Crucial, Patriot и иже с ними. Лучшая пятерка производителей - Micron, Transcend, Samsung, Kingston, Hyundai. Hyundai потом переименовали в Hynix

[avshkol]

Спасибо, интересная история.

С памятью вышла удивительная вещь: всё время это считалось дешёвым и дешевеющим и далее, в будущем, сегментом всей микроэлектроники. Поскольку это просто много однотипных элементов, масштабирование и масштабирование, ведущее к удешевлению.

Но llm с их потребностью держать в оперативной памяти десятки и сотни гигабайтов всё резко изменили...

[lkik]

есть такой мини копм NUC Hades Canyon (NUC8i7HVK) с процом Core i7-8809G

по сути это CPU i7 Kaby Lake-G на одной подложке с GPU RX Vega M GH + HBM2 4GB

отличная штука вышла, до сих пор юзаю как один из компов.

хотелось дальнейшего развития, вместо Intel какой нить Ryzen (теперь уже AI), GPU обновить + HBM рамы добавить и стал бы гораздо бодрее, но разработки быстро свернули.. типа дорого

[AcckiyGerman]

Если вам Apple M1…5 с памятью на подложке не угодили, то есть же серия Ryzen AI, а вот сейчас и Nvidia со своим RTX Spark подтянулась.

[ProfDonda]

Chris Miller "Chip War". Прочитал с огромным интересом. Даже не подозревал о подобных коллизиях.

[eagleivg]

Государство выбрало несколько надёжных элитных семей (по сути, кланов) и сказало им: вы будете строить страну. Вам дадут дешёвые кредиты, защитят от иностранных конкурентов и помогут с экспортом.

Внезапно, немного напоминает эту страну - кланы, которым дали безграничную власть. Правда, результат немного отличается, но это пожалуй тема отдельной статьи:)