Comments 5
Становится все интересней. Опят возвращаемся в зоопарк походу. Одновременно интересно и страшно.
С чем то соглашусь, с чем то нет. Это разные категории. Церебрас - тяжеловес, делает огромадные чипы с ценой как крыло Боинга. Потому что дефекты пластин никуда не ушли, и на один годный здоровенный проц может быть тысяча или несколько тысяч бракованных процев, условно говоря. А за это все платит потребитель. И потребитель этот может быть только крупняком - мало у кого не миллионеров хватит денег на этот чип для домашнего применения. А там же еще и система питания в 15 кВт, и охлад такой же мощности. Дорого. Асики - будем посмотреть. Для узких нейросеток это вполне решение, но чтобы их начали тиражировать как майнинговые, нужен спрос, а спрос без окупаемости или какого то выхлопа сам не появится. Универсальные GPU - сегодня крутится LLM а завтра считаем аэродинамику, ночью сдаем в аренду для вычисления числа Пи - никуда не денутся, на то они и универсальные.
Меня больше интересует другой вопрос - cpu по сравнению с gpu выглядит уже как какой-то прости господи микроконтроллер или южный мост №2, лишь бы запустить среду и железо, а мощи с него нифига)
Вы что-то путаете. Церебрас не дороже нвидиа в расчёте на условную единицу инференса, нет там никаких тысяч бракованных экземпляров на один рабочий. Где вы это взяли?
Можете скинуть источник про брак у Cerebras?
Важно учесть, что это железо не для домашнего применения. Если дорого покупать чип, можно арендовать у тех, кто может себе позволить, или пользоваться по API. Цены достаточно конкурентные. Вот для сравнения провайдеры qwen/qwen3-235b-a22b-2507.
NVIDIA DGX B200 - потребление всей железки 14.3kW, 1kW за карту. AMD MI355X - потребление всей железки не указано, 1,4kW за карту.
CPU остается критически важным для системного управления, обеспечения IO и тех частей инференса, которые требуют последовательной обработки.
Про брак у Церебрас. Вы немного изучите, как производят микросхемы и процессоры. Брак у них (разумеется они об этом не говорят) происходит чисто из физических и статистических законов. Грубо говоря, есть "вафля" - кусок кремния сверхвысокой чистоты, плоский в виде круга диаметром 300 мм - пластина. На одной такой пластине могут разместиться много процессоров Xeon, или один Церебрас. И вот в случае с зионами - несколько - от одного до трех в среднем - это будет брак. Связанный чисто со структурной неоднородностью кремния, и еще тысяча причин. Раньше (как сейчас не знаю) у процессоров многоядерных только когда они начали появляться, был локальный брак тоже из-за техпроцесса. Тогда производитель отключал одно или два ядра процессора, и брака как бы уже нет - такие процессоры продавались дешевле, и была определенная маркетинговая линейка.
Если на "вафле" найдется хотя бы один дефект (а они там будут всегда!), то процессор размером с этот диск (а он размером чуть меньше но почти весь), автоматически брак. Можно покрыть этот брак избыточностью, скажем у нас 9000 независимых потоковых ядер, бракованные 500 штук из всего, отключаем их программно, и всего делов. Это тоже брак своего рода, но с запасом. Проблема в том, что брак может оказаться в области чипа, которую нельзя дублировать - шины, микрокод и всякое такое. Опять же чисто статистически. И пластина в мусор. Микроэлектроника - она тоже имеет болезни масштаба, как вот раньше столкнулись с проблемой поломки больших машин, где были тысячи микросхем, а до этого - десятки тысяч ламп. Просто статистика, ничего личного.
Я могу предположить, что Церебрас сделали хорошие и годные процы. Но таких микросхем еще никто не делал, если иметь в виду площадь и проблемы с охлаждением. Это реально самые большие процессоры в мире. И логично утверждать (как я выше написал), что на типовом техпроцессе будет приличный процент брака. Они ж тоже фаблесс, а делает та же tsmc. С техпроцессами не забалуешь, независимо от того, какой гениальности вы разработали чип. И со статистикой отказов тоже спорить сложно.
Сначала был кремний: Почему архитектура чипов, а не код, определяет будущее AI