Как стать автором
Обновить
2.8

Суперкомпьютеры

Компьютеры сына маминой подруги

Сначала показывать
Порог рейтинга
Уровень сложности

Мультиклеты: влияние реконфигурации на бенчмарки и задачи майнинга

Время на прочтение12 мин
Количество просмотров2.9K

В 2014 году была опубликована статья о первом мультиклеточном процессоре с реконфигурацией. За прошедшее время накопился опыт ее использования и понимание, где она может применена с максимальным эффектом.

Как известно, физические и технологические ограничения, объективно существующие при проектировании и изготовлении новых микропроцессоров, постепенно перешли из теоретической в практическую плоскость. Планарные транзисторы перестали уменьшаться в 2D размерах и стали переходить в 3D измерение. Расстояния на чипе стали ограничивать тактовую частоту, а размеры чипа привели к тому, что на пластине годным стало считаться то, что хоть как-то работает. При этом, микропроцессоры стали напоминать ламповые компьютеры 60-х годов прошлого века, на корпусе которых можно было жарить яичницу.

Сегодня большинство бенчмарков процессоров, в первую очередь, оценивают производительность. Насколько быстро рисуется картинка на дисплее, насколько быстро перемножаются матрицы или как быстро осуществляется поиск в базе данных. Это, безусловно, важно. Но почему-то мало кто задается вопросом, насколько это оптимально. Может быть, лучше увеличить время решения на 10% и при этом уменьшить энергопотребление на 50%?

Читать далее
Всего голосов 6: ↑6 и ↓0+6
Комментарии36

Почему GPU обманывают о своей нагрузке и как с этим бороться

Время на прочтение10 мин
Количество просмотров20K
В предыдущем посте я рассказывал о том, как мы строили свои суперкомпьютеры. В этом — поделюсь опытом, который мы накопили, эксплуатируя наши кластеры. Этот опыт будет полезен не только тем, кто обучает огромные ML-модели. На грабли, о которых пойдёт речь, легко наступить, даже если вы специалист с парой GPU.



Почему в распределённом обучении нельзя доверять утилизации GPU? Почему переход в эру распределённого обучения — фундаментальный сдвиг парадигмы мышления, к которому должен быть готов каждый ML-разработчик? Ещё больше «Почему» и ответов на них — под катом.
Читать дальше →
Всего голосов 56: ↑55 и ↓1+73
Комментарии8

Новый суперкомпьютер от Meta (возможно и самый быстрый)

Время на прочтение9 мин
Количество просмотров15K

Для создания революционно нового ИИ следующего поколения необходимы мощные суперкомпьютеры, способные выполнять квинтиллионы операций в секунду. Meta представляет новый суперкомпьютер с искусственным интеллектом. По словам материнской компании Facebook, когда AI Research SuperCluster (RSC) будет полностью построен, он станет самым быстрым суперкомпьютером с ИИ в мире. Это стало результатом почти двухлетней работы нескольких сотен человек. В проекте приняли участие исследователи из Nvidia Inc., Penguin Computing Inc. и Pure Storage Inc.

Meta заявила, что её исследовательская группа в настоящее время использует суперкомпьютер для обучения моделей ИИ обработке естественного языка и компьютерному зрению. Цель состоит в том, чтобы расширить возможности однодневных обучающих моделей с более чем триллионом параметров на наборах данных размером до эксабайта, что эквивалентно высококачественному видео длительность примерно в 36 000 лет.

«То, что мы создаем для Метавселенной, требует огромных вычислительных мощностей… и RSC позволит создавать новые модели ИИ, которые могут учиться на триллионах примеров, понимать сотни языков и многое другое», — заявил Марк Цукерберг.
Читать дальше →
Всего голосов 35: ↑30 и ↓5+38
Комментарии33

Суперкомпьютеры Яндекса: взгляд изнутри

Время на прочтение12 мин
Количество просмотров34K


Недавно три наших новых GPU-кластера заняли 19, 36 и 40 места в рейтинге суперкомпьютеров Top500. Это лучшие результаты среди всех участвующих в нём суперкомпьютеров России. Но сегодня мы поговорим не о местах в рейтинге, а о том, чем полезно на практике участие в подобных замерах.

Из этого поста вы узнаете про наши первые попытки создать свои кластеры и грабли на этом пути. Расскажем, как устроены суперкомпьютеры для машинного обучения и почему мы в итоге пришли к собственной архитектуре. Важная часть истории будет посвящена разбору проблем замеров производительности, которые, вопреки первым впечатлениям, принесли нам не только места в рейтинге, но и реальную пользу для наших ML-проектов.

Поможет мне в этом Дмитрий Монахов dmtrmonakhov. Он уже известен читателям Хабра по докладу о разработке ядра Linux. Передаю ему слово.
Читать дальше →
Всего голосов 99: ↑98 и ↓1+123
Комментарии56

Истории

Кластер HPC в Сколтехе поможет исследователям создавать ранее неизвестные материалы

Время на прочтение8 мин
Количество просмотров1.5K

На протяжении десятилетий высокопроизводительные вычисления (HPC) вносили огромный вклад в развитие науки, промышленности, национальной и региональной безопасности и повышение качества жизни людей. Но если раньше область применения HPC нередко ограничиваясь правительственными проектами и академическими исследованиями, то сегодня трансформация технологий позволяет задействовать HPC для решения весьма широкого круга прикладных и научных задач. В Лаборатории компьютерного дизайна материалов Сколтехе вычислительный кластер стал основным инструментом исследователей и позволил добиться важных практических результатов.

Прорыв в вычислительных системах и микроэлектронике позволил преодолеть сложные проблемы и препятствия в решении задач моделирования, расширить понимание мира и вселенной. Суперкомпьютеры и вычислительные кластеры теперь используются повсюду - от проектирования автомобилей и самолетов, создания новых лекарств и материалов, разведки нефтяных месторождений, оценки финансовых рисков, секвенирования генома до прогнозирования погоды, изменения климата и важных научных исследований. Это большой и растущий рынок.

Читать далее
Рейтинг0
Комментарии1

Digital Material Passport. Ч.2 – Цифровой парадокс и рынок DMP

Время на прочтение14 мин
Количество просмотров1.1K

Увеличение потребности в новых данных напрямую связано с попыткой приблизить цифровой двойник к физическому объекту. Таким образом, сам процесс совершенствования цифровых двойников провоцирует прогрессивный рост стоимости такого совершенствования.

Этот цифровой парадокс заставляет усомниться в возможностях массового перехода на качественные Digital Twin и тем более использование DMP в России при «хаотичной» организации работы, даже в условиях распространения цифровизации.

В то же время потребность в данных порождает новый цифровой товар - на этот товар претендует не сам DMP, а цифровые данные производителей о физическом продукте.

Читать далее
Рейтинг0
Комментарии2

Digital Material Passport. Ч.1 — Скрытые грани «цифровых двойников»

Время на прочтение10 мин
Количество просмотров2.1K

Рано или поздно, непременно возникнет вопрос – а насколько можно доверять цифровым «двойникам» и насколько они на самом деле являются двойниками физическим образцам?  На 60%? на 80%? Вчера было на 80%, а сегодня другой поставщик и возможно уже только 60%?

Достаточно ли Вам будет такого отчета в документах о гарантии тормозной системы автомобиля, как «виртуальные испытания тормозной системы автомобиля подтвердили длину тормозного пути на сухом асфальте с разогретыми шинами ~40 метров со скорости 100 км/час при отклонениях ± 30-40% на покупаемом Вами физическом экземпляре автомобиля.»

Читать далее
Всего голосов 5: ↑5 и ↓0+5
Комментарии4

Космический вызов: защита суперкомпьютеров от внеземной угрозы

Время на прочтение11 мин
Количество просмотров4.3K

Каждый из нас не раз и не два в своей жизни слышал возмущённое «оно само сломалось» в ответ на вопрос, как случилась та или иная неполадка в компьютере или ПО. В 99% случаев это происходит «не само». Но есть 1%, когда пользователь действительно не виноват, и причиной сбоя является не «человеческий фактор», а случайность. Случайность, вызванная космическим излучением. Давайте об этом и поговорим.

Читать далее
Всего голосов 22: ↑22 и ↓0+22
Комментарии7

Обновление списка Top50: курс на рост

Время на прочтение3 мин
Количество просмотров2.3K

В конце марта вычислительный центр МГУ имени М.В. Ломоносова и Межведомственный Суперкомпьютерный Центр РАН в очередной, тридцать четвертый раз опубликовали рейтинг российских суперкомпьютеров, где представлена информация об отечественных машинах с наибольшими мощностями. Ниже вы найдете общую сводку изменений за прошедшие полгода.
Читать дальше →
Всего голосов 3: ↑3 и ↓0+3
Комментарии0

Мультиклеточная архитектура: тесты и развитие

Время на прочтение8 мин
Количество просмотров7.7K

В этой статье мы поговорим о развитии архитектуры и аппаратной части, покажем проведенные тесты и оценим результаты и перспективы дальнейшей разработки. Если вы впервые слышите о мультиклеточной архитектуре, то можете ознакомиться с ней в предыдущих статьях:

«Мультиклеточный процессор — это что?»

«Мультиклет R1 — первые тесты»

«Компилятор С/С++ на базе LLVM для мультиклеточных процессоров: быть или не быть?»

«Перспектива: MultiClet S1»

«Развитие компилятора C для нового мультиклета-нейропроцессора»

Первое, что необходимо сказать, – Мультиклет концептуально переходит от разработки отдельных процессоров к разработке мультиклеточной платформы на основе MultiClet B – базового элемента, состоящего из 4 клеток.  

Читать далее
Всего голосов 9: ↑8 и ↓1+9
Комментарии31

HPE Apollo 6500 Gen10 plus – часть HPE Cray Supercomputer в вашем ЦОДе

Время на прочтение7 мин
Количество просмотров2.3K

Открывая будущее высокопроизводительных вычислений и искусственного интеллекта с революционными ускоренными вычислениями, представляем систему HPE Apollo 6500 Gen10 Plus. Это новаторское решение обеспечивает превосходно масштабируемую производительность и произведет революцию в использовании высокопроизводительных вычислений и искусственного интеллекта.

Читать далее
Всего голосов 3: ↑1 и ↓2+1
Комментарии2

От легендарного прошлого сквозь настоящее в будущее. История System X

Время на прочтение6 мин
Количество просмотров3.2K
image

В гонке мощностей, которая составляет основную суть хроники развития суперкомпьютеров, истории отдельных проектов по большей части стираются. Лидеры быстро оттесняют друг друга, технологии устаревают, и только переходы на новый порядок пока ещё западают в память. Сегодня мы бы хотели немного исправить эту несправедливость и рассказать об одном уникальном суперкомпьютере, история которого началась восемнадцать лет назад. Назывался он System X и был собран, можно сказать, из подручных средств с неожиданно удачным результатом.
Читать дальше →
Всего голосов 7: ↑6 и ↓1+10
Комментарии1

Как суперкомпьютеры нашли свое промышленное mojo — эволюция высокопроизводительных вычислений

Время на прочтение7 мин
Количество просмотров1.9K

Раньше суперкомпьютеры были прерогативой ученых и военных. Теперь набирают обороты промышленные варианты использования. Но в некотором смысле все компьютеры — суперкомпьютеры. Сегодня мы взглянем на то, как развивалась эта область, и на то, что ждет нас в будущем.

Суперкомпьютеры — компьютеры? Нет, не совсем. Суть суперкомпьютеров в том, что они вовсе не компьютеры. Это научные инструменты открытий или стратегические бизнес-объекты — просто они созданы с помощью компьютерных технологий. Впечатляющего количества компьютерных технологий.

Формально являясь традиционной прерогативой научных исследований и обороны, суперкомпьютеры находят применение в коммерческом секторе.

Читать далее
Всего голосов 7: ↑6 и ↓1+7
Комментарии1

Ближайшие события

19 сентября
CDI Conf 2024
Москва
24 сентября
Конференция Fin.Bot 2024
МоскваОнлайн
30 сентября – 1 октября
Конференция фронтенд-разработчиков FrontendConf 2024
МоскваОнлайн

В Китае создали настольный квантовый компьютер стоимостью $5000

Время на прочтение3 мин
Количество просмотров35K

Дешёвый квантовый компьютер, предназначенный для школ и университетов, должен быть выпущен в конце этого года. Он получил название SpinQ и предназначен для изучения принципов квантовых вычислений. Cloud4Y рассказывает, что это за устройство и почему у него такой низкий ценник.  

Читать далее
Всего голосов 28: ↑27 и ↓1+35
Комментарии28

Самый большой процессор в мире — Cerebras CS-1. Разбор

Время на прочтение6 мин
Количество просмотров18K
Наверняка вы подумали, что это какой-то очередной кликбейт. Что это за самый большой процессор в мире? Похоже сейчас нам будут рассказывать о процессоре, который на 5 процентов больше других, и то если рассматривать этот процессор только с определенной стороны. И да, просмотры и прочтения мы хотим собрать, но…

Сегодня мы расскажем вам о процессоре компании Церебро под названием Cerebras CS-1. И он действительно огромный!


Например, GPU, который считался самым большим раньше — это процессор Nvidia V100, а вот новый процессор Церебро. Он почти в 57 раз больше! Площадь самого чипа — 462 квадратных сантиметра — это почти столько же сколько площадь всей Nvidia 3090, вместе с системой охлаждения и разъемами.
Читать дальше →
Всего голосов 17: ↑13 и ↓4+18
Комментарии38

Рокировка в стиле ORNL: на арену лаборатории выходит суперкомпьютер мощностью 1,5 экзафлопс

Время на прочтение2 мин
Количество просмотров2.9K
Источник

На территории Национальной лаборатории Ок-Ридж (ORNL) ведутся работы по монтажу американского суперкомпьютера Frontier. Мощность новой системы составит 1,5 экзафлопс. Проект будет частично введен в работу весной 2021 года. Затем суперкомпьютер достроят — уже после того, как система начнет работу. Frontier разместят в бывшем центре обработки данных суперкомпьютера Titan, который вывели из эксплуатации год назад.
Всего голосов 14: ↑13 и ↓1+19
Комментарии3

Что такое квантовый компьютер? Разбор

Время на прочтение7 мин
Количество просмотров40K
Интересно, а какая сторона у монетки в тот момент, когда она в воздухе? Орел или решка, горит или не горит, открытое или закрытое, 1 или 0. Все это примеры двоичной системы, то есть системы, которая имеет всего два возможных состояния. Все современные процессоры в своем фундаменте основаны именно на этом!

При правильной организации транзисторов и логических схем можно сделать практически все! Или все-таки нет?

Современные процессоры это произведение технологического искусства, за которым стоят многие десятки, а то и сотни лет фундаментальных исследований. И это одни из самых высокотехнологичных устройств в истории человечества! Мы о них уже не раз рассказывали, вспомните хотя бы процесс их создания!

Процессоры постоянно развиваются, мощности растут, количество данных увеличивается, современные дата-центры ворочают данные сотнями петабайт (10 в 15 степени = 1 000 000 000 000 000 байт). Но что если я скажу что на самом деле все наши компьютеры совсем не всесильны!

Например, если мы говорим о BigData (больших данных) то обычным компьютерам могут потребоваться года, а то и тысячи лет для того, чтобы обработать данные, рассчитать нужный вариант и выдать результат.


И тут на сцену выходят квантовые компьютеры. Но что такое квантовые компьютеры на самом деле? Чем они отличаются от обычных? Действительно ли они такие мощные? Будет ли на них CS:GO идти в 100 тысяч ФПС?
Всего голосов 15: ↑9 и ↓6+8
Комментарии28

Компьютер с кипящим охлаждением представлен на семинаре в ИПС РАН

Время на прочтение5 мин
Количество просмотров16K
16 октября 2020 года на семинаре в Институте программных систем РАН (Переславль-Залесский) был показан экспериментальный компьютер, охлаждаемый кипящей жидкостью. Конечно, кипящей при невысокой температуре (40°C). По словам исследователей, это позволяет в тысячи раз улучшить отбор тепла на процессоре и создать одинаково холодные условия во всей установке.

Слева монитор управляющей системы, справа компьютер, на его процессоре заметно кипение.
Слева монитор управляющей системы,
справа компьютер, на его процессоре заметно кипение.


Компьютер не перемещает никаких грузов, не обрабатывает сырья, не выпекает хлеб или керамику — то есть не тратит электрическую мощность на производство продукции. Вся эта мощность должна быть рассеяна компьютером без перегрева, всё его тепло надо сбросить в окружающую среду. Поэтому охлаждение электроники становится очень важной, ключевой задачей. Шаг за шагом было придумано воздушное охлаждение, потом изолированное жидкостное (охладитель в трубках), потом погружное (электроника плавает в охладителе). А теперь сделан следующий шаг — фазовый переход.
Читать дальше →
Всего голосов 46: ↑38 и ↓8+52
Комментарии61

Новый японский суперкомпьютер смоделирует Землю для прогнозирования катастроф

Время на прочтение2 мин
Количество просмотров3.5K

Японское агентство морских наук и технологий (The Japan Agency for Marine — Earth Science and Technology) заключило контракт с компанией NEC на поставку суперкомпьютера «the Earth Simulator» (ES) четвертого поколения. Обрабатывая огромные массивы данных об окружающей среде и планете, компьютер сможет решать самые сложные задачи в области науки о жизни на Земле. Запуск суперкомпьютера запланирован на март 2021 года.

Система базируется на SX-Aurora TSUBASA с векторными ускорителями от NEC и на графических процессорах NVIDIA GPU A100 Tensor Core с тензорными ядрами. Сетевое соединение будет выполнено с помощью NVIDIA Mellanox HDR InfiniBand 200 Гбит/с.
Читать дальше →
Всего голосов 21: ↑21 и ↓0+21
Комментарии2

Обновление списка Top50: частные приросты и общее падение

Время на прочтение3 мин
Количество просмотров1.6K


Начало недели ознаменовалось выходом тридцать третьей версии рейтинга отечественных суперкомпьютеров от Научно-исследовательского вычислительного центра МГУ имени М.В. Ломоносова и Межведомственного Суперкомпьютерного Центра РАН. Под катом – обзор основных изменений по сравнению с предыдущей редакцией.
Читать дальше →
Всего голосов 5: ↑4 и ↓1+6
Комментарии1

Вклад авторов