Pull to refresh

Ampere — новейшая игровая архитектура NVIDIA. Самое важное из вайт пейпера

Pixonic corporate blog High performance *Computer hardware Video cards CPU
Translation


С момента изобретения своего первого графического процессора в 1999 году NVIDIA находится в авангарде трехмерной графики и вычислений с ускорением на графическом процессоре. Каждая архитектура NVIDIA тщательно разработана для обеспечения революционного уровня производительности и эффективности.

A100, первый графический процессор с архитектурой NVIDIA Ampere, был выпущен в мае 2020 года. Он обеспечивает колоссальное ускорение для обучения ИИ, высокопроизводительных вычислений и анализа данных. В основе A100 лежит чип GA100 — чисто вычислительный и, в отличие от GA102, еще не игровой.

Графические процессоры GA10x основаны на архитектуре графических процессоров NVIDIA Turing. Turing — первая архитектура в мире, предлагающая высокопроизводительную трассировку лучей в реальном времени, графику с ИИ-ускорением и профессиональный рендеринг графики — все в одном устройстве.

В этой статье мы разберем основные изменения в архитектуре новых видеокарт NVIDIA по сравнению с предшественницей.
Читать дальше →
Total votes 32: ↑32 and ↓0 +32
Views 19K
Comments 16

Что покупать для глубокого обучения: личный опыт и советы использования GPU

Machine learning *CPU
Translation
Перевод статьи Тима Деттмерса, кандидата наук из Вашингтонского университета, специалиста по глубокому обучению и обработке естественного языка

Глубокое обучение (ГО) – область с повышенными запросами к вычислительным мощностям, поэтому ваш выбор GPU фундаментально определит ваш опыт в этой области. Но какие свойства важно учесть, если вы покупаете новый GPU? Память, ядра, тензорные ядра? Как сделать лучший выбор по соотношению цены и качества? В данной статье я подробно разберу все эти вопросы, распространённые заблуждения, дам вам интуитивное представление о GPU а также несколько советов, которые помогут вам сделать правильный выбор.

Статья написана так, чтобы дать вам несколько разных уровней понимания GPU, в т.ч. новой серии Ampere от NVIDIA. У вас есть выбор:

  1. Если вам не интересны детали работы GPU, что именно делает GPU быстрым, чего уникального есть в новых GPU серии NVIDIA RTX 30 Ampere – можете пропустить начало статьи, вплоть до графиков по быстродействию и быстродействию на $1 стоимости, а также раздела рекомендаций. Это ядро данной статьи и наиболее ценное содержимое.
  2. Если вас интересуют конкретные вопросы, то наиболее частые из них я осветил в последней части статьи.
  3. Если вам нужно глубокое понимание того, как работают GPU и тензорные ядра, лучше всего будет прочесть статью от начала и до конца. В зависимости от ваших знаний по конкретным предметам вы можете пропустить главу-другую.

Каждая секция предваряется небольшим резюме, которое поможет вам решить, читать её целиком или нет.
Читать дальше →
Total votes 31: ↑29 and ↓2 +27
Views 29K
Comments 15

Играемся с 3090 и пробуем MIG на A100

Image processing *Machine learning *Computer hardware Video cards Natural Language Processing *


Каждый раз, когда встает заветный вопрос, апгрейдить ли карточки в серверной или нет, я просматриваю подобные статьи и смотрю такие видосы (нет, маркетинговым материалам от Nvidia конечно верить нельзя, как показал недавний кейс с числом CUDA-ядер).


Канал "Этот Компьютер" очень сильно недооценен, но автор не занимается ML. А в целом при анализе сравнений акселераторов для ML в глаза как правило бросаются несколько вещей:


  • Авторы учитывают как правило только "адекватность" для рынка новых карт в США;
  • Рейтинги далеки от народа и делаются на весьма стандартных сетках (что наверное в целом хорошо) без деталей;
  • Популярная мантра тренировать все более гигантские сетки вносит свои коррективы в сравнения;

Не нужно быть семи пядей во лбу, чтобы знать очевидный ответ на вопрос "а какая карта лучше?": карточки серии 20* в массы не пошли, 1080 Ti с Авито до сих очень привлекательны (и не особо дешевеют как ни странно, вероятно по этой причине).


Все это прекрасно и вряд ли стандартные бенчмарки сильно врут, но недавно я узнал про существование технологии Multi-Instance-GPU для видеокарт А100 и нативную поддержку TF32 и мне пришла идея поделиться своим опытом реального тестирования карточек на архитектуре Ampere (3090 и А100). В этой небольшой заметке я постараюсь ответить на вопросы:


  • Стоит ли свеч обновление на Ampere? (спойлер для нетерпеливых — да);
  • Стоят ли своих денег A100 (спойлер — в общем случае — нет);
  • Есть ли кейсы, когда A100 все-таки интересны (спойлер — да);
  • Полезна ли технология MIG (спойлер — да, но для инференса и для очень специфичных случаев для обучения);

За деталями прошу под кат.

Читать дальше →
Total votes 20: ↑20 and ↓0 +20
Views 9.2K
Comments 25

Playing with Nvidia's New Ampere GPUs and Trying MIG

Image processing *Big Data *Machine learning *Computer hardware Natural Language Processing *


Every time when the essential question arises, whether to upgrade the cards in the server room or not, I look through similar articles and watch such videos.


Channel with the aforementioned video is very underestimated, but the author does not deal with ML. In general, when analyzing comparisons of accelerators for ML, several things usually catch your eye:


  • The authors usually take into account only the "adequacy" for the market of new cards in the United States;
  • The ratings are far from the people and are made on very standard networks (which is probably good overall) without details;
  • The popular mantra to train more and more gigantic models makes its own adjustments to the comparison;

The answer to the question "which card is better?" is not rocket science: Cards of the 20* series didn't get much popularity, while the 1080 Ti from Avito (Russian craigslist) still are very attractive (and, oddly enough, don't get cheaper, probably for this reason).


All this is fine and dandy and the standard benchmarks are unlikely to lie too much, but recently I learned about the existence of Multi-Instance-GPU technology for A100 video cards and native support for TF32 for Ampere devices and I got the idea to share my experience of the real testing cards on the Ampere architecture (3090 and A100). In this short note, I will try to answer the questions:


  • Is the upgrade to Ampere worth it? (spoiler for the impatient — yes);
  • Are the A100 worth the money (spoiler — in general — no);
  • Are there any cases when the A100 is still interesting (spoiler — yes);
  • Is MIG technology useful (spoiler — yes, but for inference and for very specific cases for training);
Read more →
Total votes 5: ↑5 and ↓0 +5
Views 3K
Comments 0

NVIDIA Ampere против AMD RDNA 2: битва архитектур

Pixonic corporate blog Game development *Computer hardware CPU
Translation

Спустя два года после запуска Turing в сентябре 2020 года NVIDIA сменила архитектуру своих видеокарт на Ampere. AMD не осталась в стороне и вскоре после этого тоже обновила архитектуру RDNA до второй версии.  

Всем хотелось, чтобы новые видеокарты RX 6000 могли составить конкуренцию лучшим продуктам NVIDIA. И теперь, когда обе серии вышли в продажу, геймеры оказались избалованы выбором (по крайней мере, теоретически), куда вложить свои деньги.

Но что насчет чипов, лежащих в их основе? Какой из них лучше?

Читать далее
Total votes 37: ↑37 and ↓0 +37
Views 20K
Comments 39

Поступление в продажу 128-ядерных чипов Ampere Max не за горами: готовы инженерные образцы процессора

Selectel corporate blog IT Infrastructure *Manufacture and development of electronics *CPU IT-companies


В 2020 году компания Ampere Computing, основанная экс-президентом Intel Рене Джеймс (Renee James), анонсировала128-ядерный ARM-процессор Altra Max. Тогда сообщалось, что чип основан на ARM-архитектуре N1. Процессоры не предназначены для установки в пользовательские устройства, они будут выпускаться для нужд дата-центров и индустрии сетевых технологий в целом.

Отгрузку первой партии компания пообещала реализовать в конце 2021 года, и, похоже, обещание будет сдержано. Дело в том, что уже готовы инженерные образцы чипов, о чем стало известно совсем недавно. Подробности, как обычно — под катом.
Читать дальше →
Total votes 54: ↑54 and ↓0 +54
Views 9.1K
Comments 7

Делай добро и бросай его в воду: бесплатно поднимаем obfs4-бриджи в Oracle Cloud

Decentralized networks *System administration **nix *Cloud services *
Sandbox

Привет, Хабр!

Надеюсь, ты уже слегка отошёл от новогодних праздников и возвращаешься в привычную колею. Лично я эти длинные выходные терпеть ненавижу и, посмотрев, по традиции, режиссёрские версии "Хоббита" с "Властелином Колец" дня за 3-4, начинаю от скуки лезть на стену и остервенело искать, чем бы себя занять. Не стал исключением и прошедший год - в этот раз сердце успокоилось с помощью авантюры с участием бриджей Тора, ораклового облака и вполне реальной возможности заполучить ценный лут.

Но давайте обо всём по порядку.
Total votes 12: ↑12 and ↓0 +12
Views 12K
Comments 17

Ampere Computing продолжает развивать ARM-процессоры для дата-центров: уже рассылаются серверные чипы

Selectel corporate blog High performance *IT Infrastructure *CPU Network hardware

Примерно два года назад о компании Ampere Computing стали активно говорить — она представила 128-ядерный ARM-процессор Altra Max, который предназначался для установки в специализированное оборудование для дата-центров и индустрии сетевых технологий в целом. Компания дала обещание до конца 2021 года реализовать отгрузку первой партии чипов. Более того, она, в общем-то, выполнила это обещание.

Ampere Computing не стала почивать на лаврах и начала разрабатывать новые чипы, причем последний из них, AmpereOne, базируется на собственном варианте архитектуры. Подробности о новинке и планах компании — под катом.
Читать дальше →
Total votes 48: ↑46 and ↓2 +44
Views 4.9K
Comments 9

Сравнили 80-ядерный ARM-процессор Ampere Altra с AMD EPYC и довольны результатом. Протестируйте и вы

Selectel corporate blog IT systems testing *IT Infrastructure *Computer hardware CPU
Review

Привет, Хабр! Меня зовут Максим, я работаю тестировщиком оборудования в Selectel Lab. В нашей лаборатории мы изучаем новое железо в экспериментальных сборках, а также предлагаем его на тест клиентам Selectel.

На этот раз к нам попал сервер GIGABYTE E252-P30 с 80-ядерным процессором от Ampere Altra Q80-30. Этот ARM-процессор уже отметился характеристиками: процессоры с таким числом ядер с частотой 3.0 ГГц при TDP в 210 Вт не предлагает ни один «звездный» вендор.

Прогнали этот сервер через ряд тестов и сравнили с наиболее близким по характеристикам AMD EPYC 7513. Под катом — результаты бенчмарков и предложение протестировать процессор бесплатно.
Читать дальше →
Total votes 54: ↑53 and ↓1 +52
Views 11K
Comments 11

NVIDIA показала наброски GeForce RTX 30-й серии: в ней будет новый коннектор питания, но в коробку положат переходник

Computer hardware Video cards Games and game consoles IT-companies

Компания NVIDIA опубликовала видеоролик, в котором показала наброски видеокарт нового поколения GeForce RTX 30-й серии и раскрыла некоторые детали. В частности, в видео сообщается, что в видеокарты встроят новый 12-контактный коннектор питания вместо двух 8-контактных.

Читать дальше →
Total votes 10: ↑10 and ↓0 +10
Views 12K
Comments 31

NVIDIA представила новую линейку видеокарт на Ampere

Computer hardware Video cards Games and game consoles
image

NVIDIA представила свои новые видеокарты линейки Ampere. Это GeForce RTX 3090, RTX 3080 и RTX 3070. При этом NVIDIA заявила, что на RTX 3090 впервые можно будет играть в разрешении 8K с частотой обновления 60 кадров в секунду.
Total votes 19: ↑19 and ↓0 +19
Views 19K
Comments 79

Microsoft выпустила новую версию DeepSpeed+ZeRO для тренировки нейросетей

ITSumma corporate blog High performance *GPGPU *Machine learning *
image

Компания Microsoft выпустила в свет новую версию библиотеки для тренировки нейросетей DeepSpeed+ZeRO, о чем свидетельствуют обновления соответствующего репозитория на GitHub. Теперь библиотека способна работать по 1 трлн параметров против 100 млрд, заявленных в первой версии DeepSpeed+ZeRO.

Ранняя версия библиотеки была представлена публике еще в феврале этого года и позиционировалась как инструмент, который значительно расширяет возможности по тренировке нейросетей по большому спектру параметров.
Читать дальше →
Total votes 13: ↑13 and ↓0 +13
Views 2.6K
Comments 1

Nvidia представила RTX 3060: $329

Computer hardware Video cards Laptops

Компания Nvidia представила видеокарту RTX 3060, которая стала самой доступной в линейке Ampere. Стоимость новинки — $329, или чуть больше 24 тыс. рублей по курсу на момент публикации. Официальная рекомендованная цена для России выше — 31 800 рублей. RTX 3060 появится в продаже в феврале.

Читать далее
Total votes 13: ↑13 and ↓0 +13
Views 22K
Comments 19

Китайские майнеры обнаружили, что сейчас добывать криптовалюту выгодно даже на ноутбуках

Laptops Cryptocurrencies

В Китае постепенно набирает популярность новый способ майнинга. Цена криптовалюты Ethereum выросла настолько, что ее стало выгодно добывать на ноутбуках. 

Читать далее
Total votes 27: ↑26 and ↓1 +25
Views 65K
Comments 120

Ampere начнет выпускать серверные чипы с собственными вычислительными ядрами

High performance *Cloud computing *Start-up development CPU

Ampere Computing Llc, основанная бывшим президентом Intel Corp Рене Джеймсом, заявила, что выпустит процессор с собственными вычислительными ядрами в 2022 году.

Читать далее
Total votes 6: ↑6 and ↓0 +6
Views 2K
Comments 1

NVIDIA: в следующем году ситуация с видеокартами будет сложной

Video cards IT-companies

Генеральный директор американской компании NVIDIA Дженсен Хуанг прогнозирует нехватку графических процессоров на протяжении большей части 2022 года. Он связывает это с повышенным спросом на видеокарты. 

Читать далее
Total votes 15: ↑14 and ↓1 +13
Views 13K
Comments 31

Через год после выпуска Radeon RX 6000 и GeForce RTX 30 все ещё стоят вдвое дороже рекомендованной цены

Sales management *Manufacture and development of electronics *Video cards

В ноябре 2021 года исполняется год с момента выпуска видеокарт Radeon RX 6000. Несмотря на то, что прошло 12 месяцев, цены на RDNA2 и видеокарты на базе Ampere продолжают расти.

Читать далее
Total votes 13: ↑13 and ↓0 +13
Views 4.3K
Comments 11

HOSTKEY предлагает GPU-серверы с RTX A5500

HOSTKEY corporate blog Hosting Video cards

HOSTKEY продолжает расширять парк GPU-серверов и предлагает конфигурации с профессиональными графическими картами RTX A5500. Новинка построена на архитектуре Ampere с RT-ядрами второго и тензорных ядер третьего поколений. Видеокарта выделяется наличием 24 Гбайт памяти GDDR6 с функцией коррекции ошибок ECC. Пиковая пропускная способность памяти достигает 768 Гбайт/с.

Узнать подробности
Total votes 3: ↑3 and ↓0 +3
Views 1.7K
Comments 0

Аналитики прогнозируют сокращение рынка видеоигр в 2022 году

Statistics in IT Finance in IT Games and game consoles IT-companies

Аналитическая компания Ampere Analysis провела исследование, которое прогнозирует падение рынка игровой индустрии в годовом исчислении. В прошлом году продажи игр, консолей и услуг по подписке достигли рекордной суммы в $191 млрд. В текущем году это значение сократится до $188 млрд, обещают аналитики.

Читать далее
Rating 0
Views 939
Comments 0