В марте этого года компания Nvidia представила публике свой новый продукт — 144-ядерный процессорный чип Grace Hopper. Он является первым серверным процессором с архитектурой Arm подобной мощности и предназначен для сегмента масштабных ИИ- и HPC-проектов.
По итогам последних тестов инженеры Nvidia заявили, что их продукт в 2 раза быстрее и в 2,3 раза эффективнее актуального Intel Xeon поколения Ice Lake.
Ранее на серверном рынке уже были представлены 32-битные ARMv7 и 64-битные ARMv8, которые активно использовались в облачном хостинге. Процессоры на базе ARM были намного дешевле процессоров Intel, однако использовались, в первую очередь, для задач с невысокой нагрузкой.
Однако еще на этапе выхода ARM на серверный рынок специалисты сообщали: у технологии есть огромный потенциал масштабирования и роста в плане многоядерности, и если для х86 даже 64 ядра на процессор — уже серьезное достижение, то Arm-процессорам прогнозировали уверенный рост размеров до монстров в 128 или 256 ядер на процессор без необходимости совершения каких-либо технологических прорывов.
Как итог, спустя несколько лет, Nvidia реализует этот прогноз и выпускает Grace Hopper, который уже не стремится занять дешевую нишу виртуалок или исключительно кластерных решений в облаках, а вполне себе является самостоятельной вычислительной единицей, способной тягаться с AMD EPYC или Intel Xeon.
На самой презентации NVIDIA GTC 2022 показала, что за основу нового Grace Hopper была взята архитектура другого продукта компании — видеочипа NVIDIA H100. Он позиционируется как специализированное решение для ML и ИИ-задач, в первую очередь, для эффективного обучения языковых моделей, которые сейчас являются одной из самых сложных и ресурсоемких отраслей машинного обучения, требующие огромных вычислительных мощностей.
По отчетам, ее новые процессоры в 1,5 раза быстрее пары 64-ядерных EPYC 7742 или соответствует паре флагманов серии EPYC Milan. Еще выгоднее новинка выглядит на фоне актуальных Intel Xeon Ice Lake, а именно пары 36-ядерных и 72-поточных моделей Xeon Platinum 8360Y. За счет архитектурных решений, Nvidia Grace Hopper более чем в два раза эффективнее процессоров Intel в пересчете на ватт, что является одним из ключевых параметров для больших кластерных систем и дата-центров. Это позволяет сказать, что сейчас Grace Hopper является лучшим решением в серверном сегменте для ряда задач, а в области ML, обучения нейросетей и языковых моделей, новинка будет вне конкуренции.
Нужно помнить, что в 2023 году мы ожидаем новые процессоры AMD EPYC Genoa и Intel Xeon Sapphire Rapids. Эти архитектуры с высокой долей вероятности должны сократить принципиальный разрыв с Grace Hopper в плане абсолютного отношения мощности, однако стоит помнить, что в основе продукта Nvidia — ARM и архитектура тензорных ядер. Кроме того, компания уже предлагает мощные кластерные решения DGX H100 для работы с нейросетями. Пока в основе кластера с 8 GPU H100 Tensor Core трудится два неуточненных x86-процессора, но переход на процессоры линейки Grace в этом сегменте — лишь вопрос времени.
По итогам последних тестов инженеры Nvidia заявили, что их продукт в 2 раза быстрее и в 2,3 раза эффективнее актуального Intel Xeon поколения Ice Lake.
Ранее на серверном рынке уже были представлены 32-битные ARMv7 и 64-битные ARMv8, которые активно использовались в облачном хостинге. Процессоры на базе ARM были намного дешевле процессоров Intel, однако использовались, в первую очередь, для задач с невысокой нагрузкой.
Однако еще на этапе выхода ARM на серверный рынок специалисты сообщали: у технологии есть огромный потенциал масштабирования и роста в плане многоядерности, и если для х86 даже 64 ядра на процессор — уже серьезное достижение, то Arm-процессорам прогнозировали уверенный рост размеров до монстров в 128 или 256 ядер на процессор без необходимости совершения каких-либо технологических прорывов.
Как итог, спустя несколько лет, Nvidia реализует этот прогноз и выпускает Grace Hopper, который уже не стремится занять дешевую нишу виртуалок или исключительно кластерных решений в облаках, а вполне себе является самостоятельной вычислительной единицей, способной тягаться с AMD EPYC или Intel Xeon.
На самой презентации NVIDIA GTC 2022 показала, что за основу нового Grace Hopper была взята архитектура другого продукта компании — видеочипа NVIDIA H100. Он позиционируется как специализированное решение для ML и ИИ-задач, в первую очередь, для эффективного обучения языковых моделей, которые сейчас являются одной из самых сложных и ресурсоемких отраслей машинного обучения, требующие огромных вычислительных мощностей.
По отчетам, ее новые процессоры в 1,5 раза быстрее пары 64-ядерных EPYC 7742 или соответствует паре флагманов серии EPYC Milan. Еще выгоднее новинка выглядит на фоне актуальных Intel Xeon Ice Lake, а именно пары 36-ядерных и 72-поточных моделей Xeon Platinum 8360Y. За счет архитектурных решений, Nvidia Grace Hopper более чем в два раза эффективнее процессоров Intel в пересчете на ватт, что является одним из ключевых параметров для больших кластерных систем и дата-центров. Это позволяет сказать, что сейчас Grace Hopper является лучшим решением в серверном сегменте для ряда задач, а в области ML, обучения нейросетей и языковых моделей, новинка будет вне конкуренции.
Нужно помнить, что в 2023 году мы ожидаем новые процессоры AMD EPYC Genoa и Intel Xeon Sapphire Rapids. Эти архитектуры с высокой долей вероятности должны сократить принципиальный разрыв с Grace Hopper в плане абсолютного отношения мощности, однако стоит помнить, что в основе продукта Nvidia — ARM и архитектура тензорных ядер. Кроме того, компания уже предлагает мощные кластерные решения DGX H100 для работы с нейросетями. Пока в основе кластера с 8 GPU H100 Tensor Core трудится два неуточненных x86-процессора, но переход на процессоры линейки Grace в этом сегменте — лишь вопрос времени.
