Привет, Хабр! Сегодня давайте поговорим о том, как современные вычисления на GPU стали более гибкими и эффективными благодаря различным форматам чисел с плавающей запятой (FP64, FP32, FP16, BFLOAT16 и FP8). Эти форматы не просто числа — за каждым из них стоит конкретная область применения. В разных ситуациях мы сталкиваемся с задачами, где важны либо скорость, либо точность, и правильно выбранный тип floating point помогает оптимизировать ресурсы. Давайте разберём всё это на примерах и поймём, в каких задачах каждый из этих форматов будет наиболее полезен.
Видеокарты
Графические адаптеры
Новости
Малые числа, большие возможности: как плавающая запятая ускоряет ИИ и технологии
Привет, Хабр! С вами снова ServerFlow, и сегодня мы решили погрузиться в увлекательный мир чисел с плавающей запятой. Вы когда-нибудь задумывались, почему существуют INT8, FP16, FP32, а также FP64? Как они влияют на производительность наших процессоров и видеокарт? Как малые числа с плавающей запятой помогают развивать нейросети и искусственный интеллект? Давайте вместе разберемся в этих вопросах, раскроем тайны стандарта IEEE 754 и узнаем, какое значение имеют большие и маленькие числа с плавающей запятой в современных вычислениях.
Настройка Linux для обучения моделей с GPU
Настройка ПК с Linux для обучения моделей на GPU. В статье приводятся ссылки на скрипты, написанные для упрощения процесса настройки ПК с GPU на Linux для обучения моделей машинного обучения. Скрипты и настройка разбита на три ключевых этапа: настройка удалённого доступа с помощью ssh/vnc/rdp, установка драйверов Nvidia и CUDA для работы с GPU, а также конфигурация инструментов разработки, таких как Docker и Jupyter. Скрипты могут помочь с решением вопросов с установкой или послужить основой для улучшений/изменений чтобы быстро подготовить домашнюю лабораторию к работе.
На что способны видеокарты GeForce RTX 4090D с 48 ГБ памяти из Китая и зачем они нужны
Пока западные энтузиасты продолжают гоняться за лишними кадрами в играх, китайский рынок GPU преподносит сюрприз, который заставит задуматься даже видавших виды экспертов. Ведь на горизонте появились настоящие монстры, равных которым будет найти весьма сложно. Мастера из Поднебесной сумели довести объемы памяти топовых видеокарт Nvidia вплоть до 48 ГБ. Так что теперь они не просто обходят американские санкции — они задают новую планку в истории графических вычислений.
Истории
One more ПК для Machine Learning по цене RTX4090
Сборка ПК для машинного обучения: выбор между производительностью и бюджетом
Как собрать мощный компьютер для машинного обучения и не разориться? В этой статье я рассказываю о своем опыте выбора комплектующих, включая сравнение RTX 3090 Ti и RTX 4090, баланс между производительностью и стоимостью.
Долгожданная RTX 4090 для ML и не только: дайджест новинок
Последний месяц лета оказался насыщенным на события и продуктовые обновления. Например, мы завезли RTX 4090 – одну из лучших видеокарт GeForce на базе архитектуры Ada Lovelace. Данная GPU отлично подходит для рендеринга и стриминга видео, 3D-моделирования и запуска инференса ML-моделей.
Но это еще не все! В августе мы завезли запустили Security Center, добавили группы пользователей в IAM и не только. Интересно узнать подробности? Добро пожаловать под кат!
Мощь и заоблачная цена: что известно о видеокартах NVIDIA GeForce RTX 5000-й серии
По мере того как текущее поколение видеокарт NVIDIA GeForce RTX 4000-й серии перестает впечатлять своей производительностью, взгляды энтузиастов и профессионалов постепенно обращаются к будущей линейке GeForce RTX 5000. Несмотря на то, что официальной информации от NVIDIA на этот счет пока нет, земля полнится слухами и предположениями о характеристиках и возможностях грядущего поколения графических ускорителей. В результате прогнозов и утечек образовалось уже достаточно много, чтобы по крайней мере попробовать составить картину того, чего стоит ожидать от новых видеокарт.
Впечатления от iGPU Adreno чипа Snapdragon X Elite
Qualcomm — не новичок в мире интегрированной графики. Её линейка Adreno GPU использовалась во многих поколениях SoC Snapdragon для сотовых телефонов. Но компании Qualcomm всегда было тесно в рамках телефонного рынка, она таила амбиции расширить свою мощь и выйти на другой уровень производительности. Сегодня её Snapdragon X Elite выпускается с прицелом на рынок ноутбуков. Adreno тоже переносится на рынок более высокой производительности, на котором есть такие конкуренты, как iGPU Intel Xe-LPG в Meteor Lake и iGPU AMD RDNA 3 в Phoenix.
Что умеет генеративная нейросеть Amuse 2.0 от AMD и как ее установить
Сегодня нейросети находятся на невероятном подъеме. Кажется, только ленивый не сделал свой собственный чат-бот или генеративный ИИ, который помогает в создании творческого контента. Поэтому запуск Amuse 2.0 от AMD для многих прошел незамеченным. И совершенно, надо сказать, напрасно, ведь это инновационное решение для генерации изображений, которое заслуживает самого пристального внимания.
Intel Gaudi — гонка ИИ-ускорителей
Привет Хабр! С вами снова ServerFlow и мы хотим поговорить о насущном – о ИИ с нейросетями, а точнее о железе на котором нейросети обучают и на котором впоследствии они работают. В последние годы эта индустрия напоминает арену бойцовского клуба, где технологические гиганты с ожесточенной конкуренцией стремятся предложить наиболее производительные и эффективные решения для машинного обучения. И хотя не особо похоже, чтобы у кого-то на этой арене получилось сместить лидера рынка в лице NVIDIA, однако, попытки продолжают предприниматься.
Так продолжает и Intel, представив свету свою серию ИИ-ускорителей под брендом Gaudi, а не так давно и обновленную модель Gaudi 3. Ранее Intel предпринимала попытки в собственные разработки ИИ ускорителей, но в этот раз за работу взялась компания Habana Labs, приобретённая Intel в 2019 году за внушительную сумму в 2 миллиарда долларов.
NVIDIA и ARM — От первых шагов до попыток поглощения
Привет Хабр! Мы в ServerFlow не просто поставляем серверное оборудование – мы железо всех видов и сортов горячо любим и им интересуемся, особенно историей его развития. Сегодня мы хотим поделиться с вами историей развития ARM-направления в NVIDIA — от первых попыток в мобильном сегменте до недавних стратегических ходов, включая неудавшуюся попытку приобрести ARM Holdings.
Подробнее обо всём этом ниже в статье.
Летний дископад, новые процессоры Intel и AmpereOne Aurora: дайджест серверного железа
Совсем недавно прошла выставка FMS 2024, на которой производители дисков представили много новинок. Среди них — SSD с объемами до 128 ТБ, QLC со скоростью чтения до 14 ГБ/с и многое другое. Я назвал это «летним дископадом».
Меня зовут Сергей, я менеджер выделенных серверов в Selectel. В этом материале рассказываю о новинках, обозреваю свежие процессоры, CXL-решения и системы хранения данных. Подробности под катом!
Встроенная графика AMD Radeon 890M оказалась мощнее дискретной видеокарты GeForce RTX 3050
В последние годы AMD активно развивает направление интегрированной графики. Сейчас компания готовится представить мощнейший видеочип Radeon 890M, который, вероятно, задаст новую планку производительности. Согласно утечкам синтетических тестов, новый iGPU обходит по производительности не только предыдущего лидера в лице Radeon 780M, но и некоторые дискретные видеокарты среднего уровня, такие как GeForce RTX 3050 в мобильном исполнении.
Ближайшие события
Майнинг криптовалюты на службе экономике России
Легализация и налогооблажение майнинга крипты в РФ
Недавно по Новостям на ТВ прошёл сюжет, что готовится закон о регулировании майнинга криптовлюты в РФ.
Суть его сводится к двум основным аргументам (п.1-2) и одному выводу (п.3):
1. Электроэнергию на майнинг нужно продавать по коммерческим ценам как для промышленности, а не по субсидированным ценам как для населения.
2. С добычи криптовалюты нужно брать легальные налоги как с деятельности самих коммерческих предприятий (налоги на ФОТ и т.д.), так и налог с в форме процентов от сгенерированной криптовалюты.
3. Размещать майнинг-фермы нужно там, где это выгодно энергосистеме страны, а не личной выгоде самого майнера.
Стоимость энергии и цена на криптовалюту.
Проще всего узнать цену биткоина (см.рис.1.)
«Старая добрая RTX 2080 теперь в облаке!»: дайджест продуктовых обновлений за июль
Привет, Хабр! В июле термометр не единожды показывал +30 °C, а мы поддержали новую версию Kubernetes 1.30. Еще в 10 раз увеличили производительность БД и завезли новые конфигурации. Теперь вы можете создавать серверы со старой доброй RTX 2080 и не только. Подробности под катом.
На что способен инженер, загнанный в угол (или как устроен Display Port у Aspeed AST2600)
Дано:
Серверная плата с самым свежим чипом от Aspeed. На плате распаяны два видео-разъема, идущих напрямую с чипа: VGA и DisplayPort. Видео через древний аналоговый VGA-разъём воспроизводится замечательно, а вот современный быстрый и цифровой DP работать не хочет. Не то чтобы совсем не хочет... так, редкие нестабильные промаргивания картинки.
Задача:
1. Починить выводимое на Display Port изображение.
2. Вчера
Вы спросите, зачем нам понадобился именно DP? Все сервера испокон веков работали через VGA, и никто от этого не страдал.
Ответ простой: Мы просто решили сделать лучше и удобнее. VGA древний и его уже ставят по причине "всегда ставили, куда без него"? Мы же делаем НОВУЮ серверную платформу на годы вперед. Нужно сказать, что мы пока не отказались полностью от VGA и технически он всё ещё остается доступен одновременно с DP (как VGA использовать, расскажем в другой раз). Но монитор без разъема VGA попадается всё чаше, а в будущем все мониторы останутся без VGA. DP поддерживает hot-plug. DP поддерживает высокие разрешения и frame-rate. И в конце концов, DP поддерживается чипом ASPEED. А раз железо позволяет, то "А почему бы и ДА!?". В конце концов, для олдов остаются доступны переходники DP-VGA. Главное, не увлекаться и не получить такое:
Новый игровой ноутбук Huawei MateBook GT 14 ориентирован на внешние видеокарты. Что это значит
В мире высокопроизводительных ноутбуков для игр появился новый представитель, способный привлечь внимание даже самых требовательных геймеров и энтузиастов. Huawei MateBook GT 14 - ультрамощный лэптоп, который не только впечатляет своими характеристиками и внешним видом, что также играет немаловажную роль в его позиционировании, но и предлагает уникальную конфигурацию работы с внешней видеокартой.
Magic bash script для установки драйверов Nvidia и CUDA (и Docker) в Ubuntu 22.04 и 24.04
Установка драйверов для видеокарт от Nvidia с одной стороны сейчас не вызывает столько проблем, как было еще 10–15 лет назад, с другой стороны если с драйверами еще как-то народ управляется, то вот работоспособную CUDA получить могут не все. У себя в HOSTKEY мы создали специальный скрипт, который пользователь может запустить самостоятельно и получить рабочее окружение для запускавсего — от PyTorch до Stable Diffusion и Ollama с поддержкой GPU.
Что лучше для бюджетного игрового ПК: интегрированная графика или дискретная видеокарта
В условиях постоянно растущих цен на компьютерные комплектующие и ограниченного бюджета, перед многими людьми встает непростой выбор: как собрать игровой ПК, не выходя за рамки своих финансовых возможностей? Сегодня мы рассмотрим две альтернативные стратегии в пределах 40000 рублей (за основные компоненты). Первая предполагает использование мощного процессора со встроенным графическим ядром, а вторая - комбинацию CPU и недорогой дискретной видеокарты.
Наш анализ будет сфокусирован на новейшем APU AMD Ryzen 7 8700G с интегрированной графикой Radeon 780M и на связке, состоящей и Ryzen 5 7500F и Radeon RX 580. Мы погрузимся в технические характеристики, бенчмарки и экспертные оценки, чтобы определить оптимальное решение для различных сценариев использования. А также определим, что все-таки выгоднее с точки зрения финансовых затрат.
Перегрев за $1000: что и почему происходит с мощными видеокартами от Nvidia
Покупая видеокарту за $1000, пользователь полагает, что ближайшие несколько лет она проработает без сбоев. Однако бывают и исключения со стороны некоторых производителей. На днях были опубликованы результаты изучения видеокарт серии RTX 40. Как оказалось, многие из них корректно работают только первые несколько дней. А в течении следующих пары месяцев перегреваются до 100 °C. В чем же проблема?
Вклад авторов
ernesttsenre 448.0SArd 398.0RiddleRider 349.0skovalev 267.0alizar 255.4Xcom-shop 227.3da-nie 191.0PNP80 180.0duran-duran 173.0Firemoon 167.0