Видеокарты

Привет, Хабр! Меня зовут Артём Маклаев, вместе с командой я занимаюсь оценкой производительности серверных платформ для задач искусственного интеллекта в YADRO. Сегодня поговорим о готовящемся к выпуску сервере YADRO G4208P G3, к раннему образцу которого мы получили полный доступ, чтобы оценить его эффективность работы с нейросетями.

Мы провели масштабное тестирование разных ИИ-моделей на платформах с восемью H100 NVL и RTX 4090, адаптированных для установки в сервер. Когда выгоднее взять RTX 4090, а в каких случаях не обойтись без серверных карт? Давайте вместе разберемся.

В последнее время большие языковые модели (LLM) становятся все более популярными, но для их эффективного запуска требуется значительная вычислительная мощность. Один из способов запуска LLM локально - использование библиотеки Llama.cpp. В этой статье мы рассмотрим, как тестировать производительность видеокарт для LLM с использованием инструмента llama-bench, входящего в состав Llama.cpp.

Дисклеймер: Почему Llama.cpp, а не Ollama?

Прежде чем мы приступим к тестированию, важно объяснить, почему мы используем Llama.cpp напрямую, а не Ollama. Ollama – это удобная надстройка, упрощающая установку и запуск LLM. Однако, она добавляет дополнительный слой абстракции, который приводит к снижению производительности и ограничивает контроль над настройками. Llama.cpp же напротив предоставляет прямой доступ к аппаратным ресурсам и позволяет максимально оптимизировать запуск LLM на вашей системе. Если ваша цель – получить максимальную производительность и точно настроить параметры, Llama.cpp – отличный выбор.

В этой статье я расскажу, как можно разделить GPU на vGPU в кластере Kubernetes с поддержкой жесткой изоляции, используя Volcano и Volcano vGPU Device Plugin.

Продолжаем статьи про практические тесты актуальных картонок от Nvidia (A5000 Ada, A100, 3090 и A10). В этот раз мне предложили (не реклама) денёк погонять Nvidia RTX 5090 в хостинге (себе такую брать я бы не стал), и я не мог отказаться от такого предложения.

За день что‑то стоящее натренировать нынче уже проблематично, поэтому будем «снимать» уже привычных обратно совместимых «попугаев» через gpu-burn и также замерим скорость инференса одной нашей довольно прожорливой сетки в продакшене.

Все шутки про Nvidia давно уже не шутки, санкции и торговые войны идут своим чередом, но тем не менее в России новинки появляются с завидной регулярностью несмотря на все запреты.

На фоне сильно негативного новостного фона со стороны игрового сообщества про новый релиз Nvidia и своеобразных «успехов» Nvidia по наращиванию своей капитализации продвинутой «сегментации» рынка (все уже пошутили про новый коннектор, огромный рост TDP и размера карт), мне лично было интересно, а есть ли рост 50* поколения карт для наших задач против 30* поколения.

Если верить техно‑ и игровым блоггерам, их новое поколение совсем не впечатлило. Меня зато так «впечатлило» 40* поколение, что мы даже не рассматривали апгрейд 3090. Но обо всём по порядку.

Не успели видеокарты RTX 50-й серии появиться в продаже, а NVIDIA уже готовит их обновление. Судя по утечкам, компания планирует выпустить SUPER-версии с увеличенным объемом видеопамяти. Разбираемся, насколько значительным будет апгрейд и что это значит для геймеров и профессионалов. Но главное – стоит ли ждать выхода этих карт или купить что-то из наличия здесь и сейчас.

Каждый раз, когда NVIDIA выпускает новую линейку видеокарт, в сообществе геймеров и энтузиастов начинается настоящее броуновское движение. Одни яро доказывают, что это революция в мире графики. Другие с не меньшим жаром утверждают, что это очередной маркетинговый ход и переплата за бренд. А посередине стоим мы - обычные пользователи, которые просто хотят понять, стоит ли тратить кровно заработанные на апгрейд или можно еще годик-другой посидеть на старом железе? Сегодня разберемся с RTX 5060 - младшей моделью в семействе Blackwell, которая обещает перенести технологии флагманов в средний ценовой сегмент.

Когда вы покупаете новую видеокарту, вы можете ожидать всего от прироста FPS в играх до – не дай бог – оплавления контактов, но никак не контроля со спутника. Однако теперь, похоже, даже игровые карточки NVIDIA смогут не просто рендерить картинку, но и транслировать ваше местоположение куда-то на Запад. Причина – намерение США ограничить поставки топовых железок в страны, где они продаваться официально не должны. Разберёмся, в чём тут дело.

Эволюция видеокарт среднего сегмента всегда была интересным зрелищем. Для опытного производителя вроде NVIDIA не составляло особого труда сделать мощный и дорогой графический ускоритель. Другое дело – недорогие GPU. Вендору нужно было сильно постараться, чтобы найти ту самую золотую середину, которая привлечет максимально широкую аудиторию покупателей. В 2025 году этим “эталонным компромиссом” должна была стать RTX 5060 Ti. Ее даже выпустили позже, чем более старшие модели – видимо, из-за опасений внутренней каннибализации. Но стоило ли бояться и так ли хороша новая карта, особенно в сравнении с RTX 4060 Ti? Давайте разбираться.

Даже если вы не являетесь владельцем старших версий видеокарт NVIDIA RTX 4000 и 5000, вы наверняка знаете о случаях их оплавления или возгорания. Несмотря на то что точная причина происходящего до сих пор остается невыясненной, сами пользователи чаще всего винят 16-пиновый коннектор 12VHPWR, который не тянет возлагаемую на него нагрузку и имеет свойство перегреваться. А если что-то греется, значит, нужно это охладить. 

Привет, Хабр! В прошлом материале мы рассказывали про графические ускорители для ЦОД, пытаясь разобраться, какие альтернативы NVIDIA доступны на нынешнем рынке GPU/xPU, и что потенциально интересного стоит ожидать в ближайшее время.

Среди комментариев, которыми откликнулись читатели Хабра был весьма интересный вопрос, заслуживающий отдельной темы для его раскрытия. А звучит он так: «Как сейчас обстоят дела с обучением transformers моделей на GPU от AMD? Есть ли такой опыт? Есть ли смысл брать AMD для обучения?».

Что ж…, давайте попробуем копнуть поглубже и получить исчерпывающий ответ, ведь решения AMD действительно являются потенциально интересной альтернативой монополии NVIDIA. 

"А Crysis потянет?" - этот мем знаком каждому геймеру, который застал золотую эпоху гейминга на ПК. Но Crysis был лишь первой ласточкой в длинной череде игр, которые раз за разом поднимали планку системных требований все выше и выше. Сегодня мы вспомним самые яркие вехи в истории "убийц железа" и разберемся, почему некоторые игры до сих пор заставляют потеть даже самые мощные видеокарты. 

В предыдущей статье мы рассказывали, как тестировали сервер с одной RTX 5090. Теперь же мы решили установить в сервер две видеокарты RTX 5090. И это также вызвало у нас определённые проблемы, но результат того стоил.

История с печально известными разъемами 12VHPWR, которые начали плавиться на первых RTX 4090, казалось бы, должна была уйти в прошлое. Новое поколение видеокарт, обновленные стандарты питания — и проблем больше нет, так? Не тут‑то было. На форумах до сих пор регулярно появляются истории несчастных обладателей топовых графических ускорителей, которые обнаруживают у себя расплавленные коннекторы. А с появлением RTX 5000-й серии и разъемов 12V-2×6 ситуация, похоже, только усугубилась. Давайте разберемся, почему это происходит и что нужно сделать, чтобы ваша новенькая видеокарта не стала очередной жертвой некорректного подключения.

История с плавящимися коннекторами питания, которая преследовала RTX 4090, а теперь благополучно перекочевала и в новое поколение карт, продолжает набирать обороты. Несмотря на громкие заверения NVIDIA о решении всех проблем с печально известным разъемом 12VHPWR, пользователи по всему миру продолжают жаловаться на дым, запах горелой пластмассы и оплавление коннекторов своих видеокарт. Однако компания, как и в прошлый раз, спешит переложить ответственность на кого угодно, только не на себя.

После выхода серии NVIDIA RTX 5000 в сети начали появляться сообщения о дефектных экземплярах. Оказалось, что некоторые видеокарты не соответствуют заявленным характеристикам, хотя внешне выглядят абсолютно идентично полноценным моделям. Но визуально определить проблему невозможно, поэтому возникает вопрос: как отличить полноценную RTX 5000 от проблемной версии? Давайте разберемся в этом вопросе более детально.

Несколько лет назад попалась статья на хабре про сборку ПК для фотограмметрии из четырех GPU 3090 за миллион рублей. Тот компьютер собрала компания, чтобы экономить на покупке вычислительной мощности. Для меня фотограмметрия (построение 3d моделей из фотографий) это просто одно из хобби, на которое миллион я тратить не готов. Самой дорогой в этой сборке были видеокарты, около 80% стоимости всего ПК.

Около года назад на барахолках стали появляться майнинговые видеокарты по бросовым ценам, около 1000-1500 руб за штуку (майнинг на них стал убыточным). Появилась идея: почему бы не собрать мощный ПК из старых майнинговых GPU. Что из этого получилось-читайте под катом.

Любимые аниме из детства выглядят размыто на современных 4K-экранах? Есть решение! Узнайте, как апскейлить видео до 4K с помощью FFmpeg, шейдера Anime4K и аппаратного ускорения NVIDIA. Без сложных ИИ — только простые шаги и доступные инструменты. Читайте статью и вдохните новую жизнь в свои сериалы!