Видеокарты

Обновления R595 пережили отзыв, хотфикс и тихий патч — и вот перед нами обновление, которое просто работает. Самое неприятное в обновлениях драйверов — не баги, которые бывают у всех. Неприятно, когда ты привыкаешь к мысли, что обновление стало лотереей. Именно это произошло с веткой R595: начиная с февраля каждый новый билд от NVIDIA приносил не столько оптимизации, сколько новые поводы для тревоги. И вот NVIDIA выложила GeForce Game Ready Driver 595.97 WHQL. Уже прошло несколько дней и обошлось без экстренных отзывов, без сломанных вентиляторов и без драматических откатов. Что же исправили в новой версии и стоит ли наконец нажимать кнопку «Обновить».

Если вы ждали от мартовского кейноута Дженсена Хуанга просто «железок» помощнее, то вы ошиблись дверью. Да, были новые чипы, но за всем этим скрывалось нечто большее. Знаете это чувство, когда мир меняется прямо у вас на глазах, как когда-то это было с интернетом? Это был тот самый момент.

Прошедший NVIDIA GTC был не типичной трансляцией ради рекламы видеокарт. Хуанг подвел логичную черту над первыми двадцатью годами существования CUDA. Наконец, мы увидели, как бизнес движется в сторону новых концепций вроде Agent as a Service, Token Factory, модульной архитектуры железа и не только. И не переживайте, если вы слышите про них впервые — это нормально. 

Привет, Хабр! Меня зовут Александр Тугов, я директор AI-вертикали в Selectel. В этой статье хочу структурировать основные тезисы, озвученные в кейноуте NVIDIA GTC, и поделиться своими мыслями. Призываю к обсуждению в комментариях!

Давайте рассмотрим реализацию конвеевской игры «Жизнь» при помощи графической карты. Я хочу поэкспериментировать с разными библиотеками и методиками, чтобы понять, как обеспечить наилучшую производительность. Начнём мы с простого и постепенно будем повышать сложность.

Игра «Жизнь» — это простой клеточный автомат, поэтому она должна хорошо поддаваться GPU-ускорению. Правила просты: каждая ячейка в двухмерной сетке или жива, или мертва. На каждом шаге мы подсчитываем живых соседей ячейки (включая диагонали). Если ячейка жива, она остаётся живой, если живы два или три её соседа. В противном случае она умирает. Если клетка мертва, она оживает, если живы ровно три соседа. Из этих простых правил возникает потрясающий объём сложности, о котором написаны подробные статьи.

Для простоты я буду рассматривать только сети N×N и пропущу вычисления на краях. Всё будет работать на Nvidia A40, а бенчмарк производительности я буду проводить при N=2¹⁶. Пока мы будем хранить каждую ячейку в виде 1 байта, поэтому весь массив займёт 4 ГБ.

Весь код выложен в репозитории GitHub.

Многие слышали, что разные модели видеокарт имеют разную экономическую эффективность, например, в майнинге, где часто используется понятие «хэш/Ватт». Однако, даже одна и та же видеокарта может работать с сильно разной экономической эффективностью в зависимости от настроек Power Limit и частоты. И это касается любых длительных вычислительных задач.

Давайте же посмотрим, как помощью простой школьной формулы Энергия = Время × Мощность оптимально настроить видеокарту и получить за каждый потраченный киловатт максимум полезной работы.

Сборка нового компьютера для знакомого осуществлялась с ориентацией на бюджет и максимальную эффективность каждого вложенного рубля. В поисках подходящей видеокарты рассматривались модели GeForce RTX 5060 и RTX 5060 Ti, которые наилучшим образом вписывались в установленные финансовые ограничения. После нескольких недель мониторинга цен была приобретена видеокарта Gigabyte GeForce RTX 5060 Ti EAGLE OC ICE 8G, которой и посвящён данный обзор, тогда как остальные компоненты будущего компьютера пока находятся на этапе согласования, выбора и заказа.

Статья будет о том, как быстро начать работать с vLLM и vLLM Production Stack: от первого запуска модели до базовых режимов инференса через OpenAI-совместимый API. Разберем практические настройки и сценарии запуска — tool calling, thinking/non-thinking, мультимодальные и CPU-модели, а так же какие стартовые параметры сильнее всего влияют на память, производительность и стабильность. Отдельном рассмотрим полезные оптимизации для production-сценариев: FP8, Tensor Parallelism, KV-cache offloading, Speculative Decoding и ускорение холодного старта больших моделей.

Когда-то фраза «игры на линуксе» звучала примерно как «рыбалка в ванне». Технически, наверное, реализуемо, но зачем - непонятно. Тем более что Linux всегда был системой для серверов, разработчиков и бородатых сисадминов, которые считали компиляцию ядра формой медитации. Но последние опыты показали, что считать геймерской ОС исключительно Windows по меньшей мере неправильно. Потому что в играх и на некоторых конфигурациях пингвин показал себя гораздо лучше.

Наверняка вы уже слышали о том, что рынок видеокарт в 2026 году переживает не лучшие времена. Дефицит DRAM, взлетевшие цены на память, производственные линии TSMC, забитые заказами на ИИ-ускорители — все это превратило покупку новой видеокарты в квест с непредсказуемым финалом. И вот на этом фоне NVIDIA принимает решение, которое еще пару лет назад показалось бы абсурдным — перезапустить производство GeForce RTX 3060. Да, той самой карточки 2021 года на архитектуре Ampere. Наверное, об этом вы тоже слышали, но давайте обсудим, надо ли этому радоваться. 

Совсем недавно вышла Resident Evil: Requiem, которая сейчас вовсю хайпует. Капкомовцы, конечно, молодцы: умеют в сотый раз рассказать то же самое, что было в прошлых играх. К сюжету и контенту в целом есть вопросы. Для номерной части серии игра коротковата и ей не хватает эпичности (особенно в финале). Хотя назвать игру плохой язык все же не повернется.

Но вот с точки зрения визуальной части эта игра — просто конфетка. Во время прохождения вы будете наслаждаться графикой, игрой света и поражаться, насколько же красивыми стали игры. Каждую локацию хочется нарезать на скриншоты и детально рассматривать. Естественно, тут пригодится видеокарта помощнее.

Мы уже рассказывали о том, как видеокарты изменили киноиндустрию. Пришло время поговорить о них на примере игр.

В прошлом месяце Intel обновили линейку CPU для рабочих станций и представили семейство Xeon 600 на архитектуре Granite Rapids — очередная попытку конкурировать с AMD. А еще «синие» продемонстрировали серверные процессоры Intel Xeon 6+ Clearwater Forest. Но и это не самое интересное...

Привет, Хабр! На связи Сергей Ковалёв, менеджер выделенных серверов в Selectel. В новом дайджесте собрал самые интересные новости за февраль — от процессоров и GPU до дисков и сетевого оборудования. Подробности под катом!

Недавно прочитал цикл статей о масшабировании LLM от Jax, в котором очень подробно и во всех нюансах разжеван процесс тренировки и инференса LLM на разных масштабах. Мне он показался очень полезным, поэтому я решил подготовить цикл статей на русском, являющихся не столько переводом, сколько научно-популярным пересказом того, что там написано, поскольку оригинальный текст рассчитан в основном на специалистов, и неспециалисту многие моменты в нем могут показаться сложными и не очевидными. Также планирую добавить информацию из других источников, например вот этой замечательной книги для ML-инженера или этой книги HuggingFace, посвященной тренировке языковой модели.

Внимание, розыск! Пропала задержка инференса. Последний раз ее видели с чипом Cerebras.

Пока все следили за гонкой вооружений в мире LLM – кто кого переплюнет по количеству параметров, – OpenAI взяла и сделала неожиданный ход. Они выпустили модель, которая даже не новая, но работает в 20 раз быстрее конкурентов. GPT-5.3 Codex Spark летает. Буквально.

И тут возникает вопрос: а на чём она, собственно, летит? Оказалось, что “двигатель” для неё поставила не Nvidia, а компания с безумной, на первый взгляд, идеей – использовать процессор размером с кремниевую пластину.

Проблема современных GPU в том, что они вынуждены постоянно “танцевать” с памятью, тратя время на пересылку данных туда-обратно. Cerebras предложила радикальное решение: убрать “танцпол” и заставить память и вычисления жить в одном доме – на огромном кристалле размером с пластину.

Как инженерам удалось обуздать производственные дефекты, нагревание и законы физики, чтобы достичь скорости 1000 токенов/с, и почему это не панацея для ИИ-агентов – разбираемся в статье.

Приятного погружения в мир wafer-scale-инженерии!

Помните, как пару лет назад FSR от AMD выглядела как спаситель владельцев бюджетных видеокарт? Ее можно было запустить на любом железе, а качество картинки, хоть и уступало DLSS, но оставалось вполне приемлемым, если сильно не придираться. Теперь же ситуация изменилась. NVIDIA выпустила DLSS 4.5, а AMD все еще сидит на FSR 4 без обновлений. Неужели «зеленые» окончательно оторвались от конкурента, или AMD все еще есть что предложить? Давайте разбираться, насколько велика разница между технологиями в реальных играх.

Anthropic и OpenAI почти одновременно запустили «быстрый режим» для своих моделей — и за одинаковым названием скрываются принципиально разные подходы к ускорению инференса.

В одном случае это реальная модель с уменьшенным батчингом, в другом — отдельная, более компактная версия на специализированных чипах Cerebras.

Разбираемся, что именно стоит за цифрами «2.5×» и «1000 токенов в секунду», где компромисс по качеству и что это значит для разработчиков на практике.

Несмотря на всеобщие увещевания о тотальном дефиците оперативной памяти, глобальной катастрофы многие даже не заметили. Да, планки DDR5 на 64 ГБ стали дороже. Но так их и не покупал почти никто. Ну, или покупал, но нечасто. Главное – что на DDR4 непосильными цены не стали. Но вот когда Nvidia решила снять с производства половину модельного ряда видеокарт, многие призадумались. 

Бешеный ритм современной жизни диктует свои условия — мы живем и работаем «на бегу», так что ноутбук под мышкой — уже привычное для многих дело. Рынок, в свою очередь, не отстает — на полках магазинов тысячи вариантов лэптопов и выбрать стоящий неподготовленному человеку сложно. 

Эта статья поможет не утонуть в характеристиках, отделить зерна от маркетинговых плевел и купить устройство, которое справится с поставленными задачами, без переплат за ненужное.

У всех кто работает с LLM моделями случалось, что модель на 32B параметров не влезает в 24 ГБ VRAM вашей RTX 4090, offload на CPU убивает скорость, а облако — дорого и данные уходят на сторону. NVIDIA обещает нам решение: DGX Spark (он же GB10) с 128 ГБ unified memory за ~400-500 тысяч рублей. Мы потратили две недели на глубокие бенчмарки устройства и результаты оказались... неоднозначными.

В статье будет много графиков, сравнение нескольких форматов квантизации, тесты разных объемов подаваемого контекста, сравнения с более привычными GPU и оценка финансовой эффективности такой покупки. Цель бенчмарка разобраться, в каких ситуациях DGX Spark показывает свои преимущества, а где его архитектурные ограничения становятся узким местом и предпочтительнее выбирать другие решения.

В данной статье я описываю свой опыт разработки приложений с OpenCL/SYCL.

Вычисления на видеокартах ассоциируются преимущественно с графикой, научными вычислениями и с недавних пор с нейросетями. Но чаще всего с графикой.

Тем не менее, графические процессоры обладают свойствами, за счёт которых их очень удобно использовать в задачах, напрямую не связанных с перечисленным выше. И главное из этих свойств – массовый параллелизм.

Самый краткий ввод в гетерогенное программирование: у нас есть две роли — хост и девайс, задача хоста – формировать задачи и отдавать их на девайс, в то время как задача девайса обработать их и вернуть результат. При этом хост и девайс могут быть одним вычислительным устройством (это не обязательно CPU + GPU, так как CPU может отдавать задачи сам себе).

Январь в мире железа обычно месяц сонный, но в этот раз все пошло не по плану — сразу два топовых вендора показали свои флагманские продукты. 

Всем привет! С вами Сергей Ковалёв, менеджер выделенных серверов в Selectel. В этом дайджесте я собрал подробности самых нашумевших железных новинок за январь — от GPU до новых дисков и сетевого оборудования. Подробности под катом!

Некоторое время назад на Amazon разыгралась история, которая показывает, почему не стоит верить слишком заманчивым предложениям. Казалось бы, прошло и забыли, но подобные случаи повторяются, и поэтому об этом стоит поговорить еще раз. Особенно когда компоненты стремительно дорожают, а купить по старой цене становится все более привлекательным. В том конкретном случае десятки покупателей вместо GeForce RTX 5090 за 999 долларов (уже странно) получили поясные сумки сомнительного качества. Вот и давайте разберемся, как работает эта схема.