Вполне возможно, что в этом году происходит зарождение нового тренда. Он заключается в переносе вычислительных мощностей ближе к пользователю - прямо домой, на его личную вычислительную станцию. Похоже, что большие языковые моделей (LLM) и генеративный ИИ перестают быть прерогативой дата-центров.
В этой статье приведен обзор решений, которые можно применить в качестве домашних вычислительных станций ИИ сегодня.
Всё началось с желания автономно заниматься исследованиями в области искусственного интеллекта и запускать свои эксперименты без ограничений облачных сервисов или недостаточных ресурсов рабочих кластеров. Наука и исследования давно стали для меня не только профессией, но и хобби: запускать эксперименты, сравнивать модели, тестировать свежие идеи - всё это требует собственной инфраструктуры. Именно поэтому я решил собрать домашний GPU‑сервер «под себя» для полноценного AI‑ресёрча
Геймеры, играющие в 4К-игры, энтузиасты генеративного ИИ и все, кто работает с крупными LLM-моделями, всё чаще сталкиваются с серьезным ограничением — недостаточным объемом видеопамяти. Даже топовые игровые видеокарты с 24 ГБ VRAM не всегда справляются с тяжелыми задачами.
Почему же до сих пор нет игровой видеокарты с 48 ГБ памяти? В статье разбираемся, что мешает запустить такие карты в серию и, главное, стоит ли вообще ждать их появления.
В мире железа сентябрь оказался насыщенным на новые обновления: лидеры рынка представили новые процессоры и видеокарты, а стартапы активизировались и выпустили свои ускорители. Мы решили поддержать тренд и анонсировали собственную материнскую плату на базе AMD EPYC™ 9005 Turin. Но и это не все новинки.
Привет, Хабр! Меня зовут Сергей Ковалёв, я менеджер выделенных серверов в Selectel. В новом дайджесте серверного железа разбираю новинки сентября, оцениваю перспективы решений от начинающих вендоров и делюсь своими мыслями насчет оборудования в AI. Подробности под катом!
Хочется же купить Ryzen 7 9800X3D? Только честно! Обычно большинство людей отвечает утвердительно, ведь это действительно хороший производительный процессор для большого количества задач в целом и игр в частности. Вот только стоит он как атомный реактор. Именно высокая стоимость такого процессора заставляет задуматься о более разумных альтернативах. Интересно, что за цену одного флагманского чипа можно собрать полноценную связку из процессора и видеокарты, которая обеспечит очень приличную производительность в современных играх. Вот вам три примера, которые можно купить и при этом прилично сэкономить.
Истории о том, как мастера-электронщики оживляют технику из безнадёжного состояния, давно стали отдельным жанром странных увлечений. Но случай, когда автор канала Northwest Repair восстановил полностью мёртвую видеокарту RTX 4080 Super, выделяется даже среди подобного контента. Ему удалось пересадить графический процессор и память от погибшей RTX 4080 Super на плату-донор от обычной RTX 4080. Интереснее всего то, что в конце концов этот GPU-Франкенштейн заработал. Получается, видеокарту можно купить, а потом усовершенствовать? Не спешите радоваться — все далеко не так просто, но процесс залипательный.
Если вы еще не профи в вопросах сборки ПК, то подбор компонентов для своего любимого настольника может выглядеть сложной задачей. Но на самом деле собрать игровой ПК своими руками вполне возможно даже без большого опыта. Более того, это можно сделать даже выгоднее, чем готовые компьютеры, которые стоят на полках магазинов. Вот только какую стратегию выбрать: взять процессор с мощной встроенной графикой подороже или идти по классическому пути CPU + дискретная видеокарта? Сегодня мы разберем оба подхода, чтобы вы имели перед глазами готовую инструкцию на тот и на другой случай.
Некоторое время назад NVIDIA официально анонсировала GeForce RTX 5090D V2. Не все поняли, что это означает, но «зелёные» любят такой нейминг, чем немного путают тех, кто не очень разбирается в видеокартах. Если коротко, то это специальная версия флагманской видеокарты для китайского рынка. Новая модель заменила оригинальную RTX 5090D на веб-сайте компании, что подтверждает окончание производства предыдущей версии. Давайте разберёмся, что это значит, и стоит ли её покупать.
На днях в мире компьютерного железа произошло довольно любопытное событие, которое сразу растащили на громкие заголовки. Intel Corporation и NVIDIA объявили о беспрецедентном стратегическом партнёрстве, которое в перспективе может сильно изменить ландшафт компьютерных технологий. С одной стороны, кажется, что две компании, долгое время конкурировавшие друг с другом, решили объединить усилия для создания новых поколений процессоров и графических решений. Но мало кто копнул глубже и задумался о том, что это будет означать для нас с вами и для обеих компаний. Вот и давайте разберёмся с этим чуть более подробно, а не на уровне кликбейтных заголовков.
Почему видеокарта, имеющая неплохие вычислительные возможности, в Stable Diffusion работает в 20 раз медленнее, чем RTX 3060? Почему в LM Studio она становится фаворитом, а в ComfyUI карета превращается в тыкву? Почему FurMark на CMP 90HX тормозит, а на CMP 50HX «бублик» крутится почти нормально? Разгадки в разных программных ограничениях, которые можно найти с помощью экспериментов. Я купил три майнинговые карты NVIDIA, чтобы понять, можно ли заставить их эффективно работать.
В этот раз мы рассмотрим: статистику производительности в LM Studio, как всё печально в ComfyUI и Stable Diffusion, анатомию программного кода GPU, почему оптимизации производительности дают на CMP обратный эффект, какие режимы вычислений могут раскрыть их потенциал.
Общий объем планируемых инвестиций в ИИ-инфраструктуру к 2030 году достигнет $2.75 трлн, при этом частный капитал ($2.22 трлн) намного превосходит государственные вложения ($530 млрд). Каждая страна выбирает уникальный вектор развития, отражающий национальные приоритеты и геополитическое позиционирование.
В статье посмотрим на запланированные и уже исполненные инвестиции в ИИ-инфру по основным странам (и сравним с РФ).
Цены на видеокарты в последнее время отрываются от реальности едва ли не сильнее, чем их энергоэффективность. Ну, о чем мы говорим, если даже карточки среднего уровня можно купить в лучшем случае за 50-60 тысяч рублей. Понятное дело: технологии развиваются семимильными шагами, а современные видеокарты уже давно обошли по мощности дата-центры десятилетней давности. Но вот парадокс: большинству геймеров для комфортной игры совершенно не нужны астрономические цифры производительности. А значит, можно сделать ставку на что-то попроще. Мы отобрали для вас 5 отличных видеокарт, которые спокойно тянут на звание лучших решений для гейминга по соотношению цена-качество.
Привет, Хабр. Меня зовут Дмитрий Крюков, я инженер по разработке ПО искусственного интеллекта в YADRO. Мы продолжаем рассказывать о возможностях GPU-серверов YADRO G4208P и YADRO VEGMAN R220 G2 в работе с локальными (on-premise) LLM-моделями. Сегодня делимся результатами тестирования популярных LLM из семейства DeepSeek R1 и Qwen3 размерами от 14B до 685B параметров. Тесты проводились в условиях, максимально близких к решению реальных кейсов: чат-бот, саммаризация и автоматизация аналитических задач.
Intel Arc Pro B50: обзор низкопрофильной видеокарты с 16 ГБ памяти для мини-ПК. Узнайте о производительности в задачах искусственного интеллекта, кодировании AV1 и тихой работе. Сравнение с NVIDIA RTX A1000 и рекомендации.
Продолжаем статьи про практические тесты актуальных картонок от Nvidia (RTX 5090, A5000 Ada, A100, 3090 и A10). В этот раз мне уже предложили покрутить на несколько часиков H100 с 80 GB VRAM.
Тренировать опять ничего не будем, снимем попугаев через gpu-burn , попробуем MIG (multi-instance GPU) и также замерим инференс одной нашей прожорливой сетки.
С A100 и MIG мне как-то тоже пришлось поиграться, но я не думал, что в России в принципе когда-либо появятся H100. Поэтому в этот раз главная шутка будет про санкции и про сумочку, сделанную из H100.
Также пару слов расскажем про "фишку" MIG, доступную для самых толстых карт в линейках NVIDIA (из "доступных" в основном A100 и H100, но есть и экзотика).
В конце даже получилась небольшая детективная история.
Из-за экспортных ограничений США, китайские производители AI-чипов переманивают бывших сотрудников Nvidia и активно развивают свое железо.
В обзоре рассмотрим на самые перспективные стартапы в области разработки ИИ-железа (Cambricon, Baidu, Huawei, Moore Threads, Enflame, MetaX), разберем самые известные чипы этих компаний, сравним их с чипами от Nvidia и AMD.
Привет, хаброжители! Сегодня поговорим о том, что лежит внутри современных видеокарт и почему это важно. Речь пойдет о GDDR5 и GDDR6 — двух поколениях графической памяти, которые часто вызывают путаницу у пользователей. Если ты когда-либо задавался вопросом, какая память лучше для твоих задач, эта статья для тебя. Давай разберемся, в чем разница и стоит ли переплачивать за новое поколение.
Стриминг игрового процесса с одной машины на другую достаточно популярен сегодня. Для этого процесса требуются очень низкие задержки — здесь важна каждая миллисекунда. Нам нужно выполнять следующие задачи:
• Отправляем ввод контроллера с машины А на машину Б по сети
• Б рендерит кадр на GPU
• Б кодирует кадр в битовый поток
• Б отправляет результат по сети машине А
• A декодирует битовый поток
• A отображает изображение на экране
• В мозге цели высвобождается дофамин
Каждый этап в этой цепочке повышает задержки, а нам нужно их как можно сильнее минимизировать. Обычно в качестве решения используется ускоренное GPU сжатие видео при помощи какого-нибудь кодека, обычно H.264, HEVC или, если хотите заморочиться, AV1. В идеале весь процесс должен выполняться примерно за 20 мс.
Семейства GPU Nvidia Maxwell и Pascal установили новые планки производительности и энергоэффективности при запуске, но мир графики живет по своим правилам, и они всегда подразумевают конец поддержки чего-либо. Учитывая, что с момента их дебюта прошло около 10 лет, а сами они претерпели значительные изменения, говорить о том, что их время подходит к концу, довольно логично. И вот, некоторое время назад представители Nvidia заговорили об этом официально.
Разбираем RTX 6000 Blackwell Server Edition: чем она отличается от Workstation и Max-Q, как работает пассивное охлаждение в серверах, результаты тестов в инференсе LLM и генерации видео, а также сравнение с RTX 5090, A5000 и H100.
