Как стать автором
Обновить

Комментарии 21

Вот теперь можно будет 4090 по нормальной цене брать :-)

Они с производства сняты. И остатки распродаются. Так что разве что Б/У, но не факт что особо дешевле будет.

Наконец то народ побежит менять 2080ti на побрякушки

32 ГБ памяти GDDR7 на 256-битной шине и 21760 CUDA-ядрами.

Однако для ML такая штука за 2к грина выглядит довольно вкусно.

Они представили еще кое-что интересное для ML - Project DIGITS.

Маленькая коробка с 128гб ddr5x и чипом GB10 с cuda ядрами. Обеспечивают ядра 1 PFLOPS (1 петафлопс) fp4 - если сравнивать с int4, то это где-то на уровне 4080 Super.
Память ddr5x, и если битность будет хотя бы 256, то скорость будет как на gtx1080 - 320гб/с, что быстрее чем 4060 ti. Но может и 384 бит не пожалеют.

Коробка обещано, что поддерживает не только инференс, но и обучение, при том, что в fp4 влезают модели размером 200B, и коробки можно объединять, в две коробки влезет LLama 3.1 405B. Где-то в мае за 3к $.

Если на битности не сэкономят, то такая коробка будет быстрее чем собирать сервер на эпиках, что выйдет тоже не дешево, и учитывая в разы меньшие размеры, отсутствие проблем с двухпроцессорной NUMA, возможность обучения с нормальной скоростью - то это компенсирует цену. Так что пока это самое интересное из предложений для ML.

384 бита к сожалению плохо стыкуется с объемом 128Гб, так что я жду 256 (очень неуверенно надеясь на 512). Но коробочка очень любопытная, ждем новостей про неё )

В презентации еще вот такой кадр был

Выходит, что слив про 512 битную шину фейк? Ага, помечтали

На сайте nvidia 512

575 ватт. Да у меня мопед в детстве был не такой мощный.

5090 - 24Gb $2k. Ждем Intel B580 24Gb <$500 для любителей домашних llm.

Только 5090 32Gb GDDR7 28gbps 512b шина.

Посмотрим независимые тесты, когда выйдет в народ. Пока это маркетинговое бла, бла, бла.

Судя по презентации, на 5070 частоты чуть подняли и потребление чуть повысили. Вангую прирост 5-10% по сравнению с 4070. Т.к. цены те же, эти карточки будут для тех, у кого нет 40вой серии.

А еще у 5070 меньше CUDA-ядер чем у 4070. Да, их напрямую сравнивать нельзя, однако...

У 5070 больше (если сравнивать обе обычные или обе Ti).

Важное примечание: это сравнение в производительности PathTracing, а не "сырой" растеризации

Поправьте если ошибаюсь, но на момент релиза 4090 это должен был быть киберпанк 1.6 с первыми попытками в патч-трейс (ну или какие-то тайные билды). То есть сравниваются две очень заметно отличающиеся версии игр, в совершенно разных условиях. В отсутствие любой внятной информации о производительности и такое полезно, но все же.

Видео с тестами 4090, с которым все носятся и кричат про 6 кадров вышло в 2023 году, когда и появился PathTracing в КП

Там ещё мелкий шрифт с презентации подвезли. Оказывается, для 5090 в тестах использовали модель побыстрее.

Не быстрее, а с 2 раза меньшей точностью.

Но мы не производительность в сфере AI обсуждали. Лучами занимаются другие блоки, как и растером

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости