Comments 17
Как выбрать... если домой, у вас есть один вариант - 4090, на А100 и прочие денег не хватит, ценник стартует от 800 тр, стартует(!). В то же время бессмысленно пытаться что-то сделать на 16Гб, ну что-то получится но перф и модели будут маленькие, 4090 - это входной билет по памяти и перфу, цена в 200 тр еще хоть как-то подъемная что бы купить.
2x3090 + NVLINK
А stable diffusion умеет их подхватывать обе или надо как-то с бубном танцевать?
Добрый. Расскажите, пожалуйста, по подробнее о вашем решении, слабо понимаю в этой теме. Вы используете gpu в обучении нейронок, вычислениях, что с производительностью? Какой блок питания, на сколько ватт?
Приветствую. Сам данной сборки не имею. При обучении максимальное влияние на скорость имеет размер видимой видеопамяти, так как при нехватке, путем всяческих методов куски летят в оперативную память, потом обратно, и каждая такая операция капитально замедляет процесс. Следующий фактор - количество ALU: можно брать условные квадры\теслы\хопперы, но по соотношению ALU/$ больше всего выигрывают consumer видяхи. И учитывая эти два фактора + стоимость выходит, что такая сборка является максимально кост-эффектив.
Блок (примерно) я бы посоветовал: найти в интернетах максимально зафиксированный жор одной 3090, умножить на количество карт, добавить таким же образом добытые данные для остальных компонентов, разделить на КПД блока, добавить 10% на форс-мажор - так и выйдет необходимая мощность.
Великолепная статья, просто восхитительная!
Статья в одно предложение для тех, кому лень читать: "Q: Как выбрать GPU? A: Никак, но вы можете арендовать его у нас" ;))
Море воды, вылитой ради после абзаца. Хотя бы табличку удосужились сделать, с моделями GPU и из возможностями и то хоть что-то.
Подскажите пожалуйста, как можно цены узнать? Тут нет, на вашем сайте тоже.
Очень некачественная реклама. Посмотрите как Selectel пишет рекламу. Посмотрите мои статьи про карточки.
Да и просто анализ данных очень быстрый на куда ядрах, я, например, недавно пробовал с помощью библиотеки cudf (аналог pandas) на своей 3080ti 12gb сделать csv_read и concat 3 csvишки размером 65 млн строк, %%time показал 9 сек, если это делать просто на мощностях цпу, то родное ядро умирает (у меня 16gb озу)
а где народный вариант 48гб через 2x3090? а то все теслы за миллион и тарифы облачных провов...
Ещё есть рынок краткосрочной аренды серверов.
А правда ли что А100 в два раза медленнее 4090?
Дело в том, что тесты показывают, что правда.
Как выбрать GPU для машинного обучения