10 руб/кватт 24 часа = 240 руб * 30 = 7200 руб. только на эл-во +- за всратые обрезанные модели которые кажутся какими то умными, хотя и открытые модели тупорылые!
да, сравнимо с подпиской.
вполне можно рассматривать в вопросах секьюрности или 18+ генераций
точно нашел адаптеры на PCIe, которые для майнеров. Они подходят (если брать х8, а не х4), и стоят сильно дешевле аналогичных, которые для "ИИ в названии"
у меня пока задачи с ограниченным контекстом, но из-за повторов на перегенерацию "сжирают" лимиты быстро. ну условно аппаратный тест прошивки или приложения (в эмуляторе, к слову, тоже "сжирают" такие тесты)
С другой стороны, 48 Гб видеопамяти - это как-будто ни туда, ни сюда. Большинство моделей, что я вижу, обычно параметрами помещаются в одну видеокарту до 32 Гб, либо кол-во параметров уходит за 100 млрд, а это уже другие масштабы.
все так, только я решил с парой V100 на 16 Гб начать.
вроде 5060 это архитектура на годы вперед, сегодня вот такую штуку показали
я боюсь сейчас будут еще и еще дорожать, а бытовые карты "ужмут" с узкой шиной (как раньше было с шинами 64 и 128 бит) и медленной VRAM на 8 Гб. Остальное оставят под ИИ с резким разрывом в цене.
Уже и сейчас такой разрыв в цене заметен на карты с 24 Гб VRAM
вы меня заинтересовали. наверное есть смысл взять 5060 (лучше 5060 Ti) и сравнить с V100. вот прямо на одних и тех же моделях.
Учитывая, что я хотел в сервер помимо пары V100 поставить еще что-то, то вполне нормальный вариант. Модель будет загружаться в V100, а сами вычисления распределяться
спрашивал статистику по V100 32 Гб. Пишут про 20% отказов (то есть каждая пятая умирает у пользователя). У меня есть предположение, что они собирают из дохлых полуживые методом перепайки памяти HBM2. У V100 32 Гб там модули с двух сторон
не без этого, хотя меняют их не по усталости, а просто по возрасту.
2017-2018 годы выпуска этих видеокарт
да обычные водянки есть и переходники на такие карты
да, сравнимо с подпиской.
вполне можно рассматривать в вопросах секьюрности или 18+ генераций
звукоизоляция - я водянку буду ставить. там больше вопрос энергопотребления (киловатт из розетки)
на фото сервер на базе xeon.
на тао смотрите. там 700-800 юаней
плюсую, тоже мимо меня прошло. смотрел ютуберов, но там без конкретики практически (мыло купил и работает на 20 минут почти у всех)
точно нашел адаптеры на PCIe, которые для майнеров. Они подходят (если брать х8, а не х4), и стоят сильно дешевле аналогичных, которые для "ИИ в названии"
у меня пока задачи с ограниченным контекстом, но из-за повторов на перегенерацию "сжирают" лимиты быстро. ну условно аппаратный тест прошивки или приложения (в эмуляторе, к слову, тоже "сжирают" такие тесты)
спасибо, интересно сравнить
там скорость обмена данных несколько ниже, чем NVLink
это вот прямо верное замечание. я когда начал считать сборку на RTX5090 слегка приземлил ожидания
80+ тысяч мне показывает. А производительность как ?
все так, только я решил с парой V100 на 16 Гб начать.
в такой бюджет можно и "водянку" заложить.
будет потише))
крайне интересно.
особенно про eGPU
я боюсь сейчас будут еще и еще дорожать, а бытовые карты "ужмут" с узкой шиной (как раньше было с шинами 64 и 128 бит) и медленной VRAM на 8 Гб.
Остальное оставят под ИИ с резким разрывом в цене.
Уже и сейчас такой разрыв в цене заметен на карты с 24 Гб VRAM
вы меня заинтересовали. наверное есть смысл взять 5060 (лучше 5060 Ti) и сравнить с V100. вот прямо на одних и тех же моделях.
Учитывая, что я хотел в сервер помимо пары V100 поставить еще что-то, то вполне нормальный вариант. Модель будет загружаться в V100, а сами вычисления распределяться
спрашивал статистику по V100 32 Гб. Пишут про 20% отказов (то есть каждая пятая умирает у пользователя). У меня есть предположение, что они собирают из дохлых полуживые методом перепайки памяти HBM2. У V100 32 Гб там модули с двух сторон
все так, пока сравниваю варианты связок, под разные системы/задачи