Комментарии 2
Наконец-то конкретные цифры и сравнение! Статья подтверждает тренд: для старта и многих рабочих задач оптимизированные 4090 эффективнее дорогих серверных решений. Главное — считать не стоимость карты, а стоимость токена с учётом реальной нагрузки.
Интересно было бы сравнение с 4x RTX 3090 попарно связанными NVLink
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Как снизить затраты на генеративный ИИ: практическое руководство по выбору видеокарты