NVIDIA в III квартале установила рекорд по продажам ИИ-ускорителей

[Kenya-West]

Hidden text

When everyone digs for gold, sell shovels

[AlexXYZ]

Может им тогда стоит уже купить эту NVidia?

[MAXH0]

NVIDIA  вообще везет невероятно.

Сначала рост за счет блокчейн. Как только тренд пошел на спад - подоспел ИИ.

[kudrbudr]

Первый раз повезло, второй раз совпало, третий раз ИИ что нибудь придумает.

[AlexXYZ]

Не очень понятно, почему компании гоняются за H100/A100, хотя по моему по скорости работы RTX 3/4080,4090 вроде как обгоняют их.

[freeExec]

А памяти в них с гулькин нос.

[MountainGoat]

У игровых кард Nvidia малый объём видеопамяти и что важнее, удушенная скорость доступа к этой памяти. А эти параметры для ИИ гораздо важнее чем производительность ядра.

[andreyskl]

NVIDIA H100 считается лучше, чем RTX 4090 для задач искусственного интеллекта, благодаря своей превосходной производительности, показанной в различных ​​тестах.

Вот несколько ключевых моментов, которые следует учитывать:

1. Производительность: в тестах искусственного интеллекта H100 показал производительность на 23% выше, чем RTX 4090 и RTX 6000 Ada. В другом примере H100 смог сгенерировать изображение за 2,82 секунды, тогда как RTX 4090 оказался медленнее.

2. Память: H100 имеет 80 ГБ памяти, чего более чем достаточно для большинства задач искусственного интеллекта. RTX 4090 имеет 24 ГБ видеопамяти, что может быть ограничением для крупномасштабных проектов искусственного интеллекта.

3. Тензорная производительность: H100 обеспечивает тензорную производительность до 1466 терафлопс, а RTX 4090 — 212 терафлопс.

4. Цена: H100 — более дорогой вариант по сравнению с RTX 4090. Однако для тех, кто не может позволить себе H100, RTX 4090 по-прежнему является мощным графическим процессором для задач искусственного интеллекта.

5. Альтернативы: NVIDIA L40S — более дешевая альтернатива H100, предлагающая вдвое больше памяти и производительность, подходящая для задач искусственного интеллекта. L40S поддерживает как Nvidia Transformer Engine, так и FP8, что уменьшает размер данных и требует меньшей пропускной способности памяти.

   Подводя итог, можно сказать, что NVIDIA H100 — лучший выбор для задач искусственного интеллекта благодаря своей превосходной производительности, большему объему памяти и более высокой тензорной производительности. Тем не менее, RTX 4090 по-прежнему остается мощным вариантом для тех, у кого ограниченный бюджет или кому требуется графический процессор для конкретных проектов искусственного интеллекта. Серия L40S — альтернатива, предлагающая хорошую производительность и объем памяти по более доступной цене.

   Ответ получен с помощью Perplexity AI Online