Как стать автором
Обновить

Решения для ЦОД, мини-суперкомпьютер: главное с NVIDIA GTC 2022

Время на прочтение 5 мин
Количество просмотров 2.4K
Всего голосов 12: ↑12 и ↓0 +12
Комментарии 1

Комментарии 1

Jetson AGX Orin
достигает 275 трлн операций в секунду
275 TOPS на разреженных матрицах | 138 TOPS на плотных матрицах в операциях INT8

Мне вот интересно если там память 256bit LPDDR5 с пропускной способностью 0.2TB/s то как обеспечивается подвод данных? Получается 275/0.2 = 1375 операций с байтом на одно чтение из памяти. А если это сеть то коэффициенты сети в кеш явно не влезут. Куда такая мощь при такой медленной памяти?

ps: для 2048CUDA ядрам с 5.3TFlops получаем 106 операций с float32 на одно чтение из памяти.
Зарегистрируйтесь на Хабре , чтобы оставить комментарий

Другие новости

Истории