ComBox May 11 2021 at 09:59

Как мы сделали акселератор инференса нейронных сетей для ЦОД с 64 чипами Intel Movidius

4 min

3.1K

Intel corporate blogHigh performance*Manufacture and development of electronics*Computer hardwareArtificial Intelligence

Comments 12

amarao May 11 2021 at 10:15

А почему не U2? PCI-E есть, индустриальная поддержка есть, куча слотов в существующих серверах есть.

ComBox May 11 2021 at 14:00

Можно и другие форм-факторы платформ использовать. Нам понравилась платформа 1U Supermicro SYS-1029TRT с 4-мя PCIe слотами х8/х16. Она даёт высокую производительность и плотность вычислителей и ускорителей в рамках одного места в стойке. При низком энергопотреблении это существенное преимущество. Одной платформы часто хватает для обработки данных с множества СХД рядом.

dorne May 11 2021 at 10:27

Сколько TFLOPS на плату?

ComBox May 11 2021 at 14:18

Максимальная теоретическая производительность Movidius Myriad X составляет 4 TFLOPS. На каждой плате - 64 VPU, 64 * 4 = 256 TFLOPS. Не уверен, что на эти показатели есть смысл опираться. Лучше смотреть производительность конкретной топологии нейронных сетей на бенчмарках.

dorne May 12 2021 at 07:11

Сколько памяти на чип? Какая пропускная способность памяти? Какова скорость обмена с системной памятью?

ComBox May 12 2021 at 13:41

Памяти на чип - 4 Gb, LP-DDR4 SDRAM, частота 1600 MHz.

old_bear May 11 2021 at 13:21

(на примере Mobilenet v.2 SSD) — 2800 FPS

Если не сложно, приведите циферки для чего-то покрупнее. Всё таки претендуете на серверное применение.
Хотя бы тот же многострадальный ResNet50, который на каждом утюге протестирован и удобен для сравнения с конкурентами. :)

ComBox May 11 2021 at 14:28

В начале статьи есть ссылка на результаты сравнения различных устройств. Там сравнивали Darknet19 (TinyYOLO), UNET. Разрез - устройства, фреймворки, тип данных, сравнение по производительности на доллар стоимости. ResNet масштабируется практически без потерь на множестве VPU (до 10%).

da0c May 13 2021 at 07:10

Где/когда можно купить/запросить железку или инженерный образец на академическую организацию?

ComBox May 13 2021 at 10:27

Обращайтесь info@combox.io или по любым контактам на сайте.

Blummnikkis Aug 12 2021 at 20:52

Добрый день!

Скажите пожалуйста, будет ли продукт адаптирован для MXM-III разъёма?
Часть наших блейд-серверов имеют лишь этот разъём.

ComBox Aug 12 2021 at 20:52

Добрый день! Нет, пока адаптация под MXM не планируется. Все-таки основной форм-фактор в серверах для инференса это PCIe.