Как стать автором
Обновить
  • по релевантности
  • по времени
  • по рейтингу

Приемы повышения производительности инференса глубоких моделей с DL Workbench. Часть 1 — введение и установка

Блог компании Intel Высокая производительность *Обработка изображений *Искусственный интеллект

Если у вас есть проект с интенсивной обработкой данных глубокими моделями (или еще нет, но вы собираетесь его создать), то вам будет полезно познакомиться с приемами по повышению их производительности и уменьшению затрат на покупку / аренду вычислительных мощностей. Тем более, что многие из приемов сейчас выполняются буквально за несколько кликов мышкой, но при этом позволяют повысить производительность на порядок. В этом посте мы рассмотрим какие оптимизации бывают, установим Docker на Windows 10 и запустим DL Workbench, измерим производительность инференса без оптимизации и с применением оных.

Читать далее
Всего голосов 6: ↑6 и ↓0 +6
Просмотры 1.3K
Комментарии 6

Повышение производительности инференса глубоких моделей с DL Workbench. Часть 2 — квантизация и Throughput mode

Блог компании Intel Высокая производительность *Обработка изображений *Искусственный интеллект

В первой части мы уже познакомились с тем, какие существуют методы для повышения производительности, что такое DL Workbench, как в него загрузить модель для оптимизации. Настало время познакомиться еще с двумя методами повышения производительности инференса - квантизация моделей и Throughput mode.

Читать далее
Всего голосов 2: ↑2 и ↓0 +2
Просмотры 912
Комментарии 0