Как стать автором
Обновить
  • по релевантности
  • по времени
  • по рейтингу

Приемы повышения производительности инференса глубоких моделей с DL Workbench. Часть 1 — введение и установка

Блог компании IntelВысокая производительность*Обработка изображений*Искусственный интеллект

Если у вас есть проект с интенсивной обработкой данных глубокими моделями (или еще нет, но вы собираетесь его создать), то вам будет полезно познакомиться с приемами по повышению их производительности и уменьшению затрат на покупку / аренду вычислительных мощностей. Тем более, что многие из приемов сейчас выполняются буквально за несколько кликов мышкой, но при этом позволяют повысить производительность на порядок. В этом посте мы рассмотрим какие оптимизации бывают, установим Docker на Windows 10 и запустим DL Workbench, измерим производительность инференса без оптимизации и с применением оных.

Читать далее
Всего голосов 6: ↑6 и ↓0+6
Просмотры1.1K
Комментарии 6

Повышение производительности инференса глубоких моделей с DL Workbench. Часть 2 — квантизация и Throughput mode

Блог компании IntelВысокая производительность*Обработка изображений*Искусственный интеллект

В первой части мы уже познакомились с тем, какие существуют методы для повышения производительности, что такое DL Workbench, как в него загрузить модель для оптимизации. Настало время познакомиться еще с двумя методами повышения производительности инференса - квантизация моделей и Throughput mode.

Читать далее
Всего голосов 2: ↑2 и ↓0+2
Просмотры742
Комментарии 0