Ускоряем глубокие нейросети с тензорными компиляторами

Если вы хотели узнать, чем компиляторы общего назначения отличаются от тензорных, но боялись спросить — эта статья для вас. Если кратко, то компиляторы общего назначения нужны для разработки программ, которые могут выполняться на любом компьютере. Они обеспечивают баланс между производительностью и универсальностью и подходят для самых разных целей.

Тензорные компиляторы решают специализированные задачи в области машинного обучения. Они ориентированы на ускорение работы нейросетей. Такие компиляторы используют преимущества параллельных вычислений и возможности специализированных аппаратных платформ, таких как графические ускорители, нейросетевые и тензорные процессоры.

Из статьи вы узнаете:

• чем компилятор общего назначения отличается от тензорного,

• специфика тензорных компиляторов и как они устроены,

• каким специалистам нужны и где применяются,

• где изучить построение и использование тензорных компиляторов для ускорения глубоких нейросетей,

• обзор фронтенд-ориентированных инструментов: Glow, XLA, OpenVINO, Apache TVM.

Если вы хотите больше узнать про построение и использование тензорных компиляторов для ускорения вывода глубоких нейронных сетей, то рекомендуем для самостоятельного изучения бесплатный курс от сотрудников института ИТММ ННГУ им. Н. И. Лобачевского. Ссылка на курс — в статье про тензорные компиляторы.