Когда у вас несколько десятков моделей компьютерного зрения, тысячи камер на заводах по всей стране и только несколько секунд, чтобы успеть оповестить оператора — важна каждая миллисекунда.
Но что делать, если вы работаете не в IT-гиганте с дата-центрами и парком GPU, а в промышленной компании с изолированными сетями, ограниченными ресурсами и жёсткими требованиями к отказоустойчивости?
Рассказываю:
— почему разработка видеоаналитики в промышленности отличается от БигТеха;
— какие ограничения приходится учитывать: отсутствие GPU, изолированные сети и жёсткие требования к отказоустойчивости;
— как удалось оптимизировать пайплайн и сохранить стабильность его работы;
— какие локальные оптимизации реально работают (а какие дают минимальный прирост);
— как архитектурные изменения увеличили производительность в 28 раз;
— с какими вызовами команда сталкивается сегодня и что предстоит решать дальше.
Идеи из этой статьи будут полезны при разработке как продуктов видеоаналитики, так и других систем со множеством источников данных и обработчиков.