Используем модель нейросети на C++

[Segmentq]

Что-то мне это все напоминает как-нарисовать-сову.jpg

[IronHead]

Какой получился прирост производительности C++ варианта относительно python на одном и том же железе?

[domix32]

Сдаётся мне примерно никакой т.к. изменения тут на грани погрешности. Но если человеку хочется возиться с плюсами, то почему бы и нет.

[smarttowel0]

Действительно прирост будет, если вместо PyTorch использовать TensorRT.

[domix32]

Наверняка и в питоне в таком случае будет аналогичный прирост если использовать его вместо PyTorch. Без конкретных замеров сложно достоверно что-то говорить относительно производительности.

[azTotMD]

Практическая ценность подобной задачи возможна. Понятно, что если создается нейросетевое приложение для нейросетевых задач - проще и удобнее написать на каком-нибудь питоновском фрэймворке. Но что если нейронка - только часть приложения? И нужно их много маленьких. Вызывать каждый раз питон что-ли?

С другой стороны, в статье очень мало написано как реализовать подобное, здесь как раз описывается типичная МЛ-задача

[patyupin]

мы тут ищем c++ разработчика. если есть английский, знание линукс, резюме и желание - прошу слать мне [e-mail]. работаем с роутингом медицинских данных

[gsome90]

Как-то странно. Для обучения моделей используется python. Для инференса обычно модель экспортируется в универсальный формат, например onnx. А потом уже под конкретную платформу используется onnxruntime.