Комментарии 12
Дмитрий, спасибо за статью! Позвольте придраться к мелочам:
Есть еще одна тонкость, касающаяся взаимодействия Raspberry Pi и Neural Compute Stick: если в случае ноутбука достаточно просто ткнуть NCS в ближайший USB 3.0 порт, то для Raspberry придется найти USB кабель, иначе NSC своим корпусом заблокирует оставшиеся три USB разъема.
Если подключать в верхний ряд, то заблокирует всего один соседний разъём. Хотя согласен, всё равно звучит забавно.
В таблице так же указано, что face-detection-retail-0004 работает 9.3FPS, хотя у меня получалось замерять порядка 14 FPS (в синхронном режиме), что уже сравнимо с другими представленными в таблице конфигурациями. Использовал так же NCS и RPI 2 model B. Из кода репозитория заметил, что замеры включают не только запуск сети, но и такие функции, как imshow с отрисовками. Думаю, было бы честно, если производительность детектора осталась производительностью детектора, без влияния стороннего кода.
Спасибо за уточнения!
И правда, всего один блокируется (даже проверил сейчас). Тот, что снизу — впритык, но кабель воткнуть можно. Также закрыт Ethernet.
Про FPS тоже все верно — если измерять чистую производительность детектора, получается примерно 14 FPS (в частности, в демо от Intel я такой результат получал), и это значение должно зависеть только от версии USB, поэтому сравнение не совсем честное получается. Но меня все же интересовала реальная производительность связки RPi+NCS с учетом выполнения других вычислений, вот и сделал так. Наверное, надо добавить пояснение в статье, чтобы не было путаницы.
И правда, всего один блокируется (даже проверил сейчас). Тот, что снизу — впритык, но кабель воткнуть можно. Также закрыт Ethernet.
Про FPS тоже все верно — если измерять чистую производительность детектора, получается примерно 14 FPS (в частности, в демо от Intel я такой результат получал), и это значение должно зависеть только от версии USB, поэтому сравнение не совсем честное получается. Но меня все же интересовала реальная производительность связки RPi+NCS с учетом выполнения других вычислений, вот и сделал так. Наверное, надо добавить пояснение в статье, чтобы не было путаницы.
Дороговато чтобы поиграться.
но вот инференс в уже обученных нейросетях сравним по скорости с таковым на GPUПочуму же у Вас сравнение производительности происходит с процессором Core i7? Неужели у Вас нет GPU на ПК, раз уж Вы занимаетесь глубинным обучением?
На самом деле, все вычисления нейросеток производит NCS, а процессор я указал просто для контекста, так как он играет роль при обработке кадров. Вероятно, еще одна неточность в моем сравнении, которую нужно исправить.
С GPU я тоже проводил небольшое сравнение, в этом комментарии.
С GPU я тоже проводил небольшое сравнение, в этом комментарии.
BeloborodovDS Спасибо за статью, мне кажется вы дали больше деталей чем можно найти на NCS форуме (похоже интел забил на него).
А вы пробовали реализовать более сложный сценарий: face detection + face matching? Как я понял из чтения форума, нужно загрузить две модели и сначала найти лица первой моделью и потом подать подрезаную картинку во вторую модель. Можно ли такое реализовать с openvino?
P.S. Глянул на face-reidentification-retail-0095 и если я правильно понял то эту модель нельзя на NCS использовать
P.S.2. У меня нулевые познания в ML, просто купил стик и тыкаю наугад, сори если вопросы звучат глупо\некоректно.
А вы пробовали реализовать более сложный сценарий: face detection + face matching? Как я понял из чтения форума, нужно загрузить две модели и сначала найти лица первой моделью и потом подать подрезаную картинку во вторую модель. Можно ли такое реализовать с openvino?
P.S. Глянул на face-reidentification-retail-0095 и если я правильно понял то эту модель нельзя на NCS использовать
P.S.2. У меня нулевые познания в ML, просто купил стик и тыкаю наугад, сори если вопросы звучат глупо\некоректно.
У меня пока нет в планах запускать вторую сетку в моем проекте, но я запускал демо от Intel, в котором было целых пять нейросетей: детектор лица, разметка ориентации головы, разметка особых точек лица, распознавание пола и возраста, распознавание эмоций. По результатам детекции из кадра вырезается фрагмент с лицом, и на нем запускаются остальные сетки. Это было в interactive_face_detection_demo. OpenVINO позволяет запускать несколько нейросеток в одном или разных плагинах, можно, например, одну сетку запустить на GPU, другую на FPGA, а остальные на NCS.
Судя по документации, face-reidentification-retail-0095 действительно нельзя запустить на NCS, но мне сложно сходу сказать, что пойдет не так. Скорее всего, просто некоторые слои не поддерживаются. Кстати, в OpenVINO есть три сетки для ре-идентификации пешеходов, которые работают на NCS (хоть какая-то замена).
Судя по документации, face-reidentification-retail-0095 действительно нельзя запустить на NCS, но мне сложно сходу сказать, что пойдет не так. Скорее всего, просто некоторые слои не поддерживаются. Кстати, в OpenVINO есть три сетки для ре-идентификации пешеходов, которые работают на NCS (хоть какая-то замена).
Спасибо! Статья очень интересная.
например, одну сетку запустить на GPU
GPU только от Intel? Вычисления производятся через OpenCL?
Судя по всему, поддерживаются только железки от Intel, во всех категориях. Список поддерживаемого оборудования.
Да, похоже, что OpenCL. Здесь есть упоминание.
Да, похоже, что OpenCL. Здесь есть упоминание.
А какое практически-бытовое применение у этого может быть?
Много чего можно придумать, лишь бы фантазии хватило. Например, на похожей железке есть умная камера от Гугла.
Как вариант hackaday.com/2019/01/25/robot-cant-take-its-eyes-off-the-bottle :)
А если серьёзно, то вопрос несколько непонятен. Это акселератор, стик ускоряет вычисления нейронных сетей. Нужно скорее спросить, какое применение сетей в компьютерном зрении. Но с этим проблем быть не должно — примеры есть.
Но если ответить по теме статьи, то есть пример использования именно в связке Стик + Raspberry в виде камеры наблюдения: www.cortexica.com/the-worlds-first-ai-edge-camera-powered-by-raspberry-pi-and-two-intel-myriad-x-vpus.
zazar, Промахнулся по кнопке Ответить, поэтому сообщение пошло не в ту ветку.
А если серьёзно, то вопрос несколько непонятен. Это акселератор, стик ускоряет вычисления нейронных сетей. Нужно скорее спросить, какое применение сетей в компьютерном зрении. Но с этим проблем быть не должно — примеры есть.
Но если ответить по теме статьи, то есть пример использования именно в связке Стик + Raspberry в виде камеры наблюдения: www.cortexica.com/the-worlds-first-ai-edge-camera-powered-by-raspberry-pi-and-two-intel-myriad-x-vpus.
zazar, Промахнулся по кнопке Ответить, поэтому сообщение пошло не в ту ветку.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Запускаем свой нейросетевой детектор на Raspberry Pi с помощью Neural Compute Stick и OpenVINO