Джедайская техника уменьшения сверточных сетей — pruning

[enclis]

Перед тобой снова задача детектирования объектов. Приоритет — скорость работы при приемлемой точности. Берешь архитектуру YOLOv3 и дообучаешь. Точность(mAp75) больше 0.95. Но скорость прогона всё еще низкая.

YOLOv3 подустарел для object detection. Последний коммит, которому уже почти полтора года, очень грустный. Посмотрите какой-нибудь SpineNet — он быстрее, при этом ещё и точнее.

[pagin]

Да, читал. Я в ожидании pretrained SpineNet)
Здесь YOLOv3 описан как хороший вариант для бейзлайна по доступности и простоте)

[enclis]

Ну хорошо, есть CSPNet с весами, который наверное где-то даже быстрее чем SpineNet. Ещё интересно было бы узнать на каких задачах у вас mAP@0.75 больше 0.95.

[pagin]

Чекнул. Да, интересное решение, как-то упустил его из виду. Спасибо)

Задача — детектирование автомобилей в одной плоскости. За счёт отсутствия перекрытий и одного масштаба задача сильно упрощается и получается высокий mAp75

[enclis]

Как-то забыл про EfficientDet, который вообще-то лучше чем SpineNet, хотя помню, что читал про него. Возможно это произошло из-за того, что SpineNet вообще не упомянул про EfficientDet. А вообще есть ещё DetNASNet (даже веса выложены), который в некоторых конфигурациях ещё быстрее и точнее чем EfficientDet ;). Вот сравнение DetNASNet, EfficientDet, SpineNet, CSPNet и несколько других сеток до кучи.

[Psychopompe]

Да, но сравнивали ли его с darknet? Вдобавок, это оригинальный репозиторий, один из форков развивается и там производительность получше будет.

[enclis]

Да, сравнивали. Table 2 на шестой странице.

[Psychopompe]

Чёрт, я как-то упустил, спасибо.

[enclis]

Недавно вышла статья (код), в которой используют adaptive-BN-based evaluation для прунинга. Пишут, что лучше и отчасти быстрее существующих методов: ThiNet, NetAdapt, Filter Pruning, AMC, Meta-Pruning.