Поздравляю, вы написали как работает intel-tensorflow, а именно проводя на лету конверсию формата, используя оптимизированный кернел из MKL для перемножения и делая фьюз следущей операции relu. Все это возможно при встраивании в TF на уровне оптимизации графа операций.
Я видел много реализаций сверточного слоя в разных библиотеках. Во многом они совпадают. Может потому, что код у всех открытый, а может люди независимо приходят к похожим вещам. Это в принципе не так важно. Я лишь хотел раскрыть для заинтересованного читателя, как это все устроено.
Сверточный слой: методы оптимизации основанные на матричном умножении