本系列博客介绍yolov5剪枝方法
1. 介绍
神经网络一般都存在过参数化(over-parameterized)的问题,存在冗余的神经元或权重,所以可以进行剪枝。
其实对网络可以针对不同的颗粒度进行剪枝，可以进行权重、神经元级别的剪枝，也可以基于channel, shape,filter以及layer级别的剪枝。
如果对element-wise级别的剪枝会导致非结构化的网络剪枝，所以我们研究的重点是结构化的剪枝方法。
2. Network Slimming剪枝的原理
Network Sliming就是一种结构化的网络剪枝方法，论文发表于ICCV 2017, 论文的题目是: