模型剪枝
也叫：Model Pruning · 神经网络剪枝 · 权重剪枝
模型剪枝把部分权重置零或成组删除，以减少存储和计算，实际加速取决于稀疏格式、算子与硬件支持。
他们说
删除影响较小的连接或结构以得到稀疏模型
老白翻译
把模型里用处较小的一部分权重停掉或删掉。
它到底是什么
模型剪枝先判断哪些权重、通道或结构影响较小，再把它们置零或移除，随后重新训练并检查任务指标。
两种常见做法
非结构化剪枝可以零散删权重，稀疏度高却不一定方便硬件加速。结构化剪枝按通道、块或固定比例删除，比较容易交给专用算子处理。
常见误解
权重变成零，不等于文件和延迟自动变小。运行库若仍按稠密矩阵计算，机器照样会做许多无效乘法。
普通人怎么用
先确认目标硬件支持的稀疏格式，再逐档提高剪枝比例。每档都比较任务精度、文件大小、运行内存、首字延迟与吞吐。