结构化剪枝速度更慢,精度损失更大
非结构化剪枝删除整个神经元/注意力头,结构化剪枝删除单个权重
非结构化剪枝删除单个权重(产生稀疏矩阵),结构化剪枝删除整行/整列/整个头(保持密集结构)
结构化剪枝只适用于CNN,非结构化剪枝适用于Transformer
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题