卷积神经网络模型剪枝结合张量分解压缩方法

• 作者: 巩凯强 张春梅 曾光华
• 来源期刊: 计算机应用
• 学科: 工学
• 关键词: 卷积神经网络 目标检测 更快的区域卷积神经网络 剪枝 张量分解
• 年，卷（期）: 2020,（11）
• 所属期刊栏目: 人工智能
• 页码范围: 3146-3151
• 页数: 6页
• 分类号: TP183
• 语种: 中文
• DOI: 10.11772/j.issn.1001-9081.2020030362

摘要

针对卷积神经网络(CNN)拥有巨大的参数量及计算量,限制了其在嵌入式系统等资源受限设备上应用的问题,提出了基于统计量的网络剪枝结合张量分解的神经网络压缩方法,其核心思想是以均值和方差作为评判权值贡献度的依据.首先,以Lenet5为剪枝模型,网络各卷积层的均值和方差分布以聚类方式分离出提取特征较弱的滤波器,而使用保留的滤波器重构下一层卷积层;然后,将剪枝方法结合张量分解对更快的区域卷积神经网络(Faster RCNN)进行压缩,低维卷积层采取剪枝方法,而高维卷积层被分解为三个级联卷积层;最后,将压缩后的模型进行微调,使其在训练集上重新达到收敛状态.在PASCAL VOC测试集上的实验结果表明,所提方法降低了Faster RCNN模型54％的存储空间而精确率仅下降了0.58％,同时在树莓派4B系统上达到1.4倍的前向计算加速,有助于深度CNN模型在资源受限的嵌入式设备上的部署.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	张春梅		14	12	2.0	3.0
2	巩凯强		2	0	0.0	0.0
3	曾光华		1	0	0.0	0.0