带比例因子的卷积神经网络压缩方法

• 作者: 宋泽奇 徐喆
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 卷积神经网络 图像分类 网络模型压缩 知识提取 实时性
• 年，卷（期）: 2018,（12）
• 所属期刊栏目: 模式识别与人工智能
• 页码范围: 105-109,151
• 页数: 6页
• 分类号: TP391
• 字数: 5491字
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1702-0080

摘要

针对卷积神经网络在图像分类任务中,分类准确率高但实时性差的问题.提出了一种含比例因子的"知识提取"算法.此方法在已有的"知识提取"算法上,加入了衡量样本类间相近关系的比例因子,充实了网络压缩手段,使得神经网络可以更精确地进行"知识提取".其原理是将比例因子误差值作为代价函数的一部分参与训练调节神经网络的神经元参数,进而使得神经网络的泛化能力更加趋近于具有更好分类表现能力的压缩参考网络.结果表明,含比例因子的神经网络压缩算法可以更细致地刻画训练集的类间相近关系,拥有比原"知识提取"算法更好的训练性能,进而训练出泛化性能更强、精度更高的神经网络.实现了在网络分类准确率下降尽量小的前提下,较大程度地减少神经网络的分类耗时,以达到网络压缩的目的.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	徐喆	北京工业大学信息学部	23	146	6.0	11.0
2	宋泽奇	北京工业大学信息学部	1	4	1.0	1.0