深度神经网络模型压缩综述

• 作者: 牛保宁 耿丽丽
• 来源期刊: 计算机科学与探索
• 学科: 工学
• 关键词: 深度学习 模型压缩 神经网络
• 年，卷（期）: 2020,（9）
• 所属期刊栏目: 综述·探索
• 页码范围: 1441-1455
• 页数: 15页
• 分类号: TP391.4
• 字数: 12863字
• 语种: 中文
• DOI: 10.3778/j.issn.1673-9418.2003056

摘要

近年来,随着深度学习的飞速发展,深度神经网络受到了越来越多的关注,在许多应用领域取得了显著效果.通常,在较高的计算量下,深度神经网络的学习能力随着网络层深度的增加而不断提高,因此深度神经网络在大型数据集上的表现非常卓越.然而,由于其计算量大、存储成本高、模型复杂等特性,使得深度学习无法有效地应用于轻量级移动便携设备.因此,压缩、优化深度学习模型成为目前研究的热点.当前主要的模型压缩方法有模型裁剪、轻量级网络设计、知识蒸馏、量化、体系结构搜索等.对以上方法的性能、优缺点和最新研究成果进行了分析总结,并对未来研究方向进行了展望.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	牛保宁	太原理工大学信息与计算机学院	37	146	5.0	11.0
2	耿丽丽	太原理工大学信息与计算机学院	12	55	4.0	7.0