一种基于动态量化编码的深度神经网络压缩方法

• 作者: 刘乐元 徐如意 陈靓影 饶川
• 来源期刊: 自动化学报
• 关键词: 深度神经网络 模型压缩 动态量化编码 码本更新
• 年，卷（期）: 2019,（10）
• 所属期刊栏目: 论文与报告
• 页码范围: 1960-1968
• 页数: 9页
• 字数: 8025字
• 语种: 中文
• DOI: 10.16383/j.aas.c180554

摘要

近年来深度神经网络(Deep neural network,DNN)从众多机器学习方法中脱颖而出,引起了广泛的兴趣和关注.然而,在主流的深度神经网络模型中,其参数数以百万计,需要消耗大量的计算和存储资源,难以应用于手机等移动嵌入式设备.为了解决这一问题,本文提出了一种基于动态量化编码(Dynamic quantization coding,DQC)的深度神经网络压缩方法.不同于现有的采用静态量化编码(Static quantitative coding,SQC)的方法,本文提出的方法在模型训练过程中同时对量化码本进行更新,使码本尽可能减小较大权重参数量化引起的误差.通过大量的对比实验表明,本文提出的方法优于现有基于静态编码的模型压缩方法.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陈靓影	华中师范大学国家数字化学习工程技术研究中心	20	64	4.0	7.0
5	徐如意	华中师范大学国家数字化学习工程技术研究中心	4	7	2.0	2.0
9	饶川	华中师范大学国家数字化学习工程技术研究中心	1	4	1.0	1.0