一种基于Lasso回归与SVD融合的深度学习模型压缩方法

• 作者: 刘安 吴汉宁 吴进 李乔深 李聪
• 来源期刊: 电讯技术
• 学科: 工学
• 关键词: 深度学习 Lasso回归 融合压缩 奇异值分解
• 年，卷（期）: 2019,（5）
• 所属期刊栏目: 应用基础与前沿技术
• 页码范围: 495-500
• 页数: 6页
• 分类号: TN911.7|TP391.4
• 字数: 4439字
• 语种: 中文
• DOI: 10.3969/j.issn.1001-893x.2019.05.001

摘要

针对深度学习模型所需的海量参数及强大的计算资源而导致其不能很便捷地应用于嵌入式设备或移动端的问题,在Lasso(Least Absolute Shrinkage and Selection Operator)回归通道挑选法的基础上,提出了Lasso+奇异值分解(Singular Value Decomposition,SVD)的融合压缩法.使用VGG-16为初始模型,分别在不同的小型数据集上进行迁移学习,使用迁移学习后的模型在不同的加速率下进行测试.实验结果表明,相对于传统的模型压缩算法,Lasso+SVD的融合压缩法实现了在加速和参数压缩两方面的优势,进而以目标检测为应用方向,在保证准确率的同时不仅降低了模型存储需求,而且也较大提升了模型的实时性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	吴进	西安邮电大学电子工程学院	51	202	9.0	12.0
2	李聪	西安邮电大学电子工程学院	10	1	1.0	1.0
3	吴汉宁	西安邮电大学电子工程学院	4	1	1.0	1.0
4	李乔深	西安邮电大学电子工程学院	6	20	2.0	4.0
5	刘安	西安邮电大学电子工程学院	1	0	0.0	0.0