基于深度特征蒸馏的人脸识别

• 作者: 刘文瑜 李晨钰 葛仕明 赵胜伟
• 来源期刊: 北京交通大学学报
• 学科: 工学
• 关键词: 深度学习 特征表示 知识蒸馏 模型压缩 人脸识别
• 年，卷（期）: 2017,（6）
• 所属期刊栏目: 深度学习研究进展及应用
• 页码范围: 27-33,41
• 页数: 8页
• 分类号: TP183
• 字数: 5884字
• 语种: 中文
• DOI: 10.11860/j.issn.1673-0291.2017.06.005

摘要

在人脸识别系统中,深度学习由于强大的表征能力被广泛应用,但模型推理的高计算复杂度和特征表示的高维度分别降低了特征提取和特征检索的效率,阻碍了人脸识别系统的实际部署.为了克服这两个问题,本文提出一种基于深度特征蒸馏的人脸识别方法,该方法通过多任务学习实现大深度模型知识与领域相关数据信息的蒸馏,从而统一地压缩深度网络参数及特征维度.联合特征回归与人脸分类,以预训练的大网络为教师网络,指导小网络训练,将知识迁移得到轻量级的学生网络,实现了高效的特征提取.在LFW人脸识别数据集上进行了实验,学生模型在识别精度相比教师模型下降3.7％的情况下,模型参数压缩到约2×107、特征维度降到128维,相比教师模型分别获得了7.1倍的参数约减、32倍的特征降维及95.1％的推理复杂度下降,表明了方法的有效性和高效性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	葛仕明	中国科学院信息工程研究所	19	223	9.0	14.0
5	刘文瑜	北京大学软件与微电子学院	2	1	1.0	1.0
6	赵胜伟	中国科学院信息工程研究所	2	1	1.0	1.0
10	李晨钰	中国科学院信息工程研究所	1	0	0.0	0.0