面向深度神经网络训练的数据差分隐私保护随机梯度下降算法

• 作者: 李英 贺春林
• 来源期刊: 计算机应用与软件
• 学科: 工学
• 关键词: 深度神经网络 差分隐私 训练集 随机梯度下降 范数剪切 隐私损失累积函数
• 年，卷（期）: 2020,（4）
• 所属期刊栏目: 算法
• 页码范围: 252-259
• 页数: 8页
• 分类号: TP391
• 字数: 7259字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-386x.2020.04.041

摘要

针对传统深度神经网络所采用的随机梯度下降算法忽略了对数据集隐私性保护的缺点,提出一种基于数据差分隐私保护的随机梯度下降算法.引入范数剪切与附加高斯噪声操作,对传统梯度更新策略进行改进.为衡量每次迭代过程中对数据隐私性的破坏,提出隐私损失累积函数在迭代过程中对数据隐私性的侵犯程度进行度量.MNIST手写数字识别和CIFAR-10图像分类实验表明,该算法在保护数据集隐私性的同时,对手写数字以及图像分类的识别准确率分别超过了90％和70％,且相较于传统的随机梯度下降算法,其准确率提升了5％以上.该算法在实际工程中能够有效兼顾数据隐私性保护与神经网络辨识准确度.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	贺春林	西华师范大学计算机学院	67	221	8.0	12.0
2	李英	内江职业技术学院信息技术系	19	16	2.0	3.0