差分隐私保护下的Adam优化算法研究

• 作者: 李敏 李红娇 陈杰
• 来源期刊: 计算机应用与软件
• 学科: 工学
• 关键词: 神经网络 差分隐私 Adam 算法 隐私保护
• 年，卷（期）: 2020,（6）
• 所属期刊栏目: 算法
• 页码范围: 253-258,296
• 页数: 7页
• 分类号: TP309.2
• 字数: 5103字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-386x.2020.06.044

摘要

神经网络的优化算法在训练模型时所使用的数据集可能包含用户的敏感信息,容易在训练的过程中造成隐私泄露.为了在神经网络优化算法Adam上实现差分隐私保护,提出差分隐私保护下的Adam优化算法(DP-Adam).将Adam优化算法与差分隐私理论结合,在神经网络反向传播的Adam梯度下降更新参数过程中加入满足差分隐私的拉普拉斯噪声,从而达到对神经网络优化算法进行隐私保护的目的.实验表明,对于相同的隐私预算,随着训练轮数的增加,DP-Adam训练模型的精度优于DP-SGD.在达到同样的模型精度的条件下,DP-Adam所需要的隐私预算更小,即DP-Adam的隐私保护程度比DP-SGD更高.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李红娇	上海电力学院计算机科学与技术学院	24	63	4.0	7.0
2	李敏	上海电力学院计算机科学与技术学院	34	43	4.0	5.0
3	陈杰	上海电力学院计算机科学与技术学院	2	0	0.0	0.0