机器学习的隐私保护研究综述

• 作者: 刘俊旭 孟小峰
• 来源期刊: 计算机研究与发展
• 学科: 工学
• 关键词: 隐私保护 差分隐私 机器学习 深度学习 联邦学习
• 年，卷（期）: 2020,（2）
• 所属期刊栏目: 隐私保护
• 页码范围: 346-362
• 页数: 17页
• 分类号: TP391
• 字数: 16893字
• 语种: 中文
• DOI: 10.7544/issn1000-1239.2020.20190455

摘要

大规模数据收集大幅提升了机器学习算法的性能,实现了经济效益和社会效益的共赢,但也令个人隐私保护面临更大的风险与挑战.机器学习的训练模式主要分为集中学习和联邦学习2类,前者在模型训练前需统一收集各方数据,尽管易于部署,却存在极大数据隐私与安全隐患;后者实现了将各方数据保留在本地的同时进行模型训练,但该方式目前正处于研究的起步阶段,无论在技术还是部署中仍面临诸多问题与挑战.现有的隐私保护技术研究大致分为2条主线,即以同态加密和安全多方计算为代表的加密方法和以差分隐私为代表的扰动方法,二者各有利弊.为综述当前机器学习的隐私问题,并对现有隐私保护研究工作进行梳理和总结,首先分别针对传统机器学习和深度学习2类情况,探讨集中学习下差分隐私保护的算法设计;之后概述联邦学习中存在的隐私问题及保护方法;最后总结目前隐私保护中面临的主要挑战,并着重指出隐私保护与模型可解释性研究、数据透明之间的问题与联系.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	孟小峰	中国人民大学信息学院	135	6213	41.0	77.0
2	刘俊旭	中国人民大学信息学院	4	7	2.0	2.0