联邦学习安全与隐私保护综述

• 作者: 张佳乐 成翔 谢袁源 陈兵
• 来源期刊: 南京航空航天大学学报
• 学科: 工学
• 关键词: 计算机系统结构 联邦学习 模型安全 隐私保护
• 年，卷（期）: 2020,（5）
• 页码范围: 675-684
• 页数: 10页
• 分类号: TP393
• 语种: 中文
• DOI: 10.16356/j.1005⁃2615.2020.05.001

摘要

联邦学习是一种新型的分布式学习框架,它允许在多个参与者之间共享训练数据而不会泄露其数据隐私.但是这种新颖的学习机制仍然可能受到来自各种攻击者的前所未有的安全和隐私威胁.本文主要探讨联邦学习在安全和隐私方面面临的挑战.首先,本文介绍了联邦学习的基本概念和威胁模型,有助于理解其面临的攻击.其次,本文总结了由内部恶意实体发起的3种攻击类型,同时分析了联邦学习体系结构的安全漏洞和隐私漏洞.然后从差分隐私、同态密码系统和安全多方聚合等方面研究了目前最先进的防御方案.最后通过对这些解决方案的总结和比较,进一步讨论了该领域未来的发展方向.