基于迁移学习的敏感数据隐私保护方法

• 作者: 付玉香 申国伟 秦永彬
• 来源期刊: 数据采集与处理
• 学科: 工学
• 关键词: 差分隐私 迁移学习 模型攻击 敏感数据 隐私保护
• 年，卷（期）: 2019,（3）
• 页码范围: 422-431
• 页数: 10页
• 分类号: TP309.2
• 字数: 7219字
• 语种: 中文
• DOI: 10.16337/j.1004-9037.2019.03.006

摘要

机器学习涉及一些隐含的敏感数据,当受到模型查询或模型检验等模型攻击时,可能会泄露用户隐私信息.针对上述问题,本文提出一种敏感数据隐私保护“师徒”模型PATE-T,为机器学习模型的训练数据提供强健的隐私保证.该方法以“黑盒”方式组合了由不相交敏感数据集训练得到的多个“师父”模型,这些模型直接依赖于敏感训练数据.“徒弟”由“师父”集合迁移学习得到,不能直接访问“师父”或基础参数,“徒弟”所在数据域与敏感训练数据域不同但相关.在差分隐私方面,攻击者可以查询“徒弟”,也可以检查其内部工作,但无法获取训练数据的隐私信息.实验表明,在数据集MNIST和SVHN上,本文提出的隐私保护模型达到了隐私/实用准确性的权衡,性能优越.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	秦永彬	贵州大学计算机科学与技术学院	63	213	8.0	10.0
5	付玉香	贵州大学计算机科学与技术学院	2	2	1.0	1.0
6	申国伟	贵州大学计算机科学与技术学院	10	12	2.0	3.0