基于神经网络模型的成员推理防御算法

• 作者: 吕彦超 杨玉丽 陈永乐
• 来源期刊: 太原理工大学学报
• 关键词: 机器学习 神经网络 成员推理攻击 数据安全 隐私保护 模型推理
• 年，卷（期）: 2024,（5）
• 页码范围: 3-12
• 页数: 10页
• 语种: 中文
• DOI: 10.16355/j.tyut.1007-9432.2023.05.002

摘要

[目的]针对机器学习模型在训练过程中可能泄露训练数据隐私,为成员推理攻击所利用,进而窃取用户敏感信息的问题,提出了一种基于神经网络的期望均衡优化算法(EEO).[方法]采用对抗训练并优化的策略,分为内外两层循环来实现:内层循环假设一个足够强大的对手,其目标为最大化攻击模型期望;外层循环有针对性地进行防御训练,其目标为最大化目标模型期望.利用小批量梯度下降法使内外两层循环的损失值都达到最小,从而既保证模型精度,又降低对手成员推理的能力.[结果]采用 3 个有代表性的图像数据集 MNIST、FASHION、Face,将 EEO应用于优化后的神经网络模型进行成员推理攻击实验,3 个数据集的测试精度分别损失了 2.2%、4.7%和 3.7%,而攻击模型的精度分别下降了 14.6%、16.5%和 13.9%,并且已接近 50%,即随机猜测.[结论]实验结果表明该算法较好地兼顾了模型的高可用性与高隐私性,尽管仍会不可避免地产生隐私泄露,但训练出的神经网络模型对成员推理攻击有很强的防御效果,且对目标模型的影响可以忽略.