深度学习模型的中毒攻击与防御综述

• 作者: 张龙源 苏蒙蒙 邹健飞 陈晋音
• 来源期刊: 信息安全学报
• 学科: 工学
• 关键词: 深度学习 中毒攻击 人工智能安全
• 年，卷（期）: 2020,（4）
• 页码范围: 14-29
• 页数: 16页
• 分类号: TP29
• 字数: 17457字
• 语种: 中文
• DOI: 10.19363/J.cnki.cn10-1380/tn.2020.07.02

摘要

深度学习是当前机器学习和人工智能兴起的核心.随着深度学习在自动驾驶、门禁安检、人脸支付等严苛的安全领域中广泛应用,深度学习模型的安全问题逐渐成为新的研究热点.深度模型的攻击根据攻击阶段可分为中毒攻击和对抗攻击,其区别在于前者的攻击发生在训练阶段,后者的攻击发生在测试阶段.本文首次综述了深度学习中的中毒攻击方法,回顾深度学习中的中毒攻击,分析了此类攻击存在的可能性,并研究了现有的针对这些攻击的防御措施.最后,对未来中毒攻击的研究发展方向进行了探讨.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	陈晋音	浙江工业大学信息工程学院	45	217	9.0	13.0
2	苏蒙蒙	浙江工业大学信息工程学院	3	1	1.0	1.0
3	邹健飞	浙江工业大学信息工程学院	1	0	0.0	0.0
4	张龙源	浙江工业大学信息工程学院	1	0	0.0	0.0