AI系统的安全测评和防御加固方案

• 作者: 刘焱 王文华 王洋 郝新
• 来源期刊: 信息网络安全
• 学科: 工学
• 关键词: 深度学习 对抗攻击 安全开发流程
• 年，卷（期）: 2020,（9）
• 所属期刊栏目: 入选论文
• 页码范围: 87-91
• 页数: 5页
• 分类号: TP309
• 语种: 中文
• DOI: 10.3969/j.issn.1671-1122.2020.09.018

摘要

深度学习模型在很多人工智能任务上已取得出色表现,但精心设计的对抗样本却能欺骗训练有素的模型,诱导模型作出错误判断.对抗攻击的成功使得AI系统的可用性遭受质疑.为了提升AI系统安全性和鲁棒性,文章遵循安全开发流程,提出针对AI系统的安全测评和防御加固方案.该方案通过精准检测和拦截对抗攻击、科学评估模型鲁棒性、实时监控新型对抗攻击等措施,提升系统抵御对抗攻击的能力,帮助开发人员构建更安全的AI系统.