视觉对抗样本生成技术概述

• 作者: 何子文 孙哲南 王伟 董晶
• 来源期刊: 信息安全学报
• 学科: 工学
• 关键词: 人工智能安全 对抗样本 白盒攻击 黑盒攻击 失真度量 对抗防御
• 年，卷（期）: 2020,（2）
• 页码范围: 39-48
• 页数: 10页
• 分类号: TP301
• 字数: 10211字
• 语种: 中文
• DOI: 10.19363/J.cnki.cn10-1380/tn.2020.02.04

摘要

深度学习的发明,使得人工智能技术迎来了新的机遇,再次进入了蓬勃发展期.其涉及到的隐私、安全、伦理等问题也日益受到了人们的广泛关注.以对抗样本生成为代表的新技术,直接将人工智能、特别是深度学习模型的脆弱性展示到了人们面前,使得人工智能技术在应用落地时,必须要重视此类问题.本文通过对抗样本生成技术的回顾,从信号层、内容层以及语义层三个层面,白盒攻击与黑盒攻击两个角度,简要介绍了对抗样本生成技术,目的是希望读者能够更好地发现对抗样本的本质,对机器学习模型的健壮性、安全性和可解释性研究有所启发.