多媒体模型对抗攻防综述

• 作者: 陈凯 魏志鹏 陈静静 姜育刚
• 来源期刊: 计算机科学
• 学科: 工学
• 关键词: 对抗攻击 对抗防御 深度学习 图像对抗样本 视频对抗样本
• 年，卷（期）: 2021,（3）
• 所属期刊栏目: 多媒体技术进展
• 页码范围: 27-39
• 页数: 13页
• 分类号: TP18
• 语种: 中文
• DOI: 10.11896/jsjkx.210100079

摘要

近年来,随着以深度学习为代表的人工智能技术的快速发展和广泛应用,人工智能正深刻地改变着社会生活的各方面.然而,人工智能模型也容易受到来自精心构造的"对抗样本"的攻击.通过在干净的图像或视频样本上添加微小的人类难以察觉的扰动,就能够生成可以欺骗模型的样本,进而使多媒体模型在推理过程中做出错误决策,为多媒体模型的实际应用部署带来严重的安全威胁.鉴于此,针对多媒体模型的对抗样本生成与防御方法引起了国内外学术界、工业界的广泛关注,并出现了大量的研究成果.文中对多媒体模型对抗攻防领域的进展进行了深入调研,首先介绍了对抗样本生成与防御的基本原理和相关背景知识,然后从图像和视频两个角度回顾了对抗攻防技术在多媒体视觉信息领域的发展历程与最新成果,最后总结了多媒体视觉信息对抗攻防技术目前面临的挑战和有待进一步探索的方向.