人工智能系统安全综述

• 作者: 陈磊 李雅静
• 来源期刊: 信息通信技术与政策
• 关键词: 人工智能 安全 机器学习 深度学习
• 年，卷（期）: 2021,（8）
• 所属期刊栏目: 专题:网络安全
• 页码范围: 56-63
• 页数: 8页
• 分类号: TP18
• 语种: 中文
• DOI: 10.12267/j.issn.2096-5931.2021.08.009

摘要

人工智能的迅速发展使得人们越来越关注人工智能技术对社会的潜在影响.对人工智能安全技术的基本组成,及内生安全、衍生内生安全进行了研究.从技术上,分析了机器学习由于奖励函数、数据变化以及算法探索等方面的安全性挑战;从应用上,提出了伦理和法制等方面值得研究和解决的问题;从国家安全角度,提出了技术的自主可控性;最后,展望了人工智能安全未来的研究方向.