人工智能安全框架

• 作者: 景慧昀 魏薇 周川 贺欣
• 来源期刊: 计算机科学
• 关键词: 人工智能 安全框架
• 年，卷（期）: 2021,（7）
• 所属期刊栏目: 人工智能安全|Artificial Intelligence Security
• 页码范围: 1-8
• 页数: 8页
• 分类号: TP183
• 语种: 中文
• DOI: 10.11896/jsjkx.210300306

摘要

随着人工智能时代的到来,各行各业均开始结合自身业务需要部署人工智能系统,这全面加速了全球范围内人工智能规模化部署和应用进程.然而,人工智能基础设施、设计研发以及融合应用过程中面临的安全风险也随之而来.为了充分规避风险,世界各国纷纷采取制定人工智能伦理准则、完善法律法规和行业管理等方式来进行人工智能安全治理.在人工智能安全治理中,人工智能安全技术体系具有重要指导意义.具体而言,人工智能安全技术体系是人工智能安全治理的重要组成部分,是落实人工智能伦理规范和法律监管要求的重要支撑,更是人工智能产业健康有序发展的重要保障.然而,在当前阶段,全球范围内人工智能安全框架普遍缺失,安全风险突出且分立,迫切需要对人工智能各生命周期存在的安全风险进行总结与归纳.为解决上述问题,文中提出了涵盖人工智能安全目标、人工智能安全分级能力、人工智能安全技术和管理体系的人工智能安全框架,期待为社会各界提升人工智能安全防护能力提供有益参考.