人工智能治理理论及系统的现状与趋势

• 作者: 朝乐门 尹显龙
• 来源期刊: 计算机科学
• 关键词: 人工智能 可理解性人工智能 负责任人工智能 人工智能治理
• 年，卷（期）: 2021,（9）
• 所属期刊栏目: 智能数据治理技术与系统|Intelligent Data Governance Technologies and Systems
• 页码范围: 1-8
• 页数: 8页
• 分类号: TP391
• 语种: 中文
• DOI: 10.11896/jsjkx.210600034

摘要

人工智能(Artificial Intelligence,AI)治理是解决AI挑战的主要手段.AI治理的主要目的是充分发挥人工智能带来的优势和有效降低人工智能导致的风险,并通过整合技术、法律、政策、标准、伦理、道德、安全、经济、社会等多个方面的影响因素,最终建设负责任的人工智能(Responsible Artificial Intelligence,RAI).AI治理可以从智能个体治理、智能群体治理以及人机合作与共生系统的治理等3个方面,分技术层、伦理层、社会及法律层等3个层面进行.AI治理的主要关键技术有4种:可理解性人工智能、防御对抗性攻击技术、建模及仿真技术和实时审计技术.从谷歌、IBM和微软等公司的AI治理实践来看,产业界主要关注的是RAI研发,在AI系统的可解释性、隐私保护和公平性检查等方面已出现一些专用组件工具.目前,AI治理需要研究的科学问题有:软件定义的AI治理、AI治理关键技术、大规模机器学习中的AI治理评价、基于联邦学习的AI治理、AI治理的标准制定、增强人工智能与人在回路型AI训练等.