基于可视分析的可解释深度学习

• 作者: 刘世霞 姜流 雷娜
• 来源期刊: 中国计算机学会通讯
• 关键词: 可视分析 深度学习 交互式机器学习 可解释机器学习
• 年，卷（期）: 2019,（3）
• 所属期刊栏目: 专题
• 页码范围: 29-35
• 页数: 7页
• 语种: 中文

摘要

可解释深度学习的兴起 新一代人工智能系统具有自主理解、自主学习和自主行动等特点,但是系统所采用的全自动人工智能模型难以被人类理解,通常被当作一个黑盒子使用.在实际应用中,用户试图根据模型的性能(如准确度、复杂度等)来试探地选择和改进学习模型.由于用户无法理解模型内部的工作机理,所以无法实现人机的平等双向沟通,给人机协作带来巨大障碍.能否进行有效的人机沟通、准确理解、信任和管理这些“类人”机器及相应的学习模型,将直接影响这些“类人”机器的发展趋势——是成为人类的“朋友”还是“敌人”.这迫切需要提升机器学习模型的可解释性——将“黑箱”模型转化为“白箱”,为实现人机平等沟通奠定基础.