重新找回人工智能的可解释性

• 作者: 何华灿
• 来源期刊: 智能系统学报
• 学科: 工学
• 关键词: 人工智能 可解释性 演化 不确定性 泛逻辑学 柔性命题逻辑 柔性神经元 数理辩证逻辑
• 年，卷（期）: 2019,（3）
• 页码范围: 393-412
• 页数: 20页
• 分类号: TP18
• 字数: 23406字
• 语种: 中文
• DOI: 10.11992/tis.201810020

摘要

针对深度神经网络AI研究的可解释性瓶颈,指出刚性逻辑(数理形式逻辑)和二值神经元等价,二值神经网络可转换成逻辑表达式,有强可解释性.深度神经网络一味增加中间层数来拟合大数据,没有适时通过抽象把最小粒度的数据(原子)变成粒度较大的知识(分子),再把较小粒度的知识变成较大粒度的知识,把原有的强可解释性淹没在中间层次的汪洋大海中.要支持多粒度的知识处理,需把刚性逻辑扩张为柔性命题逻辑(命题级数理辩证逻辑),把二值神经元扩张为柔性神经元,才能保持强可解释性.本文详细介绍了从刚性逻辑到柔性逻辑的扩张过程和成果,最后介绍了它们在AI研究中的应用,这是重新找回AI研究强可解释性的最佳途径.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	何华灿	西北工业大学计算机学院	181	1581	19.0	32.0