一种基于信息熵建立决策树的算法

• 作者: 朱宇光 黄树成
• 来源期刊: 常州工学院学报
• 学科: 工学
• 关键词: 信息论 熵 数据挖掘 决策树
• 年，卷（期）: 2006,（1）
• 页码范围: 55-59
• 页数: 5页
• 分类号: TP301
• 字数: 3722字
• 语种: 中文
• DOI: 10.3969/j.issn.1671-0436.2006.01.014

摘要

信息论给出了信息的数学本质,提出了用热力学中的熵来度量信息量的大小.分类是一个重要的数据挖掘问题,在训练数据集上建立分类树的关键是如何选择决策树每一个内部结点的测试属性.传统的决策树建立算法利用信息论中熵的概念选择属性,具有偏向于取值较多属性的缺点.本文分析了信息论中有关熵的一些基本概念和含义,讨论了它们在挖掘分类树中的应用,利用互信息设计了一个建立分类树的算法,克服了传统算法的缺点.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	朱宇光	常州工学院计算机信息工程学院	29	102	5.0	8.0
2	黄树成	常州工学院计算机信息工程学院	5	22	3.0	4.0