信息熵的来源与应用

• 作者: 李鑫宇
• 来源期刊: 文理导航·教育研究与实践
• 关键词: 不确定性 信息熵 条件熵 信息增益
• 年，卷（期）: 2018,（7）
• 所属期刊栏目: 理科辅导
• 页码范围: 81,109
• 页数: 2页
• 字数: 1391字
• 语种: 中文

摘要

我们在进行随机试验之前,无法预知会出现的结果,这样就需要一个统计量来度量不确定性,我们对这个统计量提出三个基本要求,然后推导出只有信息熵统计量是唯一满足这三个要求的.我们进一步推导信息熵的基本性质,分析几何分布信息熵的变化,然后引出条件熵,给出信息增益的定义,最后我们通过实际例子来说明信息增益在决策树算法中的应用.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李鑫宇		1	0	0.0	0.0