基于信息熵理论的特征权重算法研究

• 作者: 郭红钰
• 来源期刊: 计算机工程与应用
• 学科: 工学
• 关键词: 信息熵 特征权重 特征选择 文本分类
• 年，卷（期）: 2013,（10）
• 页码范围: 140-146
• 分类号: TP391
• 字数: 7129字
• 语种: 中文
• DOI: 10.3778/j.issn.1002-8331.1301-0023

摘要

文本表示是使用分类算法处理文本时必不可少的环节,文本表示方法的选择对最终的分类精度起着至关重要的作用.针对经典的特征权重计算方法TFIDF(Term Frequency and Inverted Document Frequency)中存在的不足,提出了一种基于信息熵理论的特征权重算法ETFIDF(Entropy based TFIDF).ETFIDF不仅考虑特征项在文档中出现的频率及该特征项在训练集中的集中度,而且还考虑该特征项在各个类别中的分散度.实验结果表明,采用ETFIDF计算特征权重可以有效地提高文本分类性能,对ETFIDF与特征选择的关系进行了较详细的理论分析和实验研究.实验结果表明,在文本表示阶段考虑特征与类别的关系可以更为准确地表示文本;如果综合考虑精度与效率两个方面因素,ETFIDF算法与特征选择算法一起采用能够得到更好的分类效果.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	郭红钰		5	35	2.0	5.0