基于BIG-WFCHI的微博信息关键特征选择方法

• 作者: 殷仕刚 安洋 蔡欣华 屈小娥
• 来源期刊: 计算机系统应用
• 关键词: 微博信息 特征选择 机器学习 信息增益 卡方检验
• 年，卷（期）: 2021,（2）
• 所属期刊栏目: 软件技术·算法
• 页码范围: 188-193
• 页数: 6页
• 语种: 中文
• DOI: 10.15888/j.cnki.csa.007782

摘要

特征选择是用机器学习方法提高转发预测精度和效率的关键步骤,其前提是特征提取.目前,特征选择中常用的方法有信息增益(Information Gain,IG)、互信息和卡方检验(CHI-square test,CHI)等,传统特征选择方法中出现低频词引起的信息增益和卡方检验的负相关、干扰计算等问题,导致分类准确率不高.本文首先针对低频词引起的信息增益和卡方检验的负相关、干扰计算等问题进行研究,分别引入平衡因子和词频因子来提高算法的准确率;其次,根据微博信息传播的特点,结合改进的IG算法和CHI算法,提出了一种基于BIG-WFCHI(Balance Information Gain-Word Frequency CHI-square test)的特征选择方法.实验分析中,本文采用基于最大熵模型、支持向量机、朴素贝叶斯分类器、KNN和多层感知器5种分类器对两个异构数据集进行了测试.实验结果表明,本文提出的方法能有效消除无关特征和冗余特征,提高分类精度,并减少运算时间.