基于Gram-Schmidt过程的支持向量机降维方法

• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: 支持向量机 特征选择 Gram-Schmidt正交化
• 年，卷（期）: 2009,（11）
• 所属期刊栏目: 智能、算法、系统工程
• 页码范围: 7-10
• 页数: 4页
• 分类号: TP181
• 字数: 4538字
• 语种: 中文

摘要

支持向量机是借助于最优化方法来解决机器学习问题的工具.在实际应用研究中,多元变量间的相关性是普遍存在的,这可能影响支持向量机分类模型的判别效率.因此文中提出了基于Gram-Schmidt过程的特征选择方法,来减少多重共线性的危害.该方法利用Gram-Schmidt正交化过程,在特征集合中选择判别力强的信息,并把挑选出来的特征集合变换成若干直交变量.这样不仅可以实现判别模型的变量筛选,同时也解决了多重共线性对判别模型的影响这一问题.文中进行数值实验,将所提算法与fisher判别法相比较,结果所提算法不仅降低了模型维度,预报准确率也有所提高,验证了所提方法的有效性.