一种均衡的 RHS 交叉验证

• 作者: 李济洪 杨静 王瑞波
• 来源期刊: 南京大学学报（自然科学版）
• 学科: 数学
• 关键词: 交叉验证 泛化误差 组块3×2交叉验证 RHS交叉验证
• 年，卷（期）: 2015,（4）
• 页码范围: 842-849
• 页数: 8页
• 分类号: O212
• 字数: 3835字
• 语种: 中文
• DOI: 10.13232/j.cnki.jnju.2015.04.022

摘要

在统计机器学习中，交叉验证方法利用对一个数据集的多次切分，来构造多次重复实验，并以此估计机器学习模型的预测误差。然而交叉验证估计的稳定性与数据集的切分方式有着密切的关系。也就是说，不同的切分方式会导致训练集中所含共同样本的个数不同，当共同样本较多时，交叉验证估计具有较大的方差。为此构造了一种均衡的 RHS(Repeated Half-sampling)交叉验证，使得训练集所含共同样本的个数的总和最小，并且任意两个切分之间的共同样本个数保持均衡，进而降低泛化误差估计的方差，进而有效地提高泛化误差估计的稳定性。从理论上证明了6次均衡的 RHS 交叉验证估计的方差小于组块3×2交叉验证，并且进一步通过模拟实验验证这一结论。同时，从实验结果可以说明6次均衡的 RHS 交叉验证估计的方差小于随机 RHS 交叉验证估计的方差。进一步，在真实数据集上大量的实验验证了这些结论。

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	李济洪	山西大学软件学院	58	261	10.0	14.0
2	王瑞波	山西大学软件学院	23	179	7.0	13.0
3	杨静	山西大学数学科学学院	13	48	4.0	6.0