结构化学习的噪声可学习性分析及其应用

• 作者: 于墨 胡鹏龙 赵铁军 郑德权
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 结构化学习 噪声PAC可学习性 词性标注 自然语言处理 协同训练 跨语言映射 半监督学习
• 年，卷（期）: 2013,（10）
• 所属期刊栏目: 模式识别与人工智能
• 页码范围: 2340-2353
• 页数: 14页
• 分类号: TP181
• 字数: 16184字
• 语种: 中文
• DOI: 10.3724/SP.J.1001.2013.04393

摘要

噪声可学习性理论指出,有监督学习方法的性能会受到训练样本标记噪声的严重影响.然而,已有相关理论研究仅针对二类分类问题.致力于探究结构化学习问题受噪声影响的规律性.首先,注意到在结构化学习问题中,标注数据的噪声会在训练过程中被放大,使得训练过程中标记样本的噪声率高于标记样本的错误率.传统的噪声可学习性理论并未考虑结构化学习中的这一现象,从而低估了问题的复杂性.从结构化学习问题的噪声放大现象出发,提出了新的结构化学习问题的噪声可学习性理论.在此基础上,提出了有效训练数据规模的概念,这一指标可用于在实践中描述噪声学习问题的数据质量,并进一步分析了实际应用中的结构化学习模型在高噪声环境下向低阶模型回退的情况.实验结果证明了该理论的正确性及其在跨语言映射和协同训练方法中的应用价值和指导意义.