顺序敏感的多源感知数据填补技术

• 作者: 于戈 李芳芳 谷峪 马茜
• 来源期刊: 软件学报
• 学科: 工学
• 关键词: 缺失数据 密集缺失 感知网络 顺序敏感的填补 多维度相关性
• 年，卷（期）: 2016,（9）
• 所属期刊栏目: 数据库技术
• 页码范围: 2332-2347
• 页数: 16页
• 分类号: TP311
• 字数: 13069字
• 语种: 中文
• DOI: 10.13328/j.cnki.jos.005045

摘要

近年来,随着感知网络的广泛应用,感知数据呈爆炸式增长.但是由于受到硬件设备的固有限制、部署环境的随机性以及数据处理过程中的人为失误等多方面因素的影响,感知数据中通常包含大量的缺失值.而大多数现有的上层应用分析工具无法处理包含缺失值的数据集,因此对缺失数据进行填补是不可或缺的.目前也有很多缺失数据填补算法,但在缺失数据较为密集的情况下,已有算法的填补准确性很难保证,同时未考虑填补顺序对填补精度的影响.基于此,提出了一种面向多源感知数据且顺序敏感的缺失值填补框架OMSMVI(order-sensitive missing valueimputation framework for multi-source sensory data).该框架充分利用感知数据特有的多维度相关性:时间相关性、空间相关性、属性相关性,对不同数据源间的相似度进行衡量;进而,基于多维度相似性构建以缺失数据源为中心的相似图,并将已填补的缺失值作为观测值用于后续填补过程中.同时考虑缺失数据源的整体分布,提出对缺失值进行顺序敏感的填补,即:首先对缺失值的填补顺序进行决策,再对缺失值进行填补耐缺失值进行顺序填补能够有效缓解在缺失数据较为密集的情况下,由于缺失数据源的完整近邻与其相似度较低引起的填补精度下降问题;最后,对KNN填补算法进行改进,提出一种新的基于近邻节点的缺失值填补算法NI(neighborhood-based imputation),该算法利用感知数据的多维度相似性对缺失数据源的所有近邻节点进行查找,解决了KNN填补算法K值难以确定的问题,也进一步提高了填补准确性.利用两个真实数据集,并与基本填补算法进行对比,验证了算法的准确性及有效性.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	于戈	东北大学计算机科学与工程学院	426	6587	38.0	64.0
2	李芳芳	东北大学计算机科学与工程学院	22	92	6.0	8.0
3	谷峪	东北大学计算机科学与工程学院	43	456	10.0	20.0
4	马茜	东北大学计算机科学与工程学院	4	43	4.0	4.0