基于语义树与VSM的主题爬取策略研究

• 作者: 倪晓军 张金
• 来源期刊: 计算机技术与发展
• 学科: 工学
• 关键词: 主题爬虫 语义树 向量空间模型 内容相关度 链接排序
• 年，卷（期）: 2017,（11）
• 所属期刊栏目: 智能、算法、系统工程
• 页码范围: 66-70
• 页数: 5页
• 分类号: TP301
• 字数: 5006字
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2017.11.014

摘要

主题爬虫主要用于解决用户的定制化搜索需求,即在日益增长的网络数据中快速、有效、准确地选取用户关注的主题内容进行爬取.提高爬取特定信息的准确性,需要对网页的内容相关度进行主题相关判断,而主题爬虫关注的核心问题就是相关度计算,但现有的改进算法大多采用人工智能和机器学习等技术,不仅引起算法复杂度的提高,而且提升效果有限.为此,提出了一种基于语义树与VSM的主题爬取策略,将语义相似度的计算加入到内容相关度计算与链接排序中,并通过对策略中算法细节的改进优化相关度的主题判别.实验结果表明,使用基于语义树与VSM爬取策略的主题爬虫可将爬行路线一直保持在相关度较高的网页链接中,对网页链接进行了相关与不相关的有效分类,显著地提高了爬取的准确率.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	倪晓军	南京邮电大学计算机学院	16	92	6.0	9.0
2	张金	南京邮电大学计算机学院	2	5	1.0	2.0