基于强化语义的中文广告文本识别技术研究

• 作者: 赵伟 邓叶勋 赵建强 李文瑞 韩冰 欧荣安
• 来源期刊: 计算机技术与发展
• 关键词: 广告文本分类 语义强化 特征融合 预训练 注意力机制
• 年，卷（期）: 2021,（3）
• 所属期刊栏目: 大数据分析与挖掘
• 页码范围: 65-69,110
• 页数: 6页
• 分类号: TP391.1
• 语种: 中文
• DOI: 10.3969/j.issn.1673-629X.2021.03.011

摘要

互联网是广告推广的重要媒介,但是低质、诈骗、违法等违规广告也大量充斥其中,严重污染网络空间,因此,实现恶意广告的有效甄别对构建安全清朗的网络环境意义重大.针对各类违法违规中文广告内容的识别需求,利用Bert(bidi-rectional encoder representation from transformers)和Word2vec分别提取文本字粒度和词粒度嵌入特征,使用CNN(convolutional neural networks)网络对Bert高层特征做深层抽取,同时将词粒度特征向量输入到双向LSTM(long short-term memory)网络提取全局语义,并采用Attention机制对语义特征强化,将强化特征和Bert字粒度特征进行融合,充分利用动态词向量和静态词向量的语义表征优势,提出一种基于强化语义的中文广告识别模型CARES(Chinese advertisement text recognition based on enhanced semantic).在真实的社交聊天文本数据集上的实验表明,与使用卷积神经网络、循环神经网络等文本分类模型相比,CARES模型分类性能最优,能更加精确识别社交聊天文本中的广告内容,模型识别的正确率达到97.73％.