面向网络文本的BERT心理特质预测研究

• 作者: 张晗 贾甜远 骆方 张生 邬霞
• 来源期刊: 计算机科学与探索
• 关键词: BERT 心理特质 注意力机制 Transformer 文本挖掘
• 年，卷（期）: 2021,（8）
• 所属期刊栏目: 人工智能|Artificial Intelligence
• 页码范围: 1459-1468
• 页数: 10页
• 分类号: TP391
• 语种: 中文
• DOI: 10.3778/j.issn.1673-9418.2007009

摘要

随着互联网的普及应用,通过网络平台进行表达和交流的用户越来越多,在此过程中不可避免地会留下与个人相关的大量网络文本数据和信息,这些非结构化的文本数据往往体现着不同场景下的真实表达,反映了人们内在的心理特质及人格倾向.利用文本挖掘相关技术基于网络文本数据分析心理特质可以弥补传统心理测量方法易受应试动机等因素影响的缺陷.近年来,B E RT语言表示模型在文本分类、情感分析等任务上取得了很好的效果.针对网络文本数据构建心理特质预测模型,基于B E RT获取完整的上下文语义特征和长距离的上下文依赖关系;同时考虑到分类器内部结构的差异可能会导致不同的分类效果,在下游分类任务中分别采用BERTBASE模型的全连接层和经典的随机森林算法作为两种不同的分类器进行模型效果对比.结果显示,基于B E RT的文本分类模型能够有效实现心理特质的预测,平均准确率、平均精准率等各项指标都在97％以上.