BERT语言模型的探究

• 作者: 邱立伟 关伟丽 张伟进
• 来源期刊: 电脑编程技巧与维护
• 关键词: 自然语言处理 BERT模型 深度学习 语言模型
• 年，卷（期）: 2021,（1）
• 所属期刊栏目: 软件研发与应用
• 页码范围: 21-23
• 页数: 3页
• 语种: 中文

摘要

自然语言处理(NLP)是近年来大数据和机器学习兴起后的一项热门技术.随着深度学习的发展,自然语言处理领域也得到了里程碑式的转变,其中包括BERT大规模语言训练模型的出现.该模型的出现使得文本挖掘得到了质的飞跃,满足了更多的实际需求,解决了非结构化数据进行特征向量化的相关问题.