注意力机制与复合卷积在手写识别中的应用

• 作者: 卓天天 桑庆兵
• 来源期刊: 计算机科学与探索
• 学科: 工学
• 关键词: 脱机英文手写单词识别 加强型卷积块注意力模块 复合卷积 卷积循环神经网络(CRNN)
• 年，卷（期）: 2022,（4）
• 所属期刊栏目: 人工智能|Artificial Intelligence
• 页码范围: 888-897
• 页数: 10页
• 分类号: TP391
• 语种: 中文
• DOI: 10.3778/j.issn.1673-9418.2010094

摘要

将图片切分成单"字"识别再连接成"串"是脱机手写图像识别的一种方法,但由于手写字符间易存在粘连,切分方法不易实现.卷积循环神经网络(CRNN)虽解决了整张文本图片输入,标签却不易对齐的问题,但由于不同人脱机手写风格的严重差异,网络提取出的特征表示力不够.对此提出了加强型卷积块注意力模块和复合卷积,并将其加入处理脱机文本识别的CRNN+CTC主流框架中.加强型卷积块注意力模块增大输入特征图的贡献权重且并联地使用通道注意力、空间注意力,丰富了细化特征图语义信息的同时避免了通道注意力模块对空间注意力模块的权重干扰,使得网络更聚焦图片中的有用特征而非无用的拖拽字迹特征.而嵌入在网络深层的复合卷积采用的多卷积核卷积意味着不同尺度的特征融合,增强了网络的泛化性.基于加强型卷积块注意力模块和复合卷积的CRNN+CTC框架在具有语义信息的IAM数据集上准确率达到85.7748％,字符错误率为8.6％;在RIMES数据集上准确率达到92.8728％,字符错误率为3.9％,比起当前主流的脱机文本识别算法,性能进一步提升.