基于线性注意力和类Transformer模型的语音情感识别

• 作者: 杜静 唐曼婷 赵力
• 来源期刊: 东南大学学报（英文版）
• 关键词: Transformer 注意力机制 语音情感识别 快速softmax
• 年，卷（期）: 2021,（2）
• 页码范围: 164-170
• 页数: 7页
• 分类号: TN912.3|TP18
• 语种: 英文
• DOI: 10.3969/j.issn.1003-7985.2021.02.005

摘要

鉴于Transformer模型在自然语言处理等序列任务中的优异性能,提出了一种适用于语音情感识别任务的改进的类Transformer模型.为了减小Transformer模型中多头注意力单元内部由softmax运算引起的巨大时间消耗与内存开销,提出了一种新的线性自注意力计算方法,通过使用泰勒级数展开公式代替原来的指数函数,并根据矩阵乘积的关联性将softmax运算相对于输入序列长度的时间复杂度和空间复杂度从O(N2)降至O(N),其中N为序列长度.在2个不同语言的情感语料库上进行实验.结果 表明:所提出的线性注意力算法可获得与原始缩放点积注意力相近的性能,而模型训练过程中的时间和内存开销大幅降低;与原始的Transformer模型相比,改进后的模型具有更鲁棒的语音情感识别性能.