基于混合maxout单元的卷积神经网络性能优化

• 作者: 刘付显 李龙跃 罗畅 赵慧珍
• 来源期刊: 通信学报
• 学科: 工学
• 关键词: 深度学习 卷积神经网络 maxout单元 激活函数
• 年，卷（期）: 2017,（7）
• 所属期刊栏目: 学术论文
• 页码范围: 105-114
• 页数: 10页
• 分类号: TP391.3
• 字数: 7723字
• 语种: 中文
• DOI: 10.11959/j.issn.1000-436x.2017145

摘要

针对深度卷积神经网络中maxout单元非最大特征无法传递、特征图像子空间池化表达能力不足的局限性,提出混合maxout(mixout,mixed maxout)单元.首先,计算相同输入在不同卷积变换下所形成的特征图像子空间的指数概率分布;其次,根据概率分布计算特征图像子空间的期望;最后,利用伯努利分布对子空间的最大值与期望值加权,均衡单元模型.分别构建基于mixout单元的简单模型和网中网模型进行实验,结果表明mixout单元模型性能较好.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	刘付显	空军工程大学防空反导学院	134	649	12.0	19.0
2	罗畅	空军工程大学防空反导学院	19	80	6.0	7.0
3	李龙跃	空军工程大学防空反导学院	30	111	6.0	8.0
4	赵慧珍	空军工程大学防空反导学院	10	28	4.0	5.0