神经网络分布式训练的现状及发展

• 作者: 郭炳均 王思晗
• 来源期刊: 信息与电脑
• 关键词: 神经网络 分布式训练 训练效率
• 年，卷（期）: 2020,（21）
• 所属期刊栏目: 算法语言
• 页码范围: 50-51
• 页数: 2页
• 分类号: TP392
• 语种: 中文
• DOI: 10.3969/j.issn.1003-9767.2020.21.020

摘要

随着深度学习的规模越来越大,神经网络的结构越来越复杂,分布式训练在研究和实践中变得越来越重要.而如何提高分布式训练的效率就成了研究的热点,本文主要介绍了当下分布式训练的现状以及所用到的方法,同时对提升分布式训练效率的夫来趋势和所面临的挑战进行了展望,以更好地了解神经网络的分布式训练.