加速AI分布式训练研究和实践

• 作者: 朱祥磊
• 来源期刊: 电信技术
• 关键词: 人工智能 分布式 训练 GPU 高速网络
• 年，卷（期）: 2019,（12）
• 所属期刊栏目: 研究
• 页码范围: 28-31
• 页数: 4页
• 字数: 4139字
• 语种: 中文
• DOI: 10.3969/j.issn.1000-1247.2019.12.007

摘要

随着运营商智慧AI应用所处理的数据和深度学习模型的规模变得日益庞大,需要反复的迭代和优化过程,人工智能的分布式训练变得越来越重要.文中对分布式训练的关键要素和方法进行研究,如模型并行、数据并行(同步更新、异步更新)、通信网络设计等方面.最后对山东移动在AI架构设计和提高AI模型的分布式训练效率的实践和经验进行总结.

作者信息

序号	姓名	单位	发文数	被引次数	H指数	G指数
1	朱祥磊		7	5	1.0	2.0