逻辑回归中的批量梯度下降算法并行化研究

• 作者: 刘黎志 李姚舜
• 来源期刊: 武汉工程大学学报
• 学科: 工学
• 关键词: 逻辑回归 参数训练 MapReduce 并行化
• 年，卷（期）: 2019,（5）
• 所属期刊栏目: 机电与信息工程
• 页码范围: 499-503,510
• 页数: 6页
• 分类号: TP311
• 字数: 4997字
• 语种: 中文
• DOI: 10.3969/j.issn.1674?2869.2019.05.017

摘要

逻辑回归中的批量梯度下降算法需要访问全部数据样本,在单节点环境下计算耗时较长.针对大批量数据集的训练问题,提出了一种基于MapReduce框架的并行化算法.首先利用HDFS文件系统存储训练数据集,MapReduce框架会对输入数据集进行分片处理,每一个分片交由一个Map节点进行处理;Map过程的输出结果会传给Combiner节点,进行各个分片内部的数据归并;所有分片的归并结果会通过Shuffle过程,进行各个分片间的数据合并,汇总成一个输出文件;输出文件会传给Reduce节点进行运算,最后将计算结果用于参数更新.实验结果表明,集群环境下的参数训练结果正确,随着数据集的扩大,并行化计算的优势逐渐显现.